小样本机器学习一直是个很有研究空间的方向，尤其是在医学、工业检测、遥感等数据标注成本高、样本难获取的场景中。
近几年，它的研究思路也不再局限于传统的数据增强和迁移学习，而是与对比学习、生成式模型，以及与Transformer、GNN等技术的结合，目前已衍生出了不少新方向。
如果你对此感兴趣，想找新的选题，可以多关注这个方向。这里为了节省你的时间，我已经精选了12篇小样本机器学习高质量研究成果，包含nature正刊、communications chemistry、neurips等顶会顶刊工作，也方便你按技术路线查阅。需要可无偿获取。
扫码添加小享，回复“小样本机器”
免费获取全部论文+开源代码
【Nature正刊】Accurate predictions on small data with a tabular foundation model
方法：文章介绍的TabPFN主要针对的是小样本机器学习场景，尤其是处理小到中等规模的表格数据，通过在合成数据上预训练和改进的Transformer架构，TabPFN实现了快速高效的训练与预测，显著优于传统方法，同时具备数据生成和可解释性等基础模型特性。
创新点：
- TabPFN利用上下文学习（ICL）框架，通过生成大量合成表格数据集并训练一个基于Transformer的神经网络，自动学习和解决这些合成预测任务。
- TabPFN在表格数据建模中表现出色，特别是在中小型数据集（最多10,000个样本和500个特征）上。
- TabPFN不仅具备强大的预测性能，还展现出基础模型的特性，如数据生成、密度估计和可重用嵌入的学习。
研究价值：TabPFN作为表格基础模型，依托上下文学习和合成数据预训练，在万样本内表格数据预测任务中大幅超越传统方法，训练速度提升数千倍，还具备多种基础模型能力，为小样本表格数据分析提供高效工具。
Few-shot image classification based on gradual machine learning
方法：论文提出了一种基于渐进式机器学习（GML）的小样本图像分类方法，通过深度网络提取图像特征，并利用因子图逐步对未标记样本进行分类，优先处理较简单的样本。这种方法显著提升了小样本学习的分类精度，并表现出更强的鲁棒性。
创新点：
- 提出了一种基于非i.i.d渐进式机器学习（GML）范式的新方法，通过在因子图中逐步进行因子推理，逐步对未标记样本进行分类。
- 设计了一个由一元和二元单调因子组成的因子图模型，这些因子可以通过现有的深度学习骨干网络轻松提取，从而实现少样本图像分类的渐进学习。
研究价值：论文提出无训练原型校准策略TEEN，通过融合新类原型与加权基类原型，解决少样本类增量学习中新类样本易误分为相似基类的问题，在不增加额外训练成本的情况下显著提升新类及整体分类性能，为相关场景提供高效实用的解决方案。
......
更多论文请扫码添加小享，0门槛获取合集~
如果觉得有用，请帮我点个‘推荐❤️’让更多人看到
