自Nature正刊上那篇小样本机器学习相关工作爆了之后，这个方向现在是越来越热门了。不过问题也来了，对于论文er来说，相关论文数量太多，想快速找到真正有价值的参考和创新切入点很有难度。
为此我这次专门整理了一份这方向的论文合集，精选了12篇近期高质量研究成果，覆盖了该方向的核心方法、热门应用以及最新探索方向。
其中包含多篇nature子刊工作，以及communications chemistry、NeurIPS顶会顶刊论文，同时整理了对应开源代码，方便大家快速理解方法、复现实验，并从已有工作中寻找新的研究思路。
扫码添加小享，回复“小样本机器
”
免费获取全部论文+开源代码
【Nature正刊】Accurate predictions on small data with a tabular foundation model
方法：文章介绍的TabPFN主要针对的是小样本机器学习场景，尤其是处理小到中等规模的表格数据，通过在合成数据上预训练和改进的Transformer架构，TabPFN实现了快速高效的训练与预测，显著优于传统方法，同时具备数据生成和可解释性等基础模型特性。
创新点：
- TabPFN利用上下文学习（ICL）框架，通过生成大量合成表格数据集并训练一个基于Transformer的神经网络，自动学习和解决这些合成预测任务。
- TabPFN在表格数据建模中表现出色，特别是在中小型数据集（最多10,000个样本和500个特征）上。
- TabPFN不仅具备强大的预测性能，还展现出基础模型的特性，如数据生成、密度估计和可重用嵌入的学习。
研究价值：TabPFN作为表格基础模型，依托上下文学习和合成数据预训练，在万样本内表格数据预测任务中大幅超越传统方法，训练速度提升数千倍，还具备多种基础模型能力，为小样本表格数据分析提供高效工具。
Few-shot image classification based on gradual machine learning
方法：论文提出了一种基于渐进式机器学习（GML）的小样本图像分类方法，通过深度网络提取图像特征，并利用因子图逐步对未标记样本进行分类，优先处理较简单的样本。这种方法显著提升了小样本学习的分类精度，并表现出更强的鲁棒性。
创新点：
- 提出了一种基于非i.i.d渐进式机器学习（GML）范式的新方法，通过在因子图中逐步进行因子推理，逐步对未标记样本进行分类。
- 设计了一个由一元和二元单调因子组成的因子图模型，这些因子可以通过现有的深度学习骨干网络轻松提取，从而实现少样本图像分类的渐进学习。
研究价值：论文提出无训练原型校准策略TEEN，通过融合新类原型与加权基类原型，解决少样本类增量学习中新类样本易误分为相似基类的问题，在不增加额外训练成本的情况下显著提升新类及整体分类性能，为相关场景提供高效实用的解决方案。
......
更多论文请扫码添加小享，0门槛获取合集~
如果觉得有用，请帮我点个‘推荐❤️’让更多人看到
