今天聊聊小样本机器学习这个方向,对近期与之相关的前沿成果进行了深度梳理与整合,精选了12篇代表性论文,带你一文读懂这方向发展的新趋势。
这些前沿工作基本覆盖了当前主流研究方法,解决了部分行业痛点,收录了nature正刊、communications chemistry、NeurIPS等顶会顶刊的重磅研究,具有很高的参考价值,适合用于课题设计、论文写作、方法复现等多种场景,可助你精准把握领域核心脉络,快速产出成果。

扫码添加小享,回复“小样本机器”
免费获取全部论文+开源代码

【Nature正刊】Accurate predictions on small data with a tabular foundation model
方法:文章介绍的TabPFN主要针对的是小样本机器学习场景,尤其是处理小到中等规模的表格数据,通过在合成数据上预训练和改进的Transformer架构,TabPFN实现了快速高效的训练与预测,显著优于传统方法,同时具备数据生成和可解释性等基础模型特性。

创新点:
- TabPFN利用上下文学习(ICL)框架,通过生成大量合成表格数据集并训练一个基于Transformer的神经网络,自动学习和解决这些合成预测任务。
- TabPFN在表格数据建模中表现出色,特别是在中小型数据集(最多10,000个样本和500个特征)上。
- TabPFN不仅具备强大的预测性能,还展现出基础模型的特性,如数据生成、密度估计和可重用嵌入的学习。

研究价值:TabPFN作为表格基础模型,依托上下文学习和合成数据预训练,在万样本内表格数据预测任务中大幅超越传统方法,训练速度提升数千倍,还具备多种基础模型能力,为小样本表格数据分析提供高效工具。
Few-shot image classification based on gradual machine learning
方法:论文提出了一种基于渐进式机器学习(GML)的小样本图像分类方法,通过深度网络提取图像特征,并利用因子图逐步对未标记样本进行分类,优先处理较简单的样本。这种方法显著提升了小样本学习的分类精度,并表现出更强的鲁棒性。

创新点:
- 提出了一种基于非i.i.d渐进式机器学习(GML)范式的新方法,通过在因子图中逐步进行因子推理,逐步对未标记样本进行分类。
- 设计了一个由一元和二元单调因子组成的因子图模型,这些因子可以通过现有的深度学习骨干网络轻松提取,从而实现少样本图像分类的渐进学习。

研究价值:论文提出无训练原型校准策略TEEN,通过融合新类原型与加权基类原型,解决少样本类增量学习中新类样本易误分为相似基类的问题,在不增加额外训练成本的情况下显著提升新类及整体分类性能,为相关场景提供高效实用的解决方案。
......
更多论文请添加小享,免费获取合集~