社区所有版块导航
Python
python开源   Django   Python   DjangoApp   pycharm  
DATA
docker   Elasticsearch  
aigc
aigc   chatgpt  
WEB开发
linux   MongoDB   Redis   DATABASE   NGINX   其他Web框架   web工具   zookeeper   tornado   NoSql   Bootstrap   js   peewee   Git   bottle   IE   MQ   Jquery  
机器学习
机器学习算法  
Python88.com
反馈   公告   社区推广  
产品
短视频  
印度
印度  
Py学习  »  机器学习算法

小样本机器学习重大成果!Nature正刊发表!

学姐带你玩AI • 1 月前 • 106 次点击  

今天聊聊小样本机器学习这个方向,对近期与之相关的前沿成果进行了深度梳理与整合,精选了12篇代表性论文,带你一文读懂这方向发展的新趋势。

这些前沿工作基本覆盖了当前主流研究方法,解决了部分行业痛点,收录了nature正刊、communications chemistry、NeurIPS等顶会顶刊的重磅研究,具有很高的参考价值,适合用于课题设计、论文写作、方法复现等多种场景,可助你精准把握领域核心脉络,快速产出成果。

扫码添加小享,回复“小样本机器”

免费获取全部论文+开源代码

【Nature正刊】Accurate predictions on small data with a tabular foundation model

方法:文章介绍的TabPFN主要针对的是小样本机器学习场景,尤其是处理小到中等规模的表格数据,通过在合成数据上预训练和改进的Transformer架构,TabPFN实现了快速高效的训练与预测,显著优于传统方法,同时具备数据生成和可解释性等基础模型特性。

创新点:

  • TabPFN利用上下文学习(ICL)框架,通过生成大量合成表格数据集并训练一个基于Transformer的神经网络,自动学习和解决这些合成预测任务。
  • TabPFN在表格数据建模中表现出色,特别是在中小型数据集(最多10,000个样本和500个特征)上。
  • TabPFN不仅具备强大的预测性能,还展现出基础模型的特性,如数据生成、密度估计和可重用嵌入的学习。

研究价值:TabPFN作为表格基础模型,依托上下文学习和合成数据预训练,在万样本内表格数据预测任务中大幅超越传统方法,训练速度提升数千倍,还具备多种基础模型能力,为小样本表格数据分析提供高效工具。

Few-shot image classification based on gradual machine learning

方法:论文提出了一种基于渐进式机器学习(GML)的小样本图像分类方法,通过深度网络提取图像特征,并利用因子图逐步对未标记样本进行分类,优先处理较简单的样本。这种方法显著提升了小样本学习的分类精度,并表现出更强的鲁棒性。

创新点:

  • 提出了一种基于非i.i.d渐进式机器学习(GML)范式的新方法,通过在因子图中逐步进行因子推理,逐步对未标记样本进行分类。
  • 设计了一个由一元和二元单调因子组成的因子图模型,这些因子可以通过现有的深度学习骨干网络轻松提取,从而实现少样本图像分类的渐进学习。

研究价值:论文提出无训练原型校准策略TEEN,通过融合新类原型与加权基类原型,解决少样本类增量学习中新类样本易误分为相似基类的问题,在不增加额外训练成本的情况下显著提升新类及整体分类性能,为相关场景提供高效实用的解决方案。

......

更多论文请添加小享,免费获取合集~


往期推荐
RECOMMEND


小样本学习登Nature!计算效率高170倍,彻底起飞

因果机器学习(CausalML)前沿创新思路

又被Transformer秀到了!结合小样本学习发A会!

据说点右下角推荐❤️ 的都Accept了!
图片

Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/201297