社区所有版块导航
Python
python开源   Django   Python   DjangoApp   pycharm  
DATA
docker   Elasticsearch  
aigc
aigc   chatgpt  
WEB开发
linux   MongoDB   Redis   DATABASE   NGINX   其他Web框架   web工具   zookeeper   tornado   NoSql   Bootstrap   js   peewee   Git   bottle   IE   MQ   Jquery  
机器学习
机器学习算法  
Python88.com
反馈   公告   社区推广  
产品
短视频  
印度
印度  
Py学习  »  机器学习算法

深度学习5个极其简单却高效的论文创新方法

学姐带你玩AI • 2 周前 • 77 次点击  

搞深度学习,论文看了几十篇,最后可能还是不知道自己能做什么。

后来我发现,与其漫无目的地找创新点,不如先从下面这5个位置排查👇看完你就有思路了:

PS:为了帮助大家轻松科研,我打包了90个深度学习数据集/100个医学数据集、各方向参考论文、366个即插即用模块,基本覆盖找问题、找数据、找参考、找方法到做实验全流程,大家可扫码加小享让TA及时无偿发你!

长按添加小享,回复【论文攻略】无偿获取

① 数据:数据变了,模型还靠谱吗?

噪声、遮挡、光照、尺度、不同场景、不同数据分布……很多时候模型本身没变,但数据一换,原方法的问题就暴露出来了。

所以可以观察当前方法对什么数据最敏感?换一个数据分布后,性能还稳定吗?

如果准备从这条路线切入,数据就很重要。

我自己整理了90个深度学习数据集 + 100个医学数据集,覆盖检测、分割、缺陷、遥感、医学影像等不同方向,找数据会方便很多。

② 模型:别急着改,先找它哪里不好用

可以重点看:速度慢?参数量大?收敛困难?小目标效果差?后处理复杂?泛化能力差?

找到一个具体问题之后,再考虑怎么改。这时候参考论文就特别重要。

这里教大家一个看论文的方法,顺着“现有方法有什么问题 → 作者为什么这样改 → 改完解决了什么 → 这个问题还能不能继续往下做”这个思路。

这里我也整理了一批各方向参考论文,热门的基本都有,主要用来帮大家找研究问题和创新切口。可以加小享给TA发你的方向,有对应论文合集会直接发给你。

③ 结构:现有模块能不能换?

确定问题以后,就可以考虑:有没有成熟的方法,刚好能解决这个问题?比如注意力、特征融合、多尺度、卷积、Mamba等。

但注意一个点:加了一个Attention” ≠ “有了创新”。真正要讲清楚为什么这里需要改?为什么这个模块适合解决这个问题?

这部分我整理了 366个即插即用模块,可以按照我已经分类好的功能和结构去找,比一个个翻论文、找代码省事很多。

④ 场景:通用方向太卷,就看看特殊场景

夜间、水下、遥感、工业、医学、鱼眼……很多特殊场景都有自己的数据分布和任务难点。

如果刚进入一个研究方向,与其直接硬卷通用模型,不如先看这个场景有什么特殊问题,是现有通用方法没解决好的?这往往更容易找到具体的研究问题。

⑤ 组合:不是从零造模型,也可以形成工作

如果暂时没有能力从头设计一个复杂网络,也可以从“现有框架 + 针对性模块 + 特定问题 + 实验验证”开始。

关键不是“缝了几个模块”,而是要有明确的问题驱动。

所以现在如果让我重新找一个深度学习论文创新点,我一般会按这个顺序:先找问题 → 再看论文 → 决定改数据还是模型 → 找对应模块 → 最后用实验验证。

Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/200359