Py学习  »  机器学习算法

深度学习5个极其简单却高效的论文创新方法

学姐带你玩AI • 1 周前 • 60 次点击  

搞深度学习,论文看了几十篇,最后可能还是不知道自己能做什么。

后来我发现,与其漫无目的地找创新点,不如先从下面这5个位置排查👇看完你就有思路了:

PS:为了帮助大家轻松科研,我打包了90个深度学习数据集/100个医学数据集、各方向参考论文、366个即插即用模块,基本覆盖找问题、找数据、找参考、找方法到做实验全流程,大家可扫码加小享让TA及时无偿发你!

长按添加小享,回复【论文攻略】无偿获取

① 数据:数据变了,模型还靠谱吗?

噪声、遮挡、光照、尺度、不同场景、不同数据分布……很多时候模型本身没变,但数据一换,原方法的问题就暴露出来了。

所以可以观察当前方法对什么数据最敏感?换一个数据分布后,性能还稳定吗?

如果准备从这条路线切入,数据就很重要。

我自己整理了90个深度学习数据集 + 100个医学数据集,覆盖检测、分割、缺陷、遥感、医学影像等不同方向,找数据会方便很多。

② 模型:别急着改,先找它哪里不好用

可以重点看:速度慢?参数量大?收敛困难?小目标效果差?后处理复杂?泛化能力差?

找到一个具体问题之后,再考虑怎么改。这时候参考论文就特别重要。

这里教大家一个看论文的方法,顺着“现有方法有什么问题 → 作者为什么这样改 → 改完解决了什么 → 这个问题还能不能继续往下做”这个思路。

这里我也整理了一批各方向参考论文,热门的基本都有,主要用来帮大家找研究问题和创新切口。可以加小享给TA发你的方向,有对应论文合集会直接发给你。

③ 结构:现有模块能不能换?

确定问题以后,就可以考虑:有没有成熟的方法,刚好能解决这个问题?比如注意力、特征融合、多尺度、卷积、Mamba等。

但注意一个点:加了一个Attention” ≠ “有了创新”。真正要讲清楚为什么这里需要改?为什么这个模块适合解决这个问题?

这部分我整理了 366个即插即用模块,可以按照我已经分类好的功能和结构去找,比一个个翻论文、找代码省事很多。

④ 场景:通用方向太卷,就看看特殊场景

夜间、水下、遥感、工业、医学、鱼眼……很多特殊场景都有自己的数据分布和任务难点。

如果刚进入一个研究方向,与其直接硬卷通用模型,不如先看这个场景有什么特殊问题,是现有通用方法没解决好的?这往往更容易找到具体的研究问题。

⑤ 组合:不是从零造模型,也可以形成工作

如果暂时没有能力从头设计一个复杂网络,也可以从“现有框架 + 针对性模块 + 特定问题 + 实验验证”开始。

关键不是“缝了几个模块”,而是要有明确的问题驱动。

所以现在如果让我重新找一个深度学习论文创新点,我一般会按这个顺序:先找问题 → 再看论文 → 决定改数据还是模型 → 找对应模块 → 最后用实验验证。

Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/200359