社区所有版块导航
Python
python开源   Django   Python   DjangoApp   pycharm  
DATA
docker   Elasticsearch  
aigc
aigc   chatgpt  
WEB开发
linux   MongoDB   Redis   DATABASE   NGINX   其他Web框架   web工具   zookeeper   tornado   NoSql   Bootstrap   js   peewee   Git   bottle   IE   MQ   Jquery  
机器学习
机器学习算法  
Python88.com
反馈   公告   社区推广  
产品
短视频  
印度
印度  
Py学习  »  机器学习算法

如何才能快速提升深度学习代码能力?(0基础)

AI算法科研paper • 8 小时前 • 18 次点击  

搞深度学习但代码能力差咋办?我总结了一下比较常见问题有:别人代码看不懂、自己代码写不顺、知道哪里该改却不会动。

如果你也有相同问题,想快速提升代码能力,我的经验是按“看懂→写会→改动”这条路径练习,具体分享如下:

1. 先学会从入口看代码

非常不建议从models开始一行行读,最好是先找train.py、main.py之类的入口,看它调用了什么;再看数据从哪里进来、经过哪些函数,最后loss在哪里算。

这第一步你要搞清楚:一条数据从读进来,到loss算出来,中间经过了哪几步?

如果想练手,不要选几十万行的大仓库,我更推荐先用小代码把这条链路走通。比如我最近整理到的一套PyTorch实战教程,内容比较简单实用,从Dataset、DataLoader到训练循环,每一段都能单独跑,拿来练手很合适。

长按添加小享,回复【代码教程】无偿获取

2. 再把常见代码自己写一遍

比如注意力、Transformer Block、训练循环、LoRA……不用写成完整工程,能跑通就行。

这样写过一次,再去看别人代码,很多地方就不是“推出来”,而是“认出来”。

不过这里还有个常见问题:你可能无法判断自己到底写对没有。这时候就得找参考了,我推荐你试试这28个深度学习实战项目,里面部分项目配了31节讲解视频,代码也基本都是逐行拆的。你可以先自己写,再拿它对照,看别人为什么这么写、shape为什么这么变。

3. 最后练“改代码”

真正做科研,代码能力的终点其实不是把项目完整复现出来,而是看你能不能找到该改的地方,然后真的改进去。

因此,复现论文时,先定位三个地方:数据怎么进、loss在哪、模块准备插在哪个block。找到之后,剩下的问题往往就是:怎么快速改代码?

为此,我另外收集并梳理了366个深度学习即插即用模块,按改造位置做了分类。你可以领取一份,下次遇到类似需求时,就不用每次都从零写,可以先找一个接近的模块,再根据自己的项目调整接口、跑实验。

总之,先看懂一条调用链,再自己写一遍,最后动手改。走通这三步,代码能力才是真的上来了。

长按添加小享,回复【代码教程】无偿领取以上全部资料

Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/203583