社区所有版块导航
Python
python开源   Django   Python   DjangoApp   pycharm  
DATA
docker   Elasticsearch  
aigc
aigc   chatgpt  
WEB开发
linux   MongoDB   Redis   DATABASE   NGINX   其他Web框架   web工具   zookeeper   tornado   NoSql   Bootstrap   js   peewee   Git   bottle   IE   MQ   Jquery  
机器学习
机器学习算法  
Python88.com
反馈   公告   社区推广  
产品
短视频  
印度
印度  
Py学习  »  机器学习算法

要入行深度学习机器学习是不是非学数学不可?要学到什么程度,如何才能提高数学水平?

AI算法科研paper • 2 周前 • 81 次点击  

一句话:只想调包,数学是选修;想做算法创新,数学是必修。数学不是入场券,是天花板。

1. 为什么很多人觉得不用数学?

因为框架太方便。import tensorflow,model.fit(),模型就出来了。很多应届生不会手推反向传播,也能干活。应用层确实被封装了,但这只是表象。Transformer、Attention、位置编码、Adam、Embedding,背后全是线性代数、微积分、概率统计和最优化。

2. 数学不好能学吗?

能。普通人没必要等数学全部学完再开始。更实际的方式是:先做起来,再按需补数学。

学Attention,就补矩阵运算;学反向传播,就搞懂梯度和链式法则;研究Diffusion,再补概率分布和采样。

那具体怎么学呢?我这里分享一些个人认为非常实用的数学资料,基本可以对应各个阶段:

第一阶段:先搞清楚AI到底需要哪些数学。

112页机器学习-数学基础回顾,可以把机器学习涉及的线性代数、概率、微积分、优化等知识快速过一遍,建立知识体系。

第二阶段:搞清楚数学到底怎么进入深度学习。

那份带87道习题和45份源码的书。不只是讲公式,而是进一步把数学和模型、实现、理论联系起来。非常适合已经开始做深度学习,想从会调用往看懂原理走的人。

第三阶段:专门补线性代数。

矩阵、向量、线性变换、特征值这些东西,几乎贯穿了很多深度学习模型。如果这部分比较薄弱,可以单独看这个MIT 21.7k星标的线性代数笔记来补(中英文版),不需要把所有数学都重新学一遍。

第四阶段:解决“公式会看,但没有直觉”。

还可以配合交互式线性代数和数学可视化工具,把抽象的公式、向量和变换“看见”。

这几份我已经整理成一套资料,想补AI数学的可以直接领取,不用从头到尾全部学完,缺哪块补哪块。

长按添加小享,回复【ML数学】无偿获取

3. 什么时候数学变成硬门槛?

如果只是调用现有模型解决业务问题,数学掌握基础概念基本够用。

但当你想改进模型、设计激活函数、调优化器、理解幻觉、做Diffusion、图Transformer、写论文创新时,数学就是必修。你想知道为什么Chain of Thought有用,可能涉及计算复杂度;想让图神经网络更强,要看图同构和表达能力上限。如果你只会调参,肯定就不够了。

4. 该学哪些?

核心四件套:

  • 线性代数:数据、矩阵、Embedding;
  • 概率统计:预测、分布、不确定性;
  • 微积分+最优化:反向传播、训练;
  • 信息论/图论:按方向补。

图模型热,图论就算;大模型输出本质是猜概率最大者,概率论跑不掉。

5. 最后总结

深度学习大算力、大数据能替代部分手工特征工程,但边际效益在递减,成本、能耗、不可解释、鲁棒性、偏见都是问题。未来高效模型、理论解释会越来越重要。

所以数学不是入门必先啃,而是决定你能走多远的阶梯。总之,先会用,再补数学;边做边学,按需深入。想当调包侠,数学可以少学;想当算法专家,数学永远逃不掉。

Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/201784