社区所有版块导航
Python
python开源   Django   Python   DjangoApp   pycharm  
DATA
docker   Elasticsearch  
aigc
aigc   chatgpt  
WEB开发
linux   MongoDB   Redis   DATABASE   NGINX   其他Web框架   web工具   zookeeper   tornado   NoSql   Bootstrap   js   peewee   Git   bottle   IE   MQ   Jquery  
机器学习
机器学习算法  
Python88.com
反馈   公告   社区推广  
产品
短视频  
印度
印度  
Py学习  »  机器学习算法

深度学习的四个学习阶段!

图灵人工智能 • 2 年前 • 226 次点击  

点击上方“图灵人工智能”,选择“星标”公众号

您想知道的人工智能干货,第一时间送达

                         

本文转自AI干货知识库

机器学习领域是巨大的,为了学习不迷路,可以从以下列表帮助学习。它概述深度学习的一些学习细节。

阶段1:入门级

入门级能够掌握以下技能:
  • 能够处理小型数据集
  • 理解经典机器学习技术的关键概念
  • 理解经典网络DNN、CNN和RNN

数据处理

在入门级使用的数据集很小,可以放入主内存中。只需几行代码即可应用此类操作。在此阶段数据包括Audio、Image、Time-series和Text等类型。

经典机器学习

在深入研究深度学习之前,学习基本机器学习技术是一个不错的选择,其包括回归、聚类、SVM和树模型。

网络

掌握常见的网络层,以及相应的神经网络;GAN、AE、VAE、DNN、CNN、RNN 等等。在入门阶段,可以优先掌握DNN、CNN和RNN。

理论

没有神经网络就没有深度学习,没有(数学)理论就没有神经网络。可以通过了解数学符号来开始学习,可以从矩阵、线性代数和概率论开始你的学习

阶段2:进阶水平

进阶和入门级之间没有真正的分界,进阶水平能够处理更大的数据集,能够使用高级网络处理自定义项模型:
  • 处理更大的数据集
  • 能够自定义模型完成任务
  • 网络模型精度变得更好

数据处理

能够处理几GB的数据集,需要自定义数据扩增方法和数据处理函数。

自己完成任务

能够根据具体任务完成代码的开发,而不是参考MNIST的教程完成编码。

自定义网络

处理自定义项目时,如何处理数据数据?如何定义自己的网络层?

模型训练

掌握迁移学习的思路,学会使用预训练权重完成新任务。并掌握冻结部分网络层的方法。

深度学习理论

掌握深度学习模型的正向传播和反向传播,特别是链式求导法则。掌握激活函数和目标函数的作用,能够选择合适的激活函数和目标函数。

阶段3:熟练水平

与进阶相比你需要掌握更加的数据集处理方法,并掌握加速模型训练的方法:
  • 大规模数据的处理和存储
  • 网络模型的调参
  • 无监督学习和强化学习

数据处理

需要掌握几百GB数据集的处理,学会Linux的操作。此阶段可能接触到多模态任务。

无监督项目

开始尝试无监督网络模型的搭建,如自编码器和GAN模型,能够掌握模型原理。

模型训练

掌握模型调参的方法和常见的日志和可视化工具,如TensorBoard的使用。掌握学习率的调节方法,如余弦退火。掌握多机和混合精度训练。

阶段4:专家级

掌握前沿的学术模型的发展,知道自己的兴趣是什么,并能提出新的模型:
  • 学会使用JAX或DALI处理数据
  • 熟悉图神经网络和Transformer模型

本文在原文基础上进行了精简,原文链接:https://towardsdatascience.com/a-guide-to-the-field-of-deep-learning-9bb9b21dae2

来源:Coggle数据科学


往期精彩必读文章(单击就可查看):

1. 图灵奖得主Hamming的22年前经典演讲:如何做研究,才能不被历史遗忘

2.当这位70岁的Hinton老人还在努力推翻自己积累了30年的学术成果时,我才知道什么叫做生命力(附Capsule最全解析)

3.你为什么获得不了图灵奖,原来本科学的是计算机专业,数据显示历届图灵奖得主当中竟然只有三位在本科时主修计算机专业......

4.图灵奖得主Jeff Ullman直言:机器学习不是数据科学的全部!统计学也不是

5.魔幻现实!英国百年名校认为基础数学没用,要裁掉数学系补贴AI研究,图灵听后笑了笑

6.图灵奖得主Yann LeCun的六十年

7.图灵奖得主长文报告:是什么开启了计算机架构的新黄金十年?

8.看了 72 位图灵奖得主成就,才发现我对计算机一无所知

9.重读图灵经典之作,九条反驳意见引人深思

10.从图灵奖看人工智能的历史沉浮


Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/120011
 
226 次点击