有三AI社区已经正式推出了ChatGPT大模型理论与实践干货课程,与网上传播的各类科普入门内容不同,本课程是由某著名大厂AI算法工程师,有三AI社区NLP负责人小Dream哥总结了过去1年带领团队进行大模型开发和应用的实际经验,能够帮助大家快速、系统的掌握大模型相关的知识和能力,本课程第一版暂时完结,后续还会根据内容再次进行更新迭代。
本次课程内容既不是挂羊头卖狗肉的伪ChatGPT课程,也不同于只会教给大家怎么去注册Bing账号之类毫无门槛的信息资讯知识星球,而是给算法工程师配置的真正干货,需要具有扎实的深度学习算法基础才能学习。
自从2022年11月ChatGPT发布之后,迅速火遍全球。其对话的交互方式,能够回答问题,承认错误,拒绝不适当的请求,高质量的回答,极度贴近人的思维的交流方式,让大家直呼上瘾,更是带火了AI 行业。
ChatGPT的爆火,一度引发了关于中国科技创新能力的讨论,有人忧心:在人工智能这个领域,中国是否也会步半导体行业的后尘,在关键技术上落后国外,无法追赶?答案是不会。国内各大顶流科技公司已经跑步入场了!他们开始大量投入人力物力进行大模型的研究和开发。比如:
复旦MOSS
百度文心一言
阿里通义大模型
腾讯混元
.......
不仅仅是顶流科技公司,小企业,计算机个人从业者也面临着机遇和挑战。对于大企业,缺失大模型,将意味着产品无法进行智能性迭代,淘汰将是迟早的事;对于小企业,如何利用大模型提升产品与效率,是性命攸关般重要,竞争对手可不会原地踏步;对于计算机行业的个人从业者呢?
AI的爆火,带来新的职业机遇,也带来新的挑战,高薪的职位已经在各大城市发布,部分公司的裁员也在悄然进行。在这行业大变革的时期,NLP领域甚至整个AI领域的开发模式将会彻底发生改变,学习刻不容缓。
举个例子,此前,NLP领域中要做信息抽取相关的工作需要经历如下的步骤:
1.场景与任务定义(阅读理解or实体抽取)
2.大量数据标注
3.模型设计与调整
4.模型训练与调优
5.模型部署于上线
在大模型时代,做信息抽取相关的任务的工作流程变成了这样:
1.训练或选择合适的大模型
2.编写合适提示与指令模板
3.根据效果决定是否Finetune大模型
4.提示与指令模板编排与应用
对于个人开发者而言,大模型促进了工作方式的转变,也对算法工程师提出了新的要求:
1.对大模型的能力和边界要有清晰的认知
2.能够调试或训练超大规模的模型,即具备分布式训练的能力
3.熟悉大模型的应用方法,要能在各种场景中熟练使用提示工程和指示学习最大程度发挥大模型的能力
这些能力或许将成为未来算法工程师职业发展中的核心能力。对于算法工程师来说,掌握大模型,刻不容缓。
本课程内容包括大模型各个方面的算法与实践,包括GPT预训练模型、分布式训练原理与框架、提示学习与指令学习、人工反馈式强化学习等知识和实践内容,下面是当前课程的大纲脑图:
(1) 理论知识:涵盖了大模型训练和应用所需的所有基础理论知识,如GPT系列模型、分布式训练原理与框架、提示学习、强化学习等,既有足够的宽度,也具备有足够的深度。我们会非常详细地讲解算法中的细节,帮助彻底消化算法原理。
(2) 实践案例:本次课程中一共包含3个实践案例,分别为lora有监督微调预训练实战,基于思维链的AgentGPT对话系统搭建实战,RLHF训练代码讲解。
本课程适合以下三类人群:
(1) 所有学习人工智能/深度学习算法,并有志于从事该领域的人员。
(2) 掌握了Python,深度学习基础概念等预备知识的技术人员。
(3) 学习与从事自然语言处理的技术人员。
学习完本课程你将掌握:
(1) ChatGPT大模型相关的主流算法;
(2) 分布式训练超大规模模型的能力与技巧;
(3) 掌握利用大模型搭建智能系统的完整流程。
本课程讲师为小Dream哥,AI算法专家,有三AI社区NLP负责人,国内一线大厂AI架构师,多年从业经验,在对话系统、搜索,知识图谱等领域均有丰富的经验,带领10人团队在实际场景成功训练与落地大模型。
一直以来,有三AI所有的直播与录播视频课程都在小鹅通平台,小鹅通是一个很成熟的知识付费平台,我们有唯一的小鹅通知识店铺账号,地址为,大家可以使用小鹅通APP或者在浏览器打开该地址进行学习(使用手机号码登录):
https://appcdfgt3n15676.h5.xiaoeknow.com
订阅本课程通过扫码以下课程海报即可,如果对课程内容有疑问,可先添加课程讲师微信jen104咨询详细的信息。
前面3期内容可以免费试听,请大家保持关注,课程有学习答疑群,大家在订阅课程后可以添加订阅后弹窗的微信联系方式入学习群!
虽然ChatGPT在今年掀起了人工智能领域的新热潮,但背后的技术并非突然从零诞生,我们学习该技术也需要一些基础知识,比如深度学习基础理论,深度学习框架。对于人工智能领域的初学者/零基础学员来说,无法直接参与本课程的学习,大家可以先在我们课程平台学习一些相关基础课程后再来进一步学习,我们去年的总结参考如下。