Py学习  »  机器学习算法

从入门深度学习到能发顶会,你用了多久?

PaperWeekly • 1 年前 • 115 次点击  

最近刷朋友圈,很多童鞋的状态都是,不是在搞科研,就是在搞科研的路上,每日为了科研废寝忘食……

每天的生活日常,除了下文献、读文献,就是做实验、写论文,debug,二十多岁的自己看着像三四十……

然而,结果好像并不和努力成正比。不说发顶会无望,写一篇不水的论文都不是件容易的事。那些学术大牛们,怎么就可以手握多篇顶会论文还笔耕不辍,似乎发一篇高质量的论文是分分钟的事,他们究竟有什么独门秘籍?

最近就有做预训练模型的科研er私信吐槽:

想水论文!奈何导师只负责分配研究方向,然后就当甩手掌柜。

想发论文,却没有丁点思路,不知道从哪开始入手,代码也无人指导……

你需要一些来自大神的指点和点拨。

扫码免费听课

1025日大神带你一节课掌握预训练模型

获取容易发论文的创新点

文末免费领超20G资料、课程福利


以GPT-3为代表的千亿参数模型,为我们展示了通用人工智能的某种实现路径:增大模型规模,从量变到质变。横亘在大模型之前的一个重要问题是,我们如何高效地利用好大模型,传统的pretrain-finetuing范式,会让大模型的每一次适配下游任务存储和训练成本都变得高昂。


parameters-efficient tuning方法应运而生,本期直播课便是为大家讲解如何通过参数高效的训练方法,利用好更大规模的模型。


预训练作为一个大的研究方向,卷起来了但是又不是那么卷,对于科研er来说,在这个方向可探索的空间还很大,获得一个好的idea,写出一篇好论文的概率相对就大得多。

很多童鞋的终极目标是拿着论文当敲门砖,去某某大厂开启人生新篇章。

那么剩下的问题就是,怎么发(水)论文?

想要快速发论文有两点至关重要。

1.紧跟风口。

想发文章最容易的方法就是紧跟风口,顺着领域内的研究趋势确定自己的方向,毕竟在热门领域内,创新点和idea远比其他非热门领域多。

2.有一位有经验有能力的前辈指导。

大家都在努力的设计新网络、新策略、新training算法,只要能够在某一问题上做到一个很好的performance,论文就水到渠成。而想要快速达到,来自前辈的指点不可或缺。

所以,要解决的问题就是:

1.找到风口。

2.找到领域内的大神做导师。


扫码免费听课

1025日大神带你一节课掌握预训练模型

获取容易发论文的创新点

文末免费领超20G资料、课程福利

创新点和idea不可能凭空生成,好的performance 也绝不可能一蹴而就。

10月25日,沃恩智慧邀请在人工智能领域已颇有建树的Joy老师,带大家精读三篇预训练模型最新前沿论文,全方位解读预训练发展应用、可创新方向



直播课亮点
01

亮点一:领读人和论文精挑细选

由在人工智能领域耕耘多年的科研大神带你精读最新顶会论文,作为有多篇顶会论文在手的科研大神,可充分把握人工智能发展的风向标。

02

亮点二:算法与论文齐头并进

Wendy老师将逐句分析论文中各段落、语句之间的关系,算法创新模型与科研论文创作技巧并学,以深厚的顶会、顶刊英文论文写作功力和深耕多年的科研经验带领大家层层闯关。

03

亮点三:全方位剖析,拒绝泛泛而读

针对论文,老师除了最基本的算法模型讲解外,更将从论文第一作者的角度深入剖析论文价值,并讲解论文泛读/精读的方法策略、写作方法策略、复现思路、代码分析……

扫码免费听课

1025日大神带你一节课掌握预训练模型

获取容易发论文的创新点

文末免费领超20G资料、课程福利







带读论文题目

(1) prefix-tuning: prefix-tuning optimizing continuous prompts for generation (ACL2021)

(2)adpaters-tuning: Parameter-Efficient Transfer Learning for NLP (NIPS2019)

(3)Mix-and-Match adapters:  Towards a unified view of parameter-efficient transfer learning (ICLR2021)



课程福利:




作为日常为了论文而忙碌的科研人,小编知道大家一定很需要一些资料。因此,小编精心整理了一份超过20G的AI顶会论文大礼包!包含最新顶会论文、书籍等资料,以及引文论文写作指导保姆级资料,从文献阅读到论文写作全部帮你整理好~

原价999

扫描二维码即可0元领取!

扫码领资料↑

此外~小编独家放送最新前沿论文带读课程添加老师微信即可免费领取课程讲师均为顶会顶刊论文作者,更身兼顶会顶刊审稿人,带你剖析顶会论文,寻找可能的创新点~

论文带读囊括CV、NLP、机器学习多个方向,总有一款适合你!

扫码添加老师微信即可免费领↑

课程目录(持续更新中)↓

来看看这份资料饕餮大餐都有什么

1.【2022最新AI论文与书籍】(持续更新中)8G

2.NLP、深度学习必读论文及资料合集



3.【SCI论文写作保姆级指导资料】13G

4.大神带你精读前沿论文

扫码添加老师微信即可免费领课程↑

-END-



Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/148556
 
115 次点击