社区所有版块导航
Python
python开源   Django   Python   DjangoApp   pycharm  
DATA
docker   Elasticsearch  
aigc
aigc   chatgpt  
WEB开发
linux   MongoDB   Redis   DATABASE   NGINX   其他Web框架   web工具   zookeeper   tornado   NoSql   Bootstrap   js   peewee   Git   bottle   IE   MQ   Jquery  
机器学习
机器学习算法  
Python88.com
反馈   公告   社区推广  
产品
短视频  
印度
印度  
Py学习  »  机器学习算法

谷歌突失Hinton!深度学习之父警告AI风险,对毕生工作表示遗憾

互联网er的早读课 • 1 年前 • 136 次点击  

Breaking News!

深度学习三巨头、神经网络之父Geoffrey Hinton已离职谷歌,结束十载生涯。

最新推文中透露了原因:为了自由地讨论人工智能的风险。

消息一出,整个科技圈炸了,人们震惊于AI已经让Hinton感到害怕了。

有网友直接懵住:到底发生了什么?还是我漏掉了什么?你不是曾说过GPT-4为人类的蝴蝶吗?

不少人还认为Hinton此举有待商榷,应该将关注人工智能安全工作常态化而不是离职。

甚至还有人劝他理解AI,而不是通过延迟研究来限制。现在潘多拉魔盒已经打开。

但Hinton的态度似乎十分坚定,在访谈中直言:对自己毕生的工作感到后悔。

而另一位巨头LeCun这边也表示,对Hinton的离职并不惊讶。

不少网友在底下已经开始就AI的各种问题寻求Hinton的见解:

你对开源AI有什么看法?你觉得需要注意和避免的最大危险是什么?


“对自己毕生的工作感到后悔”


据《纽约时报》消息,Hinton的离职是在4月提出的。辞职的理由一言以蔽之,是对人工智能风险的担忧。

这种忧虑甚至让这位深度学习之父表示:

我对自己毕生的工作,感到非常后悔。

我用一个借口来安慰自己,如果我没有这么做,还会有其他人。


梳理来看,引发Hinton担忧情绪的因素,有近期和远期两个方面。

先说近期影响,就是ChatGPT趋势下的新一轮AI竞争。

在微软将ChatGPT引入Bing后,挑战了谷歌的核心业务搜索引擎,然后谷歌马上推出了Bard作为应对。这让Hinton觉得,谷歌似乎不再扮演AI“好管家”的角色了。

而且科技巨头们正在掀起一场无法停止的角逐。由此带来的影响,将是生成式AI生产出非常多真假难辨的内容。

而从长远来看,Hinton认为,AI将会对就业市场造成巨大影响。如助理、翻译等各行各业都可能被扰乱。

再进一步,AI或许也会对人类构成威胁。

因为个人和企业不仅允许AI生成代码,实际上AI也有能力运行这些代码。因此Hinton认为有朝一日那种具有自主能力的杀手机器人,会成为现实。

他表示,AI实际上可以比人类拥有更聪明的想法——一些人相信这一点。但是他没有预料到人工智能的发展速度会像过去7个月那样快。

我曾以为这需要30-50年之久,但是现在我不这么想了。


这种想法,和之前十余位美国人工智能协会专家联名发出的警告,有些相似之处。不过在那时,Hinton并没有参与这项活动。

据《纽约时报》消息,离职前,谷歌CEO桑达尔·皮查伊和他通过电话,但具体内容Hinton不愿透露。

这场离职风暴中,谷歌研究首席科学家、谷歌高级副总裁Jeff Dean发表了一份声明,表示:

我们仍会坚持对AI采取负责任的态度。我们在不断学习理解新出现的风险时,也在大胆创新。


对于Hinton的离职,另一位深度学习三巨头之一LeCun表示,Hinton并没有和他透露要离开谷歌的打算,不过他对此并不感到十分惊讶。

OpenAI首席科学家是他学生


此番离职,或许对于Hinton来说,也是时候了。

ChatGPT、大模型让全球对于通用人工智能的想象更加具象,其背后的安全与风险等问题也被搬上日程。

一直以来,Hinton对于通用人工智能抱有赞叹和期待。

早在GPT-3刚出炉,其他两位图灵奖得主LeCun和Bengio都持不看好态度时,Hinton却表示,从GPT-3出色的性能可以推断,生命、宇宙和万物的答案“不过是4.398万亿个参数而已”。

直至ChatGPT出现时,他还将GPT-4比作人类的蝴蝶:

毛毛虫提取营养物质,然后转化为蝴蝶。人们已经提取了数十亿的理解金块,而 GPT-4 是人类的蝴蝶。

他惊叹其效果的同时也透露出不少隐忧。

RLHF机制是在培养一个超常的早熟儿。

而现在,随着ChatGPT风暴席卷越来越多的行业,Hinton想要站出来承担人工智能危机“敲钟人”的角色,就已经到了关键时刻。

值得一提的是,在通用人工智能探索的最前沿,Hinton的学生们仍扮演着重要角色。

比如,现在OpenAI的首席科学家Ilya Sutskever。

△左:Ilya Sutskever,右:Hinton;图源:多伦多大学

当年,Hinton与他的两位学生Ilya Sutskever和Alex Krizhevsky共同发明了卷积神经网络AlexNet,拿下当时最权威的人工智能大赛ImageNet第一名,而且精确度是第二名的两倍。

后来,他们还一起成立了公司DNNResearch,后被谷歌4400万美元收购。

Ilya Sutskever担任Google Brain的研究科学家,并成为后来AlphaGO众多合著者之一。直至2015年底他离开谷歌,加入OpenAI担任联合创始人以及首席科学家。

好了,期待Hinton大佬的新动向,对于他此番离职谷歌,你怎么看呢?

参考链接:

[1]https://www.theverge.com/2023/5/1/23706311/hinton-godfather-of-ai-threats-fears-warnings
[2]https://twitter.com/geoffreyhinton/with_replies
[3]https://www.nytimes.com/2023/05/01/technology/ai-google-chatbot-engineer-quits-hinton.html



AI开始卷入各行各业,很快,会用ChatGPT的人,和不会用ChatGPT的人,就会拉出巨大差距。我们应该尽可能拥抱AI,用AI来完成实际工作,把解放出来的时间花在思考上,用你的大脑来创造价值。


👇为此,我们创造了一个知识星球,在这个星球,你可以:

1、ChatGPT和Midjourney基础+进阶全攻略
2、ChatGPT和Midjourney最直接变现案例
3、与200+行业先行者链接,积累你的专属人脉资源
4、社群保姆级一站式服务,包教包会包讨论

现在加入,立享99元早鸟价优惠,星球用户每涨100人,价格上调100元,直到恢复499元原价


加入星球30天内,前20位完成星球学习任务的用户,可免费加入星球一年❗️

这个风口抓不抓的住,就看你愿不愿意迈出第一步了!




 |  量子位(ID:QbitAI

作者 |  杨净 明敏;编辑 | 杂芜

内容仅代表作者独立观点,不代表早读课立场



Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/154517
 
136 次点击