社区所有版块导航
Python
python开源   Django   Python   DjangoApp   pycharm  
DATA
docker   Elasticsearch  
aigc
aigc   chatgpt  
WEB开发
linux   MongoDB   Redis   DATABASE   NGINX   其他Web框架   web工具   zookeeper   tornado   NoSql   Bootstrap   js   peewee   Git   bottle   IE   MQ   Jquery  
机器学习
机器学习算法  
Python88.com
反馈   公告   社区推广  
产品
短视频  
印度
印度  
Py学习  »  chatgpt

OpenAI内乱前夕ChatGPT之父遭举报:没优先考虑人类利益

雷递 • 1 年前 • 294 次点击  

雷递网 雷建平 11月23日

在经过几天的宫斗后,ChatGPT之父萨姆·奥特曼(Sam Altman)赢得了胜利,最终,OpenAI与Sam Altman原则上达成协议,让他重返 OpenAI担任首席执行官。

OpenAI还组建了由Bret Taylor(主席)、Larry Summers 和Adam D‘Angelo领导的新董事会。

OpenAI联合创始人Greg Brockman已返回OpenAI办公室,参加工作。

不过,同期,一则举报Sam Altman的公开信也流露出来,指责Sam Altman没优先考虑全人类利益,赶走表达担忧和质疑的员工。

公开信还透露:在Sam Altman流亡四天之前,几位研究人员给董事会写了一封信,警告称一项强大的人工智能发现可能会威胁人类。

(Ahead of OpenAI CEO Sam Altman’s four days in exile, several staff researchers wrote a letter to the board of directors warning of a powerful artificial intelligence discovery that they said could threaten humanity。

其中,OpenAI两位高级研究人员构建了模型“Q*”(发音为 Q-Star),该模型能解决此前从未见过的数学问题。OpenAI首席科学家Ilya感到害怕,而该项技术突破为此次OpenAI内乱导火索,造成了Sam Altman的“奥本海默时刻”。特斯拉CEO马斯克点评说:极度令人担忧。

没有真正优先考虑全人类利益的程度

日前,特斯拉CEO马斯克转发了一个OpenAI前员工向董事会的举报材料,让外界得以窥见Sam Altman等高层不为人知的事情。

在这封举报材料中,OpenAl 前员工称,对OpenAl最近发生的事件的深切关注,特别是对 Sam Altman不当行为的指控。

“我们是OpenAl 的前员工,在公司发生重大动荡和剧变期间离开了公司。正如您现在亲眼目睹了当您敢于对抗Sam Altman时所发生的事情,也许您可以理解为什么我们中有这么多人因为害怕受到影响而保持沉默。我们不能再袖手旁观。”

举报材料认为,董事会有责任彻底调查这些指控并采取适当行动,扩大调查范围,纳入对Sam Altman自2018年8月OpenAl开始从非营利实体转型为营利实体以来的行为的审查。公开征集在此期间辞职、休病假或被解雇的OpenAl前员工发表私人声明。保护挺身而出者的身份,确保他们不会受到报复或其他形式的伤害。

“我们认为,大量OpenAl员工被赶出了公司,以促进其向营利性模式的过渡。2018年1月至2020年7月期间OpenAl 的员工流失率约为 50%,这一事实证明了这一点。”

“在OpenAl的整个过程中,我们目睹了Sam Altman和Greg Brockman 令人不安的欺骗和操纵模式,他们对实现通用人工智能的追求永无止境。然而,他们的方法让人严重怀疑他们的真实意图以及他们真正优先考虑全人类利益的程度。”

“我们中的许多人最初对 OpenAl 的使命充满希望,但选择相信Sam 和 Greg。然而,随着他们的行为越来越令人担忧,那些敢于表达担忧的人被噤声或被赶了出去。这种对异议的系统性压制创造了一种恐惧和恐吓的环境,有效地扼杀了任何关于OpenAl工作的道德影响的有意义的讨论。”

未经同意对首席科学家在内的员工进行调查

举报材料还列举了Sam和Greg的不诚实和操纵行为的具体例子,包括:

Sam要求研究人员推迟报告特定“秘密”研究计划的进展,这些计划后来因未能足够快地提供足够的结果而被废除。那些质疑这种做法的人被斥为“不适合文化”,甚至被解雇。

Sam指示IT和运营人员在管理层不知情或未同意的情况下对包括llya(OpenAI首席科学家)在内的员工进行调查。

Sam谨慎但例行公事地利用OpenAl的非营利资源来实现他的个人目标。

运营团队默认了适用于Greg的特殊规则,满足复杂的要求以避免被列入黑名单。

Brad Lightcap未兑现的承诺,即公开详细说明 OpenAl 的利润上限结构和每位投资者的利润上限的文件。

举报材料说,尽管越来越多的证据表明Sam Altman和Greg Brockman的违法行为,但那些留在OpenAl的人继续盲目追随他们的领导,甚至不惜付出巨大的个人代价。这种坚定不移的忠诚源于对报复的恐惧和通过OpenAl利润参与获得潜在经济收益的诱惑。

OpenAl的治理结构是Sam 和Greg 专门设计的,刻意将员工与正是由于其固有的利益冲突,才对营利性业务进行监督。这种不透明的结构使Sam Altman和Greg Brockman能够逍遥法外,免受问责。

举报材料最后说,“我们敦促OpenAl董事会坚决反对这些不道德行为,并对 Sam 和 Greg 的行为展开独立调查。我们相信 OpenAl 的使命太重要了,不能因为少数人的个人议程而受到损害。我们恳请董事会坚定不移地致力于 OpenAl 最初的使命,不要屈服于利益驱动的压力。”

马斯克曾称OpenAI失去初心

据介绍,OpenAI是由特斯拉CEO马斯克、Sam Altman等六人在2015年联合创办,最初为非营利性机构。

2018年马斯克宣布退出,2019年,OpenAI宣布重组为一家“有限盈利(capped-profit)企业”,并接受了微软10亿美元的投资,2023年初,微软进一步投资了100亿美元。

当前,微软拥有OpenAI 49% 的股份,另外49%由员工和其他投资者拥有,该公司的非营利母公司拥有2%的股份。

2023年初,OpenAI大火之际,马斯克曾表示,OpenAI最初是作为一个开源、非营利性公司创建的,以作为对谷歌的制衡。

“这就是为什么我将其命名为“Open”AI。”马斯克说,“但现在它已经成为一个闭源的、最大利润的公司,由微软有效控制。根本不是我想要的。”

———————————————

雷递由媒体人雷建平创办,若转载请写明来源。

Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/164764
 
294 次点击