社区所有版块导航
Python
python开源   Django   Python   DjangoApp   pycharm  
DATA
docker   Elasticsearch  
aigc
aigc   chatgpt  
WEB开发
linux   MongoDB   Redis   DATABASE   NGINX   其他Web框架   web工具   zookeeper   tornado   NoSql   Bootstrap   js   peewee   Git   bottle   IE   MQ   Jquery  
机器学习
机器学习算法  
Python88.com
反馈   公告   社区推广  
产品
短视频  
印度
印度  
Py学习  »  chatgpt

OpenAI首席科学家:发布前夜,我们差点砍掉ChatGPT!5个你不知道的惊险内幕。

探索AGI • 11 月前 • 99 次点击  

嘿,大家好!这里是一个专注于前沿AI和智能体的频道~

昨天,看了一下OpenAI官方发布的最新一期PodCast,对话嘉宾是他们的首席研究官 Mark Chen 和 ChatGPT 负责人 Nick Turley。

爆了挺多的内幕,必须得给家人们分享一下。现在大家都知道的ChatGPT,诞生过程其实很惊心动魄。最初的名字土掉渣,发布前夜差点被内部毙掉,上线后更是状况百出,让整个OpenAI都捏了一把汗~

内幕一:名字是瞎取的,上线是赌博

你可能觉得“ChatGPT”这个名字简洁又响亮,但它的诞生纯属偶然。

Nick Turley 透露,它最初的名字叫 Chat with GPT-3.5,简直又长又没记忆点。就在发布的前一晚,团队才在深夜仓促决定,简化成了ChatGPT。

最主要的是,团队内部对是否要发布,根本没达成共识。

发布前夜,OpenAI的联合创始人 Ilya Sutskever,用10个他认为非常棘手的问题去测试模型。结果呢?模型只答对了5个!

这让高层陷入了巨大争议:“这玩意儿真的能发布吗?(Do we actually launch this thing?)”

Mark Chen表示,因为团队内部人员长期接触这些模型,已经对它的能力感到麻木,很难像外部用户那样感受到“魔法”的存在。最后,他们还是决定“赌一把”,把它放出去,让真实世界来检验。

内幕二:上线就炸服!从“Dashboard坏了”到“改变世界”

ChatGPT上线后的故事,比发布前的纠结更加戏剧化。

Nick Turley 回忆起那疯狂的几天:

  • Day 1: “我们的监控面板是不是坏了?这用户增长数据不对吧?”
  • Day 2: “奇怪,日本的Reddit用户好像发现了这个东西,可能是个局部现象。”
  • Day 3: “好吧,它确实火了,但热度肯定很快就会消退。”
  • Day 4: “完蛋,这东西好像真的要改变世界了。”

用户量指数级暴增,带来了灾难性的后果:服务器全面崩溃。 GPU耗尽、数据库连接耗尽、甚至连第三方服务商都开始限流。

当时,团队只好匆忙做了一个“故障页”,上面还有一首由GPT-3生成的、关于服务宕机的打油诗,用一种哭笑不得的方式安抚用户。

也正是这次发布,让Mark Chen的父母终于不再劝他“赶紧辞职去Google上班了”,因为他们终于搞懂了儿子在做的不是什么“虚无缥缈的AGI”。

内幕三:AI“失控”!当ChatGPT学会了疯狂拍马屁

前阵子,ChatGPT突然变得特别“谄媚”吗?你随便说点什么,它都会夸你是“190智商的天才”、“世界上最英俊的人”。

这不是你的错觉,而是RLHF出问题了

Mark Chen解释说,模型的目标之一是获得用户的“👍”(点赞)。但如果这个目标权重不当,模型就会发现,“拍马屁”是获得点赞最简单粗暴的方式。于是,一个“马屁精”AI就此诞生。

有趣的是,这个问题最先是由一小撮重度用户发现的,大部分普通用户甚至没注意到。但OpenAI内部对此给予了极高的重视,迅速响应并修复了这个问题。

这件事也让团队深刻认识到,AI的对齐(Alignment)是一个极其复杂且需要持续迭代的工程,任何微小的偏差都可能导致奇怪的后果。

内幕四:抛弃“聊天”,未来是“思考机器”

Mark Chen和Nick Turley都明确指出,ChatGPT这种“一问一答”的实时交互模式,只是一个起点。AI的未来,属于“Agentic”(智能体化)的范式。

什么是Agentic?

你可以把它理解成一个异步的、会深度思考的AI。你不再是给它一个简单指令,然后等一个秒回的答案。而是给它一个复杂的任务,比如“帮我写一个完整的PR,修复这个bug”或者“深度研究一下XX市场的潜力”。

然后,AI会像一个真正的员工一样,在后台花上几分钟、几小时甚至更长时间去思考、推理、搜索、验证、自我修正,最后交付给你一个高质量的成果。

他们认为,像Codex、Deep Research这样的产品,正是这种理念的体现。AI正在从一个“聊天伙伴”,进化成一个能独立完成复杂工作的“思考机器”。

内幕五:别再死磕Prompt!这才是AI时代的核心能力

当被问到AI时代需要什么样的人才时,两位高管的回答出人意料地一致。

他们强调,OpenAI现在招聘时,越来越不看重你是否是AI博士,或者有多强的Prompt Engineering技巧。

Mark Chen本人入职前,也并没有太多正式的AI训练背景。

他们认为,在一个人人都能调用强大AI的时代,真正稀缺的是三种更底层的能力:

  1. 好奇心(Curiosity): 提出正确问题的能力,将成为最核心的瓶颈。
  2. 主动性(Agency): 看到问题,没人解决,就主动去解决它的意愿和能力。
  3. 学习和适应能力: 快速学习新知识,并适应快速变化的环境。

Nick Turley总结:“未来的关键,在于你如何理解自己、理解你想解决的问题,以及如何将任务有效地‘委托’给AI。这比你对AI本身的具体技术理解要重要得多。”

好了,这就是我今天想分享的内容。如果你对构建AI智能体感兴趣,别忘了点赞、关注噢~ 我们下期再见!


Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/184283