图片来源：Khosla Ventures
Z Highlights
2025年9月，OpenAI首席执行官Sam Altman与知名风险投资家、Khosla Ventures创始人Vinod Khosla展开对话，探讨AI的发展路径
——从聊天机器人到AGI，以及人与机器之间不断演进的交互方式，并思考AI如何重塑创造、学习与构建的主体。
展望2035：技术颠覆与难以预测的未来
Vinod Khosla：所以我想先从这里开始，我们已经多次沿着这个方向聊过。想象一下2035年以后的世界，大概在2035到2050年这段时间内。你认为世界会是什么样子？
Sam Altman：嗯，我觉得人们仍然会像现在这样坐在一起吃午饭。从某种意义上说是这样但我确实认为，在那个时期技术变化的速度将很难用现有的说法去描述。我们现在的框架很难适用。要做出精确的预测也非常困难，比如“哦，我们会开始建造Dyson球，或者我们会搞定纳米机器人，或者实现其他某些东西”。我觉得许多这样的事情会真的非常不同。所以也许在人类体验层面变化不会那么大，毕竟进化需要很长时间，生物学在很长时间里已经内建了非常强烈的驱动力。但就“技术栈里可能实现什么，以及一个人能完成多少事情”而言，那会感觉非常不同（ZP注：Dyson球：物理学家
Freeman Dyson提出的概念，指在恒星周围建造巨大结构，用来捕获并利用恒星的大部分能量输出）。
Vinod Khosla：更深入一点，比如说当今的公司会怎么样？我今天早上做了一个演讲，下午会在ILPS再讲一遍。我认为在2030年代，Fortune500的消亡速度会比以往任何时候都更快，哪些公司能存活、哪些不能，将取决于它们的应对。更快的消亡速度，你同意吗？还是不同意？
Sam Altman：我不确定，是的。我的直觉是会更快，但我没怎么深入思考过。最近我主要关注的事情是软件公司，我花在OpenAI之外的大部分时间都和这类公司打交道，我也理解软件公司的某种“物理学”规律。但如果我们正在走向一个世界，任何你想要的软件都能被实时写出来——比如你想做点什么，只需要在AI chatbot里输入，就能得到一个很棒的软件成品。那么，你不再需要去买这家SaaS公司的产品或那一家的，而只需说“运行”，它就能实现。这感觉是一个非常重大的变化，而且离我们并不遥远。
Vinod Khosla：我们也会回到接下
来的18个月，讨论这个话题。
Sam Altman：但那些管理复杂供应链的大型Fortune500公司，物理世界的变化总是需要更久，而软件方面的变化似乎来得更快。
Vinod Khosla：但时间足够长。物理世界的变化需要足够长的时间，这也是为什么我们选择2035到2050这段时期——到2035年也只有10年时间而已。
Sam Altman：我敢打赌，大多数现有公司无法快速适应，因此会因此遭受一些重大损失。这种情况已经持续很久了。我的感觉是，新公司的增长加速以及从现有企业手中夺取市场份额，就像一个巨大的指数曲线——新公司能够更快地变得更大、更重要。
OpenAI就是一个例子，我们发展得非常快，非常迅速。
人类的独特价值：AI无法替代的生物学驱动力
Vinod Khosla：是的。在那个时期，我们的观众中会有哪些职业呢？有创业者在打造AI医生、AI治疗师、AI肿瘤学家、AI结构工程师、AI芯片设计师，当然还有AI软件工程师、AI销售人员、AI市场人员、AI
会计师——这些今天都在发生。假设这一切都在进行，不论这些公司或某些竞争者是否成功，他们在2035年及以后的智力型工作领域中会成熟，而回到物理世界的工作，AI至少无法完成80%以上。
Sam Altman：有很多工作，我认为你不希望AI去做，或者很多人不希望AI去做。而且还会出现新的工作类型，人们尤其希望由真人来完成。我们非常关注关心他人的能力。我觉得谈到这些深层的生物学特性，这就是其中之一。所以，是的，也许你可以有一个很棒的AI教师，但它不会像一个普通人类教师那样给你动力。我完全可以相信这一点，完全可以相信，就只是知道这是一个真实的人还是不是，本身就很深刻。
Vinod Khosla：是的，我可能不同意你的看法。我认为AI教师可以做更多的事情，而且我能更好地理解你。
Sam Altman：
但我认为，很快就会有比你更优秀的AI投资者，这毫无疑问。不过，不不，我个人仍然喜欢和你共进晚餐。你知道，如果你对我说“干得好”或者“你应该做这个”，这对我来说比AI告诉我更有激励作用。所以我认为你仍然会有工作。
Vinod Khosla：我完全同意你。毫无疑问，我的工作并不比大多数其他工作更安全。
Sam Altman：更不用说安全性了。但还有另一点。
Vinod Khosla：是吗？Mark Andreessen声称这是唯一安全的风险投资工作，但我从根本上不同意他的观点。（ZP注：Mark Andreessen：风险投资家、企业家，a16z联合创始人之一）
Sam Altman：我其实一直在想，我们是否应该打造一个AI创业投资者。显然，我对这个问题已经思考很久，但我觉得以目前的模型，或许已经可以实现了。这会是一个有趣的小型副项目。
Vinod Khosla：这会是一个有趣的副项目，而且Sam有了新生儿，所以我确实认为我们会有更多时间。母亲不必在16周就离开孩子去工作，我觉得我们会有这样的自由。我们会有时间照顾长辈。我同意关于人类关系部分的观点，但像教学、医疗等服务，我可能……我想我当时在思考哪些工作是AI无法完成的。然后问题就变成了，在短期内，谁来完成这些工作？
Sam Altman：我的意思是，进一步谈谈教师这个话题，我觉得从客观角度看，我从阅读Wikipedia学到的东西可能比从任何教师那里学到的还多，或者本可以学得更多。但当我回想自己学习过程中的人和瞬间，很大程度上都与特定的人有关——那些与我建立联系、对我感兴趣、了解我并关心我的人。我能感受到这一点。而这些，某种程度上可以被AI的关系所复制。我认为整个情况会更加奇怪、复杂，而且非常不均衡。表面上看，AI似乎能胜任许多不同的工作，甚至几乎所有工作，但我们最终会发现，生物学编程实在很难被克服。
资本与创业：在
AGI时代应投资未来，而非过去
Vinod Khosla：我完全同意你。事实上，今天早上我提到，生物学编程不会进化。所以我们仍然会渴望地位，仍然会竞争，仍然会有影响者和注意力经济，我们仍然会关心孩子、长辈和家庭。而且我们会有更多时间去做这些事情，所以我同意你的观点。但让我再深入一点。大约是在3.5年前，人们所谓的ChatGPT时刻发生了，对吧？
Sam Altman：2.5年前。
Vinod Khosla：所以从那时起五年以后，如果往前看，甚至从现在起的18个月，到2026年底，AI能力会从今天到2026年底发生多大的变化？我现在讲的是非常短期的变化，相比于从
ChatGPT时刻到今天的2.5年变化。
Sam Altman：我不太确定如何用直觉来衡量这个变化。我想，从“什么都没有”到ChatGPT的第一个版本，可能是大多数人经历过的最大系统冲击，因为之前根本没有这个东西，而现在它出现了。当然，它当时并不算很好，但从零到一的时刻非常重要。现在我们可能已经从1到10，在某种意义上，这也应该是很重要的，但大多数人并没有完全感受到。未来18个月，我们可能会从10到100。但我觉得大家已经接受了AGI迟早会到来，生活还在继续，你们仍然在做你们正在做的事情。
Vinod Khosla：至少不会比那更少。
Sam Altman：嗯，我觉得从实际能力上看，进展会令人震惊，但这类震惊是预期之中的；而ChatGPT对大多数人来说是非常意外的。所以即便影响会更大，人们也不会觉得像当初那样疯狂。
Vinod Khosla：
我敢猜，大多数人还没有完全意识到从10到100这下一次10倍变化的幅度，但我可能错了，毕竟在小圈子之外。
Sam Altman：一年前，我会同意这个说法。两年前，我也肯定会同意。现在我有点惊讶，比如在旅行时和一些随机的人聊天，他们会说，“哦，是的，AGI几乎要来了，你的电脑已经比人类聪明了，将会变得更聪明，一切都会非常不同。”所以，我觉得在这一点上人们的认知已经有了很大的更新。
Vinod Khosla：所以这一切之所以发生，基本上是因为Scaling Laws。到底有多少不同的Scaling Laws在告诉我们这种指数变化的机制，它是如何驱动的？
Sam Altman：是的，我的意思是，从高层来看，输入并没有发生太大变化。我们不断发现更好的算法，因此不断找到更陡峭的Scaling Laws。我们不断研究如何构建更大的计算机、更强大的芯片，并将它们互联起来，同时获取更多、更好的数据。我认为我们将开始把这些系统以新的方式组合起来，实现某种持续学习，让系统永远运行并变得越来越智能。
但实际上，过去几年的故事主要是更好的计算机算法和更多的数据。我真希望能给你说出更深刻、更有洞察力的东西。大量的算法进展已经令人难以置信。尤其是我们搞明白的推理技术，以及无监督学习的最初理念，我会把它们都归入这一类。同时还有一些较小的进展。这种过程就像你不断地磨练、积累，让我想起历史上任何其他结合研究和工业学习的事情，比如晶体管之类的。
Vinod Khosla：所以有Scaling Laws，而且是多种Scaling Laws，如果你问ChatGPT，它会定义多种类型的Scaling Laws。但我想到的另一个因素是，你认为AI科学家什么时候会开始做大部分AI研究？
Sam Altman：我认为这个过程会非常渐进。不是说今天OpenAI的研究员用Codex就能直接产生10%的研究成果，再到20%、30%，然后开始自己测试一些新的模型架构。但研究员仍然在引导它。然后它会稍微多做一些，比如“好，这是要去测试的假设”
，但研究员感觉自己只是更高效地工作，可能会说“我做了100%的研究，只是有了更好的工具”。但如果这个研究员现在的产出是之前的2倍或10倍，比如10倍，那么此时你算AI做了90%的研究，还是算0%，因为它还没有完全自主完成整个循环？我认为这将是一个混乱的联合加速过程。
Vinod Khosla：不必去精确测量，但可以观察新进展的变化率和加速度。对我来说，这是一种最终衡量标准。除了我们刚刚讨论的Scaling Laws之外，变化率会发生什么？
Sam Altman：我认为从现在开始，每年我们在研究方面的进展都会更快，因为我们拥有了更好的工具。所以无论你愿意称之为AI协助人类，还是人类协助AI，或者AI本身在做研究，其净效应都是加速的。不仅是算法进步，还有整个供应链。如果AI帮助我们更快地建数据中心，如果它帮助我们更快开发各种新型芯片，包括相当前沿的芯片，我认为这些都算数。因此，如果你把它看作进展速度，只要AI以某种方式加速了这一过程，你就可以把这部分研究算作AI在做的研究，我认为进展会非常显著。
Vinod Khosla
：对我来说，关键是AI自己提出新的假设，并自行验证然后修改这些假设——这似乎是一个良性循环。
Sam Altman：我有一点不同的看法。我认为我们关心的只是我们能多快完成更优质的研究。无论是AI自己提出假设，还是帮助人类提出人类自己无法完成的假设，我都同样满意，真的。
Vinod Khosla：这里有一个问题，很多LP问我获胜者会不会通过这种加速进一步巩固他们的领先地位？如果这个关于研究加速的假设是对的，那么你和其他一些领先者就可以持续保持领先，新玩家很难从零开始竞争，除非他们提出完全正交的方案。正如你所知，我们也在研究一些正交方案。这是否会让OpenAI在估值上获得优势——这是我们都希望的，我当然希望如此？这是很多人关心的问题。
Sam Altman：看，如果我是一个LP，我会花0%的时间去思考如何投资另一个AI
研究实验室，而把100%的时间花在思考如何投资下一个机会——我意思是，GP在这方面也很糟，但你不糟，你相当不错。但总体来说，世界上大量投资资本的心智份额都在追逐上一轮赢家，而你几乎从中赚不到钱，很少能赚大钱。真正的高回报通常来自投资那些以前不可能的事物，以及在非常未经验证的项目上拥有某种差异化洞察力。现在，每个人都想投资下一个OpenAI，但下一个数万亿美元公司很可能不会是另一个AGI研究实验室，而很可能是因为AGI作为新技术出现后而被建立起来的东西，就像OpenAI刚开始时，大多数人想投资的，是我记不清是另一个Facebook还是其他加密货币。
Vinod Khosla：我得跟你讲一个有趣的故事。当我们投资OpenAI时，这是我20年来唯一一次给所有LP发投资道歉信。我写道：“我知道这看起来很奇怪，但我们还是要投资。”
Sam Altman：我只会因此稍微记恨你一点点，没关系。总之，我觉得现在是一个非常令人兴奋的时期，因为新机会的广度比我以前见过的任何时候都要大。当OpenAI
刚成立时，我们的机会空间是由一些研究突破打开的，比如加密市场补贴GPU，以及许多新的进展。还有一些零星的因素，但总体不多。我记得那段时间，我认为值得投入的事情清单非常非常短。而现在，我认为值得投入的事情清单非常庞大。我觉得人们应该以此为依据去投资，无论研究收益最终归OpenAI还是其他人。
我认为，作为资本分配者，到目前为止，最重要的问题可能不是谁最终获得收益。世界上将会出现几乎免费的AGI。会有像OpenAI这样的公司创造巨大的价值，因为我们拥有一个非常成功的大型消费产品以及其他一些因素。
如果我们再回到晶体管的比喻，当时有少数公司是真正的晶体管公司，但大多数都消失了，只有少数存活。现在看看这个房间里的很多东西，都含有晶体管。我们不会称之为晶体管设备或晶体管公司。它只是成为一项技术，使一整套新公司得以成立，包括OpenAI。而这才是值得追求的。同样，作为资本分配者，这是一个极其令人兴奋的时代。你应该追逐未来，而不是过去成功的东西。
OpenAI愿景——打造个人AGI与智能操作系统
Vinod Khosla：那么让我回到ChatGPT的发布。什么最让你感到惊讶？然后根据你观察到的用户行为，你的思路是如何演变的？
Sam Altman：好，我们再往前回溯一点。在科技公司里，传统做法是先创办一家产品公司，打造一个成功的产品公司，然后再附加一个研究实验室。这有时效果很好，比如Xerox Parc；有时效果很糟，比如一些现代公司。但据我所知，我们是唯一一个例子：一开始我们有一个运营非常良好的研究实验室，然后后来才附加上一个运营不佳的公司。那时已经是OpenAI成立大约4.5
年，我们甚至没想过要做产品。但最终很明显，由于规模、亏损和所需资本，我们必须建立一家真正大的公司。而要建立公司，就必须有产品。
当时我们有一个模型叫GPT-3，我们在公司内部不断强调要尽快想出产品方案。但我们就是想不出办法，它还不够好。虽然很酷，但还不足以做出可用的产品。我记得Paul Graham曾给过我一句一直铭记的建议：无论如何，你都应该做一个API。做了API，好事自然会发生。所以在没想出产品点子的情况下，我们决定把GPT-3放到API里，让全世界来集思广益，也许有人能找到用法。结果，全世界只找到了一个用法。GPT-3唯一赚钱的用途是这些文案生成应用。我现在都快忘了这些公司的名字，但当时有几家公司很快就成为估值十亿美元以上的企业，仅仅是用GPT-3为网站生成文案然后进行转售。
人们尝试了其他东西，但没有其他公司成功。不过我们有一个叫playground的平台，你可以在上面测试prompts，看看会得到什么结果，这反而成了一个“意外爆款”。有人会整天跟它聊天，虽然人数不多，但可以看出用户有跟模型交流的需求。那时候还没搞明白RLHF，也还没有GPT-3.5，模型其实还很差，但已经有明显的用户信号，表明人们想要跟模型聊天。除了文案生成，这是唯一有真实吸引力的功能。于是我们想，也许这就是我们应该做的产品。于是开始研究如何让模型更容易交互，当时还需要复杂的prompts，我们改进了模型，然后决定推出一个聊天界面。原本还计划做其他东西。
在OpenAI内部有一个大问题：如果可以聊天，是否必须是某种特定类型的助手，帮助用户学习或者完成某个目标？如果只是闲聊，人们会愿意吗，还是会觉得无话可说？我们差点没推出，但最终发布了这个预览版，你可以随便聊。
还有一个有趣的发现：我们有一个测试用户群，当时模型非常糟糕，很少有人坚持使用，留存率非常低。但那些坚持下来的用户使用量随着时间增加。我们差点因此没有推出它。我后来反思，一个重要经验是，如果一个产品哪怕只有一点留存率，你其实已经处于非常有利的位置。如果只有5%，也完全可以。默认情况几乎总是直线下滑到0，但当时我还没能直观理解这一点。
Vinod Khosla
：那么，我不知道你们公开用的ChatGPT用户数量是多少。你对ChatGPT未来的发展有什么设想？
Sam Altman：OpenAI的愿景是，我们希望打造一小套产品，以及一个可以与任何其他服务配合使用的平台，成为你的默认个人AGI。这个系统会了解你，连接到你的各类资源，并按照你希望的方式行动。如果你想通过聊天界面使用它，也可以；如果你想以新的方式使用社交产品或娱乐产品，也没问题；如果你想通过代理完成大量工作，或者做其他很多事情，也都可以。如果你希望能够登录任何其他服务，并把你的智能带到那里，我们也会实现。
随着时间推移，这将扩展到更多类型的服务。我认为还会出现一些非常重要的新型计算机，我们也希望用户能够使用这些。但总的来说，我觉得人们将会与AI建立非常重要的关系——它会帮助他们更高效、更优秀、更快乐，推动生活向前发展。而我们希望成为那样的存在。
Vinod Khosla：所以这不仅仅是你可以随时调用的智能，对吧？
Sam Altman：嗯，从某种程度上来说，这确实就是我们在提供的东西。但创造出色的体验，并以不同方式整合它，也有很大的价值。
Vinod Khosla：那么，如果你考虑ChatGPT的下一个十亿用户，会是相同的使用场景吗？还是会有所扩展？会涉及很多不同的用户群体吗？你设想会是怎样的？
Sam Altman：我不想详细介绍我们的产品路线图，但我认为我们仍处于AI的终端阶段，我个人非常喜欢终端。我觉得终端曾经是使用计算机的一种很好的方式。但当我们围绕这一点构建现代计算机界面的其余部分时，它不会完全像传统计算机界面那样，这相当于一个新的进步。我认为到时候它会更容易使用，也更强大，更易被大多数人接受。
Vinod Khosla：是的，我听你说过，ChatGPT是一个智能操作系统。
Sam Altman：对，我们希望把它做到那一步。
Vinod Khosla：那么现在还缺什么呢？
Sam Altman：嗯，几乎一切吧，我们还处于非常早期阶段。
Vinod Khosla：我们确实还很早，但你一定会觉得有些东西还缺失，对吧？
Sam Altman：是的，有一些缺失。
Vinod Khosla：好吧，如果你不想谈缺失的部分，也没关系。
Sam Altman：那是我们的产品路线图。
AI企业应用——从虚拟同事到科学突破
Vinod Khosla：好，我们换个话题。显然，除了个人使用，另一个重要领域是企业应用。你能谈谈这方面吗？
Sam Altman：我认为这里有两个非常有趣的方向。第一个是“虚拟协作同事”
的概念——利用AI来完成企业目前必须处理的各种事务，并做得更好、更高效。这个方向非常棒，你已经可以看到一些实际案例。例如编码代理（coding agent），可以明显应用于企业场景；还有在客户支持中使用AI代理的情况，也非常出色。在大多数企业中，由AI完成的任务比例，只会越来越高，这几乎是显而易见的趋势，而且已经在进行中了。
我更兴奋的第二个方向是：如果企业能够将整整一组计算资源投入到一个非常复杂的问题上，会带来什么可能性？比如科学发现，可能是最令人激动的案例，但还有很多其他非常难、非常有价值的问题，如果企业现在能解决（而目前做不到），将会催生全新的可能性。随着AI系统能够对问题进行深度思考，这将根本性地属于企业的领域——比如发现新材料，或者优化一些极其复杂的供应链。
Vinod Khosla：我很期待看到这一领域的发展。如果从企业的短期视角来看，我们之前讨论过AI科学家——不仅是为AI做研究的AI科学家，还有材料科学、生物学等其他领域的
AI科学家。你也提到过，这类能力层次在未来可能会融入所有这些模型。在短期内（无需新能力的情况下），AI在哪些企业领域会带来最大破坏性？企业的短期收入又会来自哪里？
Sam Altman：我猜，在非常短期内，AI软件工程师将是对企业最具破坏性的因素。企业在这方面投资最多、发展最快。这个环境特别适合，有很多独特原因：它直接对应了大多数公司当前的“瓶颈”，同时也是一个潜在的收入机会。我认为，在今年剩余时间里，这可能会成为最重要的故事。其他方面也会有所发展，你会看到擅长利用AI的团队明显优于其他团队。
Vinod Khosla：显然，软件开发几乎是每个人都认可的一个重要新领域。那么除了软件之外，传统企业职能呢？
Sam Altman：是的，这已经不再是理论上的事情了。我们从企业那听到的情况是：他们现在已经用AI处理所有客户支持，用AI做销售，用AI处理其他职能。这些也都在发生，但我认为它们不会像软件开发那样有那么明显的可见影响。
创业建议与全球影响——在不确定性中构建未来
Vinod Khosla：我想换个话题。你在OpenAI经历了很多决策，当时充满极度不确定性：这项技术会成功吗？它会如何发展？竞争对手会怎么做？你做过哪些最困难的决策？哪些结果证明是对的，哪些是错的？你是如何看待这些的？
Sam Altman：对我来说，最困难的不是单个决策，虽然其中有很多确实很难，而且我们也犯过不少错误。真正困难的是必须同时做出大量决策、处理大量事情，以及这些决策和任务之间高度相互关联。我从没找到过很好的建议，所以只能边摸索边前进。我觉得，如果我们能够在想要的规模上运作、完成所有事情，但只需要做一半的决策，生活会轻松很多。但现实是我们完全被任务“压满”，我也不知道该怎么办。因为我们真的必须同时做很多事情。
我们必须运行一个出色的研究项目，建设大规模基础设施，还要开发各种产品——清单很长。但是，我认为硅谷关于快速做出大量决策的经验并不多。对于少量或重大决策倒是有不错的建议，但我还没想出办法，把OpenAI变成一个只需要做少量重大决策的组织。如果能做到这一点，我觉得会最有帮助。问ChatGPT也没帮上忙。
Vinod Khosla：我最近听到一个有趣的例子：有人说ChatGPT比任何执行教练都要出色，他们一直在使用它。
Sam Altman：是的，它在通用情境下做心理辅导和执行辅导的能力让很多人感到惊讶。目前，这已经成为我们使用ChatGPT的一个重要场景。我认为另一个困难的决策类别，是“如何去做某件新事物
”或者“决定去做某件新事物”。
OpenAI一直以尝试新事物为荣，而不是简单地复制竞争对手或其他研究机构。如果你观察其他研究实验室，他们大多在做与OpenAI类似的研究，而且很多产品几乎完全模仿我们的，整个行业看上去非常相似。
我以前会觉得这只是缺乏创造力之类的事情，但实际上，做出去做新事物的决策真的非常困难。如果你知道某件事已经行之有效，就很容易被诱惑去直接复制，而不必做这些艰难的决策。我现在很理解为什么人们会这么做，但我也相信，这并不是推动世界前进的方式。
Vinod Khosla：研究实验室之间存在很多互相借鉴和复制的情况，而很多创业者则要在极度不确定性下做决策——比如模型会发展成什么样、如何做战略决策。这些决策可能数量不多，但每一个都非常关键。你对他们应对这种不确定性有什么建议吗？这是我最常被问到的问题之一：AI能力会往哪里发展，我应该做什么假设？在现有模型基础上，如何构建自己的创业公司？
Sam Altman：从历史经验来看，有效的方法就是假设模型在各个方面都会不断进步：更强的多模态能力、更高的智能、更强的推理能力、更低的成本等等。我没有理由认为在未来几年这种趋势会减缓。当然，可能会有一些短期的停滞，比如人们需要重写基础设施或者等待新计算集群上线，但总体来看，不必过度去算计这些细节。
你只需要问自己这样一个问题：假设有一位“神谕者”告诉我，这个模型每年在几乎每个维度上都会提升约10倍，我应该在什么时候构建什么产品？按照这个思路去做，就可以得到比较高层次、可靠的指导。
Vinod Khosla：
对于那些在你们模型基础上开发产品的人，你觉得大家最容易误解的是什么？你希望创业者们理解什么？这里我指的是那些在你们模型上构建产品的人，而不是试图和你们竞争的人。
Sam Altman：我对现在在做AI应用的人印象非常深刻。我觉得他们对模型理解得非常透彻——知道模型能做什么、不能做什么，也知道如何发挥最大性能。我没有什么额外希望他们去理解的东西。最近我在家里举办了一次晚宴，邀请了大约 20 位我所听说过或见过的最令人印象深刻的新一代AI创业者。我绕着桌子和大家交流时，我感叹，这些创始人比五到十年前的世界上大多数创始人都要出色。我真的没有什么额外的“愿望清单”，我对他们非常佩服。
Vinod Khosla：我想谈一些AI的全球影响，但在那之前，我想问我最喜欢的问题，同时也想留足时间给观众提问。你觉得什么时候会出现一家10人的公司，年收入就达到 10 亿美元？这种公司已经出现了吗？很快会出现吗？还是不可能？显然，我有我的偏见。
Sam Altman：我会打赌，这家公司要么已经出现了，要么将在未来几年内出现。
Vinod Khosla
：完全同意。我一直在猜测它可能已经开始了。想想如何创造价值，以及创造价值需要什么条件，真是令人惊讶。
Sam Altman：这也是为什么我觉得AI在科学上的应用特别有趣。你可以想象，一种新药的发现可能产生超过 10 亿美元的收入，这个药物可以由一个人，外加5万块GPU，完成发现和临床试验的工作。
Vinod Khosla：是啊，我今天早上收到一篇文章，有人发给我，说仅用AI就发现了治疗黄斑变性的药物。你的观点是对的。但同样的情况也可能发生在娱乐或其他领域。那我们来谈谈全球推广问题：如何确保AI的利益能更广泛、更公平地传播？人们有一种担忧 《Situational Awareness》这篇文章里提到，只有几百人真正理解这种巨大变化及其速度。但请谈谈全球影响，以及如何在本国乃至全球实现公平和广泛使用。
Sam Altman：我不想显得回避这个问题，但也不想太悲观，因为我觉得有些重要的点需要强调。你看ChatGPT 现在大概是全球第五大网站，如果保持现有发展轨迹——虽然很难——它将成为世界最大的网站。
将会有数十亿人使用免费的通用
AI。到某个时候，每个人都能获得优质医疗建议、优质教育，每个人都能提出软件需求，免费由系统为你完成。这就是技术的运作方式。我认为资本主义非常棒，这并不意味着我们不需要在细节上做一些调整，我认为确实有一些重要问题需要不同的处理方式。但总体上，技术的好处是把工具交到人们手里，让它们免费或低成本，然后人们会创造惊人的成果。
很多人认为，世界还没准备好应对这个变化，只有少数人理解它。但我认为人们其实很清楚自己需要什么，也很擅长学习使用新技术。而且，这不是理论问题，现在大规模实践已经在发生，我觉得这非常棒。这也是因为现有世界体系和激励机制在很多方面非常出色。
当然，如果AI开始进行大规模科学发现，我们确实需要一些新的做法。比如，有公司用AI发现了治愈所有癌症的方案，我希望这些人能因此非常富有，但我也希望全世界的人都能以低成本获得癌症治疗。有人用AI推动核聚变商业化，我希望相关公司赚大钱，但全世界都会从电力价格下降中受益。我觉得总体上，技术会带来巨大的全球利益。过去几百年的历史也证明了这一点，我们不必为此感到羞愧。
AI会带来一些不同的情况。你可以想象一个计算资源极度稀缺的世界，需要用全新的方法民主决定哪些问题优先解决。可能大部分资本都希望获得计算资源，这会导致资源极度昂贵和稀缺，这是不好的。但我认为至少第一步的解决方案是：提供更多计算资源。我对这事没有完全把握，但我觉得AI应该成为推动世界更加平等的力量，而不是导致分化。
AGI时代四大核心挑战：通缩、能源瓶颈、全球治理与竞争范式重构
Vinod Khosla：为节省时间，我抛出三个问题，你可以选择回答其中一个，也可以全部回答。政府的角色、我预期AI会在2030年代导致极度通缩的经济，以及具有感知能力的AI风险。你可以选择想回答的一个或全部。
Sam Altman：
那我就从通缩开始吧？你来提醒我什么时候该切换到其他问题。我认为确实应该是极度通缩。我希望是通缩，但所有将被创造出来的过剩财富，总得有去处。我希望水、食物、医疗、教育、接触自然的机会、与家人共处的时间等等，都能成为每个人都能负担得起的东西，然后我们都去玩一些最荒谬的地位游戏，比如把达·芬奇的画作竞拍到一万亿美元，或者把星系竞拍到千万万亿美元，让那些想玩地位游戏、想为他人创造价值、想有炫耀资本的人去做这些事情。但我认为一个有趣的问题是，如果我们希望一切价格暴跌，如果我们希望一切变得超级便宜，人们又充满野心和创造力，习惯了看电视并努力工作，我们要如何追踪这些，过剩财富最终会流向哪里？我觉得这是一个非常有意思的设计问题。
Vinod Khosla：是的，确实如此。我非常相信经济会是通缩的，如果GDP是一个好的衡量标准——虽然我认为不会——我们衡量GDP增长的方法可能会爆炸式增长。所以你会看到这两件事同时发生。好了，我们来看观众提问。
Audience：嘿，Sam，我们在本次峰会上的大多数人一直在讨论AI作为我们业务的推动者。我想换个角度，考虑它作为潜在威胁的情况——让我们的竞争对手能够构建竞争模型、更好的模型、更快的模型，平衡竞争环境，甚至可能更糟，把优势倾向于他们而不是我们。你会如何看待这种情况？
Sam Altman
：我不太确定我理解其中的区别。我觉得它会让某些人受益，同时让另一些人处于劣势。我认为你唯一能做的就是努力站在受益的一方。但我认为这两种情况都是真的，只是不确定该如何采取不同的行动。换句话说，你的所有竞争对手——无论新老——都会尝试用AI超越你，而你能做的，就是做得更好。
Audience：这个问题的意思是：在一个超级智能的世界里，竞争模式甚至还可能存在吗？
Sam Altman：我不知道，我的意思是，答案当然是肯定的，竞争模式仍然可能存在，但我不知道它们具体会是什么样子。我觉得有些可能看起来差不多，比如网络效应、品牌这些，我能想象它们会很类似。但我也确信有很多现有模式将不复存在，同时我能想象会出现一些全新的模式。这正是商业中最有趣的部分——去探索这些新模式会长什么样，这本身就很令人兴奋。
Audience：我觉得你刚才提了一个很有趣的观点——存在一些科学问题，可以投入50000个GPU去解决。我知道我们在座的很多人对核聚变很感兴趣。只是猜测一下，物理世界无法像计算那样快速扩展，但你会在什么时候“按下开关
”，投入50000个GPU去解决像核聚变这样的难题呢？
Sam Altman：大概就是现在吧。我觉得你需要稍微提前一点行动，因为这样你就能逐渐摸清问题的轮廓。我认为现在正是启动一些大型高算力科学项目的合适时机。至于是不是应该从这个具体方向开始，我不确定。但从方向上看，是的。
Audience：类似于能源领域的核聚变，你怎么看待AI世界中的能源基础设施呢？我今年1月在瑞士参加一个会议时，听到Eric Schmidt提到，欧洲永远不会成为AI大国，因为算力消耗巨大，而欧洲的能源成本太高。后来DeepSeek出现，效率更高了。你是否认为现在就应该开始为这些技术构建数据中心以满足能源需求？随着你们开发这些数据中心，关于能源基础设施你们的设想/假设是什么？
Sam Altman：我的意思是，我认为这两点都是事实。一方面，AI模型的效率会大幅提升；另一方面，全球对AI的需求也会非常旺盛。即便有了超高效率的模型，要满足全球范围内的 AI 需求，我们仍将需要许多千兆瓦、数十千兆瓦的能源，最终或许还会需要数百千兆瓦。不过，我对新型能源的投入使用持非常乐观的态度，而且我认为未来能源会充足且价格低廉。
而且我认为AI和能源显然是密切相关的领域。当然，能源之所以重要，也有其他原因—— 毕竟你需要有能力推动现实世界中的各类事务运转。但很难夸大的一点是，我预计10年后，AI的成本会逐渐向电力成本靠拢。除此之外，其他所有成本都应该会变得非常低。比如，我们可以通过自动化技术生产芯片，但仍然需要电力来驱动电子设备运行。
Audience：我想回到Vinod的第三个问题：政府的角色是什么？
Sam Altman：关于AI基础设施的问题，我认为要确保我们能够构建足够的AI，使其变得充足，而不是仅仅被富人垄断，这似乎是政府的重要任务。这里需要一些关于监管的护栏。我们都能看出过度监管可能会是灾难，但监管不足同样会非常糟糕。在系统变得更加强大的时候，制定一些全球规则，我认为这只能来自政府。公司可能会提出方案并探索应该是什么样子，但我认为只有政府才能在全球范围内执行。我还觉得未来会有一些关于分配和访问如何共享的大问题，也会有一些关于我们如何看待数据的问题需要政府来权衡。我预计，到比如说美国2028年的大选时，这会成为一个非常重大的政治议题之一。
Audience
：嗨Sam，有两个问题，第一个是关于接口带宽的。随着越来越多的Agent变得越来越强大，能做不同的事情，我可能会希望能够同时和成千上万个Agent对话。问题是，如果我不断切换接口并等待它们返回结果，那我可能就没有在做其他事情，只是在处理这些Agent一个接一个的任务。然而，另一个问题是，我又不能让它们完全自主，因为它们会按照和我真正意图不同的方式去做事情。这一点在比如让我写一个PRD时就很明显，结果并没有完全符合我的要求。所以这就涉及到大量的编辑工作，而带宽就是导致我能处理的Agent数量出现扩展性问题的原因。那么你怎么看待这个问题？下一步该怎么做？
Sam Altman：将来会有一些Agent，它们的工作就是评估其他Agent的输出，并决定什么时候、向你呈现什么内容，以及在什么时候可以做出决策，或者理解你会做出的决策。这会是另一类Agent的工作，而且我敢打赌会非常有效。你可能还会有一个专门为你生成的UI，它会根据这些Agent的输出实时演化，并且很好地判断什么时候该引起你的注意。我认为今天的问题很多在未来都不会再是问题，因为AI会不断变得更聪明，并且能够在更高层次的执行功能上工作。
Audience：在Somite.ai ，我们构建用于干细胞分化（human stem cells）的基础模型，以推动新的治疗方法，包括新的细胞替代疗法，并通过一种新的数据模式来实现。我的问题是，当你思考未来在物理世界、生物学等等领域的突破时，瓶颈在哪里？突破会来自通用模型吗？还是来自领域特定模型？会来自数据本身吗？你认为生物学上带来新疗法的第一个真正突破会出现在哪？
Sam Altman：坦率地说，我其实并不知道。我认为在某些科学领域，即使没有更多的数据，更聪明的智能体也可以带来新的突破。比如在物理学领域，可能在没有任何新的数据点、甚至没有再建一个粒子加速器的情况下，AI就能解决物理学的问题。我不认为这非常可能，但也许我们需要的数据早就存在，只是我们没有能力解出足够复杂的积分之类的。而在生物学领域，我会说几乎不可能在没有任何新的湿实验室实验的情况下就治愈所有癌症——不是完全不可能，但不太可能。我认为我们需要构建新的系统，不一定要是自动化实验室。
哪怕只是发一封邮件给科学家，说“你能帮我做这个实验并告诉我结果吗？”也可以。但总之需要一种主动学习系统，能够不断获取新的数据点。至于具体哪个问题适合哪种方式、真正的瓶颈在哪里，我们会采取经验性的方式来探索。
Vinod Khosla：谢谢Sam，我想我们今天就到这里。
原视频：Where is AI Taking Us｜Sam Altman&Vinod Khosla
https://www.youtube.com/watch?v=6NwK-uq16U8&ab_channel=KhoslaVentures
编译：Chenkai Gao，关注大模型与AI Agent等前沿技术与应用，欢迎交流
请注意，本文编译自文末载明的原始链接，不代表Z Potentials立场。如果您对本文有任何想法或见解，欢迎在评论区留言互动探讨。
Z Potentials将继续提供更多关于人工智能、机器人、全球化等领域的优质内容。我们诚邀对未来充满憧憬的您加入我们的社群，与我们共同分享、学习、成长。
-----------END-----------
