点击上方“图灵人工智能”，选择“星标”公众号

您想知道的人工智能干货，第一时间送达

转自DeepTech深科技，仅用于学术分享，如有侵权留言删除

如果今天让人列出 AI 领域最有影响力的几位学者，大多数人或许会先想到 Geoffrey Hinton、Yann LeCun，或者更年轻一代的 Ilya Sutskever。

相比之下，Michael I. Jordan 一直是个有些特殊的存在。

Science 曾将他评为“最具影响力的计算机科学家”。在机器学习领域，他是概率图模型、变分推断、贝叶斯机器学习等方向最重要的奠基者之一。此外，他还培养过吴恩达（Andrew Ng）、Zoubin Ghahramani 、Yoshua Bengio 等后来影响整个行业的人物。许多今天被视为机器学习基础设施的理论框架，都能追溯到他和同时代研究者在上世纪九十年代建立的工作。

然而，这位机器学习领域最重要的人物之一，却很少把自己称作 AI 研究者。在最近接受 Machine Learning Street Talk（MLST）采访时，Jordan 甚至直接说：“我从来没觉得自己在做 AI。” 这不是谦虚，而是他从一开始关心的问题就和今天主流 AI 圈不太一样。

过去几十年里，机器学习大致形成了两条重要路线。

一条是今天最广为人知的深度学习路线。代表人物是 Geoffrey Hinton、Yann LeCun 和 Yoshua Bengio。这条路线相信，只要模型足够大、数据足够多、算力足够强，系统就会不断涌现出新的能力。从 AlexNet 到 GPT，再到今天的大模型热潮，本质上都延续着这套逻辑。

另一条则是 Michael Jordan 所代表的统计机器学习路线。这条路线更关注不确定性、推断和决策问题。与其追问机器是否拥有智能，他们更关心的是：在信息永远不完整的现实世界里，一个系统如何做出可靠的判断。

Jordan 最初学习的是认知科学，后来转向统计学，再进入计算机科学。相比于“机器会不会思考”，他更习惯问的问题是：预测是否准确？误差有多大？系统是否可靠？最近几年，他的研究兴趣进一步转向经济学与机器学习的交叉地带。

这次采访围绕他去年发布在 arXiv 上的论文《AI 的集体主义经济学视角》（A Collectivist Economic Perspective on AI）展开。这篇论文的核心主张是：当前的 AI 技术应当是“集体性”的，因为建立在数十亿人的数据之上，也意在服务数十亿人。但目前，围绕它的思考方式却几乎完全停留在“如何让单个模型变得更强”的层面。

Jordan 认为这远远不够。一旦这些系统进入真实世界，它们就不再只是一个模型能力问题，而会变成一个关于数据流动、利益分配、激励设计和社会协作的系统性问题。

在一个多小时的对话里，Jordan 围绕这篇论文的核心主张展开：AI 的真正挑战不在于让模型变得更强，而在于让系统学会协调。为此，他从优化与均衡的区别、不确定性的本质、模型可靠性等多个角度，阐述了为什么机器学习必须与经济学走到一起。与此同时，他也谈到了自己对 AGI 炒作的批评，以及对年轻研究者处境的担忧。

以下是几个核心论点的展开。

AGI 是炒作，而且它害了年轻人

从优化到均衡：AI 为什么需要经济学

除了对现象的批评，Jordan 还着重展开了他新论文中的一个核心观点：今天 AI 最大的局限，恰恰来自它最擅长的事——优化。

实际上，过去几十年里，机器学习取得的大部分成功，基本都来自于优化。给定一个目标函数，然后不断调整参数，让误差变得越来越小。大语言模型的“预测下一个词”（next-token prediction）就是最典型的例子。

图｜大语言模型的下一词预测（Next Token Prediction）过程示意。模型根据已有上下文计算所有候选 token 的概率分布，选择其中一个作为下一个 token，并将其加入上下文继续生成。（来源：Image 2）

没有人在乎模型是否真正“理解”世界

从经济学和社会系统的话题回到具体技术，Jordan 又谈及一个相当重要的问题：基础模型的预测能力越来越强，但它们往往不知道自己什么时候会出错。

“它不会给你误差棒（error bar，即误差范围）。”Jordan 说。

（来源：DeepMind）

例如，一个人申请贷款被拒绝后，真正需要的并不是看到神经网络内部某个节点的激活情况，而是知道哪些因素影响了结果，以及自己未来可以做些什么来改变结果。换句话说，用户需要的是能够指导行动的解释，而不是模型内部机制的显微镜照片。

不确定性不是敌人

图｜纳什均衡的抽象示意。棋盘上的黑白棋子代表多个相互影响的决策主体。当所有参与者的策略达到一种稳定状态时，任何一方单独改变自己的选择都无法获得更好的结果，系统进入纳什均衡。（来源：Image 2）

超级智能之外，还有另一条路

采访接近尾声时，Jordan 的语气明显变得轻松了一些。与外界印象不同，他并不是一个悲观主义者。恰恰相反，他反复强调自己对 AI 的未来持乐观态度。只是这种乐观与“超级智能即将到来”的想象无关。

在他看来，人类社会真正面临的问题从来不是智力不足。过去几千年里，人们发动战争，往往不是因为不会思考，而是因为误解了彼此的意图；人们做出糟糕的决策，往往不是因为缺乏能力，而是因为掌握的信息有限；许多社会问题之所以长期存在，也不是因为没有聪明人，而是因为参与者太多、利益太复杂，难以形成有效协调。

因此，AI 最值得期待的用途，未必是创造一种远超人类的智能。更重要的是帮助信息更好地流动，帮助人们理解彼此，帮助个人和组织在关键时刻做出原本想做、却因为看不见全貌而没能做出的更好决策。

对于当下流行的“超级智能”与“人类灭绝”两极叙事，Jordan 显然有些不耐烦。“这不是仅有的两个选项。”他说。“在人类尺度上，还有大量非常积极的事情可以做。”

事实上，在过去几年里，Jordan 一直在尝试为这种思路寻找一个更系统的框架。在他的论文中，曾画过一个三角形。三个顶点分别代表三种不同的思维方式：计算思维（computational thinking）、推断思维（inferential thinking）和经济思维（economic thinking）。