原编者按：在篇首提及以ChatGPT为代表的聊天机器人最受关注的争议点后，齐泽克迅速把话题引向一个在他看来更为核心的问题，即思想与语言关系的问题。在齐泽克看来，AI只能字面上理解人类语言，但却无法模仿人类语言中的多义性、自反性、含混性。需要指出的是，齐泽克对于ChatGPT的认知存在明显错误。

ChatGPT的文本生成机制并非对人类既有语言、话语的简单模仿、复制。相较于以往的大型语言模型，GPT-3（及之后的版本）之所以展现出能力上的飞跃，恰恰是由于其在训练过程中引入了“思考链提示（Chain-of-Thought prompting，简称CoT prompting）”的一种方法，“小样本学习（few-shot learning）”。这种训练方法会要求AI在训练过程中生成-言说（generating-enunciating）回应问题的思考过程而不仅仅是问题的答案，通过少量样本（包含思考过程与答案）提示就可以让机器自己举一反三学会学习。

而这种训练方式之所以可行又与复杂性科学中所处理的复杂系统涌现（emergence）现象相关。由此，这篇文章呈现出一个吊诡的特征：齐泽克对GPT的错误认知并没有破坏其文章核心论点的有效性。GPT在经过“思考链提示”训练后所涌现出的能力，恰恰部分佐证了他对语言与思想之关系的一贯观点：语言并不表达（express）已完成的思想的，思想恰恰是在表述（enunciation）中涌现（emerging）。文章标题“人工智障（Artificial Idiocy）”的批判目标实际上并非“人工智能”，而是这样一种遍布从左至右意识形态的“人为蠢行”（Artificial Idiocy）：迷信一个完备的(complete)、不存在不一致性（inconsistency）的“大他者”-意识形态（理论、教义、观念、科学、GPT-4、齐泽克）能为知识、政治、伦理乃至革命提供稳固奠基与终极保证。

原文2023年3月23日发表于Project Syndicate，译文2023年3月30日首发于“远读”公众号，编者按来自于“保马”公众号，特此感谢！

人工智障（Artificail Idiocy）

文 | [斯洛文尼亚]齐泽克（Slavoj Žižek）

翻译 | GPT-4

校对 | 远读

“聊天机器人”（chatbots）并没有什么新鲜的：它们能够用自然语言对话，理解用户的基本意图，根据预设规则和数据提供回应。但是，近几个月来，这类聊天机器人的能力得到了极大的增强，导致许多圈子里都出现了担忧和恐慌。

关于聊天机器人可能会导致传统学生论文（essay）终结的话，已经说了很多。但是，一个更值得关注的问题是，当人类对话者使用侵略性、性别歧视或种族歧视的言辞，促使机器人展现自己满嘴脏话的幻想作为回应时，聊天机器人应该如何回复？人工智能是否应该被编程，使其回答与对方提出的问题处于同一水准线上？

如果我们决定需要采取某种形式的管控，我们必须确定审查应该进行到何种程度。一些群体认为“有攻击性”的政治立场会被禁止吗？呼吁与约旦河西岸的巴勒斯坦人团结在一起，或者声称以色列是种族隔离国家（美国前总统吉米·卡特曾将这个说法写进一本书的标题）呢？它们会被视为“反犹”言论而遭屏蔽吗？

问题并没有在这里结束。正如艺术家和作家詹姆斯·布里德尔（James Bridle）所警告的，新的人工智能“基于对现有文化的大规模挪用”，相信它们“真的有知识或有意义是非常危险的”。因此，我们也应该非常警惕新的人工智能图像生成器。布里德尔观察到，“在试图理解和复制人类视觉文化整体的过程中，[它们]似乎也再造了我们最晦暗的恐惧（fears）。也许这只是一个迹象，表明这些系统在模仿人类意识方面非常出色，甚至可以深入到潜伏在存在（existence）的深处的惊怖（horror）：我们对于肮脏、死亡和腐败的恐惧。”

但新的人工智能在模拟人类意识方面究竟有多好呢？最近有家酒吧用下面的话宣传一款特价饮料：“花两杯的价格买一杯啤酒，免费获赠第二杯！”对任何人类的一员来说，这显然是个笑话。经典的“买一送一”特价口号被重新设计，从而自我取消。这种玩世不恭的表达会被人称赞为滑稽的诚实，一切的一切还是为了促进销售。聊天机器人能理解其中的含义吗？

“Fuck”也提出了一个类似的难题。尽管它指向的是大多数人都喜欢做的事情（性交），但它也经常带有消极意味（“我们完蛋了！”[We’re fucked!]“去你的吧！[Go fuck yourself!]”）。语言和现实是混乱的。人工智能是否已经准备好去辨别这些差异？

德国诗人海因里希·冯·克莱斯特（Heinrich von Kleist）在他1805年的文章《论在言语过程中思想的逐渐形成》（On the Gradual Formation of Thoughts in the Process of Speech，该文首次发表于克莱斯特去世后的1878年）中，颠覆了以下常识：一个人在没有清楚要说什么之前，不应该张开嘴巴说话。他写道：“如果一个想法表达得很模糊，那并不意味着这个想法在构思时就是混乱的。相反，很可能那些表达【expressed】得最令人困惑的观念，正是那些思考得最清晰的。”

《连线大脑里的黑格尔》中译本，

将在今年由西北大学出版社出版

语言与思想之间的关系非常复杂。斯大林在1930年代初的一次演讲中，提出了许多激进措施，用来“发现并毫不留情地打击那些仅在思想上反对集体化的人——是的，我是这个意思，我们应该打击人们的思想”。我们可以肯定地认为，这不是事先准备好的话。在被当时的现场氛围感染后，斯大林立刻意识到他刚才说了什么。但是，他没有收回自己的话，而是决定坚持他的夸张说法。

正如雅克·拉康后来所说，这是一个真理在表述（enunciation）行为中意外显现【原文中为“emerging”，即复杂性科学中“涌现”一词】的例子。路易·阿尔都塞在捕获（prise）和惊讶（surprise）之间的互动中发现了类似的现象。一个突然抓住（“捕获”）某个想法的人会对她所完成的事感到惊讶。我再问一次，有任何聊天机器人能做到这点吗？

论文《大型语言模型的涌现能力》

问题不在于聊天机器人很笨，问题在于它们不够“笨”。问题不在于它们天真（缺乏讽刺和反思），问题在于它们不够天真（不理解天真掩盖着敏锐）。因此，真正的危险不是人们会把聊天机器人误认为是真人，而是与聊天机器人交流会让真人说话像聊天机器人一样——丢失掉所有的细微差别和讽刺，痴迷于准确地说出自己想说的话。

我年轻的时候，有个朋友在一次创伤性经历后去一位精神分析师那接受治疗。这位朋友对于分析师对患者的期待有一种陈腐的看法，所以他在第一次治疗时表演了一些虚假的“自由联想”，谈论他如何憎恨他的父亲，希望父亲死去。分析师的反应非常巧妙：他采取了一种天真的“前弗洛伊德”立场，指责我的朋友不尊重他的父亲（“你怎么能这样谈论让你成为你的那个人？”）。这种假装的天真传达了一个明确的信息：我不相信你的虚假“联想”。聊天机器人能理解这种潜台词吗？

很可能不能，因为这就像罗文·威廉姆斯（Rowan Williams）对陀思妥耶夫斯基《白痴》里的梅什金公爵的解读。根据标准的解读，“白痴”梅什金，是一个圣洁的、“极其善良美好的人”，他因现实世界的残酷和激情而被迫陷入孤立的疯狂状态。但在威廉姆斯激进的重读中，梅什金代表着风暴之眼：尽管他是善良圣洁的，但鉴于他在围绕着他的复杂关系网络中的角色，正是他触发了他所目睹的浩劫和死亡。

问题不仅仅在于梅什金是一个天真的傻瓜，问题在于他特有的愚钝让他无法意识到他对他人的灾难性影响。他是一个说话像聊天机器人一样的扁平的人【英语原文“He is a flat person who literally talks like a chatbot.”，译文删掉了literally】。他的“好”在于，他像聊天机器人一样，不带讽刺地应对挑战，提供毫无反思的陈词滥调，从字面上理解一切，依赖心智的自动完成（mental auto-complete）而非真正的思想形成（authentic idea-formation）。因此，新的聊天机器人将与各种意识形态拥趸（ideologues）相处得非常好，从今天的“觉醒”（woke）群体到宁愿继续沉睡的“让美国再次伟大”（MAGA）民族主义者。