ChatGPT最大的隐患不是抢人类的就业，而是让个人的经验变得廉价

最近看到不少关于同一主题的讨论，都契合stay hungry stay foolish的新解，正好遇上儿童节，便整理后记录下来。

有过编程经验的，会觉得上面的话有一些道理，如果不能从整体上加以驾驭，那大模型带来的快，就意味着返工（由于你的提示词和真实需求存在差距，而这差距由于你缺少深度思考而在后续显现），此时方向稳会比车速快更为重要，而这背后体现的，是大模型作为一个延伸的存储，其与中央处理器（人脑）的带宽和纠错码机制的缺失，限制了大模型的进一步使用。对于那些教授大模型使用的课程，上述思考意味着我们要关注的是什么样的思维习惯，能避免大模型编程过程中的翻车，让思维速度能和大模型的代码生成速度匹配。

第二条与AI作为心智扩展的分享如下：

对于大模型生成的类“得到”视频，笔者的看法与↑有所不同。前几年得到app之所以能够引领知识付费浪潮，就在于其将大V由手工作坊，变成了工业化生产内容，大V们的观点或许不再犀利，但其质量下限却可以保证。然而，正如美式快餐无法取代米其林餐厅的地位，工业化的内容生产，能够获得点击，但带有作者强烈个人标记的作品，却始终有着不可替代的价值。

之后，便是自然通讯上Andy Clark的一篇观点类文章，名为“Extending Minds with Generative AI”，该文开张明义，指出随着人机协作成为常态，我们应当提醒自己，构建人机混合思维系统是我们固有的本性——这些系统能够灵活地整合非生物资源。认识到这一点，会促使我们改变对即将到来的时代的威胁和机遇的思考方式。

https://www.nature.com/articles/s41467-025-59906-9

具体来说，该文先立靶子，指出技术带来的危害，就如上面给出的两个例子。具体来说，是：

1）人们担心新技术正在使我们变笨。GPS 应用程序正在缩小我们的海马体（或在其他方面削弱我们的无辅助导航能力）；

2）轻松的在线搜索让我们认为自己知道得比实际更多；

3）流媒体媒体的多任务处理正在降低我们的原生注意力持续时间，并（可能）影响前扣带回皮层灰质密度

4）潜移默化中，生成式AI会剥夺我们创造和珍视自身内容的必要性和动力？如果我们需要写一封投诉信、策划一场婚礼或撰写一篇论文，我们是否只需启动最喜欢的生成式人工智能，不加批判地接受它提供的任何内容？长此以往，我们的智慧不再闪耀，集体自我被AI剽窃，创造力的价值不再被珍视。

用一句话概括上面的例子，便是AI不仅会夺走我们的时间和注意力，还会剥夺我们创造的快乐本身。

之后作者用扩展心智，即人类的认知随着工具的增加，而逐渐扩展范围，来回应上述担忧。稳重首先回溯历史，指出人类似乎对承认自身的混合本性表现出一种奇怪的抵触。我们长期以来都怀有一种高度限制的自我形象——这种形象自然而然地导致我们担心新的工具和技术会导致心智能力的衰退。

在柏拉图的《斐德若篇》（约公元前 370 年写成）中，可找到了一个清晰的陈述：即诸如阅读和书写等新发明的发明将对人脑记忆产生灾难性的影响。这种担忧是，这些创新会导致懒惰的大脑。我们会开始认为我们比实际知道的更多，这要归功于这些廉价但肤浅的非生物存储和检索新方式。

如今，这些担忧似乎可笑。因为随着我们的工具和技术不断进步，我们能够更深入、更深入地探索生命和物质的奥秘。我们逐渐了解了时间初始阶段的可能条件，并揭示了生命的生化基础。我们并非通过变得越来越愚蠢的大脑来实现这一点，而是通过变得越来越智能的混合思维系统。

接下来，是作者Andy Clark的核心观点立论，即：

但我们还没有摆脱柏拉图描述的担忧之所以持续产生的根本原因——那种深刻错误的自我形象认知。这令人困惑，尤其是考虑到我们物种的历史一次次被新发现的工具和实践的变革性影响所标记。可以说，我们人类的基本本性就是这样不断将认知负担外包——成为我所说的“天生的赛博嵌合体”。

接着该文对该论点进行展开，指出

我们一直在忙碌地构建新的思维和推理方式来理解我们的世界和选择。随着这一过程的展开，生物大脑的最佳用途（尽管不是其基本操作和本质）再次发生着转变和变化 ^{。这是因为人脑在将自身技能与新工具和技术浪潮提供的机会相匹配方面表现出惊人的适应性。}

^{这并非简单的"工作卸载"，而是创造了精致交织的新整体——大脑、身体、外部世界，其中大脑所做之事、身体所做之事，以及通过外部媒体和应用程序提供的循环都在持续变化，各自以自己的方式、在不同的时间尺度上适应其他部分所提供的内容。我们通过不断尝试预测自身行为产生的感官后果（主动推理）来学习关于我们世界的信息。在这个过程中，我们的大脑通过在世界中采取不同行动，变得擅长解决关键的不确定性。}

^{当周围的世界呈现出丰富的可选项组合时，我们的大脑学会做最有效率的事情——例如，仅在生物记忆中存储所需内容（例如搜索线索），以便从其所在的大生态系统中随时获取正确结果。因此，大脑的核心技能包括启动那些能够利用各种环境机会和支持的行为——从在便利贴上涂鸦到启动人工智能。如果最佳的不确定性最小化行为组合需要一些内部脑力工作和一些身体工作（例如在笔记本电脑上敲击键盘），那么就会选择这一序列。大脑本身并不关心事情在何处以及如何完成。它擅长的是学习如何利用具身行动来充分利用我们的（现在主要由人类建造的）世界。}

说到这里，读者会认为这一次不一样了，具体来说，即人们担心的不是生成式AI会成为扩展思维的技术，而是它们可能会成为取代思维的技术。我们该如何应对这种担忧？

作者的回答是将概念细化，即魔鬼藏在细节里。文中接着指出：

我们所看到的大多是涉及人类创造性过程的改变，而非简单的替代。例如，一项对人类围棋玩家的研究表明，随着“超人类 AI 围棋策略”的出现，人类生成的棋步中出现了越来越多的新颖性。这种新颖性并不仅仅在于重复 AI 发现的创新棋步。相反，似乎 AI 棋步帮助人类玩家超越了数百年的传统智慧，开始探索围棋领域中以往被忽视（甚至被忽视）的角落。

Andy Clark推测，在艺术、音乐、建筑和医学科学等各个领域，情况也将如此。AI 不会取代人类思维，而是将成为文化进化认知过程的一部分。在那里，AI 思维的相对陌生性有时将对我们有利，使我们能够超越一些隐藏着重要新思维方式的偏见和盲点。

然而，相反的效果也可能发生，正如另一项近期研究（在某些科学研究成果的案例中）所指出的。人工智能在巩固某些工具、观点和方法论方面可能的使用方式，从而阻碍替代性方法的涌现——正如作者借用的类比，农业单一栽培在提高效率的同时，也使作物更容易受到害虫和疾病的侵袭，如果我们以单一的方式使用大模型，也会变得缺少多样性，如何避免文化上的同质性，将会是人机交互领域的研究焦点问题。

随着RAG的广泛应用，我们能根据个人的过往经历和输出文本，生成一个数字化的分身，这些电子分身将会产生我们没有说过，但却有可能认同，并让我们获得启发的观点。随着我们越来越习惯于在这些（日益个性化）的“认知生态系统”中工作和行动，我们将开始以类似对待在讨论某个新主题时突然闪现的想法的方式，来对待这些由AI数字分身产生建议与观点。我们将新想法视为在某种广泛意义上属于我 ^。

^{但是——就像那种突然闪现的想法一样——我们也想知道它是否真的合理，以及综合考虑下来，我们是否愿意认可它。通过这种方式，我们既信任又质疑更个性化资源的建议，就像我们可能会信任和质疑从我们自身的生物无意识中突然涌现的想法一样。为此，需要提升大模型的可解释性，如此生成式 AI方能作为真正的创造力增强资源——成为我们思考和决策方式的欢迎补充，而不是简单、不加批判地部署的替代品。}

^{无论技术如何，这些资源将围绕我们的生物核心旋转，涌现出想法和机会，帮助你做事、识别情境，并实现你的实际目标。在这样的人机协作中，人类创造力无需受到抑制。相反，它可以蓬勃发展，不断瞄准新的任务和领域。所有发生的改变（正如它一直发生改变的那样），将是人类大脑执行的一些具体任务和处理过程。这些改变将反映出哪些可以完全委托给新的数字无意识，哪些适合存储在生物记忆中，以及哪些必须通过新的、在认识论上进行过良好调节的互动方式涌现出来。}

^{这正是我们——作为个人和社会——需要切实努力的地方。作为社会，我们需要优先考虑（甚至可能立法支持）能够与我们的新型智能和半智能资源实现安全协同合作的技术。作为个人，我们需要成为更好的信任评估者，并懂得何时信任。这意味着我们需要以新的方式教育自己，学习如何从我们的生成式 AI 中获得最佳效果，并培养核心元技能（借助新型个性化工具的辅助），帮助我们从数字信息中筛选出真伪。}

^{在这个过程中，我们需要从相当早的年纪起就培养对“扩展认知卫生”的深刻而持久的关注。这方面已经有一些进展。年轻一代比以往任何时候都更懂得如何保护隐私、防范网络钓鱼以及在网上分享什么。现在，我们应该以同样严格的标准来对待我们可能会不加批判地纳入我们新数字扩展心智的一切事物。这意味着我们需要发展和应用丰富的认识论（知识理论）——一种更适合我们生物技术混合心智所面临的独特机遇和挑战的理论}

以上是对Andy Clark这篇评论的全文选译，而这对应下面的两条分享

上述两者所说的，其实和Andy Clark所说的异曲同工，与之类似的，还包括塔勒布对于大模型应用的评价，即人工在AI输出的策划、审核和增强中的角色也增加了多样性和质量控制的层次。（关于塔勒布对大模型的批评性思考）

更多阅读

闲话chatgpt，谁是带枪猎人，要吞噬整个宇宙

AIGC是我们时代的一面镜子，照出了我们的焦虑与短视

LinkedIn 联合创始人 Reid Hoffman 为人工智能时代提出的六条格言