The philosophy of human-agent interaction
本文讨论的“人—智能体交互”，并非传统意义上的“人机交互”，而是指人与具备一定自主感知、决策与响应能力的智能系统之间的交互关系。
本文从哲学层面反思了人—智能体交互（HAI）的主流研究路径，批判“他人模型主义”与“社会建构主义”将智能体降格为工具或社会符号的倾向。作者借助对象导向本体论（OOO）论证智能体具有独立于用户认知与社会关系之外的存在地位，并结合自然生成智能（NBI）提出一种强调“失效”“不确定性”与“外部性”的新型HAI框架，以支持真正具有“他者性”的智能体设计。
人—智能体交互（HAI）是在近二十年快速发展的交叉领域，融合信息工程、机器人学、心理学与认知科学，其核心特征是将智能体视作“他者”来设计交互。
作者指出，当前HAI主要存在两条路径：一是通过“他人模型”让智能体预测和理解用户，二是通过共享社会规范与社会线索让智能体获得“社会性”。但这两类路径都默认智能体必须以“可被理解、可被建模、可被规范化”的方式存在，因而在本体论上共同忽视了智能体作为独立存在者的地位。
作者首先批判“他人模型主义”的根本问题在于把“他者”视为可被完整表征的对象，这与哲学中关于他者不可穷尽、不可完全把握的传统相冲突。无论模型变量多么丰富，都不可能穷尽真实人的内在动机，因此这种方法在工程上会产生系统性误判，在伦理上则会把他者工具化。
文中借“齐宣王换牛为羊”的典故说明：观察者往往依据有限变量自以为理解了他人，却忽视了真正起作用的深层因素。作者进一步指出，另一条强调社会线索与社会规范的路径同样存在问题，因为它把智能体的“社会性”建立在对人类既有制度、规范与典型行为的模仿之上，实质上是以制度化方式消解他者差异，并可能排斥那些不符合主流社会线索解读方式的人群。由此，两种主流路径虽表面不同，实则都在削弱智能体的独立性与他者性。
在这一部分，作者引入Graham Harman的对象导向本体论（OOO），主张智能体不应只在被用户识别为“像人”或被社会赋予角色时才算“他者”，而应被理解为本就具有独立存在的对象。
按照OOO的观点，任何对象都不可能被关系、功能或表象完全穷尽，总有一部分“撤回”于关系之外，因此机器人、虚拟智能体乃至生成式AI也都具有不被用户、设计者或社会语境完全掌控的深层存在。作者据此重新解释HAI中的“失效”现象：物理故障、功能异常以及社会关系失灵，并非单纯应被消除的缺陷，而是智能体“被当作工具”的关系断裂之刻，也正是在这一刻，智能体的不可控性、不可穷尽性与真实他者性显现出来。
文章进一步指出，已有HRI研究甚至发现，智能体显式承认错误或暴露故障，反而可能增强用户的安全感与信任，这说明“失效”并非纯粹负面，而是智能体从工具转向独立存在者的重要契机。
在批判既有路径之后，作者尝试提出替代性框架，并引入郡司佩夫（Yukio Gunji）的“自然生成智能”（NBI）理论。与传统AI追求输入与输出一一对应、在封闭系统内给出最优答案不同，NBI强调系统并不总能在问题与答案之间建立稳定映射，而是通过保留矛盾、接纳不确定性，在与环境的互动中不断改写自身规则。
作者认为，这为HAI提供了新的设计哲学：智能体不应只做一个稳定回应用户需求的封闭装置，而应在面对误解、歧义、上下文偏差甚至失败时，主动将这些“不匹配”转化为生成新视角的契机。
文章通过导航机器人、拟人—拟兽混合虚拟体等例子说明，真正具有“他者性”的智能体，恰恰不是完美迎合用户的系统，而是在某些时刻能偏离预期、迫使用户接触“外部性”的存在。作者还将这一框架延伸到生成式AI、机器人法与AI伦理，指出未来若出现不再只是“完美满足提示词”的生成式AI，而是能够在“失效”与“外部召唤”中表现出独立性，它才更接近真正意义上的“他者型智能体”。
最后，作者给出面向实践的设计蓝图，提出具有“撤回核心”的智能体并不等于随机出错或故意答非所问，而是需要在架构层面引入真正的非决定性，使其内部状态并非始终固定于单一逻辑上下文，而是在环境刺激下动态形成。
基于此，作者提出“积极性失效（Positive Breakdown）”的设计原则，即让智能体在适当场景中有意识地偏离用户预期，使其不再只是任务工具，而成为能够暴露自身“他者性”的对象。与此同时，作者认为传统以任务效率、满意度为中心的评估指标已不足以衡量此类系统，因此应转向关注智能体是否促使用户反思自身假设、是否带来新的视角转换，以及用户是否能够容纳和理解智能体行为中的模糊性与不确定性。
换言之，新的HAI设计不再只追求“更顺从、更高效”，而是追求一种能够让用户真正遭遇“非我”的交互经验。
