现在情况反而更糟：有时聊天完全不引用他想要的内容，有时又引用了完全不相关的旧信息。 当下的表达，永恒的痕迹之前大家总是说「互联网没有记忆」，后来发现没有记忆的是自己。但遗忘不是人类的缺陷，而是特性，当我们制造出不会遗忘的 AI ，反过来帮助塑造会遗忘的人类思维时，又会发生什么呢？大数据专家维克托·迈尔-舍恩伯格（Viktor Mayer-Schnberger）曾提醒道：
听起来似乎很方便的、能够「了解你」的数字伴侣，会慢慢变成一种束缚。与会逐渐消退和适应的人类记忆不同，无限的内存能够忠实且永久地存储信息。而当这些配备记忆功能的 AI 做出反应时，它们会越来越多地依赖于你保存下来的某个版本，即使那个版本已经过时六个月，与你现在的情况无关。失忆症患者的悲剧是他活在无尽的现在。AI 的危险可能恰恰相反：活在无尽的过去。其所谓的个性化与 TikTok、Instagram 和 Facebook 等平台的逻辑高度吻合。大量研究表明，这些平台会放大用户已有的偏好，限制用户的视野，并减少他们接触新颖、具有挑战性的观点。现在，这种个性化逻辑正在向内发展：从你的信息流到你的对话，从你消费的内容到你的思考方式。就像社交媒体的「为你推荐」页面算法预测你下一次多巴胺的刺激一样，具有记忆功能的 LLM 会预测并强化与你过去行为密切相关的对话模式，让你安于自己的观点和偏好圈子。参考📃：https://arxiv.org/html/2404.07143v1https://www.alteredstateprod.com/post/tiktok-algorithmhttps://www.doc.cc/articles/we-must-forget欢迎加入 APPSO AI 社群，一起畅聊 AI 产品，获取#AI有用功，解锁更多 AI 新知👇
