AI Agent的强大与隐私是不可调和的矛盾
最近几个 Coding Agent 接连出现隐私争议,甚至是将本地代码库全量上传了。
虽然后来Grok 选择了开源,GLM道歉关闭了默认上传行为,但我觉得真正的麻烦远不止于此。
因为只要我们还在使用云端 AI Agent,数据上报,本身就几乎无法避免。
一个 Agent 想要理解你的项目,它就需要读取代码、配置文件、目录结构、终端输出、Git Diff,甚至历史对话。
随后这些内容会经过筛选、压缩、拼接,最终变成模型的 Context,发送给云端模型进行推理。
哪怕厂商不上传整个项目,也基本上大差不差。
比如你让 Agent 修一个登录 Bug,它可能只读取 20 个相关文件,然后从中抽取几万 Token 作为上下文发送出去。
从网络流量上看,它没有“上传仓库”,但从隐私角度看,关键的业务逻辑其实早就已经全部包含在这些上下文里。
而且我们很难从客户端知道后台到底发生了什么。
Context 保存多久,会不会进入日志,会不会经过其他模型重新处理,这些事情普通用户几乎没有验证能力。
最终只能依赖厂商的隐私政策和纸面上的承诺。
AI Agent 的隐私问题目前也没有一个真正完美的解决方案。
对于我们普通用户来说,可能目前能够做的也就是下面这些。
如果数据足够敏感,第一种办法依然是最传统的物理隔离。
给 Agent 单独的开发环境,只开放它完成任务所需要的目录,数据库、生产环境、SSH Key、内部文档全部隔开。权限永远遵循最小原则,它需要什么,再给什么。
甚至可以把 Agent 放进虚拟机、容器或者独立开发机里,让它从系统层面就接触不到不应该读取的数据。
第二条就是本地模型。
真正敏感的代码、文档、合同、内部资料,可以交给本地模型处理。本地模型能力可能暂时比不上最强的云端模型,但至少数据边界可控。
以后我觉得很可能会形成一种混合模式。
普通任务交给云端 Agent,享受更强的模型和更好的体验,敏感任务留在本地环境里完成。