时薪超50美元的外包正逐条阅读ChatGPT记录。匿名化对短对话失效，删除操作也不具追溯力。
先说结论：
- OpenAI的Project Lily雇佣数百名承包商，以超50美元/小时的时薪手动审查匿名聊天记录。
- 审查重点在于语气和格式，禁止AI腔和拟人化，且审查版本包含用户记忆摘要。
- 消费者版默认开启数据收集，关闭设置不具追溯力，已删除的对话可能仍存在于数据集中。
Project Lily 的审查逻辑与数据穿透
404 Media的调查揭开了OpenAI内部名为Project Lily的运作细节。数百名被称为prompt reviewers的承包商，正拿着超过50美元/小时的时薪，逐条评估ChatGPT的真实对话。审查的核心指标并非事实准确性，而是回答是否切题、是否过度使用AI-speak、谄媚语气或表情符号。系统严格禁止模型拟人化，比如说出“作为厨师我喜欢”这类话。
从工程落地视角来看，这种基于人工规则的审查成本极高。大模型在长文本生成中容易出现语气偏移，自动化Reward Model很难精准界定“谄媚”的边界，这是OpenAI维持高时薪人工介入的直接原因。审查员反馈工作非常机械，且指南经常自相矛盾，这侧面印证了当前对齐技术在处理模糊语义时的局限性。更值得警惕的是，传给审查员的版本包含user memories summary。这不仅提取了当前对话，还聚合了用户的历史偏好、上下文甚至位置信息。对于做AI应用集成的团队，这是一个明确的合规警告：如果你的应用接入了默认开启数据回传的服务，用户的长期行为画像实际上已经被第三方承包商掌握。在构建Agent系统时，如果你把用户的私人日程或业务数据喂给这类接口，等同于把核心资产放在了公共审查流水线上。
隐私过滤机制的失效边界与行业横向对比
OpenAI向404 Media承认，匿名化过滤可能会漏掉个人数据，尤其是在短对话中。在工程实现上，短对话的隐私脱敏一直是个技术难点。传统的正则匹配或轻量级命名实体识别模型在处理少于50个token的输入时，召回率会断崖式下跌。缺乏足够的上下文进行实体消歧，脱敏算法很难判断特定名词是否属于个人隐私。比如用户输入一句包含特定地名和机构名的短文本，如果没有前序对话的铺垫，算法极难决定是否需要掩码。这就导致短对话成为隐私泄露的重灾区。许多用户习惯让ChatGPT保密，但这种口头约束在系统级的数据流转面前毫无作用。
横向对比各家厂商的合规声明，Google Gemini在Privacy Hub中直接声明人类可能审查部分保存的聊天。Anthropic也有专门页面说明敏感数据输入后的查看权限。Perplexity的Privacy Notice则对人工访问日志保持模糊。对于技术决策者而言，选择基座模型时不能只看MMLU跑分，数据合规声明的透明度同样是概念验证阶段的硬指标。你需要明确知道，你的数据到底是在黑盒里处理，还是正被拿着50美元时薪的人盯着。
数据隔离配置与实操避坑指南
对于正在做AI应用集成的团队，这里有一份必须执行的排查清单。首先，检查你的API Key所属的组织类型。消费者版默认开启“允许使用聊天改进产品”的设置。如果是Consumer账号，需立即在设置中关闭该选项。但请注意，这个开关只对未来生效，不具备追溯力。你的历史数据可能已经进入了某个训练批次。如果你的业务涉及医疗、法律或金融等强隐私场景，必须升级到Enterprise、Business或Educational版本。这些版本在底层架构上默认阻断了Project Lily的数据流，数据不会用于模型训练。
不要迷信“删除聊天记录”这个操作。原文明确指出删除不具追溯力，数据在被点击删除前，可能已经被抓取并混入训练批次。彻底的物理隔离，只能依靠私有化部署或严格的企业级API权限控制。在采购SaaS服务时，务必让法务和合规团队逐字核对数据处理附录。
OpenAI 数据使用常见问题：
OpenAI 模型性能改进数据使用说明：
Google Gemini 人工审查说明：
Anthropic 敏感数据查看权限：
Perplexity 隐私声明：
评论区唠唠
你在做AI应用集成时，会为了隐私合规强制要求客户使用企业版API吗？
往期推荐
- ·1000倍寿命提升，微软Majorana 2靠AI造芯片
- ·25年前参与微软架构认证，如今发现 AI 根本不懂架构设计
- ·4到6个月差距，开源模型逼近闭源前沿
点击公众号头像 → 历史消息，可翻阅以上文章
