如果你平时也用ChatGPT，可能很难想象这样一个场景：
一个人失恋之后，打开AI聊天框，开始倾诉自己的情绪。他告诉AI自己的前任是谁，她喜欢什么，经常去哪里，自己为什么接受不了分手。聊着聊着，内容越来越不对劲，从失恋和嫉妒，变成了跟踪、威胁，再变成具体的暴力计划。
然后，AI背后的公司发现了......
不是AI突然变成了警察，而是——
OpenAI的安全机制识别到聊天内容可能涉及现实世界中的严重暴力风险，经过人工审核之后，把相关信息交给了美国联邦调查局FBI。
几个月后，这名男子被警方逮捕。
这不是科幻电影里的剧情，而是2026年8月刚刚发生在美国佛罗里达州的一起真实案件。
（x）
25岁的Darren Zhou曾经是高盛的金融分析师，毕业于东北大学，此前没有犯罪记录。今年3月，他和交往大约6个月的女友分手。女方因为认为他行为反复、嫉妒心强，而且控制欲明显，甚至选择通过电话结束这段关系，因为她担心面对面分手会让对方做出过激反应（很有先见之明了
）。
（Linkedin）
分手之后，Zhou没有真正放下这段关系。他开始频繁使用ChatGPT。最开始，看起来可能只是一个失恋的人在找地方倾诉。他向AI讲述自己的感情、前女友的兴趣和生活习惯，也谈到她经常出现的地点。可是随着聊天继续，内容逐渐从情绪宣泄变成了非常具体的暴力想象和犯罪计划。
调查人员后来查看聊天记录时发现，他不仅讨论过强奸、谋杀以及杀人后自杀，还描述过具体的行动场景。他甚至告诉ChatGPT自己打算在前女友经常去的健身房停车场等她，如果复合失败，就对她开枪，然后结束自己的生命。
与此同时，他现实中的行为也越来越危险。
前女友已经开始拉黑他的电话号码，但他仍然通过不同的App生成号码继续联系她。女方也把收到的骚扰、威胁信息一条条截图保存下来。而Zhou甚至向AI展示过所谓自己购买枪支和其他暴力工具的照片。
在警方后来获得的聊天记录中，Zhou和ChatGPT进行了大约两个月的相关对话。最终，OpenAI的安全机制识别出风险，由人工团队进行审核，并把相关信息提供给了FBI。之后FBI将信息交给当地执法部门，警方对他的前女友进行了安全核查。
2026年5月，Zhou被捕，在棕榈滩县监狱待了两天，之后缴纳10万美元保释金获释。6月，检方正式以严重跟踪、书面或电子死亡威胁，以及利用通信设备协助实施重罪等罪名起诉他，这些指控最高可能面临25年刑期。
到了8月13日，他选择认罪。法院接受了认罪协议，并暂缓正式重罪定罪，判处他8年缓刑，其中前两年需要佩戴电子监控设备，同时不得接触前女友，也不得持有枪支，并需要接受相关干预和心理健康评估。报道显示，这份协议是在前女友同意之后获得法院批准的。
很多人第一次看到这起新闻，第一反应可能都是：等等，我跟ChatGPT聊天，它为什么能把我的聊天记录交给警察？
对于普通用户来说，ChatGPT的聊天框确实很容易产生一种非常强的私人空间感。你不需要面对一个真人，也不需要担心朋友评价你，更不会因为说错一句话而看到对方的表情。所以很多人会把AI当成一个不会嫌自己烦的倾诉对象。
但AI聊天和现实生活中的心理咨询并不是一回事。尤其是在涉及严重现实伤害风险的时候，平台并不承诺把聊天内容当成绝对不可触碰的私人秘密。OpenAI现有安全政策允许在发现用户可能计划伤害其他人的情况下，由专门的小型人工团队进一步审核相关对话。
如果审核后认为存在严重的现实伤害风险，公司可能向执法部门提供线索。
你可以把AI当成一个聊天工具，但不能简单地把它理解成一个拥有法律意义上绝对保密义务的私人空间。
当然，
这也不意味着以后大家跟ChatGPT聊一句自己很生气，就会有人半夜敲门。真正受到关注的是具体、可信并且可能转化为现实伤害的风险。Zhou案件之所以被平台升级处理，恰恰是因为他的行为已经远远超过了普通的情绪表达。
更值得注意的是，Zhou的案件并不是OpenAI第一次因为用户的暴力言论面临这样的选择。OpenAI自己在几个月前，刚刚经历过一个完全相反的案例，而且那个案例的结果非常惨烈。
2025年6月，加拿大不列颠哥伦比亚省Tumbler Ridge的一名18岁用户，因为在ChatGPT中讨论涉及枪支和暴力的内容，被OpenAI的系统识别出来，账号随后被封禁。
（CBS）
公司内部当时也讨论过是否应该把情况报告给加拿大皇家骑警RCMP。最后的决定是，不报告。
原因并不是公司没有看到这些内容，而是当时认为相关信息没有达到向执法部门报告的标准。OpenAI当时采用的判断标准之一，是是否存在可信且迫在眉睫的严重身体伤害风险。
几个月后，悲剧发生......
2026年2月10日，Tumbler Ridge发生大规模枪击事件，8人死亡，嫌疑人随后自杀。遇害者包括学生和学校工作人员，也包括嫌疑人的母亲和继弟。事情发生之后，OpenAI才向加拿大警方提供了相关信息。
不能简单说如果OpenAI当时报警，Tumbler Ridge的悲剧就一定不会发生。现实世界中的暴力案件往往涉及很多因素，谁也无法证明一次平台报警就一定能够阻止犯罪。
但这个案例确实暴露出了一个非常难的问题——
到底什么时候，AI公司应该报警？
如果标准太宽，那么大量普通用户的私人聊天都可能被审查，平台也可能把一些纯粹的情绪表达误判成危险行为。但如果标准太窄，又可能错过真正危险的人。
所以，这起案件对于普通留学生来说，最实际的提醒其实很简单：可以把AI当工具，但不要把它当成绝对私密的树洞。
平时用ChatGPT改简历、练英语、准备面试，当然没什么问题。但涉及个人隐私时，还是要留个心眼。护照号码、银行账户、详细住址、签证文件、医疗资料，以及其他人的私人信息，都没必要为了让AI回答得更准确而全部输入进去。
对于留学生来说，这一点尤其值得注意。很多人已经习惯把ChatGPT当成日常生活里的万能助手，学校邮件看不懂可以问，租房合同可以让它解释，OPT和签证问题可以让它整理，甚至遇到和老板、同学发生的纠纷，也可能第一时间把完整聊天记录和个人信息丢进去。
方便当然方便，但能不提供的敏感信息，还是尽量不要提供。
当聊天内容被判断为可能对应现实世界中的严重伤害时，AI平台可能介入，相关信息也可能进入执法部门的调查。所以，AI可以是很方便的助手，但最好不要把它当成一个什么都能说、什么都不会留下的私人空间。
本文系授权发布，by 鸥酱, From Panopath留学过来人，微信号：Panopath_liuxue。欢迎分享到朋友圈，未经许可不得转载，INSIGHT视界 诚意推荐
