社区所有版块导航
Python
python开源   Django   Python   DjangoApp   pycharm  
DATA
docker   Elasticsearch  
aigc
aigc   chatgpt  
WEB开发
linux   MongoDB   Redis   DATABASE   NGINX   其他Web框架   web工具   zookeeper   tornado   NoSql   Bootstrap   js   peewee   Git   bottle   IE   MQ   Jquery  
机器学习
机器学习算法  
Python88.com
反馈   公告   社区推广  
产品
短视频  
印度
印度  
Py学习  »  chatgpt

当AI“树洞”向警方报警:ChatGPT对话背后的隐私与安全边界

清华大学智能法治研究院 • 2 周前 • 75 次点击  

Infobae2026年8月15日,报道,美国佛罗里达州25岁男子达伦·周在向ChatGPT反复描述杀害前女友的计划后,被OpenAI向联邦调查局(FBI)报告。周某于当月认罪,接受八年社区监管,前两年佩戴电子监控设备。那些原本留在聊天窗口中的文字,最终成为警方调查的一部分。这起案件将AI平台推到了私人倾诉与公共安全的交界处。用户向聊天机器人讲述情绪、经历甚至暴力念头,平台则通过自动检测和人工审核判断风险,并在特定情况下通知警方。随着AI进入越来越私密的生活场景,这套机制正在影响用户对数字隐私的理解。


一、从聊天窗口到刑事调查


据Infobae援引美国当地媒体及司法材料的报道,周某曾任高盛金融分析师。与女友分手后,他持续联系、骚扰对方,并在ChatGPT中描述暴力计划。OpenAI将有关信息提交FBI,联邦调查人员随后联系棕榈滩县执法机关。警方找到受害者,收集短信、截图等材料,进一步调查其现实行为。


2026年8月13日,周某对书面死亡或伤害威胁、加重跟踪骚扰,以及利用通信设备实施重罪相关的三项指控认罪。法院对其实施八年社区监管,要求前两年佩戴电子监控设备,并附加禁止接触受害者及其家人、接受心理健康评估和干预等条件。


这起案件中, AI对话与现实中的骚扰行为共同进入调查视野。聊天记录呈现暴力意图、行动计划和持续关注的对象,短信及其他材料则帮助警方了解这些表达与现实行为的联系。对话平台由此成为识别潜在人身危险的一处信息入口。


佛罗里达州法第784.048条规定,故意、恶意且反复跟踪、骚扰或网络骚扰他人,并作出可信威胁,可构成加重跟踪骚扰。可信威胁可以通过电子通信传达,也可以隐含于持续行为之中,其认定涉及受害者对自身或有关人员安全的合理恐惧,以及行为人表面上实施伤害的能力。


二、平台如何决定向警方报告


OpenAI在2025年8月发布的安全说明中表示,发现用户计划伤害他人时,会将相关对话交由专门团队审核;如果人工审核认定存在对他人造成严重身体伤害的迫近威胁,公司可能向执法机关转介。同一说明表示,当时出于对互动私密性的考虑,公司不将自我伤害个案转介警方。


2026年4月28日,OpenAI进一步披露其处理流程:自动化系统识别可疑内容和行为,经过培训的人员结合前后对话、行为模式等进行评估;部分严重个案进入更深入的调查,在对话显示存在迫近且可信的伤害他人风险时通知警方。心理健康和行为专家参与疑难案件评估。


这套机制的难点在于,用户表达与现实危险之间并不存在简单对应关系。长期对话可能逐步显露计划,也可能包含愤怒、虚构和反复变化的念头。平台既要捕捉暴力升级的信号,又要处理语言表达中的语境和不确定性。风险判断因此包含技术识别,也包含人工判断。


美国《存储通信法》为紧急披露提供了法律路径。《美国法典》第18编第2702条第(b)(8)项允许适用该条的服务提供者,在善意认为涉及死亡或严重身体伤害危险的紧急情况需要立即披露时,向政府实体提供与该紧急情况有关的通信内容。第(c)(4)项对非内容类用户记录作出相应规定。


在这一框架下,紧急披露属于有条件的法律许可。对相关暴力风险采取何种识别标准、何时升级审核以及如何组织转介,则由平台政策具体落实。企业对风险的判断,因而直接影响哪些私人对话会进入执法部门视野。


三、加拿大枪击案推动报警门槛调整


加拿大坦布勒里奇枪击案呈现了另一种结果。OpenAI在2026年2月26日致加拿大政府的信中确认,2025年6月曾检测到涉案人员的账户,经人工审核后予以封禁。公司表示,依据当时掌握的信息,未发现达到执法转介门槛的可信、迫近的暴力计划。


在这封信中,OpenAI披露已调整转介标准,让心理健康和行为专家参与疑难个案评估,并允许在用户没有明确交代攻击目标、手段和时间的情况下综合判断风险。公司表示,按照调整后的流程,如果当时被封禁的账户现在才被发现,将向执法机关转介。


这一调整扩大了平台判断危险的空间。完整的行动方案不再是识别风险的必要前提,分散在不同对话中的信息和持续行为也可能受到重视。它有助于更早发现危险,同时也提高了审核质量的重要性:信息越不完整,判断就越依赖语境、专业经验和对不确定性的处理。


周某案件与加拿大案件共同揭示了平台面临的压力。一方面,报警可能帮助潜在受害者获得保护;另一方面,漏报会使企业面临对其安全措施和决策过程的追问。转介标准如何变化、变化后产生怎样的效果,已成为评估AI安全机制的重要问题。


四、私人倾诉正在形成新的证据来源


与零散的搜索词相比,聊天记录往往包含更完整的背景:用户为什么提问、如何描述关系、怎样解释自己的行为,以及在多轮交流中如何调整想法。这些内容让AI服务更贴近个人需求,也让平台积累了具有较高敏感度的个人信息。


当这种对话进入诉讼,用户对私密性的感受会遭遇具体的法律规则。2026年2月17日,纽约南区联邦地区法院在United States v. Heppner案中出具书面意见,认定被告自行使用消费者版Claude 准备的相关材料,不受律师—客户保密特权或律师工作成果规则保护。


法院考察了Claude并非律师、平台政策所涉及的数据使用与披露,以及被告并未按照律师指示使用工具等因素。法院还提出,如果工具是在律师指示下使用,其在律师工作中的作用可能引出不同分析。


这一裁定所反映的问题,在日常使用中并不显眼。对话界面提供连续、即时而个性化的回应,容易形成亲密交流的体验;支撑这种体验的,却是由企业运营、保存和管理的数据服务。用户输入得越深入,形成的记录就越可能触及其关系、动机和生活细节。


在周某案件中,这些信息帮助警方识别针对具体个人的风险。对于更广泛的用户,问题则是如何了解信息的流向:哪些内容可能触发人工审核,紧急情况下会披露哪些数据,平台如何记录和复核这些决定。隐私政策中的一般条款,需要与实际处置过程建立更清晰的联系。


结语:报警机制正在重塑AI对话的信任基础


AI平台已经开始承担识别危险、评估风险和转介执法机关的工作。这些决定能够影响潜在受害者的安全,也能够改变用户的人生。平台的安全能力,正在同时接受漏报与过度干预两方面的检验。接下来值得关注的,是企业能否提供足以评估这套机制的信息,包括转介标准的调整依据、实施效果,以及错误决定的处理方式。对用户而言,信任AI既取决于它如何回应,也取决于对话离开窗口之后,平台如何使用和保护这些信息。


图片
图片


Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/202362