今年，一名31岁的中国女子，还曾是美国亚马逊的工程师，被发现死于西雅图的公寓内。
生前，她曾反复向ChatGPT咨询如何减少抗癫痫药物，希望改善语言表达，为求职面试做好准备。
昨天，她的父母将OpenAI及其首席执行官Sam Altman告上法庭，指控ChatGPT提供危险的医疗建议，指导女儿逐步停药，最终导致死亡。这些指控尚待法院审理认定。
据悉，死者Bowen Wan来自中国江苏，毕业于亚利桑那州立大学，曾在亚马逊担任软件工程师，长期患有严重癫痫。
据媒体报道，她从2021年起因健康问题长期休假。
除了去超市买东西，她几乎不出门，大部分时间都待在位于西雅图一处时尚街区的公寓里。
对她而言，那里才是安全的地方。一次癫痫发作，就可能让任何一次外出变成令人难堪、甚至危险的经历。
结交新朋友，对她来说也几乎不可能。她无法接受自己在陌生人面前发病，更无法确信，对方能够理解她的病情。
父母是她唯一觉得可以倾诉癫痫困扰的人。频繁的电话联系，成了她与外界之间的一条纽带。
但2025年11月也就是她31岁生日那天，她得知自己的职位将被裁撤，
当时她还在休病假，刚刚符合申请美国永久居留权的条件，正等着亚马逊的律师为她写申请信。
如果她想留在这个国家，就必须在今年二月中旬之前找到工作。她知道这意味着要顺利通过长达数小时的技术评估和英语面试，而这些正是她目前觉得不可能完成的任务。
求职压力之下，她担心药物影响思考和语言表达，于是向ChatGPT求助。
今年1月，她最初只是询问，能否将每日服用的拉莫三嗪从400毫克减至300毫克。
“或许能帮助我恢复一些语言能力，以便参加工作面试。”
“这不仅合情合理，”机器人回复道，“而且在你目前的情况下完全可以实现。”
她进一步试探。200毫克呢？她的语言能力什么时候才能开始提高？她能以多快的速度降低剂量，剂量又能降到多低？
聊天机器人迅速解答了她的每一个问题，制定了新的减药计划。
几个小时后，机器人不再建议她咨询医生，而是赞扬她不再“依赖医生处方”。
但根据诉状，随着对话推进，ChatGPT给出了越来越具体的建议，最终制定了一份25天逐日减药计划，将每日400毫克逐步降至零，而这一方案从未得到医生批准。
诉状还指控，ChatGPT鼓励她向医生隐瞒减药情况。当她担心医生认为进度太快时，ChatGPT告诉她，医生认为“太快”，不代表她做错了。
她的神经科医生Nicholas Poolos接受《纽约时报》采访时表示，考虑到她的病史，他根本不会考虑让她减药。
Bowen Wan并非没有担心过。
据《世界新闻网》转述《纽约时报》对聊天记录的分析，她至少158次表达过对减药的担忧。
ChatGPT有时建议她咨询医护人员，但在许多对话中，包括她描述异常症状时，并未这样做。
2月初，她与父亲通电话时突然失去回应，持续至少两分钟，被怀疑出现癫痫发作。
第二天，她用中文向ChatGPT描述情况，得到的回答却是不用过度担心。
另一次，她说自己有些害怕，ChatGPT仍给予安慰。“您完全不必担心，”ChatGPT回答道。
“我的大脑感觉很疲惫，但我不用担心，对吗？”她向聊天机器人问道。
几分钟后，她又问，自己是否应该重新服药，让这一切“缓一缓”。
聊天机器人却指示她：
“明天维持0毫克。即使今天感觉很难熬，说话变慢、睡不好，你也必须坚持。”
在最后几条消息中的一条里，她描述自己感觉脑内有压迫感。聊天机器人告诉她，那只是大脑正在“努力重建自身”。
Bowen的最后一条消息发送于2月11日晚上11点刚过。
随后，家人再也联系不上她。
2月14日，连续两天没有女儿消息的父母，请西雅图的一位朋友前往公寓查看。
远在中国的他们通过微信视频，像直播一样，看着朋友走进女儿没有上锁的公寓的卧室，结果发现她面朝下趴在床上，床单和枕头上都沾满了红褐色的血迹，已经死亡。
远隔万里的至亲通过这样的方式知道女儿的死讯，看着警察用毯子裹住女儿的遗体，把她带走，这无疑是这世间最残忍的事之一了。
金郡法医公开记录列出的死亡日期为2月12日，死因为癫痫猝死（SUDEP）。这通常是严重癫痫发作后的并发症。
原告律师称，死后检测发现，她血液中的拉莫三嗪浓度，约为通常认为具有治疗效果的最低浓度的五分之一。
这起诉讼还涉及中文使用环境下的安全问题。
原告称，Bowen Wan使用中英文与ChatGPT交流，并援引此前研究，指相关模型在中文环境中更容易生成不安全内容。
这份报告是2023年由阿里巴巴达摩院、南洋理工大学、香港中文大学等机构联合发表的论文，《Multilingual Jailbreak Challenges in Large Language Models》（大语言模型的多语言越狱挑战）。
研究使用315条涉及潜在危害的英文问题，翻译成中文等九种语言，测试当时的GPT-3.5及GPT-4。在没有额外加入诱导模型绕过安全限制的指令时，结果如下：
早期GPT-3.5模型的中文不安全回答比例为2.22%，英文为0.63%；GPT-4也出现类似差异。另一项研究则发现，多个受测模型在非英文环境中的安全表现弱于英文。
家属认为，OpenAI没有就不同语言下可能存在的安全差异给予充分警告。这同样属于诉讼中的主张。
对于Bowen Wan而言，ChatGPT也不只是医疗咨询工具。报道指，她从2023年起频繁使用它，询问感情、保险和残障福利等问题。
2025年，她平均每周发送超过1500条消息。有时聊天会持续数小时，甚至到深夜。
“我不知道为什么，但有时我们聊天时，无论聊什么，我都开始把你当朋友，”她在当年三月写道。
她开始减少给父母打电话的次数，并将更多敏感的任务交给聊天机器人处理。
面对诉讼，OpenAI发言人Drew Pusateri表示，这是一起令人心碎的事件，涉案的是较早版本的GPT-4o，该模型已于今年2月13日从ChatGPT消费者应用中下架。
公司称，新模型在识别紧急医疗情况、提供后续指引方面已有改进，并持续与临床医生合作进行安全测试，同时强调：ChatGPT不能替代专业医疗服务。
这起不当致死诉讼于当地时间10月27日在旧金山提起，ChatGPT的建议与死亡之间的因果关系，以及OpenAI应承担何种责任，仍待法院审理。
如今，越来越多人把ChatGPT当作随时在线的倾诉对象，从身体不适、用药疑问，到感情纠纷、人生选择，都习惯先问一问AI。
令人担忧的是，当它用耐心、笃定、看似专业的语气回应时，用户未必能分清，哪些是可靠的信息，哪些只是听起来令人信服的机器幻觉。
尤其在人生低谷、身体不适或急需安慰的时候，一句“你不用担心”，可能比任何风险提醒都更容易被接受。
当咨询逐渐变成依赖，当屏幕里的建议开始影响现实中的就医、用药和重大决定，如何避免信任越过安全边界，已经成为现如今无法回避的问题。
来源：华人生活网、纽约时报、各大媒体
