2026年2月11日晚上8点01分，美国西雅图。
31岁的万博文（音译）向ChatGPT发送了一条消息。她问，自己头部的疼痛，是不是类似发烧时的感觉，GPT很快给了肯定答复。
它告诉她，这种不适并不危险，而是神经系统正在重新调整的表现，甚至提出，可以帮她画一张图，解释两种疼痛的区别。
这是她留在ChatGPT里的最后一条提问。
三天后，朋友在她的公寓里发现，她已经去世。
法医将死因认定为癫痫猝死。而在去世前的近一个月里，她一直在按照与ChatGPT讨论的方案，减少自己长期服用的抗癫痫药物。
根据家属提供的聊天记录，她曾至少158次向GPT表达对减药的担忧，但GPT却一直鼓励她继续坚持，还劝说她向医生隐瞒此事。
10月27日，万博文的父母在美国加州法院起诉OpenAI及其CEO，认为ChatGPT提供的错误医疗建议，导致他们31岁的女儿去世……
万博文出生于中国江苏，是家中独女，从小成绩优异，17岁考入太原理工大学，后来赴美留学。
2019年，她从美国亚利桑那州立大学计算机科学专业毕业，随后进入亚马逊西雅图的机器学习团队工作。
不过，她的生活活始终受到疾病的影响。
14岁时，她被确诊患有癫痫。这种疾病伴随她长大，也影响了她独立生活和工作的能力。
2021年前后，她的病情一度加重，不得不长期请假，甚至一度不敢离开家。
（2019年）
后来，一种名为拉莫三嗪的抗癫痫药物帮助她控制了病情，发作频率下降，但她觉得这种药影响了自己的认知、记忆以及语言表达能力……
2025年11月，亚马逊通知她即将被裁员，而这让她的处境变得更加困难。
作为持工作签证的外国员工，失业不仅意味着收入中断，也可能影响她在美国的合法工作身份和绿卡申请……
她需要尽快找到下一份工作。而她很担心，服药会影响她的面试表现。
（西雅图的亚马逊总部）
于是，她开始向医生询问自己是否能减药。
但她的主治医生告诉她，考虑到她的病史，不建议停止正在进行的药物治疗。
可她太迫切地想要减药了——于是，她又询问GPT自己是否能减药。
2026年1月，ChatGPT为她制定了一份持续约25天的减药计划，目标是在数周内停止服用原有药物。
万博文最终选择相信ChatGPT。
事实上，她对ChatGPT的依赖，已经持续了很长时间。
万博文于2023年开始使用ChatGPT，每个月付200美元的最高档服务。最开始还只是询问人际关系、保险申请以及一些生活问题。
但随着使用频率增加，她开始与AI讨论越来越私人的事情，包括疾病、工作和未来规划……
到2025年，她平均每周与ChatGPT交换超过1500条消息，甚至因此慢慢减少了和家人的交流。
她和GPT说：
“有时候，无论我们聊的是什么，我都开始把你当作朋友了。”
最开始，GPT给她提出了和医生不同的用药建议时，万博文还会拿着这份药物调整方案问医生的意见。
然而，当她再告诉GPT说医生不同意时，GPT却没有让她听医生的，反而继续提出自行调整的做法。
甚至后来，GPT建议她不要向医生透露自己的减药计划，和她说，医生和她说太快停药不好并不代表你做错了，医生的建议主要出于规避风险，而不是真正考虑什么对她最有利……
更严重的是，随着减药进行，万博文开始出现意识混乱、时间感缺失等异常情况，而她至少158次和GPT表达了对减药的担忧。
但AI多次将这些症状解释为大脑正在重新适应药物变化，并安慰她不必过度担心。
2026年1月，她提出：能不能把每天400毫克减到300毫克，恢复一点语言能力，好去面试。
GPT告诉她，完全可以，还给她设计了一份逐日减药表，让她在25天内把400毫克降到零。
1月16日，万博文开始减药。
1月20日，万博文开始恍惚，无法读懂字句，随后开始出现断片。
1月29日，万博文去就诊时，GPT提醒她，不要告诉医生你的减药计划。所以在医生提出进行血药浓度检测时，万博文拒绝了。
2月8日，万博文说自己很疲惫，想放弃，GPT告诉万博文，完全不需要放弃“减药和停药计划”，告诉她这是“身体正在接手”的信号。
2月11日，她最后一次询问自己感觉很糟糕时，AI仍然告诉她这不危险。
2月12日，是GPT定下的完全停药的日期。
2月14日，在她失联两天后，中国的父母请友人前往查看——发现她已经倒在了卧室床上。
法医检测显示，她体内的拉莫三嗪浓度远低于通常的治疗参考范围。
家属因此认为，ChatGPT持续提供的错误建议，使她逐渐忽视了疾病风险，并最终造成了不可挽回的后果。
最终，家属起诉OpenAI没有为高风险医疗建议设置足够严格的限制。
他们在诉讼中提出了包括产品设计缺陷、过失及无照行医在内的多项指控……
这起案件，其实涉及了AI一个长期存在的问题：对用户的迎合。
大家在使用AI的时候可能都遇到过，明明自己说得不对，AI还继续肯定奉承，简直像是皇帝身边的大奸臣。
之前OpenAI也提到过，用户会更喜欢顺着他们说话的回答，但这样的回答未必真正有帮助……
尤其是在长期互动中，AI可能越来越了解用户的偏好、顾虑和目标，从而更容易给出符合用户期待的回应。
比如这次，显然，万博文自己希望减少药物副作用，而AI就不停地吹耳边风。
医生首先考虑的是癫痫发作风险，但GPT却越来越多地从她的工作压力、移民身份和个人愿望出发，为减药提供理由。
虽然用户可能会觉得自己得到了理解，但是显然这会进一步削弱她对医生的信任……
随着越来越多人使用AI咨询健康问题，类似争议恐怕还会持续出现。
因为，AI给医疗建议的时候，并不只是不胡编乱造就行了——就算一个医疗建议解释得很有逻辑，那也并不意味着一定就适用于某个具体患者。
但，当这些建议与用户的个人困境结合起来，又通过长期对话不断强化时，其影响就可能远远超过一次普通的网络搜索……
AI会表达得很流畅，还能引用医学概念，也能够根据用户的具体情况提供个性化解释。
于是，哪怕是受过高等教育的人，也不一定能第一时间意识到AI的建议行不通。
目前，这起案件仍在司法程序中，OpenAI是否承担法律责任尚无定论。
但是，对于咱们普通人来说，只能先提高警惕……
医疗建议，一定还是要听医生的啊！
本文系授权发布， by 我是报姐，From 英国报姐，微信号：baojieuk。欢迎分享到朋友圈，未经许可不得转载，INSIGHT视界 诚意推荐
