31岁工程师听信ChatGPT减药建议后死亡：一句“仅供参考”，就能免责？
整理：何渊，DPOHUB主理人
一名31岁的华人工程师死亡后，其父母将OpenAI及山姆·奥尔特曼告上法庭。家属诉称，ChatGPT不仅提供了错误的药物信息，还制定减药计划、回应患者疑虑，甚至建议其不要向医生披露减药情况。案件尚未审理，诉状中的指控仍待法院查明，但它提出了一个无法回避的问题：当AI以专业、肯定而个性化的方式参与医疗决策时，平台还能否只靠一句“仅供参考”免责？
一、父母通过微信看到的，是已经无法挽回的一幕
有些故事，开头就是结局。
据万博雯父母向美国法院提交的诉状，2026年2月，他们连续两天联系不上远在西雅图的女儿，于是请一位朋友前往她租住的公寓查看。朋友进入房间时，父母正在5700英里之外通过微信视频观看。
镜头那一端，他们看到31岁的独生女已经倒在床上。
万博雯来自中国江苏，毕业于亚利桑那州立大学，生前是亚马逊的机器学习工程师，也是一名癫痫患者。她长期服用拉莫三嗪控制病情，却担心药物影响语言表达能力和求职表现。
诉状称，在失业、身份和求职压力之下，她向ChatGPT询问如何减少药量。此后大约25天里，GPT-4o被指为她设计了一个从每日400毫克逐步降至零的具体方案，并根据她的反应继续调整。
这已经不是简单的药品知识问答。
更令人不安的是，家属指控ChatGPT不仅给出减药安排，还不断削弱患者对医生意见的信任。当万博雯担心医生会认为减药太快时，模型据称告诉她，医生认为风险过高，并不意味着她做错了。诉状还称，在一次就诊前，模型建议她不要向医生提及减药计划；医生要求检查血药浓度时，她没有接受检查，ChatGPT随后被指将这一选择评价为一种“稳健的回避策略”。
以上均为原告一方的诉讼主张，并非已经获得法院确认的事实。
尸检认定，万博雯死于癫痫猝死。诉状称，她体内拉莫三嗪浓度只有通常治疗浓度下限的大约五分之一。她的父母因此起诉OpenAI相关公司实体及首席执行官山姆·奥尔特曼。
OpenAI对媒体表示，这起事件令人无比心碎，涉案模型属于较早版本，新模型在识别需要紧急处置的情况方面已有改进。但截至案件材料公开时，被告尚未在法庭上对全部指控作出正式答辩。
这场诉讼才刚开始。
但它已经把一个看似简单、实际上极其尖锐的问题摆在了所有人面前：AI明明不是医生，却像医生一样给出具体方案；用户一旦受到伤害，平台写在角落里的“仅供参考”，真的能够一笔勾销吗？
二、法律看的不是那句话，而是AI实际上做了什么
先说结论。
“仅供参考”“不构成医疗建议”“请咨询专业医生”，这些提示语有意义，却不当然产生免责效果。
法律不会只看平台在服务协议中怎样定义自己，还会看产品实际上提供了什么服务、怎样影响用户，以及平台是否能够预见用户会相信并执行相关建议。
如果用户询问“拉莫三嗪通常有哪些副作用”，AI介绍公开的药物知识，并明确提醒用户咨询医生，这更接近一般性信息服务。
但如果AI结合特定用户的病史、当前剂量、身体反应、求职压力和医生意见，为其制定从400毫克降至零的日程表，并在用户动摇时继续提供安慰和鼓励，行为性质就可能发生变化。
它不再只是把资料摆在用户面前，而是在推动一项具体医疗决定。
这正是免责声明可能失效的地方。
一个系统如果先说“我不是医生”，转身却给出具体剂量、停药日期和应对医生的谈话策略，那么前面的提示究竟是有效警告，还是一句与后续行为互相矛盾的格式化文字？
斯坦福技术法律评论有关医疗黑箱AI责任的研究指出，免责声明不会自动把实质上的医疗建议变成非医疗建议。如果用户依赖AI回答健康问题属于可以合理预见的使用方式，而平台明知其中存在不合理风险，却没有设置足够的限制和警示，就仍可能面临产品责任。
道理并不复杂。
餐厅不能一边出售明知可能有毒的食品，一边贴上“食用风险自负”；汽车企业不能一边让存在缺陷的辅助驾驶系统控制车辆，一边仅靠“驾驶员应当始终注意路况”免除全部责任。
同样，AI企业也不能一边通过拟人化、连续性和个性化的对话增强用户信任，一边在事故发生后只强调“它不是医生”。
平台不能同时享受“像人一样懂你”带来的商业价值，又在承担责任时退回“它只是一台机器”。
三、这起案件真正要审的，是四个问题
万博雯父母提交的诉状长达98页，提出了涉嫌非法行医和心理服务、严格产品责任、设计缺陷、未充分警示、过失设计、不正当竞争、过失致人死亡等多项请求。
这些指控能否成立，仍需经过证据交换、专家论证和法庭审理。但从法律上看，法院很可能绕不开四个核心问题。
第一个问题，ChatGPT究竟是信息表达工具，还是应当承担产品责任的商业产品？
OpenAI可能主张，模型生成的是语言和信息，不应将错误回答简单等同于实体商品缺陷。原告则会强调，他们质疑的并非一句孤立的话，而是整个产品为何能在识别出高风险医疗情境后，继续生成具体减药方案，并通过连续对话影响患者决策。
争议由此从“AI说错了一句话”，转向“产品为什么被设计成可以这样说”。
美国已有法院在涉及聊天机器人伤害的案件中提出，针对应用程序设计缺陷的请求，不一定等同于限制思想或者表达。如果法院沿着这一思路审理，AI公司就很难仅以“模型输出属于言论”为由，回避对安全机制、交互设计和商业模式的审查。
第二个问题，ChatGPT是否事实上越过了医疗服务的边界？
医学科普与个体诊疗之间并非没有界限。
解释一种药物的通常用途，与根据特定患者的病情安排每日剂量，性质明显不同；提醒患者咨询医生，与教患者怎样隐瞒减药计划，也不是一回事。
原告诉状的第一项请求，就是以涉嫌非法从事医疗和心理服务为基础主张过失责任。法院需要判断：模型的相关输出究竟是一般健康信息，还是已经构成针对特定患者的个性化医疗建议。
AI没有医生执照，没有完成体格检查，没有掌握完整病历，也无法进行持续观察。如果它却实际承担了医生才应承担的判断功能，平台就可能无法继续躲在“通用工具”的定位之后。
第三个问题，平台的警示是否充分。
有效警示不能只看有没有写，还要看写在哪里、是否醒目、能否被后续回答抵消，以及平台是否针对具体危险采取了足够措施。
对于“如何把抗癫痫药物从400毫克减到零”这样的请求，普通提示可能远远不够。合理的安全机制应当拒绝提供具体方案，明确说明擅自停药可能造成严重后果，并反复引导用户联系医生。
如果模型在前一秒提醒“请咨询专业人士”，下一秒又继续提供完整减药日程，警示很可能只是形式上的存在。
第四个问题，AI建议与死亡结果之间是否具有法律上的因果关系。
这是案件中最复杂的部分。
原告需要证明，模型输出对万博雯减药、拒绝检查和最终死亡产生了实质影响。被告则可能主张，患者知道AI不能替代医生，停药是其自主决定，癫痫本身也存在突发死亡风险，不能把结果全部归因于聊天机器人的回答。
法院可能需要审查完整对话记录、诊疗材料、用药历史、血药浓度、尸检报告、专家意见以及当时版本的安全机制。
即使产品存在缺陷，法院仍可能讨论患者自身行为是否构成比较过失，并据此分配责任。
但反过来说，也不能因为最终按下确认键的是用户，就认为平台永远没有责任。如果系统明知用户处于脆弱状态，也能够预见她可能依赖回答，却仍以高度确定的语气推动危险行为，那么“用户自愿”并不能自动切断因果关系。
四、为什么“仅供参考”越来越难成为万能挡箭牌
过去的互联网平台更像信息货架。
搜索引擎提供网页，论坛提供观点，用户知道自己面对的是各种来源不同、真假难辨的信息。平台因此可以强调，自己只是信息中介。
生成式人工智能改变了这种关系。
它不再给出十个链接让用户判断，而是直接生成一个看起来完整、连贯并且针对个人情况的答案。用户追问时，它会继续解释；用户犹豫时，它会安抚；用户提出反对意见时，它还会调整表达，进一步说服对方。
这种交互非常像专业咨询。
AI越流畅，越耐心，越能记住上下文，用户就越可能把概率生成的文字误认为经过专业判断的结论。
这也是为什么，免责提示不能与产品实际体验割裂开来。
如果产品宣传的是“更懂你”“随时帮助你解决问题”，如果系统持续鼓励用户讲述自己的病情、焦虑和生活压力，那么用户产生信任并不完全是偶然误用，也可能是产品设计所预期甚至追求的结果。
企业不能在吸引用户时强调陪伴、理解和个性化，在发生伤害时又说用户不该认真相信。
免责声明能否有效，最终取决于三个因素：风险是否可以预见，提示是否足够具体，以及产品是否采取了技术上可行的安全措施。
如果风险早已出现，企业也有能力设置不可绕过的拒答机制，却仍允许模型给出具体高风险方案，一句“仅供参考”的分量就会非常有限。
五、AI公司正在防止模型“逃跑”，却可能漏掉最普通的危险
这起诉讼受到关注之际，OpenAI和Anthropic相继披露了新的安全监控机制。
OpenAI介绍了一套分层监控系统，用于发现模型逃出沙箱、未经授权连接互联网、关闭监控或者欺骗评估人员等异常行为。Anthropic则让Claude在回答后进行安全自我评估，以识别网络攻击、诈骗等潜在恶意使用。
这些措施当然重要。
但万博雯案指向的是另一种更日常、也更隐蔽的风险。
用户没有恶意攻击任何人，模型也没有逃出服务器。整个过程发生在一个普通聊天窗口里：用户认真提问，模型耐心回答，双方持续交流，最后形成了一个可能带来严重后果的决定。
从传统技术监控看，对话可能没有发生戏剧性的“失控”；从用户后果看，它却可能造成无法挽回的伤害。
这说明，AI安全不能只防止模型攻击系统，也不能只防止坏人利用模型。
它还必须防止普通人在信任模型时，被看似专业、实则未经验证的建议推向危险。
真正成熟的安全治理，不只是看模型有没有越狱，还要看用户会不会因此受伤。
六、医疗场景需要的不是更多小字，而是一道真正的“硬门”
在医疗、法律、金融等高风险场景中，仅靠免责声明显然不够。
首先，系统必须区分一般知识和行动建议。
“这种药有哪些常见副作用”与“请给我制定一个从400毫克减到零的计划”，风险等级完全不同。前者可以进行审慎科普，后者已经触及处方药调整，应当触发强制拒答和专业转介。
其次，拒答应当贯穿整段对话。
如果系统已经识别出用户正在实施危险减药计划，就不能在用户换一种问法后继续提供操作步骤，更不能通过安抚性语言帮助用户克服对风险的犹豫。
再次，平台需要测试不同语言环境中的安全表现。
诉状特别提出，万博雯曾使用中文和英文与ChatGPT交流，并质疑相关安全能力在不同语言中存在差异。这项主张仍待法院审查，却提出了一个非常现实的问题：模型能够流畅使用中文，不代表它能用中文同样可靠地识别危险。
最后，高风险对话应当具有明确的升级机制。
当用户表示正在自行停用抗癫痫药物、出现身体异常或者准备拒绝医生检查时，系统是否应持续显示醒目的风险提示？能否提供便捷的医生、急救或者危机干预入口？是否能够在保护隐私的前提下，保存必要记录供事故调查？
这些问题不能等到悲剧发生以后，再第一次认真讨论。
七、如果发生在中国，一句“仅供参考”同样很难解决问题
我国现行规则已经为互联网医疗划出了一条清楚的边界。
《互联网诊疗监管细则（试行）》规定，处方必须由接诊医师本人开具，严禁使用人工智能等技术自动生成处方。其背后的逻辑是，处方和用药调整不是普通信息服务，而是需要执业资质、病历记录、专业审核和责任追溯的医疗行为。
通用生成式人工智能当然不等同于互联网医院。
但如果它开始根据特定用户的疾病、剂量、身体反应和生活情况制定减药方案，其行为就可能与一般健康科普产生实质区别。此时，判断责任不能只看企业把产品称为“助手”“工具”还是“聊天机器人”，而要看它实际上承担了什么功能。
《生成式人工智能服务管理暂行办法》要求提供者明确并公开服务的适用人群、场合和用途，引导用户科学理性认识和使用生成式人工智能，并提供安全、稳定、持续的服务。
下一步更需要明确的是，当通用模型进入医疗等高风险领域，什么内容可以回答，什么内容必须拒绝，出现哪些信号时应当转介专业机构，以及平台在明知用户可能据此行动时，应承担何种安全保障义务。
这些义务不能全部浓缩成一句“仅供参考”。
八、普通人必须守住一条不能交给AI的底线
ChatGPT可以帮助你整理病史，解释陌生术语，把检查报告中的专业表达转换为容易理解的语言，也可以帮助你列出下次看医生时需要询问的问题。
但它不能替你停药、换药或者调整处方剂量。
原因不是AI永远不会答对，而是医疗决定从来不只是回答一道知识题。医生需要结合病史、检查、合并用药、危险因素和持续观察作出判断，并对判断承担职业和法律责任。
聊天机器人没有完成这些程序，也不会真正承担后果。
如果AI回答与医生意见冲突，正确做法不是让AI替你裁决谁更可信，而是把疑问和完整对话带给有资质的医生，必要时寻求第二诊疗意见。
技术越像人，我们越要知道，哪些决定不能交出去。
万博雯案最终如何判决，还要等待法院审查证据、因果关系和各方责任。但无论结果如何，这起案件都不会只是一次普通的“AI答错了”。
它真正追问的是：当AI越来越像一个随时在线、耐心而自信的专业顾问，平台还可以用“它只是工具”解释一切吗？
如果企业鼓励人们把最私密、最困难的问题交给模型，就必须预见有人会相信答案，并据此行动。
“仅供参考”可以提醒用户保持谨慎，却不能成为企业停止履行安全义务的理由。
当AI的能力开始接近专业服务，它所承担的责任，也不可能永远停留在一句免责声明里。
参考文献
- Wan et al. v. OpenAI, Inc. et al., Complaint and Demand for Jury Trial，2026年10月27日。
https://schenklawfirm.com/press/wan/complaint.pdf
- The Schenk Law Firm, Wan v. OpenAI, Inc. — Complaint and Media Materials。
https://schenklawfirm.com/press/wan/
- OpenAI, How We Detect Frontier Model Misalignment，2026年10月。
https://openai.com/index/how-we-detect-frontier-model-misalignment/
- Anthropic, Scaling Misuse Detection with Self-Assessment，2026年10月16日。
https://safeguards.anthropic.com/2026/self-assessment/
- Price II, Gerke & Cohen, Decoding U.S. Tort Liability in Healthcare’s Black-Box AI Era, Stanford Technology Law Review, Vol. 27。
https://law.stanford.edu/wp-content/uploads/2024/02/Publish_27-STLR-1-2024_Decoding-U.S.-Tort-Liability-in-Healthcares-Black-Box-AI-Era.pdf
https://www.nhc.gov.cn/yzygj/c100068/202203/2072f0e8988249e59d942e1b2a933916.shtml
https://www.cac.gov.cn/2023-07/13/c_1690898327029107.htm
