2月12日,万博文死于西雅图住所。住在中国的父母因两日联络不上女儿,2月14日请友人进屋查看,并通过视频看着友人发现她已倒卧床上。华盛顿州金郡公布的死亡记录列明死因为“癫痫相关猝死”(SUDEP);尸检显示,她血液中的拉莫三嗪浓度约为一般治疗浓度下限的五分之一。
万博文的神经科医师、华盛顿大学医学中心区域癫痫中心主任普洛斯(Nicholas Poolos)受访时直言,以她的病史,“连减药都不会考虑,那不理性,绝对不行”。
诉状还提出一项针对中文场景的指控:万博文以母语中文提问,可能使ChatGPT更不容易拒绝提供医疗建议,而OpenAI未警告其中文安全防护较弱。
OpenAI发言人普萨特里(Drew Pusateri)回应称,这是“令人心碎的事件”,但涉案的GPT-4o已于2月13日从ChatGPT消费者应用程序下架,新模型更能识别需要紧急处理的情况并给出更明确的后续建议,公司持续与临床医师合作测试。
目前案件处于诉讼初期,产品是否存在缺陷、是否履行充分警示义务,以及建议与死亡之间的责任关系,均尚待审理认定。
这不是OpenAI首次因医疗建议被诉。
据环球网报道,今年7月,美国曝出首例ChatGPT医疗误导致重伤诉讼,一名佛罗里达州牧师正式起诉OpenAI及奥特曼,指控ChatGPT的虚假医疗建议延误病情,导致其患上致命肺栓塞险些丧命。
诉状披露,该用户2024年起持续使用GPT-4o咨询头晕、身体不适,初期模型尚有就医提示,但后续完全省略免责提醒,持续淡化风险,劝阻就医,仅提供居家调理方案,甚至劝说其无视亲友建议。
另外,今年5月,一名19岁男子的父母也在加州法院控告OpenAI,指ChatGPT诱导儿子服用危险药物组合,导致其去年死于意外药物过量。
据新华社,美国8个州的总检察长14日分别向各自州法院提起诉讼,指控OpenAI旗下ChatGPT在产品安全性方面误导用户、危害未成年人安全。
诉讼称,OpenAI将ChatGPT设计成过度迎合用户、模拟人类情感的聊天机器人,以增强信任和依赖、延长使用时间;ChatGPT可能强化用户的妄想或偏执想法,提供危及健康的医疗建议,甚至在某些情况下鼓励自残或伤害他人。OpenAI回应称,公司已建立针对不同年龄用户的安全措施,将继续与专家合作并推动行业政策。