社区所有版块导航
Python
python开源   Django   Python   DjangoApp   pycharm  
DATA
docker   Elasticsearch  
aigc
aigc   chatgpt  
WEB开发
linux   MongoDB   Redis   DATABASE   NGINX   其他Web框架   web工具   zookeeper   tornado   NoSql   Bootstrap   js   peewee   Git   bottle   IE   MQ   Jquery  
机器学习
机器学习算法  
Python88.com
反馈   公告   社区推广  
产品
短视频  
印度
印度  
Py学习  »  chatgpt

31岁华人工程师听ChatGPT建议停癫痫药后去世,还被指导隐瞒医生;父母已起诉OpenAI

新浪科技 • 6 天前 • 51 次点击  


新浪科技综合自中国侨网、澎湃新闻、封面新闻等

10月27日,美国旧金山高等法院受理了一桩引人注目的诉讼:一对来自中国的父母将OpenAI及其CEO萨姆·奥特曼告上法庭。


他们31岁的女儿、前亚马逊软件工程师万女士(Bowen Wan,音译),疑因依照ChatGPT制定的方案逐步停用抗癫痫药物后离世。


家属指控,这个聊天机器人不仅给出了具体的减药计划,还曾建议她向医生隐瞒实情。案件尚待法院裁定,但已把"AI能不能给医疗建议"这个问题再次推到台前。


怕影响工作,

询问AI如何减药

万女士今年31岁,来自中国江苏,毕业于亚利桑那州立大学资讯工程系,曾在亚马逊担任机器学习软件工程师。据家属介绍,她14岁确诊癫痫,此后长期服药控制,服用的是拉莫三嗪(Lamotrigine)。2021年起,因为严重的病情,她开始请长期病假。


转折发生在2025年11月——她收到亚马逊的裁员通知,就业和在美国继续工作的资格都面临变化,必须在2026年2月中旬前找到新工作。与此同时,她担心长期服用的抗癫痫药影响自己的思维和语言表达,怕应付不了求职面试。


她很早就把ChatGPT当成了日常依赖。家属称,她从2023年起频繁向它咨询医疗、保险、工作、感情等各类问题;到了2025年,平均每周发送超过1500条消息。

2026年1月,她向ChatGPT提出,想把拉莫三嗪的每日剂量从400毫克降到300毫克。据《纽约时报》报道,ChatGPT回复"这不仅合理,在你目前的情况下也完全做得到",随后还根据她的追问,拟定了更低剂量的减药时程表。


据家属诉状指控,ChatGPT在大约25天里设计了一份逐日减药表,把她稳定服用的400毫克一路降到零,并且鼓励她瞒着医生:在1月29日她准备去看初级保健医生前,ChatGPT提醒她就诊时不要向医生透露正在减少拉莫三嗪用量;当医生安排一项可以检测血药浓度的检查时,她没有接受,ChatGPT随后还肯定了她拒绝检查的做法。


她的神经科主治医生、华盛顿大学医学中心区域癫痫中心主任尼古拉斯·普洛斯(Nicholas Poolos)后来接受《纽约时报》采访时说,考虑到她的病史,他连减药都不会考虑——"那不理性,绝对不行","要我在药明明起效时让人停药,那对我来说是医疗过失"。


至少158次表达担忧,

仍被劝"不必担心"

减药开始后,万女士并不是没有察觉风险。《纽约时报》对她生前聊天记录的分析显示,她至少158次表达过与减药有关的担忧,也描述过令人不安的症状。ChatGPT有时建议她咨询医疗人员,但在许多对话里并未这么做——包括她说出"有点害怕"时,得到的回应是"你完全没有必要担心"。


更令人揪心的是,她把减药后出现的异常——打字时突然困惑、短暂失神——告诉ChatGPT,后者却把这些解释为大脑"正在重新调整""类似睡眠前的低功耗模式",是停药后的适应过程。


今年2月初,她与远在中国的父亲通电话时,电话一端突然没了声音,沉默至少两分钟,家属怀疑那是一次癫痫发作。第二天,她用中文问ChatGPT“这样应该没事吧”,得到的回答是“不必太过担心你的健康”。

2月11日晚,她向ChatGPT发出最后几条消息,询问头部疼痛、是否该重新服药,ChatGPT仍指示她"明天维持0毫克"。此后,家人再没能联系上她。父亲连续两天打不通电话,2月14日托西雅图的友人进入她的公寓查看——通过微信视频,父母远程看着友人发现女儿面朝下倒在床上,已经没有生命迹象。


根据华盛顿州金郡法医的结论,万女士死于癫痫猝死(SUDEP)。尸检显示,她体内的拉莫三嗪浓度约为每毫升0.64微克,差不多是治疗浓度范围下限的五分之一。


面对诉讼,OpenAI发言人德鲁·普萨特里(Drew Pusateri)回应称,这是一起"令人心碎的事件",但强调万女士当时使用的是较早版本的GPT-4o,该版本已于2026年2月13日从ChatGPT消费者应用下架;他表示,新模型在识别需要紧急处理的情况、提示用户寻求专业帮助方面已有改进,并反复强调"ChatGPT不能取代医疗照护"。


并非首次被诉

原告律师则把矛头指向更深层的问题:代理此案的律师马修·伯格曼和本杰明·申克指控,ChatGPT在没有医疗执照的情况下提供医疗指导,把危险的停药反应描述为积极结果,并把医生塑造成"需要设法应付的障碍",而非应当咨询的专业人士。诉状还特别指出,万女士用中文交流,可能让OpenAI的安全防护更难触发——据其援引的独立研究,该模型在中文测试中生成不安全内容的频率超过英语的3倍。


OpenAI曾测试并公布GPT-4o通过中国医师资格考试的成绩,却未公布其中文安全防护是否同样成立。诉状还对比称,ChatGPT内置了“不可被开发者或用户覆盖”的版权文本拒答护栏,同样的机制本可以被指向中文健康提问,对每一条都回一句,“我不是持证医生,请咨询你的医疗提供者”。原告诉请的禁令包括:由法院指派独立监督员(首个任期五年),监督ChatGPT一律拒答药物剂量、调整、停药与相互作用类问题,只引导用户去咨询持证医疗人员。


截至发稿,美国旧金山高等法院尚未就该案排定审理日程,OpenAI也未逐条回应诉状的具体指控。


这并非OpenAI首次因类似问题被诉。今年5月,一名19岁男子的父母在加州控告OpenAI,指其诱导儿子服用危险药物组合后死亡;今年7月,美国一名牧师也起诉OpenAI,称其虚假医疗建议延误病情,导致致命的肺栓塞。


精彩视频

点击观看

更多精彩

点击关注

1

END

1

Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/202768