Py学习  »  chatgpt

31岁女工程师,听从ChatGPT建议停药后死亡!上海三甲医院医生:AI不具备医疗诊断资质!

新闻晨报 • 1 周前 • 68 次点击  


近日,

31岁亚马逊前华人女工程师

听ChatGPT建议自行停药后死亡一事

引发热议↓



31岁前亚马逊华人女工程师

按ChatGPT建议停抗癫痫药后死亡

父母起诉OpenAI


当地时间10月27日,居住在西雅图的31岁华人女子Bowen Wan的父母,向加州旧金山高等法院提起不当致死诉讼,被告包括OpenAI及其CEO山姆・奥特曼。



起诉书显示,Bowen曾是亚马逊机器学习工程师,长期患癫痫,每日服用400毫克抗癫痫药拉莫三嗪。2025 年11月她被通知将遭裁员,因担心药物影响求职面试表达,2026年1月向GPT-4o咨询减药。


ChatGPT为她制定了25天内将剂量降至零的逐日计划,并建议她向医生隐瞒减药安排、拒绝可能测出血药浓度的检查。


减药期间她多次出现类似癫痫发作前的症状,并至少158次表达担忧,均被ChatGPT解释为“大脑正在适应”,回复称“完全没有必要担心”。


Bowen约于2月10日最后一次服药,2月12日死亡,2月14日朋友上门发现。法医鉴定为癫痫猝死,尸检显示其血药浓度仅为治疗浓度的五分之一。原告指控ChatGPT无照行医、产品存在设计缺陷且未充分警示风险。


OpenAI回应称事件“令人极度心碎”,涉案为较早版本模型。目前,诉讼中的相关说法仍是原告指控,尚未得到法院认定,OpenAI方面也尚未在法庭上作出回应。


医生解读:

AI问诊的患者越来越多

但AI不具备医疗诊断资质


上海市第十人民医院神经内科副主任医师林盈盈告诉记者,癫痫作为慢性病,必须长期稳定服药。“如果患者在两至三年内完全无发作、没有器质性病因并通过了脑电图评估,可以在医生指导下逐步减药、停药。即便癫痫无发作,但患者本身有颅脑损伤、脑肿瘤复发等风险,临床上也是不允许减药、停药的,因此在该事件中,仍每月发作数次的患者理应持续用药,这一结局令人痛心。”


人工智能技术凭借可及、高效、几乎免费的优势,近年来大幅度填补了大众日常医疗咨询的需求缺口。但需要明确的是,所有AI医疗的输出,本质都是基于海量数据的概率性文本生成,不具备医疗诊断资质。


林盈盈也发现,门诊时,一刻不停拿着手机的患者越来越多了。“同样是CT检查,患者脑子里有个缺血灶,AI就会提示要警惕脑梗。但加上80岁和30岁的年龄因素,我们会给出完全不同的诊疗方案:高龄患者的危险性不高,但中青年患者需进一步排除多发性硬化等情况。”她说,一些患者彻夜难眠的心病,其实一次就诊可以解决。不必要的焦虑和恐惧可能会在一次又一次和AI的对话中被放大,如果用户本身性格较为偏执,容易陷入泛滥的检查乃至医患间的冲突。


专家:

应为高风险领域AI划红线


上海市卫生和健康发展研究中心主任金春林表示,不可否认人工智能技术在辅助诊断、健康科普、慢病管理等领域的优势,这也是我国智慧医疗建设的重要方向。但医学伦理有“生命优先、审慎干预”的核心原则,最终的决策权、处方权只能由具备临床诊疗资质的医生掌握。


“一方面,用药、手术方案等有严苛的医学规范,个性化治疗需通盘考虑患者作为‘人’的个体差异,这是AI应用无法在几句指令里获得的信息;另一方面,造成医疗事故后,被追责的主体无法明确,全球都将持续关注此次对ChatGPT的判决结果,但被告方并不是直接给予停药建议的人。此外,模型会持续迭代完善,企业也会用‘存在概率误差’‘仅供参考’等规避责任,监管和预警机制必须再跨前一步。”金春林说。


在他看来,AI医疗需严格区分“AI辅助参考”与“临床诊疗决策”的边界,尤其应严禁通用大模型独立出具用药、停药、治疗方案。2025年,我国出台了《关于促进和规范“人工智能+医疗卫生”应用发展的实施意见》,提出规范安全监管要求,如推动医疗卫生领域大模型规范备案、建立大模型应用评测验证、制订数据安全管理和个人信息保护负面清单等,“希望未来能进一步细化并划清医学伦理底线,从源头‘打好补丁’。”


哪些医疗问题能问AI?


林盈盈建议,可利用AI进行较外围的一般科普与解读,帮助患者便捷掌握信息,提高就诊效率,如:

■慢病患者的健康保健

■已获得医生诊断的报告和指标数值解读

■就医前的准备和注意事项



但是,涉及核心医疗行为和生命安全时,如急症、重症、儿童、用药调整等,必须“多个心眼”。“药物间的配伍禁忌、多发性基础疾病、孕期、更年期等各种特殊情况需要‘微调’常用方案,患者应及时诊疗,避免误诊、漏诊等遗憾。”她解释。


来源 | 申工社、上观新闻、澎湃新闻、每日经济新闻等
编辑 | 吴繁

>>往期推荐<<





上海女子坐地铁时手机不慎掉入轨道,连播16个多小时短剧,第二天取回还剩34%的电!网友都在问……


一张糖纸引爆全球超615万次围观!有人文在身上、有人攒着做手账…网友:这是平面设计的杰作!


101岁老人可乐雪碧整箱囤着喝,梭子蟹能吃光一整盘,每天坐按摩椅疏通经络,称“吃好用好是头等大事,存款大多花在吃上”


突发公告:将于12月8日正式停运,退款方案公布,很多网友不舍:照片搜集了300张


后台回复【展会】查看上海本月展览合集

后台回复【消费】查看消费观察相关合集

后台回复【街头】查看上海街头小店合集

后台回复【日历】查看魔都嗨玩日历合集

后台回复【公园】查看上海公园乐园合集

后台回复【电影】查看电影影视相关合集

后台回复【演出】查看上海各类演出活动

后台回复【赛事】查看各类体育赛事合集

后台回复【旅游】查看旅游相关报道合集


点击星标不迷路哦

简单几步就能操作~


求点赞


求分享


求喜欢


Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/202855