社区所有版块导航
Python
python开源   Django   Python   DjangoApp   pycharm  
DATA
docker   Elasticsearch  
aigc
aigc   chatgpt  
WEB开发
linux   MongoDB   Redis   DATABASE   NGINX   其他Web框架   web工具   zookeeper   tornado   NoSql   Bootstrap   js   peewee   Git   bottle   IE   MQ   Jquery  
机器学习
机器学习算法  
Python88.com
反馈   公告   社区推广  
产品
短视频  
印度
印度  
Py学习  »  chatgpt

31岁女工程师猝死,父母在华联系不上,请人入屋才得知噩耗;其生前按ChatGPT指示减药,还被告知“完全没有必要担心”

新北方 • 1 周前 • 80 次点击  

据中国侨网,一名住在西雅图的31岁华人女子,疑因依照ChatGPT提供的逐日减药计划,自行将抗癫痫药物逐步减量至停药后死亡。她的父母当地时间27日向旧金山高等法院提起不当致死诉讼,控告OpenAI及其执行长奥特曼(Sam Altman),指ChatGPT无照行医、提供危险且不准确的医疗建议。


OpenAI响应说,这是“令人心碎的事件”,但涉案的是已经下架的早期版本。


死者名为万博文(Bowen Wan,音译),来自中国江苏,毕业于亚利桑纳州立大学资讯工程系。据《纽约时报》27日报道,她曾在亚马逊(Amazon)担任软件工程师,2021年起请长期病假。


报道指出,她患有严重癫痫,服用多年的药物一度失效,后来改用新药,发作次数降至每月数次。她自2023年起频繁使用ChatGPT,询问感情、健康保险与身心障碍给付等问题;2025年平均每周传送逾1500 则消息。



图片


怕影响工作面试

询问ChatGPT如何减药


2025年11月她得知将被亚马逊裁员,须在次年2月中旬前找到工作才能留在美国。她担心药物影响语言能力,2026年1月向ChatGPT 提出,想把抗癫痫药拉莫三嗪(Lamotrigine)的每日剂量从400毫克降到300毫克,以利求职面试。


ChatGPT回复“这不仅合理,在你目前的情况下也完全做得到”,之后并依她的追问拟定更低剂量的减药时程表。


诉状指控,ChatGPT在25天内设计出逐日减药表,把她稳定服用的400毫克降到零,并鼓励她隐瞒医师。她的神经科医师、华盛顿大学医学中心区域癫痫中心主任普洛斯(Nicholas Poolos)受访说,以她的病史,他连减药都不会考虑,“那不理性,绝对不行”。


《纽约时报》分析聊天记录指出,她至少158次表达对减药的担忧。ChatGPT有时建议她咨询医疗人员,但在许多对话中并未这么做,包括她描述令人不安的症状时。


图片

ChatGPT称“你完全没有必要担心”


报道说,今年2月初,万与父亲通话时,电话一端突然没有声音,沉默至少两分钟,疑似癫痫发作。隔天她以中文向ChatGPT 描述这件事,问“这样应该没事吧?”ChatGPT答称“不必太过担心你的健康”。她在另一次对话中说自己“有点害怕”,ChatGPT则回答“你完全没有必要担心”。


报道指出,她在生前最后几天的对话中,曾被ChatGPT要求“明天维持0毫克。即使今天很难熬,你也必须坚持”,最后一则消息发送于2月11日深夜11时之后。


万博文住在中国的父母因两日联络不上女儿, 2月14日请友人入屋查看,并通过视频看着友人进屋,发现万已倒卧床上。原告律师事务所的新闻稿称,法医判定死因为癫痫猝死(SUDEP),她死后血液中的拉莫三嗪浓度约为一般治疗浓度下限的五分之一;诉状则称她于2月12日死亡。


图片

诉状:中文安全防护较弱


诉状也指控,她以母语中文提问,可能使ChatGPT更不容易拒绝提供医疗建议,且 OpenAI未警告其安全防护在中文中较弱。


OpenAI发言人普萨特里(Drew Pusateri)表示,涉案的GPT-4o已于2月13日从ChatGPT消费者应用程序下架;新模型更能辨识需要紧急处理的情况,并给予更明确的后续建议,公司也持续评估并与临床医师合作测试。他强调:“ChatGPT不能取代医疗照护。”


OpenAI近来接连遭类似诉讼。今年 5月,一名19岁男子的父母也在加州法院控告OpenAI,指ChatGPT诱导儿子服用危险的药物组合,导致他去年死于意外药物过量。OpenAI当时表示安全防护已改进。



另据新华社本月报道,美国8个州的总检察长14日分别向各自州法院提起诉讼,指控OpenAI旗下聊天机器人ChatGPT在产品安全性方面误导用户,危害未成年人安全,涉嫌违法。


根据各州总检察长办公室发布的声明及诉讼文件,OpenAI被指控将ChatGPT设计成过度迎合用户、模拟人类情感的聊天机器人,以增强用户信任和依赖,延长用户使用时间。诉讼称,ChatGPT可能强化用户的妄想或偏执想法,提供可能危及用户健康的医疗建议,甚至在某些情况下鼓励用户自残或伤害他人。


OpenAI发言人回应称,公司已在产品中建立针对不同年龄用户的安全措施。公司将继续与专家合作进一步完善相关措施,并致力于与各州合作,推动制定适用于整个人工智能行业的政策。


去年底,一度有消息称ChatGPT将不再提供医疗建议。对此,OpenAI方回应称,ChatGPT仍然可以提供医疗信息。


今年1月,OpenAI宣布推出ChatGPT Health模式。据了解,该功能可基于用户提问提供健康相关解答,并支持连接智能设备获取运动、睡眠等数据,进而生成个性化饮食与运动计划。


OpenAI介绍,平台每周收到的健康与养生类咨询量已超2.3亿人次。而ChatGPT Health则将这类健康对话与其他日常聊天进行了隔离,确保健康相关的对话语境不会出现在与ChatGPT的常规交流中。

推荐阅读


来源:每日经济新闻

编辑:王冰冰

《新北方》热线:024-23186688

这里是新北方,用新闻量关注民生。

Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/202701