原告律师则把矛头指向更深层的问题:代理此案的律师马修·伯格曼和本杰明·申克指控,ChatGPT在没有医疗执照的情况下提供医疗指导,把危险的停药反应描述为积极结果,并把医生塑造成"需要设法应付的障碍",而非应当咨询的专业人士。诉状还特别指出,万女士用中文交流,可能让OpenAI的安全防护更难触发——据其援引的独立研究,该模型在中文测试中生成不安全内容的频率超过英语的3倍。
OpenAI曾测试并公布GPT-4o通过中国医师资格考试的成绩,却未公布其中文安全防护是否同样成立。诉状还对比称,ChatGPT内置了“不可被开发者或用户覆盖”的版权文本拒答护栏,同样的机制本可以被指向中文健康提问,对每一条都回一句,“我不是持证医生,请咨询你的医疗提供者”。原告诉请的禁令包括:由法院指派独立监督员(首个任期五年),监督ChatGPT一律拒答药物剂量、调整、停药与相互作用类问题,只引导用户去咨询持证医疗人员。
截至发稿,美国旧金山高等法院尚未就该案排定审理日程,OpenAI也未逐条回应诉状的具体指控。
这并非OpenAI首次因类似问题被诉。今年5月,一名19岁男子的父母在加州控告OpenAI,指其诱导儿子服用危险药物组合后死亡;今年7月,美国一名牧师也起诉OpenAI,称其虚假医疗建议延误病情,导致致命的肺栓塞。