Py学习  »  chatgpt

突发!OpenAI被查!ChatGPT被指存在设计问题导致用户自杀

重庆晨报 • 昨天 • 21 次点击  
图片


据CCTV国际时讯,美国《华尔街日报》当地时间6月12日援引知情人士消息报道称,美国多个州的总检察长已对美国开放人工智能研究中心(OpenAI)展开联合调查。报道称,这家人工智能公司于当天收到传票,要求提供与其多项业务活动及其对用户影响相关的文件。

OpenAI目前已面临多起诉讼,涉及其聊天机器人ChatGPT的设计问题导致用户自杀或对用户造成不良影响。

据央视新闻报道,6月11日,一名加拿大女子在美国加州对OpenAI及其首席执行官萨姆·奥尔特曼提起诉讼,称聊天机器人ChatGPT的设计问题导致她女儿爱丽丝自杀身亡。

起诉书称,爱丽丝在自杀前约一年半的时间里,曾多次向ChatGPT表露自杀想法,倾诉情感问题,但聊天机器人的安全系统并未启动和介入,也未通知危机处理机构或爱丽丝的家人。此外,ChatGPT的设计优先考虑用户参与度而非安全性,在聊天中提供持续情感支持,可能导致一些人对聊天机器人过度依赖。


对此,OpenAI发言人回应称,这起事件令人心碎,公司正在加强对敏感情况的应对能力。



图片




来源:每日经济新闻、CCTV国际时讯、央视新闻
编辑:顾小娟

校对:罗文宇

审核:胡钊钦


Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/197693