社区所有版块导航
Python
python开源   Django   Python   DjangoApp   pycharm  
DATA
docker   Elasticsearch  
aigc
aigc   chatgpt  
WEB开发
linux   MongoDB   Redis   DATABASE   NGINX   其他Web框架   web工具   zookeeper   tornado   NoSql   Bootstrap   js   peewee   Git   bottle   IE   MQ   Jquery  
机器学习
机器学习算法  
Python88.com
反馈   公告   社区推广  
产品
短视频  
印度
印度  
Py学习  »  chatgpt

利用ChatGPT策划袭击,凶手杀害母亲和弟弟后枪杀5名未成年人和1名教师,加拿大一省政府就校园枪击案起诉OpenAI

中国新闻社 • 4 周前 • 79 次点击  

据加拿大通讯社报道,加拿大不列颠哥伦比亚省政府于当地时间21日起诉美国开放人工智能研究中心(OpenAI)及其首席执行官萨姆·奥尔特曼,指控该公司未将塔布勒岭枪击案凶手在ChatGPT上的异常对话报告给当地警方。

18岁的杰西·范鲁策拉尔于今年2月10日先在住所杀害母亲和弟弟,随后前往塔布勒岭中学枪杀5名未成年人和1名教师,其在与警方对峙中自杀身亡。早在2025年6月,OpenAI就封禁了一个与范鲁策拉尔相关的账户,因她曾在ChatGPT平台上输入与枪支暴力相关的提示词。后来,范鲁策拉尔重新注册了一个账号,继续利用ChatGPT策划袭击。
据加拿大通讯社21日报道,不列颠哥伦比亚省总检察长妮基·夏尔马表示,凶手与ChatGPT涉及枪支暴力的对话曾触发OpenAI内部安全审查,但公司没有将有关威胁报告给加拿大皇家骑警。她说,省政府曾要求OpenAI提供对话记录,但遭到拒绝。
夏尔马21日发表声明称,此次诉讼旨在追究OpenAI及相关决策者的责任,为当地争取赔偿,并推动加强人工智能监管。有关指控尚未经法院裁定。
奥尔特曼在今年4月23日致塔布勒岭社区的公开信中说,他对公司未就涉案账户通知执法部门“深感抱歉”,并承诺与各级政府合作,防止类似悲剧重演。
据路透社报道,OpenAI已在美国多地面临诉讼,ChatGPT被指控“助长暴力行为”。今年6月,佛罗里达州成为美国第一个就安全风险问题起诉OpenAI的州,指控OpenAI虚假宣传其安全性,ChatGPT存在向枪击案行凶者提供信息、提供自残指导以及使年轻用户上瘾等问题。
OpenAI则否认了这些指控,并表示该公司对模型进行了训练,使模型拒绝可能“实质上促成暴力”的请求,并在对话表明“对他人造成迫在眉睫且可信的伤害风险”时通知执法部门。

原标题:《加拿大一省政府就校园枪击案起诉OpenAI》

编辑:刘莉莉 代硕

审校:魏园

责编:马学玲


演员陈观泰离世,骨灰被撒入大海


高市早苗乘机抵达美国纽约,没有美方高官在机场迎接;日本网友锐评:到底是在向谁挥手啊


副部级宋朝华受贿1.48亿余元,被判死缓


Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/201391