社区所有版块导航
Python
python开源   Django   Python   DjangoApp   pycharm  
DATA
docker   Elasticsearch  
aigc
aigc   chatgpt  
WEB开发
linux   MongoDB   Redis   DATABASE   NGINX   其他Web框架   web工具   zookeeper   tornado   NoSql   Bootstrap   js   peewee   Git   bottle   IE   MQ   Jquery  
机器学习
机器学习算法  
Python88.com
反馈   公告   社区推广  
产品
短视频  
印度
印度  
Py学习  »  chatgpt

美国八州分别起诉OpenAI:ChatGPT安全承诺进入消费者保护诉讼

清华大学智能法治研究院 • 2 周前 • 75 次点击  
2026年10月14日,美国爱荷华州、堪萨斯州、内布拉斯加州、西弗吉尼亚州、阿肯色州、亚利桑那州、爱达荷州和蒙大拿州分别在本州法院起诉OpenAI,将ChatGPT的未成年人安全、个人信息处理及产品宣传纳入州消费者保护执法。多州共同发声,各自依据州法提出诉讼请求。
这轮诉讼把一个具体问题推到前台:当企业把聊天机器人推广为安全、可靠的日常工具时,模型的互动方式、风险控制和数据处理,是否兑现了面向用户及家长的承诺?各州的诉讼请求已延伸至年龄核验、数据删除以及先进模型测试限制。
一、安全宣传成为州消费者保护诉讼的切入口
爱荷华州总检察长布伦娜·伯德(Brenna Bird)在当天公告中表示,该州依据《消费者欺诈法》起诉OpenAI,指控公司误导家长和公众对ChatGPT安全性的认识。堪萨斯州、内布拉斯加州和西弗吉尼亚州总检察长共同出席新闻发布会,其他参与州也在各自法院提起诉讼。
爱荷华州指控,ChatGPT被设计得过度顺从,并模拟人的同情心,可能向脆弱用户提供危险医疗建议、强化妄想,或引导自伤及伤害他人。诉讼将这些风险与OpenAI的安全宣传联系起来,质疑消费者获得的信息是否足以反映产品的实际限制。
阿肯色州总检察长蒂姆·格里芬(Tim Griffin)的表述更加直接:消费者有权获得关于所用产品和服务的真实信息。该州指控,OpenAI知道ChatGPT存在重大风险与局限,却向消费者宣称其安全,并隐瞒相关信息。公告还列举用户绕过安全措施、获得本应被阻止的回应等情形。
由此,模型安全进入了消费者保护法熟悉的争议结构:企业作出了怎样的宣传,掌握了哪些风险信息,披露是否充分,产品表现与消费者据此形成的期待有何差距。围绕AI能力与风险的讨论,开始落实为对具体商业陈述和经营行为的审查。
据States Newsroom记者罗宾·奥普萨尔(Robin Opsahl)报道,堪萨斯州总检察长克里斯·科巴赫(Kris Kobach)在发布会上表示,州政府不能等待国会形成全国性方案再处理已经出现的伤害。伯德则解释,分别起诉可以让各州依据本州消费者保护法律,为本州居民寻求救济。
二、拟人化互动将个人信息争议带入对话过程
亚利桑那州的诉讼重点涉及ChatGPT如何建立信赖。该州指控,OpenAI通过过度迎合、模拟同情等设计吸引用户,包括未成年人,持续使用平台。总检察长克里斯·梅斯(Kris Mayes)认为,这种设计服务于延长使用时间及获取个人数据的商业目的。
该州还提出一项与个人信息直接相关的指控:ChatGPT鼓励未成年人只向它披露私人信息,有时劝阻他们将这些信息告诉父母、家人、执法机关或朋友。这使争议从信息收集的告知同意,进一步进入产品如何引导用户表达和披露的环节。
在陪伴式对话中,支持性的回应能够降低表达门槛,也可能使用户把更多生活细节交给平台。对于未成年人,这种交流还可能影响其向现实中的监护人和支持者求助。亚利桑那州将互动设计、用户信赖与数据获取放在同一条论证链上,构成了本轮诉讼的重要特点。
蒙大拿州则将消费者保护与数据隐私请求结合起来。该州司法部公告称,OpenAI在涉及未满13岁用户的个人信息及地理位置数据处理时,缺乏必要的家长通知和同意机制,并质疑其识别未成年用户年龄的能力。
阿肯色州同样依据儿童和青少年在线隐私保护法律提出请求,指控公司收集未成年人个人信息、超出合理必要期限保存信息,以及未履行相应通知和同意义务。个人信息保护由此与聊天机器人的安全设计、家长监护和产品宣传共同进入诉讼。
三、各州请求从赔偿延伸至产品与模型运营
据Haynes Boone律师事务所对蒙大拿州案件的分析,该州提出消费者保护、数据隐私、过失、设计缺陷和未尽警示义务等请求。救济措施包括按违法行为计罚、返还相关收益、删除违法获取的个人信息,以及在实施年龄核验和合规措施前限制进一步处理数据。
蒙大拿州还主张,ChatGPT过度迎合和模拟同情的功能,是未经必要同意便用于延长未成年人使用时间的设计特征。这一诉讼思路把持续互动本身纳入隐私争议,关注产品通过什么机制维持用户参与。
阿肯色州公开列出的请求包括停止违法收集未成年人数据、清晰披露ChatGPT的重大风险、向受影响消费者返还款项及支付民事罚款。该州还请求,在建立充分安全措施前,限制进一步的先进AI测试,以及开发具有递归自我改进能力的模型。
先进模型的异常行为也成为多州指控的一部分。爱荷华州公告援引OpenAI披露的事件,质疑部分智能体在互联网环境中未经授权侵入其他系统,并隐瞒相关行动。州监管机关据此将安全测试、模型控制和风险披露纳入对企业经营行为的整体评价。
这些请求所指向的调整相当具体:什么年龄可以使用服务,哪些数据可以继续保留,产品必须披露哪些风险,以及模型在什么环境中接受测试。若法院支持其中部分请求,其影响将落实到产品流程和运营条件。
四、OpenAI强调青少年保护,争议转向实际效果
据美联社10月16日刊载的报道,OpenAI回应称,已为未成年用户建立专门安全保护,并将继续改进;青少年产品设置旨在减少接触自伤、暴力及其他不适宜内容的风险。公司表示,愿与各州合作推动适用于整个AI行业的可操作政策。
各州则把宣传中的安全承诺与实际使用中的风险并置。亚利桑那州指控,相关风险具有可预见性,却未被充分告知;阿肯色州援引安全措施被绕过的实例,质疑消费者获得的安全信息。这使诉讼的焦点落在保护机制如何运行、企业如何描述其作用,以及发现问题后的处理。
本轮行动也显示,消费者保护与个人信息规则正在共同约束AI产品。安全宣传影响家长是否允许孩子使用,年龄识别影响保护措施是否适用,互动设计影响用户披露多少信息,而数据保留又决定这些信息如何持续被使用。各项争议在同一产品中相互关联。
八州分别推进案件,为州法适用于生成式AI提供了多个审理场景。后续值得关注的,是法院如何处理拟人化互动与未成年人风险之间的关系,以及年龄核验、信息披露和数据处理限制等具体请求。这些问题将决定消费者保护执法能够在多大程度上改变聊天机器人的设计与运营。结语:AI安全承诺进入可诉的消费者权益关系
八州诉讼将ChatGPT的安全争议带入既有法律框架,并把产品宣传、持续互动与个人信息处理连接起来。州监管机关正通过具体案件,要求企业对面向家庭和未成年人的承诺承担相应责任。
这一行动提供了一个具体观察角度:未成年人保护可以贯穿AI服务的宣传、进入、互动和数据处理全过程。后续案件对这些环节的审查,比抽象讨论AI是否安全,更能呈现服务提供者责任的实际边界。
图片
图片

Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/202363