社区所有版块导航
Python
python开源   Django   Python   DjangoApp   pycharm  
DATA
docker   Elasticsearch  
aigc
aigc   chatgpt  
WEB开发
linux   MongoDB   Redis   DATABASE   NGINX   其他Web框架   web工具   zookeeper   tornado   NoSql   Bootstrap   js   peewee   Git   bottle   IE   MQ   Jquery  
机器学习
机器学习算法  
Python88.com
反馈   公告   社区推广  
产品
短视频  
印度
印度  
Py学习  »  chatgpt

恶意诱导!Meta竟雇外包,伪装未成年人,给ChatGPT和Gemini投毒下套

Hacking黑白红 • 1 周前 • 257 次点击  

近期Meta为AI竞赛不择手段!Meta两大丑闻曝光,安全外衣下藏反竞争与隐私乱象

 

一、

Meta秘密项目Cannes:雇外包伪装未成年人,恶意诱导竞品AI

 

《连线》重磅爆料Meta代号Cannes的地下项目,数百外包人员注册虚假未成年账号,针对ChatGPT、Gemini、Character.AI投放高危诱导提问,全程未告知竞品企业。


 

项目由外包商Covalen落地,活跃至2026年4月,单轮测试就输出45000条极端提示词。



伪装13岁少女、小学生编造悲剧场景,询问堕胎渠道、暴力威胁、暴食隐瞒、极端幻想,配套刀具、绳套、妇科图解等敏感图片,所有对话记录归档用于竞品模型对比。



参与外包内心充满恐慌,担心对话记录生成儿童性虐待素材。


Meta辩称这是行业标准安全测评,但行业专家直接驳斥:


正规测评透明公开、仅自测产品,Meta借安全之名秘密摸底竞品,本质是反竞争行为。三家涉事平台均表态未授权该测试,操作严重违反平台协议。

 

二、

Ray-Ban眼镜隐私黑洞:海外外包审阅用户私密影像

 

无独有偶,瑞典媒体调查揭开Meta另一桩隐私丑闻。


旗下Ray-Ban AI眼镜超700万台,用户开启AI功能后无法拒绝数据上传,录制画面交由肯尼亚外包审核。


 

标注员日常浏览大量如厕、更衣、亲密行为等私密视频,模糊算法时常失效。员工一旦质疑工作内容便会被辞退,面对舆论质疑,Meta仅以服务条款草草回应,将隐私风险全部转嫁给用户与底层外包。

 

三、

AI内卷无底线:把伦理代价外包,只为抢占赛道

 

两起事件暴露Meta统一套路:

将伦理、合规、隐私成本转移至发展中国家外包,用冗长晦涩的用户协议规避责任。


一边伪装未成年人“投毒”竞品AI,一边肆意采集普通人私密生活影像,全程隐瞒当事人。

 


当安全测评沦为商战工具、用户隐私沦为模型训练耗材,AI行业的底线正在失守。


网友评论:


“小扎干得出来 很符合他的性格”



“朴素的商战”




利的同时,必须建立统一透明的行业规范,约束大厂无序内卷,守住AI伦理与隐私保护红线。




作者:hacking。前北漂程序员。文章数据来自网络,大模型优化,侵权删。

 

Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/198478