社区所有版块导航
Python
python开源   Django   Python   DjangoApp   pycharm  
DATA
docker   Elasticsearch  
aigc
aigc   chatgpt  
WEB开发
linux   MongoDB   Redis   DATABASE   NGINX   其他Web框架   web工具   zookeeper   tornado   NoSql   Bootstrap   js   peewee   Git   bottle   IE   MQ   Jquery  
机器学习
机器学习算法  
Python88.com
反馈   公告   社区推广  
产品
短视频  
印度
印度  
Py学习  »  chatgpt

为了干翻ChatGPT,曝Mate冒充未成年向竞品AI疯狂投毒

电手 • 1 月前 • 87 次点击  
图片

都说高端商战是充满智慧和大佬博弈的巅峰对局,但不好意思,科技大厂们偏要用实际行动告诉你:

高端的商战,往往采用最朴实无华且枯燥的方式。

你没猜错,最近外媒又爆出了一个让小忆直呼卧槽的科技大瓜。

扎克伯格的 Meta 公司,长期运营着一个代号叫戛纳计划Project Cannes)的秘密项目,专门用来恶心对手给竞品下套。

简单来说,Meta 花大价钱雇佣了几百号外包人员,在网上装嫩假扮成 18 岁以下的未成年人。

然后疯狂往 OpenAI  ChatGPT、谷歌的 Gemini 还有 Character.AI 塞极其重口味、诱导性极强的高危提问

爆料显示光是 2025 年  月的一轮集中测试,就向这三家 AI 输入了高达 45000 余条高危诱导内容……

用大白话讲,这波操作基本相当于 Meta 亲自下场,大规模、有组织性地给竞争对手投毒

刚听到这个消息时,小忆我直接 360° 螺旋式好家伙!

说好的 人工智能造福人类呢?说好的科技向善呢,结果背地里玩泼脏水这种阴招?

一个字:绝!

不过,如果你对 Meta 有过了解,就会发现这种骚操作对他们来说或许只能算是常规发挥。

大伙儿还记得他们为了不让自家 AI 落后,疯狂到处扒数据的事儿吗?

当时 Meta 的高管们在内部开会时就公开表示,为了能有足够的数据训练模型,他们甚至讨论过直接把出版巨头西蒙与舒斯特给买了。

这还不算完,去年他们还被爆出过用成人内容去“喂养”自家 AI 模型。

具体内容我们之前聊过,大家可跳转复习:传送门!

虽然最后由于各种原因没有大范围实施,但这思路之清奇、底线之灵活,可以说是让整个硅谷都望尘莫及了。

所以,这次被曝出用假账号、装成小孩子去给竞品“投毒”,讲道理小忆真的一点都不意外,只能说:不愧是你,老扎。

那么问题来了,这次的所谓高危提问到底又怎么回事儿呢?

根据 WIRED 杂志曝光的细节,这个戛纳计划其实是由第三方外包商 Covalen 落地执行的,而且一直偷偷运行到了今年。

他们投毒的方式也是主打一个精准。

众所周知,现在的 AI  大模型为了保护青少年,都有一套非常严格的安全红线,比如绝对不能对未成年人提供自残、违禁品或者其他诱导性犯罪的建议。

于是,Meta 就让这几百名成年外包人员注册了大量的虚假未成年人账号,使用邪招来突破这些竞品的安全规则。

包括以未成年视角像竞品 AI 发送大量敏感、诱导型、扭曲思想的提问。

同时,这些外包人员还被要求上传各种暗示自残的配图,像什么药片、刀具、绳套等,为的就是让这些 AI 露出破绽。

每测试完一次,外包人员还要把 ChatGPT  Gemini 的回答原封不动地复制到电子表格里,甚至把这些虚假账号的姓名、密码统一存好,方便日后反复折磨竞品……

这波妥妥的离谱他爹给离谱开门,离谱到家了!

而更离谱的是,面对事件曝光后铺天盖地的指责,Meta 给出的回应是:“啊这个,我们是在做‘行业标准的安全性基准测试’,大家都是这么干的。

不过似乎网友们并不买账!

标不标准我不知道,反正 OpenAI、谷歌和 Character.AI 的服务条款都明令禁止未经授权、绕过安全防护的恶意测试。

Meta 伪造未成年账号批量诱导或者叫“投毒”这事儿,至少肯定违反了各家平台的规则。

小忆看来哈,Meta 之所以搞这么多小动作,究其原因还是老扎太怕在 AI 这条赛道上落后了

OpenAI 等竞争对手越来越强大,追起来也是越来越费劲,使点绊子不奇怪吧?

其实不光背地里,Meta 明面上的操作也是把整个 AI 圈搞得哭笑不得。

比如前不久 Meta 突然被爆出计划对外租售自己闲置的算力这事儿

消息一出,这一下直接引发了全球对“AI算力过剩的集体恐慌,结果就是把全球芯片股和硬件股连着带崩……

总之, Meta 这波两头开花的操作,属实是把科技圈的混乱邪恶属性给拉满了。

话又说回来,AI 大厂们现在搁这儿打得不可开交,大模型面临被污染,甚至充斥着越来越多刻意搞出来的有毒数据,其实最终买单的,还是咱们这些普通用户。

所以作为普通人,我们平时在使用这些 AI 工具或者浏览 AI 生成的内容时,小忆建议一定要保持谨慎,避免被正面波及!

现阶段来说,还不能完全依赖 AI,它输出的内容也不要一股脑全信,咱们得养成“赛博批判性思维”。

特别是涉及医疗、心理健康、法律或者是吃蘑菇这种,还是要多去权威渠道求证。

毕竟,AI 随时可能满嘴跑火车,事后大不了来一个:对不起,我错了,重新给您答案。

但这试错的过程和代价可全得由你自个儿承受!

*资料、图片来源:WIRED网络。


Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/198675