社区所有版块导航
Python
python开源   Django   Python   DjangoApp   pycharm  
DATA
docker   Elasticsearch  
aigc
aigc   chatgpt  
WEB开发
linux   MongoDB   Redis   DATABASE   NGINX   其他Web框架   web工具   zookeeper   tornado   NoSql   Bootstrap   js   peewee   Git   bottle   IE   MQ   Jquery  
机器学习
机器学习算法  
Python88.com
反馈   公告   社区推广  
产品
短视频  
印度
印度  
Py学习  »  chatgpt

千家假媒体组团下毒,ChatGPT超7成回答被带偏

StableAI • 1 月前 • 92 次点击  

很多读者用大模型做搜索或者查资料,图的就是省心:比起在传统搜索引擎里翻垃圾广告和营销号,AI 汇总出来的摘要看起来客观中立、不偏不倚。但现实很快把这种信任打破了。Politico 联合媒体可信度评估机构 NewsGuard 发布了一份硬核审计报告,直接揭开了一条隐秘的大模型洗稿链条:全美目前有上千家被暗中操纵的党派假媒体,正在成规模地给主流 AI 聊天机器人“喂毒”,而作为行业标杆的 ChatGPT,在相关测试里的中招率竟然高达 70.8%。

这里的套路在业内被形象地称为“粉红肉糜”(Pink Slime)——指的是那些表面上挂着极具迷惑性的人畜无害名字,比如“俄亥俄独立报”、“桃树州邮报”、“爱荷华起跑线”,伪装成严肃的独立地方新闻网,背后实际全是由政治行动委员会和各路金主暗中操控的舆论打手。NewsGuard 的统计数据显示,截至今年 9 月,这类全美暗度陈仓的假地方媒体数量已经膨胀到 1179 家,甚至超过了美国现存所有正规地方日报的总和(937 家)。

— 全美 1179 家山寨地方媒体污染主流 AI 聊天机器人。

当这上千家虚假媒体开足马力在网上疯狂铺设带节奏的文章时,灾难直接在大模型的搜索环节爆发了。NewsGuard 针对 6 个关键摇摆州的选情与政策议题,对市面上最主流的 7 款 AI 工具进行了 168 轮严格测试。结果触目惊心:各大模型整体有 48.2% 的回答直接引用了这类假地方媒体;而在 7.7% 的情况下,假媒体甚至成了 AI 给出的唯一信息源。具体到各家工具,ChatGPT 狂飙到了 70.8%,微软 Copilot 和 Perplexity 为 54.2%,Anthropic 的 Claude 达到 50%,谷歌 Gemini 是 41.7%,Meta AI 为 37.5%,xAI 的 Grok 最低也有 29.2%。更讽刺的是,在全部 168 次回答里,仅有 1 次 AI 主动提示了该信源存在党派背景。

— 全美 1179 家假媒体组团投毒:7 大主流 AI 中招率实测榜

联网检索和 RAG 真正的盲区恰恰在这里。大模型本身并不具备辨别现实政治动机的火眼金睛,它抓取网页时只看语义相关度、时效性和索引权重。当背后有几千万美元政治资金在社交媒体上买曝光、在全网批量分发经过精心包装的攻击性文章时,算法很容易就把这些精心编织的宣传话术当成了正规本地报道。大模型那套四平八稳、不带情绪的客观腔调,反而成了虚假信源天然的洗白滤镜——读者以为自己在向权威知识库请教中立事实,实际上屏幕对面吐出来的每一句话,都是别人几个月前就算计好、专门喂给爬虫的现成口径。当操纵大模型比操纵选民更容易,搜索框里的每一个答案,都已经成了竞价与暗战的靶场。

我是 StableAI,明天见。

Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/201580