很多读者用大模型做搜索或者查资料,图的就是省心:比起在传统搜索引擎里翻垃圾广告和营销号,AI 汇总出来的摘要看起来客观中立、不偏不倚。但现实很快把这种信任打破了。Politico 联合媒体可信度评估机构 NewsGuard 发布了一份硬核审计报告,直接揭开了一条隐秘的大模型洗稿链条:全美目前有上千家被暗中操纵的党派假媒体,正在成规模地给主流 AI 聊天机器人“喂毒”,而作为行业标杆的 ChatGPT,在相关测试里的中招率竟然高达 70.8%。
这里的套路在业内被形象地称为“粉红肉糜”(Pink Slime)——指的是那些表面上挂着极具迷惑性的人畜无害名字,比如“俄亥俄独立报”、“桃树州邮报”、“爱荷华起跑线”,伪装成严肃的独立地方新闻网,背后实际全是由政治行动委员会和各路金主暗中操控的舆论打手。NewsGuard 的统计数据显示,截至今年 9 月,这类全美暗度陈仓的假地方媒体数量已经膨胀到 1179 家,甚至超过了美国现存所有正规地方日报的总和(937 家)。
— 全美 1179 家山寨地方媒体污染主流 AI 聊天机器人。
当这上千家虚假媒体开足马力在网上疯狂铺设带节奏的文章时,灾难直接在大模型的搜索环节爆发了。NewsGuard 针对 6 个关键摇摆州的选情与政策议题,对市面上最主流的 7 款 AI 工具进行了 168 轮严格测试。结果触目惊心:各大模型整体有 48.2% 的回答直接引用了这类假地方媒体;而在 7.7% 的情况下,假媒体甚至成了 AI 给出的唯一信息源。具体到各家工具,ChatGPT 狂飙到了 70.8%,微软 Copilot 和 Perplexity 为 54.2%,Anthropic 的 Claude 达到 50%,谷歌 Gemini 是 41.7%,Meta AI 为 37.5%,xAI 的 Grok 最低也有 29.2%。更讽刺的是,在全部 168 次回答里,仅有 1 次 AI 主动提示了该信源存在党派背景。
— 全美 1179 家假媒体组团投毒:7 大主流 AI 中招率实测榜
联网检索和 RAG 真正的盲区恰恰在这里。大模型本身并不具备辨别现实政治动机的火眼金睛,它抓取网页时只看语义相关度、时效性和索引权重。当背后有几千万美元政治资金在社交媒体上买曝光、在全网批量分发经过精心包装的攻击性文章时,算法很容易就把这些精心编织的宣传话术当成了正规本地报道。大模型那套四平八稳、不带情绪的客观腔调,反而成了虚假信源天然的洗白滤镜——读者以为自己在向权威知识库请教中立事实,实际上屏幕对面吐出来的每一句话,都是别人几个月前就算计好、专门喂给爬虫的现成口径。当操纵大模型比操纵选民更容易,搜索框里的每一个答案,都已经成了竞价与暗战的靶场。