Py学习  »  chatgpt

ChatGPT 制造五倍投诉垃圾,反转竟是合法维权?

每日AIGC探索 • 1 周前 • 53 次点击  

TechCrunch 报道里有个数据挺吓人:英国住房投诉从2600直接飙到7000多,美国消费者金融保护局的投诉量更是暴涨了5倍。

核心看点

  • 发生了什么:AI 工具让填表投诉变简单,全球公共服务申请量暴增,引发代理洪水。
  • 真相是什么:这并非全是 AI 生成的垃圾 spam,绝大多数是原本被繁琐流程劝退的真实合法诉求。
  • 影响是什么:公共服务系统面临资源枯竭,但也迎来了用 AI 重塑社会服务流程的绝佳窗口期。

研究员 Chris Schmitz 把这波操作称为 agentic flooding。他翻了11个管辖区的84个案例(数据集放在 这里,论文在 这里)。发现2022年之前数据平平,ChatGPT 出来后曲线直接起飞,而且到现在还没减速的意思。

为啥会这样?Schmitz 解释得很直白:

“People are finding out that this is something one can do, and incrementally, it is just getting easier to do it … before it might have been a question of a lot of dragging context together and prompting ChatGPT 3.5 very precisely, it may now be a question of just pasting or taking a photo of a letter with your Claude app and getting a pretty good response in one shot”

这场景眼熟不?去年一堆 bug-bounty 服务就被 LLMs 生成的低质量报告淹没了(详见 这篇报道)。安全团队每天筛垃圾报告,资源被疯狂消耗。公共服务部门现在也面临同样的窘境:预算没变,申请人翻了5倍。

但公共服务和 bug-bounty 有个核心区别。Schmitz 强调:

“The vast majority of cases we find are people who are entitled to claim for something, claiming for that thing”

这就带出了政策圈常说的 administrative burden(行政负担,参考 这篇文献)。以前流程太繁琐,很多人嫌麻烦直接放弃了。现在 AI 把门槛踏平,那些原本被劝退的人全回来了。这其实是公共服务系统的一次极限压力测试。系统没变,但用户的外挂升级了。

拿企业客服和公共服务做个对比。企业客服遇到 AI 洪水,通常会加滑块验证码、限制提交频率,甚至直接封禁疑似 AI 的 IP。但公共服务能这么干吗?显然不行。那些用 AI 写投诉信的人,往往是缺乏精力或专业知识的弱势群体,他们本来就被繁琐的表格卡在外面。如果公共服务也搞反 AI 防火墙,等于把真正需要帮助的人重新挡在门外。商业公司可以为了效率牺牲部分体验,但公共服务必须兜底,这就是最核心的适用边界与失败条件。一旦公共服务采取一刀切的拦截策略,就会引发巨大的舆论危机和信任崩塌。

对产品经理和运营来说,这事是个明确的信号。如果你在做 ToG 或者公共服务类的产品,现在的决策框架必须彻底重构。别再迷信减少用户操作步骤这种老黄历了。现在的核心矛盾是:用户用 AI 生成的内容质量极高、逻辑极严密,而你的后台审核系统还是人工或者弱智规则。

直接抄这份落地清单。第一步,立刻在收件箱前端引入大模型做初筛,把那些格式完美但诉求重复的案子自动合并去重。第二步,给后台审核员配 AI 助手,专门挑刺那些 AI 生成的完美证据里的逻辑漏洞。第三步,重新设计表单交互,从防用户作弊,转向引导用户提供更精准的上下文。不这么做,你的团队就会被海量的完美垃圾邮件彻底淹没,审核成本会呈指数级上升。


Schmitz 觉得这是重塑社会服务的好机会:

“A big part of making AI go well is being able to detail out what the good version of things looks like. And anyone who’s ever used ChatGPT to do the tax return knows that there’s a good version here where you’re being helped,” Schmitz says. “This could be the moment to say, ‘we need to rethink pretty much everything about how this process looks.’”

讲真,这不仅是公共服务的事。所有依赖表单和审批的业务,都在面临这场代理洪水。谁先学会用 AI 消化 AI,谁就能在这场效率革命里活下来。别等系统被挤爆了才想起来打补丁,现在的每一封 AI 投诉信,都在倒逼你升级后台的审核引擎。

点个赞再走?
公共服务被 AI 投诉信淹没,你觉得该加验证码拦截,还是该升级后台 AI 审核?

— 这些也值得一看 —

  • ·25位菲尔兹奖得主联名发难,AI刷数学榜被指毁根基
  • ·Anthropic 员工辞职,25年硅谷大佬怒斥末日论太扯
  • ·Claude 一小时写出 Win3.1 外壳,原作者吐槽用半分钟就腻

想翻更多?点头像进公众号看历史

Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/201003