三亿一千万美元成本计算误差,叠加ChatGPT生成的虚假参考文献。德勤出具的大学合并报告彻底翻车。
核心看点
- 西澳政府支付16.6万美元获取的大学合并可行性报告,出现高达3.11亿美元的成本计算偏差。
- 报告内包含ChatGPT元数据标签的虚假链接,以及沿用至2010年的过时大学名称。
- 专家建议政府重新校准咨询合同,明确AI使用边界,并要求对核心数据进行纯人工重做。
这起事件暴露出大型咨询机构在引入生成式AI时的流程失控。对于正在将AI接入核心业务流的决策者而言,这不仅是公关危机,更是直接的成本与合规风险。当AI接管了信息合成与校对,人工核验机制的缺位会让微小错误放大为致命漏洞。
▎三亿一千万美元的AI幻觉账单
西澳政府原本希望这份16.6万美元的报告能厘清西澳大学、科廷大学与默多克大学的合并路径。德勤在报告中设定了低、中、高三种成本场景。但在高成本场景下,合并科廷大学与西澳大学的“第一天总成本”为5.14亿美元,后续五年为1.45亿美元,两者相加应为6.59亿美元,报告却写成了3.99亿美元,直接产生2.6亿美元的差额。
在低成本场景下,三所大学合并的总成本应为5.12亿美元,报告却算出了8.23亿美元,误差高达3.11亿美元。堪培拉大学的公共部门治理专家Stephen Bartos直言,除非数字能对上,否则政府可能根本不想推进合并。
更荒诞的是参考文献。调查发现,报告中引用世界卫生组织报告的URL链接,直接带有ChatGPT的元数据标签,证实该链接由聊天机器人直接生成。此外,报告反复将科廷大学称为“科廷理工大学”,而该名称早在2010年就已更改,2017年已通过州议会法案正式变更。
▎生成式AI在咨询业务中的适用边界
德勤在报告中承认,使用生成式AI来“支持研究整理、信息合成与编辑校对”。这种应用方式恰好踩中了AI幻觉的高发区。信息合成与编辑校对需要极高的事实准确性,而大语言模型的底层逻辑是概率预测,并非事实检索。德勤此前曾试图将这些错误淡化,这种对AI生成内容的盲目自信,在很多企业的数字化转型中屡见不鲜。
Stephen Bartos指出,这些错误让报告彻底失去公信力。他建议至少需要有人从头到尾手动重新处理这些材料,完全摒弃AI。对于企业决策者而言,AI在咨询报告中的适用边界非常清晰:它可以用于头脑风暴、初步框架搭建或非核心数据的格式化处理。一旦涉及财务模型计算、历史事实核对、法律条款引用,AI必须退居次席,由具备领域知识的人类专家进行逐字校验。把信息合成直接等同于事实确认,是这次翻车事件的核心失败条件。
▎企业采购AI咨询服务的避坑清单
澳大利亚国立大学的Christian Downie教授指出,缺乏透明度是摧毁报告信任度的根源。如果咨询公司将AI用于数据收集,必须在报告中详细披露。这为甲方企业提供了明确的合同重构方向。西澳政府能源与经济多元化部门已致函德勤,要求加速追回报告费用。政府发言人强调,所有可用数据都将接受大学改革商业计划的重新审查。
在采购包含AI交付物的咨询服务时,决策者需要建立新的验收框架。首先,在合同中明确界定AI的使用环节,强制要求乙方披露AI参与的具体模块与比例。其次,设立独立的事实核查验收节点,针对财务数据、专有名词、引用链接进行100%人工抽检。最后,引入惩罚性条款,当AI幻觉导致核心数据错误时,触发类似西澳政府此次的加速成本回收机制。
西澳高等教育部长Tony Buti最初将这些错误轻描淡写为打字错误,随后才表达愤怒。这种态度的转变,折射出传统采购方对AI生成内容风险的认知滞后。默多克大学副校长Andrew Deeks直接批评该报告是胡说八道,指出合并只会消耗大量时间、资金和精力。
对于正在推进AI转型的企业,这份翻车的报告是一面镜子。引入AI工具不能仅停留在支持信息合成的模糊声明上。你必须为AI的输出建立硬性校验围栏。当你的业务流中混入了未经人工核实的AI生成数据,你节省下的初期成本,最终都会以数倍的代价在决策失误中偿还。想复现合规的AI工作流,先把人工校验环节写进SOP,而不是等报告交差后再去追责。
点个赞再走?
你在采购外部服务时,会要求供应商披露AI使用比例吗?
往期推荐
- ·数学推理对决 AI 计算,500万人创造4890亿英镑的真相
- ·万亿 IPO 估值战:OpenAI 对决 Anthropic
- ·Opus 4.7 闲置三十小时,Agent 自创游戏
点击公众号头像 → 历史消息,可翻阅以上文章