社区所有版块导航
Python
python开源   Django   Python   DjangoApp   pycharm  
DATA
docker   Elasticsearch  
aigc
aigc   chatgpt  
WEB开发
linux   MongoDB   Redis   DATABASE   NGINX   其他Web框架   web工具   zookeeper   tornado   NoSql   Bootstrap   js   peewee   Git   bottle   IE   MQ   Jquery  
机器学习
机器学习算法  
Python88.com
反馈   公告   社区推广  
产品
短视频  
印度
印度  
Py学习  »  chatgpt

三亿一千万成本算错,德勤报告竟用ChatGPT生成

AI醒知 • 1 周前 • 75 次点击  

三亿一千万美元成本计算误差,叠加ChatGPT生成的虚假参考文献。德勤出具的大学合并报告彻底翻车。

核心看点

  • 西澳政府支付16.6万美元获取的大学合并可行性报告,出现高达3.11亿美元的成本计算偏差。
  • 报告内包含ChatGPT元数据标签的虚假链接,以及沿用至2010年的过时大学名称。
  • 专家建议政府重新校准咨询合同,明确AI使用边界,并要求对核心数据进行纯人工重做。

这起事件暴露出大型咨询机构在引入生成式AI时的流程失控。对于正在将AI接入核心业务流的决策者而言,这不仅是公关危机,更是直接的成本与合规风险。当AI接管了信息合成与校对,人工核验机制的缺位会让微小错误放大为致命漏洞。

▎三亿一千万美元的AI幻觉账单

西澳政府原本希望这份16.6万美元的报告能厘清西澳大学、科廷大学与默多克大学的合并路径。德勤在报告中设定了低、中、高三种成本场景。但在高成本场景下,合并科廷大学与西澳大学的“第一天总成本”为5.14亿美元,后续五年为1.45亿美元,两者相加应为6.59亿美元,报告却写成了3.99亿美元,直接产生2.6亿美元的差额。

在低成本场景下,三所大学合并的总成本应为5.12亿美元,报告却算出了8.23亿美元,误差高达3.11亿美元。堪培拉大学的公共部门治理专家Stephen Bartos直言,除非数字能对上,否则政府可能根本不想推进合并。

更荒诞的是参考文献。调查发现,报告中引用世界卫生组织报告的URL链接,直接带有ChatGPT的元数据标签,证实该链接由聊天机器人直接生成。此外,报告反复将科廷大学称为“科廷理工大学”,而该名称早在2010年就已更改,2017年已通过州议会法案正式变更。

▎生成式AI在咨询业务中的适用边界

德勤在报告中承认,使用生成式AI来“支持研究整理、信息合成与编辑校对”。这种应用方式恰好踩中了AI幻觉的高发区。信息合成与编辑校对需要极高的事实准确性,而大语言模型的底层逻辑是概率预测,并非事实检索。德勤此前曾试图将这些错误淡化,这种对AI生成内容的盲目自信,在很多企业的数字化转型中屡见不鲜。

Stephen Bartos指出,这些错误让报告彻底失去公信力。他建议至少需要有人从头到尾手动重新处理这些材料,完全摒弃AI。对于企业决策者而言,AI在咨询报告中的适用边界非常清晰:它可以用于头脑风暴、初步框架搭建或非核心数据的格式化处理。一旦涉及财务模型计算、历史事实核对、法律条款引用,AI必须退居次席,由具备领域知识的人类专家进行逐字校验。把信息合成直接等同于事实确认,是这次翻车事件的核心失败条件。

▎企业采购AI咨询服务的避坑清单

澳大利亚国立大学的Christian Downie教授指出,缺乏透明度是摧毁报告信任度的根源。如果咨询公司将AI用于数据收集,必须在报告中详细披露。这为甲方企业提供了明确的合同重构方向。西澳政府能源与经济多元化部门已致函德勤,要求加速追回报告费用。政府发言人强调,所有可用数据都将接受大学改革商业计划的重新审查。

在采购包含AI交付物的咨询服务时,决策者需要建立新的验收框架。首先,在合同中明确界定AI的使用环节,强制要求乙方披露AI参与的具体模块与比例。其次,设立独立的事实核查验收节点,针对财务数据、专有名词、引用链接进行100%人工抽检。最后,引入惩罚性条款,当AI幻觉导致核心数据错误时,触发类似西澳政府此次的加速成本回收机制。

西澳高等教育部长Tony Buti最初将这些错误轻描淡写为打字错误,随后才表达愤怒。这种态度的转变,折射出传统采购方对AI生成内容风险的认知滞后。默多克大学副校长Andrew Deeks直接批评该报告是胡说八道,指出合并只会消耗大量时间、资金和精力。

对于正在推进AI转型的企业,这份翻车的报告是一面镜子。引入AI工具不能仅停留在支持信息合成的模糊声明上。你必须为AI的输出建立硬性校验围栏。当你的业务流中混入了未经人工核实的AI生成数据,你节省下的初期成本,最终都会以数倍的代价在决策失误中偿还。想复现合规的AI工作流,先把人工校验环节写进SOP,而不是等报告交差后再去追责。


点个赞再走?
你在采购外部服务时,会要求供应商披露AI使用比例吗?

往期推荐

  • ·
    数学推理对决 AI 计算,500万人创造4890亿英镑的真相
  • ·
    万亿 IPO 估值战:OpenAI 对决 Anthropic
  • ·
    Opus 4.7 闲置三十小时,Agent 自创游戏

点击公众号头像 → 历史消息,可翻阅以上文章

Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/202680