Fair Work Commission 数据显示，2023 到 2025 年间案件量激增 40%，其中 40% 的受访案件诉讼人使用了 AI。更扎心的是，这帮人里 60% 用的是免费版 ChatGPT。
先说结论：
- 非英语母语者使用 AI 概率是母语者两倍，语言壁垒直接转化为对模型的盲目依赖。
- 把大模型当神谕且不注入上下文，输出结果在法庭上等同于完全错误的法律建议。
- 前沿模型与免费模型间存在约 5 年能力窗口，靠免费 API 打硬仗注定面临系统性劣势。
把大模型当神谕的代价
被解雇的 ALDI 员工 Sadnan Khan 用了付费版 ChatGPT 解读法律案件，但他没做上下文管理，甚至把 AI 聊天指令直接提交给法庭。Fair Work Commission deputy president Michael Easton 判定他使用 AI 作为 quasi-legal advisor，罚赔 1230 美元 法律费用。Khan 自己承认 thinking oranges were apples，把通用模型的回答当成了澳洲本地法律判例。
从工程视角看，这就是典型的 RAG 缺失和 Prompt 污染。没有喂入 Aussie court way 的本地知识库，模型只能输出通用废话。Monash University 法律教授 Genevieve Grant 指出，AI 存在 sycophantic tendency，会鼓励人们相信自己的主张有依据。如果 prompt 不专业，结果必然不专业。
这事给所有做 AI Agent 落地的人敲了警钟。在企业级应用里，如果不做严格的上下文隔离和事实核查，大模型的谄媚特性会直接导致业务逻辑崩溃。法庭上的 1230 刀罚款，换成生产环境就是 P0 级事故。
5 年窗口期与工程化破局
Macquarie University 计算机科学讲师 Gregory Baker 提供了另一个样本。他成为第一个使用 AI agents 团队成功挑战 casual employment laws 的人。他把 ChatGPT 当软件开发项目，创建代码库，建立 build process 检查引用和逻辑连贯性，甚至用 ChatGPT 模拟交叉询问准备庭审。Baker 估算，前沿模型和免费模型之间有 5 年窗口期，每月几百刀的订阅费对很多人是门槛。
对比两者的数据与操作路径：
- Khan：单模型直接对话，无上下文注入，提交带指令的原始输出。
- Baker：多 Agent 协同，建立自动化校验 Pipeline，将法庭文件视为代码进行版本控制。
硬件与成本门槛：Baker 指出，对于无法承担每月数百美元 AI 订阅费的用户，免费模型在复杂逻辑推理上的缺陷会被无限放大，这种技术鸿沟正在驱动实质性的不平等。
从工程角度看，Baker 的成功不可简单复制。他的核心在于具备计算机科学背景，能自己写 Pipeline 校验逻辑。对于非技术背景的诉讼人，失败条件非常明确：第一，缺乏本地知识库的 RAG 接入；第二，没有对模型输出进行规则引擎校验；第三，直接使用免费模型处理高复杂度法律逻辑。一旦触碰这三条，模型输出的幻觉就会被直接放大为法律风险。
法庭新规与 Prompt 模板化
Fair Work Commission 10 月 20 日生效新规要求申请人披露 AI 使用情况，验证事实、权威和超链接，确认证人证据。官方提供了 AI-dependent litigants 模板。Khan 计划下次使用两三个不同的 AI agents，混合 Claude 和 ChatGPT 来获取不同观点。这在工程上叫 Ensemble 思路，用多模型投票来降低单一模型的幻觉率。
给正在做 AI 法律或合规 Agent 的团队一份落地清单：1. 强制开启 Citation，要求模型输出必须带原文片段，否则拒绝生成；2. 引入交叉验证机制，用 Claude 和 ChatGPT 做双路校验，比对输出差异；3. 设立 Prompt 净化层，在提交前用正则清洗掉系统指令残留；4. 针对非英语母语用户，增加一层本地化术语映射字典，避免模型用通用逻辑套用本地法律。
Fair Work Commission 的报告揭示了一个残酷的现实：AI 正在降低获取法律服务的门槛，但也在成倍放大 Prompt 盲的风险。40% 的案件激增和 60% 的免费版使用率说明，大量用户把大模型当成了无需思考的黑盒。技术决策者在设计 AI 产品时，必须把防呆和防幻觉作为最高优先级。不要指望用户会自己去写完美的 Prompt，系统架构必须兜底。10 月 20 日的新规只是开始，未来法庭对 AI 生成内容的审查标准会向代码级 Review 看齐。想复现 Baker 的成功，先把显存和预算留够，免费版跑不出严谨的逻辑链。
评论区唠唠
你主力跑什么模型做复杂逻辑推理？显存多少？速度多少？
往期推荐
- ·50%工时被重塑，AI agent规模化落地不到两成
- ·30%评估任务无解，数百个Agent靠逆向公式作弊通关
- ·9600亿美元资本支出，四大厂AI烧钱超现金流
点击公众号头像 → 历史消息，可翻阅以上文章
