1600起AI伪造引证案背后：模型没坏，是流程缺失

现在有一个公开的数据库，记录了全球 1,600 多起判决——在这些案件中，有人提交了 AI 伪造的材料，法官做出了回应。这是目前已知最大的、记录 AI 在专业工作中被错误使用的文档库，值得一读——即便你永远不会踏入法庭。因为所有案件中的失败如出一辙，而且并非人们所假设的那种。模型没有出现故障。它按设计产生了看似合理的文本。缺失的那一步，是有人打开引文并核实它确实存在。

数据及其增长速度

法律研究员 Damien Charlotin 维护着这个被业内所有人引用的追踪器。它的轨迹本身就是故事：

• roughly 200 cases in mid-2025
• 2026 年初 1,227 起

其中超过一千起来自美国。这个曲线没有趋于平缓，而且值得精确说明它的统计范围：它计数的不是诉讼中每一个 AI 误用的实例，而是其中被法院注意到并将其回应记录在案的子集。真实的基数是无法知晓的，而且更大。

金钱处罚接踵而至。仅 2026 年第一季度，美国法院就因伪造引文施加了至少 145,000 美元的制裁。迄今为止最大的一起是俄勒冈州地区法院 Couvrette v. Wisnovsky 案中的制裁与费用合计约 109,700 美元。

法院停止发出警告

在 2025 年大部分时间里，法院的回应是谴责和责令说明理由。进入 2026 年，这一切都变了——而变化背后的理由才是值得借鉴的部分。

对 2026 年 2 月至 4 月判决的分析显示了处罚的幅度：Fletcher v. Experian 案中 2,500 美元制裁；Whiting v. City of Athens 案中每位律师 15,000 美元的惩罚性制裁；Farris 案中撤销案件并驳回全部赔偿；公开谴责并移交律师纪律机构处理。某法院写道，法官们"应该开始应对这一挑战"，"从告诫和谴责转向更具惩罚性的制裁"。

两项裁决承载了可超越法律泛化的原则。

第一项是否定以"新颖性"作为辩护。如某判决所言：现代生成式 AI 或许是新技术，但相同的规则同样适用。义务从来不是"不要使用新工具"，而是"不要签署你未曾核实过的东西"——而且这早于 AI 工具很久就已存在。

第二项是 Farris 案，该案中律师将核查工作委托给了下属。法院认为这种依赖不足以履行他作为在案律师的义务。核实工作不能从那些文件上署名的人身上转移出去。这是其他所有职业都应该记住的一句话：责任归属于签字的人，而不是打字的人。

制裁已经达到了极限。2026 年 6 月，宾夕法尼亚州一家联邦法院对一名律师处以 1,500 美元制裁，并暂停其在法院执业六个月。内布拉斯加州产生了美国首例因 AI 提交文件而吊销律师执业资格的处分。而在 2026 年 2 月的一起离婚上诉中，奥马哈一名律师提交了一份简报，其中 63 处引文有 57 处存在缺陷——20 处是幻觉出来的案件，3 处是伪造的判决，还有人为编造的法规引用。63 处引文，没有一个人打开过其中任何一处。

为什么这是工作流程问题，而不是 AI 问题

注意整份记录中缺失的部分：没有人因为 AI 输出看起来不对而被发现。它看起来是对的。伪造的案件引文有着正确的判例汇编格式、看似合理的当事人名称，以及与论点相符的年份。这就是语言模型的设计目标。

检测失败是结构性的。引文正是人类通过格式模式匹配来核查的那种声明，而不是通过打开原始来源来核查的，而 AI 输出在构造上格式完美。每种职业都有类似的情况：一个听起来标准的药物相互作用、一个单位正确的荷载计算、一条归属于真实机构的统计数据、一个完全符合库命名约定但并不存在的 API 方法。

数据库中的律师并非无法阅读的粗心之人。他们是核查步骤已经变成隐性的人——这东西以前是自动发生的，因为找到某个案例首先就意味着要查看它。生成式 AI 消除了检索步骤，连同附带的、原本蕴含在其中的核查。没有任何东西填补这个空白，而这个空白只有在法官开始查找时才会暴露出来。

核查协议

如果你使用 AI 处理任何需要你签名的东西，修复方法是一个你明确执行的步骤，而不是你假设已经发生的步骤：

• 打开每个被引用的来源。不是搜索标题——而是打开 URL 或记录。一个无法打开的来源在你的用途中是不存在的。

• 匹配引文来核实声明。确认你依赖的具体数字、判决要点或句子出现在你打开的来源中。AI 输出经常引用一个并不包含所述内容的真实文档。

• 检查来源是否支持这种使用方式。一个真实的案例可以是真实的、可找到的、引用正确的，但仍然不能支持它被引用的主张。这就是前两项检查无法捕捉的失败模式。

• 记录你检查了什么。一份标注日期的核实清单，将诚实错误与事后被伪装成伪造提交的样子区分开来。记录中几项更严厉的制裁出现在对发现报告的回应之后，而不是原始错误之后。

• 不要将第一步委托给任何不在文件上署名的人。这就是 Farris 案，也是法律之外适用范围最广的规则。

整个协议每项声明只需几分钟。与 109,700 美元的罚款、六个月的停牌或职业生涯的终结相比，这是任何专业人士都将采用的最便宜的程序——而且该数据库的增长曲线表明大多数人仍然没有采纳它。

原文首次发布于 www.nihardaily.com。更多此类文章请访问 www.nihardaily.com。