律师因AI幻觉证人被罚5000美元

新墨西哥州最高法院正在追究一名律师的责任，该律师在一起谋杀案上诉中提交了由 AI 伪造的证人证词和虚假警方证词，据 Reuters 报道。法院在周三的一份文件中对 Stephen Aarons 处以 5000 美元罚款，并以藐视法庭罪论处，原因是他在提交这份由 AI 生成的诉讼简报时未能"核实其中的事实主张和法律依据"。

文件称，简报"包含来自完全虚构证人的虚假证词"，以及关于枪手衣着和外貌的"虚假证词"。Justice C. Shannon Bacon 在 8 月的一次听证会上质疑 Aarons 为何没有意识到 AI 带来的风险，当时他承认使用了 ChatGPT，并认为它会生成一份"防弹的"审判摘要。"律师，你看过新闻吗？你听广播吗？你读过任何关于世界正在发生的事情的文章吗？" Bacon 大法官说，据 Reuters 报道。"因为律师依赖 AI 幻觉的问题每天都是头条新闻。"

随着在工作中使用 AI 工具的律师数量不断增加，法院发现由 AI 编造（或者说"幻觉"）的引述的案例也在增多。去年，两家律所因提交了一份包含"大量虚假、不准确和误导性法律引述和引用"的简报而受到法官抨击；MyPillow 的 Mike Lindell 的律师也因在简报中放入 AI 生成的错误引语和虚假 AI 引文而被罚款。

"我深感懊悔，但希望纪律委员会能考虑到这是一个诚实的错误，" Aarons 在一份声明中告诉 Reuters。