主要内容
加利福尼亚州一名法官严厉斥责了两家律师事务所，原因是他们在提交一份补充简报后，被发现使用了未经披露的人工智能。该简报中包含“大量虚假、不准确和误导性的法律引用和引述”。
上周提交的裁决中，迈克尔·威尔纳法官对涉案律师事务所处以 3.1 万美元的罚款，并表示，正如法律教授埃里克·戈德曼和布莱克·里德在“蓝天上”指出的那样，“没有任何一名合格的律师应该将研究和写作外包给人工智能”。
米尔纳法官写道：“我阅读了他们的简报，被他们引用的权威资料所说服（或至少引起了兴趣），并查阅了这些裁决以了解更多信息——结果却发现这些裁决并不存在。这很可怕。从我的角度来看，这几乎导致了更可怕的结果，即将那些虚假材料纳入司法命令中。”
如文件所述，一起针对州立农场的民事诉讼的原告法律代表使用人工智能生成了一份补充简报的大纲。然而，当这份大纲发送给另一家律师事务所 K&L Gates 时，其中包含了“由人工智能生成的虚假研究”，该事务所将这些信息添加到了简报中。
米尔纳法官写道：“两家律师事务所的任何律师或工作人员在提交简报之前显然都没有进行引用检查或其他审查。”当米尔纳法官审查这份简报时，他发现“至少有两个引用的权威资料根本不存在”。在要求 K&L Gates 作出澄清后，该事务所重新提交了简报，米尔纳法官表示，其中包含“除了最初的两个错误之外，还有大量编造的引用和引述”。随后，他发出了一项说明理由令，导致律师们发表了宣誓声明，证实了使用人工智能的事实。
创建大纲的律师承认使用了谷歌双子座以及 Westlaw Precision 中的人工智能法律研究工具与共同律师合作。这并不是律师第一次在法庭上被发现使用人工智能。前特朗普律师迈克尔·科恩在一份法律文件中引用了编造的法庭案件，当时他将谷歌双子座（当时称为 Bard）误认为是“一个超级充电的搜索引擎”，而不是一个人工智能聊天机器人。一名法官还发现，起诉一家哥伦比亚航空公司的律师在他们的简报中包含了一系列由 ChatGPT 生成的虚假案件。
米尔纳法官写道：“最初未经披露使用人工智能产品生成简报的初稿是完全错误的。将这些材料发送给其他律师而不披露其可疑的人工智能来源，实际上将这些专业人员置于了危险之中。”