美国一律师用ChatGPT生成的文书出现伪造警察证词，被罚5000美元

据英国《独立报》报道，美国新墨西哥州最高法院近日宣布，辩护律师阿伦斯（Stephen Aarons）在为一名被判谋杀罪的当事人提出上诉时，提交的文书中出现了由 OpenAI 的 ChatGPT 生成编造的警方证词和虚构证人，被判藐视法庭。

法院称，阿伦斯未能核实所提交文书的准确性，“缺乏悔意，也缺乏对委托人的关心”，将对其处以5000美元（折合人民币约为3.35万元）的罚款，还将把他移交律师纪律委员会进行调查。

据报道，阿伦斯此前借助 AI 起草了这份文书，并称去年同意接手被告的上诉案件后，他曾使用整理庭审过程，当时并没有意识到 AI 产生“幻觉”、编造事实的程度会有多严重。

“我很懊悔，但希望纪律委员会能考虑到，这是一次无心之失。所有依赖AI的专业人士，都应从中吸取教训。”阿伦斯说。

上个月，阿伦斯在听证会上解释称，自己把电脑生成的庭审文字记录和其他案件材料输入 ChatGPT，以为它会生成一份“无懈可击的总结”。

报道提到，法官们难以置信阿伦斯没有充分认识到 AI 存在出错的风险。一位法官在听证会上质问：“律师先生，您看新闻吗？有没有在了解外面发生什么？律师依赖AI幻觉的问题，几乎每天都是头版新闻。”