据路透社9月11日报道，美国新墨西哥州最高法院宣布，辩护律师斯蒂芬·阿伦斯为一名被判谋杀罪的当事人提出上诉时，提交的文书中出现虚构证人和编造的警察证词，这些内容由ChatGPT生成。
该法院认定，阿伦斯因未核实提交文书的准确性构成藐视法庭，对其处以5000美元罚款，并将其移交律师纪律委员会调查。阿伦斯承认借助AI起草这份文书。
阿伦斯解释称，去年接手这起上诉案时，他让ChatGPT整理庭审过程，以为会得到“无懈可击的摘要”，却没有意识到AI产生“幻觉”、编造事实的严重程度。法官C·香农·培根在听证会上质问其是否了解外界新闻，并称律师依赖AI幻觉的问题每天都是头条新闻。