華爾街律師事務所Sullivan & Cromwell向一名聯邦法官致歉，此前該事務所提交的一份法庭文件包含約40處錯誤引用和其他由AI「幻覺」造成的錯誤。
Sullivan & Cromwell全球重組團隊聯席主管Andrew Dietderich週五在寫給紐約南區美國破產法院首席法官Martin Glenn的信中表示：「我們對此深感遺憾。」
他在談到九天前提交的一份緊急動議時表示：「本事務所和我本人都深知確保所有提交內容準確無誤的責任，包括根據當地破產規則9011-1(d)的規定，我為未能做到這一點負責。」
這起事件凸顯了AI工具在缺乏適當監督的情況下，在高風險專業工作中可能帶來的風險。由法律技術專家Damien Charlotin管理的一個資料庫已記錄了全球範圍內1,334起法庭文件中出現AI「幻覺」的事件，其中美國境內超過900起。
Charlotin指出，這些「幻覺」大多涉及偽造的引用，儘管偶爾也會發現AI生成的法律論證。
Dietderich表示，Sullivan & Cromwell針對AI工具的使用制定了政策，其中包括對其使用的引用進行審查，但他表示這些政策並未被遵守。
「遺憾的是，這個審查流程未能識別出AI生成的不準確引用，也未能識別出其他似乎全部或部分由人工錯誤造成的錯誤。」
Sullivan & Cromwell是美國收入最高的律師事務所之一，在AmLaw Global 200榜單中排名第30。該事務所也曾代表加密貨幣交易所FTX處理其破產案件。
Dietderich表示，該律師事務所已採取「立即補救措施」，包括全面審查導致錯誤發生的情況。
相關報導：Coinbase的AI支付協議x402推出AI代理應用商店
Dietderich表示，該事務所還在「評估是否需要進一步加強其內部培訓和審查流程」。
Dietderich還指出，這些錯誤是由一家競爭對手律師事務所發現的。
他說：「我還在週五致電Boies Schiller Flexner律師事務所，感謝他們提醒我們注意此事，並直接向他們致歉。」
雜誌：IronClaw挑戰OpenClaw，Olas為Polymarket推出機器人——AI之眼
