華爾街律師事務所 Sullivan & Cromwell 在一份法庭文件中包含了約 40 處錯誤引文及其他與 AI 生成內容相關的錯誤後，向一位聯邦法官致歉。

此問題是在該事務所全球重組團隊的共同負責人 Andrew Dietderich 致美國紐約南區破產法院首席法官 Martin Glenn 的信函中曝光的。

Dietderich 表示，該文件是九天前提交的緊急動議的一部分。他向法庭表示，該事務所對這些錯誤承擔責任，並稱現有的審查步驟在此案例中未能如預期般運作。

事務所承認文件錯誤並承擔責任

在信中，Dietderich 表示事務所對此事感到遺憾，並承認其確保法庭提交文件準確性的職責。他寫道：「我們對此深感遺憾。」

他還表示：「事務所和我本人都深知確保所有提交文件準確性的責任。」Dietderich 補充說，他為此次文件提交相關的失誤負責。

該法庭文件包含了約 40 處錯誤引文及其他錯誤。該事務所表示，這些問題是由 AI 幻覺和在提交前未被發現的錯誤所導致的。

Dietderich 表示，Sullivan & Cromwell 已經制定了 AI 使用的內部規則。這些規則包括在將資料提交法庭之前檢查引文。

現有的 AI 審查政策未被遵守

根據 Dietderich 的說法，該事務所已制定了防止此類問題發生的政策，但在這次事件中未能遵守所需的程序。他說審查過程未能識別出錯誤的引文和其他問題。

他寫道：「令人遺憾的是，這次審查過程未能識別出 AI 生成的不準確引文，也未能識別出其他似乎全部或部分由人工錯誤導致的錯誤。」

此案使受 AI 錯誤影響的法律文件清單不斷增加。由法律技術專家 Damien Charlotin 營運的一個資料庫記錄了全球法庭文件中 1,334 起 AI 幻覺事件，其中超過 900 起發生在美國。

Charlotin 表示，這些案例中有許多涉及捏造的引文。在某些情況下，AI 生成的法律論點也出現在文件中。

競爭對手事務所發現錯誤後啟動內部審查

Dietderich 表示，Sullivan & Cromwell 已就導致這些錯誤的原因啟動內部調查。他說事務所已立即採取補救措施，並正在審查是否需要進行更多培訓或更強化的內部檢查。

他還指出，這些錯誤是由競爭對手律師事務所 Boies Schiller Flexner LLP 提醒該事務所的。Dietderich 表示他已直接聯繫該事務所，向他們表達感謝並致歉。

Sullivan & Cromwell 是美國收入最高的律師事務所之一。該事務所也參與了多起備受矚目的案件，包括在 FTX 破產案中擔任其代表。

這起事件再次引起人們對 AI 在法律工作中使用的相關風險的關注，特別是在人工審查未能及時發現基本錯誤的情況下。