沙利文與克倫威爾律師事務所 (Sullivan & Cromwell) 已向美國破產法院承認，在一個備受矚目的案件中，最近提交的一份文件中包含了人工智慧生成的錯誤，包括捏造的引文。
該事務所的重組業務主管安德魯·迪特里希 (Andrew Dietderich) 致函法官馬丁·格倫 (Martin Glenn)，表示「我們深感遺憾發生此事」，並指出該文件包含了人工智慧「幻覺」，產生了虛構的法律依據並扭曲了現有的法律依據。
這項披露是向美國紐約南區破產法院提交的一封信函中做出的，該事務所代表來自英屬維京群島的法院指定清算人。這些錯誤出現在4月9日的一份動議中，該事務所表示在準備過程中並未遵循其關於人工智慧使用的規定。
此案涉及這些清算人追討與太子集團 (Prince Group) 及其所有人陳志相關索賠的努力。檢察官指控陳志指導針對全球受害者的詐騙園區，並試圖追回他們聲稱與該活動相關的數十億美元加密貨幣。他今年稍早在柬埔寨被拘留，隨後被遣返中國。
透過美國破產法第15章程序，清算人正在尋求其代表債權人和所謂受害者行事的權力認可。太子集團在英屬維京群島註冊成立，已被美國當局與東南亞的大規模詐欺操作聯繫起來，並受到英國和美國政府的制裁。
根據一份更正後的提交文件，4月份的檔案在多處誤述了判例法，並且包含的引文並不支持其所歸屬的論點，而有些引文似乎根本沒有依據。該事務所撤回了原始動議並提交了修訂版本。
太子集團和陳志的律師事務所 Boies Schiller Flexner 最初發現了這些錯誤。他們表示，美國破產法中歸屬的措辭無法找到，並且一些法律依據被錯誤定性或錯誤識別。他們說，在一個案例中，引用的案例指的是另一個巡迴法院的不同判決。
在另一份文件中，被告表示至少有28處引文是錯誤的，包括歸屬於法院但實際上不存在的引述。他們認為更正的時機具有偏頗性，因為修訂後的檔案是在他們提交異議之後才提出的，因此他們要求法院延期預定的聽證會並召開進度會議。
沙利文與克倫威爾律師事務所表示，其政策要求律師在使用人工智慧工具之前完成培訓，並獨立驗證所有輸出內容。
它表示：「在任何事務所律師獲准使用生成式人工智慧工具之前，該律師必須完成兩個必修培訓模組，其完成情況會被追蹤和驗證。培訓反覆強調人工智慧『幻覺』的風險，包括捏造案例引文、誤解法律依據和不準確引述。」
「它指示律師『不輕信任何事，並驗證所有一切』，並明確指出未能獨立驗證人工智慧生成的輸出內容構成違反事務所政策。」
該事務所表示，更廣泛的審查發現其他文件中還有一些輕微的起草問題，他們將這些問題歸因於人為錯誤而非人工智慧。它沒有指出準備原始動議的律師身分。
隨著各事務所測試旨在加速研究和起草工作的工具，這起事件增加了法律實務中與人工智慧相關的失誤案例。法院最近因律師提交包含人工智慧產生之捏造或不準確引用的文件而對其進行制裁或批評。去年，澳洲一名律師因使用人工智慧而被吊銷其擔任主任律師的執業資格。
法學院開始要求提供有關該技術的教學，而資深法官則警告，濫用可能影響訴訟程序的公正性。
最近的裁決也探討了人工智慧如何融入現有的法律框架，包括與此類工具的互動是否受特權保護。同時，一些法院正在試行人工智慧系統以幫助管理繁重的案件量。
