Kancelaria prawna z Wall Street, Sullivan & Cromwell, przeprosiła sędziego federalnego po tym, jak w złożonym wniosku sądowym znalazło się około 40 błędnych cytatów i innych pomyłek związanych z treścią wygenerowaną przez sztuczną inteligencję.
Sprawa wyszła na jaw w piśmie wysłanym przez Andrew Dietdericha, współkierownika globalnego zespołu restrukturyzacji kancelarii, do głównego sędziego Martina Glenna z Amerykańskiego Sądu Upadłościowego dla Południowego Dystryktu Nowego Jorku.
Dietderich oświadczył, że wniosek był częścią nadzwyczajnego wniosku złożonego dziewięć dni wcześniej. Poinformował sąd, że kancelaria przyjmuje odpowiedzialność za błędy i stwierdził, że istniejące procedury weryfikacji nie zadziałały zgodnie z przeznaczeniem w tym przypadku.
W piśmie Dietderich stwierdził, że kancelaria żałuje tego, co się stało i uznała swój obowiązek zapewnienia dokładności składanych dokumentów sądowych. Napisał: „Głęboko ubolewamy, że do tego doszło.”
Powiedział również: „Kancelaria i ja jesteśmy w pełni świadomi naszej odpowiedzialności za zapewnienie dokładności wszystkich składanych dokumentów.” Dietderich dodał, że bierze odpowiedzialność za błąd związany ze złożeniem wniosku.
Wniosek sądowy zawierał około 40 nieprawidłowych cytatów i innych błędów. Kancelaria stwierdziła, że problemy te były spowodowane „halucynacjami” sztucznej inteligencji i błędami, które nie zostały wychwycone przed złożeniem dokumentów.
Dietderich powiedział, że Sullivan & Cromwell ma już wewnętrzne zasady dotyczące korzystania ze sztucznej inteligencji. Zasady te obejmują sprawdzanie cytatów przed złożeniem materiału w sądzie.
Według Dietdericha, kancelaria posiadała zasady mające zapobiec tego typu problemom, ale wymagane procedury nie zostały tym razem przestrzegane. Stwierdził, że proces weryfikacji nie zidentyfikował fałszywych cytatów i innych kwestii.
„Niestety, ten proces weryfikacji nie zidentyfikował niedokładnych cytatów wygenerowanych przez sztuczną inteligencję, ani nie zidentyfikował innych błędów, które wydają się wynikać w całości lub części z błędu ręcznego,” napisał.
Sprawa ta dołącza do rosnącej listy dokumentów prawnych dotkniętych błędami sztucznej inteligencji. Baza danych prowadzona przez technologa prawnego Damiena Charlotina odnotowała 1334 incydenty „halucynacji” sztucznej inteligencji w dokumentach sądowych na całym świecie, z czego ponad 900 w Stanach Zjednoczonych.
Charlotin powiedział, że wiele z tych przypadków dotyczy wymyślonych cytatów. W niektórych przypadkach w dokumentach pojawiły się również argumenty prawne wygenerowane przez sztuczną inteligencję.
Dietderich powiedział, że Sullivan & Cromwell wszczął wewnętrzne dochodzenie w sprawie przyczyn błędów. Stwierdził, że kancelaria podjęła natychmiastowe kroki naprawcze i sprawdza, czy potrzebne jest dodatkowe szkolenie lub silniejsze wewnętrzne kontrole.
Zauważył również, że błędy zostały zgłoszone kancelarii przez konkurencyjną firmę prawniczą Boies Schiller Flexner LLP. Dietderich powiedział, że skontaktował się bezpośrednio z tą firmą, aby podziękować i przeprosić.
Sullivan & Cromwell to jedna z największych kancelarii prawnych w Stanach Zjednoczonych pod względem przychodów. Firma była również zaangażowana w głośne sprawy, w tym reprezentowanie FTX w postępowaniu upadłościowym.
Incydent ten zwrócił nową uwagę na ryzyka związane z wykorzystaniem sztucznej inteligencji w pracy prawniczej, zwłaszcza gdy ludzka weryfikacja nie wychwytuje podstawowych błędów przed złożeniem dokumentów.
