Kancelaria prawnicza z Wall Street, Sullivan & Cromwell, przeprosiła sędziego federalnego po złożeniu dokumentu sądowego, który zawierał około 40 nieprawidłowych cytowań i innych błędów spowodowanych halucynacjami AI.
„Głęboko ubolewamy, że do tego doszło” – napisał w piątek Andrew Dietderich, współkierownik globalnego zespołu restrukturyzacyjnego Sullivan & Cromwell, w liście do Głównego Sędziego Martina Glenna z Sądu Upadłościowego Stanów Zjednoczonych dla Południowego Dystryktu Nowego Jorku.
„Kancelaria i ja jesteśmy świadomi naszej odpowiedzialności za zapewnienie dokładności wszystkich złożonych dokumentów, w tym zgodnie z lokalnym przepisem upadłościowym 9011-1(d), i biorę odpowiedzialność za niedopełnienie tego obowiązku” – powiedział, odnosząc się do wniosku nagłego złożonego dziewięć dni wcześniej.
Incydent ten podkreśla ryzyko, jakie narzędzia AI mogą stwarzać w profesjonalnej pracy o wysoką stawkę bez odpowiedniego nadzoru. Baza danych zarządzana przez technologa prawnego Damiena Charlotina odnotowała 1334 incydenty halucynacji AI w dokumentach sądowych na całym świecie, w tym ponad 900 w USA.
Charlotin zwrócił uwagę, że większość tych halucynacji dotyczy fałszywych cytowań, choć sporadycznie identyfikowano również argumenty prawne generowane przez AI.
Dietderich powiedział, że Sullivan & Cromwell posiada politykę dotyczącą użycia narzędzi AI, która obejmuje przegląd używanych cytowań, ale zaznaczył, że polityka ta nie była przestrzegana.
„Niestety, ten proces weryfikacji nie wykrył niedokładnych cytowań wygenerowanych przez AI, ani nie zidentyfikował innych błędów, które wydają się wynikać w całości lub częściowo z błędu manualnego.”
Sullivan & Cromwell to jedna z największych kancelarii prawnych w USA pod względem przychodów, zajmująca 30. miejsce na liście AmLaw Global 200. Kancelaria reprezentowała również giełdę kryptowalut FTX w jej sprawie upadłościowej.
Dietderich powiedział, że kancelaria podjęła „natychmiastowe środki zaradcze”, w tym pełny przegląd okoliczności, które doprowadziły do błędów.
Powiązane: Protokół płatności AI Coinbase x402 uruchamia sklep z aplikacjami dla agentów AI
Kancelaria „ocenia również, czy uzasadnione są dalsze ulepszenia jej wewnętrznych procesów szkoleniowych i przeglądowych” – powiedział Dietderich.
Dietderich zauważył również, że błędy zostały zauważone przez konkurencyjną kancelarię prawną.
„Zadzwoniłem również do Boies Schiller Flexner LLP w piątek, aby podziękować im za zwrócenie naszej uwagi na tę sprawę i przeprosić ich bezpośrednio” – powiedział.
Magazyn: IronClaw rywalizuje z OpenClaw, Olas uruchamia boty dla Polymarket — AI Eye
