Casa de avocatură Sullivan & Cromwell din Wall Street și-a cerut scuze unui judecător federal după ce a depus un dosar în instanță care conținea aproximativ 40 de citări incorecte și alte erori cauzate de halucinațiile AI.
„Regretăm profund că s-a întâmplat acest lucru”, a scris vineri Andrew Dietderich, co-șeful echipei globale de restructurare a Sullivan & Cromwell, într-o scrisoare adresată judecătorului șef Martin Glenn de la Tribunalul de Faliment al SUA pentru Districtul de Sud al New York-ului.
„Firma și eu suntem conștienți de responsabilitatea noastră de a asigura acuratețea tuturor înregistrărilor, inclusiv conform Regulii Locale de Faliment 9011-1(d), și îmi asum responsabilitatea pentru nerespectarea acesteia”, a spus el despre o moțiune de urgență depusă cu nouă zile mai devreme.
Incidentul subliniază riscul pe care instrumentele AI îl pot reprezenta în munca profesională de mare anvergură fără o supraveghere adecvată. O bază de date gestionată de tehnologul juridic Damien Charlotin a înregistrat 1.334 de incidente de halucinații AI în dosarele judecătorești din întreaga lume, inclusiv peste 900 în SUA.
Charlotin a subliniat că majoritatea acestor halucinații implică citări fabricate, deși au fost identificate ocazional și argumente legale generate de AI.
Dietderich a declarat că Sullivan & Cromwell are politici în vigoare pentru utilizarea instrumentelor AI, care includ o verificare a citărilor pe care le utilizează, dar a afirmat că aceste politici nu au fost respectate.
„Din păcate, acest proces de verificare nu a identificat citările inexacte generate de AI și nici nu a identificat alte erori care par să fi rezultat în totalitate sau parțial din erori manuale.”
Sullivan & Cromwell este una dintre cele mai mari firme de avocatură din SUA după venituri, ocupând locul 30 în AmLaw Global 200. Firma a reprezentat, de asemenea, bursa de criptomonede FTX în cazul său de faliment.
Dietderich a declarat că firma de avocatură a luat „măsuri corective imediate”, inclusiv o revizuire completă a circumstanțelor care au dus la erori.
Legat de: Protocolul de plăți AI x402 al Coinbase lansează un magazin de aplicații pentru agenții AI
Firma „evaluează, de asemenea, dacă sunt justificate îmbunătățiri suplimentare ale proceselor sale interne de instruire și revizuire”, a spus Dietderich.
Dietderich a menționat, de asemenea, că erorile au fost depistate de o casă de avocatură rivală.
„De asemenea, am sunat vineri la Boies Schiller Flexner LLP pentru a le mulțumi că ne-au adus această problemă în atenție și pentru a le cere scuze direct și lor”, a spus el.
Revistă: IronClaw rivalizează cu OpenClaw, Olas lansează boți pentru Polymarket — AI Eye
