Firma de avocatură Sullivan & Cromwell din Wall Street și-a cerut scuze unui judecător federal după ce o depunere la tribunal a inclus aproximativ 40 de citate greșite și alte erori legate de conținutul generat de AI.
Problema a ieșit la iveală într-o scrisoare trimisă de Andrew Dietderich, co-șeful echipei globale de restructurare a firmei, judecătorului șef Martin Glenn de la Tribunalul de Faliment al SUA pentru Districtul de Sud al New York-ului.
Dietderich a declarat că depunerea făcea parte dintr-o moțiune de urgență depusă cu nouă zile mai devreme. El a informat tribunalul că firma își asumă responsabilitatea pentru greșeli și a spus că etapele de revizuire existente nu au funcționat conform intenției în acest caz.
În scrisoare, Dietderich a declarat că firma regretă cele întâmplate și a recunoscut datoria sa de a asigura că depunerile la tribunal sunt precise. El a scris: ”Regretăm profund că acest lucru s-a întâmplat.”
De asemenea, a spus: ”Firma și eu suntem profund conștienți de responsabilitatea noastră de a asigura acuratețea tuturor depunerilor.” Dietderich a adăugat că își asumă responsabilitatea pentru eșecul legat de depunere.
Depunerea la tribunal conținea aproximativ 40 de citate incorecte și alte erori. Firma a declarat că aceste probleme au fost cauzate de halucinații AI și greșeli care nu au fost detectate înainte de depunere.
Dietderich a declarat că Sullivan & Cromwell are deja reguli interne pentru utilizarea AI. Aceste reguli includ verificarea citatelor înainte ca materialul să fie depus la tribunal.
Potrivit lui Dietderich, firma avea politici în vigoare pentru a preveni acest tip de problemă, dar procedurile necesare nu au fost respectate cu această ocazie. El a spus că procesul de revizuire nu a reușit să identifice citatele false și alte probleme.
”Regretabil, acest proces de revizuire nu a identificat citatele inexacte generate de AI, și nici alte erori care par să fi rezultat integral sau parțial din erori manuale”, a scris el.
Cazul se adaugă unei liste tot mai mari de depuneri legale afectate de erorile AI. O bază de date gestionată de tehnologul juridic Damien Charlotin a înregistrat 1.334 de incidente de halucinații AI în depuneri la tribunal la nivel mondial, dintre care peste 900 în Statele Unite.
Charlotin a declarat că multe dintre aceste cazuri implică citate inventate. În unele cazuri, argumente legale generate de AI au apărut și ele în depuneri.
Dietderich a declarat că Sullivan & Cromwell a început o investigație internă privind cauzele erorilor. El a spus că firma a luat măsuri corective imediate și analizează dacă este necesară mai multă pregătire sau controale interne mai stricte.
De asemenea, a menționat că greșelile au fost aduse la cunoștința firmei de către firma de avocatură rivală Boies Schiller Flexner LLP. Dietderich a declarat că a contactat direct firma pentru a le mulțumi și a-și cere scuze.
Sullivan & Cromwell este una dintre cele mai mari firme de avocatură din Statele Unite după venituri. Firma a fost, de asemenea, implicată în cazuri de mare anvergură, inclusiv reprezentarea FTX în cazul său de faliment.
Incidentul a adus o nouă atenție asupra riscurilor legate de utilizarea AI în munca juridică, mai ales atunci când revizuirea umană nu detectează erorile de bază înainte de depunere.
