Firma de avocatură Sullivan & Cromwell a recunoscut în fața unui tribunal de faliment din SUA că un document recent depus într-un caz de mare anvergură a conținut erori generate de inteligența artificială, inclusiv citate fabricate.
„Regretăm profund cele întâmplate”, a scris Andrew Dietderich, șeful departamentului de restructurare al firmei, judecătorului Martin Glenn, afirmând că documentul a inclus „halucinații” AI care au produs autorități fictive și au denaturat pe cele existente.
Dezvăluirea a venit într-o scrisoare adresată Curții de Faliment a SUA pentru Districtul de Sud din New York, unde firma reprezintă lichidatorii numiți de instanță din Insulele Virgine Britanice. Erorile au apărut într-o moțiune din 9 aprilie, iar firma a declarat că regulile sale privind utilizarea AI nu au fost respectate în timpul pregătirii.
Cazul implică eforturile acestor lichidatori de a urmări creanțe legate de Prince Group și proprietarul său, Chen Zhi. Procurorii susțin că Chen a dirijat compuși de înșelăciune care au vizat victime din întreaga lume și au căutat să recupereze miliarde de dolari în criptomonede, despre care spun că sunt legate de activitate. El a fost reținut la începutul acestui an în Cambodgia și ulterior repatriat în China.
Prin procedurile din Capitolul 15 din SUA, lichidatorii solicită recunoașterea autorității lor de a acționa în numele creditorilor și al victimelor presupuse. Prince Group, încorporată în Insulele Virgine Britanice, a fost legată de autoritățile americane de operațiuni de fraudă la scară largă în Asia de Sud-Est și a fost sancționată de guvernele Regatului Unit și al SUA.
Potrivit unei depuneri corectate, documentul din aprilie a denaturat jurisprudența în mai multe locuri și a inclus citate care nu susțineau afirmațiile atribuite lor, în timp ce unele păreau să nu aibă nicio bază. Firma a retras moțiunea inițială și a depus o versiune revizuită.
Avocații Prince Group și ai lui Chen de la Boies Schiller Flexner au identificat inițial erorile. Aceștia au declarat că limbajul atribuit Codului de Faliment al SUA nu a putut fi găsit și că mai multe autorități au fost caracterizate sau identificate greșit. Într-un caz, au spus aceștia, un caz citat se referea la o decizie diferită dintr-un alt circuit.
Într-o depunere separată, pârâții au declarat că cel puțin 28 de citate erau eronate, inclusiv citate atribuite instanței care nu există. Aceștia au susținut că momentul corecției a fost prejudicial, deoarece depunerea revizuită a venit după ce ei depuseseră obiecții, și au cerut instanței să amâne o audiere programată și să organizeze o conferință de stare a cazului.
Sullivan & Cromwell a declarat că politicile sale cer avocaților să finalizeze instruirea înainte de a utiliza instrumente AI și să verifice independent toate rezultatele.
"Înainte ca oricărui avocat al firmei să i se acorde acces la instrumente AI generative, avocatul trebuie să completeze două module de instruire obligatorii, a căror finalizare este urmărită și verificată. Instruirea subliniază în mod repetat riscul „halucinațiilor” AI, inclusiv fabricarea citatelor de caz, interpretarea greșită a autorităților și citatele inexacte”, a declarat firma.
"Aceasta îi instruiește pe avocați să „nu creadă nimic și să verifice totul” și precizează că eșecul de a verifica independent rezultatele generate de AI constituie o încălcare a politicii firmei.”
Firma a declarat că o revizuire mai amplă a găsit probleme minore suplimentare de redactare în alte documente, pe care le-a atribuit erorii umane, mai degrabă decât AI. Nu a identificat avocații care au pregătit moțiunea inițială.
Incidentul se adaugă unei liste tot mai mari de erori legate de AI în practica juridică, pe măsură ce firmele testează instrumente concepute pentru a accelera cercetarea și redactarea. Instanțele au sancționat sau criticat recent avocați pentru depunerea de documente cu referințe fabricate sau inexacte produse de AI. În Australia, unui avocat i s-a retras anul trecut dreptul de a practica ca avocat principal din cauza utilizării AI.
Facultățile de drept încep să solicite instruire privind tehnologia, în timp ce judecătorii superiori au avertizat că utilizarea abuzivă ar putea afecta integritatea procedurilor.
Deciziile recente au abordat, de asemenea, modul în care AI se încadrează în cadrele legale existente, inclusiv dacă interacțiunile cu astfel de instrumente sunt protejate prin privilegiu. În același timp, unele instanțe pilotează sisteme AI pentru a ajuta la gestionarea volumului mare de cazuri.
