Het Wall Street-advocatenkantoor Sullivan & Cromwell heeft zich verontschuldigd bij een federale rechter nadat een gerechtelijk document ongeveer 40 verkeerde citaten en andere fouten bevatte die verband hielden met door AI gegenereerde inhoud.
De kwestie kwam aan het licht in een brief van Andrew Dietderich, medehoofd van het wereldwijde herstructureringsteam van het kantoor, aan hoofdrolrechter Martin Glenn van de Amerikaanse Faillissementsrechtbank voor het Southern District van New York.
Dietderich zei dat de indiening deel uitmaakte van een negen dagen eerder ingediende spoedaanvraag. Hij vertelde de rechtbank dat het kantoor de verantwoordelijkheid aanvaardt voor de fouten en zei dat bestaande controleprocedures in dit geval niet werkten zoals bedoeld.
In de brief zei Dietderich dat het kantoor spijt had van wat er was gebeurd en erkende het zijn plicht om ervoor te zorgen dat gerechtelijke indieningen accuraat zijn. Hij schreef: "Wij betreuren het ten zeerste dat dit is gebeurd."
Hij zei ook: "Het kantoor en ik zijn ons terdege bewust van onze verantwoordelijkheid om de nauwkeurigheid van alle indieningen te waarborgen." Dietderich voegde eraan toe dat hij de verantwoordelijkheid neemt voor de mislukking die verband houdt met de indiening.
Het gerechtelijk document bevatte ongeveer 40 onjuiste citaten en andere fouten. Het kantoor zei dat deze problemen werden veroorzaakt door AI-hallucinaties en fouten die niet waren opgemerkt vóór indiening.
Dietderich zei dat Sullivan & Cromwell al interne regels heeft voor het gebruik van AI. Deze regels omvatten het controleren van citaten voordat materiaal bij de rechtbank wordt ingediend.
Volgens Dietderich had het kantoor beleid om dit soort problemen te voorkomen, maar werden de vereiste procedures bij deze gelegenheid niet gevolgd. Hij zei dat het controleproces er niet in slaagde de valse citaten en andere problemen te identificeren.
"Helaas heeft dit controleproces de onjuiste, door AI gegenereerde citaten niet geïdentificeerd, noch andere fouten die geheel of gedeeltelijk het gevolg lijken te zijn van handmatige fouten," schreef hij.
De zaak draagt bij aan een groeiende lijst van gerechtelijke documenten die getroffen zijn door AI-fouten. Een database beheerd door juridisch technoloog Damien Charlotin heeft 1.334 incidenten van AI-hallucinaties in gerechtelijke documenten wereldwijd geregistreerd, waarvan meer dan 900 in de Verenigde Staten.
Charlotin zei dat veel van deze gevallen verzonnen citaten betreffen. In sommige gevallen zijn er ook door AI gegenereerde juridische argumenten verschenen in indieningen.
Dietderich zei dat Sullivan & Cromwell een intern onderzoek is gestart naar wat tot de fouten heeft geleid. Hij zei dat het kantoor onmiddellijke corrigerende maatregelen heeft genomen en onderzoekt of meer training of strengere interne controles nodig zijn.
Hij merkte ook op dat de fouten onder de aandacht van het kantoor werden gebracht door het rivaliserende advocatenkantoor Boies Schiller Flexner LLP. Dietderich zei dat hij rechtstreeks contact opnam met het kantoor om hen te bedanken en zich te verontschuldigen.
Sullivan & Cromwell is een van de grootste advocatenkantoren in de Verenigde Staten gemeten naar omzet. Het kantoor is ook betrokken geweest bij spraakmakende zaken, waaronder de vertegenwoordiging van FTX in zijn faillissementszaak.
Het incident heeft hernieuwde aandacht gevestigd op de risico's die verbonden zijn aan het gebruik van AI in juridisch werk, vooral wanneer menselijke controle elementaire fouten niet opmerkt vóór indiening.
