Het Wall Street advocatenkantoor Sullivan & Cromwell heeft zijn excuses aangeboden aan een federale rechter nadat het een gerechtelijk document had ingediend dat ongeveer 40 onjuiste citaties en andere fouten bevatte, veroorzaakt door AI-hallucinaties.
“We betreuren het ten zeerste dat dit is gebeurd,” schreef Andrew Dietderich, medehoofd van Sullivan & Cromwell's wereldwijde herstructureringsteam, vrijdag in een brief aan hoofdrechter Martin Glenn van de Amerikaanse faillissementsrechtbank voor het Southern District van New York.
“Het kantoor en ik zijn ons terdege bewust van onze verantwoordelijkheid om de nauwkeurigheid van alle inzendingen te waarborgen, inclusief die onder Local Bankruptcy Rule 9011-1(d), en ik neem de verantwoordelijkheid voor het nalaten hiervan,” zei hij over een spoedmotie die negen dagen eerder was ingediend.
Het incident benadrukt het risico dat AI-tools kunnen vormen in professioneel werk met hoge inzetten zonder de juiste controle. Een database beheerd door juridisch technoloog Damien Charlotin heeft 1.334 incidenten van AI-hallucinaties in gerechtelijke documenten wereldwijd vastgelegd, waaronder meer dan 900 in de VS.
Charlotin wees erop dat de meeste van deze hallucinaties betrekking hebben op verzonnen citaties, hoewel er ook af en toe door AI gegenereerde juridische argumenten zijn geïdentificeerd.
Dietderich zei dat Sullivan & Cromwell beleid heeft voor het gebruik van AI-tools, waaronder een controle van de gebruikte citaties, maar zei dat het beleid niet werd gevolgd.
“Helaas heeft dit beoordelingsproces de onnauwkeurige citaties gegenereerd door AI niet geïdentificeerd, noch andere fouten die geheel of gedeeltelijk het gevolg lijken te zijn van handmatige fouten.”
Sullivan & Cromwell is een van de grootste advocatenkantoren in de VS qua omzet, en staat op de 30e plaats in de AmLaw Global 200. Het kantoor vertegenwoordigde ook crypto-exchange FTX in haar faillissementszaak.
Dietderich zei dat het advocatenkantoor “onmiddellijke corrigerende maatregelen” heeft genomen, waaronder een volledige herziening van de omstandigheden die tot de fouten hebben geleid.
Gerelateerd: Coinbase’s AI-betalingsprotocol x402 lanceert app store voor AI-agents
Het kantoor is ook “aan het evalueren of verdere verbeteringen aan de interne trainings- en beoordelingsprocessen gerechtvaardigd zijn,” aldus Dietderich.
Dietderich merkte ook op dat de fouten werden opgemerkt door een concurrerend advocatenkantoor.
“Ik heb vrijdag ook Boies Schiller Flexner LLP gebeld om hen te bedanken voor het onder onze aandacht brengen van deze kwestie en om ook rechtstreeks mijn excuses aan te bieden,” zei hij.
Magazine: IronClaw concurreert met OpenClaw, Olas lanceert bots voor Polymarket — AI Eye
