Amerikaanse advocaten dienen AI-gegenereerde pleidooien in met fictieve citaten, en dit gebeurt in een versnellend tempo. Gerechtelijke sancties vestigen nieuwe records en de technologie verspreidt zich zo diep in juridische software dat experts zeggen dat verplichte openbaarmakingsregels mogelijk al achterhaald zijn.
Amerikaanse advocaten dienen AI-gegenereerde pleidooien in met fictieve citaten, en dit gebeurt in een versnellend tempo. Gerechtelijke sancties vestigen nieuwe records en de technologie verspreidt zich zo diep in juridische software dat experts zeggen dat verplichte openbaarmakingsregels mogelijk al achterhaald zijn. Volgens het onderzoek van NPR van 3 april is het aantal gerechtelijke sancties voor AI-gegenereerde fouten in 2025 sterk gestegen en in 2026 niet afgenomen — een patroon dat directe gevolgen heeft voor elke sector, inclusief crypto, wiens juridische blootstelling afhangt van de kwaliteit van de pleidooien die ter verdediging worden ingediend.
Damien Charlotin, een onderzoeker aan HEC Paris die een wereldwijde telling bijhoudt van gerechtelijke sancties voor door AI gegenereerde juridische fouten, vertelde NPR dat het tempo niet is afgevlakt. "Recentelijk hadden we op één dag 10 zaken van 10 verschillende rechtbanken," zei hij. "We hebben dit probleem omdat AI gewoon te goed is — maar niet perfect." De meest prominente zaak van de afgelopen periode was die van de advocaten van MyPillow CEO Mike Lindell, die elk een boete van $3.000 kregen voor het indienen van pleidooien met fictieve citaten.
Een federale rechtbank heeft vorige maand mogelijk een nieuw record gevestigd toen een advocaat uit Oregon werd veroordeeld tot het betalen van $109.700 aan sancties en kosten. Hooggerechtshoven van de staten zijn ook betrokken geraakt: het hooggerechtshof van Nebraska heeft in februari een advocaat uit Omaha aan de tand gevoeld over fictieve citaten en hem doorverwezen voor disciplinaire maatregelen, en een vergelijkbaar openbaar tafereel ontvouwde zich in maart bij het Hooggerechtshof van Georgia. "Ik ben verbaasd dat mensen dit nog steeds doen, terwijl het in het nieuws is geweest," zei Carla Wale, adjunct-decaan informatie en technologie aan de University of Washington School of Law.
Sommige rechtbanken hebben gereageerd door advocaten te verplichten om AI-ondersteunde inhoud in hun dossiers te labelen. Joe Patrice, senior redacteur van Above the Law en advocaat-journalist, vertelde NPR dat deze regels waarschijnlijk vrijwel onmiddellijk onuitvoerbaar zullen worden. "Het zal zo geïntegreerd raken in de manier waarop alles werkt dat om ijverig aan de regel te voldoen, je op alles wat je publiceert zou moeten zetten, 'Hé, dit is AI-ondersteund,' waarna het een zinloze onderneming wordt," zei hij. De economie van juridische facturatie versnelt ook de adoptie in plaats van deze te vertragen. Aangezien AI-tools de opsteltijd verkorten, staan advocatenkantoren onder druk om nieuwe facturatiemodellen te vinden — en Patrice suggereert dat de resulterende tijdsdruk het voor advocaten verleidelijker maakt om AI-concepten te accepteren zonder adequate verificatie.
De eigen verschuiving van het DOJ (Ministerie van Justitie) weg van de vervolging van crypto-ontwikkelaars berustte deels op het argument dat code neutraal is tenzij er sprake is van criminele intentie — een onderscheid dat precies het soort zorgvuldige juridische redenering vereist dat gehaaste, AI-ondersteunde pleidooien consequent niet kunnen repliceren. Een federale rechtbank in Texas verwierp onlangs een aansprakelijkheidszaak voor crypto-software, deels door te verwijzen naar een DOJ-memo over vervolgingsnormen voor ontwikkelaars, wat illustreert hoe de kwaliteit van juridische redenering in AI-gerelateerde zaken de regelgevende uitkomsten voor de hele sector direct beïnvloedt.
AI zelf is nu in het juridische vizier gekomen, verder dan het probleem van fouten in de rechtszaal. In maart werd OpenAI in een federale rechtbank in Illinois aangeklaagd door Nippon Life Insurance Company of America, die beweerde dat een vrouw ChatGPT gebruikte als juridisch adviseur, en advies ontving dat leidde tot futiele rechtszaken tegen de verzekeraar. De klacht beschuldigde OpenAI van het uitoefenen van het beroep van advocaat zonder vergunning. In een schriftelijke verklaring aan NPR zei OpenAI: "Deze klacht mist elke grond." Wale, van haar kant, verwerpt beide extremen. "Ik denk dat advocaten die begrijpen hoe ze generatieve AI effectief en ethisch moeten gebruiken, advocaten vervangen die dat niet doen," zei ze. "Dat is volgens mij de toekomst."
