Le cabinet d'avocats de Wall Street Sullivan & Cromwell a présenté ses excuses à un juge fédéral après avoir soumis un document judiciaire contenant une quarantaine de citations incorrectes et d'autres erreurs causées par des hallucinations de l'IA.
« Nous regrettons profondément ce qui s'est passé », a écrit Andrew Dietderich, co-responsable de l'équipe de restructuration mondiale de Sullivan & Cromwell, vendredi dans une lettre adressée au juge en chef Martin Glenn du tribunal américain des faillites pour le district sud de New York.
« Le cabinet et moi sommes pleinement conscients de notre responsabilité de garantir l'exactitude de toutes les soumissions, y compris en vertu de la règle locale de faillite 9011-1(d), et j'assume la responsabilité de ne pas l'avoir fait », a-t-il déclaré à propos d'une motion d'urgence déposée neuf jours plus tôt.
L'incident souligne le risque que les outils d'IA peuvent poser dans le travail professionnel à enjeux élevés sans une surveillance appropriée. Une base de données gérée par le technologue juridique Damien Charlotin a enregistré 1 334 incidents d'hallucinations de l'IA dans des documents judiciaires à travers le monde, dont plus de 900 aux États-Unis.
Charlotin a souligné que la plupart de ces hallucinations impliquent des citations fabriquées, bien que des arguments juridiques générés par l'IA aient également été occasionnellement identifiés.
Dietderich a déclaré que Sullivan & Cromwell avait mis en place des politiques pour l'utilisation des outils d'IA, qui incluent un examen des citations utilisées, mais a ajouté que ces politiques n'avaient pas été suivies.
« Malheureusement, ce processus de révision n'a pas identifié les citations inexactes générées par l'IA, ni d'autres erreurs qui semblent avoir résulté, en tout ou en partie, d'une erreur manuelle. »
Sullivan & Cromwell est l'un des plus grands cabinets d'avocats aux États-Unis en termes de revenus, se classant 30e sur l'AmLaw Global 200. Le cabinet a également représenté la bourse crypto FTX dans son affaire de faillite.
Dietderich a déclaré que le cabinet d'avocats avait pris des « mesures correctives immédiates », y compris un examen complet des circonstances qui ont conduit aux erreurs.
En relation : Le protocole de paiement IA x402 de Coinbase lance une boutique d'applications pour les agents IA
Le cabinet « évalue également si des améliorations supplémentaires de ses processus internes de formation et de révision sont justifiées », a déclaré Dietderich.
Dietderich a également noté que les erreurs avaient été repérées par un cabinet d'avocats rival.
« J'ai également appelé Boies Schiller Flexner LLP vendredi pour les remercier d'avoir porté cette affaire à notre attention et pour leur présenter mes excuses directement », a-t-il déclaré.
Magazine : IronClaw rivalise avec OpenClaw, Olas lance des bots pour Polymarket — AI Eye
