Le cabinet d'avocats de Wall Street Sullivan & Cromwell a présenté ses excuses à un juge fédéral après qu'une pièce déposée devant le tribunal contenait environ 40 citations erronées et d'autres erreurs liées à du contenu généré par l'IA.
Le problème a été révélé dans une lettre envoyée par Andrew Dietderich, co-responsable de l'équipe de restructuration mondiale du cabinet, au juge en chef Martin Glenn de la Cour américaine des faillites pour le district sud de New York.
Dietderich a déclaré que la pièce faisait partie d'une motion d'urgence soumise neuf jours plus tôt. Il a informé le tribunal que le cabinet acceptait la responsabilité des erreurs et a précisé que les étapes de révision existantes n'avaient pas fonctionné comme prévu dans ce cas.
Dans la lettre, Dietderich a déclaré que le cabinet regrettait ce qui s'était passé et reconnaissait son devoir d'assurer l'exactitude des pièces soumises au tribunal. Il a écrit : « Nous regrettons profondément ce qui s'est produit. »
Il a également déclaré : « Le cabinet et moi sommes parfaitement conscients de notre responsabilité de garantir l'exactitude de toutes les soumissions. » Dietderich a ajouté qu'il assumait la responsabilité de l'échec lié au dépôt.
La pièce déposée devant le tribunal contenait environ 40 citations incorrectes et d'autres erreurs. Le cabinet a déclaré que ces problèmes étaient causés par des hallucinations de l'IA et des erreurs qui n'avaient pas été détectées avant la soumission.
Dietderich a déclaré que Sullivan & Cromwell avait déjà des règles internes concernant l'utilisation de l'IA. Ces règles incluent la vérification des citations avant que le matériel ne soit déposé au tribunal.
Selon Dietderich, le cabinet avait mis en place des politiques pour prévenir ce type de problème, mais les procédures requises n'ont pas été suivies à cette occasion. Il a déclaré que le processus d'examen n'avait pas réussi à identifier les fausses citations et d'autres problèmes.
« Malheureusement, ce processus d'examen n'a pas identifié les citations inexactes générées par l'IA, ni d'autres erreurs qui semblent avoir résulté, en tout ou en partie, d'une erreur manuelle », a-t-il écrit.
Cette affaire s'ajoute à une liste croissante de dépôts judiciaires affectés par des erreurs d'IA. Une base de données gérée par le technologue juridique Damien Charlotin a enregistré 1 334 incidents d'hallucinations d'IA dans des dépôts judiciaires à travers le monde, dont plus de 900 aux États-Unis.
Charlotin a déclaré que beaucoup de ces cas impliquent des citations inventées. Dans certains cas, des arguments juridiques générés par l'IA sont également apparus dans les dépôts.
Dietderich a déclaré que Sullivan & Cromwell avait lancé une enquête interne sur les causes des erreurs. Il a précisé que le cabinet avait pris des mesures correctives immédiates et examinait la nécessité de formations supplémentaires ou de contrôles internes plus rigoureux.
Il a également noté que les erreurs avaient été portées à l'attention du cabinet par le cabinet d'avocats rival Boies Schiller Flexner LLP. Dietderich a déclaré avoir contacté le cabinet directement pour les remercier et s'excuser.
Sullivan & Cromwell est l'un des plus grands cabinets d'avocats aux États-Unis en termes de revenus. Le cabinet a également été impliqué dans des affaires très médiatisées, notamment la représentation de FTX dans son dossier de faillite.
L'incident a attiré une nouvelle attention sur les risques liés à l'utilisation de l'IA dans le travail juridique, surtout lorsque l'examen humain ne détecte pas les erreurs fondamentales avant le dépôt.
