Le cabinet d'avocats Sullivan & Cromwell a admis devant un tribunal de faillite américain qu'un récent dépôt dans une affaire très médiatisée contenait des erreurs générées par l'intelligence artificielle, y compris des citations fabriquées.
« Nous regrettons profondément ce qui s'est passé », a écrit Andrew Dietderich, responsable de la restructuration du cabinet, au juge Martin Glenn, affirmant que le document incluait des « hallucinations » d'IA ayant produit des autorités fictives et déformé des autorités existantes.
La divulgation a été faite dans une lettre au tribunal de faillite américain pour le district sud de New York, où le cabinet représente des liquidateurs nommés par le tribunal des îles Vierges britanniques. Les erreurs sont apparues dans une requête du 9 avril et le cabinet a déclaré que ses règles concernant l'utilisation de l'IA n'avaient pas été respectées lors de sa préparation.
L'affaire concerne les efforts de ces liquidateurs pour poursuivre des réclamations liées à Prince Group et à son propriétaire, Chen Zhi. Les procureurs allèguent que Chen a dirigé des systèmes de fraude ciblant des victimes dans le monde entier et ont cherché à récupérer des milliards de dollars en cryptomonnaie qu'ils disent liés à cette activité. Il a été détenu plus tôt cette année au Cambodge et ensuite rapatrié en Chine.
Dans le cadre des procédures du Chapitre 15 aux États-Unis, les liquidateurs demandent la reconnaissance de leur autorité à agir au nom des créanciers et des victimes présumées. Prince Group, incorporé dans les îles Vierges britanniques, a été lié par les autorités américaines à des opérations de fraude à grande échelle en Asie du Sud-Est et sanctionné par les gouvernements britannique et américain.
Selon une soumission corrigée, le dépôt d'avril a mal interprété la jurisprudence à plusieurs endroits et incluait des citations qui ne soutenaient pas les propositions qui leur étaient attribuées, tandis que certaines semblaient n'avoir aucune base du tout. Le cabinet a retiré la requête originale et a déposé une version révisée.
Les avocats de Prince Group et Chen chez Boies Schiller Flexner ont initialement identifié les erreurs. Ils ont déclaré que le langage attribué au Code de la faillite américain ne pouvait être trouvé et que plusieurs autorités avaient été mal caractérisées ou mal identifiées. Dans un cas, ont-ils dit, une affaire citée faisait référence à une décision différente dans un autre circuit.
Dans un dépôt séparé, les défendeurs ont déclaré qu'au moins 28 citations étaient erronées, y compris des citations attribuées au tribunal qui n'existent pas. Ils ont fait valoir que le moment de la correction était préjudiciable car le dépôt révisé est intervenu après qu'ils aient soumis leurs objections, et ont demandé au tribunal de reporter une audience prévue et de tenir une conférence de statut.
Sullivan & Cromwell a déclaré que ses politiques exigent que les avocats suivent une formation avant d'utiliser les outils d'IA et de vérifier indépendamment toutes les sorties.
« Avant qu'un avocat du cabinet n'ait accès aux outils d'IA générative, l'avocat doit suivre deux modules de formation obligatoires, dont la complétion est suivie et vérifiée. La formation souligne à plusieurs reprises le risque d'« hallucinations » de l'IA, y compris la fabrication de citations de cas, la mauvaise interprétation des autorités et les citations inexactes », a-t-il déclaré.
« Elle enjoint aux avocats de 'ne rien croire et de tout vérifier' et précise que l'absence de vérification indépendante des résultats générés par l'IA constitue une violation de la politique du cabinet. »
Le cabinet a déclaré qu'un examen plus approfondi avait révélé d'autres problèmes de rédaction mineurs dans d'autres dépôts, qu'il a attribués à une erreur humaine plutôt qu'à l'IA. Il n'a pas identifié les avocats qui ont préparé la requête originale.
Cet incident s'ajoute à une liste croissante d'erreurs liées à l'IA dans la pratique juridique, alors que les cabinets testent des outils conçus pour accélérer la recherche et la rédaction. Les tribunaux ont récemment sanctionné ou critiqué des avocats pour avoir soumis des dépôts contenant des références fabriquées ou inexactes produites par l'IA. En Australie, un avocat a été privé de sa capacité d'exercer en tant qu'avocat principal l'année dernière en raison de l'utilisation de l'IA.
Les facultés de droit commencent à exiger un enseignement sur cette technologie, tandis que des juges seniors ont averti que l'abus pourrait affecter l'intégrité des procédures.
De récentes décisions ont également abordé la manière dont l'IA s'intègre dans les cadres juridiques existants, y compris si les interactions avec de tels outils sont protégées par le privilège. Dans le même temps, certains tribunaux pilotent des systèmes d'IA pour aider à gérer de lourdes charges de travail.
