El bufete de abogados Sullivan & Cromwell ha admitido ante un tribunal de quiebras de EE. UU. que una presentación reciente en un caso de alto perfil contenía errores generados por inteligencia artificial, incluidas citas fabricadas.
“Lamentamos profundamente lo ocurrido”, escribió Andrew Dietderich, jefe de reestructuración de la firma, al juez Martin Glenn, diciendo que el documento incluía “alucinaciones” de IA que produjeron autoridades ficticias y distorsionaron las existentes.
La divulgación se hizo en una carta al Tribunal de Quiebras de EE. UU. para el Distrito Sur de Nueva York, donde la firma representa a los liquidadores designados por el tribunal de las Islas Vírgenes Británicas. Los errores aparecieron en una moción del 9 de abril y la firma dijo que sus reglas sobre el uso de la IA no se siguieron durante la preparación.
El caso involucra los esfuerzos de esos liquidadores para perseguir reclamaciones vinculadas a Prince Group y su propietario, Chen Zhi. Los fiscales alegan que Chen dirigió complejos de estafas que tuvieron como objetivo a víctimas en todo el mundo y han intentado recuperar miles de millones de dólares en criptomonedas que, según dicen, están vinculados a la actividad. Fue detenido a principios de este año en Camboya y luego repatriado a China.
A través de los procedimientos del Capítulo 15 en EE. UU., los liquidadores buscan el reconocimiento de su autoridad para actuar en nombre de los acreedores y las presuntas víctimas. Prince Group, constituida en las Islas Vírgenes Británicas, ha sido vinculada por las autoridades estadounidenses a operaciones de fraude a gran escala en el sudeste asiático y sancionada por los gobiernos del Reino Unido y EE. UU.
Según una presentación corregida, la presentación de abril citó erróneamente la jurisprudencia en múltiples lugares e incluyó citas que no respaldaban las proposiciones que se les atribuían, mientras que algunas parecían no tener ninguna base. La firma retiró la moción original y ha presentado una versión revisada.
Los abogados de Prince Group y Chen en Boies Schiller Flexner identificaron inicialmente los errores. Dijeron que el lenguaje atribuido al Código de Quiebras de EE. UU. no se pudo encontrar y que varias autoridades fueron tergiversadas o mal identificadas. En un caso, dijeron, un caso citado se refería a una decisión diferente en otro circuito.
En una presentación separada, los demandados dijeron que al menos 28 citas eran erróneas, incluidas citas atribuidas al tribunal que no existen. Argumentaron que el momento de la corrección era perjudicial porque la presentación revisada llegó después de que hubieran presentado objeciones, y pidieron al tribunal que aplazara una audiencia programada y celebrara una conferencia de estado.
Sullivan & Cromwell dijo que sus políticas exigen que los abogados completen la capacitación antes de usar herramientas de IA y que verifiquen de forma independiente todo el resultado.
"Antes de que a cualquier abogado de la firma se le conceda acceso a herramientas de IA generativa, el abogado debe completar dos módulos de capacitación obligatorios, cuya finalización se rastrea y verifica. La capacitación enfatiza repetidamente el riesgo de 'alucinaciones' de la IA, incluida la fabricación de citas de casos, la mala interpretación de autoridades y citas inexactas", dijo.
"Instruye a los abogados a 'no confiar en nada y verificar todo' y deja claro que la falta de verificación independiente del resultado generado por IA constituye una violación de la política de la firma."
La firma dijo que una revisión más amplia encontró problemas de redacción menores adicionales en otras presentaciones, que atribuyó a errores humanos en lugar de a la IA. No identificó a los abogados que prepararon la moción original.
El incidente se suma a una creciente lista de errores relacionados con la IA en la práctica legal, a medida que las firmas prueban herramientas diseñadas para acelerar la investigación y la redacción. Los tribunales han sancionado o criticado recientemente a abogados por presentar documentos con referencias fabricadas o inexactas producidas por IA. En Australia, a un abogado se le retiró la capacidad de ejercer como abogado principal debido al uso de IA el año pasado.
Las facultades de derecho están comenzando a exigir instrucción sobre la tecnología, mientras que los jueces de alto nivel han advertido que el mal uso podría afectar la integridad de los procedimientos.
Fallos recientes también han abordado cómo la IA encaja dentro de los marcos legales existentes, incluida la cuestión de si las interacciones con dichas herramientas están protegidas por el privilegio. Al mismo tiempo, algunos tribunales están implementando sistemas de IA a modo de prueba para ayudar a gestionar las grandes cargas de casos.
