El bufete de abogados de Wall Street Sullivan & Cromwell se ha disculpado ante un juez federal después de que una presentación judicial incluyera alrededor de 40 citas incorrectas y otros errores vinculados a contenido generado por IA.
El problema salió a la luz en una carta enviada por Andrew Dietderich, codirector del equipo global de reestructuración del bufete, al Juez Principal Martin Glenn del Tribunal de Quiebras de EE. UU. para el Distrito Sur de Nueva York.
Dietderich dijo que la presentación era parte de una moción de emergencia presentada nueve días antes. Informó al tribunal que el bufete acepta la responsabilidad por los errores y que los pasos de revisión existentes no funcionaron como se esperaba en este caso.
En la carta, Dietderich dijo que el bufete lamentaba lo sucedido y reconoció su deber de asegurar que las presentaciones judiciales sean precisas. Escribió: «Lamentamos profundamente lo ocurrido».
También dijo: «El bufete y yo somos plenamente conscientes de nuestra responsabilidad de garantizar la exactitud de todas las presentaciones». Dietderich añadió que asume la responsabilidad por el fallo relacionado con la presentación.
La presentación judicial contenía alrededor de 40 citas incorrectas y otros errores. El bufete dijo que estos problemas fueron causados por «alucinaciones» de la IA y errores que no se detectaron antes de la presentación.
Dietderich dijo que Sullivan & Cromwell ya tiene normas internas para el uso de la IA. Esas normas incluyen la verificación de las citas antes de que el material sea presentado en el tribunal.
Según Dietderich, el bufete tenía políticas implementadas para prevenir este tipo de problema, pero los procedimientos requeridos no se siguieron en esta ocasión. Dijo que el proceso de revisión no logró identificar las citas falsas y otros problemas.
«Lamentablemente, este proceso de revisión no identificó las citas inexactas generadas por IA, ni tampoco identificó otros errores que parecen haber resultado total o parcialmente de un error manual», escribió.
El caso se suma a una creciente lista de presentaciones legales afectadas por errores de IA. Una base de datos administrada por el tecnólogo legal Damien Charlotin ha registrado 1.334 incidentes de «alucinaciones» de IA en presentaciones judiciales en todo el mundo, con más de 900 de ellos en Estados Unidos.
Charlotin dijo que muchos de estos casos implican citas inventadas. En algunos casos, también han aparecido en las presentaciones argumentos legales generados por IA.
Dietderich dijo que Sullivan & Cromwell ha iniciado una investigación interna sobre lo que llevó a los errores. Dijo que el bufete tomó medidas correctivas inmediatas y está revisando si se necesita más capacitación o controles internos más estrictos.
También señaló que los errores fueron puestos en conocimiento del bufete por el bufete de abogados rival Boies Schiller Flexner LLP. Dietderich dijo que contactó directamente con el bufete para agradecerles y disculparse.
Sullivan & Cromwell es uno de los bufetes de abogados más grandes de Estados Unidos por ingresos. El bufete también ha estado involucrado en asuntos de alto perfil, incluida la representación de FTX en su caso de bancarrota.
El incidente ha vuelto a centrar la atención en los riesgos relacionados con el uso de la IA en el trabajo legal, especialmente cuando la revisión humana no detecta errores básicos antes de la presentación.
