El bufete de abogados de Wall Street Sullivan & Cromwell se ha disculpado ante un juez federal después de presentar un escrito judicial que contenía alrededor de 40 citas incorrectas y otros errores causados por alucinaciones de IA.
“Lamentamos profundamente lo ocurrido”, escribió Andrew Dietderich, codirector del equipo global de reestructuración de Sullivan & Cromwell, el viernes en una carta dirigida al Juez Principal Martin Glenn del Tribunal de Bancarrota de EE. UU. para el Distrito Sur de Nueva York.
“El bufete y yo somos plenamente conscientes de nuestra responsabilidad de garantizar la exactitud de todas las presentaciones, incluso bajo la Regla Local de Bancarrota 9011-1(d), y asumo la responsabilidad por no haberlo hecho”, dijo sobre una moción de emergencia presentada nueve días antes.
El incidente resalta el riesgo que las herramientas de IA pueden plantear en el trabajo profesional de alto riesgo sin la supervisión adecuada. Una base de datos gestionada por el tecnólogo legal Damien Charlotin ha registrado 1.334 incidentes de alucinaciones de IA en escritos judiciales en todo el mundo, incluyendo más de 900 en EE. UU.
Charlotin señaló que la mayoría de estas alucinaciones implican citas fabricadas, aunque también se han identificado ocasionalmente argumentos legales generados por IA.
Dietderich dijo que Sullivan & Cromwell tiene políticas implementadas para el uso de herramientas de IA, que incluyen una revisión de las citas que utiliza, pero afirmó que las políticas no se siguieron.
“Lamentablemente, este proceso de revisión no identificó las citas inexactas generadas por la IA, ni tampoco otros errores que parecen haber resultado total o parcialmente de un error manual.”
Sullivan & Cromwell es uno de los bufetes de abogados más grandes de EE. UU. por ingresos, ocupando el puesto 30 en el AmLaw Global 200. El bufete también representó al exchange de criptomonedas FTX en su caso de bancarrota.
Dietderich dijo que el bufete de abogados tomó “medidas correctivas inmediatas”, incluyendo una revisión exhaustiva de las circunstancias que llevaron a los errores.
Relacionado: El protocolo de pagos de IA x402 de Coinbase lanza una tienda de aplicaciones para agentes de IA
El bufete también está “evaluando si se justifican mejoras adicionales en sus procesos internos de capacitación y revisión”, dijo Dietderich.
Dietderich también señaló que los errores fueron detectados por un bufete de abogados rival.
“También llamé a Boies Schiller Flexner LLP el viernes para agradecerles por llamar nuestra atención sobre este asunto y para disculparme directamente con ellos también”, dijo.
Revista: IronClaw rivaliza con OpenClaw, Olas lanza bots para Polymarket — AI Eye
