O escritório de advocacia de Wall Street Sullivan & Cromwell pediu desculpas a um juiz federal depois que um processo judicial incluiu cerca de 40 citações erradas e outros erros ligados a conteúdo gerado por IA.
A questão veio à tona em uma carta enviada por Andrew Dietderich, co-chefe da equipe global de reestruturação do escritório, ao Juiz Chefe Martin Glenn do Tribunal de Falências dos EUA para o Distrito Sul de Nova York.
Dietderich disse que o processo fazia parte de uma moção de emergência submetida nove dias antes. Ele informou ao tribunal que o escritório aceita a responsabilidade pelos erros e disse que as etapas de revisão existentes não funcionaram como pretendido neste caso.
Na carta, Dietderich disse que o escritório lamentava o ocorrido e reconhecia seu dever de garantir que as petições judiciais fossem precisas. Ele escreveu: ”Lamentamos profundamente que isso tenha ocorrido.”
Ele também disse: ”O Escritório e eu estamos plenamente cientes de nossa responsabilidade de garantir a precisão de todas as petições.” Dietderich acrescentou que assume a responsabilidade pela falha ligada ao processo.
O processo judicial continha cerca de 40 citações incorretas e outros erros. O escritório disse que esses problemas foram causados por alucinações de IA e erros que não foram detectados antes da submissão.
Dietderich disse que a Sullivan & Cromwell já possui regras internas para o uso de IA. Essas regras incluem a verificação de citações antes que o material seja protocolado no tribunal.
De acordo com Dietderich, o escritório tinha políticas em vigor para evitar esse tipo de problema, mas os procedimentos exigidos não foram seguidos nesta ocasião. Ele disse que o processo de revisão não conseguiu identificar as citações falsas e outras questões.
”Lamentavelmente, este processo de revisão não identificou as citações imprecisas geradas por IA, nem identificou outros erros que parecem ter resultado total ou parcialmente de erro manual”, escreveu ele.
O caso se soma a uma crescente lista de processos legais afetados por erros de IA. Um banco de dados administrado pelo tecnólogo jurídico Damien Charlotin registrou 1.334 incidentes de alucinações de IA em processos judiciais em todo o mundo, com mais de 900 deles nos Estados Unidos.
Charlotin disse que muitos desses casos envolvem citações inventadas. Em alguns casos, argumentos legais gerados por IA também apareceram em processos.
Dietderich disse que a Sullivan & Cromwell iniciou uma investigação interna sobre o que levou aos erros. Ele disse que o escritório tomou medidas corretivas imediatas e está revisando se é necessário mais treinamento ou verificações internas mais rigorosas.
Ele também observou que os erros foram levados ao conhecimento do escritório pela firma de advocacia rival Boies Schiller Flexner LLP. Dietderich disse que contatou o escritório diretamente para agradecer e pedir desculpas.
A Sullivan & Cromwell é um dos maiores escritórios de advocacia dos Estados Unidos em receita. O escritório também esteve envolvido em assuntos de alto perfil, incluindo a representação da FTX em seu caso de falência.
O incidente adicionou nova atenção aos riscos ligados ao uso de IA em trabalhos jurídicos, especialmente quando a revisão humana não detecta erros básicos antes do protocolo.
