O escritório de advocacia de Wall Street Sullivan & Cromwell pediu desculpas a um juiz federal após apresentar um documento judicial que continha cerca de 40 citações incorretas e outros erros causados por "alucinações" de IA.
“Lamentamos profundamente que isso tenha ocorrido”, escreveu Andrew Dietderich, co-diretor da equipe global de reestruturação da Sullivan & Cromwell, na sexta-feira em uma carta ao Juiz Presidente Martin Glenn do Tribunal de Falências dos EUA para o Distrito Sul de Nova York.
“O Escritório e eu estamos plenamente cientes de nossa responsabilidade de garantir a precisão de todas as submissões, incluindo sob a Regra Local de Falências 9011-1(d), e assumo a responsabilidade pela falha em fazê-lo”, disse ele sobre uma moção de emergência apresentada nove dias antes.
O incidente destaca o risco que as ferramentas de IA podem representar em trabalhos profissionais de alta complexidade sem a devida supervisão. Um banco de dados gerenciado pelo tecnólogo jurídico Damien Charlotin registrou 1.334 incidentes de "alucinações" de IA em documentos judiciais em todo o mundo, incluindo mais de 900 nos EUA.
Charlotin destacou que a maioria dessas "alucinações" envolve citações fabricadas, embora argumentos jurídicos gerados por IA também tenham sido ocasionalmente identificados.
Dietderich disse que a Sullivan & Cromwell possui políticas para o uso de ferramentas de IA, que incluem uma revisão das citações que utiliza, mas afirmou que as políticas não foram seguidas.
“Lamentavelmente, este processo de revisão não identificou as citações imprecisas geradas pela IA, nem identificou outros erros que parecem ter resultado total ou parcialmente de erro manual.”
A Sullivan & Cromwell é um dos maiores escritórios de advocacia dos EUA em termos de receita, ocupando a 30ª posição no AmLaw Global 200. O escritório também representou a exchange de cripto FTX em seu caso de falência.
Dietderich disse que o escritório de advocacia tomou “medidas corretivas imediatas”, incluindo uma revisão completa das circunstâncias que levaram aos erros.
Relacionado: Protocolo de pagamentos de IA x402 da Coinbase lança loja de aplicativos para agentes de IA
O escritório também está “avaliando se são necessárias melhorias adicionais em seus processos internos de treinamento e revisão”, disse Dietderich.
Dietderich também observou que os erros foram detectados por um escritório de advocacia rival.
“Também liguei para a Boies Schiller Flexner LLP na sexta-feira para agradecer por nos terem alertado sobre este assunto e para pedir desculpas diretamente a eles também”, disse ele.
Revista: IronClaw rivaliza com OpenClaw, Olas lança bots para Polymarket — AI Eye
