O escritório de advocacia Sullivan & Cromwell admitiu a um tribunal de falências dos EUA que uma petição recente em um caso de alto perfil continha erros gerados por inteligência artificial, incluindo citações fabricadas.
“Lamentamos profundamente o ocorrido”, escreveu Andrew Dietderich, chefe de reestruturação do escritório, ao juiz Martin Glenn, dizendo que o documento incluía “alucinações” de IA que produziram autoridades fictícias e distorceram as existentes.
A divulgação veio em uma carta ao Tribunal de Falências dos EUA para o Distrito Sul de Nova York, onde o escritório representa liquidatários nomeados pelo tribunal das Ilhas Virgens Britânicas. Os erros apareceram em uma moção de 9 de abril e o escritório afirmou que suas regras sobre o uso de IA não foram seguidas durante a preparação.
O caso envolve os esforços desses liquidatários para buscar reivindicações ligadas ao Prince Group e ao seu proprietário, Chen Zhi. Os promotores alegam que Chen dirigiu esquemas de fraude que visavam vítimas em todo o mundo e procuraram recuperar bilhões de dólares em criptomoedas que, segundo eles, estão ligadas à atividade. Ele foi detido no início deste ano no Camboja e posteriormente repatriado para a China.
Por meio dos processos do Capítulo 15 nos EUA, os liquidatários buscam o reconhecimento de sua autoridade para agir em nome de credores e supostas vítimas. O Prince Group, incorporado nas Ilhas Virgens Britânicas, foi ligado pelas autoridades dos EUA a operações de fraude em larga escala no Sudeste Asiático e sancionado pelos governos do Reino Unido e dos EUA.
De acordo com uma petição corrigida, o documento de abril citou erroneamente a jurisprudência em vários lugares e incluiu citações que não sustentavam as proposições a elas atribuídas, enquanto algumas pareciam não ter base alguma. O escritório retirou a moção original e apresentou uma versão revisada.
Os advogados do Prince Group e de Chen no escritório Boies Schiller Flexner inicialmente identificaram os erros. Eles disseram que a linguagem atribuída ao Código de Falências dos EUA não pôde ser encontrada e que várias autoridades foram caracterizadas ou identificadas erroneamente. Em um exemplo, eles disseram, um caso citado se referia a uma decisão diferente em outro circuito.
Em uma petição separada, os réus disseram que pelo menos 28 citações estavam errôneas, incluindo citações atribuídas ao tribunal que não existem. Eles argumentaram que o momento da correção era prejudicial porque a petição revisada veio depois que eles apresentaram objeções, e pediram ao tribunal para adiar uma audiência agendada e realizar uma conferência de status.
A Sullivan & Cromwell disse que suas políticas exigem que os advogados concluam o treinamento antes de usar ferramentas de IA e verifiquem independentemente toda a produção.
"Antes que qualquer advogado do Escritório tenha acesso a ferramentas de IA generativa, o advogado deve concluir dois módulos de treinamento obrigatórios, cuja conclusão é rastreada e verificada. O treinamento enfatiza repetidamente o risco de 'alucinações' de IA, incluindo a fabricação de citações de casos, a interpretação errônea de autoridades e citações imprecisas", afirmou.
"Ele instrui os advogados a 'não confiar em nada e verificar tudo' e deixa claro que a falha em verificar independentemente a produção gerada por IA constitui uma violação da política do Escritório."
O escritório disse que uma revisão mais ampla encontrou pequenos problemas adicionais de redação em outras petições, que atribuiu a erro humano e não à IA. Não identificou os advogados que prepararam a moção original.
O incidente se soma a uma lista crescente de equívocos relacionados à IA na prática jurídica, à medida que os escritórios testam ferramentas projetadas para acelerar a pesquisa e a redação. Os tribunais têm recentemente sancionado ou criticado advogados por apresentarem petições com referências fabricadas ou imprecisas produzidas por IA. Na Austrália, um advogado foi impedido de exercer a advocacia como advogado principal devido ao uso de IA no ano passado.
As faculdades de direito estão começando a exigir instrução sobre a tecnologia, enquanto juízes seniores alertaram que o uso indevido pode afetar a integridade dos processos.
Decisões recentes também abordaram como a IA se encaixa nos arcabouços jurídicos existentes, incluindo se as interações com essas ferramentas são protegidas por privilégio. Ao mesmo tempo, alguns tribunais estão pilotando sistemas de IA para ajudar a gerenciar grandes volumes de casos.
