Die Anwaltskanzlei Sullivan & Cromwell hat gegenüber einem US-Konkursgericht eingeräumt, dass ein kürzlich eingereichter Schriftsatz in einem hochkarätigen Fall von künstlicher Intelligenz erzeugte Fehler, einschließlich gefälschter Zitate, enthielt.
„Wir bedauern zutiefst, dass dies geschehen ist“, schrieb Andrew Dietderich, Leiter der Restrukturierungsabteilung der Kanzlei, an Richter Martin Glenn und erklärte, das Dokument enthalte KI-„Halluzinationen“, die fiktive Rechtsquellen hervorbrachten und bestehende verzerrten.
Die Offenlegung erfolgte in einem Schreiben an das US-Konkursgericht für den Southern District of New York, wo die Kanzlei gerichtlich bestellte Liquidatoren von den Britischen Jungferninseln vertritt. Die Fehler traten in einem Antrag vom 9. April auf, und die Kanzlei gab an, dass ihre Regeln zum KI-Einsatz bei der Vorbereitung nicht befolgt wurden.
Der Fall betrifft die Bemühungen dieser Liquidatoren, Ansprüche zu verfolgen, die mit der Prince Group und ihrem Eigentümer Chen Zhi verbunden sind. Die Staatsanwaltschaft behauptet, Chen habe Betrugsstrukturen geleitet, die weltweit Opfer ins Visier nahmen, und versucht, Milliarden von Dollar in Kryptowährung zurückzufordern, die ihrer Ansicht nach mit der Aktivität in Verbindung stehen. Er wurde Anfang dieses Jahres in Kambodscha festgenommen und später nach China repatriiert.
Im Rahmen von Chapter-15-Verfahren in den USA suchen die Liquidatoren die Anerkennung ihrer Befugnis, im Namen von Gläubigern und mutmaßlichen Opfern zu handeln. Die Prince Group, die auf den Britischen Jungferninseln registriert ist, wurde von US-Behörden mit groß angelegten Betrugsoperationen in Südostasien in Verbindung gebracht und von den Regierungen des Vereinigten Königreichs und der USA sanktioniert.
Laut einer korrigierten Einreichung enthielt der April-Schriftsatz an mehreren Stellen fehlerhafte Rechtsausführungen und Zitate, die die ihnen zugeschriebenen Behauptungen nicht stützten, während einige überhaupt keine Grundlage zu haben schienen. Die Kanzlei zog den ursprünglichen Antrag zurück und hat eine überarbeitete Version eingereicht.
Die Anwälte der Prince Group und von Chen bei Boies Schiller Flexner identifizierten die Fehler ursprünglich. Sie gaben an, dass die dem US-Konkursgesetzbuch zugeschriebene Sprache nicht auffindbar sei und dass mehrere Rechtsquellen falsch dargestellt oder falsch identifiziert wurden. In einem Fall, so sagten sie, bezog sich ein zitiertes Urteil auf eine andere Entscheidung in einem anderen Gerichtsbezirk.
In einem separaten Schriftsatz gaben die Beklagten an, dass mindestens 28 Zitate fehlerhaft waren, einschließlich dem Gericht zugeschriebener Zitate, die nicht existieren. Sie argumentierten, der Zeitpunkt der Korrektur sei nachteilig, da die überarbeitete Einreichung erfolgte, nachdem sie ihre Einwände vorgelegt hatten, und beantragten beim Gericht, eine geplante Anhörung zu vertagen und eine Statuskonferenz abzuhalten.
Sullivan & Cromwell erklärte, dass ihre Richtlinien von Anwälten verlangen, eine Schulung zu absolvieren, bevor sie KI-Tools verwenden, und alle Ausgaben unabhängig zu überprüfen.
„Bevor einem Anwalt der Kanzlei Zugang zu generativen KI-Tools gewährt wird, muss der Anwalt zwei vorgeschriebene Schulungsmodule absolvieren, deren Abschluss verfolgt und überprüft wird. Die Schulung betont wiederholt das Risiko von KI-'Halluzinationen', einschließlich der Erfindung von Fallzitaten, der Fehlinterpretation von Rechtsquellen und ungenauen Zitaten", hieß es.
„Sie weist Anwälte an, 'nichts zu vertrauen und alles zu überprüfen' und stellt klar, dass das Versäumnis, KI-generierte Ausgaben unabhängig zu überprüfen, einen Verstoß gegen die Kanzleipolitik darstellt."
Die Kanzlei erklärte, eine umfassendere Überprüfung habe weitere kleinere Formulierungsfehler in anderen Schriftsätzen ergeben, die sie eher menschlichem Versagen als KI zuschrieb. Sie identifizierte die Anwälte, die den ursprünglichen Antrag vorbereitet hatten, nicht.
Der Vorfall reiht sich ein in eine wachsende Liste von KI-bedingten Fehltritten in der Rechtspraxis, während Kanzleien Tools testen, die die Recherche und den Entwurf beschleunigen sollen. Gerichte haben kürzlich Anwälte sanktioniert oder kritisiert, weil sie Schriftsätze mit von KI erzeugten erfundenen oder ungenauen Referenzen eingereicht haben. In Australien wurde einem Anwalt letztes Jahr aufgrund des KI-Einsatzes die Befugnis entzogen, als leitender Anwalt zu praktizieren.
Juristische Fakultäten beginnen, Unterricht über die Technologie zu verlangen, während hochrangige Richter davor gewarnt haben, dass Missbrauch die Integrität von Verfahren beeinträchtigen könnte.
Jüngste Urteile haben sich auch damit befasst, wie KI in bestehende rechtliche Rahmenbedingungen passt, einschließlich der Frage, ob Interaktionen mit solchen Tools durch das Anwaltsgeheimnis geschützt sind. Gleichzeitig erproben einige Gerichte KI-Systeme, um bei der Bewältigung hoher Fallzahlen zu helfen.
