Die Wall-Street-Kanzlei Sullivan & Cromwell hat sich bei einem Bundesrichter entschuldigt, nachdem eine Gerichtseinreichung etwa 40 falsche Zitate und andere Fehler enthielt, die auf KI-generierte Inhalte zurückzuführen sind.
Das Problem kam in einem Schreiben von Andrew Dietderich, Co-Leiter des globalen Restrukturierungsteams der Kanzlei, an Richter Martin Glenn, den vorsitzenden Richter des US-Konkursgerichts für den südlichen Bezirk von New York, ans Licht.
Dietderich sagte, die Einreichung sei Teil eines neun Tage zuvor eingereichten Eilantrags gewesen. Er teilte dem Gericht mit, dass die Kanzlei die Verantwortung für die Fehler übernehme und die bestehenden Prüfschritte in diesem Fall nicht wie beabsichtigt funktioniert hätten.
In dem Schreiben erklärte Dietderich, die Kanzlei bedauere den Vorfall und bestätigte ihre Pflicht, die Genauigkeit von Gerichtseinreichungen sicherzustellen. Er schrieb: „Wir bedauern zutiefst, dass dies geschehen ist.“
Er sagte auch: „Die Kanzlei und ich sind uns unserer Verantwortung für die Genauigkeit aller Einreichungen bewusst.“ Dietderich fügte hinzu, dass er die Verantwortung für das Versagen im Zusammenhang mit der Einreichung übernehme.
Die Gerichtseinreichung enthielt rund 40 falsche Zitate und andere Fehler. Die Kanzlei erklärte, diese Probleme seien durch KI-Halluzinationen und Fehler verursacht worden, die vor der Einreichung nicht erkannt wurden.
Dietderich sagte, Sullivan & Cromwell habe bereits interne Regeln für den Einsatz von KI. Diese Regeln umfassen die Überprüfung von Zitaten, bevor Material bei Gericht eingereicht wird.
Laut Dietderich hatte die Kanzlei Richtlinien, um diese Art von Problem zu verhindern, doch die erforderlichen Verfahren wurden in diesem Fall nicht befolgt. Er sagte, der Überprüfungsprozess habe die falschen Zitate und andere Probleme nicht identifiziert.
„Bedauerlicherweise hat dieser Überprüfungsprozess weder die von der KI generierten ungenauen Zitate identifiziert, noch andere Fehler, die ganz oder teilweise auf menschliches Versagen zurückzuführen sind“, schrieb er.
Der Fall reiht sich ein in eine wachsende Liste von Gerichtsakten, die von KI-Fehlern betroffen sind. Eine vom Rechtstechnologen Damien Charlotin geführte Datenbank hat weltweit 1.334 Vorfälle von KI-Halluzinationen in Gerichtseinreichungen registriert, davon über 900 in den Vereinigten Staaten.
Charlotin sagte, viele dieser Fälle beträfen erfundene Zitate. In einigen Fällen seien auch KI-generierte Rechtsargumente in Einreichungen aufgetaucht.
Dietderich sagte, Sullivan & Cromwell habe eine interne Untersuchung eingeleitet, um die Ursachen der Fehler zu klären. Er sagte, die Kanzlei habe sofortige Abhilfemaßnahmen ergriffen und prüfe, ob weitere Schulungen oder stärkere interne Kontrollen erforderlich seien.
Er wies auch darauf hin, dass die Fehler der Kanzlei von der rivalisierenden Anwaltskanzlei Boies Schiller Flexner LLP zur Kenntnis gebracht wurden. Dietderich sagte, er habe die Kanzlei direkt kontaktiert, um sich zu bedanken und zu entschuldigen.
Sullivan & Cromwell ist gemessen am Umsatz eine der größten Anwaltskanzleien in den Vereinigten Staaten. Die Kanzlei war auch an prominenten Fällen beteiligt, darunter die Vertretung von FTX in dessen Insolvenzverfahren.
Der Vorfall hat die Aufmerksamkeit erneut auf die Risiken des Einsatzes von KI in der juristischen Arbeit gelenkt, insbesondere wenn die menschliche Überprüfung grundlegende Fehler vor der Einreichung nicht erkennt.
