Die Wall Street Kanzlei Sullivan & Cromwell hat sich bei einem Bundesrichter entschuldigt, nachdem sie eine Gerichtseinreichung vorgenommen hatte, die rund 40 inkorrekte Zitate und andere Fehler enthielt, die durch KI-Halluzinationen verursacht wurden.
„Wir bedauern zutiefst, dass dies geschehen ist“, schrieb Andrew Dietderich, Co-Leiter von Sullivan & Cromwells globalem Restrukturierungsteam, am Freitag in einem Schreiben an Oberrichter Martin Glenn vom US-Insolvenzgericht für den Southern District of New York.
„Die Kanzlei und ich sind uns unserer Verantwortung, die Genauigkeit aller Einreichungen, einschließlich derjenigen gemäß Local Bankruptcy Rule 9011-1(d), zu gewährleisten, sehr bewusst, und ich übernehme die Verantwortung für das Versäumnis, dies zu tun“, sagte er in Bezug auf einen neun Tage zuvor eingereichten Eilantrag.
Der Vorfall verdeutlicht das Risiko, das KI-Tools in hochsensiblen professionellen Arbeiten ohne angemessene Aufsicht darstellen können. Eine von dem Rechtstechnologen Damien Charlotin verwaltete Datenbank hat 1.334 Vorfälle von KI-Halluzinationen in Gerichtsakten weltweit erfasst, darunter mehr als 900 in den USA.
Charlotin wies darauf hin, dass die meisten dieser Halluzinationen gefälschte Zitate betreffen, obwohl auch gelegentlich KI-generierte Rechtsargumente identifiziert wurden.
Dietderich sagte, Sullivan & Cromwell habe Richtlinien für die Nutzung von KI-Tools, die eine Überprüfung der verwendeten Zitate beinhalten, aber die Richtlinien seien nicht befolgt worden.
„Bedauerlicherweise hat dieser Überprüfungsprozess weder die von der KI generierten ungenauen Zitate identifiziert, noch andere Fehler, die ganz oder teilweise auf menschliches Versagen zurückzuführen zu sein scheinen.“
Sullivan & Cromwell ist gemessen am Umsatz eine der größten Anwaltskanzleien in den USA und belegt den 30. Platz im AmLaw Global 200. Die Kanzlei vertrat auch die Krypto-Börse FTX in deren Insolvenzverfahren.
Dietderich sagte, die Anwaltskanzlei habe „sofortige Abhilfemaßnahmen“ ergriffen, einschließlich einer vollständigen Überprüfung der Umstände, die zu den Fehlern führten.
Verwandt: Coinbases KI-Zahlungsprotokoll x402 startet App Store für KI-Agenten
Die Kanzlei prüft auch, „ob weitere Verbesserungen ihrer internen Schulungs- und Überprüfungsprozesse gerechtfertigt sind“, so Dietderich.
Dietderich bemerkte auch, dass die Fehler von einer rivalisierenden Anwaltskanzlei entdeckt wurden.
„Ich habe am Freitag auch Boies Schiller Flexner LLP angerufen, um mich bei ihnen zu bedanken, dass sie uns auf diese Angelegenheit aufmerksam gemacht haben, und um mich auch direkt bei ihnen zu entschuldigen“, sagte er.
Magazin: IronClaw fordert OpenClaw heraus, Olas startet Bots für Polymarket – AI Eye
