Firma hukum Wall Street, Sullivan & Cromwell, telah meminta maaf kepada seorang hakim federal setelah pengajuan pengadilan mereka menyertakan sekitar 40 kutipan yang salah dan kesalahan lain yang terkait dengan konten yang dihasilkan AI.
Masalah ini terungkap dalam surat yang dikirim oleh Andrew Dietderich, salah satu kepala tim restrukturisasi global firma tersebut, kepada Hakim Ketua Martin Glenn dari Pengadilan Kebangkrutan AS untuk Distrik Selatan New York.
Dietderich mengatakan pengajuan tersebut merupakan bagian dari mosi darurat yang diajukan sembilan hari sebelumnya. Dia mengatakan kepada pengadilan bahwa firma tersebut menerima tanggung jawab atas kesalahan tersebut dan mengatakan langkah-langkah peninjauan yang ada tidak berfungsi sebagaimana mestinya dalam kasus ini.
Dalam surat tersebut, Dietderich mengatakan firma tersebut menyesali apa yang terjadi dan mengakui tugasnya untuk memastikan bahwa pengajuan pengadilan akurat. Dia menulis, ”Kami sangat menyesal hal ini terjadi.”
Dia juga mengatakan, ”Firma dan saya sangat menyadari tanggung jawab kami untuk memastikan keakuratan semua pengajuan.” Dietderich menambahkan bahwa dia bertanggung jawab atas kegagalan yang terkait dengan pengajuan tersebut.
Pengajuan pengadilan tersebut berisi sekitar 40 kutipan yang salah dan kesalahan lainnya. Firma tersebut mengatakan masalah ini disebabkan oleh halusinasi AI dan kesalahan yang tidak tertangkap sebelum diajukan.
Dietderich mengatakan Sullivan & Cromwell telah memiliki aturan internal untuk penggunaan AI. Aturan-aturan tersebut termasuk memeriksa kutipan sebelum materi diajukan ke pengadilan.
Menurut Dietderich, firma tersebut memiliki kebijakan untuk mencegah masalah jenis ini, namun prosedur yang diperlukan tidak diikuti pada kesempatan ini. Dia mengatakan proses peninjauan gagal mengidentifikasi kutipan palsu dan masalah lainnya.
”Sayangnya, proses peninjauan ini tidak mengidentifikasi kutipan tidak akurat yang dihasilkan oleh AI, juga tidak mengidentifikasi kesalahan lain yang tampaknya sebagian atau seluruhnya berasal dari kesalahan manual,” tulisnya.
Kasus ini menambah daftar panjang pengajuan hukum yang terpengaruh oleh kesalahan AI. Sebuah basis data yang dikelola oleh teknolog hukum Damien Charlotin telah mencatat 1.334 insiden halusinasi AI dalam pengajuan pengadilan di seluruh dunia, dengan lebih dari 900 di antaranya di Amerika Serikat.
Charlotin mengatakan banyak dari kasus ini melibatkan kutipan yang dibuat-buat. Dalam beberapa kasus, argumen hukum yang dihasilkan AI juga muncul dalam pengajuan.
Dietderich mengatakan Sullivan & Cromwell telah memulai penyelidikan internal tentang apa yang menyebabkan kesalahan tersebut. Dia mengatakan firma tersebut segera mengambil langkah perbaikan dan sedang meninjau apakah pelatihan lebih lanjut atau pemeriksaan internal yang lebih kuat diperlukan.
Dia juga mencatat bahwa kesalahan tersebut disampaikan kepada firma tersebut oleh firma hukum saingan Boies Schiller Flexner LLP. Dietderich mengatakan dia menghubungi firma tersebut secara langsung untuk berterima kasih dan meminta maaf.
Sullivan & Cromwell adalah salah satu firma hukum terbesar di Amerika Serikat berdasarkan pendapatan. Firma tersebut juga terlibat dalam kasus-kasus penting, termasuk mewakili FTX dalam kasus kebangkrutannya.
Insiden ini telah menambah perhatian baru terhadap risiko yang terkait dengan penggunaan AI dalam pekerjaan hukum, terutama ketika peninjauan manusia tidak menangkap kesalahan dasar sebelum pengajuan.
