Firma hukum Wall Street, Sullivan & Cromwell, telah meminta maaf kepada seorang hakim federal setelah mengajukan dokumen pengadilan yang berisi sekitar 40 kutipan yang salah dan kesalahan lain yang disebabkan oleh halusinasi AI.
“Kami sangat menyesal bahwa ini telah terjadi,” tulis Andrew Dietderich, co-head tim restrukturisasi global Sullivan & Cromwell, pada hari Jumat dalam suratnya kepada Ketua Hakim Martin Glenn dari Pengadilan Kebangkrutan AS untuk Distrik Selatan New York.
“Firma dan saya sangat menyadari tanggung jawab kami untuk memastikan keakuratan semua pengajuan, termasuk berdasarkan Aturan Kebangkrutan Lokal 9011-1(d), dan saya bertanggung jawab atas kegagalan untuk melakukannya,” katanya mengenai mosi darurat yang diajukan sembilan hari sebelumnya.
Insiden ini menyoroti risiko yang dapat ditimbulkan oleh alat AI dalam pekerjaan profesional berisiko tinggi tanpa pengawasan yang tepat. Sebuah basis data yang dikelola oleh teknolog hukum Damien Charlotin telah mencatat 1.334 insiden halusinasi AI dalam pengajuan pengadilan di seluruh dunia, termasuk lebih dari 900 di AS.
Charlotin menunjukkan bahwa sebagian besar halusinasi ini melibatkan kutipan yang dibuat-buat, meskipun argumen hukum yang dihasilkan AI juga kadang-kadang teridentifikasi.
Dietderich mengatakan Sullivan & Cromwell memiliki kebijakan untuk penggunaan alat AI, yang mencakup tinjauan terhadap kutipan yang digunakannya, namun menyatakan bahwa kebijakan tersebut tidak diikuti.
“Sayangnya, proses peninjauan ini tidak mengidentifikasi kutipan yang tidak akurat yang dihasilkan oleh AI, juga tidak mengidentifikasi kesalahan lain yang tampaknya sebagian atau seluruhnya disebabkan oleh kesalahan manual.”
Sullivan & Cromwell adalah salah satu firma hukum terbesar di AS berdasarkan pendapatan, menempati peringkat ke-30 dalam AmLaw Global 200. Firma ini juga mewakili bursa kripto FTX dalam kasus kebangkrutannya.
Dietderich mengatakan firma hukum tersebut mengambil “langkah-langkah perbaikan segera,” termasuk tinjauan penuh terhadap keadaan yang menyebabkan kesalahan tersebut.
Terkait: Protokol pembayaran AI Coinbase x402 meluncurkan toko aplikasi untuk agen AI
Firma tersebut juga “mengevaluasi apakah peningkatan lebih lanjut pada pelatihan internal dan proses peninjauan diperlukan,” kata Dietderich.
Dietderich juga mencatat bahwa kesalahan tersebut ditemukan oleh firma hukum saingan.
“Saya juga menelepon Boies Schiller Flexner LLP pada hari Jumat untuk berterima kasih karena telah menyampaikan masalah ini kepada kami dan untuk meminta maaf langsung kepada mereka juga,” katanya.
Majalah: IronClaw saingi OpenClaw, Olas meluncurkan bot untuk Polymarket — AI Eye
