Ang Wall Street law firm na Sullivan & Cromwell ay humingi ng paumanhin sa isang pederal na hukom matapos magsumite ng isang dokumento sa korte na naglalaman ng humigit-kumulang 40 maling citation at iba pang error na sanhi ng AI hallucinations.
“Lubos naming pinagsisisihan ang nangyari,” isinulat ni Andrew Dietderich, co-head ng global restructuring team ng Sullivan & Cromwell, noong Biyernes sa isang liham kay Chief Judge Martin Glenn ng US Bankruptcy Court para sa Southern District ng New York.
“Ang Firm at ako ay lubos na may kamalayan sa aming responsibilidad na tiyakin ang kawastuhan ng lahat ng isinusumite kasama ang nasa ilalim ng Local Bankruptcy Rule 9011-1(d), at ako ang may pananagutan sa pagkabigong gawin ito,” sabi niya tungkol sa isang emergency motion na inihain siyam na araw na ang nakalipas.
Itinatampok ng insidenteng ito ang panganib na maaaring idulot ng mga tool ng AI sa mga propesyonal na trabaho na may mataas na pusta nang walang wastong pangangasiwa. Isang database na pinamamahalaan ng legal technologist na si Damien Charlotin ang nakapagtala ng 1,334 insidente ng AI hallucinations sa mga dokumento sa korte sa buong mundo, kabilang ang mahigit 900 sa US.
Binanggit ni Charlotin na karamihan sa mga hallucination na ito ay kinabibilangan ng mga pekeng citation, bagaman mayroon ding paminsan-minsang natukoy na mga legal na argumento na gawa ng AI.
Sinabi ni Dietderich na may mga patakaran ang Sullivan & Cromwell para sa paggamit ng mga tool ng AI, na kinabibilangan ng pagsusuri sa mga citation na ginagamit nito, ngunit aniya ay hindi nasunod ang mga patakaran.
“Sa kasamaang-palad, ang proseso ng pagsusuri na ito ay hindi nakatukoy sa mga hindi tumpak na citation na nabuo ng AI, ni hindi rin nito natukoy ang iba pang mga error na tila nagresulta nang buo o bahagi mula sa manual error.”
Ang Sullivan & Cromwell ay isa sa pinakamalaking law firm sa US batay sa kita, na nasa ika-30 puwesto sa AmLaw Global 200. Kinatawan din ng firm ang crypto exchange na FTX sa kaso ng pagkalugi nito.
Sinabi ni Dietderich na gumawa ang law firm ng “agarang mga hakbang sa pagwawasto,” kabilang ang isang buong pagsusuri ng mga pangyayari na humantong sa mga pagkakamali.
Kaugnay: Inilunsad ng AI payments protocol ng Coinbase na x402 ang app store para sa mga AI agent
"Sinusuri din ng firm kung kinakailangan ang karagdagang pagpapahusay sa mga panloob na proseso ng pagsasanay at pagsusuri nito," sabi ni Dietderich.
Nabanggit din ni Dietderich na ang mga error ay napansin ng isang kalabang law firm.
"Tumawag din ako sa Boies Schiller Flexner LLP noong Biyernes upang pasalamatan sila sa pagdala ng bagay na ito sa aming pansin at upang humingi din ng paumanhin nang direkta sa kanila," aniya.
Magazine: Ang IronClaw ay kalaban ng OpenClaw, inilunsad ng Olas ang mga bot para sa Polymarket — AI Eye
