Ang law firm sa Wall Street na Sullivan & Cromwell ay humingi ng tawad sa isang pederal na hukom matapos ang isang dokumento na isinumite sa korte ay naglaman ng humigit-kumulang 40 maling sipi at iba pang error na konektado sa nilalamang binuo ng AI.
Ang isyu ay lumabas sa isang liham na ipinadala ni Andrew Dietderich, co-head ng global restructuring team ng firm, kay Punong Hukom Martin Glenn ng US Bankruptcy Court para sa Southern District ng New York.
Sinabi ni Dietderich na ang isinumiteng dokumento ay bahagi ng isang emergency motion na inihain siyam na araw na ang nakalipas. Sinabi niya sa korte na tinatanggap ng firm ang responsibilidad para sa mga pagkakamali at sinabing ang umiiral na mga hakbang sa pagsusuri ay hindi gumana tulad ng nilalayon sa kasong ito.
Sa liham, sinabi ni Dietderich na pinagsisisihan ng firm ang nangyari at kinikilala ang kanilang tungkulin na tiyakin na tumpak ang mga isinumite sa korte. Sumulat siya, ”Labis kaming nagsisisi na nangyari ito.”
Sinabi rin niya, ”Ang Firm at ako ay lubos na mulat sa aming responsibilidad na tiyakin ang katumpakan ng lahat ng isinumite.” Idinagdag ni Dietderich na inaako niya ang responsibilidad para sa kabiguan na nauugnay sa pagsumite.
Ang isinumite sa korte ay naglalaman ng humigit-kumulang 40 maling sipi at iba pang error. Sinabi ng firm na ang mga problemang ito ay sanhi ng mga hallucination ng AI at mga pagkakamali na hindi nahuli bago isumite.
Sinabi ni Dietderich na ang Sullivan & Cromwell ay mayroon nang panloob na mga patakaran para sa paggamit ng AI. Kasama sa mga patakarang iyon ang pagsusuri ng mga sipi bago isumite ang materyal sa korte.
Ayon kay Dietderich, mayroon nang mga patakaran ang firm upang maiwasan ang ganitong uri ng problema, ngunit ang kinakailangang mga pamamaraan ay hindi nasunod sa pagkakataong ito. Sinabi niya na nabigo ang proseso ng pagsusuri na matukoy ang mga maling sipi at iba pang isyu.
”Sa kasamaang palad, ang proseso ng pagsusuri na ito ay hindi natukoy ang mga hindi tumpak na sipi na binuo ng AI, ni hindi rin nito natukoy ang iba pang mga error na lumitaw na nagresulta nang buo o sa bahagi mula sa manual na error,” isinulat niya.
Ang kaso ay nagdaragdag sa lumalagong listahan ng mga legal na dokumento na apektado ng mga pagkakamali ng AI. Ang isang database na pinamamahalaan ng legal technologist na si Damien Charlotin ay nakapagtala ng 1,334 insidente ng mga hallucination ng AI sa mga isinumite sa korte sa buong mundo, kung saan mahigit 900 sa mga ito ay nasa Estados Unidos.
Sinabi ni Charlotin na marami sa mga kasong ito ay kinasasangkutan ng mga gawa-gawang sipi. Sa ilang mga kaso, ang mga legal na argumento na binuo ng AI ay lumabas din sa mga isinumite.
Sinabi ni Dietderich na sinimulan na ng Sullivan & Cromwell ang isang panloob na imbestigasyon sa kung ano ang humantong sa mga error. Sinabi niya na gumawa agad ang firm ng mga hakbang sa pagwawasto at sinusuri kung kailangan pa ng mas maraming pagsasanay o mas mahigpit na panloob na pagsusuri.
Nabanggit din niya na ang mga pagkakamali ay ipinaalam sa firm ng karibal na law firm na Boies Schiller Flexner LLP. Sinabi ni Dietderich na direkta niyang kinontak ang firm upang pasalamatan sila at humingi ng tawad.
Ang Sullivan & Cromwell ay isa sa pinakamalaking law firm sa Estados Unidos batay sa kita. Sangkot din ang firm sa mga high-profile na kaso, kabilang ang pagrepresenta sa FTX sa kaso nito ng pagkalugi.
Ang insidente ay nagbigay ng panibagong pansin sa mga panganib na nauugnay sa paggamit ng AI sa legal na gawain, lalo na kapag ang pagsusuri ng tao ay hindi nakakahuli ng mga pangunahing error bago isumite.
