Inamin ng law firm na Sullivan & Cromwell sa isang U.S. bankruptcy court na ang isang kamakailang paghahain sa isang high-profile na kaso ay naglaman ng mga pagkakamaling nabuo ng artificial intelligence, kabilang ang mga pekeng sipi.
“Lubos kaming nagsisisi na nangyari ito,” isinulat ni Andrew Dietderich, ang pinuno ng restructuring ng firm, kay Judge Martin Glenn, na nagsasabing ang dokumento ay naglaman ng mga ‘hallucination’ ng AI na lumikha ng mga gawa-gawang awtoridad at binago ang mga umiiral na.
Ang pagbubunyag ay nagmula sa isang liham sa U.S. Bankruptcy Court para sa Southern District of New York, kung saan kinakatawan ng firm ang mga itinalagang liquidator ng korte mula sa British Virgin Islands. Ang mga pagkakamali ay lumitaw sa isang mosyon noong Abril 9 at sinabi ng firm na hindi nasunod ang mga patakaran nito sa paggamit ng AI sa panahon ng paghahanda.
Ang kaso ay kinasasangkutan ng mga pagsisikap ng mga liquidator na iyon upang ituloy ang mga paghahabol na konektado sa Prince Group at sa may-ari nito, si Chen Zhi. Ikinatuwiran ng mga tagausig na pinamunuan ni Chen ang mga scam compound na nagtarget ng mga biktima sa buong mundo at hinangad na mabawi ang bilyun-bilyong dolyar sa cryptocurrency na anila ay konektado sa aktibidad. Siya ay inaresto nang mas maaga ngayong taon sa Cambodia at kalaunan ay ibinalik sa China.
Sa pamamagitan ng Chapter 15 proceedings sa U.S., hinahangad ng mga liquidator ang pagkilala sa kanilang awtoridad na kumilos sa ngalan ng mga nagpapautang at sinasabing biktima. Ang Prince Group, na naka-incorporate sa British Virgin Islands, ay naiugnay ng mga awtoridad ng U.S. sa malawakang operasyon ng pandaraya sa Timog-Silangang Asya at pinatawan ng parusa ng mga gobyerno ng UK at U.S.
Ayon sa isang binagong pagsumite, ang paghahain noong Abril ay nagkamali ng pagbanggit sa case law sa maraming lugar at naglaman ng mga sipi na hindi sumusuporta sa mga proposisyon na iniugnay sa kanila, habang ang ilan ay tila walang batayan. Binawi ng firm ang orihinal na mosyon at naghain ng binagong bersyon.
Ang mga abogado ng Prince Group at Chen sa Boies Schiller Flexner ang unang nakatukoy ng mga pagkakamali. Sinabi nila na ang wika na iniugnay sa U.S. Bankruptcy Code ay hindi matagpuan at ilang awtoridad ang maling nailarawan o maling natukoy. Sa isang pagkakataon, anila, ang isang sinitang kaso ay tumutukoy sa ibang desisyon sa ibang sirkito.
Sa isang hiwalay na paghahain, sinabi ng mga akusado na hindi bababa sa 28 sipi ang mali, kabilang ang mga sipi na iniugnay sa korte na hindi umiiral. Ikinatuwiran nila na ang timing ng pagwawasto ay nakapipinsala dahil ang binagong paghahain ay dumating matapos nilang isumite ang mga pagtutol, at hiniling sa korte na ipagpaliban ang nakatakdang pagdinig at magdaos ng isang status conference.
Sinabi ng Sullivan & Cromwell na ang mga patakaran nito ay nangangailangan ng mga abogado na kumpletuhin ang pagsasanay bago gumamit ng mga tool ng AI at upang independiyenteng i-verify ang lahat ng output.
"Bago bigyan ng access ang sinumang abogado ng Firm sa mga generative AI tool, dapat kumpletuhin ng abogado ang dalawang kinakailangang module ng pagsasanay, na ang pagkumpleto ay sinusubaybayan at na-verify. Paulit-ulit na binibigyang-diin ng pagsasanay ang panganib ng mga 'hallucination' ng AI, kabilang ang paglikha ng mga sipi ng kaso, maling interpretasyon ng mga awtoridad, at hindi tumpak na mga sipi," anito.
"Inaatasan nito ang mga abogado na 'huwag magtiwala sa anuman at i-verify ang lahat' at nililinaw na ang pagkabigong independiyenteng i-verify ang output na nabuo ng AI ay bumubuo ng paglabag sa patakaran ng Firm."
Sinabi ng firm na ang mas malawak na pagsusuri ay nakakita ng karagdagang maliliit na isyu sa pagbalangkas sa ibang mga paghahain, na iniugnay nito sa pagkakamali ng tao sa halip na AI. Hindi nito tinukoy ang mga abogado na naghanda ng orihinal na mosyon.
Ang insidente ay nagdaragdag sa lumalaking listahan ng mga pagkakamaling nauugnay sa AI sa legal na praktis habang sinusubukan ng mga firm ang mga tool na idinisenyo upang pabilisin ang pananaliksik at pagbalangkas. Kamakailan ay pinatawan ng parusa o pinuna ng mga korte ang mga abogado dahil sa pagsumite ng mga paghahain na may mga gawa-gawa o hindi tumpak na reperensiya na nabuo ng AI. Sa Australia, isang abogado ang inalisan ng kakayahang magpraktis bilang pangunahing abogado dahil sa paggamit ng AI noong nakaraang taon.
Nagsisimula nang mangailangan ang mga law school ng pagtuturo sa teknolohiya, habang nagbabala ang mga nakatatandang hukom na ang maling paggamit ay maaaring makaapekto sa integridad ng mga paglilitis.
Tinatalakay din ng mga kamakailang pasya kung paano angkop ang AI sa loob ng umiiral na mga balangkas ng batas, kabilang kung ang mga interaksyon sa mga naturang tool ay protektado ng pribilehiyo. Kasabay nito, ang ilang korte ay nagsasagawa ng pagsubok sa mga sistema ng AI upang makatulong sa pamamahala ng maraming kaso.
