Юридична фірма з Уолл-стріт Sullivan & Cromwell вибачилася перед федеральним суддею після того, як судове подання містило близько 40 невірних посилань та інших помилок, пов'язаних із контентом, згенерованим ШІ. 

Проблема виявилася у листі, надісланому Ендрю Дітдеріхом, співкерівником глобальної команди з реструктуризації фірми, головному судді Мартіну Гленну з Суду США з питань банкрутства Південного округу Нью-Йорка.

Дітдеріх зазначив, що подання було частиною екстреного клопотання, поданого дев'ятьма днями раніше. Він повідомив суду, що фірма бере на себе відповідальність за помилки, і сказав, що існуючі етапи перевірки не спрацювали належним чином у цьому випадку.

Фірма визнає помилки у поданні та бере на себе відповідальність

У листі Дітдеріх зазначив, що фірма шкодує про те, що сталося, і визнала свій обов'язок забезпечувати точність судових подань. Він написав: ”Ми глибоко шкодуємо, що це сталося.”

Він також сказав: ”Фірма і я гостро усвідомлюємо нашу відповідальність за забезпечення точності всіх подань.” Дітдеріх додав, що він бере на себе відповідальність за невдачу, пов'язану з поданням.

Судове подання містило близько 40 невірних посилань та інших помилок. Фірма заявила, що ці проблеми були спричинені галюцинаціями ШІ та помилками, які не були виявлені до подання.

Дітдеріх зазначив, що Sullivan & Cromwell вже має внутрішні правила використання ШІ. Ці правила включають перевірку посилань перед подачею матеріалів до суду.

Існуючі політики перевірки ШІ не були дотримані

За словами Дітдеріха, фірма мала політику запобігання таким проблемам, але необхідні процедури цього разу не були дотримані. Він заявив, що процес перевірки не зміг виявити неправдиві посилання та інші проблеми.

”На жаль, цей процес перевірки не виявив неточних посилань, згенерованих ШІ, а також не виявив інших помилок, які, схоже, були повністю або частково наслідком ручної помилки,” написав він.

Цей випадок поповнює зростаючий список судових подань, уражених помилками ШІ. База даних, яку веде юридичний технолог Демієн Шарлотін, зафіксувала 1334 інциденти галюцинацій ШІ в судових поданнях по всьому світу, причому понад 900 з них – у Сполучених Штатах.

Шарлотін зазначив, що багато з цих випадків включають вигадані посилання. У деяких випадках у поданнях також з'являлися згенеровані ШІ юридичні аргументи.

Внутрішня перевірка починається після того, як конкуруюча фірма виявила помилки

Дітдеріх заявив, що Sullivan & Cromwell розпочала внутрішнє розслідування причин помилок. Він сказав, що фірма негайно вжила коригувальних заходів і перевіряє, чи потрібне додаткове навчання або посилені внутрішні перевірки.

Він також зазначив, що про помилки фірму повідомила конкуруюча юридична фірма Boies Schiller Flexner LLP. Дітдеріх сказав, що зв'язався з фірмою безпосередньо, щоб подякувати їй і вибачитися.

Sullivan & Cromwell є однією з найбільших юридичних фірм у Сполучених Штатах за доходом. Фірма також брала участь у резонансних справах, включаючи представництво FTX у справі про банкрутство.

Інцидент привернув нову увагу до ризиків, пов'язаних із використанням ШІ в юридичній роботі, особливо коли людська перевірка не виявляє базових помилок перед подачею документів.