Юридична фірма Wall Street Sullivan & Cromwell вибачилася перед федеральним суддею після подачі судового документа, який містив близько 40 некоректних цитат та інших помилок, спричинених AI-галюцинаціями.
«Ми глибоко шкодуємо, що це сталося», — написав Ендрю Дітердеріх, співкерівник глобальної команди з реструктуризації Sullivan & Cromwell, у п'ятницю в листі до головного судді Мартіна Гленна з Суду США з питань банкрутства Південного округу Нью-Йорка.
«Фірма та я чудово усвідомлюємо нашу відповідальність за забезпечення точності всіх подань, у тому числі згідно з місцевим правилом про банкрутство 9011-1(d), і я беру на себе відповідальність за невиконання цього», — сказав він про екстрене клопотання, подане дев'ятьма днями раніше.
Цей інцидент підкреслює ризик, який інструменти штучного інтелекту можуть становити у високопрофесійній роботі без належного нагляду. База даних, керована юридичним технологом Деміеном Шарлотеном, зафіксувала 1334 випадки AI-галюцинацій у судових документах по всьому світу, включаючи понад 900 у США.
Шарлотен зазначив, що більшість цих галюцинацій стосуються сфабрикованих цитат, хоча іноді також виявлялися юридичні аргументи, згенеровані штучним інтелектом.
Дітердеріх заявив, що Sullivan & Cromwell має політику щодо використання інструментів штучного інтелекту, яка включає перевірку цитат, але зазначив, що ця політика не дотримувалася.
«На жаль, цей процес перевірки не виявив неточних цитат, згенерованих штучним інтелектом, а також не виявив інших помилок, які, схоже, були повністю або частково результатом ручної помилки».
Sullivan & Cromwell є однією з найбільших юридичних фірм у США за доходом, посідаючи 30-те місце в рейтингу AmLaw Global 200. Фірма також представляла криптобіржу FTX у її справі про банкрутство.
Дітердеріх повідомив, що юридична фірма вжила «негайних заходів щодо виправлення», включаючи повний перегляд обставин, що призвели до помилок.
Пов'язане: Платіжний протокол штучного інтелекту Coinbase x402 запускає магазин додатків для AI-агентів
За словами Дітердеріха, фірма також «оцінює, чи потрібні подальші вдосконалення її внутрішніх процесів навчання та перевірки».
Дітердеріх також зазначив, що помилки були виявлені конкуруючою юридичною фірмою.
«Я також зателефонував до Boies Schiller Flexner LLP у п'ятницю, щоб подякувати їм за те, що вони звернули нашу увагу на це питання, і також безпосередньо вибачитися перед ними», — сказав він.
Журнал: IronClaw конкурує з OpenClaw, Olas запускає ботів для Polymarket — AI Eye
FTX
