Штучні інтелектуальні агенти почали виконувати угоди та переміщувати кошти без постійного схвалення людини, що спонукало CEO Brickken Едвіна Мату стверджувати, що відповідальність повинна слідувати за повноваженнями, наданими програмному забезпеченню, а не покладатися на сам штучний інтелект.
6 серпня Sandmark повідомив, що чинне законодавство не дає однозначної відповіді щодо збитків, спричинених автономними фінансовими агентами, залишаючи судам розгляд користувача, розробника, платформи та установи, залучених до кожної транзакції.
У звіті зазначено, що договірне право, правила недбалості, відповідальність за продукцію та фідуціарні обов'язки можуть застосовуватися залежно від того, хто контролював агента та що спричинило збитки. Користувач може нести наслідки дозволеної угоди, тоді як розробник або платформа можуть зіткнутися з претензіями, якщо несправний дизайн, слабкі гарантії або пошкоджена інформація вивели агента за межі його передбачуваної ролі.
Коментуючи це питання, Едвін Мата, юрист і CEO та співзасновник платформи токенізації Brickken, повідомив crypto.news, що відповідальність ніколи не повинна покладатися безпосередньо на програмне забезпечення.
«Згідно з чинним законодавством, ШІ не є юридичною особою, здатною брати на себе обов'язки або нести відповідальність. Це технічна система, яка діє від імені фізичної або юридичної особи».
За словами Мати, розслідування має натомість встановити, хто авторизував агента, чиї інтереси він представляв і які повноваження отримав. Таке розслідування допомогло б відрізнити програшне рішення, прийняте в рамках затвердженої стратегії, від транзакції, яка порушила обмеження агента.
Мата порівняв правові відносини з довіреністю, згідно з якою одна сторона отримує дозвіл діяти від імені іншої в межах визначеної сфери. За його словами, коли емітент, банк або інвестор уповноважує агента здійснювати транзакції, принципал зазвичай несе наслідки дій, які залишаються в межах цих повноважень.
Згідно з тією ж логікою, інвестор не міг би відхилити угоду просто тому, що програмне забезпечення дало несприятливий результат. Втрата ціни сама по собі не свідчить про те, що агент діяв без дозволу або що інша сторона не виконала своїх обов'язків.
«Емітент не може відмовитися від несприятливої, але авторизованої транзакції лише тому, що рішення було згенеровано програмним забезпеченням», – сказав Мата.
Відповідальність може змінитися, коли агент перевищує свої повноваження. Мата зазначив, що розробник, платформа або фінансова установа можуть зіткнутися з ризиками, якщо їхній дизайн або контроль спричинили або допустили збій, хоча остаточна оцінка залежатиме від фактів та застосовного законодавства.
Sandmark навів подібні юридичні відмінності у своєму звіті. Шанте Еліаззаде, засновниця Astraea Counsel, повідомила виданню, що відповідальність зазвичай слідує за контролем. Вона зазначила, що користувачі зазвичай є відправною точкою, коли агенти діють від їхнього імені, але розробники можуть зіткнутися з ризиком, якщо система, призначена для автономної торгівлі, вийшла з ладу передбачуваним чином.
Це питання набуло актуальності, оскільки агенти отримують прямий доступ до гаманців та платіжних систем. У травні звіт Keyrock виявив, що ШІ-агенти здійснили розрахунки на суму 73 мільйони доларів за допомогою 176 мільйонів транзакцій за попередні 12 місяців, причому USDC становив 98,6% розглянутих платежів.
Coinbase також підключив агентів до торгівлі, управління портфелем та платежів у межах встановлених користувачем лімітів. До липня Chainalysis налічив понад 100 мільйонів платежів, пов'язаних з x402, на Base, хоча аналітична фірма заявила, що фармінг мем-коїнів та автоматизована діяльність сприяли раннім загальним обсягам транзакцій. Таким чином, ці цифри не представляли лише незалежних агентів, які купують товари чи послуги.
Хоча людина може формально схвалити діяльність агента, Мата зазначив, що сама лише згода не забезпечує значущого контролю, якщо людина не може зрозуміти надані повноваження.
Ефективне делегування, на його думку, вимагає списку дозволених дій та відповідних активів, а також лімітів для окремих транзакцій та загальних витрат. Мандат також повинен вказувати його тривалість, умови, що вимагають перегляду людиною, право принципала відкликати доступ та запис кожної здійсненої дії.
Такі елементи контролю вже з'являються в комерційних продуктах. Anchorage Digital запровадив агентський банкінг у травні з верифікованими ідентифікаторами, лімітами витрат та аудиторським контролем для автономних систем, що отримують доступ до крипто- та традиційних платіжних систем.
Visa та Wirex окремо тестували платежі стейблкоїнами під керівництвом агентів для підписок на програмне забезпечення, маркетингових бюджетів та закупівель. За даними Wirex, випробування були розроблені для вивчення безпеки, надійності, прозорості та контролю споживачів, коли програмне забезпечення ініціює платежі для користувача або компанії.
Червневий посібник з агентських платежів пояснив, як x402 дозволяє автономному програмному забезпеченню оплачувати дані, обчислювальні послуги та онлайн-ресурси за допомогою стейблкоїнів. Оскільки ці платежі можуть відбуватися без схвалення кожної транзакції людиною, системи авторизації повинні встановлювати, що агент може купити, скільки він може витратити та коли закінчується його доступ.
Мата вказав на ERC-8226, запропонований Стандарт регульованого мандата агента, як одну з моделей для забезпечення можливості перевірки делегованих повноважень.
Поданий як проект стандарту Ethereum 12 квітня, ERC-8226 призначений для ШІ-агентів, що працюють з токенізованими регульованими активами. Пропозицію написали учасники Brickken Людовіко Россі, Даріо Ло Бульйо, Тамер Дріді та Набіль Ель Аламі Халіфі.
Відомий як RAMS, стандарт дозволить верифікованому принципалу надавати ончейн-агенту дозвіл, обмежений активом, дією, тривалістю та грошовою вартістю. Регульований токен-контракт міг би перевіряти мандат, коли агент намагається виконати транзакцію.
Пропозиція розділяє три питання, які можуть виникнути під час торгівлі, керованої агентом. Реєстр ідентифікаторів підтверджуватиме існування агента, постачальник послуг комплаєнсу визначатиме, чи має принципал право здійснювати транзакції з активом, а реєстр RAMS перевірятиме, чи відповідає запланована дія делегованому мандату.
Згідно з проектом специфікації, мандат міг би встановлювати максимальну суму для однієї транзакції та кумулятивну суму для кількох транзакцій. Він також міг би включати час активації та закінчення дії, дозволені активи, затверджені дії, функції відкликання та записи, що показують, скільки повноважень агент вже використав.
Мата заявив, що RAMS не передаватиме відповідальність агенту або відшкодовуватиме принципалу за дозволену втрату. Натомість, запропонований стандарт надаватиме докази, що показують, хто надав повноваження, що міг робити агент, і чи залишалася транзакція в межах цих обмежень.
«Його мета полягає в тому, щоб зробити атрибуцію такою, що піддається перевірці: хто надав повноваження, що дозволялося робити агенту, чи залишався він у межах цих обмежень, і яка особа або контроль зазнали невдачі, коли це не відбулося».
ERC-8226 залишається проектом, а не прийнятим стандартом Ethereum або юридичною вимогою. На його сторінці обговорення також перераховані невирішені питання, включаючи те, чи повинні токени, придбані агентом, залишатися в гаманці агента, чи перераховуватися безпосередньо в гаманець принципала.
Для ринків США існуючі правила цінних паперів вже покладають обов'язки на фірми, які надають доступ до бірж та альтернативних торгових систем.
Згідно з Правилом SEC 15c3-5, брокер-дилер, що надає доступ до ринку, повинен підтримувати фінансові та регуляторні контролі ризиків під своїм прямим та винятковим контролем, за незначними винятками. Керівництво SEC стверджує, що брокер-дилер залишається відповідальним за ефективність цих контролів, навіть коли він використовує технології, надані незалежною третьою стороною.
Правило вимагає автоматизованих попередніх перевірок торгівлі, розроблених для зупинки ордерів, що перевищують попередньо встановлені кредитні або капітальні порогові значення. Воно також вимагає контролю, що обмежує доступ до торгових систем уповноваженим особам, блокує заборонені операції з цінними паперами та надає негайні звіти про виконання наглядовому персоналу.
Щодо споживчих платежів, Регламент E вимагає, щоб попередньо дозволені електронні перекази коштів мали письмовий або подібним чином автентифікований дозвіл від власника рахунку. Керівництво CFPB також стверджує, що процес авторизації повинен демонструвати ідентифікацію та згоду споживача, дозволяючи споживачеві зупиняти або відкликати майбутні платежі за встановленими процедурами.
Чинні правила CFPB безпосередньо не вказують, як постійна інструкція, така як «керувати моїм портфелем», повинна застосовуватися, коли ШІ-агент самостійно вибирає та виконує окремі перекази. Sandmark повідомив, що юристи залишаються розділеними щодо того, чи буде маніпульований платіж агента схожим на несанкціонований переказ, спричинений викраденими обліковими даними, або на дозволену транзакцію, здійснену за раніше наданим доступом.
За межами Сполучених Штатів, заступник керуючого Банку Англії Сара Бріден заявила в червні, що рамки фінансового нагляду не були розроблені для автономних агентів і що вимога людського схвалення для кожної дії може бути нереалістичною. Вона сказала, що регулятори розглядають посилення заходів безпеки, включаючи вимикачі аварійного зупинення або загальноринкові «вимикачі», якщо несправні моделі ШІ загрожуватимуть торговим системам.
USDC
