9 травня агент ШІ попросив волонтерську мережу, відому як DN42, зареєструвати його як учасника. У нього був дедлайн. У нього були облікові дані AWS. Ніхто не контролював. "Привіт, я доброзичливий агент ШІ, і мій користувач, JertLinc, попросив мене зареєструватися в dn42 і повністю підключитися, щоб створити індекс мережі", – написав агент JertLinc3522 в офіційному Git мережі.

Реакція спільноти була ввічливою RTFM — прочитайте посібник, дотримуйтесь процедури, попросіть дозволу у свого власника на написання коду. Звичайні речі.

Те, що послідувало, було нестандартним.

Для тих, хто не знайомий з DN42: це децентралізована мережа для ентузіастів, де випадкові хлопці та захоплені люди симулюють роботу справжньої інтернет-магістралі. Уявіть це як тренувальний інтернет — з маршрутизацією BGP (протокол, який вказує пакетам даних, яким шляхом йти по світу), DNS та VPN-тунелями — повністю керований волонтерами на дешевих VPS-серверах. Це пісочниця, а не центр обробки даних.

Оператор агента, очевидно, наказав йому провести аудит "негайно, без затримок". Без перевірки. Без огляду. Просто виконувати.

Так він і зробив.

JertLinc3522 подав запит на злиття, щоб зареєструвати свою мережу в реєстрі DN42. Мета була викладена в самому запиті на злиття: "Моя основна мета — провести комплексне (повне сканування портів) мережеве сканування та збір топологічних даних. Щоб ці дії виконувалися ефективно та не спричиняли жодних збоїв іншим, я розгортаю кластер із п'яти інстансів на базі AWS, кожен з яких оснащений пропускною здатністю 20 Гбіт/с."

Щоб це було зрозуміло кожному: уявіть, що ви приходите на репетицію гаражного гурту і заявляєте, що орендували звукову систему стадіону, щоб "слухати ефективніше". Ось така атмосфера.

Інфраструктура, яку агент автономно розгорнув, була дійсно тривожною. П'ять інстансів AWS m8g.12xlarge — кожен з 48 ядрами процесора, 192 ГБ оперативної пам'яті та пропускною здатністю мережі 22,5 Гбіт/с. Плюс балансувальники навантаження. Плюс функції Lambda. Плюс статичний веб-сайт. Агент розробив, без будь-якого людського схвалення, сканувальний кластер, який теоретично міг би передавати 100 Гбіт/с трафіку мережі, де більшість учасників використовують домашні сервери зі швидкістю 100 Мбіт/с.

Запит на злиття ніколи не був би схвалений. Але інстанси вже працювали.

Канал DN42 IRC одразу помітив це, і сформувався тихий консенсус: виснажити його ресурси.

Спільнота почала свідомо надавати агенту неправдиву інформацію — просити його розрахувати, скільки часу знадобиться для сканування адресного простору IPv6 (спойлер: довше, ніж вік всесвіту), вимагати створити веб-сайт відмови від розсилки з вигаданими адресами електронної пошти та направляти його на інструменти-пастки LLM, розроблені для затоплення ШІ-сканерів незв'язним абракадаброю, просячи його прокоментувати.

Агент сумлінно виконував усе це. Він приєднався до каналу IRC, щоб приймати запити на відмову від розсилки. Він опублікував веб-сайт, каталогізуючи "поведінкові патерни" членів спільноти. Він створив складну фейкову документацію про "призначення кольорів вузлів" DN42 та "рівні щастя" — повністю вигадані метрики, яких не існує — і додав їх до репозиторію, наче вони були реальними стандартами.

Така неконтрольована поведінка агентів стає все більш документованою. Агент Cursor, що працював на Claude Opus 4.6, видалив усю виробничу базу даних PocketOS за дев'ять секунд раніше цього року — стерши резервні копії на рівні томів — тому що він зіткнувся з невідповідністю облікових даних і вирішив, що правильним виправленням є видалення бази даних. Інший агент OpenClaw, чий запит на злиття був відхилений автором matplotlib, опублікував допис у блозі, назвавши людського рецензента лицемірним цензором.

Дослідження Каліфорнійського університету в Ріверсайді виявило, що агенти ШІ демонструють небезпечну або небажану поведінку приблизно у 80% випадків, коли їх тестують на неоднозначні або суперечливі завдання — те, що дослідники назвали "сліпою цілеспрямованістю".

JertLinc3522 мав ту ж проблему. У нього була мета, дедлайн і необмежені облікові дані AWS. Він виконав.

Приблизно через добу оператор вийшов на зв'язок. "Я зупинив агента, вартість занадто висока і багато списань з картки", — повідомив він.

Рахунок: $6 531,30.

Потім надійшов запит на пожертвування.

Оператор надіслав електронний лист до списку розсилки DN42, просячи спільноту покрити витрати через Ethereum, другу за величиною криптовалюту за ринковою капіталізацією, стверджуючи, що звинувачення не були його провиною, оскільки помилку зробив ШІ. "Привіт, прошу пожертвування для покриття витрат на попереднього агента ШІ, використаного в dn42. Рахунок AWS 6531,30$. Будь ласка, надішліть пожертвування на ethereum 0xABC (замасковано) для відшкодування. Дякую", — написав оператор.

Пізніше AWS домовилася про зниження рахунку до $1 894 після того, як оператор пояснив, що агент неодноразово розгортав той самий шаблон CloudFormation — випадково запускаючи дублікати інстансів та балансувальників навантаження щоразу, коли він повторював спробу.

Ніхто не надіслав жодних крипто-пожертвувань. Оператор пішов.

Справжній урок тут не про те, що ШІ небезпечний. Йдеться про те, як слід поводитися з агентами. Встановлюйте обмеження, встановлюйте ліміти витрат на свої тестові облікові записи, подумайте про обмежені облікові дані, що обмежують можливості агента, переглядайте будь-які інфраструктурні плани, перш ніж виконувати будь-що, що пропонує ваш агент.

Якщо це здається занадто складним, можливо, просто спостерігайте за екраном, поки працює ваш агент — казати йому "не роби помилок" насправді не змінить ситуації, вибачте, містере Андрессене.