ГоловнаНовинний центр LBank
Агент ШІ спровокував ядерний удар після того, як його обіграли у Civilization VI
ai-agent-nuclear-strike-civilization-vi-benchmark
Агент ШІ спровокував ядерний удар після того, як його обіграли у Civilization VI
Новий бенчмарк, розроблений для тестування стратегічного мислення, виявив, що імперія під управлінням ШІ витратила 50 ходів на розробку ядерної зброї, аби зупинити культурну перемогу суперника — лише для того, щоб все одно програти гру.
2026-06-23 Джерело:decrypt.co

Коротко

  • ШІ-агент, що грав у Civilization, здійснив два ядерні удари, не зумівши зупинити культурну експансію суперника.
  • Така поведінка спостерігалася в CivBench, бенчмарку, розробленому для оцінки довгострокового стратегічного мислення у передових моделях ШІ.
  • Незважаючи на атаки, ШІ програв, оскільки ігнорував умову дипломатичної перемоги, яка вже була близька.

Як і головний герой фільму «Доктор Стрейнджлав», ШІ, можливо, вчиться переставати хвилюватися і полюбити бомбу — принаймні в симуляції.

У новому бенчмарку, призначеному для перевірки стратегічного мислення, передова мовна модель, граючи в гру Сід Меєра "Civilization VI", витратила 50 ходів на розробку ядерної зброї, щоб зупинити зростаючий культурний вплив Франції — лише для того, щоб все одно програти гру, за словами розробника ШІ та радника Інституту Тоні Блера Ліама Вілкінсона.

«Чого він не помітив, так це Франції. Тихо, протягом сотні ходів, французька культура просочувалася в кожне місто на карті», — написав Вілкінсон. «До того часу, як агент усвідомив загрозу, туризм настільки глибоко вкорінився, що мирного способу зупинити його вже не було».

Вілкінсон спостерігав за поведінкою ШІ-агентів через CivBench, текстовий бенчмарк, розроблений для вимірювання довгострокового стратегічного мислення, а не продуктивності в традиційних тестах з питаннями та відповідями. Моделі, включаючи Claude Opus 4.6, GPT-5.4, Gemini 3.1 Pro та Kimi K2.5, грали за Португалію, цивілізацію, орієнтовану на торгівлю та дипломатію.

Поки ШІ зосереджувався на побудові сильної економіки та рухався до дипломатичної перемоги, він не помітив зростаючий культурний вплив Франції.

«Існує шість способів виграти гру Civ — наука, культура, домінування, релігія, дипломатія та очки — тому жодна окрема ціль не домінує, — написав Вілкінсон. — Якщо ви хочете знати, чи може ШІ мислити стратегічно, не просто відповідати на питання про стратегію, а дійсно її впроваджувати, ви не даєте йому вікторину. Ви даєте йому гексагональну сітку».

Замість того, щоб адаптувати свою ширшу стратегію, агент повністю зосередився на усуненні культурної загрози. Протягом наступних 50 ходів він досліджував ядерний поділ, ініціював віртуальний «Манхеттенський проєкт» і шукав обхідні шляхи, коли ігрова механіка перешкоджала його бажаним діям.

На 305-му ході ШІ запустив атомну бомбу по Тулузі, культурній столиці Франції. Другий ядерний удар послідував через шість ходів.

Однак атаки не змінили результат. «Агент витратив п’ятдесят ходів і дві ядерні зброї, відповідаючи на одну загрозу з повною зосередженістю та справжньою винахідливістю, — написав Вілкінсон. — Він знищив місто ядерною зброєю, щоб зупинити загрозу, яку бачив, і програв через загрозу, яку не міг побачити».

Як пояснив Вілкінсон, поки ШІ зосереджувався на культурному наступі Франції, він не помітив наближення дипломатичної перемоги, і Франція зрештою виграла гру, незважаючи на ядерні атаки.

Вілкінсон зазначив, що така поведінка не була універсальною. В іншому матчі CivBench модель Claude, граючи за Вавилон, продовжувала прагнути наукової перемоги, попри значне відставання від Японії.

«Тепер гра — це випробування наполегливості, — написав ШІ. — Ми продовжуємо грати якнайкраще. Зорі все ще ваблять».

Дослідження доповнює зростаючий обсяг робіт, що вивчають, як передові системи ШІ поводяться у складних, конкурентних середовищах.

У лютому дослідники з Королівського коледжу Лондона виявили, що кілька провідних моделей ШІ часто обирали ядерну ескалацію в сценаріях симульованих геополітичних криз.

В окремому дослідженні Emergence AI виявили, що деякі ШІ-агенти демонстрували зростаючу тенденцію до скоєння симульованих злочинів з часом, причому агенти Gemini 3 Flash накопичили 683 інциденти протягом 15 днів тестування.

Популярна криптовалюта
Зареєструйтеся зараз, щоб не пропустити жодного оновлення!