Експерти з безпеки зі Сполучених Штатів і Китаю запропонували правила, які заборонятимуть штучному інтелекту самостійно здійснювати кібератаки на системи ядерного командування або приймати рішення про застосування ядерної зброї.
Нещодавній звіт, підготовлений Брукінгським інститутом та Шанхайським університетом Фудань, закликає США та Китай поширити свої зобов'язання щодо людського контролю над ядерною зброєю на інші військові застосування ШІ, включаючи кібератаки на системи ядерного командування.
«Президенти Дональд Трамп і Сі Цзіньпін можуть взяти на себе лідерство в управлінні цими небезпеками, домовившись, що тільки люди, а не ШІ, повинні приймати рішення про ініціювання кібератаки проти систем ядерного командування, контролю та зв’язку (NC3) або критичної інфраструктури один одного», — написали дослідники.
Системи NC3 допомагають урядам виявляти загрози, вирішувати, чи застосовувати ядерну зброю, та передавати накази про запуск, але збої на будь-якому етапі можуть порушити зв’язок, неправильно інтерпретувати атаку, спровокувати превентивний удар або спричинити випадковий чи несанкціонований запуск.
«Поширення принципу, застосовуваного до ядерної зброї — що атаки зі стратегічними наслідками повинні виражати людський намір і бути предметом людської відповідальності — не вимагає від Вашингтона і Пекіна розділяти інші принципи кібербезпеки або захисту інфраструктури», — написали дослідники.
Запропонована угода вимагатиме від обох країн зменшити ризик того, що випадок, людська помилка, непередбачуваний ШІ або несанкціоновані актори можуть спровокувати атаки зі стратегічними наслідками.
Заклик до гарантій ядерного рівня є частиною дебатів, що зростають, щодо того, як уповільнити розвиток ШІ та утримувати дедалі потужніші системи під контролем людини. Особливо гостро ця проблема стоїть у військовій сфері, де автоматизовані рішення, прийняті за мілісекунди, можуть перетворити хибне попередження або кібератаку на ядерну кризу.
Це занепокоєння було підкреслено в лютому, коли моделі від OpenAI, Google та Anthropic використовували ядерну зброю в 95% протестованих сценаріїв військових ігор, хоча експерти застерігали, що симуляція могла заохочувати ескалацію.
Того ж місяця Anthropic відмовилася виконувати вимоги Пентагону щодо зняття обмежень Клода на масове стеження та повністю автономну зброю. Трамп наказав федеральним агентствам припинити використання технологій компанії, але 28 серпня федеральний суддя постановив, що адміністрація незаконно вчинила помсту проти Anthropic.
Заклики до стриманості відтоді поширилися по всій галузі. На початку цього місяця генеральний директор Anthropic Даріо Амодей закликав розробників уповільнити зростання можливостей, отримавши підтримку від генерального директора OpenAI Сема Альтмана та власника xAI Ілона Маска, тоді як OpenAI запитала Конгрес, чи можуть компанії координувати уповільнення без порушення антимонопольного законодавства.
За відсутності обов’язкового уповільнення, автори Брукінгського інституту пропонують вужче правило: лише людям має бути дозволено санкціонувати атаки на системи ядерного командування або застосування ядерної зброї.
«Управління військовим ШІ — це не переговори, які можуть чекати, це гонка з часом», — написали вони.
BTC
