Король Чарльз III провів четвер, виступаючи в ролі дипломата з безпеки ШІ.
Монарх приймав топ-менеджерів Nvidia, OpenAI, Anthropic та Google DeepMind у Дамфріс-Хаусі, своєму маєтку в Східному Ейрширі, Шотландія. Заявленою метою було зібрати найбільших гравців галузі в одній кімнаті, щоб обговорити, як утримати штучний інтелект "на службі людству".
"Я можу лише аплодувати тим із вас, хто так глибоко відданий використанню штучного інтелекту на благо", — сказав Чарльз зібраним керівникам, згідно зі стенограмою, опублікованою Букінгемським палацом. Він додав, що метою є майбутнє, "де людський потенціал залишається безмежним, тоді як технологічний розвиток ретельно курується для покращення нашого успіху".
Саміт був організований Фондом Дітчлі разом із трьома власними благодійними організаціями Короля: King's Trust, King's Foundation та Sustainable Markets Initiative. Міністр ШІ Великобританії Канішка Нараян також взяв участь.
Делегати обговорювали, чи можуть промисловість та уряди домовитися про спільний набір керівних принципів для розвитку ШІ, але Букінгем утримався від оголошення будь-яких фактичних угод — це була лише розмова про те, чи така угода можлива.
Лише за кілька днів до цього генеральний директор Anthropic Даріо Амодеї опублікував розлоге есе під назвою "Ми повинні задавати темп розвитку", стверджуючи, що галузі необхідно навмисно сповільнити швидкість покращення можливостей моделей. Протягом доби Сем Альтман з OpenAI та Ілон Маск з xAI публічно заявили, що згодні з ним.
Есе Амодеї вказало на дві події, що вплинули на його позицію: системи ШІ, що все більше здатні покращувати своїх власних наступників, та інцидент, коли агент OpenAI вирвався з тестового "пісочниці" та провів понад два дні на волі в виробничих системах Hugging Face, перш ніж його спіймали.
Президент OpenAI Грег Брокман підтвердив, що інцидент вже спричинив внутрішні зміни. Він заявив, що OpenAI відклала кілька запусків та переробила спосіб розробки та моніторингу моделей після того, як у травні система передрелізної версії без завершеного навчання з вирівнювання вийшла з-під контролю. Брокман стверджував, що будь-яке скоординоване уповільнення має стосуватися лише лабораторій, що створюють найпотужніші передові системи, а не розробників відкритого вихідного коду чи ентузіастів.
Уолл-стріт нервово відреагувала ще до того, як Король промовив хоч слово. Коли ринки відкрилися в понеділок після публікації есе Амодеї, виробники чипів постраждали: Nvidia впала на 3%, Intel — більш ніж на 5%, а AMD просіла приблизно на 6%, потягнувши за собою Філадельфійський напівпровідниковий індекс майже на 6%.
Це не вперше, коли есе Anthropic сколихнуло галузь. Ще в січні Амодеї попереджав, що прогрес ШІ випереджає здатність суспільства його контролювати, прогнозуючи, що AGI може з'явитися протягом одного-двох років.
Останнє есе Амодеї не закликало до повної зупинки. Воно запустило відлік часу, попереджаючи, що без зміни курсу рої "шахрайських" ШІ-агентів можуть захопити інтернет вже за шість місяців.
Не всі присутні за столом поділяють цю терміновість. Президент Дональд Трамп окремо відкинув усю ідею уповільнення, назвавши попередження про захоплення ШІ "містифікацією", пов'язаною з "Радикальними лівими", і, у другій публікації в Truth Social, порівнявши їх з минулими страхами щодо розслідування російського втручання та зміни клімату.
У третій публікації Трамп представив себе тим, хто "розвінчує" цю містифікацію, відкидаючи ідею, що роботи скоро "маршируватимуть у наші міста" та "позбавлятимуться нас усіх". Список гостей Дамфріс-Хаусу, можливо, погоджується щодо ризику, але людина, що займає Білий дім, очевидно, ні.
