У середу по обіді Рада Безпеки ООН слухатиме людей, які створюють технологію, що викликає в неї найбільше занепокоєння.
Гендиректор OpenAI Сем Альтман, CEO Anthropic Даріо Амодеї, дослідник безпеки ШІ Йошуа Бенжіо та CEO Hugging Face Клеман Деланг виступлять перед 15-членною радою — органом ООН, який має повноваження санкціонувати санкції та військові дії, — щодо ризиків, які несе штучний інтелект.
Також запрошено DeepSeek. Китайський стартап, який зменшив ринкову капіталізацію Nvidia приблизно на $600 млрд після запуску дешевшої моделі в січні 2025 року, попросили виступити із заявою разом з іншою китайською компанією — Moonshot, розробником моделей Kimi.
Сесію середи організувала Франція, яка цього місяця головує в раді на ротаційній основі. Головуватиме міністр закордонних справ Жан-Ноель Барро, а концептуальна записка до зустрічі, за повідомленнями, зосереджена на ризику виходу систем ШІ з-під людського контролю.
Очікується, що під час цього ж брифінгу також порушать тему ШІ, який з часом зможе проводити кібератаки, впливати на вибори або проєктувати зброю без участі людини в контурі ухвалення рішень. Саме тому цього тижня рада, створена для питань воєн і санкцій, слухає керівників технокомпаній, а не генералів.
Амодеї приєднається дистанційно, а не особисто. 12 вересня він опублікував есе під назвою "We Must Pace the Frontier", у якому стверджував, що індустрія має свідомо сповільнити темпи створення дедалі потужніших frontier-моделей — найбільших і найпросунутіших систем ШІ, які будь-коли випускав будь-який дослідницький центр. Він заявив, що Anthropic надасть зовнішнім оцінювачам постійний доступ на рівні штатних співробітників для перевірки своїх обіцянок щодо безпеки. Сем Альтман і Ілон Маск уже за кілька годин заявили, що погоджуються з цим.
Амодеї назвав Китай "автократичною країною з беззаперечно найрозвиненішими можливостями у сфері ШІ" та заявив, що США повинні й надалі обмежувати експорт передових чипів до Пекіна, навіть одночасно закликаючи Пекін до співпраці над глобальними правилами безпеки. МЗС Китаю назвало це есе контрпродуктивним, а державні медіа охарактеризували його як "посібник часів холодної війни", спрямований на стримування Китаю.
Президент Дональд Трамп, тим часом, не хоче мати нічого спільного з ідеєю сповільнення. Після публікації есе Амодеї президент назвав попередження про захоплення влади ШІ "містифікацією", пов’язаною з "радикальними лівими", і напряму звинуватив Амодеї у неправомірних діях, не надавши жодних доказів.
За кілька днів король Чарльз приймав керівників Anthropic, OpenAI, Nvidia та Google DeepMind у своєму шотландському маєтку на саміті з безпеки ШІ, який завершився обговореннями, але без будь-яких публічно відомих домовленостей.
Сесія середи, ймовірно, також не призведе до обов’язкової до виконання угоди. Вона відбудеться за два дні до того, як Трамп сяде за стіл переговорів із головою КНР Сі Цзіньпіном у Вашингтоні 24 вересня — на саміті, де, за повідомленнями, безпека ШІ буде на порядку денному поряд із торгівлею.
