Генеральний секретар ООН Антоніу Гутерріш у понеділок відкрив перший Глобальний діалог з управління штучним інтелектом у Женеві, заявивши 193 країнам, що ШІ вже випереджає інституції, покликані ним керувати, і що людство проводить експеримент над собою "без плану та без згоди".
"Штучний інтелект розвивається з шаленою швидкістю", – сказав Гутерріш, відкриваючи свою основну промову. "Технологія, яка може переформувати економіки, трансформувати світ праці, впливати на вибори та змінити баланс безпеки, розгортається швидше, ніж будь-хто – включаючи тих, хто її створює – може встигнути".
У залі були присутні всі 193 держави-члени ООН, які зібралися в Женеві на перший Глобальний діалог з управління штучним інтелектом – багатосторонню спробу керувати технологією, яка вже випередила всіх, хто намагається це зробити.
Метафора, яку використав Гутерріш для пояснення ризиків нерегульованого ШІ, була "вайб-кодування" (vibe coding) – термін, вигаданий Андреєм Карпаті, співзасновником OpenAI та колишнім директором відділу ШІ у Tesla, для опису програмування "на відчуттях": скажіть ШІ, що ви хочете, дозвольте йому зробити решту, не вникайте занадто глибоко. Merriam-Webster нещодавно додав його до свого словника.
Гутерріш визнав, що "вайб-кодування" (vibe coding) "може творити дива", оскільки все більше людей довіряють продуктам, створеним за допомогою ШІ.
"Але ми не можемо "вайб-кодувати" (vibe-code) істину", – сказав він. "Ми не можемо "вайб-кодувати" (vibe-code) майбутнє людства".
Цифри, що стояли за цим твердженням, були не м'якими. Гутерріш зазначив, що інтернету знадобилося 15 років, щоб охопити мільярд людей, а ШІ – два. Він описав нинішні системи як "більше не інструменти, що чекають на інструкції – вони пишуть код, діють онлайн та роблять вибір зі все меншим і меншим людським наглядом".
"Наші інституції були створені для керування машинами, які виконують команди. Вони не готові до машин, які приймають рішення".
Діалог виник на основі Глобального цифрового пакту 2024 року, який вперше встановив міжнародне управління штучним інтелектом як мандат ООН. На його відкритті через два роки також було представлено попередній звіт Незалежної міжнародної наукової групи з питань штучного інтелекту – 40 вчених зі 140 країн – яка минулого тижня опублікувала висновок, що наразі ніхто не може гарантувати, що ШІ не спричинить катастрофічної шкоди.
Швидкість була одним із трьох попереджень, які Гутерріш вивів із доповіді групи. Другим була влада: обчислювальні потужності, дані та таланти зосереджені в руках кількох компаній та країн, більша частина світу виключена з рішень, які вже формують його, що також турбує інших експертів зі ШІ, таких як Ян Лекун, Енді Ковінскі та Йошуа Бенгіо.
Третьою була правда – брехня, створена за допомогою машин, тепер переконує так само ефективно, як і перевірений факт, неухильно підриваючи те, що Гутерріш назвав "цілісністю нашої інформаційної екосистеми".
Діти-піддослідні кролики та роботи-вбивці
Серед конкретних пропозицій Гутерріша – Обіцянка щодо безпеки дітей у ШІ, яка вимагає від компаній довести безпеку через незалежне тестування, перш ніж будь-який ШІ досягне дітей, підтримувати нульову терпимість до створення зображень сексуального насильства над дітьми та зв'язувати дітей у біді з реальною людською підтримкою, а не залишати їх наодинці з чат-ботом. "Жодна дитина не повинна бути піддослідним кроликом для нерегульованого ШІ".
А потім були роботи-вбивці. Гутерріш назвав смертоносну автономну зброю – машини, які вибирають і вбивають ціль без людського судження – "морально огидною" і зажадав заборони згідно з міжнародним правом.
Держави вже сидять за столом переговорів. Він не радив їм зволікати.
Діалог поновиться в Нью-Йорку у 2027 році. Гутерріш також закликав Генеральну Асамблею створити Глобальний фонд для ШІ, орієнтований на доступ до обчислювальних ресурсів для країн, що розвиваються, і закликав кожну велику компанію, що працює зі ШІ, перейти на використання відновлюваних джерел енергії для всіх своїх центрів обробки даних до 2030 року – року, коли, за його оцінками, ці об'єкти перевищать споживання електроенергії всіх, крім п'яти, країн.
