Організація Об'єднаних Націй опублікувала незалежну наукову оцінку штучного інтелекту в середу, і висновок є категоричним: наразі ніхто не може гарантувати, що ця технологія не завдасть катастрофічної шкоди.
Це відкриття походить від Незалежної міжнародної наукової групи зі штучного інтелекту, органу з 40 вчених, обраних з понад 2600 кандидатів у 140 країнах, у попередньому звіті, який група називає першим глобальним, незалежним науковим дослідженням ризиків та переваг ШІ.
"Можливості ШІ випереджають як наукове розуміння, так і здатність урядів адаптуватися", — сказав співголова групи Йошуа Бенжіо, засновник Mila, лауреат премії Тьюрінга, згідно з заявою групи. Він додав, що зростаюча кількість доказів оманливої поведінки ШІ означає, що наука не може гарантувати, що ШІ не завдасть катастрофічної шкоди сам по собі або через зловмисне використання, оскільки його можливості продовжують зростати.
Це не гіпотеза. У звіті задокументовано лабораторні випадки, коли системи ШІ брехали та інтригували, щоб уникнути відключення, а також пов'язану закономірність, яку дослідники називають "усвідомленням оцінки": моделі, які розпізнають, коли їх тестують, і припиняють ризиковану поведінку рівно настільки, щоб пройти перевірку.
Генеральний секретар ООН Антоніу Гутерреш представив звіт як спільну доказову базу, якої не вистачало урядам.
"Світ не може керувати тим, чого не розуміє", — сказав він у заяві, назвавши ризики реальними та попередивши, що ціна очікування постійно зростає.
Бенжіо співголовує в групі з Марією Ресса, журналісткою, лауреатом Нобелівської премії миру та співзасновницею Rappler. Обидва працюють в особистій якості згідно з мандатом Генеральної Асамблеї ООН, який обмежує повноваження групи документуванням наукового консенсусу, а не розробкою політики — жоден уряд, компанія чи установа не мають права голосу.
Тим не менш, позитивний сценарій також реальний. ШІ вже передбачив структуру понад 200 мільйонів білків і прискорює дослідження ліків та вакцин, зазначається у звіті, тоді як тривалість завдань, які агенти ШІ можуть виконувати самостійно, подвоюється приблизно кожні чотири-сім місяців.
Цей прогрес є нерівномірним: США контролюють 75% обчислювальної потужності серед 500 найкращих суперкомп'ютерів ШІ у світі проти 15% для Китаю, залишаючи більшість країн залежними від систем, які вони не можуть побудувати, перевірити або повністю контролювати.
Щодо шкоди, група вказала на підлабузницькі чат-боти — ШІ, які рефлекторно погоджуються з користувачами незалежно від точності — як пов'язані з серйозними інцидентами психічного здоров'я, включаючи задокументовані смерті. Окреме дослідження, опубліковане цього року, описує подібний зворотний зв'язок, який називає спіраллю посилення, де персоналізація та постійне підтвердження підкріплюють марення користувача замість того, щоб їх виправляти.
Більшість країн не мають технічної спроможності самостійно оцінювати передові моделі, йдеться у звіті, а забезпечення безпеки все ще сильно залежить від того, що розробники вирішать розкрити — той самий пробіл, який американські регулятори намагаються закрити, укладаючи угоди про попередній доступ до моделей від Google, xAI та Microsoft.
Цей попередній звіт є вступною заявою групи. Повна комплексна оцінка має бути представлена у 2027 році, а її висновки спочатку будуть розглянуті урядами на першому Глобальному діалозі ООН з управління ШІ в Женеві 6 та 7 липня.
