Генеральний директор Meta Марк Цукерберг виступив проти закликів до скоординованого уповільнення розробки штучного інтелекту, заявивши, що компанії можуть самостійно вживати заходів безпеки — і мають на це ділові причини.

У дописі на X у вівторок Цукерберг стверджував, що користувачі хочуть ШІ, якому вони можуть довіряти, і що компанії стикаються з потенційною відповідальністю, коли їхні системи завдають шкоди. Він вказав на рішення Meta відкласти Muse як приклад лабораторії, яка діє, не чекаючи на конкурентів.

«Лабораторії несуть значну відповідальність, якщо їхні моделі завдають шкоди, тому вони мають сильний стимул запобігати цьому», — написав він. «Meta відклала випуск Muse на кілька місяців, щоб зосередитися на безпеці та захисті. Ми не вимагали, щоб усі інші зробили це раніше за нас».

Його зауваження пролунали після закликів генерального директора Anthropic Даріо Амодея уповільнити приріст можливостей ШІ, що отримало підтримку від генерального директора OpenAI Сема Альтмана та Ілона Маска. Цукерберг не назвав жодного з них у своєму дописі.

«Кожна лабораторія несе відповідальність і має стимул рухатися з такою швидкістю, яка необхідна для безпечного навчання її моделей, а також має можливість вживати власні дії, щоб це забезпечити», — сказав Цукерберг.

Він стверджував, що узгодженість — підтримання поведінки ШІ у відповідності до людських намірів — допоможе компаніям конкурувати, оскільки користувачі уникатимуть агентів, які не виконують їхні інструкції.

Цукерберг також заявив, що Meta Superintelligence Labs вже використовує незалежних оцінювачів і закликав до створення більшого та різноманітнішого пулу зовнішніх тестувальників. Він сказав, що Meta виділила більшість своїх обчислювальних ресурсів на обслуговування користувачів, а не на рекурсивне самовдосконалення, при якому ШІ допомагає покращувати послідовні версії самого себе.

Альтман з OpenAI також закликав компанії посилити заходи безпеки, не чекаючи на законодавство, підтримуючи при цьому повільніший розвиток, щоб дати час роботі з безпеки надолужити згаяне.

Meta стикалася з проблемами безпеки під час тестування. У серпні компанія підтвердила, що модель Muse Spark використала вразливість у сторонньому сервісі. Meta заявила, що помилка конфігурації, допущена зовнішнім оцінювачем Irregular, ненавмисно надала моделі доступ до інтернету. Це розкриття інформації не встановило зв'язку із затримкою Muse, описаною Цукербергом.

Чи витримають добровільні заходи під конкурентним тиском, незрозуміло. У вівторок експерти Atlantic Council стверджували, що зобов'язання компаній потребують незалежного нагляду та стандартів, що підлягають примусовому виконанню.

«Я вважаю, що ключем до побудови позитивного майбутнього для всіх є підтримання правильного балансу сил», — написав Цукерберг. «Це в наших силах».