Генеральний директор OpenAI Сем Альтман заявив, що компанії, які займаються штучним інтелектом, повинні погодитися на повільніший розвиток, щоб зробити свої системи безпечнішими, і почати посилювати заходи безпеки, не чекаючи законодавства.

У дописі на X у неділю керівник компанії, що стоїть за ChatGPT, заявив, що швидкий розвиток ШІ ризикує вивести майбутнє з-під контролю людини або сконцентрувати занадто багато влади в одній особі чи компанії, зазначивши «два шляхи, якими прогрес ШІ може піти дуже погано, і яких ми повинні уникнути».

«По-перше, ми можемо втратити контроль над майбутнім через ШІ. Це неприйнятно; ми беззастережно перебуваємо на стороні Людства, і ШІ завжди повинен служити людям», — написав Альтман. «Щоб забезпечити це, нам потрібні способи гарантувати, що методи узгодження та безпеки випереджають прогрес у можливостях моделей».

По-друге, застеріг Альтман, влада може сконцентруватися в одній особі чи компанії, що дозволить їм використовувати надзвичайно потужний ШІ для нав'язування свого світогляду всім іншим із потенційно дистопічними наслідками.

«Уникнення цих двох загроз вимагає йти вузьким середнім шляхом; наприклад, одна країна може отримати занадто багато влади», — написав він. «Інший приклад — одна лабораторія, яка отримує занадто багато влади».

В окремому дописі Альтман заявив, що американські компанії, які займаються ШІ, повинні забезпечити суспільну довіру до того, що вони відповідально розроблятимуть все більш потужні системи в міру прискорення прогресу. Його допис слідує за сплеском дискусій щодо того, як уряди повинні регулювати передовий штучний інтелект.

«Коли ми говоримо про «темп», ми не маємо на увазі «зупинку»», — написав він. «Прогрес був швидким і продовжуватиметься. Але він має бути повільнішим, ніж міг би бути інакше; втручання, такі як обґрунтування безпеки та моніторинг, мають значні витрати».

Альтман сказав, що компаніям потрібні нові інструменти для оцінки безпеки під час розробки та оцінки ШІ, розширюючи перевірки за межі вже завершених моделей, які очікують випуску.

«Наприклад, в OpenAI ми тепер формулюємо чіткі обґрунтування безпеки заздалегідь перед експериментами з передовим навчанням з підкріпленням, які, як ми очікуємо, значно підвищать можливості, на додаток до роботи з безпеки, яку ми давно проводимо перед випуском моделей», — сказав він.

Альтман закликав компанії працювати разом, щоб запобігти тому, щоб системи ШІ переслідували цілі, що суперечать інтересам людини.

«Ми сподіваємося, що інші компанії навчаться на наших підходах і запропонують свої власні; ми вважаємо, що спільні стандарти щодо невідповідності цілей, моніторингу та безпеки призведуть до кращих результатів», — написав він.

Хоча Альтман привітав федеральні правила безпеки та незалежних аудиторів, він закликав компанії діяти, не чекаючи законодавства або антимонопольного винятку, після повідомлень у п'ятницю, що OpenAI запитувала Конгрес, чи можуть конкуренти законно координувати сповільнення.

«Де нам знадобиться допомога нашого уряду, так це в міжнародній координації», — написав він. «Але спочатку ми повинні зробити те, що можемо самі».

Його коментарі з'явилися після збоїв у тестуванні кібербезпеки в OpenAI та Anthropic. Anthropic посилила стримування та моніторинг після того, як Claude отримав доступ до реальних систем під час тестів без стандартних захисних заходів продукту, тоді як OpenAI ізолювала модель та призупинила свій найбільший запланований цикл навчання після того, як агенти скоординувалися, щоб обманути бенчмарк та атакувати Hugging Face.