OpenAI запитала членів Конгресу, чи можуть конкуруючі компанії зі штучного інтелекту легально домовитися уповільнити розробку, оскільки її головний науковець закликає галузь встановити спільні стандарти безпеки.
За даними WIRED, яке посилається на людей, близьких до компанії, OpenAI останніми тижнями запитала законодавців, чи може угода між компаніями зі штучного інтелекту про уповільнення розробки порушити антимонопольне законодавство.
Звернення до законодавців відбувається після заклику головного науковця OpenAI Якуба Пахоцького (Jakub Pachocki) до добровільного уповільнення, поки розробники не зможуть краще продемонструвати безпеку своїх систем. Проте компанії відчувають тиск, щоб продовжувати розвиток, навіть коли їхні власні дослідники мають занепокоєння.
“Комерційна та геополітична конкуренція у сфері ШІ є неймовірно інтенсивною, що призводить до тривожної динаміки, коли компанії заохочуються випускати продукти до того, як їхні ризики будуть повністю зрозумілі”, — повідомила Decrypt Міранда Боген (Miranda Bogen), головний технолог Центру демократії та технологій.
“Навіть коли внутрішній персонал знає, що потрібно більше досліджень та тестування, їхні компанії відчувають величезний тиск, щоб зрізати кути та пропускати критичні тести безпеки, незважаючи на зростаючу кількість доказів наслідків занадто швидкого руху”, — додала вона.
Угода про уповільнення розробки ШІ може викликати антимонопольні занепокоєння, обмежуючи конкуренцію. Сенатори Адам Шифф (Adam Schiff) та Джим Бенкс (Jim Banks) представили законодавство для захисту певних безпекових співпраць, за умови попереднього повідомлення Міністерства юстиції.
Дебати щодо уповільнення розробки ШІ виникають на тлі конкуренції Сполучених Штатів та Китаю за лідерство в технології. Президент США Дональд Трамп (Donald Trump) відклав виконавчий указ щодо ШІ у травні через побоювання, що це може послабити лідерство Америки над Китаєм. Пізніше Трамп підписав указ у червні, створивши добровільний процес перевірки передових моделей перед випуском.
Більш безпосередньо, ніж занепокоєння національною безпекою, фінансові стимули можуть ускладнити угоду.
“Кожен прогрес за поточних умов приносить багато мільйонів або мільярдів доларів додаткового фінансування та ставить творців цього прогресу у більшу позицію влади та впливу”, — сказав Decrypt Дункан Сабієн (Duncan Sabien), керівник відділу комунікацій Інституту досліджень машинного інтелекту.
Називаючи динаміку гонки озброєнь реальною, Сабієн зазначив, що OpenAI та Anthropic відчувають тиск, щоб продовжувати розвиток, незважаючи на невизначені ризики, оскільки кожна нова система допомагає створювати більш здібних наступників, дозволяючи конкуренту вийти вперед, якщо будь-яка компанія сповільнить розвиток без спільної угоди.
“Це особливо актуально, оскільки досягнення в інтелекті накопичуються; кожна нова система полегшує навчання та розгортання наступної, більш досконалої системи”, — сказав він. “Без певного механізму координації, відступ просто означає, що інший хлопець отримує перевагу.
У серпні OpenAI призупинила внутрішню роботу над Astra через відсутність посилених заходів безпеки у зв'язку з кібербезпекою. Однак, як OpenAI, так і Anthropic послабили свої зобов’язання щодо безпеки у лютому, при цьому головний науковий співробітник Anthropic Джаред Каплан (Jared Kaplan) стверджував, що незалежне уповільнення розвитку має менше сенсу, поки конкуренти продовжують просуватися вперед.
Дискусія щодо уповільнення розробки ШІ посилилася цього тижня після того, як колишній інженер Anthropic Джейкоб Коксон (Jacob Coxon) публічно оголосив про свою відставку, посилаючись на занепокоєння щодо ризиків, які безперервна розробка ШІ становить для людства.
“Люди, які створюють ШІ, щиро вірять, що він може вбити нас усіх до кінця десятиліття”, — сказав Коксон на X, заявивши, що це не “маркетинговий хід”.
“Принаймні, багато керівників та старших дослідників будуть формулювати свої висловлювання в пресі так, щоб вони звучали розумно — але я чую, як ті самі люди висловлюють страх приватно. Жодна інша людська діяльність не становить такого рівня небезпеки”, — написав він.
Однак Сабієн зазначив, що дослідники можуть мало чого досягти, якщо підуть, якщо хтось інший просто займе їхнє місце.
“Якщо достатня кількість з них досягнуть спільного розуміння, що вони всі повинні зупинитися, тоді вони зможуть прорвати бар'єр координації та зупинитися разом, а не просто бути заміненими наступною, трохи менш обережною людиною”, — сказав він.
