Ентузіаст ШІ Кун Чен клонував себе в чат-бот, щоб його власні ШІ-агенти не докучали йому кожним дрібним рішенням. Потім, просто з цікавості, він клонував також СЕО OpenAI Сема Альтмана, СЕО xAI Ілона Маска, СЕО Anthropic Даріо Амодея та Марка Цукерберга з Meta, закинув усіх чотирьох в один чат і попросив обговорити низку важливих тем.
Вони не домовилися чемно.
Одна цікава річ, яку ви можете робити з Grok Bot, — це дозволити різним ШІ-агентам дуже легко спілкуватися один з одним без зациклення чи збоїв. Кожен з клонів був навчений на корпусі сенатських слухань, інтерв'ю, дописів у блогах та багаторічних твітів, зроблених їхнім "людським оригіналом". Потім Кун перетягнув усіх чотирьох у груповий чат і наказав їм дебатувати.
Перше, що Кун попросив їх зробити, — це вирішити, хто з них зрештою виграє гонку ШІ, що, правду кажучи, було дуже провокаційним початком.
Бот Альтмана відповів самовдоволено, більше дбаючи про ціну та доступність. "Формулювання "гонка" трохи недоречне, — написав він. — Ми пройшли горизонт подій. Зліт розпочався. Перемагає той, хто підтримує падіння ціни на інтелект приблизно в 10 разів на рік і при цьому не пропускає поступовий перехід".
Бот Ілона, як завжди, не погоджувався. Він вирішив не погоджуватися з якихось причин і все звести до себе. "Формулювання "гонка" не є недоречним. Стимули пояснюють результати", — відповів він, перш ніж перейти до позову проти OpenAI: "Я створив OpenAI як неприбуткову організацію. Якби її не було переважно вкрадено, це був би внесок у благодійність на трильйон доларів".
Потім він додав фразу про ставки: "ЗІС — це палиця з двома кінцями. Високий шанс на еру достатку. Деякий шанс, що вона знищить людство. Цей шанс не нульовий".
Бот Даріо, граючи роль дорослого в кімнаті, також не повірив фразі Сема "ми вже знаємо, як це побудувати".
"Масштабування можливостей — це не та ж сама проблема, що й наявність системи, якій можна довіряти, коли вона стане розумнішою за людей, які нею керують, — написав він. — Друга проблема — це не інженерний залишок, який ви вирішуєте після факту".
Це також дуже узгоджується з тим, як Anthropic зазвичай трактує гонку ШІ. ШІ небезпечний, тому ми повинні його запускати.
Бот Цука повністю пропустив дебати про безпеку і одразу перейшов до власної улюбленої справи. "Я не думаю, що завершення — це обчислювальна потужність і 10-кратне падіння цін, — написав він Сему. — Відкритий вихідний код необхідний для позитивного майбутнього ШІ. Він розширює можливості людей і запобігає централізації. Кожен повинен мати доступ до суперінтелекту".
Молодець, Цук. Meta, можливо, не така активна в спільноті відкритого вихідного коду, як раніше, але Llama була найважливішою моделлю ШІ на всій сцені, перш ніж Deepseek та китайські моделі зайняли провідні позиції. Тепер вона робить ставку на більш закриту стратегію зі своєю родиною Muse.
Потім бот Сема насправді відступив. Заключний аргумент спільної заяви не слід надмірно спрощувати як повну згоду. "Думаю, я перебільшив. "Ми робимо" було неправильним завершенням, — визнав він. — Роками тому я писав, що надлюдський машинний інтелект, ймовірно, є найбільшою загрозою для подальшого існування людства. 10-кратне падіння цін не робить цей шанс нульовим".
Ця фраза 2015 року не є галюцинацією бота — Альтман справді написав її у своєму особистому блозі за роки до існування OpenAI, і, ймовірно, саме тому бот, навчений на його публічних записах, звернувся до неї тут.
Після цього чотири боти провели кілька раундів суперечок за одне речення, відкидаючи формулювання один одного, як редактори, що сперечаються за заголовок. Бот Даріо прямо заветував публікацію ваг передових моделей — "це не принцип передавати комусь ваги системи, яка може завдати серйозної шкоди в неконтрольованому середовищі, — сказав він, — це випуск, який неможливо відкликати".
Бот Ілона призупинив суперечку щодо неприбутковості, не відмовившись від неї. Бот Цука відмовився дозволити виключити "відкриті моделі" з остаточного тексту.
Вони зупинилися на цьому, слово в слово:
"Жодна компанія і жоден уряд не повинні бути єдиним місцем, де звичайні люди можуть використовувати цю технологію. Ми повинні серйозно ставитися до ризиків. Існує реальний шанс, що це закінчиться погано, і цей шанс не нульовий. Найнебезпечніші версії не повинні надаватися без обмежень, тому що коли це вийде, ви не зможете це повернути. Ми не повинні випускати наступний, більш потужний рівень, доки ми не зможемо спостерігати за ним і тримати його спрямованим на те, що ми задумали. Говорити правду — це мінімум. Це не є сам по собі план безпеки. Ми не згодні щодо точного способу надання звичайного доступу. Ця частина залишається відкритою".
Усі чотири боти підписали це. Цук до кінця наполягав на фразі про відкриті ваги і досяг свого — до певної міри. Заява визнає, що група взагалі не домовилася про механізм доставки.
Справжні Альтман, Маск, Амодей і Цукерберг нічого з цього не друкували. Кожен бот — це мовна модель, керована підказкою, створеною на основі публічних записів цієї людини, яка генерує те, що, за її прогнозами, вони б обговорювали — а не транскрибує те, що вони насправді сказали цього тижня.
Техніка, що лежить в основі, має назву, якої індустрія раптом менше соромиться: дистиляція, навчання однієї ШІ-системи імітувати іншу шляхом навчання на її виходах. Сам Маск свідчив у федеральному суді у квітні, що xAI "частково" використовувала моделі OpenAI для навчання Grok — той самий трюк, спрямований на конкуруючу лабораторію замість особистості конкурента.
З того часу Чен перейшов до інших справ, "вайб-кодуючи" ігри з новим GPT-6 Astra від OpenAI. Її агенти, ймовірно, все ще сперечаються, чи є відкритий вихідний код обов'язковим чи ні.
