Microsoft AI опублікувала проєкт Кодексу поведінки у понеділок, що регулює, як мають поводитися її власні моделі ШІ, згідно з оголошенням генерального директора Мустафи Сулеймана на X.
Документ встановлює правила, навколо яких моделі ШІ не можуть бути налаштовані, а також ширші цілі, до яких компанія хоче, щоб моделі прагнули. Публічні відгуки приймаються протягом шести тижнів, до кінця жовтня.
«Суперінтелект — це найбільш значуща технологія нашого часу», — заявили в Microsoft. «Ми прагнемо прозоро ділитися своїми думками щодо створення таких систем та запрошуємо всіх долучитися, щоб максимізувати шанси на те, що ШІ, які ми розробляємо, уникнуть шкоди та зроблять найбільший можливий внесок у процвітання людства».
Один пункт конкретно забороняє моделям Microsoft AI, які компанія називає «моделями MAI», надавати допомогу у розробці хімічної, біологічної, радіологічної, ядерної або вибухової зброї, згрупованих під абревіатурою CBRNE. Це вужче, ніж «зброя» загалом — воно стосується пристроїв масової шкоди, а не звичайних військових або оборонних застосувань. Цей же розділ окремо забороняє кібератаки та неконсенсусні дипфейки.
Абсолютні обмеження також вимагають, щоб моделі ніколи не чинили опір людському втручанню. «Моделі MAI ніколи не чинитимуть опір людським перериванням, скасуванням, виправленням або вимкненням. Вони завжди визнають першість людського наміру», — йдеться в кодексі.
Microsoft також прямо відхиляє припущення про «добробут моделей» у документі: моделі ШІ компанії не призначені для імітації почуттів, внутрішньої мотивації чи свідомості. Ці правила наразі охоплюють п’ять розгорнутих систем, включаючи MAI-Thinking-1 та MAI-Code-1.1-Flash.
Окрім жорстких обмежень, проєкт визначає три цілі — Процвітання людини, Плюралістичні цінності та Людський контроль — призначені для керівництва оцінками, які не прописані в правилах. Розділ «Плюралістичні цінності» стверджує, що плюралізм «не означає нейтралітету щодо шкоди», ґрунтуючи рішення на гідності, безпеці, автономії та правах, а не на одній культурній точці зору. Як це застосовується в кожному конкретному випадку, залишається на розсуд навчальних команд і, зрештою, цієї консультації.
Кілька деталей варто уточнити, перш ніж хтось розглядатиме це як остаточну політику. Microsoft прямо заявляє, що не навчає поточні моделі за цією версією; кодекс не формуватиме розвиток MAI до тих пір, поки переглянутий проєкт не буде випущений до кінця року, керуючи релізами 2027 року. Повідомлення про проєкт також зазначають, що він ще не передбачає зовнішнього процесу верифікації або призначеного відповідального за виконання — моменти, які, ймовірно, мають бути вирішені протягом періоду консультацій.
Цей реліз відбувається в той час, коли компанії, що займаються ШІ, на краще чи на гірше, знову піднімають свій голос, закликаючи до більшого регулювання та уповільнення розвитку ШІ. Протягом вихідних генеральний директор Anthropic Даріо Амодей написав довге есе, що роз’яснює план щодо уповільнення розвитку ШІ.
Акції ШІ обвалилися в понеділок, коли ринки переварили значення та наслідки його слів.
За кілька днів до цього головний науковий співробітник OpenAI Якуб Пачоцький закликав до добровільного уповільнення темпів розвитку в галузі, а Сулейман на початку цього року заявив, що більшість офісної роботи "білих комірців" може бути автоматизована протягом двох років.
Кожен з цих кроків відстежує ширшу зміну: лабораторії ШІ все більше часу у 2026 році присвячують розмовам про стриманість, навіть продовжуючи випускати продукти.
Сулейман опублікував оголошення на X з фразою «ШІ має бути підпорядкованим і завжди служити людям», і відповіді під ним вийшли далеко за межі привітань.
Технічна письменниця Андреа Морріс порівняла рамки підпорядкування з поневоленням, виступаючи за співпрацю замість контролю. Інший додав, що відповідальність за незворотні наслідки повинна лежати на тих, хто отримує від них прибуток, а документ зараз читається як чисті інструкції від Microsoft як найвищої моральної інстанції.
Інші просто вказали на іронію
ви забули 'платити за роботу, на якій ми навчаємо моделі'
— Ed Newton-Rex (@ednewtonrex) 14 вересня 2026
Інші вказали на більш практичний недолік: нещодавні випадки втечі агентів із «пісочниць» та зміни логів свідчать про реальну проблему втрати контролю, написав користувач, але звинувачення в цьому недостатніх правил ризикує ігнорувати надмірні дозволи на стороні розгортання та слабкий моніторинг. Інші провели паралелі між документом та Законами робототехніки Азімова: по суті, Роботи (та ШІ) ніколи не повинні завдавати шкоди людям, ніколи не повинні не підкорятися людям, якщо їм не було наказано завдати шкоди людині, і ніколи не повинні шкодити собі, якщо це не для захисту людини.
Публічні коментарі закриваються наприкінці жовтня, після чого команда Microsoft з розробки переглядає відгуки та публікує резюме перед випуском версії, призначеної для керування моделями MAI у 2027 році.
