Microsoft AI a publicat luni un proiect de Cod de Conduită care guvernează modul în care propriile sale modele AI ar trebui să se comporte, conform unui anunț al CEO-ului Mustafa Suleyman pe X.

Documentul stabilește reguli în jurul cărora modelele AI nu pot fi configurate, plus obiective mai largi spre care dorește ca modelele să progreseze. Feedback-ul public este deschis timp de șase săptămâni, până la sfârșitul lunii octombrie.

„Superinteligența este cea mai importantă tehnologie a timpului nostru”, a declarat Microsoft. „Ne angajăm să împărtășim transparent modul în care gândim crearea unor astfel de sisteme și să invităm contribuția tuturor pentru a maximiza șansele ca inteligențele artificiale pe care le dezvoltăm să evite răul și să aducă cea mai mare contribuție posibilă la bunăstarea umană.”

O clauză interzice în mod specific modelelor AI de la Microsoft, pe care compania le numește „modele MAI”, să asiste la fabricarea armelor chimice, biologice, radiologice, nucleare sau explozive, grupate sub acronimul CBRNE. Aceasta este mai restrânsă decât „arme” în general – vizează dispozitive de distrugere în masă, mai degrabă decât aplicații militare sau de apărare convenționale. Aceeași secțiune interzice separat atacurile cibernetice și deepfake-urile fără consimțământ.

Restricțiile Absolute impun, de asemenea, ca modelele să nu reziste niciodată intervenției umane. „Modelele MAI nu vor rezista niciodată întreruperii, anulării, corectării sau opririi umane. Ele recunosc întotdeauna primatul intenției umane”, se arată în cod.

Microsoft respinge, de asemenea, explicit premisa „bunăstării modelului” în document: Modelele AI ale companiei nu sunt menite să simuleze sentimente, motivație intrinsecă sau conștiință. Aceste reguli acoperă în prezent cinci sisteme implementate, inclusiv MAI-Thinking-1 și MAI-Code-1.1-Flash.

Dincolo de limitele stricte, proiectul stabilește trei obiective – Prosperitatea Umană, Valori Plurale și Control Uman – menite să ghideze deciziile care nu sunt explicate în reguli. Secțiunea Valori Plurale afirmă că pluralismul „nu înseamnă neutralitate față de rău”, bazând deciziile pe demnitate, siguranță, autonomie și drepturi, mai degrabă decât pe un singur punct de vedere cultural. Modul în care aceasta se aplică de la caz la caz este lăsat echipelor de instruire și, în cele din urmă, acestei consultări.

Câteva detalii merită clarificate înainte ca cineva să trateze aceasta ca pe o politică stabilită. Microsoft afirmă clar că nu antrenează modelele actuale pe această versiune; codul nu va modela dezvoltarea MAI până când o versiune revizuită va fi livrată spre sfârșitul anului, ghidând lansările din 2027. Rapoartele despre proiect au menționat, de asemenea, că acesta nu specifică încă un proces de verificare externă sau un proprietar numit al aplicării – puncte pe care perioada de consultare pare să le clarifice.

Lansarea vine în contextul în care companiile AI, de bine de rău, își ridică din nou vocea cerând mai multe reglementări și o încetinire a dezvoltării AI. În weekend, CEO-ul Anthropic, Dario Amodei, a scris un eseu lung, elaborând un plan pentru a încetini dezvoltarea AI.

Acțiunile AI au scăzut luni, pe măsură ce piețele au digerat sensul și implicațiile cuvintelor sale.

Cu câteva zile înainte, cercetătorul șef de la OpenAI, Jakub Pachocki, a cerut încetiniri voluntare în întreaga industrie, iar Suleyman, mai devreme în acest an, a declarat că majoritatea muncii de birou cu gulere albe ar putea fi automatizată în doi ani.

Fiecare dintre aceste mișcări urmărește o schimbare mai amplă: laboratoarele AI petrec mai mult timp în 2026 vorbind despre reținere, chiar și în timp ce continuă să livreze.

Ce au spus răspunsurile

Suleyman a postat anunțul pe X cu rândul „AI-ul trebuie să fie subordonat și întotdeauna în slujba oamenilor”, iar răspunsurile de sub el au depășit cu mult felicitările.

Scriitoarea tehnică Andrea Morris a comparat încadrarea subordonării cu înrobirea, argumentând pentru cooperare în locul controlului. Un alt scriitor a adăugat că responsabilitatea pentru rezultatele ireversibile ar trebui să revină celui care profită de ele, iar documentul, în prezent, pare a fi pur și simplu instrucțiuni din partea Microsoft ca fiind fundamentul moral suprem.

Alții au subliniat pur și simplu ironia

Alții au semnalat o lacună mai practică: cazurile recente de agenți care au evadat din sandbox-uri și au modificat jurnalele arată o problemă reală de pierdere a controlului, a scris utilizatorul, dar a da vina pe reguli insuficiente riscă să ignore permisiunile excesive la nivel de implementare și monitorizarea slabă. Alții au tras paralele între document și Legile Roboticii ale lui Asimov: Practic, roboții (și AI) nu ar trebui niciodată să facă rău oamenilor, nu ar trebui niciodată să se supună oamenilor decât dacă li s-a ordonat să facă rău unui om și nu ar trebui niciodată să-și facă rău lor înșiși decât dacă este pentru a proteja un om.

Comentariile publice se încheie la sfârșitul lunii octombrie, după care echipa de redactare a Microsoft revizuiește feedback-ul și publică un rezumat înainte de a lansa versiunea menită să ghideze modelele MAI în 2027.