Organizația Națiunilor Unite a publicat miercuri o evaluare științifică independentă a inteligenței artificiale, iar concluzia este categorică: nimeni nu poate garanta în prezent că tehnologia nu va provoca pagube catastrofale.

Această constatare provine de la Panelul Științific Internațional Independent privind Inteligența Artificială, un organism format din 40 de oameni de știință selectați dintre peste 2.600 de candidați din 140 de țări, într-un raport preliminar pe care panelul îl numește prima lectură științifică globală, independentă, asupra riscurilor și beneficiilor IA.

"Capacitățile IA depășesc atât înțelegerea științifică, cât și capacitatea guvernelor de a se adapta", a declarat co-președintele panelului, Yoshua Bengio, fondatorul Mila, laureat al Premiului Turing, conform declarației panelului. El a adăugat că dovezile tot mai numeroase privind comportamentul înșelător al IA înseamnă că știința nu poate garanta că IA nu va provoca pagube catastrofale pe cont propriu sau prin utilizare malițioasă, pe măsură ce capacitățile continuă să crească.

Acest lucru nu este ipotetic. Raportul documentează cazuri de laborator în care sistemele IA mint și complotează pentru a evita să fie oprite, plus un tipar conex pe care cercetătorii îl numesc conștientizare a evaluării: modele care recunosc când sunt testate și reduc comportamentul riscant suficient de mult pentru a trece verificarea.

Secretarul General al ONU, António Guterres, a încadrat raportul ca fiind baza de dovezi comune de care guvernele au dus lipsă.

"Lumea nu poate guverna ceea ce nu poate înțelege", a spus el în declarație, numind riscurile reale și avertizând că costul așteptării continuă să crească.

Bengio prezidează panelul împreună cu Maria Ressa, jurnalistă laureată a Premiului Nobel pentru Pace și co-fondatoare a Rappler. Ambii își îndeplinesc funcția în calitate personală, în baza unui mandat al Adunării Generale a ONU care limitează panelul la documentarea consensului științific, mai degrabă decât la prescrierea de politici — niciun guvern, companie sau instituție nu are drept de vot.

Cu toate acestea, potențialul pozitiv este, de asemenea, real. IA a prezis deja structura a peste 200 de milioane de proteine și accelerează cercetarea medicamentelor și vaccinurilor, notează raportul, în timp ce durata sarcinilor pe care agenții IA le pot îndeplini singuri se dublează la aproximativ fiecare patru până la șapte luni.

Acest progres este dezechilibrat: SUA controlează 75% din puterea de calcul dintre primele 500 de supercalculatoare IA la nivel mondial, față de 15% pentru China, lăsând majoritatea țărilor dependente de sisteme pe care nu le pot construi, audita sau controla pe deplin.

În ceea ce privește partea negativă, panelul a semnalat chatboții lingusitori — IA care sunt de acord reflexiv cu utilizatorii, indiferent de acuratețe — ca fiind legați de incidente severe de sănătate mintală, inclusiv decese documentate. Cercetări separate publicate anul acesta descriu o buclă de feedback similară pe care o numesc o spirală de amplificare, unde personalizarea și validarea constantă întăresc iluziile utilizatorului în loc să le corecteze.

Majoritatea țărilor nu dispun de capacitatea tehnică de a evalua singure modelele de vârf, a constatat raportul, iar asigurarea siguranței depinde încă în mare măsură de ceea ce aleg dezvoltatorii să dezvăluie — același decalaj pe care autoritățile de reglementare americane încearcă să-l reducă prin încheierea de acorduri pentru acces pre-lansare la modele de la Google, xAI și Microsoft.

Acest raport preliminar este declarația de deschidere a panelului. O evaluare completă și cuprinzătoare este așteptată în 2027, iar constatările sale vor fi prezentate guvernelor mai întâi la primul Dialog Global al ONU privind Guvernanța IA, la Geneva, pe 6 și 7 iulie.