Experți în securitate din Statele Unite și China au propus reguli care ar interzice inteligenței artificiale să lanseze independent atacuri cibernetice împotriva sistemelor de comandă nucleară sau să decidă utilizarea armelor nucleare.
Un raport recent al Brookings și al Universității Fudan din Shanghai îndeamnă SUA și China să-și extindă angajamentul privind controlul uman al armelor nucleare și la alte utilizări militare ale IA, inclusiv atacurile cibernetice asupra sistemelor de comandă nucleară.
„Președinții Donald Trump și Xi Jinping pot prelua conducerea în gestionarea acestor pericole, convenind că numai oamenii, nu IA, ar trebui să ia decizia de a iniția un atac cibernetic împotriva sistemelor de comandă, control și comunicații nucleare (NC3) sau a infrastructurii critice ale celuilalt,” au scris cercetătorii.
Sistemele NC3 ajută guvernele să detecteze amenințările, să decidă dacă utilizează arme nucleare și să transmită ordine de lansare, dar eșecurile în orice etapă ar putea perturba comunicațiile, interpreta greșit un atac, încuraja o primă lovitură sau declanșa o lansare accidentală sau neautorizată.
„Extinderea principiului aplicat armelor nucleare – conform căruia atacurile cu efecte strategice ar trebui să exprime intenția umană și trebuie să fie supuse responsabilității umane – nu impune Washingtonului și Beijingului să împărtășească alte principii de securitate cibernetică sau de protecție a infrastructurii,” au scris cercetătorii.
Acordul propus ar impune ambelor țări să reducă riscul ca întâmplarea, eroarea umană, IA imprevizibilă sau actorii neautorizați să poată declanșa atacuri cu consecințe strategice.
Apelul pentru măsuri de siguranță de tip nuclear face parte dintr-o dezbatere tot mai amplă despre cum să se încetinească dezvoltarea IA și să se mențină sistemele din ce în ce mai capabile sub control uman. Îngrijorarea este deosebit de acută în domeniul militar, unde deciziile automate luate în milisecunde ar putea transforma o avertizare falsă sau un atac cibernetic într-o criză nucleară.
Această preocupare a fost subliniată în februarie, când modele de la OpenAI, Google și Anthropic au utilizat arme nucleare în 95% din scenariile de război testate, deși experții au avertizat că simularea ar fi putut încuraja escaladarea.
În aceeași lună, Anthropic a refuzat cererile Pentagonului de a elimina restricțiile lui Claude privind supravegherea în masă și armele complet autonome. Trump a ordonat agențiilor federale să înceteze utilizarea tehnologiei companiei, dar un judecător federal a decis pe 28 august că administrația a ripostat ilegal împotriva Anthropic.
Apelurile la reținere s-au răspândit de atunci în întreaga industrie. La începutul acestei luni, CEO-ul Anthropic, Dario Amodei, a îndemnat dezvoltatorii să încetinească creșterea capacităților, obținând sprijinul CEO-ului OpenAI, Sam Altman, și al proprietarului xAI, Elon Musk, în timp ce OpenAI a întrebat Congresul dacă companiile ar putea coordona o încetinire fără a încălca legea antitrust.
Fără o încetinire obligatorie în vigoare, autorii Brookings propun o regulă mai restrânsă: Numai oamenilor ar trebui să li se permită să autorizeze atacuri asupra sistemelor de comandă nucleară sau utilizarea armelor nucleare.
„Guvernanța IA militare nu este o negociere care își poate permite să aștepte – este o cursă contra cronometrului,” au scris aceștia.
BTC