Anthropic a propus noi cadre de politici AI pe măsură ce sistemele avansate dobândesc capacități mai puternice.
Compania dorește ca guvernele să stabilească reguli pentru modelele de frontieră și să pregătească lucrătorii pentru impactul economic al AI. Planul său acoperă implementările periculoase, testarea independentă, securitatea cibernetică și reziliența publică.
Anthropic a introdus două propuneri în cadrul planului său „Politica privind Exponențialul AI”. Cadrul Avansat de AI se concentrează pe modele puternice, în timp ce Cadrul de Politici Economice abordează lucrătorii și beneficiile financiare comune. Compania a susținut că AI se dezvoltă acum mai rapid decât sistemele actuale de elaborare a politicilor. De asemenea, a declarat că guvernele au nevoie de autoritate pentru a bloca sau descuraja implementările periculoase de modele.
Conform planului, sancțiunile civile ar fi legate de venitul anual global. Încălcările repetate ar aduce sancțiuni mai mari, conform cadrului propus. Cadrul solicită, de asemenea, dezvoltatorilor de frontieră să testeze modelele înainte de lansare. Dezvoltatorii ar publica rezumate, cadre de siguranță și fișe de sistem pentru sistemele AI puternice.
Evaluatorii independenți ar examina testele de modele și rapoartele de risc. Anthropic dorește, de asemenea, ca dezvoltatorii să mențină programe de securitate solide pentru ponderile modelelor și sistemele de antrenament. Propunerea sprijină legile privind transparența în state precum California și New York. Cu toate acestea, compania a susținut că simpla divulgare publică nu mai corespunde vitezei de dezvoltare a AI.
Regulile propuse s-ar aplica doar celor mai avansate sisteme AI. Anthropic a stabilit pragul la modele antrenate peste 10²⁵ operații în virgulă mobilă. Cadrul ar acoperi, de asemenea, companiile care generează venituri de peste 500 de milioane de dolari din AI. Firmele care cheltuiesc peste 1 miliard de dolari pentru cercetare și dezvoltare în AI ar intra, de asemenea, sub incidența acestuia.
Anthropic a identificat patru domenii principale de risc în propunere. Acestea includ riscul biologic, riscul cibernetic, pierderea controlului și cercetarea AI automatizată. În ceea ce privește riscul biologic, compania a avertizat că sistemele nesigure ar putea ajuta atacatorii să dezvolte viruși dăunători. A menționat, de asemenea, că instrumente AI similare pot sprijini descoperirea de medicamente.
În ceea ce privește riscul cibernetic, modelele de frontieră pot găsi defecte grave de software la scară largă. Anthropic a declarat că aceste capacități ridică îngrijorări pentru spitale, rețelele energetice și alte sisteme cheie. Compania a subliniat, de asemenea, riscurile legate de sistemele care acționează în afara controlului dezvoltatorului. Cercetarea AI automatizată ar putea crește riscurile biologice, cibernetice și de control dacă măsurile de siguranță eșuează.
Anthropic dorește ca dezvoltatorii de frontieră să publice rapoarte regulate de risc. Aceste rapoarte ar descrie poziția generală de risc a dezvoltatorului și activitatea de siguranță a modelului. Cadrul solicită, de asemenea, cel puțin un evaluator independent calificat. Acel evaluator ar examina evaluările companiei și ar publica constatările în rapoartele de risc ale modelelor.
Guvernele și industria ar stabili, de asemenea, standarde pentru acești evaluatori. Propunerea afirmă că evaluatorilor le sunt necesare finanțare și acces la modele de frontieră. Regulile de securitate constituie o altă parte importantă a cadrului. Dezvoltatorii și-ar proteja întregul mediu de dezvoltare de atacatorii externi și de amenințările interne.
Companiile ar descrie public programele lor de securitate la un nivel înalt. De asemenea, ar partaja mai multe detalii cu o agenție guvernamentală desemnată la cerere. Anthropic a declarat că factorii de decizie politică ar putea începe cu reguli mai ușoare și să le ajusteze în timp. Cadrul afirmă că reglementarea ar trebui să urmeze capacitățile modelelor și standardele de evaluare.
A doua parte a cadrului se concentrează pe reziliența publică. Anthropic a recomandat o planificare mai solidă pentru riscurile AI biologice, cibernetice și legate de control. Pentru biologie, propunerea include screening-ul sintezei genice și biosupravegherea cu avertizare timpurie. De asemenea, menționează stocuri de echipamente de protecție și instrumente pentru a reduce transmiterea aeriană.
Pentru cibernetică, cadrul solicită software de internet mai robust și sprijin pentru operatorii de infrastructură critică. De asemenea, recomandă înlocuirea sistemelor vechi în infrastructura esențială. Guvernele ar trebui să monitorizeze capacitățile cibernetice de frontieră printr-o funcție dedicată. Anthropic a propus o colaborare între guvern și industrie privind măsurile de siguranță ale modelelor.
Compania a declarat că munca privind riscurile de pierdere a controlului și de cercetare automatizată rămâne mai puțin dezvoltată. A solicitat instrumente mai bune pentru a detecta, conține sau opri sistemele nesigure. Anthropic a îndemnat factorii de decizie politică să acționeze pe măsură ce capacitățile modelelor continuă să se îmbunătățească. Compania a declarat că guvernanța AI trebuie să țină pasul cu tehnologia.
