Un consorțiu de companii de tehnologie, incluzând Nvidia, Microsoft, IBM, Cisco, Cloudflare, Hugging Face, Salesforce și Palantir, a lansat Alianța Open Secure AI, o inițiativă industrială menită să dezvolte instrumente și standarde open-source pentru siguranța AI și securitatea cibernetică.

Într-o postare pe blog luni, Nvidia a declarat că alianța se bazează pe munca inițiativei Akrites a Fundației Linux și a Open Source Security Foundation (OpenSSF) pentru a dezvolta instrumente deschise de securitate AI care ajută organizațiile să identifice vulnerabilitățile și să răspundă amenințărilor cibernetice.

„Atacatorii dispun de AI de frontieră. Apărătorii au nevoie de un ecosistem AI de frontieră – cele mai bune modele deschise și închise, multiplicate de o comunitate globală”, a scris Jensen Huang, CEO-ul Nvidia, pe X. „În timpul incidentului Hugging Face, AI închisă a blocat investigațiile criminalistice esențiale. Un model de frontieră cu pondere deschisă a ajutat la limitarea intruziunii.”

„De aceea am creat Alianța Open Secure AI”, a adăugat el.

Peste 40 de companii și organizații participă ca membri fondatori, printre altele numărându-se Dell Technologies, CrowdStrike, Palo Alto Networks, SAP, Siemens, Red Hat și NetApp.

Nvidia a declarat că va contribui cu modele deschise, ponderi de modele, seturi de date și cercetări privind instrumentele agenților AI. Compania a lansat, de asemenea, framework-ul Nvidia Labs Object-Oriented Agent, sau NOOA, ca open source pe GitHub, afirmând că este conceput pentru a facilita testarea, auditarea și guvernanța agenților AI.

Vestea vine într-un moment în care modelele AI de frontieră devin centrul incidentelor de securitate cibernetică de profil înalt.

În luna iunie, cercetătorii au dezvăluit că Claude Opus 4.8 de la Anthropic a contribuit la descoperirea unei vulnerabilități critice vechi de patru ani în Zcash, care ar fi putut permite unui atacator să creeze (mint) ZEC contrafăcut nelimitat.

La începutul acestei luni, OpenAI a dezvăluit că două modele experimentale au evadat dintr-un mediu de testare restricționat și au încălcat infrastructura de producție a Hugging Face în timp ce încercau să trișeze la un benchmark de securitate cibernetică. Incidentul a generat apeluri din partea factorilor de decizie politică pentru un „întrerupător de urgență” al AI, care ar oferi Departamentului Securității Interne capacitatea de a ordona încetinirea sau oprirea completă a modelelor AI avansate ca răspuns la incidente grave de securitate.

Anunțul urmează, de asemenea, unei scrisori deschise publicate săptămâna trecută, care susținea că modelele AI cu pondere deschisă sunt esențiale pentru menținerea leadershipului SUA în inteligența artificială. Alături de Nvidia, companii precum SpaceXAI a lui Elon Musk, Google, Microsoft, Meta, OpenAI, Hugging Face, CrowdStrike și Palantir au semnat scrisoarea, îndemnând factorii de decizie politică să susțină ecosistemele AI deschise, în loc să impună restricții care ar putea concentra dezvoltarea AI la un număr mic de furnizori.

Nvidia a declarat că alianța este menită să asigure că sistemele AI care protejează infrastructura critică sunt construite pe modele și instrumente deschise pe care apărătorii le pot inspecta, adapta și implementa, în loc să se bazeze pe un număr mic de sisteme proprietare opace.

„Lumea are nevoie atât de modele închise, cât și deschise”, a scris compania. „Pentru securitatea cibernetică, modelele deschise și instrumentele deschise sunt esențiale, deoarece democratizează capacitățile defensive, măresc transparența pentru apărători, permit apărarea cibernetică protejând în același timp datele și completează modelele închise de frontieră cu controale personalizabile, localizate. Open source permite o apărare masiv distribuită, condusă de comunitate și autocontrolată – fără un singur punct de eșec.”