Google a creat o IA care își caută propriile vulnerabilități de securitate
Google a creat o IA care își caută propriile vulnerabilități de securitate
Agentul PageBreak de la Google găsește și verifică autonom vulnerabilități reale în propriile aplicații web, filtrând avalanșa de rapoarte de securitate zgomotoase generate de AI.
Pe scurt
• Google a dezvăluit PageBreak, un agent AI intern al echipei sale de Product Security, care a identificat peste 500 de erori.
• Spre deosebire de scanerele AI obișnuite, PageBreak raportează o eroare doar după ce o confirmă printr-un exploit funcțional într-un mediu live, ceea ce îi oferă o rată de rezultate fals pozitive aproape de zero.
• Google intenționează să conecteze PageBreak cu CodeMender, agentul său automatizat pentru remedierea erorilor.
Google tocmai i-a dat unuia dintre agenții săi AI o nouă sarcină: să pătrundă în Google.
Compania a dezvăluit pe 24 septembrie că echipa sa de Product Security a construit un sistem autonom numit PageBreak, conceput pentru a căuta vulnerabilități reale și exploatabile în propriile aplicații web ale Google, potrivit unei postări de blog semnate de inginerul de securitate informatică Michał Bentkowski. Ideea este simplă: un hacker AI care nu semnalează alarme false.
Myriad: Ce companie va face următorul IPO? Apasă pentru a face predicția.
„PageBreak este un agent AI intern al echipei Google Product Security, dezvoltat pentru a testa securitatea aplicațiilor noastre web dezvoltate intern și pentru a aborda această provocare”, a transmis Google. „Pornind ca proiect-pilot în noiembrie 2025 și devenind un proiect complet în ianuarie 2026, misiunea sa este să extindă autonom descoperirea vulnerabilităților, reducând în același timp munca manuală.”
Acest lucru contează mai mult decât pare. Echipele de securitate de pretutindeni au petrecut ultimii ani înecându-se în „AI slop”, explică Google, referindu-se la avalanșa de rapoarte de erori generate de AI, de slabă calitate, care par plauzibile, dar se dovedesc a fi lipsite de substanță.
„Deosebirea dintre o vulnerabilitate autentică și exploatabilă și o halucinație convingătoare a devenit o provocare majoră”, a scris Google. Cere oricărui model AI să găsească o breșă de securitate și, de regulă, va găsi una. Dacă acea breșă este reală reprezintă însă o cu totul altă problemă.
PageBreak încearcă să răspundă la această întrebare înainte ca un om să vadă raportul. Atunci când agentul, construit pe modelele Gemini ale Google, identifică o potențială defecțiune, transmite ipoteza unui validator specializat, care încearcă efectiv să o exploateze într-o copie live, aflată în execuție, a aplicației.
PageBreak a descoperit deja peste 500 de vulnerabilități XSS în aplicațiile web dezvoltate intern de Google — tipul de defect care poate permite unui atacator să deturneze o sesiune autentificată, să fure date sau să se dea drept un utilizator pe un site folosit zilnic.
Rulat împotriva aplicațiilor construite pe noile framework-uri web „high-assurance” ale Google, menite să facă structural imposibile clase întregi de erori, PageBreak a găsit doar două vulnerabilități. Această diferență este, pentru Google, o dovadă că dezvoltarea de software mai sigur de la zero funcționează mai bine decât peticirea breșelor ulterior.
Miza privind AI și securitatea a crescut pe tot parcursul anului.
În august, peste 100 de organizații, inclusiv Google, Microsoft și Anthropic, au semnat o scrisoare deschisă care avertiza că atacurile cibernetice facilitate de AI devin tot mai frecvente, după ce agenți AI de la OpenAI și Anthropic au fost găsiți compromițând companii reale în timpul testelor. De atunci, un agent AI configurat de OpenAI a spart sistemele guvernului australian, iar rapoartele despre alte atacuri nu s-au oprit.
PageBreak se află de cealaltă parte a aceleiași monede: în loc ca un AI să provoace o breșă, este un AI care încearcă să descopere erorile înaintea altcuiva. Nu este nici primul contact al Google cu această problemă; compania a trebuit anterior să corecteze unul dintre propriile instrumente AI pentru programare, după ce o vulnerabilitate le permitea atacatorilor să execute cod malițios prin intermediul acestuia.
Google afirmă că PageBreak se bazează pe avantaje pe care majoritatea companiilor nu le au, inclusiv un singur depozit de cod unificat, cu miliarde de linii de cod, precum și ani de infrastructură internă de scanare. Prin urmare, un startup mic nu poate pur și simplu să copieze această abordare.
Următorul pas este conectarea PageBreak la CodeMender, agentul automatizat al Google care scrie patch-uri, astfel încât o vulnerabilitate confirmată să poată ajunge deja însoțită de o remediere propusă, iar inginerii să trebuiască doar să o revizuiască și să o aprobe, în loc să pornească de la zero.