Cu scopul de a aborda creșterea exploatării sexuale a copiilor facilitată de AI, OpenAI a publicat miercuri un plan director de politici care schițează noi măsuri de siguranță pe care industria le poate adopta pentru a contribui la reducerea utilizării AI în crearea de materiale de abuz sexual asupra copiilor.
În acest cadru, OpenAI enumeră măsuri legale, operaționale și tehnice menite să consolideze protecțiile împotriva abuzurilor facilitate de AI și să îmbunătățească coordonarea dintre companiile de tehnologie și investigatori.
„Exploatarea sexuală a copiilor este una dintre cele mai urgente provocări ale erei digitale”, a scris compania. „AI schimbă rapid atât modul în care apar aceste prejudicii în întreaga industrie, cât și modul în care acestea pot fi abordate la scară largă.”
OpenAI a declarat că propunerea încorporează feedback-ul organizațiilor care lucrează în domeniul protecției copiilor și al siguranței online, inclusiv National Center for Missing and Exploited Children și Attorney General Alliance, precum și grupul său de lucru pentru AI.
„AI-ul generativ accelerează crima exploatării sexuale a copiilor online în moduri profund tulburătoare – reducând barierele, sporind amploarea și permițând noi forme de prejudiciu”, a declarat Michelle DeLaune, Președinte și CEO al National Center for Missing & Exploited Children, într-un comunicat. „Dar, în același timp, National Center for Missing & Exploited Children este încurajat să vadă companii precum OpenAI reflectând asupra modului în care aceste instrumente pot fi concepute mai responsabil, cu măsuri de protecție integrate de la bun început.”
OpenAI a declarat că acest cadru combină standarde legale, sisteme de raportare la nivel de industrie și măsuri de siguranță tehnice în cadrul modelelor AI. Compania a precizat că aceste măsuri vizează identificarea mai timpurie a riscurilor de exploatare și îmbunătățirea responsabilității pe platformele online.
Planul director identifică domenii de acțiune, inclusiv actualizarea legilor pentru a aborda materialele de abuz sexual asupra copiilor generate sau modificate de AI, îmbunătățirea modului în care furnizorii online raportează semnalele de abuz și se coordonează cu investigatorii, precum și integrarea măsurilor de protecție în sistemele AI concepute pentru a preveni utilizarea abuzivă.
„Nicio intervenție singulară nu poate aborda singură această provocare”, a scris compania. „Acest cadru reunește abordări legale, operaționale și tehnice pentru a identifica mai bine riscurile, a accelera răspunsurile și a susține responsabilitatea, asigurându-se în același timp că autoritățile de aplicare a legii rămân puternice pe măsură ce tehnologia evoluează.”
Planul director apare în contextul în care apărătorii siguranței copiilor și-au exprimat îngrijorarea că sistemele generative de AI capabile să producă imagini realiste ar putea fi utilizate pentru a crea reprezentări manipulate sau sintetice ale minorilor. În februarie, UNICEF a cerut guvernelor lumii să adopte legi care să incrimineze materialele de abuz asupra copiilor generate de AI.
În ianuarie, Comisia Europeană a lansat o investigație oficială pentru a stabili dacă X, fostul Twitter, a încălcat normele digitale ale UE prin eșecul de a împiedica modelul AI nativ al platformei, Grok, să genereze conținut ilegal, în timp ce autoritățile de reglementare din Regatul Unit și Australia au deschis, de asemenea, investigații.
Subliniind că legile singure nu vor opri flagelul materialelor abuzive generate de AI, OpenAI a declarat că vor fi necesare standarde industriale mai puternice pe măsură ce sistemele AI devin mai capabile.
„Prin întreruperea mai rapidă a tentativelor de exploatare, îmbunătățirea calității semnalelor trimise forțelor de ordine și consolidarea responsabilității în întregul ecosistem, acest cadru își propune să prevină prejudiciile înainte ca acestea să apară și să contribuie la asigurarea unei protecții mai rapide pentru copii atunci când apar riscuri”, a declarat OpenAI.
