Om de toename van seksuele uitbuiting van kinderen mogelijk gemaakt door AI aan te pakken, heeft OpenAI woensdag een beleidsplan gepubliceerd waarin nieuwe veiligheidsmaatregelen worden uiteengezet die de industrie kan nemen om het gebruik van AI bij het creëren van kinderporno te helpen beteugelen.

In het raamwerk somt OpenAI juridische, operationele en technische maatregelen op die gericht zijn op het versterken van de bescherming tegen misbruik mogelijk gemaakt door AI en het verbeteren van de coördinatie tussen technologiebedrijven en onderzoekers.

“Seksuele uitbuiting van kinderen is een van de meest urgente uitdagingen van het digitale tijdperk,” schreef het bedrijf. “AI verandert snel zowel de manier waarop deze vormen van schade in de hele industrie ontstaan, als hoe ze op grote schaal kunnen worden aangepakt.”

OpenAI zei dat het voorstel feedback bevat van organisaties die zich bezighouden met kinderbescherming en online veiligheid, waaronder het National Center for Missing and Exploited Children en de Attorney General Alliance en haar AI-taskforce.

“Generatieve AI versnelt de misdaad van online seksuele uitbuiting van kinderen op zeer verontrustende manieren – door drempels te verlagen, de schaal te vergroten en nieuwe vormen van schade mogelijk te maken,” zei Michelle DeLaune, President & CEO van het National Center for Missing & Exploited Children, in een verklaring. “Maar tegelijkertijd is het National Center for Missing & Exploited Children bemoedigd om te zien dat bedrijven zoals OpenAI nadenken over hoe deze tools op een verantwoordelijkere manier kunnen worden ontworpen, met ingebouwde veiligheidsmaatregelen vanaf het begin.”

OpenAI zei dat het raamwerk juridische standaarden, industriële meldingssystemen en technische veiligheidsmechanismen binnen AI-modellen combineert. Het bedrijf stelde dat deze maatregelen erop gericht zijn om exploitatie-risico's eerder te identificeren en de verantwoordelijkheid op online platforms te verbeteren.

Het plan identificeert actiegebieden, waaronder het actualiseren van wetten om AI-gegenereerd of gewijzigd kinderporno aan te pakken, het verbeteren van de manier waarop online aanbieders misbruiksignalen melden en coördineren met onderzoekers, en het inbouwen van veiligheidsmechanismen in AI-systemen die zijn ontworpen om misbruik te voorkomen.

“Geen enkele interventie kan deze uitdaging alleen aanpakken,” schreef het bedrijf. “Dit raamwerk bundelt juridische, operationele en technische benaderingen om risico's beter te identificeren, reacties te versnellen en verantwoording te ondersteunen, terwijl wordt gewaarborgd dat handhavingsautoriteiten sterk blijven naarmate de technologie evolueert.”

Het plan komt op een moment dat belangenbehartigers voor kinderbeveiliging hun zorgen hebben geuit dat generatieve AI-systemen die realistische beelden kunnen produceren, gebruikt zouden kunnen worden om gemanipuleerde of synthetische afbeeldingen van minderjarigen te creëren. In februari riep UNICEF wereldwijde regeringen op om wetten aan te nemen die AI-gegenereerd kinderporno strafbaar stellen.

In januari startte de Europese Commissie een formeel onderzoek naar de vraag of X, voorheen bekend als Twitter, de digitale regels van de EU heeft overtreden door het native AI-model van het platform, Grok, niet te beletten illegale inhoud te genereren, terwijl toezichthouders in het Verenigd Koninkrijk en Australië ook onderzoeken hebben geopend.

OpenAI merkte op dat wetten alleen de plaag van door AI gegenereerd misbruikmateriaal niet zullen stoppen en stelde dat strengere industrienormen noodzakelijk zullen zijn naarmate AI-systemen capabeler worden.

“Door exploitatiepogingen eerder te onderbreken, de kwaliteit van signalen die naar wetshandhavers worden gestuurd te verbeteren en de verantwoording binnen het ecosysteem te versterken, streeft dit raamwerk ernaar schade te voorkomen voordat deze zich voordoet en te helpen zorgen voor snellere bescherming van kinderen wanneer risico's ontstaan,” aldus OpenAI.