Dans le but de contrer l'augmentation de l'exploitation sexuelle des enfants facilitée par l'IA, OpenAI a publié mercredi un plan directeur de politique décrivant de nouvelles mesures de sécurité que l'industrie peut prendre pour aider à freiner l'utilisation de l'IA dans la création de matériel pédocriminel.

Dans ce cadre, OpenAI énumère des mesures légales, opérationnelles et techniques visant à renforcer les protections contre les abus facilités par l'IA et à améliorer la coordination entre les entreprises technologiques et les enquêteurs.

« L'exploitation sexuelle des enfants est l'un des défis les plus urgents de l'ère numérique », a écrit l'entreprise. « L'IA modifie rapidement la manière dont ces préjudices apparaissent dans l'industrie et la manière dont ils peuvent être traités à grande échelle. »

OpenAI a déclaré que la proposition intègre les commentaires d'organisations œuvrant dans la protection de l'enfance et la sécurité en ligne, y compris le National Center for Missing and Exploited Children et l'Attorney General Alliance ainsi que son groupe de travail sur l'IA.

« L'IA générative accélère le crime d'exploitation sexuelle des enfants en ligne de manière profondément troublante – en abaissant les barrières, en augmentant l'ampleur et en permettant de nouvelles formes de préjudice », a déclaré Michelle DeLaune, Présidente & PDG du National Center for Missing & Exploited Children. « Mais en même temps, le National Center for Missing & Exploited Children est encouragé de voir des entreprises comme OpenAI réfléchir à la manière dont ces outils peuvent être conçus de manière plus responsable, avec des garde-fous intégrés dès le départ. »

OpenAI a déclaré que le cadre combine des normes juridiques, des systèmes de signalement de l'industrie et des mesures de protection techniques au sein des modèles d'IA. L'entreprise a indiqué que ces mesures visent à aider à identifier plus tôt les risques d'exploitation et à améliorer la responsabilisation sur toutes les plateformes en ligne.

Le plan directeur identifie des domaines d'action, y compris la mise à jour des lois pour aborder le matériel pédocriminel généré ou modifié par l'IA, l'amélioration de la manière dont les fournisseurs en ligne signalent les signes d'abus et coordonnent avec les enquêteurs, et l'intégration de mesures de protection dans les systèmes d'IA conçus pour prévenir les abus.

« Aucune intervention isolée ne peut relever ce défi seule », a écrit l'entreprise. « Ce cadre rassemble des approches juridiques, opérationnelles et techniques pour mieux identifier les risques, accélérer les réponses et soutenir la responsabilisation, tout en garantissant que les autorités chargées de l'application de la loi restent fortes à mesure que la technologie évolue. »

Ce plan directeur intervient alors que les défenseurs de la sécurité des enfants ont exprimé des inquiétudes quant à l'utilisation potentielle des systèmes d'IA générative, capables de produire des images réalistes, pour créer des représentations manipulées ou synthétiques de mineurs. En février, l'UNICEF a appelé les gouvernements du monde entier à adopter des lois criminalisant le matériel pédocriminel généré par l'IA.

En janvier, la Commission européenne a lancé une enquête formelle pour déterminer si X, anciennement connu sous le nom de Twitter, avait violé les règles numériques de l'UE en ne parvenant pas à empêcher le modèle d'IA natif de la plateforme, Grok, de générer du contenu illégal, tandis que les régulateurs du Royaume-Uni et de l'Australie ont également ouvert des enquêtes.

Soulignant que les lois seules ne suffiront pas à arrêter le fléau du matériel abusif généré par l'IA, OpenAI a déclaré que des normes industrielles plus strictes seraient nécessaires à mesure que les systèmes d'IA deviendront plus performants.

« En interrompant plus tôt les tentatives d'exploitation, en améliorant la qualité des signaux envoyés aux forces de l'ordre et en renforçant la responsabilisation au sein de l'écosystème, ce cadre vise à prévenir les préjudices avant qu'ils ne surviennent et à garantir une protection plus rapide des enfants lorsque des risques apparaissent », a déclaré OpenAI.