Um der Zunahme von KI-gestützter sexueller Ausbeutung von Kindern entgegenzuwirken, veröffentlichte OpenAI am Mittwoch einen politischen Entwurf, der neue Sicherheitsmaßnahmen aufzeigt, die die Branche ergreifen kann, um den Einsatz von KI bei der Erstellung von Material zum sexuellen Missbrauch von Kindern einzudämmen.
In diesem Rahmen listet OpenAI rechtliche, operative und technische Maßnahmen auf, die darauf abzielen, den Schutz vor KI-gestütztem Missbrauch zu stärken und die Koordination zwischen Technologieunternehmen und Ermittlern zu verbessern.
„Sexuelle Ausbeutung von Kindern ist eine der drängendsten Herausforderungen des digitalen Zeitalters“, schrieb das Unternehmen. „KI verändert rasant, wie diese Schäden in der gesamten Branche entstehen und wie sie in großem Maßstab angegangen werden können.“
OpenAI erklärte, der Vorschlag berücksichtige das Feedback von Organisationen, die im Kinderschutz und in der Online-Sicherheit tätig sind, darunter das National Center for Missing and Exploited Children und die Attorney General Alliance sowie deren KI-Arbeitsgruppe.
„Generative KI beschleunigt das Verbrechen der sexuellen Ausbeutung von Kindern im Internet auf zutiefst beunruhigende Weise – sie senkt Barrieren, erhöht den Umfang und ermöglicht neue Formen von Schaden“, sagte Michelle DeLaune, Präsidentin & CEO des National Center for Missing & Exploited Children, in einer Erklärung. „Gleichzeitig ist das National Center for Missing & Exploited Children ermutigt zu sehen, wie Unternehmen wie OpenAI darüber nachdenken, wie diese Tools verantwortungsvoller und mit von Anfang an integrierten Schutzmechanismen gestaltet werden können.“
OpenAI erklärte, der Rahmen kombiniere rechtliche Standards, brancheninterne Meldesysteme und technische Schutzmechanismen innerhalb von KI-Modellen. Das Unternehmen sagte, diese Maßnahmen sollen dazu beitragen, Ausbeutungsrisiken früher zu erkennen und die Verantwortlichkeit auf Online-Plattformen zu verbessern.
Die Blaupause identifiziert Handlungsfelder, darunter die Aktualisierung von Gesetzen zur Bekämpfung von KI-generiertem oder verändertem Material zum sexuellen Missbrauch von Kindern, die Verbesserung der Meldung von Missbrauchssignalen durch Online-Anbieter und die Koordination mit Ermittlern sowie die Integration von Schutzmechanismen in KI-Systeme, die auf die Prävention von Missbrauch ausgelegt sind.
„Keine einzelne Intervention kann diese Herausforderung allein bewältigen“, schrieb das Unternehmen. „Dieser Rahmen vereint rechtliche, operative und technische Ansätze, um Risiken besser zu erkennen, Reaktionen zu beschleunigen und die Rechenschaftspflicht zu unterstützen, während gleichzeitig sichergestellt wird, dass die Durchsetzungsbehörden mit der technologischen Entwicklung stark bleiben.“
Die Blaupause erscheint, da Kinderschutzbefürworter Bedenken geäußert haben, dass generative KI-Systeme, die realistische Bilder erzeugen können, zur Erstellung manipulierter oder synthetischer Darstellungen von Minderjährigen verwendet werden könnten. Im Februar forderte UNICEF Regierungen weltweit auf, Gesetze zur Kriminalisierung von KI-generiertem Kindesmissbrauchsmaterial zu erlassen.
Im Januar leitete die Europäische Kommission eine formelle Untersuchung ein, ob X, früher bekannt als Twitter, gegen digitale EU-Regeln verstoßen hat, indem es das native KI-Modell der Plattform, Grok, nicht daran hinderte, illegale Inhalte zu generieren, während auch Aufsichtsbehörden im Vereinigten Königreich und in Australien Untersuchungen eingeleitet haben.
OpenAI bemerkte, dass Gesetze allein die Geißel von KI-generiertem Missbrauchsmaterial nicht aufhalten werden, und erklärte, dass stärkere Industriestandards notwendig sein werden, da KI-Systeme leistungsfähiger werden.
„Indem Ausbeutungsversuche früher unterbrochen, die Qualität der an die Strafverfolgungsbehörden gesendeten Signale verbessert und die Rechenschaftspflicht im gesamten Ökosystem gestärkt wird, zielt dieser Rahmen darauf ab, Schaden zu verhindern, bevor er entsteht, und einen schnelleren Schutz für Kinder zu gewährleisten, wenn Risiken auftauchen“, so OpenAI.
