Untuk mengatasi meningkatnya eksploitasi seksual anak yang didukung AI, OpenAI pada hari Rabu menerbitkan cetakan biru kebijakan yang menguraikan langkah-langkah keamanan baru yang dapat diambil industri untuk membantu mengekang penggunaan AI dalam pembuatan materi pelecehan seksual anak.
Dalam kerangka kerja tersebut, OpenAI mencantumkan langkah-langkah hukum, operasional, dan teknis yang bertujuan untuk memperkuat perlindungan terhadap penyalahgunaan yang didukung AI dan meningkatkan koordinasi antara perusahaan teknologi dan penyelidik.
“Eksploitasi seksual anak adalah salah satu tantangan paling mendesak di era digital,” tulis perusahaan itu. “AI dengan cepat mengubah cara kerugian ini muncul di seluruh industri dan bagaimana hal itu dapat ditangani dalam skala besar.”
OpenAI mengatakan proposal tersebut menggabungkan masukan dari organisasi yang bergerak di bidang perlindungan anak dan keamanan online, termasuk National Center for Missing and Exploited Children dan Attorney General Alliance serta gugus tugas AI-nya.
“AI generatif mempercepat kejahatan eksploitasi seksual anak daring dengan cara yang sangat mengkhawatirkan—menurunkan hambatan, meningkatkan skala, dan memungkinkan bentuk-bentuk kerugian baru,” kata Presiden & CEO, National Center for Missing & Exploited Children, Michelle DeLaune dalam sebuah pernyataan. “Namun pada saat yang sama, National Center for Missing & Exploited Children merasa terdorong melihat perusahaan seperti OpenAI merefleksikan bagaimana alat-alat ini dapat dirancang lebih bertanggung jawab, dengan pengamanan yang terintegrasi sejak awal.”
OpenAI mengatakan kerangka kerja ini menggabungkan standar hukum, sistem pelaporan industri, dan pengamanan teknis dalam model AI. Perusahaan tersebut menyatakan bahwa langkah-langkah ini bertujuan untuk membantu mengidentifikasi risiko eksploitasi lebih awal dan meningkatkan akuntabilitas di seluruh platform online.
Cetakan biru ini mengidentifikasi area-area tindakan, termasuk memperbarui undang-undang untuk mengatasi materi pelecehan seksual anak yang dihasilkan atau diubah AI, meningkatkan cara penyedia online melaporkan sinyal penyalahgunaan dan berkoordinasi dengan penyelidik, serta membangun pengamanan dalam sistem AI yang dirancang untuk mencegah penyalahgunaan.
“Tidak ada satu intervensi pun yang dapat mengatasi tantangan ini sendirian,” tulis perusahaan itu. “Kerangka kerja ini menyatukan pendekatan hukum, operasional, dan teknis untuk lebih baik mengidentifikasi risiko, mempercepat respons, dan mendukung akuntabilitas, sambil memastikan bahwa otoritas penegak hukum tetap kuat seiring evolusi teknologi.”
Cetakan biru ini muncul karena para advokat keamanan anak telah menyuarakan keprihatinan bahwa sistem AI generatif yang mampu menghasilkan gambar realistis dapat digunakan untuk membuat penggambaran anak di bawah umur yang dimanipulasi atau sintetis. Pada bulan Februari, UNICEF menyerukan kepada pemerintah dunia untuk mengesahkan undang-undang yang mengkriminalisasi materi pelecehan anak yang dihasilkan AI.
Pada bulan Januari, Komisi Eropa meluncurkan penyelidikan formal mengenai apakah X, yang sebelumnya dikenal sebagai Twitter, melanggar aturan digital UE dengan gagal mencegah model AI asli platform tersebut, Grok, menghasilkan konten ilegal, karena regulator di Inggris dan Australia juga telah membuka penyelidikan.
Mencatat bahwa undang-undang saja tidak akan menghentikan momok materi penyalahgunaan yang dihasilkan AI, OpenAI mengatakan standar industri yang lebih kuat akan diperlukan seiring dengan semakin mampunya sistem AI.
“Dengan menginterupsi upaya eksploitasi lebih cepat, meningkatkan kualitas sinyal yang dikirim ke penegak hukum, dan memperkuat akuntabilitas di seluruh ekosistem, kerangka kerja ini bertujuan untuk mencegah kerugian sebelum terjadi dan membantu memastikan perlindungan yang lebih cepat bagi anak-anak ketika risiko muncul,” kata OpenAI.
