З метою боротьби зі зростанням сексуальної експлуатації дітей за допомогою ШІ, OpenAI у середу опублікувала політичний план, що окреслює нові заходи безпеки, які індустрія може вжити для припинення використання ШІ у створенні матеріалів із сексуальним насильством над дітьми.

У цій рамковій програмі OpenAI перераховує правові, операційні та технічні заходи, спрямовані на посилення захисту від зловживань, що здійснюються за допомогою ШІ, та покращення координації між технологічними компаніями та слідчими.

«Сексуальна експлуатація дітей є однією з найактуальніших проблем цифрової епохи», – написала компанія. «ШІ стрімко змінює як те, як ці зловживання виникають в галузі, так і те, як їх можна вирішити в широких масштабах».

OpenAI заявила, що пропозиція включає відгуки від організацій, що працюють у сфері захисту дітей та онлайн-безпеки, зокрема Національного центру зниклих та експлуатованих дітей (National Center for Missing and Exploited Children) та Альянсу генеральних прокурорів (Attorney General Alliance) з його цільовою групою з питань ШІ.

«Генеративний ШІ прискорює злочин онлайн-сексуальної експлуатації дітей в надзвичайно тривожний спосіб – знижуючи бар’єри, збільшуючи масштаби та уможливлюючи нові форми шкоди», – заявила президент і генеральний директор Національного центру зниклих та експлуатованих дітей Мішель ДеЛаун. «Але водночас Національний центр зниклих та експлуатованих дітей заохочує компанії, такі як OpenAI, розмірковувати над тим, як ці інструменти можуть бути розроблені більш відповідально, з вбудованими захисними механізмами з самого початку».

OpenAI зазначила, що рамкова програма поєднує правові стандарти, галузеві системи звітності та технічні захисні механізми в моделях ШІ. Компанія заявила, що ці заходи спрямовані на більш раннє виявлення ризиків експлуатації та посилення відповідальності на всіх онлайн-платформах.

План визначає напрямки дій, включаючи оновлення законів для боротьби з матеріалами про сексуальне насильство над дітьми, створеними або зміненими за допомогою ШІ; покращення того, як онлайн-провайдери повідомляють про ознаки зловживань та координують дії зі слідчими; а також вбудовування захисних механізмів у системи ШІ, розроблені для запобігання неправомірному використанню.

«Жодне окреме втручання не може вирішити цю проблему самотужки», – написала компанія. «Ця рамкова програма поєднує правові, операційні та технічні підходи для кращого виявлення ризиків, прискорення реагування та підтримки підзвітності, одночасно забезпечуючи, щоб правоохоронні органи залишалися сильними в міру розвитку технологій».

План з’явився на тлі того, як захисники безпеки дітей висловили занепокоєння, що генеративні системи ШІ, здатні створювати реалістичні зображення, можуть бути використані для створення маніпульованих або синтетичних зображень неповнолітніх. У лютому ЮНІСЕФ закликав уряди світу прийняти закони, що криміналізують матеріали про жорстоке поводження з дітьми, створені за допомогою ШІ.

У січні Європейська комісія розпочала офіційне розслідування щодо того, чи порушив X, раніше відомий як Twitter, цифрові правила ЄС, не запобігши генерації незаконного контенту власним ШІ-моделлю платформи Grok, оскільки регулятори Великої Британії та Австралії також розпочали розслідування.

Зазначивши, що самі закони не зупинять поширення матеріалів про жорстоке поводження, створених за допомогою ШІ, OpenAI заявила, що необхідні будуть більш суворі галузеві стандарти в міру того, як системи ШІ ставатимуть дедалі потужнішими.

«Перериваючи спроби експлуатації раніше, покращуючи якість сигналів, що надсилаються правоохоронним органам, та посилюючи підзвітність у всій екосистемі, ця рамкова програма має на меті запобігти шкоді до її виникнення та допомогти забезпечити швидший захист дітей при появі ризиків», – заявила OpenAI.