Nhằm giải quyết sự gia tăng của nạn lạm dụng tình dục trẻ em được thực hiện bởi AI, OpenAI vào thứ Tư đã công bố một bản kế hoạch chính sách phác thảo các biện pháp an toàn mới mà ngành công nghiệp có thể áp dụng để giúp kiềm chế việc sử dụng AI trong việc tạo ra tài liệu lạm dụng tình dục trẻ em.
Trong khung làm việc, OpenAI liệt kê các biện pháp pháp lý, vận hành và kỹ thuật nhằm tăng cường bảo vệ chống lại nạn lạm dụng do AI gây ra và cải thiện sự phối hợp giữa các công ty công nghệ và các nhà điều tra.
“Lạm dụng tình dục trẻ em là một trong những thách thức cấp bách nhất của thời đại kỹ thuật số,” công ty viết. “AI đang nhanh chóng thay đổi cả cách những tổn hại này xuất hiện trong ngành và cách chúng có thể được giải quyết ở quy mô lớn.”
OpenAI cho biết đề xuất này kết hợp phản hồi từ các tổ chức hoạt động trong lĩnh vực bảo vệ trẻ em và an toàn trực tuyến, bao gồm Trung tâm Quốc gia về Trẻ em Mất tích và Bị Lạm dụng (National Center for Missing and Exploited Children) cùng Liên minh các Tổng chưởng lý và lực lượng đặc nhiệm AI của họ.
“AI tạo sinh đang đẩy nhanh tội phạm lạm dụng tình dục trẻ em trực tuyến theo những cách đáng lo ngại sâu sắc – giảm rào cản, tăng quy mô và kích hoạt các hình thức gây hại mới,” Chủ tịch & Giám đốc điều hành của Trung tâm Quốc gia về Trẻ em Mất tích và Bị Lạm dụng, Michelle DeLaune, cho biết trong một tuyên bố. “Nhưng đồng thời, Trung tâm Quốc gia về Trẻ em Mất tích và Bị Lạm dụng cũng khuyến khích khi thấy các công ty như OpenAI suy nghĩ về cách các công cụ này có thể được thiết kế có trách nhiệm hơn, với các biện pháp bảo vệ được tích hợp ngay từ đầu.”
OpenAI cho biết khung làm việc kết hợp các tiêu chuẩn pháp lý, hệ thống báo cáo của ngành và các biện pháp bảo vệ kỹ thuật trong các mô hình AI. Công ty cho biết các biện pháp này nhằm giúp xác định sớm hơn các rủi ro lạm dụng và cải thiện trách nhiệm giải trình trên các nền tảng trực tuyến.
Bản kế hoạch xác định các lĩnh vực cần hành động, bao gồm cập nhật luật pháp để giải quyết tài liệu lạm dụng tình dục trẻ em do AI tạo ra hoặc chỉnh sửa, cải thiện cách các nhà cung cấp trực tuyến báo cáo các tín hiệu lạm dụng và phối hợp với các nhà điều tra, cũng như xây dựng các biện pháp bảo vệ vào hệ thống AI được thiết kế để ngăn chặn việc sử dụng sai mục đích.
“Không một biện pháp can thiệp đơn lẻ nào có thể giải quyết thách thức này một mình,” công ty viết. “Khung làm việc này tập hợp các phương pháp tiếp cận pháp lý, vận hành và kỹ thuật để nhận diện rủi ro tốt hơn, đẩy nhanh phản ứng và hỗ trợ trách nhiệm giải trình, đồng thời đảm bảo rằng các cơ quan thực thi vẫn mạnh mẽ khi công nghệ phát triển.”
Bản kế hoạch được đưa ra khi các nhà vận động bảo vệ trẻ em đã bày tỏ lo ngại rằng các hệ thống AI tạo sinh có khả năng tạo ra hình ảnh chân thực có thể được sử dụng để tạo ra các hình ảnh giả mạo hoặc tổng hợp về trẻ vị thành niên. Vào tháng 2, UNICEF đã kêu gọi các chính phủ trên thế giới thông qua luật hình sự hóa tài liệu lạm dụng trẻ em do AI tạo ra.
Vào tháng 1, Ủy ban Châu Âu đã mở một cuộc điều tra chính thức về việc liệu X, trước đây là Twitter, có vi phạm các quy tắc kỹ thuật số của EU hay không khi không ngăn chặn mô hình AI gốc của nền tảng này, Grok, tạo ra nội dung bất hợp pháp, đồng thời các cơ quan quản lý ở Vương quốc Anh và Úc cũng đã mở các cuộc điều tra.
Lưu ý rằng chỉ riêng luật pháp sẽ không ngăn chặn được tai họa của tài liệu lạm dụng do AI tạo ra, OpenAI cho biết các tiêu chuẩn ngành mạnh mẽ hơn sẽ cần thiết khi các hệ thống AI trở nên có khả năng hơn.
“Bằng cách gián đoạn các nỗ lực lạm dụng sớm hơn, cải thiện chất lượng tín hiệu gửi đến cơ quan thực thi pháp luật và tăng cường trách nhiệm giải trình trên toàn bộ hệ sinh thái, khung làm việc này nhằm mục đích ngăn chặn tổn hại trước khi nó xảy ra và giúp đảm bảo bảo vệ trẻ em nhanh chóng hơn khi rủi ro xuất hiện,” OpenAI cho biết.
