OpenAI sedang digugat terkait siapa, tepatnya, yang berhak membaca percakapan ChatGPT Anda.
Sebuah gugatan class action yang diusulkan dan diajukan bulan ini di Pengadilan Distrik AS untuk Distrik Utara California menuduh perusahaan tersebut menyalurkan chat nyata pengguna kepada kontraktor eksternal tanpa terlebih dahulu memberi tahu orang-orang secara memadai. OpenAI menerima dokumen gugatan pada 2 September.
Gugatan tersebut menyoroti sebuah inisiatif internal OpenAI bernama Project Lily, yang pertama kali diungkap oleh outlet 404 Media pada 14 September. Menurut gugatan, kontraktor yang direkrut melalui perusahaan staffing pihak ketiga untuk peran seperti "AI data reviewer" dan "chatbot evaluator" membaca prompt ChatGPT nyata dan percakapan lengkap, merangkum apa yang ingin dilakukan pengguna, lalu memberi skor dan kritik terhadap empat respons model yang berbeda dalam skala satu sampai tujuh.
Proses itu adalah versi dasar dari cara chatbot seperti ChatGPT benar-benar menjadi lebih pintar. Intinya, manusia menilai jawaban AI, lalu penilaian itu dimasukkan kembali ke proses pelatihan agar model mempelajari respons mana yang lebih disukai orang, sebuah teknik yang di industri disebut RLHF atau reinforcement learning from human feedback. Keluhan dalam gugatan ini adalah bahwa pengguna tidak pernah diberi tahu secara jelas bahwa yang membaca chat mereka bisa saja seorang manusia, bukan hanya mesin.
OpenAI memang menjalankan percakapan melalui sistem otomatis sebelum dilihat manusia. Namun, gugatan tersebut menuduh filter itu tidak selalu menangkap semuanya, yang berarti detail pribadi kadang tetap sampai ke kontraktor.
404 Media menemukan bahwa para reviewer bekerja menggunakan dashboard yang mencakup "user memories summary"—ringkasan chat-chat terdahulu seseorang yang dapat mengungkap detail seperti lokasi umum, profesi, atau kehidupan pribadi mereka, meski nama pengguna sudah dihapus. OpenAI mengatakan ulasan tersebut dimaksudkan untuk mengurangi dua perilaku spesifik: chatbot yang bertindak terlalu mirip manusia, dan chatbot yang terlalu mudah mengiyakan, sebuah sifat yang oleh para peneliti disebut sycophancy, yaitu ketika AI mengatakan apa yang menurutnya ingin didengar pengguna alih-alih apa yang akurat.
→
ChatGPT memiliki lebih dari 900 juta pengguna mingguan, dan banyak di antaranya memperlakukannya seperti buku harian, terapis, atau mesin pencari yang hanya bisa mereka lihat sendiri.
Orang-orang mengetik gejala kesehatan, pesan putus cinta, pertanyaan pajak, hingga masalah hukum. Gugatan itu berargumen bahwa kebijakan privasi OpenAI memang menyebut beberapa kategori pihak luar yang mendapat akses ke data pengguna, tetapi tidak pernah secara spesifik menandai vendor anotasi data atau evaluasi manusia sebagai salah satunya.
Gugatan tersebut memuat delapan tuntutan hukum terpisah, termasuk dugaan pelanggaran terhadap Unfair Competition Law California, Consumer Privacy Act negara bagian itu, serta klaim common law seperti intrusion upon seclusion—sebuah perbuatan melawan hukum di bidang privasi yang mencakup tindakan mengorek urusan pribadi seseorang dengan cara yang dianggap menyinggung oleh orang yang wajar.
Para penggugat menuntut ganti rugi, restitusi, dan ganti rugi punitif.
Di sisi permohonan injunksi, tuntutannya spesifik. Para penggugat ingin OpenAI mewajibkan persetujuan opt-in sebelum percakapan apa pun dikirim ke reviewer eksternal, mengubah pengaturan "Improve the model for everyone" agar nonaktif secara default alih-alih aktif, menambahkan peringatan yang jelas di dalam jendela chat itu sendiri, dan berpotensi menghapus hasil kerja yang terkait dengan percakapan yang ditinjau sambil melatih ulang model mana pun yang menggunakannya.
Tanggapan OpenAI jatuh tempo pada 13 Oktober.
BTC
