Editor Wikipedia telah bergerak untuk membatasi bagaimana kecerdasan buatan dapat digunakan di platform, dalam pembaruan kebijakan terbaru yang melarang penggunaan model bahasa besar untuk menulis atau menulis ulang artikel.
Pedoman baru ini mencerminkan meningkatnya kekhawatiran dalam komunitas Wikipedia bahwa teks yang dihasilkan AI dapat bertentangan dengan standar platform, terutama terkait dengan verifikasi dan sumber yang dapat diandalkan.
“Teks yang dihasilkan oleh model bahasa besar sering kali melanggar beberapa kebijakan konten inti Wikipedia,” demikian bunyi pembaruan kebijakan tersebut. “Untuk alasan ini, penggunaan LLM untuk menghasilkan atau menulis ulang konten artikel dilarang, kecuali untuk pengecualian yang disebutkan di bawah.”
Kebijakan ini masih mengizinkan penggunaan alat AI secara terbatas, termasuk menyarankan koreksi dasar pada tulisan editor sendiri, asalkan sistem tidak memperkenalkan informasi baru. Namun, editor disarankan untuk meninjau saran tersebut dengan cermat.
Meskipun kebijakan baru ini tidak menyebutkan sanksi untuk penggunaan konten yang dihasilkan AI, menurut pedoman Wikipedia mengenai pengungkapan, penyalahgunaan yang berulang merupakan “pola pengeditan yang mengganggu,” dan dapat menyebabkan pemblokiran atau larangan. Wikipedia memberikan editor jalur untuk mengembalikan akun mereka melalui proses banding.
“Pemblokiran dapat dibatalkan dengan persetujuan admin pemblokir, penimpaan oleh admin lain jika pemblokiran jelas tidak dapat dibenarkan, atau (dalam kasus yang sangat jarang) melalui banding ke Komite Arbitrase,” kata Wikipedia.
"Wikimedia Foundation tidak menentukan kebijakan dan pedoman editorial di Wikipedia; editor sukarelawan yang melakukannya," kata juru bicara Wikimedia Foundation kepada Decrypt. "Kekuatan Wikipedia telah dan akan selalu menjadi model yang berpusat pada manusia dan digerakkan oleh sukarelawan."
Menurut Emily M. Bender, seorang profesor linguistik di University of Washington, beberapa penggunaan model bahasa dalam alat pengeditan mungkin masuk akal, tetapi menarik batas yang jelas antara pengeditan dan pembuatan teks bisa jadi sulit.
“Jadi salah satu hal yang bisa Anda lakukan dengan model bahasa adalah membangun pemeriksa ejaan yang sangat baik, misalnya,” kata Bender kepada Decrypt. “Saya pikir masuk akal untuk mengatakan tidak apa-apa menjalankan pemeriksa ejaan pada hasil edit. Dan jika Anda melakukan level berikutnya, pemeriksa tata bahasa, itu juga bisa diterima.”
Bender mengatakan tantangannya datang ketika sistem bergerak melampaui koreksi tata bahasa dan mulai mengubah atau menghasilkan konten, mencatat bahwa model bahasa besar tidak memiliki akuntabilitas seperti yang dibawa oleh kontributor manusia ke proyek pengetahuan kolaboratif.
“Menggunakan model bahasa besar untuk menghasilkan teks sintetis, adalah sifat fundamental dari sistem ini bahwa tidak ada akuntabilitas, tidak ada hubungan dengan apa yang diyakini atau didukung seseorang,” katanya. “Ketika kita berbicara, kita berbicara berdasarkan apa yang kita yakini dan apa yang menjadi tanggung jawab kita, bukan berdasarkan gagasan kebenaran yang objektif. Dan itu tidak ada untuk model bahasa besar.”
Bender mengatakan penggunaan luas suntingan yang dihasilkan AI juga dapat memengaruhi reputasi situs.
“Jika orang malah mengambil jalan pintas dan membuat sesuatu yang terlihat seperti suntingan atau artikel Wikipedia dan meletakkannya di sana, maka itu merendahkan nilai dan reputasi situs secara keseluruhan,” katanya.
Joseph Reagle, profesor komunikasi di Northeastern University, yang mempelajari budaya dan tata kelola Wikipedia, mengatakan tanggapan komunitas mencerminkan kekhawatiran yang sudah lama ada tentang akurasi dan sumber.
“Wikipedia mewaspadai prosa yang dihasilkan AI,” kata Reagle kepada Decrypt. “Mereka menganggap serius karakterisasi akurat dari apa yang dinyatakan sumber terpercaya tentang suatu topik. AI memiliki keterbatasan serius di bidang itu, seperti klaim 'halusinasi' dan sumber fiktif.”
Reagle mengatakan kebijakan inti Wikipedia juga membentuk bagaimana editor memandang alat AI, mencatat bahwa banyak model bahasa besar telah dilatih menggunakan konten Wikipedia. Pada bulan Oktober, Wikimedia Foundation mengatakan kunjungan manusia ke Wikipedia turun sekitar 8% dari tahun ke tahun karena mesin pencari dan chatbot semakin banyak memberikan jawaban langsung di platform mereka, alih-alih mengirim pengguna ke situs.
Pada bulan Januari, Wikimedia Foundation mengumumkan perjanjian dengan perusahaan AI, termasuk Microsoft, Google, Amazon, dan Meta, yang memungkinkan mereka menggunakan materi Wikipedia melalui produk Enterprise-nya, layanan komersial yang dirancang untuk penggunaan ulang kontennya dalam skala besar.
“Meskipun penggunaan konten Wikipedia diizinkan oleh lisensi Wikipedia, masih ada beberapa antipati di kalangan Wikipedian tentang layanan yang memanfaatkan konten komunitas dan kemudian menempatkan tuntutan yang tidak diinginkan pada komunitas tersebut untuk menghadapi banjir 'AI slop' yang diakibatkannya,” kata Reagle.
Meskipun ada larangan penggunaan LLM, Wikipedia mengizinkan alat AI untuk menerjemahkan artikel dari edisi bahasa lain ke bahasa Inggris, asalkan editor memverifikasi teks aslinya. Kebijakan ini juga memperingatkan editor untuk tidak hanya mengandalkan gaya penulisan untuk mengidentifikasi konten yang dihasilkan AI, melainkan berfokus pada apakah materi tersebut mematuhi kebijakan inti Wikipedia dan riwayat pengeditan kontributor.
“Beberapa editor mungkin memiliki gaya penulisan yang mirip dengan LLM,” bunyi pembaruan tersebut. “Diperlukan lebih banyak bukti daripada hanya tanda-tanda gaya atau linguistik untuk membenarkan sanksi, dan yang terbaik adalah mempertimbangkan kepatuhan teks terhadap kebijakan konten inti dan suntingan terbaru oleh editor yang bersangkutan.”
Catatan editor: Artikel ini diperbarui setelah publikasi untuk menyertakan komentar dari Wikimedia Foundation.
