Pendiri Geo Yaniv Tal telah mengidentifikasi empat kelemahan dalam informasi daring yang menurutnya membuat jawaban AI tidak dapat diandalkan: asal-usul yang hilang (lost provenance), otoritas yang disamaratakan (flattened authority), ketidaksepakatan tersembunyi (hidden disagreement), dan kesalahan berulang yang dihasilkan model (repeated model-generated errors).
Pendiri Geo Yaniv Tal mengatakan kepada crypto.news bahwa jawaban AI yang tidak dapat diandalkan seringkali dimulai dengan materi yang diterima model, berpendapat bahwa internet dirancang untuk mendistribusikan informasi daripada menjaga otoritas, asal, atau akuntabilitasnya.
“AI tidak memiliki masalah kebenaran, internetlah yang memilikinya,” kata Tal.
Menurut Tal, informasi kehilangan konteks kritis saat situs web mengikis dan menerbitkannya kembali. Sebuah klaim dapat melewati beberapa halaman sebelum masuk ke set data pelatihan, meninggalkan model dengan pernyataan tersebut tetapi tanpa jalur yang jelas kembali ke sumber aslinya.
Otoritas juga menjadi sulit diukur ketika sebuah makalah penelitian, pengumuman perusahaan, dan postingan forum anonim masuk ke dalam saluran data yang sama sebagai teks. Tal mengatakan model kemudian dapat memperlakukan materi dengan standar bukti yang berbeda seolah-olah memiliki bobot yang serupa.
“Asal-usul runtuh. Sebuah klaim dikikis, dinyatakan ulang, dan dikikis lagi sampai sumber aslinya tidak dapat dipulihkan,” katanya.
Ketidaksepakatan menciptakan masalah lain karena model bahasa seringkali menggabungkan posisi yang bersaing menjadi satu respons. Tal mengatakan pemadatan semacam itu dapat menyembunyikan perselisihan asli di antara para ahli yang berkualitas, memberikan pengguna satu jawaban yang meyakinkan tanpa menunjukkan bahwa alternatif kredibel ada.
Kelemahan keempat muncul ketika materi yang dihasilkan AI kembali ke pasokan data yang digunakan oleh model selanjutnya. Kesalahan dapat bertahan dari publikasi berulang, sementara artikel, postingan, dan ringkasan sintetis mempersulit penemuan materi yang diproduksi manusia dari mana sebuah klaim berasal.
“Model semakin banyak dilatih berdasarkan output dari model lain, sehingga kesalahan tidak hanya bertahan, tetapi juga diperkuat,” kata Tal.
Penelitian independen telah mendokumentasikan risiko terkait. Sebuah studi Nature tahun 2024 meneliti apa yang terjadi ketika model generatif berulang kali belajar dari materi yang dihasilkan oleh model sebelumnya. Peneliti menggambarkan “keruntuhan model” sebagai proses di mana sistem secara bertahap kehilangan informasi tentang distribusi data asli.
Materi yang kurang umum mulai menghilang selama tahap awal eksperimen, menurut makalah tersebut, sementara generasi model selanjutnya menghasilkan distribusi yang sedikit menyerupai data sumber. Peneliti mengatakan akses ke informasi asli yang diproduksi manusia tetap penting karena materi yang dihasilkan AI menyebar di internet.
Tal tidak mengklasifikasikan keempat kelemahan tersebut sebagai kegagalan yang terbatas pada desain model. Menurutnya, model mereproduksi kekurangan yang sudah tertanam dalam materi pelatihannya, termasuk sumber yang hilang dan kurangnya perbedaan yang terlihat antara bukti, opini, dan promosi.
Jawaban yang diusulkan Geo dimulai dengan memisahkan pernyataan dari penulisnya dan bukti yang mendukungnya. Hubungan antar entri dapat menunjukkan apakah suatu argumen mendukung yang lain, bertentangan dengannya, atau menanggapi langsung poin yang diperdebatkan.
Setelah tautan tersebut dicatat, Geo dapat mengurutkan argumen berdasarkan kekuatan yang dinilai sambil mempertahankan materi yang bersaing di bawahnya, kata Tal. Struktur ini dimaksudkan untuk menjaga ketidaksepakatan tetap tersedia tanpa menampilkan setiap kontribusi sebagai umpan komentar yang tidak terdiferensiasi.
“Pluralisme tidak harus berarti kebisingan,” kata Tal. “Kami pikir beberapa perspektif bersaing yang terstruktur dengan baik seringkali merupakan jawaban yang lebih jujur.”
Geo mengorganisir informasi melalui komunitas independen yang disebut Ruang (Spaces). Situs webnya saat ini mencantumkan Ruang awal yang mencakup kripto, kesehatan, AI, pendidikan, urusan dunia, dan politik AS.
Anggota dapat berkontribusi dan berpartisipasi dalam diskusi, sementara orang-orang dengan pengetahuan yang relevan dapat melamar untuk menjadi editor. Menurut Geo, program kuratornya meminta peserta untuk mengevaluasi sumber, menghubungkan argumen, dan menambahkan informasi terstruktur ke grafik pengetahuan terbuka.
Model ini dikembangkan dari Geo Genesis, yang memasuki akses awal pada Januari 2025. Seperti yang dilaporkan sebelumnya, struktur tata kelola defaultnya membagi peserta menjadi Editor dan Anggota. Editor menerima otoritas pemungutan suara, sementara Anggota dapat menyumbangkan informasi ke Ruang individu.
Dibangun di atas kerangka tata kelola Aragon OSx, Geo Genesis mengikuti rilis GRC-20, standar untuk merepresentasikan pengetahuan yang terhubung. The Graph mengatakan pada Juni 2025 bahwa GRC-20 dapat memungkinkan komunitas menerbitkan informasi terstruktur on-chain dan mengambilnya melalui subgraf dan Substream.
Tal, yang turut mendirikan The Graph sebelum memulai Geo, mengatakan keahlian tidak akan ditetapkan oleh satu otoritas pusat di bawah sistem yang diusulkan. Kontributor akan membangun reputasi melalui pekerjaan mereka, dan Geo bermaksud agar catatan itu mengikuti seseorang antar Ruang.
“Penilaian manusia adalah masukan yang langka sekarang, bukan yang berlebihan. Mesin menghasilkan lebih banyak konten daripada yang dapat diproses manusia, dan hampir tidak ada yang bertanggung jawab atas kebenarannya.”
Jaringan pengetahuan yang dijalankan manusia masih harus menentukan apakah kontributor asli, berkualitas, dan independen. Sistem tata kelola terbuka dapat menghadapi serangan Sybil, di mana satu peserta membuat banyak identitas untuk mendapatkan pengaruh atas pemungutan suara, peringkat, atau hadiah.
Sebuah penjelasan Juni 2026 meneliti bagaimana pemeriksaan biometrik, jaringan kepercayaan sosial, dan alat identitas tanpa pengetahuan (zero-knowledge) mencoba memverifikasi orang unik. Setiap metode melibatkan kompromi antara privasi, ketahanan terhadap serangan, aksesibilitas, dan kontrol, sementara AI dapat membantu penyerang menciptakan persona yang meyakinkan dengan biaya rendah.
Tal mengatakan Geo akan mengandalkan catatan kontribusi dan komunitas khusus domain daripada membiarkan materi anonim memiliki status yang sama dengan klaim yang melekat pada orang-orang dengan riwayat publik. Editor akan melamar melalui Ruang individu, dan anggota akan berpartisipasi dalam mengatur subjek yang mereka ikuti.
“'Skin in the game' tanpa taruhan finansial mengubah kualitas apa yang orang bersedia pertaruhkan namanya,” kata Tal.
Pendekatan ini tidak menghilangkan kebutuhan untuk memutuskan siapa yang memilih editor, bagaimana komunitas menyelesaikan manipulasi terkoordinasi, atau apakah keahlian yang diperoleh dalam satu subjek harus memiliki bobot di subjek lain. Tal menggambarkan masalah penjaga gerbang itu nyata tetapi berpendapat bahwa Ruang independen akan mencegah satu institusi mengendalikan setiap bidang.
Keterlibatan manusia juga mendapat perhatian dalam keamanan kripto, di mana alat otomatis dapat mendeteksi aktivitas berbahaya, tetapi pengguna tetap mengotorisasi transaksi. Pada Mei 2026, laporan keamanan Ledger menjelaskan verifikasi manual dan tampilan transaksi yang jelas sebagai perlindungan terhadap phishing yang dibantu AI, antarmuka palsu, dan penipuan otomatis.
Kripto adalah salah satu Ruang pertama Geo karena aktivitas blockchain menawarkan uji langsung perbedaan antara catatan yang dapat diverifikasi dan interpretasi manusia, kata Tal.
Sebuah blockchain dapat mengonfirmasi bahwa transaksi terjadi pada alamat dan blok yang tercatat. Namun, tanpa bukti tambahan, blockchain tidak dapat menetapkan siapa yang mengendalikan alamat tersebut, mengapa dana bergerak, apakah aktivitas organik, atau apa yang proyek rencanakan selanjutnya.
“Data on-chain dapat diverifikasi secara konstruksi. Sebuah transaksi terjadi atau tidak terjadi,” kata Tal. “Semua yang melingkupinya adalah klaim.”
Oleh karena itu, pengumuman proyek, deskripsi kemitraan, perkiraan pasar, dan penjelasan pergerakan token memerlukan perlakuan terpisah, menurut Tal. Geo bermaksud untuk melampirkan klaim tersebut kepada kontributor yang disebutkan namanya dan mempertahankan catatan mereka, termasuk pernyataan sebelumnya yang terbukti salah.
Aktivitas promosi membuat perbedaan ini sangat penting di pasar aset digital, di mana tim dapat menyajikan metrik tertentu di samping data transaksi yang dapat diverifikasi. Tal mengatakan lapisan pengetahuan yang dapat dipercaya harus memberi label kategori daripada menyajikan keduanya dengan suara yang sama.
Bagi pengembang dan perusahaan AS yang menerapkan AI generatif, National Institute of Standards and Technology (NIST) telah merekomendasikan beberapa kontrol yang tumpang tindih dengan sebagian argumen Tal.
Profil AI Generatif NIST, yang diterbitkan pada Juli 2024, menyarankan organisasi untuk mendokumentasikan sumber data pelatihan, memantau asal materi yang dihasilkan, dan mengevaluasi umpan balik antara sistem provins dan peninjau manusia. Kerangka kerja sukarela ini juga menyerukan pakar domain dan komunitas yang terdampak untuk ikut serta dalam penilaian tertentu.
Standar provins konten menawarkan metode lain untuk mencatat dari mana materi digital berasal. Coalition for Content Provenance and Authenticity (C2PA) menggunakan Kredensial Konten yang ditandatangani secara kriptografis untuk mempertahankan informasi tentang siapa yang membuat atau mengubah aset dan bagaimana aset itu diedit.
Namun, di bawah spesifikasi C2PA, provins yang divalidasi tidak menentukan apakah klaim yang dilampirkan itu baik, buruk, atau benar. Standar ini memverifikasi bahwa pernyataan terhubung ke aset dasar, terbentuk dengan benar, dan bebas dari manipulasi.
