जियो के संस्थापक यानिव ताल ने ऑनलाइन जानकारी की चार कमजोरियों की पहचान की है, जिनके बारे में उनका कहना है कि वे एआई उत्तरों को अविश्वसनीय बनाती हैं: खोया हुआ स्रोत, समतल अधिकार, छिपा हुआ असहमति और मॉडल-जनित त्रुटियों की पुनरावृत्ति।

जियो के संस्थापक यानिव ताल ने crypto.news को बताया कि अविश्वसनीय AI उत्तर अक्सर उन सामग्री से शुरू होते हैं जो मॉडल प्राप्त करते हैं, यह तर्क देते हुए कि इंटरनेट को जानकारी वितरित करने के लिए डिज़ाइन किया गया था, न कि उसके अधिकार, उत्पत्ति या जवाबदेही को बनाए रखने के लिए।

“एआई को सत्य की समस्या नहीं है, इंटरनेट को है,” ताल ने कहा।

ताल के अनुसार, जैसे-जैसे वेबसाइटें जानकारी को स्क्रैप करती हैं और पुनः प्रकाशित करती हैं, महत्वपूर्ण संदर्भ खो जाता है। एक दावा प्रशिक्षण सेट में प्रवेश करने से पहले कई पृष्ठों से गुजर सकता है, जिससे मॉडल के पास वह कथन रह जाता है लेकिन उसके मूल स्रोत तक वापस जाने का कोई स्पष्ट मार्ग नहीं होता।

अधिकार को मापना भी तब मुश्किल हो जाता है जब एक शोध पत्र, कंपनी की घोषणा, और एक गुमनाम फ़ोरम पोस्ट एक ही डेटा पाइपलाइन में पाठ के रूप में प्रवेश करते हैं। ताल ने कहा कि मॉडल तब विभिन्न साक्ष्य मानकों वाली सामग्री को ऐसे मान सकते हैं जैसे कि उनका समान महत्व हो।

“स्रोत का पता नहीं चलता। एक दावा स्क्रैप किया जाता है, फिर से लिखा जाता है और फिर से स्क्रैप किया जाता है जब तक कि मूल स्रोत अप्राप्य न हो जाए,” उन्होंने कहा।

जियो के संस्थापक ने अविश्वसनीय AI उत्तरों के पीछे चार विफलताओं की पहचान की

असहमति एक और समस्या पैदा करती है क्योंकि भाषा मॉडल अक्सर प्रतिस्पर्धी स्थितियों को एक ही प्रतिक्रिया में जोड़ देते हैं। ताल ने कहा कि इस तरह का संपीड़न योग्य विशेषज्ञों के बीच वास्तविक विवादों को छिपा सकता है, जिससे उपयोगकर्ताओं को एक ही आत्मविश्वासपूर्ण उत्तर मिलता है, यह दिखाए बिना कि विश्वसनीय विकल्प मौजूद हैं।

चौथी कमजोरी तब उत्पन्न होती है जब AI-जनित सामग्री बाद के मॉडलों द्वारा उपयोग की जाने वाली डेटा आपूर्ति में वापस आती है। त्रुटियाँ बार-बार प्रकाशन के बाद भी जीवित रह सकती हैं, जबकि कृत्रिम लेख, पोस्ट और सारांश उस मानव-निर्मित सामग्री का पता लगाना मुश्किल बना देते हैं जिससे दावा उत्पन्न हुआ था।

“मॉडल तेजी से अन्य मॉडलों के आउटपुट पर प्रशिक्षित होते हैं, इसलिए त्रुटियाँ केवल बनी नहीं रहतीं, वे बढ़ जाती हैं,” ताल ने कहा।

स्वतंत्र शोध ने एक संबंधित जोखिम का दस्तावेजीकरण किया है। 2024 के नेचर अध्ययन ने जांच की कि जब जनरेटिव मॉडल बार-बार पहले के मॉडलों द्वारा उत्पादित सामग्री से सीखते हैं तो क्या होता है। शोधकर्ताओं ने “मॉडल कोलैप्स” को एक ऐसी प्रक्रिया के रूप में वर्णित किया जिसमें सिस्टम धीरे-धीरे मूल डेटा वितरण के बारे में जानकारी खो देते हैं।

कागज़ के अनुसार, प्रयोगों के शुरुआती चरणों के दौरान कम सामान्य सामग्री गायब होने लगी, जबकि बाद की मॉडल पीढ़ियों ने स्रोत डेटा से बहुत कम समानता वाले वितरण उत्पन्न किए। शोधकर्ताओं ने कहा कि जैसे-जैसे AI-जनित सामग्री पूरे इंटरनेट पर फैलती है, मूल, मानव-निर्मित जानकारी तक पहुंच महत्वपूर्ण बनी रहती है।

ताल चार कमजोरियों को केवल मॉडल डिज़ाइन तक सीमित विफलताओं के रूप में वर्गीकृत नहीं करते हैं। उनके अनुसार, मॉडल अपनी प्रशिक्षण सामग्री में पहले से ही अंतर्निहित खामियों को दोहराते हैं, जिसमें गुम स्रोत और साक्ष्य, राय और प्रचार के बीच दृश्यमान भेदों की कमी शामिल है।

मानवीय सत्यापन असहमति को हटाए बिना दावों को रैंक करेगा

जियो का प्रस्तावित उत्तर किसी कथन को उसके लेखक और उसका समर्थन करने वाले साक्ष्य से अलग करके शुरू होता है। प्रविष्टियों के बीच संबंध यह दिखा सकते हैं कि एक तर्क दूसरे का समर्थन करता है, उसका खंडन करता है, या किसी विवादित बिंदु का सीधे जवाब देता है।

एक बार जब ये लिंक रिकॉर्ड हो जाते हैं, तो जियो तर्कों को उनकी मूल्यांकित शक्ति के अनुसार व्यवस्थित कर सकता है, जबकि उनके नीचे प्रतिस्पर्धी सामग्री को बनाए रख सकता है, ताल ने कहा। इस संरचना का उद्देश्य प्रत्येक योगदान को अविभेदित टिप्पणी फ़ीड के रूप में प्रदर्शित किए बिना असहमति को उपलब्ध रखना है।

“बहुलवाद का मतलब शोर होना जरूरी नहीं है,” ताल ने कहा। “हमें लगता है कि कई सुव्यवस्थित प्रतिस्पर्धी दृष्टिकोण अक्सर अधिक ईमानदार उत्तर होता है।”

जियो स्पेसेस नामक स्वतंत्र समुदायों के माध्यम से जानकारी को व्यवस्थित करता है। इसकी वर्तमान वेबसाइट में क्रिप्टो, स्वास्थ्य, AI, शिक्षा, विश्व मामले और अमेरिकी राजनीति को कवर करने वाले प्रारंभिक स्पेसेस सूचीबद्ध हैं।

सदस्य चर्चाओं में योगदान और भाग ले सकते हैं, जबकि प्रासंगिक ज्ञान वाले लोग संपादक बनने के लिए आवेदन कर सकते हैं। जियो के अनुसार, इसका क्यूरेटर कार्यक्रम प्रतिभागियों से स्रोतों का मूल्यांकन करने, तर्कों को जोड़ने और एक खुले ज्ञान ग्राफ में संरचित जानकारी जोड़ने के लिए कहता है।

यह मॉडल जियो जेनेसिस से विकसित किया गया था, जिसने जनवरी 2025 में प्रारंभिक पहुंच प्राप्त की थी। जैसा कि पहले बताया गया था, इसकी डिफ़ॉल्ट शासन संरचना ने प्रतिभागियों को संपादक और सदस्य में विभाजित किया था। संपादकों को मतदान का अधिकार मिला, जबकि सदस्य व्यक्तिगत स्पेसेस में जानकारी का योगदान कर सकते थे।

एरागन OSx शासन ढांचे पर निर्मित, जियो जेनेसिस ने GRC-20 की रिलीज़ का अनुसरण किया, जो जुड़े हुए ज्ञान का प्रतिनिधित्व करने के लिए एक मानक है। द ग्राफ ने जून 2025 में कहा था कि GRC-20 समुदायों को ऑन-चेन संरचित जानकारी प्रकाशित करने और इसे सबग्राफ और सबस्ट्रीम के माध्यम से पुनः प्राप्त करने की अनुमति दे सकता है।

ताल, जिन्होंने जियो शुरू करने से पहले द ग्राफ की सह-स्थापना की थी, ने कहा कि प्रस्तावित प्रणाली के तहत विशेषज्ञता किसी एक केंद्रीय प्राधिकरण द्वारा असाइन नहीं की जाएगी। योगदानकर्ता अपने काम के माध्यम से प्रतिष्ठा बनाएंगे, और जियो का इरादा है कि यह रिकॉर्ड स्पेसेस के बीच एक व्यक्ति का अनुसरण करे।

“मानवीय निर्णय अब दुर्लभ इनपुट है, अनावश्यक नहीं। मशीनें इतनी सामग्री उत्पन्न करती हैं जितनी लोग संसाधित नहीं कर सकते, और इसमें से लगभग किसी के लिए भी इसकी सच्चाई के लिए कोई जवाबदेह नहीं है।”

सामुदायिक शासन को अभी भी पहचान की समस्या का सामना करना पड़ता है

एक मानव-संचालित ज्ञान नेटवर्क को अभी भी यह निर्धारित करना होगा कि योगदानकर्ता वास्तविक, योग्य और स्वतंत्र हैं या नहीं। खुली शासन प्रणालियाँ सिबिल हमलों का सामना कर सकती हैं, जिसमें एक प्रतिभागी मतदान, रैंकिंग या पुरस्कारों पर प्रभाव प्राप्त करने के लिए कई पहचान बनाता है।

एक जून 2026 के व्याख्याता ने जांच की कि कैसे बायोमेट्रिक जांच, सामाजिक विश्वास नेटवर्क और शून्य-ज्ञान पहचान उपकरण अद्वितीय लोगों को सत्यापित करने का प्रयास करते हैं। प्रत्येक विधि में गोपनीयता, हमले के प्रतिरोध, पहुंच और नियंत्रण के बीच व्यापार-बंद शामिल हैं, जबकि AI हमलावरों को कम लागत पर विश्वसनीय व्यक्तित्व बनाने में मदद कर सकता है।

ताल ने कहा कि जियो योगदान रिकॉर्ड और डोमेन-विशिष्ट समुदायों पर निर्भर करेगा, बजाय इसके कि गुमनाम सामग्री को सार्वजनिक इतिहास वाले लोगों से जुड़े दावों के समान दर्जा दिया जाए। संपादक व्यक्तिगत स्पेसेस के माध्यम से आवेदन करेंगे, और सदस्य उन विषयों को नियंत्रित करने में भाग लेंगे जिनका वे अनुसरण करते हैं।

“वित्तीय दांव के बिना 'स्किन इन द गेम' उस गुणवत्ता को बदल देता है जिस पर लोग अपना नाम देने को तैयार हैं,” ताल ने कहा।

यह दृष्टिकोण यह तय करने की आवश्यकता को नहीं हटाता कि संपादकों का चयन कौन करता है, समुदाय समन्वित हेरफेर को कैसे हल करते हैं, या क्या एक विषय में अर्जित विशेषज्ञता को दूसरे में महत्व देना चाहिए। ताल ने गेटकीपर के मुद्दे को वास्तविक बताया लेकिन तर्क दिया कि स्वतंत्र स्पेसेस एक संस्था को हर क्षेत्र को नियंत्रित करने से रोकेंगे।

क्रिप्टो सुरक्षा में भी मानवीय भागीदारी ने ध्यान आकर्षित किया है, जहां स्वचालित उपकरण दुर्भावनापूर्ण गतिविधि का पता लगा सकते हैं, लेकिन उपयोगकर्ता अभी भी लेनदेन को अधिकृत करते हैं। मई 2026 में, एक लेजर सुरक्षा रिपोर्ट ने AI-सहायता प्राप्त फ़िशिंग, नकली इंटरफेस और स्वचालित घोटालों के खिलाफ सुरक्षा के रूप में मैन्युअल सत्यापन और स्पष्ट लेनदेन प्रदर्शनों का वर्णन किया।

ऑन-चेन रिकॉर्ड लेनदेन को आसपास के दावों से अलग करते हैं

क्रिप्टो जियो के पहले स्पेसेस में से एक है क्योंकि ब्लॉकचेन गतिविधि सत्यापन योग्य रिकॉर्ड और मानवीय व्याख्या के बीच अंतर का सीधा परीक्षण प्रदान करती है, ताल ने कहा।

एक ब्लॉकचेन यह पुष्टि कर सकता है कि एक रिकॉर्ड किए गए पते और ब्लॉक पर एक लेनदेन हुआ। यह, अतिरिक्त साक्ष्य के बिना, यह स्थापित नहीं कर सकता कि पता कौन नियंत्रित करता है, धन क्यों चला गया, क्या गतिविधि जैविक थी, या एक परियोजना आगे क्या करने की योजना बना रही है।

“ऑन-चेन डेटा निर्माण द्वारा सत्यापन योग्य है। एक लेनदेन हुआ या नहीं हुआ,” ताल ने कहा। “इसके चारों ओर सब कुछ दावे हैं।”

परियोजना घोषणाओं, साझेदारी विवरणों, बाजार पूर्वानुमानों और टोकन आंदोलनों की व्याख्याओं को इसलिए अलग उपचार की आवश्यकता होती है, ताल के अनुसार। जियो का इरादा ऐसे दावों को नामित योगदानकर्ताओं से जोड़ना और उनके रिकॉर्ड को संरक्षित करना है, जिसमें पहले के बयान भी शामिल हैं जो गलत साबित हुए थे।

प्रचार गतिविधि डिजिटल-एसेट बाजारों में इस भेद को विशेष रूप से महत्वपूर्ण बनाती है, जहां टीमें सत्यापन योग्य लेनदेन डेटा के साथ चयनित मेट्रिक्स प्रस्तुत कर सकती हैं। ताल ने कहा कि एक विश्वसनीय ज्ञान परत को श्रेणियों को लेबल करना चाहिए बजाय इसके कि दोनों को एक ही आवाज में प्रस्तुत किया जाए।

अमेरिकी मार्गदर्शन भी स्रोत और मानवीय समीक्षा का आह्वान करता है

जनरेटिव AI को तैनात करने वाले अमेरिकी डेवलपर्स और कंपनियों के लिए, राष्ट्रीय मानक और प्रौद्योगिकी संस्थान (NIST) ने कई नियंत्रणों की सिफारिश की है जो ताल के तर्क के कुछ हिस्सों के साथ ओवरलैप करते हैं।

NIST की जनरेटिव AI प्रोफ़ाइल, जो जुलाई 2024 में प्रकाशित हुई, संगठनों को प्रशिक्षण-डेटा स्रोतों का दस्तावेजीकरण करने, उत्पन्न सामग्री के मूल की निगरानी करने और स्रोत प्रणालियों और मानव समीक्षकों के बीच प्रतिक्रिया का मूल्यांकन करने की सलाह देती है। स्वैच्छिक ढाँचा डोमेन विशेषज्ञों और प्रभावित समुदायों से भी कुछ मूल्यांकनों में भाग लेने का आह्वान करता है।

सामग्री स्रोत मानक यह रिकॉर्ड करने का एक और तरीका प्रदान करते हैं कि डिजिटल सामग्री कहाँ से उत्पन्न हुई। सामग्री स्रोत और प्रामाणिकता के लिए गठबंधन (C2PA) क्रिप्टोग्राफिक रूप से हस्ताक्षरित सामग्री क्रेडेंशियल्स का उपयोग करता है ताकि इस बारे में जानकारी संरक्षित की जा सके कि किसने एक एसेट बनाया या बदला और उसे कैसे संपादित किया गया।

C2PA विनिर्देश के तहत, हालांकि, मान्य स्रोत यह निर्धारित नहीं करता है कि संलग्न दावा अच्छा, बुरा या सत्य है। मानक सत्यापित करता है कि दावे अंतर्निहित संपत्ति से जुड़े हैं, सही ढंग से बने हैं, और छेड़छाड़ से मुक्त हैं।