Fondatorul Geo, Yaniv Tal, a identificat patru slăbiciuni în informațiile online care, spune el, fac răspunsurile AI nesigure: proveniența pierdută, autoritatea aplatizată, dezacordul ascuns și erorile repetate generate de model.
Fondatorul Geo, Yaniv Tal, a declarat pentru crypto.news că răspunsurile AI nesigure încep adesea cu materialul pe care îl primesc modelele, argumentând că internetul a fost conceput pentru a distribui informații, mai degrabă decât pentru a-și păstra autoritatea, originea sau responsabilitatea.
„AI nu are o problemă cu adevărul, internetul are”, a spus Tal.
Potrivit lui Tal, informația pierde contextul critic pe măsură ce site-urile web o extrag și o republică. O afirmație poate trece prin mai multe pagini înainte de a intra într-un set de antrenament, lăsând un model cu declarația, dar fără o cale clară de întoarcere la sursa originală.
Autoritatea devine, de asemenea, dificil de măsurat atunci când o lucrare de cercetare, un anunț de companie și o postare anonimă pe forum intră în aceeași conductă de date ca text. Tal a spus că modelele pot trata apoi materialul cu standarde diferite de dovezi ca și cum ar avea o greutate similară.
„Proveniența se prăbușește. O afirmație este extrasă, reformulată și re-extrasă până când sursa originală devine irecuperabilă”, a spus el.
Dezacordul creează o altă problemă, deoarece modelele lingvistice combină adesea pozițiile concurente într-un singur răspuns. Tal a spus că o astfel de compresie poate ascunde dispute autentice între experți calificați, oferind utilizatorilor un singur răspuns încrezător, fără a arăta că există alternative credibile.
A patra slăbiciune apare atunci când materialul generat de AI revine la sursa de date utilizată de modelele ulterioare. Erorile pot supraviețui publicării repetate, în timp ce articolele, postările și rezumatele sintetice fac mai dificilă localizarea materialului produs de oameni din care a provenit o afirmație.
„Modelele se antrenează tot mai mult pe rezultate de la alte modele, astfel încât erorile nu doar persistă, ci se amplifică”, a spus Tal.
Cercetări independente au documentat un risc similar. Un studiu Nature din 2024 a examinat ce se întâmplă atunci când modelele generative învață în mod repetat din materialul produs de modelele anterioare. Cercetătorii au descris „colapsul modelului” ca un proces în care sistemele pierd treptat informații despre distribuția originală a datelor.
Materialul mai puțin obișnuit a început să dispară în primele etape ale experimentelor, potrivit lucrării, în timp ce generațiile ulterioare de modele au produs distribuții care semănau puțin cu datele sursă. Cercetătorii au spus că accesul la informații originale, produse de oameni, rămâne important pe măsură ce materialul generat de AI se răspândește pe internet.
Tal nu clasifică cele patru slăbiciuni ca eșecuri limitate la designul modelului. În viziunea sa, modelele reproduc defecte deja încorporate în materialul lor de antrenament, inclusiv surse lipsă și o lipsă de distincții vizibile între dovezi, opinii și promovare.
Răspunsul propus de Geo începe prin separarea unei afirmații de autorul său și de dovezile care o susțin. Relațiile dintre intrări pot arăta dacă un argument îl susține pe altul, îl contrazice sau răspunde direct unui punct disputat.
Odată înregistrate aceste legături, Geo poate ordona argumentele în funcție de forța lor evaluată, păstrând în același timp materialul concurent sub ele, a spus Tal. Structura este menită să mențină dezacordul disponibil fără a afișa fiecare contribuție ca un flux de comentarii nediferențiat.
„Pluralismul nu trebuie să însemne zgomot”, a spus Tal. „Credem că mai multe perspective concurente bine structurate sunt adesea răspunsul cel mai onest.”
Geo organizează informațiile prin comunități independente numite Spații. Site-ul său web actual listează Spații inițiale care acoperă cripto, sănătate, AI, educație, afaceri mondiale și politică americană.
Membrii pot contribui și participa la discuții, în timp ce persoanele cu cunoștințe relevante pot aplica pentru a deveni editori. Potrivit Geo, programul său de curator cere participanților să evalueze surse, să conecteze argumente și să adauge informații structurate la un graf deschis de cunoștințe.
Modelul a fost dezvoltat din Geo Genesis, care a intrat în acces timpuriu în ianuarie 2025. Așa cum s-a raportat anterior, structura sa implicită de guvernanță a împărțit participanții în Editori și Membri. Editorii au primit autoritate de vot, în timp ce Membrii puteau contribui cu informații la Spații individuale.
Construit pe cadrul de guvernanță Aragon OSx, Geo Genesis a urmat lansarea GRC-20, un standard pentru reprezentarea cunoștințelor conectate. The Graph a declarat în iunie 2025 că GRC-20 ar putea permite comunităților să publice informații structurate on-chain și să le recupereze prin subgrafuri și Substreams.
Tal, care a cofondat The Graph înainte de a începe Geo, a spus că expertiza nu va fi atribuită de o autoritate centrală în cadrul sistemului propus. Contributorii și-ar construi o reputație prin munca lor, iar Geo intenționează ca această înregistrare să urmărească o persoană între Spații.
„Judecata umană este acum intrarea rară, nu cea redundantă. Mașinile generează mai mult conținut decât pot procesa oamenii și aproape niciunul nu are pe cineva responsabil pentru adevărul său.”
O rețea de cunoștințe administrată de oameni trebuie să determine în continuare dacă participanții sunt autentici, calificați și independenți. Sistemele de guvernanță deschisă se pot confrunta cu atacuri Sybil, în care un participant creează multiple identități pentru a câștiga influență asupra votului, clasamentelor sau recompenselor.
Un explicativ din iunie 2026 a examinat modul în care verificările biometrice, rețelele de încredere socială și instrumentele de identitate zero-knowledge încearcă să verifice persoane unice. Fiecare metodă implică compromisuri între confidențialitate, rezistența la atacuri, accesibilitate și control, în timp ce AI poate ajuta atacatorii să creeze personaje convingătoare la un cost redus.
Tal a spus că Geo se va baza pe înregistrările de contribuții și pe comunitățile specifice domeniului, mai degrabă decât să permită materialului anonim să aibă același statut ca afirmațiile atașate persoanelor cu istorii publice. Editorii ar aplica prin Spații individuale, iar membrii ar participa la guvernarea subiectelor pe care le urmăresc.
„Implicarea personală fără mize financiare schimbă calitatea a ceea ce oamenii sunt dispuși să-și asume cu numele lor”, a spus Tal.
Abordarea nu elimină necesitatea de a decide cine selectează editorii, cum rezolvă comunitățile manipularea coordonată sau dacă expertiza dobândită într-un subiect ar trebui să aibă greutate într-altul. Tal a descris problema „gardienilor” ca fiind reală, dar a susținut că Spațiile independente ar împiedica o singură instituție să controleze fiecare domeniu.
Implicarea umană a atras, de asemenea, atenția în securitatea cripto, unde instrumentele automate pot detecta activitatea malițioasă, dar utilizatorii autorizează în continuare tranzacțiile. În mai 2026, un raport de securitate Ledger a descris verificarea manuală și afișajele clare ale tranzacțiilor ca măsuri de siguranță împotriva phishing-ului asistat de AI, a interfețelor false și a înșelătoriilor automate.
Cripto este unul dintre primele Spații ale Geo, deoarece activitatea blockchain oferă un test direct al diferenței dintre înregistrările verificabile și interpretarea umană, a spus Tal.
Un blockchain poate confirma că o tranzacție a avut loc la o adresă și un bloc înregistrate. Nu poate, fără dovezi suplimentare, să stabilească cine controlează adresa, de ce s-au mutat fondurile, dacă activitatea a fost organică sau ce planifică să facă un proiect în continuare.
„Datele on-chain sunt verificabile prin construcție. O tranzacție a avut loc sau nu”, a spus Tal. „Tot ceea ce o înconjoară sunt afirmații.”
Anunțurile de proiect, descrierile parteneriatelor, previziunile de piață și explicațiile mișcărilor de tokenuri necesită, prin urmare, un tratament separat, potrivit lui Tal. Geo intenționează să atașeze astfel de afirmații contribuitorilor nominalizați și să le păstreze înregistrările, inclusiv declarațiile anterioare care s-au dovedit a fi greșite.
Activitatea promoțională face distincția deosebit de importantă pe piețele de active digitale, unde echipele pot prezenta metrici selectate alături de datele tranzacționale verificabile. Tal a spus că un strat de cunoștințe de încredere ar trebui să eticheteze categoriile, mai degrabă decât să le prezinte pe ambele în aceeași manieră.
Pentru dezvoltatorii și companiile americane care implementează AI generativ, Institutul Național de Standarde și Tehnologie a recomandat mai multe controale care se suprapun cu părți din argumentul lui Tal.
Profilul de AI Generativ al NIST, publicat în iulie 2024, sfătuiește organizațiile să documenteze sursele de date de antrenament, să monitorizeze originea materialului generat și să evalueze feedback-ul dintre sistemele de proveniență și recenzenții umani. Cadrul voluntar solicită, de asemenea, ca experții în domeniu și comunitățile afectate să participe la anumite evaluări.
Standardele de proveniență a conținutului oferă o altă metodă de înregistrare a locului de origine a materialului digital. Coaliția pentru Proveniența și Autenticitatea Conținutului utilizează Credențiale de Conținut semnate criptografic pentru a păstra informații despre cine a creat sau a modificat un activ și cum a fost editat.
Conform specificației C2PA, totuși, proveniența validată nu determină dacă o afirmație atașată este bună, rea sau adevărată. Standardul verifică dacă afirmațiile sunt conectate la activul subiacent, sunt corect formate și sunt libere de manipulare.
GRC