Yaniv Tal, fondateur de Geo, a identifié quatre faiblesses dans l'information en ligne qui, selon lui, rendent les réponses de l'IA peu fiables : la perte de provenance, l'aplatissement de l'autorité, le désaccord caché et les erreurs répétées générées par le modèle.
Yaniv Tal, fondateur de Geo, a déclaré à crypto.news que les réponses peu fiables de l'IA proviennent souvent du matériel que les modèles reçoivent, arguant qu'Internet a été conçu pour distribuer l'information plutôt que pour préserver son autorité, son origine ou sa responsabilité.
« L'IA n'a pas de problème de vérité, c'est Internet qui en a un », a déclaré Tal.
Selon Tal, l'information perd un contexte essentiel lorsque les sites web la récupèrent et la republient. Une affirmation peut passer par plusieurs pages avant d'entrer dans un ensemble d'entraînement, laissant au modèle l'énoncé mais sans chemin clair vers sa source originale.
L'autorité devient également difficile à mesurer lorsqu'un document de recherche, une annonce d'entreprise et une publication anonyme sur un forum entrent dans le même pipeline de données sous forme de texte. Tal a déclaré que les modèles pourraient alors traiter des documents avec des normes de preuve différentes comme s'ils avaient un poids similaire.
« La provenance s'effondre. Une affirmation est récupérée, reformulée et re-récupérée jusqu'à ce que la source originale soit irrécupérable », a-t-il dit.
Le désaccord crée un autre problème car les modèles linguistiques combinent souvent des positions concurrentes en une seule réponse. Tal a déclaré qu'une telle compression peut masquer de véritables différends entre experts qualifiés, donnant aux utilisateurs une réponse unique et confiante sans montrer que des alternatives crédibles existent.
La quatrième faiblesse apparaît lorsque le matériel généré par l'IA retourne dans l'approvisionnement en données utilisé par les modèles ultérieurs. Les erreurs peuvent survivre à des publications répétées, tandis que les articles, publications et résumés synthétiques rendent plus difficile de localiser le matériel produit par l'homme à partir duquel une affirmation a été émise.
« Les modèles s'entraînent de plus en plus sur les résultats d'autres modèles, de sorte que les erreurs ne persistent pas seulement, elles s'amplifient », a déclaré Tal.
Des recherches indépendantes ont documenté un risque connexe. Une étude de Nature de 2024 a examiné ce qui se passe lorsque les modèles génératifs apprennent à plusieurs reprises à partir de matériel produit par des modèles antérieurs. Les chercheurs ont décrit le « model collapse » (effondrement du modèle) comme un processus dans lequel les systèmes perdent progressivement des informations sur la distribution des données originales.
Le matériel moins courant a commencé à disparaître au cours des premières étapes des expériences, selon l'article, tandis que les générations de modèles ultérieures ont produit des distributions ayant peu de ressemblance avec les données sources. Les chercheurs ont déclaré que l'accès à l'information originale produite par l'homme reste important à mesure que le matériel généré par l'IA se répand sur Internet.
Tal ne classe pas les quatre faiblesses comme des défaillances limitées à la conception du modèle. Selon lui, les modèles reproduisent des défauts déjà intégrés dans leur matériel d'entraînement, y compris des sources manquantes et un manque de distinctions visibles entre preuves, opinions et promotion.
La solution proposée par Geo commence par séparer une déclaration de son auteur et des preuves qui la soutiennent. Les relations entre les entrées peuvent montrer si un argument en soutient un autre, le contredit ou répond directement à un point contesté.
Une fois ces liens enregistrés, Geo peut classer les arguments par leur force évaluée tout en conservant le matériel concurrent en dessous, a déclaré Tal. La structure est destinée à maintenir le désaccord disponible sans afficher chaque contribution comme un flux de commentaires indifférencié.
« Le pluralisme ne doit pas nécessairement signifier du bruit », a déclaré Tal. « Nous pensons que plusieurs perspectives concurrentes bien structurées sont souvent la réponse la plus honnête. »
Geo organise l'information à travers des communautés indépendantes appelées Espaces. Son site web actuel répertorie les Espaces initiaux couvrant la crypto, la santé, l'IA, l'éducation, les affaires mondiales et la politique américaine.
Les membres peuvent contribuer et participer aux discussions, tandis que les personnes ayant des connaissances pertinentes peuvent postuler pour devenir éditeurs. Selon Geo, son programme de curateurs demande aux participants d'évaluer les sources, de connecter les arguments et d'ajouter des informations structurées à un graphe de connaissances ouvert.
Le modèle a été développé à partir de Geo Genesis, qui est entré en accès anticipé en janvier 2025. Comme indiqué précédemment, sa structure de gouvernance par défaut divisait les participants en Éditeurs et Membres. Les Éditeurs recevaient le pouvoir de vote, tandis que les Membres pouvaient contribuer des informations à des Espaces individuels.
Construit sur le framework de gouvernance Aragon OSx, Geo Genesis a suivi la publication du GRC-20, une norme pour la représentation des connaissances connectées. The Graph a déclaré en juin 2025 que le GRC-20 pourrait permettre aux communautés de publier des informations structurées sur la chaîne (on-chain) et de les récupérer via des subgraphs et des Substreams.
Tal, qui a cofondé The Graph avant de lancer Geo, a déclaré que l'expertise ne serait pas attribuée par une autorité centrale unique dans le cadre du système proposé. Les contributeurs bâtiraient une réputation grâce à leur travail, et Geo a l'intention que ce dossier suive une personne entre les Espaces.
« Le jugement humain est désormais l'input rare, et non l'input redondant. Les machines génèrent plus de contenu que les gens ne peuvent en traiter, et presque aucun n'a de responsable pour sa vérité. »
Un réseau de connaissances géré par l'homme doit encore déterminer si les contributeurs sont authentiques, qualifiés et indépendants. Les systèmes de gouvernance ouverts peuvent faire face à des attaques Sybil, dans lesquelles un participant crée plusieurs identités pour influencer les votes, les classements ou les récompenses.
Un explicatif de juin 2026 a examiné comment les vérifications biométriques, les réseaux de confiance sociale et les outils d'identité à connaissance nulle (zero-knowledge) tentent de vérifier des personnes uniques. Chaque méthode implique des compromis entre la confidentialité, la résistance aux attaques, l'accessibilité et le contrôle, tandis que l'IA peut aider les attaquants à créer des personas convaincants à faible coût.
Tal a déclaré que Geo s'appuierait sur les registres de contribution et les communautés spécifiques à des domaines plutôt que de permettre à du matériel anonyme d'avoir le même statut que des affirmations attachées à des personnes ayant des antécédents publics. Les éditeurs postuleraient via des Espaces individuels, et les membres participeraient à la gouvernance des sujets qu'ils suivent.
« Avoir quelque chose à perdre sans enjeux financiers modifie la qualité de ce que les gens sont prêts à signer », a déclaré Tal.
L'approche ne supprime pas la nécessité de décider qui sélectionne les éditeurs, comment les communautés résolvent la manipulation coordonnée, ou si l'expertise acquise dans un sujet devrait avoir du poids dans un autre. Tal a décrit le problème des "gatekeepers" (gardiens) comme réel, mais a soutenu que des Espaces indépendants empêcheraient une institution de contrôler tous les domaines.
L'implication humaine a également retenu l'attention dans la sécurité crypto, où les outils automatisés peuvent détecter des activités malveillantes, mais les utilisateurs autorisent toujours les transactions. En mai 2026, un rapport de sécurité de Ledger a décrit la vérification manuelle et les affichages clairs des transactions comme des garanties contre le phishing assisté par l'IA, les fausses interfaces et les arnaques automatisées.
La crypto est l'un des premiers Espaces de Geo parce que l'activité de la blockchain offre un test direct de la différence entre les enregistrements vérifiables et l'interprétation humaine, a déclaré Tal.
Une blockchain peut confirmer qu'une transaction a eu lieu à une adresse et un bloc enregistrés. Elle ne peut pas, sans preuves supplémentaires, établir qui contrôle l'adresse, pourquoi les fonds ont été déplacés, si l'activité était organique, ou ce qu'un projet prévoit de faire ensuite.
« Les données on-chain sont vérifiables par construction. Une transaction a eu lieu ou non », a déclaré Tal. « Tout ce qui l'entoure sont des affirmations. »
Les annonces de projets, les descriptions de partenariats, les prévisions de marché et les explications des mouvements de jetons nécessitent donc un traitement distinct, selon Tal. Geo a l'intention d'attacher ces affirmations à des contributeurs nommés et de préserver leurs registres, y compris les déclarations antérieures qui se sont avérées fausses.
L'activité promotionnelle rend la distinction particulièrement importante sur les marchés des actifs numériques, où les équipes peuvent présenter des métriques sélectionnées à côté de données de transaction vérifiables. Tal a déclaré qu'une couche de connaissance fiable devrait étiqueter les catégories plutôt que de présenter les deux de la même manière.
Pour les développeurs et les entreprises américaines déployant l'IA générative, le National Institute of Standards and Technology (NIST) a recommandé plusieurs contrôles qui recoupent des parties de l'argument de Tal.
Le profil d'IA générative du NIST, publié en juillet 2024, conseille aux organisations de documenter les sources de données d'entraînement, de surveiller l'origine du matériel généré et d'évaluer les retours entre les systèmes de provenance et les examinateurs humains. Le cadre volontaire appelle également les experts du domaine et les communautés affectées à participer à certaines évaluations.
Les normes de provenance de contenu offrent une autre méthode pour enregistrer l'origine du matériel numérique. La Coalition for Content Provenance and Authenticity (C2PA) utilise des Content Credentials signées cryptographiquement pour préserver les informations sur qui a créé ou modifié un actif et comment il a été édité.
Selon la spécification C2PA, cependant, la provenance validée ne détermine pas si une affirmation attachée est bonne, mauvaise ou véridique. La norme vérifie que les assertions sont liées à l'actif sous-jacent, correctement formées et exemptes de falsification.
