O fundador da Geo, Yaniv Tal, identificou quatro pontos fracos na informação online que, segundo ele, tornam as respostas da IA não confiáveis: proveniência perdida, autoridade nivelada, desacordo oculto e erros repetidos gerados por modelos.
O fundador da Geo, Yaniv Tal, disse ao crypto.news que as respostas não confiáveis da IA muitas vezes começam com o material que os modelos recebem, argumentando que a internet foi projetada para distribuir informações, e não para preservar sua autoridade, origem ou responsabilidade.
“A IA não tem um problema com a verdade, a internet tem”, disse Tal.
De acordo com Tal, as informações perdem contexto crítico à medida que os sites as raspam e republicam. Uma alegação pode passar por várias páginas antes de entrar em um conjunto de treinamento, deixando um modelo com a afirmação, mas sem uma rota clara de volta à sua fonte original.
A autoridade também se torna difícil de medir quando um artigo de pesquisa, um anúncio de empresa e uma postagem anônima em fórum entram no mesmo pipeline de dados como texto. Tal disse que os modelos podem então tratar materiais com diferentes padrões de evidência como se tivessem peso semelhante.
“A proveniência desmorona. Uma alegação é raspada, reformulada e raspada novamente até que a fonte original se torne irrecuperável”, disse ele.
O desacordo cria outro problema porque os modelos de linguagem frequentemente combinam posições concorrentes em uma única resposta. Tal disse que tal compressão pode ocultar disputas genuínas entre especialistas qualificados, dando aos usuários uma única resposta confiante sem mostrar que existem alternativas credíveis.
A quarta fraqueza surge quando o material gerado por IA retorna ao suprimento de dados usado por modelos posteriores. Erros podem sobreviver a publicações repetidas, enquanto artigos, posts e resumos sintéticos dificultam a localização do material produzido por humanos do qual uma alegação se originou.
“Os modelos treinam cada vez mais na saída de outros modelos, então os erros não apenas persistem, eles se amplificam”, disse Tal.
Pesquisas independentes documentaram um risco relacionado. Um estudo da Nature de 2024 examinou o que acontece quando modelos generativos aprendem repetidamente de material produzido por modelos anteriores. Os pesquisadores descreveram o “colapso do modelo” como um processo no qual os sistemas perdem gradualmente informações sobre a distribuição de dados original.
O material menos comum começou a desaparecer durante os estágios iniciais dos experimentos, de acordo com o artigo, enquanto as gerações posteriores de modelos produziram distribuições que pouco se assemelhavam aos dados de origem. Os pesquisadores disseram que o acesso a informações originais, produzidas por humanos, continua importante à medida que o material gerado por IA se espalha pela internet.
Tal não classifica as quatro fraquezas como falhas restritas ao design do modelo. Em sua conta, os modelos reproduzem falhas já embutidas em seu material de treinamento, incluindo fontes ausentes e falta de distinções visíveis entre evidências, opiniões e promoção.
A resposta proposta da Geo começa separando uma afirmação de seu autor e da evidência que a sustenta. As relações entre as entradas podem mostrar se um argumento apoia outro, o contradiz ou responde diretamente a um ponto disputado.
Uma vez que esses links são registrados, a Geo pode ordenar os argumentos por sua força avaliada, mantendo o material concorrente abaixo deles, disse Tal. A estrutura destina-se a manter o desacordo disponível sem exibir cada contribuição como um feed de comentários indiferenciado.
“Pluralismo não precisa significar ruído”, disse Tal. “Acreditamos que várias perspectivas concorrentes bem estruturadas são frequentemente a resposta mais honesta.”
A Geo organiza as informações através de comunidades independentes chamadas Espaços. Seu site atual lista Espaços iniciais cobrindo cripto, saúde, IA, educação, assuntos mundiais e política dos EUA.
Membros podem contribuir e participar de discussões, enquanto pessoas com conhecimento relevante podem se candidatar para se tornarem editores. De acordo com a Geo, seu programa de curadoria pede aos participantes que avaliem fontes, conectem argumentos e adicionem informações estruturadas a um grafo de conhecimento aberto.
O modelo foi desenvolvido a partir do Geo Genesis, que entrou em acesso antecipado em janeiro de 2025. Conforme relatado anteriormente, sua estrutura de governança padrão dividia os participantes em Editores e Membros. Os Editores recebiam autoridade de voto, enquanto os Membros podiam contribuir com informações para Espaços individuais.
Construído na estrutura de governança Aragon OSx, o Geo Genesis seguiu o lançamento do GRC-20, um padrão para representar conhecimento conectado. The Graph disse em junho de 2025 que o GRC-20 poderia permitir que as comunidades publicassem informações estruturadas na cadeia (onchain) e as recuperassem por meio de subgrafos e Substreams.
Tal, que co-fundou The Graph antes de iniciar a Geo, disse que a expertise não seria atribuída por uma autoridade central sob o sistema proposto. Os colaboradores construiriam uma reputação através de seu trabalho, e a Geo pretende que esse registro siga uma pessoa entre os Espaços.
“O julgamento humano é o insumo escasso agora, não o redundante. As máquinas geram mais conteúdo do que as pessoas podem processar, e quase nada disso tem alguém responsável pela sua verdade.”
Uma rede de conhecimento gerida por humanos ainda precisa determinar se os contribuidores são genuínos, qualificados e independentes. Sistemas de governança aberta podem enfrentar ataques Sybil, nos quais um participante cria múltiplas identidades para ganhar influência sobre votações, classificações ou recompensas.
Um explicador de junho de 2026 examinou como verificações biométricas, redes de confiança social e ferramentas de identidade de conhecimento zero tentam verificar pessoas únicas. Cada método envolve compromissos entre privacidade, resistência a ataques, acessibilidade e controle, enquanto a IA pode ajudar os atacantes a criar personas convincentes a baixo custo.
Tal disse que a Geo dependeria de registros de contribuição e comunidades específicas de domínio, em vez de permitir que material anônimo tivesse o mesmo status que alegações anexadas a pessoas com históricos públicos. Os editores se candidatariam por meio de Espaços individuais, e os membros participariam da governança dos assuntos que seguem.
“Ter algo a perder sem apostas financeiras muda a qualidade do que as pessoas estão dispostas a assinar”, disse Tal.
A abordagem não remove a necessidade de decidir quem seleciona os editores, como as comunidades resolvem manipulações coordenadas, ou se a expertise adquirida em um assunto deve ter peso em outro. Tal descreveu a questão do "gatekeeper" como real, mas argumentou que Espaços independentes impediriam que uma instituição controlasse todos os campos.
O envolvimento humano também ganhou atenção na segurança cripto, onde ferramentas automatizadas podem detectar atividades maliciosas, mas os usuários ainda autorizam transações. Em maio de 2026, um relatório de segurança da Ledger descreveu a verificação manual e exibições claras de transações como salvaguardas contra phishing assistido por IA, interfaces falsas e golpes automatizados.
A cripto é um dos primeiros Espaços da Geo porque a atividade da blockchain oferece um teste direto da diferença entre registros verificáveis e interpretação humana, disse Tal.
Uma blockchain pode confirmar que uma transação ocorreu em um endereço e bloco registrados. Não pode, sem evidências adicionais, estabelecer quem controla o endereço, por que os fundos foram movidos, se a atividade foi orgânica ou o que um projeto planeja fazer em seguida.
“Os dados on-chain são verificáveis por construção. Uma transação aconteceu ou não”, disse Tal. “Tudo o que a envolve são alegações.”
Anúncios de projetos, descrições de parcerias, previsões de mercado e explicações de movimentações de tokens, portanto, exigem tratamento separado, de acordo com Tal. A Geo pretende anexar tais alegações a colaboradores nomeados e preservar seus registros, incluindo declarações anteriores que se mostraram erradas.
A atividade promocional torna a distinção especialmente importante nos mercados de ativos digitais, onde as equipes podem apresentar métricas selecionadas ao lado de dados de transação verificáveis. Tal disse que uma camada de conhecimento confiável deve rotular as categorias em vez de apresentar ambas com a mesma voz.
Para desenvolvedores e empresas dos EUA que implementam IA generativa, o Instituto Nacional de Padrões e Tecnologia (NIST) recomendou vários controles que se sobrepõem a partes do argumento de Tal.
O Perfil de IA Generativa do NIST, publicado em julho de 2024, aconselha as organizações a documentar as fontes de dados de treinamento, monitorar a origem do material gerado e avaliar o feedback entre os sistemas de proveniência e os revisores humanos. O framework voluntário também pede que especialistas de domínio e comunidades afetadas participem de certas avaliações.
Os padrões de proveniência de conteúdo oferecem outro método para registrar a origem do material digital. A Coalition for Content Provenance and Authenticity usa Credenciais de Conteúdo assinadas criptograficamente para preservar informações sobre quem criou ou alterou um ativo e como ele foi editado.
Sob a especificação C2PA, no entanto, a proveniência validada não determina se uma alegação anexada é boa, ruim ou verdadeira. O padrão verifica se as afirmações estão conectadas ao ativo subjacente, corretamente formadas e livres de adulteração.
GRC