Yaniv Tal, fundador de Geo, ha identificado cuatro debilidades en la información en línea que, según él, hacen que las respuestas de la IA no sean fiables: la pérdida de procedencia, la autoridad aplanada, el desacuerdo oculto y los errores repetidos generados por el modelo.
Yaniv Tal, fundador de Geo, dijo a crypto.news que las respuestas poco fiables de la IA a menudo comienzan con el material que reciben los modelos, argumentando que internet fue diseñado para distribuir información en lugar de preservar su autoridad, origen o rendición de cuentas.
“La IA no tiene un problema de verdad, lo tiene internet”, dijo Tal.
Según Tal, la información pierde un contexto crítico a medida que los sitios web la raspan y la republican. Una afirmación puede pasar por varias páginas antes de entrar en un conjunto de entrenamiento, dejando al modelo con la declaración, pero sin una ruta clara de regreso a su fuente original.
La autoridad también se vuelve difícil de medir cuando un artículo de investigación, un anuncio de la empresa y una publicación anónima en un foro entran en el mismo flujo de datos como texto. Tal dijo que los modelos pueden entonces tratar material con diferentes estándares de evidencia como si tuviera un peso similar.
“La procedencia colapsa. Una afirmación es raspada, reformulada y vuelta a raspar hasta que la fuente original es irrecuperable”, dijo.
El desacuerdo crea otro problema porque los modelos de lenguaje a menudo combinan posiciones contrapuestas en una sola respuesta. Tal dijo que tal compresión puede ocultar disputas genuinas entre expertos cualificados, dando a los usuarios una única respuesta segura sin mostrar que existen alternativas creíbles.
La cuarta debilidad surge cuando el material generado por IA regresa al suministro de datos utilizado por modelos posteriores. Los errores pueden sobrevivir a publicaciones repetidas, mientras que los artículos, publicaciones y resúmenes sintéticos dificultan la localización del material producido por humanos del que se originó una afirmación.
“Los modelos se entrenan cada vez más con la salida de otros modelos, por lo que los errores no solo persisten, sino que se amplifican”, dijo Tal.
Investigaciones independientes han documentado un riesgo relacionado. Un estudio de Nature de 2024 examinó qué sucede cuando los modelos generativos aprenden repetidamente de material producido por modelos anteriores. Los investigadores describieron el “colapso del modelo” como un proceso en el que los sistemas pierden gradualmente información sobre la distribución original de los datos.
El material menos común comenzó a desaparecer durante las primeras etapas de los experimentos, según el artículo, mientras que las generaciones posteriores de modelos produjeron distribuciones que se parecían poco a los datos de origen. Los investigadores dijeron que el acceso a la información original producida por humanos sigue siendo importante a medida que el material generado por IA se extiende por internet.
Tal no clasifica las cuatro debilidades como fallas confinadas al diseño del modelo. En su opinión, los modelos reproducen fallos ya incrustados en su material de entrenamiento, incluida la falta de fuentes y la ausencia de distinciones visibles entre evidencia, opinión y promoción.
La respuesta propuesta por Geo comienza separando una declaración de su autor y la evidencia que la respalda. Las relaciones entre las entradas pueden mostrar si un argumento apoya a otro, lo contradice o responde directamente a un punto en disputa.
Una vez registrados esos enlaces, Geo puede ordenar los argumentos por su fuerza evaluada, conservando el material en competencia debajo de ellos, dijo Tal. La estructura tiene como objetivo mantener el desacuerdo disponible sin mostrar cada contribución como un flujo de comentarios indiferenciado.
“El pluralismo no tiene por qué significar ruido”, dijo Tal. “Creemos que varias perspectivas competitivas bien estructuradas suelen ser la respuesta más honesta”.
Geo organiza la información a través de comunidades independientes llamadas Espacios. Su sitio web actual enumera Espacios iniciales que cubren cripto, salud, IA, educación, asuntos mundiales y política estadounidense.
Los miembros pueden contribuir y participar en debates, mientras que las personas con conocimientos relevantes pueden solicitar ser editores. Según Geo, su programa de curadores pide a los participantes que evalúen fuentes, conecten argumentos y añadan información estructurada a un grafo de conocimiento abierto.
El modelo se desarrolló a partir de Geo Genesis, que entró en acceso anticipado en enero de 2025. Como se informó anteriormente, su estructura de gobernanza predeterminada dividía a los participantes en Editores y Miembros. Los Editores recibían autoridad de voto, mientras que los Miembros podían contribuir con información a Espacios individuales.
Construido sobre el marco de gobernanza Aragon OSx, Geo Genesis siguió el lanzamiento de GRC-20, un estándar para representar conocimiento conectado. The Graph dijo en junio de 2025 que GRC-20 podría permitir a las comunidades publicar información estructurada en cadena (onchain) y recuperarla a través de subgrafos y Substreams.
Tal, quien cofundó The Graph antes de iniciar Geo, dijo que la experiencia no sería asignada por una autoridad central bajo el sistema propuesto. Los contribuyentes construirían una reputación a través de su trabajo, y Geo pretende que ese registro siga a una persona entre Espacios.
“El juicio humano es el insumo escaso ahora, no el redundante. Las máquinas generan más contenido del que las personas pueden procesar, y casi nada de ello tiene a alguien responsable de su verdad.”
Una red de conocimiento gestionada por humanos todavía debe determinar si los contribuyentes son genuinos, cualificados e independientes. Los sistemas de gobernanza abiertos pueden enfrentarse a ataques Sybil, en los que un participante crea múltiples identidades para obtener influencia sobre las votaciones, clasificaciones o recompensas.
Un explicador de junio de 2026 examinó cómo las verificaciones biométricas, las redes de confianza social y las herramientas de identidad de conocimiento cero intentan verificar a personas únicas. Cada método implica compensaciones entre privacidad, resistencia a ataques, accesibilidad y control, mientras que la IA puede ayudar a los atacantes a crear personas convincentes a bajo costo.
Tal dijo que Geo dependería de los registros de contribución y las comunidades específicas de dominio en lugar de permitir que el material anónimo tenga el mismo estatus que las afirmaciones adjuntas a personas con historiales públicos. Los editores solicitarían a través de Espacios individuales, y los miembros participarían en la gobernanza de los temas que siguen.
“Tener un interés directo sin apuestas financieras cambia la calidad de aquello a lo que las personas están dispuestas a poner su nombre”, dijo Tal.
El enfoque no elimina la necesidad de decidir quién selecciona a los editores, cómo las comunidades resuelven la manipulación coordinada o si la experiencia adquirida en un tema debe tener peso en otro. Tal describió el problema del “guardián” (gatekeeper) como real, pero argumentó que los Espacios independientes evitarían que una institución controlara todos los campos.
La participación humana también ha ganado atención en la seguridad cripto, donde las herramientas automatizadas pueden detectar actividad maliciosa, pero los usuarios aún autorizan las transacciones. En mayo de 2026, un informe de seguridad de Ledger describió la verificación manual y las pantallas claras de transacciones como salvaguardas contra el phishing asistido por IA, las interfaces falsas y las estafas automatizadas.
Cripto es uno de los primeros Espacios de Geo porque la actividad de la cadena de bloques (blockchain) ofrece una prueba directa de la diferencia entre registros verificables e interpretación humana, dijo Tal.
Una cadena de bloques puede confirmar que una transacción ocurrió en una dirección y un bloque registrados. No puede, sin evidencia adicional, establecer quién controla la dirección, por qué se movieron los fondos, si la actividad fue orgánica o qué planea hacer un proyecto a continuación.
“Los datos en cadena (on-chain) son verificables por construcción. Una transacción ocurrió o no”, dijo Tal. “Todo lo que lo rodea son afirmaciones”.
Los anuncios de proyectos, las descripciones de asociaciones, las previsiones de mercado y las explicaciones de los movimientos de tokens, por lo tanto, requieren un tratamiento separado, según Tal. Geo tiene la intención de adjuntar tales afirmaciones a contribuyentes nombrados y preservar sus registros, incluidas declaraciones anteriores que resultaron ser incorrectas.
La actividad promocional hace que la distinción sea especialmente importante en los mercados de activos digitales, donde los equipos pueden presentar métricas seleccionadas junto con datos de transacciones verificables. Tal dijo que una capa de conocimiento confiable debería etiquetar las categorías en lugar de presentar ambas con la misma voz.
Para los desarrolladores y empresas estadounidenses que implementan IA generativa, el Instituto Nacional de Estándares y Tecnología (NIST) ha recomendado varios controles que se superponen con partes del argumento de Tal.
El Perfil de IA Generativa del NIST, publicado en julio de 2024, aconseja a las organizaciones documentar las fuentes de datos de entrenamiento, monitorear el origen del material generado y evaluar la retroalimentación entre los sistemas de procedencia y los revisores humanos. El marco voluntario también exige que los expertos en el dominio y las comunidades afectadas participen en ciertas evaluaciones.
Los estándares de procedencia de contenido ofrecen otro método para registrar el origen del material digital. La Coalición para la Procedencia y Autenticidad del Contenido (C2PA) utiliza Credenciales de Contenido firmadas criptográficamente para preservar información sobre quién creó o modificó un activo y cómo se editó.
Según la especificación C2PA, sin embargo, la procedencia validada no determina si una afirmación adjunta es buena, mala o veraz. El estándar verifica que las afirmaciones estén conectadas al activo subyacente, correctamente formadas y libres de manipulaciones.
