Засновник Geo Янів Таль виявив чотири недоліки в онлайн-інформації, які, за його словами, роблять відповіді ШІ ненадійними: втрачений провененс, нівельований авторитет, приховані розбіжності та повторювані помилки, згенеровані моделлю.

Засновник Geo Янів Таль розповів crypto.news, що ненадійні відповіді ШІ часто починаються з матеріалу, який отримують моделі, стверджуючи, що Інтернет був розроблений для розповсюдження інформації, а не для збереження її авторитетності, походження чи підзвітності.

«У ШІ немає проблеми з правдою, вона є в Інтернету», — сказав Таль.

За словами Таля, інформація втрачає критичний контекст, коли веб-сайти парсять і перепубліковують її. Твердження може пройти через кілька сторінок, перш ніж потрапити до навчального набору, залишаючи моделі саме твердження, але без чіткого шляху до його оригінального джерела.

Авторитет також стає важко виміряти, коли наукова стаття, оголошення компанії та анонімне повідомлення на форумі потрапляють в один і той же конвеєр даних як текст. Таль сказав, що моделі можуть тоді розглядати матеріали з різними стандартами доказів так, ніби вони мають однакову вагу.

«Провененс руйнується. Твердження парситься, переформулюється і знову парситься, доки оригінальне джерело не стане невиправним», — сказав він.

Засновник Geo виявляє чотири недоліки, що стоять за ненадійними відповідями ШІ

Розбіжності створюють ще одну проблему, оскільки мовні моделі часто об'єднують конкуруючі позиції в одну відповідь. Таль сказав, що таке стиснення може приховувати справжні суперечки серед кваліфікованих експертів, даючи користувачам одну впевнену відповідь, не показуючи, що існують надійні альтернативи.

Четвертий недолік виникає, коли згенерований ШІ матеріал повертається до джерела даних, що використовується пізнішими моделями. Помилки можуть виживати при повторній публікації, тоді як синтетичні статті, дописи та резюме ускладнюють пошук матеріалу, створеного людиною, з якого походить твердження.

«Моделі все частіше навчаються на вихідних даних інших моделей, тому помилки не просто зберігаються, вони посилюються», — сказав Таль.

Незалежні дослідження зафіксували пов'язаний ризик. Дослідження Nature 2024 року вивчило, що відбувається, коли генеративні моделі неодноразово навчаються на матеріалах, створених попередніми моделями. Дослідники описали «колапс моделі» як процес, в якому системи поступово втрачають інформацію про оригінальний розподіл даних.

Менш поширений матеріал почав зникати на ранніх стадіях експериментів, згідно з документом, тоді як пізніші покоління моделей створювали розподіли, що мало нагадували вихідні дані. Дослідники заявили, що доступ до оригінальної, створеної людиною інформації залишається важливим, оскільки згенерований ШІ матеріал поширюється по Інтернету.

Таль не класифікує чотири недоліки як збої, що обмежуються дизайном моделі. За його словами, моделі відтворюють недоліки, вже закладені в їхньому навчальному матеріалі, включаючи відсутні джерела та брак видимих відмінностей між доказами, думками та просуванням.

Людська верифікація ранжуватиме твердження без усунення розбіжностей

Запропонована Geo відповідь починається з відокремлення твердження від його автора та доказів, що його підтверджують. Зв'язки між записами можуть показувати, чи один аргумент підтримує інший, суперечить йому або безпосередньо відповідає на спірний момент.

Після запису цих зв'язків, Geo може впорядковувати аргументи за їхньою оціненою силою, зберігаючи при цьому конкуруючі матеріали під ними, — сказав Таль. Ця структура покликана зберегти доступність розбіжностей, не показуючи кожен внесок як недиференційований потік коментарів.

«Плюралізм не обов'язково означає шум, — сказав Таль. — Ми вважаємо, що кілька добре структурованих конкуруючих точок зору часто є більш чесною відповіддю».

Geo організовує інформацію через незалежні спільноти, які називаються Spaces. Його поточний веб-сайт перелічує початкові Spaces, що охоплюють крипто, здоров'я, ШІ, освіту, світові справи та політику США.

Учасники можуть робити внески та брати участь в обговореннях, тоді як люди з відповідними знаннями можуть подати заявку, щоб стати редакторами. За даними Geo, її кураторська програма просить учасників оцінювати джерела, зв'язувати аргументи та додавати структуровану інформацію до відкритого графу знань.

Модель була розроблена на основі Geo Genesis, яка увійшла в ранній доступ у січні 2025 року. Як повідомлялося раніше, її стандартна структура управління поділяла учасників на Редакторів та Учасників (Members). Редактори отримали право голосу, тоді як Учасники могли робити внески інформації в окремі Spaces.

Побудована на фреймворку управління Aragon OSx, Geo Genesis слідувала за випуском GRC-20, стандарту для представлення пов'язаних знань. The Graph заявила в червні 2025 року, що GRC-20 дозволить спільнотам публікувати структуровану інформацію ончейн та отримувати її через субграфи та Substreams.

Таль, який був співзасновником The Graph до створення Geo, сказав, що експертиза не буде призначатися одним центральним органом влади в рамках запропонованої системи. Дописувачі будуватимуть репутацію через свою роботу, і Geo має намір, щоб цей запис слідував за людиною між Spaces.

«Людське судження зараз є дефіцитним ресурсом, а не надлишковим. Машини генерують більше контенту, ніж люди можуть обробити, і майже ніхто не несе відповідальності за його правдивість».

Управління спільнотою все ще стикається з проблемою ідентичності

Мережа знань, керована людьми, все ще повинна визначати, чи є дописувачі справжніми, кваліфікованими та незалежними. Відкриті системи управління можуть зіткнутися з атаками Сивілли, в яких один учасник створює кілька ідентичностей для отримання впливу на голосування, рейтинги або винагороди.

Пояснювальний матеріал від червня 2026 року розглянув, як біометричні перевірки, мережі соціальної довіри та інструменти ідентичності з нульовим розголошенням намагаються перевіряти унікальних людей. Кожен метод передбачає компроміси між конфіденційністю, стійкістю до атак, доступністю та контролем, тоді як ШІ може допомогти зловмисникам створювати переконливі персони за низьку вартість.

Таль сказав, що Geo покладатиметься на записи внесків та доменно-специфічні спільноти, замість того, щоб дозволяти анонімному матеріалу мати такий же статус, як твердження, пов'язані з людьми, що мають публічну історію. Редактори подаватимуть заявки через окремі Spaces, а учасники братимуть участь в управлінні темами, за якими вони стежать.

«Залученість без фінансових ставок змінює якість того, за що люди готові відповідати своїм ім'ям», — сказав Таль.

Цей підхід не усуває необхідності вирішувати, хто обирає редакторів, як спільноти вирішують скоординовані маніпуляції, або чи повинна експертиза, отримана в одній темі, мати вагу в іншій. Таль описав проблему привратників як реальну, але стверджував, що незалежні Spaces запобігатимуть одній установі контролювати кожну сферу.

Залучення людини також привернуло увагу в криптобезпеці, де автоматизовані інструменти можуть виявляти шкідливу діяльність, але користувачі все ще авторизують транзакції. У травні 2026 року звіт Ledger про безпеку описав ручну перевірку та чітке відображення транзакцій як запобіжні заходи проти фішингу за допомогою ШІ, підроблених інтерфейсів та автоматизованих шахрайств.

Ончейн-записи відокремлюють транзакції від супровідних тверджень

Крипто є одним з перших Spaces Geo, оскільки активність блокчейну пропонує пряму перевірку різниці між верифікованими записами та людською інтерпретацією, — сказав Таль.

Блокчейн може підтвердити, що транзакція відбулася за записаною адресою та в блоці. Він не може, без додаткових доказів, встановити, хто контролює адресу, чому кошти перемістилися, чи була активність органічною, або що проєкт планує робити далі.

«Ончейн-дані верифіковані за своєю конструкцією. Транзакція відбулася або ні, — сказав Таль. — Все, що оточує її, — це твердження».

Оголошення проєктів, описи партнерств, ринкові прогнози та пояснення руху токенів, відповідно, вимагають окремого ставлення, за словами Таля. Geo має намір прив'язувати такі твердження до іменованих дописувачів та зберігати їхні записи, включаючи попередні заяви, які виявилися невірними.

Промоційна діяльність робить це розрізнення особливо важливим на ринках цифрових активів, де команди можуть представляти вибрані показники поруч із верифікованими даними транзакцій. Таль сказав, що надійний рівень знань повинен позначати категорії, а не представляти обидва в одному тоні.

Керівництво США також закликає до провененсу та людського перегляду

Для розробників та компаній США, що розгортають генеративний ШІ, Національний інститут стандартів і технологій (NIST) рекомендував кілька заходів контролю, які перетинаються з частинами аргументації Таля.

Профіль генеративного ШІ NIST, опублікований у липні 2024 року, радить організаціям документувати джерела навчальних даних, відстежувати походження згенерованих матеріалів та оцінювати зворотний зв'язок між системами провененсу та людськими рецензентами. Добровільна рамкова програма також закликає експертів у галузі та постраждалі спільноти брати участь у певних оцінках.

Стандарти провененсу контенту пропонують ще один метод для запису походження цифрового матеріалу. Коаліція з провененсу та автентичності контенту (C2PA) використовує криптографічно підписані Content Credentials для збереження інформації про те, хто створив або змінив актив, і як він був відредагований.

Згідно зі специфікацією C2PA, однак, валідований провененс не визначає, чи є прикріплене твердження хорошим, поганим або правдивим. Стандарт перевіряє, що твердження пов'язані з основним активом, правильно сформовані та вільні від втручання.