Người sáng lập Geo, Yaniv Tal, đã xác định bốn điểm yếu trong thông tin trực tuyến mà ông cho rằng khiến các câu trả lời của AI không đáng tin cậy: mất nguồn gốc, quyền uy bị làm phẳng, bất đồng bị che giấu và lỗi do mô hình tạo ra bị lặp lại.
Người sáng lập Geo, Yaniv Tal, nói với crypto.news rằng các câu trả lời AI không đáng tin cậy thường bắt nguồn từ tài liệu mà các mô hình nhận được, lập luận rằng internet được thiết kế để phân phối thông tin hơn là để bảo toàn quyền uy, nguồn gốc hoặc trách nhiệm giải trình của nó.
“AI không có vấn đề về sự thật, internet mới có,” Tal nói.
Theo Tal, thông tin mất ngữ cảnh quan trọng khi các trang web cạo (scrape) và tái xuất bản nó. Một tuyên bố có thể đi qua nhiều trang trước khi đi vào tập dữ liệu huấn luyện, khiến mô hình chỉ còn lại câu phát biểu mà không có đường dẫn rõ ràng trở lại nguồn gốc của nó.
Quyền uy cũng trở nên khó đo lường khi một bài báo nghiên cứu, thông báo của công ty và bài đăng ẩn danh trên diễn đàn cùng đi vào cùng một đường dẫn dữ liệu dưới dạng văn bản. Tal cho biết các mô hình có thể sau đó xử lý tài liệu với các tiêu chuẩn bằng chứng khác nhau như thể chúng có trọng lượng tương đương.
“Nguồn gốc sụp đổ. Một tuyên bố bị cạo, diễn giải lại và cạo lại cho đến khi nguồn gốc ban đầu không thể phục hồi được,” ông nói.
Sự bất đồng tạo ra một vấn đề khác vì các mô hình ngôn ngữ thường kết hợp các quan điểm đối lập vào một phản hồi duy nhất. Tal cho biết việc nén thông tin như vậy có thể che giấu những tranh chấp thực sự giữa các chuyên gia có trình độ, đưa ra cho người dùng một câu trả lời tự tin duy nhất mà không chỉ ra rằng các lựa chọn thay thế đáng tin cậy vẫn tồn tại.
Điểm yếu thứ tư phát sinh khi tài liệu do AI tạo ra quay trở lại nguồn dữ liệu được sử dụng bởi các mô hình sau này. Lỗi có thể tồn tại qua nhiều lần xuất bản, trong khi các bài viết, bài đăng và tóm tắt tổng hợp khiến việc định vị tài liệu do con người tạo ra, từ đó một tuyên bố bắt nguồn, trở nên khó khăn hơn.
“Các mô hình ngày càng được huấn luyện dựa trên đầu ra từ các mô hình khác, vì vậy lỗi không chỉ tồn tại mà còn được khuếch đại,” Tal nói.
Nghiên cứu độc lập đã ghi nhận một rủi ro liên quan. Một nghiên cứu của Nature năm 2024 đã kiểm tra điều gì xảy ra khi các mô hình tạo sinh liên tục học từ tài liệu do các mô hình trước đó tạo ra. Các nhà nghiên cứu mô tả “sự sụp đổ mô hình” là một quá trình trong đó các hệ thống dần dần mất thông tin về phân phối dữ liệu gốc.
Theo bài báo, các tài liệu ít phổ biến hơn bắt đầu biến mất trong giai đoạn đầu của thí nghiệm, trong khi các thế hệ mô hình sau tạo ra các phân phối ít giống với dữ liệu nguồn. Các nhà nghiên cứu cho biết việc tiếp cận thông tin gốc, do con người tạo ra vẫn quan trọng khi tài liệu do AI tạo ra lan rộng trên internet.
Tal không phân loại bốn điểm yếu này là những thất bại chỉ giới hạn ở thiết kế mô hình. Theo ông, các mô hình tái tạo những khuyết điểm đã có sẵn trong tài liệu huấn luyện của chúng, bao gồm thiếu nguồn và thiếu sự phân biệt rõ ràng giữa bằng chứng, ý kiến và quảng bá.
Giải pháp được Geo đề xuất bắt đầu bằng việc tách một tuyên bố khỏi tác giả của nó và bằng chứng hỗ trợ. Mối quan hệ giữa các mục nhập có thể cho thấy liệu một lập luận có hỗ trợ một lập luận khác, mâu thuẫn với nó hay phản hồi trực tiếp đến một điểm tranh cãi hay không.
Tal cho biết, một khi các liên kết đó được ghi lại, Geo có thể sắp xếp các lập luận theo mức độ mạnh mẽ được đánh giá của chúng trong khi vẫn giữ lại các tài liệu cạnh tranh bên dưới. Cấu trúc này nhằm mục đích giữ cho sự bất đồng luôn có sẵn mà không hiển thị mọi đóng góp như một luồng bình luận không phân biệt.
“Đa nguyên không nhất thiết phải có nghĩa là nhiễu loạn,” Tal nói. “Chúng tôi cho rằng một số quan điểm cạnh tranh có cấu trúc tốt thường là câu trả lời trung thực hơn.”
Geo tổ chức thông tin thông qua các cộng đồng độc lập được gọi là Không gian (Spaces). Trang web hiện tại của nó liệt kê các Không gian ban đầu bao gồm crypto, y tế, AI, giáo dục, các vấn đề thế giới và chính trị Hoa Kỳ.
Các thành viên có thể đóng góp và tham gia thảo luận, trong khi những người có kiến thức liên quan có thể ứng tuyển để trở thành biên tập viên. Theo Geo, chương trình giám tuyển của họ yêu cầu người tham gia đánh giá nguồn, kết nối các lập luận và thêm thông tin có cấu trúc vào một biểu đồ tri thức mở.
Mô hình này được phát triển từ Geo Genesis, đã ra mắt phiên bản truy cập sớm vào tháng 1 năm 2025. Như đã báo cáo trước đây, cấu trúc quản trị mặc định của nó chia những người tham gia thành Biên tập viên và Thành viên. Biên tập viên nhận được quyền bỏ phiếu, trong khi Thành viên có thể đóng góp thông tin vào từng Không gian riêng lẻ.
Được xây dựng trên khuôn khổ quản trị Aragon OSx, Geo Genesis tiếp nối việc phát hành GRC-20, một tiêu chuẩn để đại diện cho tri thức được kết nối. The Graph cho biết vào tháng 6 năm 2025 rằng GRC-20 có thể cho phép các cộng đồng xuất bản thông tin có cấu trúc trên chuỗi (onchain) và truy xuất nó thông qua subgraphs và Substreams.
Tal, người đồng sáng lập The Graph trước khi bắt đầu Geo, cho biết chuyên môn sẽ không được giao bởi một cơ quan trung ương duy nhất theo hệ thống đề xuất. Những người đóng góp sẽ xây dựng danh tiếng thông qua công việc của họ, và Geo dự định hồ sơ đó sẽ theo một người giữa các Không gian.
“Phán đoán của con người hiện là yếu tố đầu vào khan hiếm, chứ không phải dư thừa. Máy móc tạo ra nhiều nội dung hơn khả năng xử lý của con người, và hầu như không có ai chịu trách nhiệm về sự thật của nó.”
Một mạng lưới tri thức do con người vận hành vẫn phải xác định liệu những người đóng góp có chân thực, đủ điều kiện và độc lập hay không. Các hệ thống quản trị mở có thể đối mặt với các cuộc tấn công Sybil, trong đó một người tham gia tạo nhiều danh tính để giành ảnh hưởng đối với việc bỏ phiếu, xếp hạng hoặc phần thưởng.
Một bài giải thích vào tháng 6 năm 2026 đã xem xét cách các công cụ kiểm tra sinh trắc học, mạng lưới tin cậy xã hội và công cụ nhận dạng không kiến thức (zero-knowledge identity) cố gắng xác minh những người duy nhất. Mỗi phương pháp đều liên quan đến sự đánh đổi giữa quyền riêng tư, khả năng chống tấn công, khả năng tiếp cận và kiểm soát, trong khi AI có thể giúp kẻ tấn công tạo ra các nhân vật thuyết phục với chi phí thấp.
Tal cho biết Geo sẽ dựa vào hồ sơ đóng góp và các cộng đồng chuyên biệt theo lĩnh vực thay vì cho phép tài liệu ẩn danh có cùng trạng thái với các tuyên bố được gắn với những người có lịch sử công khai. Các biên tập viên sẽ đăng ký thông qua từng Không gian riêng lẻ, và các thành viên sẽ tham gia vào việc quản lý các chủ đề mà họ theo dõi.
“Tham gia một cách nghiêm túc mà không có lợi ích tài chính sẽ thay đổi chất lượng những gì mọi người sẵn sàng đặt tên của mình vào,” Tal nói.
Cách tiếp cận này không loại bỏ nhu cầu quyết định ai sẽ chọn biên tập viên, cách các cộng đồng giải quyết việc thao túng có tổ chức, hoặc liệu chuyên môn kiếm được trong một lĩnh vực có nên có trọng lượng trong lĩnh vực khác hay không. Tal mô tả vấn đề người gác cổng là có thật nhưng lập luận rằng các Không gian độc lập sẽ ngăn chặn một tổ chức kiểm soát mọi lĩnh vực.
Sự tham gia của con người cũng đã nhận được sự chú ý trong an ninh crypto, nơi các công cụ tự động có thể phát hiện hoạt động độc hại, nhưng người dùng vẫn phải ủy quyền các giao dịch. Vào tháng 5 năm 2026, một báo cáo bảo mật của Ledger đã mô tả việc xác minh thủ công và hiển thị giao dịch rõ ràng như là các biện pháp bảo vệ chống lại lừa đảo qua mạng (phishing) do AI hỗ trợ, giao diện giả mạo và các vụ lừa đảo tự động.
Crypto là một trong những Không gian đầu tiên của Geo vì hoạt động blockchain mang lại một thử nghiệm trực tiếp về sự khác biệt giữa các bản ghi có thể kiểm chứng và sự diễn giải của con người, Tal nói.
Một blockchain có thể xác nhận rằng một giao dịch đã xảy ra tại một địa chỉ và khối được ghi lại. Nó không thể, nếu không có bằng chứng bổ sung, thiết lập ai kiểm soát địa chỉ đó, tại sao tiền đã di chuyển, liệu hoạt động có tự nhiên hay không, hoặc dự án đó dự định làm gì tiếp theo.
“Dữ liệu trên chuỗi (on-chain) có thể kiểm chứng được theo thiết kế. Một giao dịch đã xảy ra hoặc không,” Tal nói. “Mọi thứ bao quanh nó đều là các tuyên bố.”
Theo Tal, các thông báo dự án, mô tả đối tác, dự báo thị trường và giải thích về các biến động token do đó đòi hỏi phải được xử lý riêng. Geo dự định gắn các tuyên bố như vậy với những người đóng góp có tên và bảo toàn hồ sơ của họ, bao gồm cả những tuyên bố trước đó đã được chứng minh là sai.
Hoạt động quảng bá làm cho sự phân biệt này đặc biệt quan trọng trong thị trường tài sản kỹ thuật số, nơi các đội có thể trình bày các chỉ số được chọn bên cạnh dữ liệu giao dịch có thể kiểm chứng. Tal nói rằng một lớp tri thức đáng tin cậy nên dán nhãn các danh mục hơn là trình bày cả hai bằng cùng một giọng điệu.
Đối với các nhà phát triển và công ty Hoa Kỳ triển khai AI tạo sinh, Viện Tiêu chuẩn và Công nghệ Quốc gia (NIST) đã khuyến nghị một số biện pháp kiểm soát trùng lặp với một phần lập luận của Tal.
Hồ sơ AI tạo sinh của NIST, được xuất bản vào tháng 7 năm 2024, khuyến nghị các tổ chức ghi lại các nguồn dữ liệu huấn luyện, giám sát nguồn gốc của tài liệu được tạo ra và đánh giá phản hồi giữa các hệ thống nguồn gốc và người đánh giá là con người. Khung tự nguyện này cũng kêu gọi các chuyên gia lĩnh vực và các cộng đồng bị ảnh hưởng tham gia vào một số đánh giá nhất định.
Các tiêu chuẩn nguồn gốc nội dung cung cấp một phương pháp khác để ghi lại nơi tài liệu kỹ thuật số bắt nguồn. Liên minh về Nguồn gốc và Tính xác thực Nội dung (C2PA) sử dụng Chứng chỉ Nội dung được ký bằng mật mã để bảo toàn thông tin về người đã tạo hoặc thay đổi một tài sản và cách nó được chỉnh sửa.
Tuy nhiên, theo đặc tả của C2PA, nguồn gốc được xác thực không xác định liệu một tuyên bố đính kèm là tốt, xấu hay trung thực. Tiêu chuẩn này xác minh rằng các khẳng định được kết nối với tài sản cơ bản, được hình thành chính xác và không bị giả mạo.
GRC
