حدد يانيف تال، مؤسس Geo، أربع نقاط ضعف في المعلومات عبر الإنترنت قال إنها تجعل إجابات الذكاء الاصطناعي غير موثوقة: فقدان المصدر، وتسطيح الموثوقية، والخلاف الخفي، والأخطاء المتكررة الناتجة عن النماذج.
صرح يانيف تال، مؤسس Geo، لموقع crypto.news بأن إجابات الذكاء الاصطناعي غير الموثوقة غالبًا ما تبدأ بالمواد التي تتلقاها النماذج، مجادلًا بأن الإنترنت صُمم لتوزيع المعلومات بدلاً من الحفاظ على سلطتها أو أصلها أو مساءلتها.
قال تال: "الذكاء الاصطناعي ليس لديه مشكلة حقيقة، بل الإنترنت هو من لديه".
وفقًا لتال، تفقد المعلومات السياق الحاسم مع قيام مواقع الويب بسحبها وإعادة نشرها. قد يمر الادعاء عبر عدة صفحات قبل الدخول في مجموعة تدريب، مما يترك النموذج بالبيان ولكن بدون مسار واضح للعودة إلى مصدره الأصلي.
تصبح الموثوقية أيضًا صعبة القياس عندما تدخل ورقة بحثية وإعلان شركة ومنشور منتدى مجهول نفس مسار البيانات كنص. وقال تال إن النماذج قد تتعامل بعد ذلك مع المواد ذات المعايير المختلفة للأدلة كما لو كانت تحمل وزنًا مشابهًا.
وقال: "المصدر ينهار. يتم سحب الادعاء وإعادة صياغته وإعادة سحبه حتى يصبح المصدر الأصلي غير قابل للاسترداد".
يخلق الخلاف مشكلة أخرى لأن نماذج اللغة غالبًا ما تجمع المواقف المتنافسة في استجابة واحدة. وقال تال إن مثل هذا الضغط يمكن أن يخفي نزاعات حقيقية بين الخبراء المؤهلين، مما يمنح المستخدمين إجابة واحدة واثقة دون إظهار وجود بدائل موثوقة.
ينشأ الضعف الرابع عندما تعود المواد المولدة بواسطة الذكاء الاصطناعي إلى إمداد البيانات الذي تستخدمه النماذج اللاحقة. يمكن أن تستمر الأخطاء في النشر المتكرر، بينما تجعل المقالات والمنشورات والملخصات الاصطناعية من الصعب تحديد المواد المنتجة بشريًا التي نشأ منها الادعاء.
قال تال: "تتدرب النماذج بشكل متزايد على مخرجات نماذج أخرى، لذا فإن الأخطاء لا تستمر فحسب، بل تتضخم".
وثقت الأبحاث المستقلة خطرًا ذا صلة. فحصت دراسة أجريت عام 2024 في مجلة Nature ما يحدث عندما تتعلم النماذج التوليدية مرارًا وتكرارًا من المواد التي تنتجها النماذج السابقة. وصف الباحثون "انهيار النموذج" بأنه عملية تفقد فيها الأنظمة المعلومات تدريجيًا حول التوزيع الأصلي للبيانات.
بدأت المواد الأقل شيوعًا في الاختفاء خلال المراحل المبكرة من التجارب، وفقًا للورقة البحثية، بينما أنتجت الأجيال اللاحقة من النماذج توزيعات لا تشبه كثيرًا بيانات المصدر. وقال الباحثون إن الوصول إلى المعلومات الأصلية التي ينتجها الإنسان يظل مهمًا مع انتشار المواد المولدة بواسطة الذكاء الاصطناعي عبر الإنترنت.
لا يصنف تال نقاط الضعف الأربعة على أنها إخفاقات تقتصر على تصميم النموذج. في رأيه، تعيد النماذج إنتاج العيوب المتأصلة بالفعل في مواد تدريبها، بما في ذلك المصادر المفقودة وغياب التمييزات الواضحة بين الأدلة والرأي والترويج.
تبدأ إجابة Geo المقترحة بفصل البيان عن مؤلفه والأدلة التي تدعمه. يمكن أن تظهر العلاقات بين الإدخالات ما إذا كانت حجة تدعم أخرى، أو تناقضها، أو تستجيب مباشرة لنقطة متنازع عليها.
بمجرد تسجيل هذه الروابط، يمكن لـ Geo ترتيب الحجج حسب قوتها المقدرة مع الاحتفاظ بالمواد المتنافسة تحتها، كما قال تال. ويهدف الهيكل إلى إبقاء الخلاف متاحًا دون عرض كل مساهمة كموجز تعليقات غير متباين.
قال تال: "التعددية لا تعني بالضرورة ضوضاء. نعتقد أن تقديم وجهات نظر متنافسة ومنظمة بشكل جيد هو غالبًا الإجابة الأكثر صدقًا".
تنظم Geo المعلومات من خلال مجتمعات مستقلة تسمى "مساحات" (Spaces). يعرض موقعها الحالي مساحات أولية تغطي العملات المشفرة والصحة والذكاء الاصطناعي والتعليم والشؤون العالمية والسياسة الأمريكية.
يمكن للأعضاء المساهمة والمشاركة في المناقشات، بينما يمكن للأشخاص ذوي المعرفة ذات الصلة التقدم ليصبحوا محررين. وفقًا لـ Geo، يطلب برنامج المنسقين الخاص بها من المشاركين تقييم المصادر وربط الحجج وإضافة معلومات منظمة إلى رسم بياني معرفي مفتوح.
تم تطوير النموذج من Geo Genesis، الذي دخل الوصول المبكر في يناير 2025. وكما ذكر سابقًا، قام هيكل الحوكمة الافتراضي الخاص به بتقسيم المشاركين إلى محررين وأعضاء. حصل المحررون على سلطة التصويت، بينما يمكن للأعضاء المساهمة بالمعلومات في مساحات فردية.
بنيت Geo Genesis على إطار حوكمة Aragon OSx، وتبع ذلك إصدار GRC-20، وهو معيار لتمثيل المعرفة المتصلة. قالت The Graph في يونيو 2025 إن GRC-20 يمكن أن يسمح للمجتمعات بنشر معلومات منظمة على السلسلة واستردادها عبر الرسوم البيانية الفرعية (subgraphs) والتدفقات الفرعية (Substreams).
قال تال، الذي شارك في تأسيس The Graph قبل البدء في Geo، إن الخبرة لن يتم تعيينها من قبل سلطة مركزية واحدة بموجب النظام المقترح. سيبني المساهمون سمعة من خلال عملهم، وتعتزم Geo أن يتبع هذا السجل الشخص بين المساحات.
قال تال: "الحكم البشري هو المدخل النادر الآن، وليس المدخل الزائد عن الحاجة. تنتج الآلات محتوى أكثر مما يستطيع الناس معالجته، ولا يوجد تقريبًا أي شخص مسؤول عن حقيقة أي منه".
لا تزال شبكة المعرفة التي يديرها البشر بحاجة إلى تحديد ما إذا كان المساهمون حقيقيين ومؤهلين ومستقلين. يمكن أن تواجه أنظمة الحوكمة المفتوحة هجمات سيبيل، حيث ينشئ مشارك واحد هويات متعددة لكسب النفوذ على التصويت أو التصنيفات أو المكافآت.
فحصت شرح في يونيو 2026 كيف تحاول الفحوصات البيومترية، وشبكات الثقة الاجتماعية، وأدوات الهوية ذات المعرفة الصفرية التحقق من أشخاص فريدين. تتضمن كل طريقة مفاضلات بين الخصوصية، ومقاومة الهجمات، وإمكانية الوصول، والتحكم، بينما يمكن للذكاء الاصطناعي أن يساعد المهاجمين على إنشاء شخصيات مقنعة بتكلفة منخفضة.
قال تال إن Geo ستعتمد على سجلات المساهمات والمجتمعات الخاصة بالمجال بدلاً من السماح للمواد المجهولة بأن تحمل نفس وضع الادعاءات المنسوبة لأشخاص لهم تاريخ علني. سيتقدم المحررون بطلب من خلال مساحات فردية، وسيشترك الأعضاء في حوكمة المواضيع التي يتابعونها.
قال تال: "المشاركة الجادة دون مصالح مالية تغير جودة ما يرغب الناس في وضع أسمائهم عليه".
لا يلغي هذا النهج الحاجة إلى تحديد من يختار المحررين، وكيف تحل المجتمعات التلاعب المنسق، أو ما إذا كانت الخبرة المكتسبة في موضوع واحد يجب أن تحمل وزنًا في موضوع آخر. وصف تال قضية حارس البوابة بأنها حقيقية، لكنه جادل بأن المساحات المستقلة ستمنع مؤسسة واحدة من التحكم في كل مجال.
اكتسب التدخل البشري أيضًا اهتمامًا في أمن العملات المشفرة، حيث قد تكتشف الأدوات الآلية النشاط الضار، لكن المستخدمين لا يزالون يوافقون على المعاملات. في مايو 2026، وصف تقرير أمني لـ Ledger التحقق اليدوي وعروض المعاملات الواضحة بأنها ضمانات ضد التصيد الاحتيالي بمساعدة الذكاء الاصطناعي، والواجهات المزيفة، وعمليات الاحتيال الآلية.
تعد العملات المشفرة واحدة من أولى مساحات Geo لأن نشاط البلوك تشين يقدم اختبارًا مباشرًا للفرق بين السجلات القابلة للتحقق والتفسير البشري، كما قال تال.
يمكن للبلوك تشين أن يؤكد حدوث معاملة في عنوان وكتلة مسجلة. ومع ذلك، لا يمكنها، دون أدلة إضافية، تحديد من يتحكم في العنوان، أو لماذا تحركت الأموال، أو ما إذا كان النشاط عضويًا، أو ما يخطط المشروع لفعله بعد ذلك.
قال تال: "بيانات السلسلة قابلة للتحقق بحكم تصميمها. لقد حدثت المعاملة أو لم تحدث". وأضاف: "كل ما يحيط بها هو ادعاءات".
لذلك تتطلب إعلانات المشاريع، وأوصاف الشراكات، وتوقعات السوق، وتفسيرات لتحركات الرموز معالجة منفصلة، وفقًا لتال. تعتزم Geo ربط هذه الادعاءات بمساهمين محددين بالاسم والحفاظ على سجلاتهم، بما في ذلك التصريحات السابقة التي ثبت خطؤها.
يجعل النشاط الترويجي هذا التمييز مهمًا بشكل خاص في أسواق الأصول الرقمية، حيث قد تقدم الفرق مقاييس مختارة بجانب بيانات المعاملات القابلة للتحقق. وقال تال إن طبقة معرفية موثوقة يجب أن تصنف الفئات بدلاً من تقديم كليهما بنفس النبرة.
بالنسبة للمطورين والشركات الأمريكية التي تنشر الذكاء الاصطناعي التوليدي، أوصى المعهد الوطني للمعايير والتقنية (NIST) بالعديد من الضوابط التي تتداخل مع أجزاء من حجة تال.
ينصح ملف الذكاء الاصطناعي التوليدي (Generative AI Profile) الخاص بالمعهد الوطني للمعايير والتقنية (NIST)، الذي نُشر في يوليو 2024، المؤسسات بتوثيق مصادر بيانات التدريب، ومراقبة أصل المواد المولدة، وتقييم الملاحظات بين أنظمة المصدر والمراجعين البشريين. يدعو الإطار الطوعي أيضًا خبراء المجال والمجتمعات المتأثرة إلى المشاركة في تقييمات معينة.
توفر معايير مصدر المحتوى طريقة أخرى لتسجيل مصدر المواد الرقمية. يستخدم التحالف من أجل مصدر المحتوى والأصالة (C2PA) بيانات اعتماد المحتوى الموقعة تشفيريًا للحفاظ على معلومات حول من أنشأ أو غير أحد الأصول وكيف تم تعديله.
بموجب مواصفات C2PA، لا يحدد المصدر المتحقق منه ما إذا كان الادعاء المرفق جيدًا أو سيئًا أو حقيقيًا. يتحقق المعيار من أن التأكيدات مرتبطة بالأصل الأساسي، وتشكلت بشكل صحيح، وخالية من العبث.
