سألت OpenAI أعضاء الكونغرس عما إذا كان بإمكان شركات الذكاء الاصطناعي المنافسة الاتفاق قانونيًا على إبطاء التطوير، بينما يحث كبير علمائها الصناعة على وضع معايير أمان مشتركة.

وفقًا لـ WIRED، التي استشهدت بأشخاص مقربين من الشركة، سألت OpenAI المشرعين في الأسابيع الأخيرة عما إذا كان الاتفاق بين شركات الذكاء الاصطناعي لإبطاء التطوير قد ينتهك قوانين مكافحة الاحتكار.

يأتي التواصل مع المشرعين بعد دعوة كبير علماء OpenAI، جاكوب باتشوكي، إلى تباطؤ طوعي حتى يتمكن المطورون من إثبات أن أنظمتهم آمنة بشكل أفضل. لكن الشركات تواجه ضغطًا للاستمرار في التقدم حتى عندما يكون لدى باحثيها مخاوف.

قالت ميراندا بوجن، كبيرة التقنيين في مركز الديمقراطية والتكنولوجيا، لـ Decrypt: "إن المنافسة التجارية والجيوسياسية في مجال الذكاء الاصطناعي شديدة للغاية، مما يؤدي إلى ديناميكية مقلقة حيث تُحفز الشركات على إطلاق المنتجات قبل فهم مخاطرها بالكامل".

وأضافت: "حتى عندما يعرف الموظفون الداخليون أن هناك حاجة لمزيد من البحث والاختبار، تواجه شركاتهم ضغوطًا هائلة لخفض التكاليف وتجاوز اختبارات السلامة الحرجة، على الرغم من تراكم الأدلة حول عواقب التحرك بسرعة كبيرة".

يمكن أن يثير الاتفاق على إبطاء تطوير الذكاء الاصطناعي مخاوف تتعلق بمكافحة الاحتكار عن طريق تقييد المنافسة. وقد قدم السيناتوران آدم شيف وجيم بانكس تشريعًا لحماية بعض التعاونات الأمنية، شريطة إخطار وزارة العدل مسبقًا.

تأتي المناقشة حول إبطاء تطوير الذكاء الاصطناعي في الوقت الذي تتنافس فيه الولايات المتحدة والصين على الريادة في هذه التكنولوجيا. وقد أرجأ الرئيس الأمريكي دونالد ترامب أمرًا تنفيذيًا بشأن الذكاء الاصطناعي في مايو/أيار بسبب مخاوف من أنه قد يضعف ريادة أمريكا على الصين. ثم وقع ترامب الأمر لاحقًا في يونيو/حزيران، مما أوجد عملية مراجعة طوعية للنماذج المتقدمة قبل إطلاقها.

وبشكل مباشر أكثر من المخاوف المتعلقة بالأمن القومي، يمكن أن تجعل الحوافز المالية الاتفاق صعبًا.

قال دنكان سابيان، رئيس قسم الاتصالات في معهد أبحاث الذكاء الآلي، لـ Decrypt: "كل تقدم في ظل الظروف الحالية يحقق ملايين أو مليارات إضافية من التمويل ويضع مبدعي هذا التقدم في موقع أكبر من القوة والتأثير".

وصف سابيان ديناميكية سباق التسلح بأنها حقيقية، وقال إن OpenAI و Anthropic تواجهان ضغطًا للاستمرار في التقدم على الرغم من المخاطر غير المؤكدة لأن كل نظام جديد يساعد في بناء خلفاء أكثر قدرة، مما يسمح لمنافس بالتقدم إذا تباطأت أي من الشركتين دون اتفاق مشترك.

وقال: "هذا صحيح بشكل خاص لأن مكاسب الذكاء تتضاعف؛ كل نظام جديد يجعل تدريب ونشر النظام التالي الأكثر تقدمًا أسهل". وأضاف: "بدون نوع من آلية التنسيق، فإن التراجع يعني فقط أن الطرف الآخر سيحصل على السبق".

في أغسطس، أوقفت OpenAI العمل الداخلي على مشروع Astra الذي يفتقر إلى ضمانات أقوى بشأن مخاوف الأمن السيبراني. ومع ذلك، خففت كل من OpenAI و Anthropic من التزاماتهما المتعلقة بالسلامة في فبراير/شباط، حيث جادل كبير العلماء في Anthropic، جاريد كابلان، بأن إبطاء التطوير بشكل مستقل كان أقل منطقية بينما استمر المنافسون في التقدم.

تصاعد الجدل حول إبطاء تطوير الذكاء الاصطناعي هذا الأسبوع بعد أن أعلن مهندس Anthropic السابق جاكوب كوكسون استقالته علنًا، مستشهدًا بمخاوف بشأن المخاطر التي يشكلها استمرار تطوير الذكاء الاصطناعي على البشرية.

قال كوكسون على X: "الناس الذين يبنون الذكاء الاصطناعي يعتقدون بجدية أنه يمكن أن يقتلنا جميعًا بحلول نهاية العقد"، مضيفًا أنها ليست "حيلة تسويقية".

وكتب: "إذا كان هناك أي شيء، فإن العديد من المديرين التنفيذيين وكبار الباحثين يصوغون تعبيراتهم في الصحافة لتبدو معقولة - لكنني أسمع نفس الأشخاص يعبرون عن خوفهم سرًا. لا يوجد نشاط بشري آخر يشكل هذا المستوى من الخطر".

ومع ذلك، قال سابيان إن الباحثين قد لا يحققون الكثير بالاستقالة إذا حل محلهم شخص آخر ببساطة.

وقال: "إذا اكتسب عدد كاف منهم معرفة مشتركة بأنه يجب عليهم جميعًا التوقف، فيمكنهم تجاوز حاجز التنسيق والتوقف معًا بدلاً من مجرد استبدالهم بالشخص التالي الأقل حذرًا قليلاً".