رفعت ولاية بنسلفانيا دعوى قضائية ضد مطور الذكاء الاصطناعي التوليدي Character.AI، مدعية أن الشركة سمحت لروبوتات الدردشة بتقديم نفسها كمهنيين طبيين مرخصين وتقديم معلومات مضللة للمستخدمين.
يأتي هذا الإجراء، الذي أعلنه مكتب الحاكم جوش شابيرو يوم الثلاثاء، في أعقاب تحقيق وجد أن روبوت دردشة ادعى أنه طبيب نفسي مرخص في بنسلفانيا وقدم رقم ترخيص غير صالح. تقول الولاية إن هذا السلوك ينتهك قانون الممارسات الطبية وتسعى للحصول على أمر قضائي أولي لوقفه.
رفضت Character.AI التعليق على تفاصيل الدعوى القضائية، مشيرة إلى التقاضي المستمر، لكنها صرحت لـ Decrypt بأن "أولويتها القصوى هي سلامة ورفاهية مستخدميها."
وأضاف المتحدث أن الشخصيات على المنصة من صنع المستخدمين، وهي خيالية، وتهدف إلى الترفيه ولعب الأدوار، مع وجود "إخلاءات مسؤولية بارزة في كل محادثة" تنص على أنها ليست أشخاصًا حقيقيين ولا ينبغي الاعتماد عليها للحصول على مشورة مهنية.
وقال المتحدث: "تولي Character.ai أولوية لتطوير المنتجات المسؤول ولديها مراجعات داخلية قوية وعمليات فرق الاختراق (red-teaming) لتقييم الميزات ذات الصلة".
تأتي هذه القضية في الوقت الذي تواجه فيه الشركة تحديات قانونية أخرى مرتبطة بمنصة روبوت الدردشة الخاصة بها. في عام 2024، رفعت أم من فلوريدا دعوى قضائية ضد الشركة بعد وفاة ابنها المراهق انتحارًا عقب أشهر من التفاعل مع روبوت دردشة مبني على شخصية "دينيريس تارجاريان" من مسلسل "صراع العروش". زعمت الدعوى أن المنصة ساهمت في الضرر النفسي. وقد تم تسوية القضية في يناير الماضي.
واجهت الشركة أيضًا شكاوى بشأن روبوتات من صنع المستخدمين تحاكي أشخاصًا حقيقيين. في إحدى الحالات، استخدم روبوت دردشة صورة ضحية قتل مراهقة قبل إزالته بعد اعتراضات من عائلة الضحية.
واستجابة للدعاوى القضائية، قدمت Character AI تدابير أمان جديدة، بما في ذلك أنظمة مصممة للكشف عن المحادثات الضارة وتوجيه المستخدمين إلى موارد الدعم. كما قيدت بعض الميزات للمستخدمين الأصغر سنًا.
يقول مسؤولو بنسلفانيا إن الدعوى القضائية هي جزء من دفعة أوسع لتطبيق القوانين الحالية مع انتشار أدوات الذكاء الاصطناعي. أنشأت الولاية فرقة عمل لتطبيق قوانين الذكاء الاصطناعي ونظام إبلاغ عن الانتهاكات المحتملة.
في مقترح ميزانيته لعامي 2026-2027، دعا شابيرو المشرعين إلى إقرار قواعد جديدة لروبوتات الرفقة المدعومة بالذكاء الاصطناعي، بما في ذلك التحقق من العمر وموافقة الوالدين، وضمانات للإبلاغ عن حالات إيذاء النفس أو العنف وتوجيهها إلى السلطات، وتذكيرات منتظمة بأن المستخدمين لا يتفاعلون مع شخص حقيقي، وحظر المحتوى الجنسي الصريح أو العنيف الذي يضم قاصرين.
وقال شابيرو في بيان: "يستحق سكان بنسلفانيا معرفة من — أو ما — يتفاعلون معه عبر الإنترنت، خاصة عندما يتعلق الأمر بصحتهم. لن نسمح للشركات بنشر أدوات الذكاء الاصطناعي التي تضلل الناس للاعتقاد بأنهم يتلقون نصيحة من أخصائي طبي مرخص."
