أقرت شركة المحاماة سوليفان وكرومويل أمام محكمة إفلاس أمريكية بأن ملفًا حديثًا في قضية رفيعة المستوى احتوى على أخطاء نتجت عن الذكاء الاصطناعي، بما في ذلك استشهادات ملفقة.
"نحن نأسف بشدة لحدوث ذلك،" كتب أندرو دايتديريتش، رئيس قسم إعادة الهيكلة في الشركة، إلى القاضي مارتن غلين، مشيرًا إلى أن الوثيقة تضمنت "هلوسات" من الذكاء الاصطناعي أدت إلى إنتاج مراجع وهمية وتشويه المراجع الموجودة.
جاء هذا الكشف في رسالة إلى محكمة الإفلاس الأمريكية للمنطقة الجنوبية من نيويورك، حيث تمثل الشركة المصفين المعينين من قبل المحكمة من جزر فيرجن البريطانية. ظهرت الأخطاء في مذكرة بتاريخ 9 أبريل، وقالت الشركة إن قواعدها المتعلقة باستخدام الذكاء الاصطناعي لم يتم اتباعها أثناء الإعداد.
تتضمن القضية جهودًا يبذلها هؤلاء المصفون لمتابعة مطالبات مرتبطة بمجموعة Prince Group ومالكها، تشن تشي. يزعم المدعون العامون أن تشن أدار مجمعات احتيالية استهدفت ضحايا في جميع أنحاء العالم وسعوا لاستعادة مليارات الدولارات من العملات المشفرة التي يقولون إنها مرتبطة بالنشاط. تم احتجازه في وقت سابق من هذا العام في كمبوديا ثم أعيد إلى الصين.
من خلال إجراءات الفصل 15 في الولايات المتحدة، يسعى المصفون إلى الاعتراف بسلطتهم للعمل نيابة عن الدائنين والضحايا المزعومين. تم ربط مجموعة Prince Group، المسجلة في جزر فيرجن البريطانية، من قبل السلطات الأمريكية بعمليات احتيال واسعة النطاق في جنوب شرق آسيا وتم فرض عقوبات عليها من قبل حكومتي المملكة المتحدة والولايات المتحدة.
وفقًا لبيان معدل، فإن الملف المقدم في أبريل أخطأ في تفسير السوابق القضائية في أماكن متعددة وتضمن استشهادات لم تدعم المقترحات المنسوبة إليها، بينما بدا أن بعضها لا أساس له على الإطلاق. سحبت الشركة المذكرة الأصلية وقدمت نسخة منقحة.
محامو مجموعة Prince Group وتشن في Boies Schiller Flexner حددوا الأخطاء في البداية. قالوا إن اللغة المنسوبة إلى قانون الإفلاس الأمريكي لم يمكن العثور عليها وأن العديد من المراجع تم تشويهها أو تحديدها بشكل خاطئ. في إحدى الحالات، قالوا إن قضية مستشهد بها أشارت إلى قرار مختلف في دائرة قضائية أخرى.
في ملف منفصل، قال المدعى عليهم إن ما لا يقل عن 28 استشهادًا كانت خاطئة، بما في ذلك اقتباسات منسوبة إلى المحكمة لا وجود لها. جادلوا بأن توقيت التصحيح كان ضارًا لأن الملف المعدل جاء بعد تقديم اعتراضاتهم، وطلبوا من المحكمة تأجيل جلسة استماع مقررة وعقد مؤتمر لمناقشة الحالة.
قالت سوليفان وكرومويل إن سياساتها تتطلب من المحامين إكمال التدريب قبل استخدام أدوات الذكاء الاصطناعي والتحقق بشكل مستقل من جميع المخرجات.
وقالت: "قبل منح أي محامٍ في الشركة إمكانية الوصول إلى أدوات الذكاء الاصطناعي التوليدية، يجب على المحامي إكمال وحدتين تدريبيتين إلزاميتين، يتم تتبع إكمالهما والتحقق منه. يؤكد التدريب مرارًا وتكرارًا على خطر 'هلوسات' الذكاء الاصطناعي، بما في ذلك تلفيق الاستشهادات القضائية، وسوء تفسير المراجع، والاقتباسات غير الدقيقة".
وأضافت: "يوجه التدريب المحامين إلى 'عدم الثقة في أي شيء والتحقق من كل شيء' ويوضح أن الفشل في التحقق بشكل مستقل من المخرجات المولدة بواسطة الذكاء الاصطناعي يشكل انتهاكًا لسياسة الشركة".
وقالت الشركة إن مراجعة أوسع كشفت عن مشكلات صياغة طفيفة إضافية في ملفات أخرى، والتي عزتها إلى خطأ بشري وليس إلى الذكاء الاصطناعي. ولم تحدد المحامين الذين أعدوا المذكرة الأصلية.
تضيف هذه الواقعة إلى قائمة متزايدة من الأخطاء المتعلقة بالذكاء الاصطناعي في الممارسة القانونية، حيث تختبر الشركات أدوات مصممة لتسريع البحث والصياغة. فرضت المحاكم مؤخرًا عقوبات أو وجهت انتقادات للمحامين لتقديمهم ملفات تحتوي على مراجع ملفقة أو غير دقيقة أنتجها الذكاء الاصطناعي. في أستراليا، تم تجريد محامٍ من حقه في ممارسة المهنة كمحامٍ رئيسي العام الماضي بسبب استخدام الذكاء الاصطناعي.
بدأت كليات القانون تتطلب تدريسًا حول هذه التكنولوجيا، بينما حذر كبار القضاة من أن سوء الاستخدام قد يؤثر على نزاهة الإجراءات.
تطرقت الأحكام القضائية الأخيرة أيضًا إلى كيفية تكييف الذكاء الاصطناعي ضمن الأطر القانونية الحالية، بما في ذلك ما إذا كانت التفاعلات مع هذه الأدوات محمية بالامتياز. في الوقت نفسه، تقوم بعض المحاكم بتجربة أنظمة الذكاء الاصطناعي للمساعدة في إدارة أعباء القضايا الكبيرة.
