شرکت حقوقی سالیوان و کرامول در دادگاه ورشکستگی ایالات متحده اذعان کرده است که یک پروندهنگاری اخیر در یک پروندهی مهم، حاوی خطاهای تولید شده توسط هوش مصنوعی، از جمله استنادهای ساختگی بوده است.
اندرو دیتدریچ، رئیس بخش بازسازی شرکت، به قاضی مارتین گلن نوشت: «ما عمیقاً از وقوع این اتفاق متأسفیم» و بیان کرد که این سند شامل «توهمات» هوش مصنوعی بوده که مراجع ساختگی تولید کرده و مراجع موجود را تحریف کرده است.
این افشاگری در نامهای به دادگاه ورشکستگی ایالات متحده در ناحیهی جنوبی نیویورک انجام شد، جایی که این شرکت نمایندگی مدیران تصفیهی منصوبشده توسط دادگاه از جزایر ویرجین بریتانیا را بر عهده دارد. این اشتباهات در یک درخواست مورخ 9 آوریل ظاهر شد و شرکت اظهار داشت که قوانینش در مورد استفاده از هوش مصنوعی در طول آمادهسازی رعایت نشده است.
این پرونده شامل تلاشهای این مدیران تصفیه برای پیگیری ادعاهای مرتبط با گروه «پرینس گروپ» و صاحب آن، «چن ژی» است. دادستانها ادعا میکنند که چن، مجموعههای کلاهبرداری را هدایت کرده که قربانیان را در سراسر جهان هدف قرار دادهاند و به دنبال بازیابی میلیاردها دلار ارز دیجیتال هستند که به گفتهی آنها به این فعالیتها مرتبط است. او اوایل سال جاری در کامبوج بازداشت و سپس به چین بازگردانده شد.
از طریق مراحل فصل 15 در ایالات متحده، مدیران تصفیه به دنبال به رسمیت شناخته شدن اختیارات خود برای اقدام به نمایندگی از طلبکاران و قربانیان ادعایی هستند. گروه «پرینس گروپ»، که در جزایر ویرجین بریتانیا به ثبت رسیده، توسط مقامات ایالات متحده به عملیات کلاهبرداری گسترده در جنوب شرق آسیا مرتبط دانسته شده و توسط دولتهای بریتانیا و ایالات متحده تحریم شده است.
بر اساس یک سند اصلاح شده، پروندهنگاری ماه آوریل، قوانین سابقه قضایی را در چندین جا نادرست بیان کرده و شامل استنادهایی بوده که از گزارههای منتسب به آنها حمایت نمیکردند، در حالی که برخی از آنها به نظر میرسید هیچ مبنایی ندارند. این شرکت درخواست اصلی را پس گرفته و نسخهی بازبینی شدهای را ارائه کرده است.
وکلای گروه «پرینس گروپ» و چن در بویز شیلر فلکسنر در ابتدا این خطاها را شناسایی کردند. آنها گفتند که زبان منتسب به قانون ورشکستگی ایالات متحده پیدا نمیشود و چندین مرجع به اشتباه توصیف یا شناسایی شده بودند. در یک مورد، آنها گفتند، یک پروندهی استناد شده به تصمیم متفاوتی در حوزهی قضایی دیگر اشاره داشت.
در یک پروندهنگاری جداگانه، متهمان گفتند که حداقل 28 استناد اشتباه بوده، از جمله نقل قولهایی که به دادگاه نسبت داده شده و وجود ندارند. آنها استدلال کردند که زمانبندی اصلاحیه مضر بوده زیرا پروندهنگاری بازبینی شده پس از ارائهی اعتراضات آنها انجام شده بود و از دادگاه خواستند تا جلسهی برنامهریزی شده را به تعویق انداخته و یک جلسهی وضعیت برگزار کند.
سالیوان و کرامول گفت که سیاستهایش از وکلا میخواهد قبل از استفاده از ابزارهای هوش مصنوعی، آموزشهای لازم را تکمیل کرده و تمام خروجیها را به طور مستقل تأیید کنند.
این شرکت گفت: «قبل از اینکه به هر وکیل شرکت اجازهی دسترسی به ابزارهای هوش مصنوعی مولد داده شود، وکیل باید دو ماژول آموزشی الزامی را تکمیل کند که اتمام آنها پیگیری و تأیید میشود. این آموزش به طور مکرر بر خطر «توهمات» هوش مصنوعی، از جمله ساخت استنادهای پرونده، تفسیر نادرست مراجع، و نقل قولهای نادرست تأکید میکند.»
«این آموزش به وکلا دستور میدهد که «به هیچ چیز اعتماد نکنند و همه چیز را تأیید کنند» و روشن میسازد که عدم تأیید مستقل خروجی تولید شده توسط هوش مصنوعی، نقض سیاست شرکت محسوب میشود.»
این شرکت گفت که یک بررسی گستردهتر، مسائل کوچکتر دیگری را در سایر پروندهنگاریها پیدا کرده که آن را به خطای انسانی نسبت داده است تا هوش مصنوعی. این شرکت وکلایی را که درخواست اصلی را آماده کرده بودند، شناسایی نکرد.
این حادثه به لیست رو به رشد اشتباهات مرتبط با هوش مصنوعی در رویهی حقوقی اضافه میشود، در حالی که شرکتها ابزارهایی را برای سرعت بخشیدن به تحقیق و پیشنویس کردن آزمایش میکنند. دادگاهها اخیراً وکلا را به دلیل ارائهی پروندهنگاریهایی با ارجاعات ساختگی یا نادرست تولید شده توسط هوش مصنوعی، تحریم یا مورد انتقاد قرار دادهاند. در استرالیا، سال گذشته یک وکیل به دلیل استفاده از هوش مصنوعی، از صلاحیت خود برای فعالیت به عنوان وکیل اصلی محروم شد.
دانشکدههای حقوق شروع به الزامی کردن آموزش در مورد این فناوری کردهاند، در حالی که قضات ارشد هشدار دادهاند که سوءاستفاده از آن میتواند بر یکپارچگی دادرسی تأثیر بگذارد.
احکام اخیر همچنین به چگونگی جایگیری هوش مصنوعی در چارچوبهای حقوقی موجود، از جمله اینکه آیا تعاملات با چنین ابزارهایی تحت حمایت امتیازات خاص قرار میگیرند، پرداختهاند. همزمان، برخی دادگاهها در حال آزمایش سیستمهای هوش مصنوعی برای کمک به مدیریت حجم بالای پروندهها هستند.
