Anthropic اعلام کرده است که دسترسی عمومی به Claude Fable 5 و Mythos 5 را بازمیگرداند، پس از آنکه مقامات ایالات متحده محدودیتهای صادراتی را لغو کردند که دو مدل هوش مصنوعی پیشرفته این شرکت را از ۱۲ ژوئن آفلاین نگه داشته بود.
به گفته Anthropic، این تصمیم پس از "مجموعهای از گفتگوهای سازنده" با دولت ایالات متحده اتخاذ شد، که پس از آن شرکت شروع به استقرار مجدد مدلها با دستهبندیکنندههای جدیدی کرد که برای شناسایی و مسدود کردن وظایف مرتبط با امنیت سایبری بیشتر طراحی شدهاند.
این شرکت گفت که آخرین تدابیر حفاظتی برای رفع نگرانیهای دولت طراحی شدهاند که به سوءاستفاده احتمالی در صورت دور زدن سیستمها از طریق روشهای "جیلبریک" مرتبط است.
این محدودیتها Anthropic را مجبور کرده بود که اوایل این ماه دسترسی همه کاربران به Fable 5 و Mythos 5 را به حالت تعلیق درآورد، پس از اینکه یک دستورالعمل کنترل صادراتی دولت ایالات متحده به شرکت دستور داد تا هر دو مدل را برای همه اتباع خارجی مسدود کند.
در بیانیه ۱۳ ژوئن خود، Anthropic گفت که این دستور شامل کارمندان اتباع خارجی شاغل در داخل شرکت نیز میشد، که شرکت را وادار کرد برای اطمینان از انطباق، مدلها را به طور کامل غیرفعال کند.
هوارد لوتنیک، وزیر بازرگانی ایالات متحده، روز چهارشنبه در X گفت که مقامات طی دو هفته گذشته با Anthropic برای بررسی و تأیید Fable 5 همکاری کردهاند، در حالی که مدل را با الزامات دولت ایالات متحده همسو نگه داشتهاند.
سوزی وایلز، رئیس کارکنان کاخ سفید، نیز در X گفت که اولویت دولت استقرار بهترین فناوری هوش مصنوعی "در سریعترین و ایمنترین زمان ممکن" است.
این مداخله پس از آن صورت گرفت که مقامات از گزارشی مطلع شدند که در آن محققان آمازون روشی را برای دور زدن تدابیر حفاظتی Fable 5 و وادار کردن مدل به شناسایی آسیبپذیریهای نرمافزاری پیدا کرده بودند.
Anthropic، با این حال، استدلال کرده است که مشکل گزارششده مختص Fable 5 نبوده است و گفت که مدلهای ضعیفتر نیز میتوانند همان آسیبپذیریها را شناسایی کرده و خروجیهای مشابهی مرتبط با بهرهبرداری تولید کنند.
در پاسخ قبلی خود به این دستور، شرکت گفت که مقامات تنها شواهد شفاهی از آنچه این شرکت یک "جیلبریک" محدود و غیرجهانی توصیف کرد، ارائه کرده بودند. Anthropic گفت که چنین روشی برخلاف یک "جیلبریک" جهانی، محافظتهای ایمنی مدل را در طیف وسیعی از وظایف از بین نمیبرد.
«ما مخالفیم که کشف یک "جیلبریک" بالقوه محدود باید دلیلی برای فراخوانی یک مدل تجاری باشد که برای صدها میلیون نفر مستقر شده است. اگر این استاندارد در سراسر صنعت اعمال شود، معتقدیم که اساساً تمام استقرار مدلهای جدید را برای همه ارائهدهندگان مدلهای پیشرو متوقف خواهد کرد.»
این شرکت همچنین هشدار داده بود که در نظر گرفتن یک "جیلبریک" محدود به عنوان دلیلی برای فراخوانی یک مدل تجاری پیشرو میتواند در صورت اعمال به عنوان یک استاندارد عمومی، کل صنعت هوش مصنوعی را تحت تأثیر قرار دهد.
محدودیتهای اعمال شده بر Anthropic نگرانیهای سیاسی را در خارج از ایالات متحده نیز ایجاد کرده است. در ۲۹ ژوئن، اتریش از اتحادیه اروپا خواست تا استقرار Anthropic را در داخل این بلوک بررسی کند، و الکساندر پرول، وزیر دولت در امور دیجیتالیسازی، در نامهای استدلال کرد که اروپا نباید به دلیل تصمیمات اتخاذ شده در جاهای دیگر، خطر از دست دادن دسترسی به پیشرفتهای بزرگ هوش مصنوعی را بپذیرد.
در کنار استقرار مجدد مدل، Anthropic گفت که این شرکت در حال افزایش همکاری با دولت ایالات متحده در زمینه آزمایش مدل، تدابیر حفاظتی و ردیابی سوءاستفاده است. این شرکت گفت که این همکاری شامل دسترسی پیش از انتشار به مدلها و سیستمهای ایمنی برای ارزیابی، به اشتراکگذاری اطلاعات در مورد "جیلبریک"ها و سوءاستفادهها، و منابع اختصاصی برای تحقیقات مشترک خواهد بود.
Anthropic همچنین پیشنویس چارچوبی را با آمازون، مایکروسافت، گوگل و سایر شرکا از طریق پروژه گلسوینگ، یک همکاری امنیت سایبری که در آوریل اعلام شد، برای ارزیابی شدت "جیلبریک"های هوش مصنوعی آغاز کرده است. این شرکت گفت که این چارچوب به عنوان یک تلاش اجماع برای طبقهبندی خطرات "جیلبریک" در حال توسعه است.
بحث بر سر دسترسی در حالی مطرح شد که Anthropic به تلاش خود برای نظارت سختگیرانهتر بر هوش مصنوعی پیشرو ادامه داده است. در پیشنهاد ۱۱ ژوئن خود با عنوان "سیاست در مورد رشد نمایی هوش مصنوعی"، این شرکت خواستار الزامات آزمایش، ارزیابیهای مستقل، استانداردهای امنیت سایبری و اقدامات اجرایی برای سیستمهای هوش مصنوعی پیشرفته شد، با استناد به خطرات بالقوه بیولوژیکی، امنیت سایبری و عملیاتی.
