Anthropic đã thông báo sẽ khôi phục quyền truy cập công khai vào Claude Fable 5 và Mythos 5 sau khi các nhà chức trách Hoa Kỳ dỡ bỏ các hạn chế xuất khẩu đã khiến hai mô hình AI tiên tiến nhất của công ty ngoại tuyến kể từ ngày 12 tháng 6.
Theo Anthropic, quyết định này được đưa ra sau "một loạt các cuộc đối thoại hiệu quả" với chính phủ Hoa Kỳ, sau đó công ty đã bắt đầu triển khai lại các mô hình với các bộ phân loại mới được thiết kế để xác định và chặn nhiều tác vụ liên quan đến an ninh mạng hơn.
Công ty cho biết các biện pháp bảo vệ mới nhất nhằm giải quyết những lo ngại của chính phủ liên quan đến khả năng lạm dụng nếu các hệ thống bị vượt qua thông qua các phương pháp jailbreak.
Các hạn chế đã buộc Anthropic phải tạm ngừng quyền truy cập vào Fable 5 và Mythos 5 cho tất cả người dùng vào đầu tháng này, sau khi một chỉ thị kiểm soát xuất khẩu của chính phủ Hoa Kỳ yêu cầu công ty chặn cả hai mô hình đối với tất cả công dân nước ngoài.
Trong tuyên bố ngày 13 tháng 6, Anthropic cho biết lệnh này cũng áp dụng cho các nhân viên là công dân nước ngoài làm việc trong công ty, khiến công ty phải vô hiệu hóa hoàn toàn các mô hình để đảm bảo tuân thủ.
Bộ trưởng Thương mại Hoa Kỳ Howard Lutnick cho biết trên X vào thứ Tư rằng các quan chức đã làm việc với Anthropic trong hai tuần qua để xem xét và phê duyệt Fable 5 đồng thời giữ cho mô hình này phù hợp với các yêu cầu của chính phủ Hoa Kỳ.
Chánh văn phòng Nhà Trắng Susie Wiles cũng cho biết trên X rằng ưu tiên của chính phủ là triển khai công nghệ AI tốt nhất "nhanh chóng và an toàn nhất có thể."
Can thiệp này diễn ra sau khi các quan chức biết được một báo cáo trong đó các nhà nghiên cứu của Amazon đã tìm ra một phương pháp để vượt qua các biện pháp bảo vệ của Fable 5 và khiến mô hình này xác định các lỗ hổng phần mềm.
Tuy nhiên, Anthropic đã lập luận rằng vấn đề được báo cáo không phải là duy nhất đối với Fable 5, nói rằng các mô hình yếu hơn cũng có thể xác định các lỗ hổng tương tự và tạo ra đầu ra liên quan đến khai thác tương tự.
Trong phản hồi trước đó đối với lệnh, công ty cho biết các nhà chức trách chỉ đưa ra bằng chứng bằng lời nói về cái mà họ mô tả là một jailbreak hẹp, không phổ quát. Anthropic cho biết phương pháp như vậy không loại bỏ các biện pháp bảo vệ an toàn của mô hình trên nhiều loại tác vụ, không giống như một jailbreak phổ quát.
“Chúng tôi không đồng ý rằng việc tìm thấy một lỗ hổng jailbreak tiềm năng hẹp nên là lý do để thu hồi một mô hình thương mại đã được triển khai cho hàng trăm triệu người. Nếu tiêu chuẩn này được áp dụng trên toàn ngành, chúng tôi tin rằng nó về cơ bản sẽ ngăn chặn tất cả các triển khai mô hình mới cho tất cả các nhà cung cấp mô hình tiên phong.”
Công ty cũng đã cảnh báo rằng việc coi một jailbreak hẹp là lý do để thu hồi một mô hình tiên phong thương mại có thể ảnh hưởng đến toàn bộ ngành công nghiệp AI nếu được áp dụng làm tiêu chuẩn chung.
Các hạn chế đối với Anthropic cũng đã gây ra những lo ngại về chính sách bên ngoài Hoa Kỳ. Vào ngày 29 tháng 6, Áo đã thúc giục Liên minh Châu Âu xem xét thành lập Anthropic trong khối, với Quốc vụ khanh về Số hóa Alexander Proell lập luận trong một lá thư rằng Châu Âu không nên mạo hiểm mất quyền truy cập vào các tiến bộ AI lớn vì các quyết định được đưa ra ở nơi khác.
Cùng với việc triển khai lại mô hình, Anthropic cho biết họ đang tăng cường hợp tác với chính phủ Hoa Kỳ về thử nghiệm mô hình, biện pháp bảo vệ và theo dõi lạm dụng. Công ty cho biết điều này sẽ bao gồm quyền truy cập trước khi phát hành vào các mô hình và hệ thống an toàn để đánh giá, chia sẻ thông tin về jailbreak và lạm dụng, và các nguồn lực dành riêng cho nghiên cứu chung.
Anthropic cũng đã bắt đầu soạn thảo một khuôn khổ với Amazon, Microsoft, Google và các đối tác khác thông qua Dự án Glasswing, một sáng kiến hợp tác an ninh mạng được công bố vào tháng 4, để đánh giá mức độ nghiêm trọng của các jailbreak AI. Công ty cho biết khuôn khổ này đang được phát triển như một nỗ lực đồng thuận để phân loại rủi ro jailbreak.
Cuộc tranh luận về quyền truy cập diễn ra trong bối cảnh Anthropic tiếp tục thúc đẩy việc giám sát AI tiên tiến nghiêm ngặt hơn. Trong đề xuất "Chính sách về AI Exponential" ngày 11 tháng 6, công ty đã kêu gọi các yêu cầu thử nghiệm, đánh giá độc lập, tiêu chuẩn an ninh mạng và các biện pháp thực thi cho các hệ thống AI tiên tiến, viện dẫn các rủi ro tiềm tàng về sinh học, an ninh mạng và vận hành.
