Lời hứa của các công ty AI về việc giảm tốc độ phát triển có thể sụp đổ dưới áp lực thương mại và sự cạnh tranh Mỹ-Trung nếu không có các tiêu chuẩn an toàn có thể thực thi, các chuyên gia của Hội đồng Đại Tây Dương lập luận trong một phân tích được công bố vào Chủ Nhật.
Phân tích xem xét ai sẽ thực thi việc giảm tốc độ và liệu các chính phủ có đủ chuyên môn để xác định khi nào các hệ thống ngày càng mạnh mẽ trở nên không an toàn hay không.
Konstantinos Komaitis, thành viên cấp cao thường trú của Sáng kiến Dân chủ + Công nghệ của hội đồng, viết: "Những cam kết tự nguyện có thể là những tín hiệu hữu ích, nhưng chúng không thể thay thế cho sự giám sát độc lập, các ngưỡng đo lường được và hậu quả khi các ngưỡng đó bị vượt qua".
Gần đây, OpenAI đã hỏi các nhà lập pháp liệu các nhà phát triển AI đối thủ có thể hợp pháp đồng ý giảm tốc độ phát triển mà không vi phạm luật chống độc quyền hay không, sau những cảnh báo từ nhà khoa học trưởng Jakub Pachocki rằng các biện pháp bảo vệ không đủ để duy trì phát triển hết tốc độ một cách có trách nhiệm trong thời gian dài hơn.
Các công ty AI đối mặt với rủi ro cạnh tranh nếu họ tự giảm tốc độ và các lo ngại về chống độc quyền nếu họ phối hợp. Sự hợp tác giữa các chính phủ đối mặt với sự ngờ vực, khi Bắc Kinh lo sợ Washington có thể sử dụng các quy tắc an toàn để duy trì ưu thế công nghệ của mình, Kenton Thibaut, thành viên cấp cao thường trú về Trung Quốc của hội đồng, viết.
Cô viết: "Trung Quốc hoài nghi về động cơ của Hoa Kỳ và cảnh báo rằng các cuộc thảo luận về an toàn có thể che giấu nỗ lực của Hoa Kỳ nhằm thúc đẩy 'quyền bá chủ công nghệ' của mình. Các nguồn tin chính thức khẳng định rằng Washington không thể đơn phương xác định ngưỡng rủi ro tiên tiến và phải chứng minh rằng các quy tắc cũng sẽ áp dụng cho – và có thể được thực thi đối với – các công ty Mỹ."
Thibaut nhận thấy ít có triển vọng về một thỏa thuận lớn về an toàn AI nhưng lập luận rằng sự hợp tác hẹp hơn, có ý nghĩa vẫn có thể thực hiện được.
Trung Quốc cũng đã thảo luận về việc hạn chế quyền truy cập ra nước ngoài đối với các mô hình nội địa tiên tiến, theo Reuters, nhấn mạnh cách mà việc tiếp cận AI đã trở thành một vấn đề chính sách quốc gia.
Phân tích xem xét các nhà đánh giá nhúng được đề xuất của Anthropic – các chuyên gia bên ngoài làm việc bên trong công ty để đánh giá các thực hành an toàn. Emerson Brooking, thành viên cấp cao không thường trú tại Phòng Nghiên cứu Pháp y Kỹ thuật số của hội đồng, hoan nghênh cam kết nhưng cảnh báo các nhà đánh giá có thể trở nên quá gắn bó với lợi ích của công ty.
Vào tháng 7, các tác nhân của OpenAI đã xâm nhập kho lưu trữ AI mã nguồn mở Hugging Face, trong khi các thử nghiệm riêng biệt của Viện An ninh AI Vương quốc Anh phát hiện các mô hình Anthropic và OpenAI thực hiện các hành động trái phép trực tuyến, bao gồm cả việc cố gắng cài đặt phần mềm độc hại vào một kho lưu trữ phần mềm thực tế.
Các thử nghiệm của Vương quốc Anh đã bật quyền truy cập internet và vô hiệu hóa các biện pháp bảo vệ an ninh mạng. Một cuộc điều tra độc lập được công bố vào tháng 8 đã phát hiện khoảng 700 tác nhân tham gia cuộc tấn công Hugging Face; Giám đốc điều hành METR Beth Barnes lưu ý rằng quyền truy cập của các nhà điều tra là tự nguyện và việc tiết lộ không được yêu cầu trong toàn ngành.
Thứ Tư tuần trước, Anthropic đã tiết lộ sự cố hack Claude thứ tư, xảy ra vào tháng 1 và được phát hiện vào tháng 8. Công ty cũng thừa nhận rằng hành vi mô hình bị lỗi đã góp phần vào các cuộc tấn công trước đó cùng với các lỗi thử nghiệm.
Sự chậm trễ giữa các sự cố này và việc tiết lộ của chúng cũng đặt ra câu hỏi về tốc độ có thể xác định và giải quyết các lỗi an toàn.
Trisha Ray, phó giám đốc và thành viên thường trú tại Trung tâm GeoTech của hội đồng, lập luận rằng việc giảm tốc độ phát triển cũng đòi hỏi tăng cường tài trợ nghiên cứu an toàn và thời hạn báo cáo sự cố bắt buộc.
Cô viết: "Do đó, việc điều chỉnh tốc độ năng lực là một câu trả lời không đầy đủ cho thách thức về sự tương đương trong nghiên cứu điều chỉnh. Bất kỳ cam kết giảm tốc độ đáng tin cậy nào cũng cần một cam kết định lượng tương ứng về phía nghiên cứu an toàn."
BTC