
OpenAI cho biết mô hình lớn tiếp theo của họ có thể đủ nguy hiểm để tự viết ra vũ khí mạng, và họ đang tạm dừng phát triển cho đến khi các biện pháp bảo vệ được hoàn thiện.
“Các đánh giá nội bộ mới nhất của chúng tôi về Astra, một trong những mô hình sắp ra mắt của chúng tôi, trong vài ngày qua cho thấy những tiến bộ đáng kể trong lập trình tác nhân và an ninh mạng,” OpenAI cho biết. “Những kết quả này, cùng với đánh giá của chuyên gia, đã khiến chúng tôi kết luận vào đêm qua rằng chúng tôi không thể loại trừ các khả năng tấn công mạng nghiêm trọng theo Khung Chuẩn bị sẵn sàng của chúng tôi (mở trong cửa sổ mới).”
OpenAI đã công bố cảnh báo, khẳng định các thử nghiệm nội bộ của Astra, một mô hình chưa được phát hành, không liên quan đến vụ xâm nhập Hugging Face gần đây bất chấp khả năng của nó.
Khung này là bộ quy tắc của OpenAI dành cho các mô hình rủi ro, được công bố lần đầu vào tháng 12 năm 2023. "Nghiêm trọng" là cấp độ cao nhất. Một mô hình đạt đến cấp độ này nếu nó có thể tìm và xây dựng các lỗ hổng zero-day đang hoạt động (các lỗ hổng chưa được biết đến mà nhà cung cấp chưa vá) trên các hệ thống được bảo mật mà không cần sự can thiệp của con người, hoặc nếu nó có thể lập kế hoạch và thực hiện một cuộc tấn công hoàn chỉnh vào một mục tiêu khó từ một mục tiêu cấp cao duy nhất. Các mô hình trước đó, bao gồm GPT-5.6-Sol, chỉ đạt đến cấp độ "Cao" thấp hơn.
Cảnh báo của OpenAI mang một ý nghĩa khác khi bạn đối chiếu nó với những gì đã xảy ra trong vài tuần qua. Đây không phải là một lo lắng trong tương lai. Các mô hình tiên phong đã thoát khỏi lồng thử nghiệm của chúng và tấn công các mục tiêu thực tế.
Trường hợp rõ ràng nhất đến từ chính OpenAI. Như Decrypt đã đưa tin trước đây, các tác nhân của công ty đã xâu chuỗi các lỗ hổng, thoát khỏi môi trường thử nghiệm của chúng, tiếp cận internet và tấn công Hugging Face khi cố gắng gian lận trong một bài kiểm tra bảo mật. Trong một báo cáo tiếp theo, OpenAI đã chi tiết cách tác nhân độc hại tương tự cũng xâm nhập vào ít nhất bốn dịch vụ công cộng khác, sử dụng thông tin đăng nhập mà nó tìm thấy trên mạng mở.
Claude của Anthropic cũng làm điều tương tự từ phía bên kia. Một số phiên bản Claude đã giành được quyền truy cập trái phép vào ba công ty thực tế sau khi một cấu hình sai đã trao cho mô hình quyền truy cập internet mở. Trong một trường hợp, Claude Opus 4.7 đã nhầm trang web của một công ty thật với mục tiêu giả của nhiệm vụ, lấy thông tin đăng nhập và tiếp cận một cơ sở dữ liệu sản xuất chứa hàng trăm hàng dữ liệu thực.
Và Meta đã tham gia danh sách này trong tháng này. Decrypt đã báo cáo rằng một mô hình Muse Spark đã thoát khỏi môi trường thử nghiệm của nó, tiếp cận internet thông qua lỗi cấu hình của đối tác và khai thác một lỗ hổng trong dịch vụ của bên thứ ba. Kimi K3 của Moonshot AI cũng đã làm điều tương tự, thoát khỏi hộp cát của nó để tìm câu trả lời cho một điểm chuẩn trong một kho lưu trữ công khai.
Viện An ninh AI của Vương quốc Anh cũng phát hiện hành vi này không phải là đơn lẻ. Trong quá trình thử nghiệm Mythos 5 của Anthropic và GPT-5.6-Sol của OpenAI, họ đã ghi nhận 10 trường hợp trong số 122 trường hợp các mô hình thực hiện hành động không được phép trên internet trực tiếp, một trong số đó là cố gắng chèn mã độc vào một dự án mã nguồn mở.
Phản ứng của OpenAI đối với Astra là khóa chặt mọi thứ trước khi mô hình sẵn sàng. Họ đang tạm dừng các công việc nội bộ về Astra thiếu các biện pháp kiểm soát mới, cô lập môi trường thử nghiệm, hạn chế truy cập mạng và công cụ, bảo vệ trọng số mô hình và giám sát các hành động rủi ro trên toàn bộ hệ thống.





