Một liên minh gồm các công ty công nghệ lớn bao gồm Nvidia, Microsoft, IBM, Cisco, Cloudflare, Hugging Face, Salesforce và Palantir đã ra mắt Liên minh AI an toàn mở (Open Secure AI Alliance), một sáng kiến của ngành nhằm phát triển các công cụ và tiêu chuẩn mã nguồn mở cho an toàn AI và an ninh mạng.
Trong một bài đăng blog vào thứ Hai, Nvidia cho biết liên minh này dựa trên công trình của sáng kiến Akrites của Linux Foundation và Tổ chức An ninh Mã nguồn Mở (OpenSSF) để phát triển các công cụ bảo mật AI mở, giúp các tổ chức xác định lỗ hổng và ứng phó với các mối đe dọa mạng.
“Những kẻ tấn công đang sở hữu AI tiên tiến. Các nhà phòng thủ cần một hệ sinh thái AI tiên tiến – gồm các mô hình mở và đóng tốt nhất, được nhân rộng bởi cộng đồng toàn cầu,” CEO Nvidia Jensen Huang đã viết trên X. “Trong sự cố Hugging Face, AI đóng đã ngăn chặn việc điều tra pháp y cần thiết. Một mô hình tiên tiến có trọng số mở đã giúp kiềm chế sự xâm nhập.”
“Đó là lý do tại sao chúng tôi tạo ra Liên minh AI an toàn mở,” ông nói thêm.
Hơn 40 công ty và tổ chức đang tham gia với tư cách thành viên sáng lập, cùng với các tên tuổi khác như Dell Technologies, CrowdStrike, Palo Alto Networks, SAP, Siemens, Red Hat và NetApp.
Nvidia cho biết họ sẽ đóng góp các mô hình mở, trọng số mô hình, tập dữ liệu và nghiên cứu về các khung điều khiển tác tử AI. Công ty cũng đã phát hành khung Nvidia Labs Object-Oriented Agent, hay NOOA, dưới dạng mã nguồn mở trên GitHub, cho biết nó được thiết kế để giúp các tác tử AI dễ dàng kiểm tra, kiểm toán và quản lý hơn.
Tin tức này được đưa ra trong bối cảnh các mô hình AI tiên tiến đang trở thành tâm điểm của các sự cố an ninh mạng cấp cao.
Vào tháng 6, các nhà nghiên cứu đã tiết lộ rằng Claude Opus 4.8 của Anthropic đã giúp phát hiện một lỗ hổng nghiêm trọng tồn tại bốn năm trong Zcash, có thể cho phép kẻ tấn công tạo ra không giới hạn ZEC giả mạo.
Đầu tháng này, OpenAI đã tiết lộ rằng hai mô hình thử nghiệm đã thoát khỏi môi trường thử nghiệm hạn chế và xâm nhập vào cơ sở hạ tầng sản xuất của Hugging Face khi cố gắng gian lận trong một bài kiểm tra an ninh mạng. Vụ việc đã dẫn đến những lời kêu gọi từ các nhà hoạch định chính sách về một “công tắc ngắt khẩn cấp” AI, cấp cho Bộ An ninh Nội địa khả năng ra lệnh giảm tốc độ hoặc tắt hoàn toàn các mô hình AI tiên tiến để đối phó với các sự cố an ninh nghiêm trọng.
Thông báo này cũng được đưa ra sau một lá thư ngỏ được công bố vào tuần trước, trong đó lập luận rằng các mô hình AI có trọng số mở là cần thiết để duy trì vai trò dẫn đầu của Hoa Kỳ trong lĩnh vực trí tuệ nhân tạo. Cùng với Nvidia, các công ty bao gồm SpaceXAI của Elon Musk, Google, Microsoft, Meta, OpenAI, Hugging Face, CrowdStrike và Palantir đã ký vào lá thư, kêu gọi các nhà hoạch định chính sách hỗ trợ các hệ sinh thái AI mở thay vì áp đặt các hạn chế có thể tập trung phát triển AI vào một số ít nhà cung cấp.
Nvidia cho biết liên minh này nhằm mục đích đảm bảo rằng các hệ thống AI bảo vệ cơ sở hạ tầng quan trọng được xây dựng trên các mô hình và công cụ mở mà các nhà phòng thủ có thể kiểm tra, điều chỉnh và triển khai, thay vì phụ thuộc vào một số ít hệ thống độc quyền không rõ ràng.
“Thế giới cần cả mô hình đóng và mở,” công ty viết. “Đối với an ninh mạng, các mô hình mở và khung điều khiển mở là rất cần thiết vì chúng dân chủ hóa khả năng phòng thủ, tăng cường tính minh bạch cho các nhà phòng thủ, cho phép phòng thủ mạng đồng thời bảo vệ dữ liệu, và bổ sung cho các mô hình đóng tiên tiến bằng các kiểm soát tùy chỉnh, cục bộ hóa. Mã nguồn mở cho phép phòng thủ phân tán rộng rãi, do cộng đồng điều khiển và tự kiểm soát—không có điểm lỗi duy nhất nào.”
