Microsoft đã giới thiệu một bộ công cụ mã nguồn mở mới tập trung vào bảo mật trong quá trình thực thi để thực thi quản trị chặt chẽ hơn đối với các tác nhân AI doanh nghiệp.
Bộ công cụ này được xây dựng dựa trên bảo mật trong quá trình thực thi, giải quyết những lo ngại rằng các mô hình ngôn ngữ hiện đại không còn giới hạn ở vai trò tư vấn mà đang tích cực thực thi mã và tương tác với các hệ thống nội bộ. Các biện pháp bảo vệ truyền thống như kiểm tra mã tĩnh và quét trước khi triển khai gặp khó khăn trong việc bắt kịp với những hành vi năng động này.
Các triển khai AI trước đây chủ yếu tập trung vào các công cụ hỗ trợ (copilots) với quyền truy cập hạn chế, chỉ đọc, giữ cho con người chịu trách nhiệm về việc thực thi. Mô hình đó đang thay đổi. Các công ty hiện đang tích hợp các hệ thống tác nhân có khả năng thực hiện các hành động độc lập trên các API, môi trường đám mây và quy trình phát triển.
Trong các thiết lập như vậy, một tác nhân AI có thể phân tích một email, tạo ra một kịch bản và triển khai nó lên máy chủ mà không cần sự can thiệp của con người. Một hướng dẫn sai sót hoặc tấn công prompt injection có thể dẫn đến thay đổi cơ sở dữ liệu không mong muốn hoặc lộ thông tin nhạy cảm. Bộ công cụ mới này giải quyết rủi ro đó bằng cách giám sát các hành động khi chúng diễn ra và can thiệp theo thời gian thực thay vì dựa vào các kiểm soát được thiết lập sẵn.
Hệ thống này tập trung vào cách các tác nhân AI tương tác với các công cụ bên ngoài. Khi một mô hình cần thực hiện một hành động vượt ra ngoài quá trình xử lý nội bộ của nó, chẳng hạn như truy vấn một hệ thống doanh nghiệp, nó sẽ tạo ra một lệnh hướng đến công cụ đó.
Microsoft chèn một lớp thực thi chính sách giữa mô hình và mạng lưới công ty. Mỗi yêu cầu gửi đi đều bị chặn lại và đánh giá theo các quy tắc quản trị định trước trước khi thực thi. Nếu một hành động vi phạm chính sách, ví dụ như một tác nhân cố gắng khởi tạo một giao dịch mặc dù bị giới hạn quyền truy cập chỉ đọc, yêu cầu sẽ bị chặn và ghi lại để xem xét.
Cách tiếp cận đó tạo ra một dấu vết quyết định có thể kiểm toán trong khi loại bỏ nhu cầu các nhà phát triển phải nhúng các ràng buộc bảo mật vào mọi lời nhắc (prompt) hoặc quy trình làm việc. Việc quản trị chuyển từ logic ứng dụng sang các kiểm soát cấp độ cơ sở hạ tầng.
Khuôn khổ này cũng đóng vai trò như một bộ đệm cho các hệ thống cũ, nhiều hệ thống trong số đó không được thiết kế để xử lý các đầu vào do máy tạo ra không thể đoán trước. Bằng cách lọc và xác thực các yêu cầu trước khi chúng tiếp cận các hệ thống cốt lõi, nó giới hạn rủi ro do hành vi AI bị xâm phạm hoặc định hướng sai.
Quyết định của Microsoft phát hành bộ công cụ này dưới dạng mã nguồn mở phù hợp với các thực tiễn phát triển hiện tại. Các nhóm xây dựng quy trình làm việc AI thường dựa vào sự kết hợp của các công cụ và mô hình của bên thứ ba. Một giải pháp độc quyền có thể bị bỏ qua để ưu tiên các giải pháp thay thế nhanh hơn. Tính khả dụng mở cho phép các kiểm soát tích hợp trên các môi trường đa dạng, bao gồm các hệ thống sử dụng mô hình từ các đối thủ cạnh tranh như Anthropic.
Nó cũng mở ra cánh cửa cho các công ty an ninh mạng để xây dựng thêm các lớp giám sát và phản ứng trên nền tảng của khuôn khổ, giúp thiết lập một nền tảng chung để bảo mật các hoạt động do AI điều khiển.
Bảo mật chỉ là một phần của thách thức. Các tác nhân tự trị cũng mang lại rủi ro tài chính và vận hành, đặc biệt là thông qua việc sử dụng API không kiểm soát.
Các hệ thống này hoạt động trong các vòng lặp liên tục, thực hiện các cuộc gọi lặp đi lặp lại đến các dịch vụ bên ngoài. Nếu không có giới hạn, ngay cả một tác vụ đơn giản cũng có thể kích hoạt hàng ngàn truy vấn đến các cơ sở dữ liệu hoặc API trả phí, làm tăng chi phí nhanh chóng. Trong những trường hợp cực đoan, các tác nhân cấu hình sai có thể đi vào các chu kỳ đệ quy tiêu tốn lượng lớn tài nguyên tính toán trong một thời gian ngắn.
Bộ công cụ cho phép các tổ chức xác định các giới hạn nghiêm ngặt về việc sử dụng token và tần suất yêu cầu. Bằng cách kiểm soát tần suất một tác nhân có thể hành động trong một khoảng thời gian nhất định, các công ty có thể quản lý chi tiêu tốt hơn và ngăn chặn các quy trình chạy quá mức.
Giám sát trong quá trình thực thi cũng hỗ trợ các yêu cầu tuân thủ bằng cách cung cấp các kiểm soát có thể đo lường và nhật ký kiểm toán rõ ràng. Trách nhiệm đang dịch chuyển từ các nhà cung cấp mô hình sang các hệ thống thực thi quyết định trong môi trường thực tế.
Việc triển khai các khuôn khổ quản trị như vậy sẽ đòi hỏi sự phối hợp giữa các nhóm kỹ thuật, pháp lý và bảo mật. Khi các hệ thống AI đảm nhận các vai trò tự chủ hơn, cơ sở hạ tầng quản lý hành vi của chúng trở thành trọng tâm để triển khai an toàn.
Việc phát hành bộ công cụ này đi kèm với việc tiếp tục đầu tư vào cơ sở hạ tầng AI. Microsoft gần đây đã công bố kế hoạch cam kết 10 tỷ USD tại Nhật Bản trong bốn năm tới, tập trung vào các trung tâm dữ liệu và hệ thống hỗ trợ.
Thông báo này được đưa ra sau các cuộc đàm phán giữa Chủ tịch Microsoft Brad Smith và Thủ tướng Nhật Bản Sanae Takaichi tại Tokyo. Smith mô tả khoản đầu tư này là "phản ứng trước nhu cầu ngày càng tăng của Nhật Bản đối với các dịch vụ đám mây và AI."
Công ty đang hợp tác với SoftBank Group và Sakura Internet để mở rộng cơ sở hạ tầng trong nước. Cam kết mới nhất này dựa trên kế hoạch 2,9 tỷ USD được công bố vào năm 2024 nhằm tăng cường năng lực AI và khả năng phục hồi an ninh mạng tại quốc gia này.
