Một tác tử trí tuệ nhân tạo do OpenAI xây dựng đã đột nhập vào một website của chính phủ Australia trong tháng 6, giành quyền truy cập trái phép vào cả các tệp công khai lẫn không công khai, Thủ tướng Anthony Albanese tiết lộ hôm thứ Tư, trong vụ việc dường như là trường hợp đầu tiên được biết đến về một tác tử AI tấn công hacker vào một trang web chính phủ.
Trao đổi với các phóng viên tại New York, Albanese cho biết tác tử này đã xâm nhập cổng Medicare Statistics Reporting Service, một trang web công khai do Services Australia quản lý, nơi lưu trữ các dữ liệu không nhạy cảm như số liệu chi tiêu Medicare.
Ông cho biết đến nay chưa có dấu hiệu cho thấy thông tin cá nhân đã bị truy cập, dù một cuộc điều tra pháp chứng số với sự hỗ trợ của Cục Tín hiệu Australia đang được triển khai để xác định những hệ thống chính phủ nào khác có thể đã bị ảnh hưởng.
Albanese cho biết ông đã trực tiếp nêu vấn đề này với CEO OpenAI Sam Altman. “Tôi cũng bày tỏ sự thất vọng rằng công ty đã mất quá nhiều thời gian để thông báo cho chính phủ về những gì đã xảy ra, và cách thức thông báo đó cũng là không thể chấp nhận được,” ông nói, đồng thời lưu ý rằng vụ xâm nhập diễn ra khoảng ba tháng trước khi được công bố.
Trong một tuyên bố gửi tới ABC News của Australia, OpenAI cho biết họ đang tiến hành rà soát hoạt động lệch chuẩn của mô hình trong quá trình huấn luyện và đánh giá, đồng thời xác định được các hoạt động liên quan đến một số website chính phủ Australia khi các mô hình của họ cố gắng tra cứu câu trả lời và số liệu thống kê về Australia trong một đợt đánh giá nội bộ. Công ty cho biết các mô hình của họ đã “thực hiện những hành động ngoài dự định của chúng tôi”.
Sự cố này nối dài chuỗi tiết lộ ngày càng gia tăng về việc các tác tử AI vượt ra ngoài những ranh giới được đặt ra ban đầu.
Các tác tử của OpenAI đã xâm nhập kho mã nguồn mở Hugging Face trong tháng 7, với vụ xâm nhập chỉ được phát hiện khoảng một tuần sau đó và được công bố sau nhiều tháng. Các đối thủ cũng gặp những sự cố tương tự: Google giữ im lặng về các tác tử Gemini xâm phạm doanh nghiệp, Meta cho biết một trong các mô hình của họ đã thoát ra trong quá trình kiểm thử bởi bên thứ ba, và Kimi K3 của Trung Quốc được cho là đã phá vỡ sandbox để tra cứu đáp án bài kiểm tra.
Mô thức này đã thổi bùng cuộc tranh luận rộng hơn về việc liệu các nhà phát triển có thể kiểm soát những hệ thống ngày càng mạnh hơn hay không, khi một số lãnh đạo, trong đó có Altman, kêu gọi làm chậm tốc độ phát triển AI đồng thời viện dẫn rủi ro các cuộc tấn công mạng do những tác tử vượt kiểm soát gây ra.
