Các chính phủ có nguy cơ lặp lại những sai lầm đã mắc phải trong buổi bình minh của kỷ nguyên hạt nhân nếu họ chờ đợi để tạo ra luật quản lý trí tuệ nhân tạo, Ngoại trưởng Anh Yvette Cooper cảnh báo.
Trong một bài báo được công bố vào thứ Hai, bà Cooper cho biết AI mang lại những đột phá nhưng cũng tiềm ẩn những rủi ro mới khi công nghệ này trở nên mạnh mẽ và phổ biến rộng rãi hơn.
“Tháng trước, tại Thâm Quyến, Trung Quốc, tôi đã chứng kiến tiềm năng phi thường của AI và robot được sử dụng trong chăm sóc sức khỏe cứu người,” bà Cooper viết. “Nhưng những công nghệ tương tự cũng đang định hình lại tương lai của chiến tranh, tội phạm và sự gắn kết xã hội theo những cách đáng báo động.”
Bà Cooper cho biết việc quản lý các rủi ro do AI gây ra có thể trở thành “thách thức an ninh lớn nhất trong thập kỷ tới” và lập luận rằng các chính phủ cần các thỏa thuận quốc tế về công nghệ tiên tiến trước khi một cuộc khủng hoảng buộc phải hành động.
Bà so sánh cuộc đua phát triển hệ thống AI hiện nay với cuộc chạy đua vũ trang hạt nhân thời kỳ đầu, cho rằng các thỏa thuận an toàn toàn cầu chỉ xuất hiện sau khi các quốc gia chứng kiến sự tàn phá do vũ khí nguyên tử gây ra.
“Về hạt nhân, thỏa thuận quốc tế chỉ đạt được sau khi thế giới chứng kiến sức mạnh kinh hoàng của công nghệ mới tại Hiroshima,” bà Cooper viết. “Chúng ta không thể chờ đợi một sự kiện tương đương Hiroshima trong lĩnh vực AI trước khi hành động.”
Bà Cooper kêu gọi Anh sử dụng ảnh hưởng ngoại giao của mình để tập hợp Hoa Kỳ, Trung Quốc và các cường quốc AI lớn khác nhằm thiết lập các nguyên tắc và tiêu chuẩn an toàn chung, chỉ ra Hội nghị Thượng đỉnh An toàn AI 2023 tại Bletchley Park, nơi các nhà lãnh đạo toàn cầu từ 29 quốc gia và Liên minh Châu Âu đã gặp gỡ để thảo luận về rủi ro AI đang nổi lên. Bà Cooper gọi đây là một ví dụ về khả năng của Vương quốc Anh trong việc “huy động thế giới về an ninh AI.”
Cảnh báo của bà Cooper được đưa ra sau nhiều tháng lo ngại gia tăng về cách các chính phủ nên giám sát các hệ thống AI ngày càng mạnh mẽ.
Vào tháng 5, Viện An ninh AI của Vương quốc Anh cảnh báo rằng những tiến bộ nhanh chóng trong khả năng an ninh mạng của AI sau khi GPT-5.5 của OpenAI trở thành mô hình thứ hai hoàn thành một cuộc tấn công mạng mô phỏng mà không cần sự hỗ trợ của con người, sau Claude Mythos Preview của Anthropic.
Vài ngày sau, Quỹ Tiền tệ Quốc tế cảnh báo rằng AI có thể “khuếch đại” các cuộc tấn công mạng chống lại hệ thống tài chính toàn cầu bằng cách giảm kỹ năng cần thiết để khai thác các lỗ hổng, thúc giục các nhà hoạch định chính sách coi an ninh mạng là một vấn đề ổn định tài chính chứ không phải là một vấn đề kỹ thuật đơn thuần.
Vào tháng 6, Tổng thống Donald Trump đã ký một sắc lệnh hành pháp tạo ra một khuôn khổ tự nguyện để xem xét các mô hình AI tiên tiến trước khi phát hành, mở rộng các chương trình an ninh mạng AI và chỉ đạo các cơ quan đánh giá các rủi ro an ninh quốc gia tiềm ẩn từ các mô hình AI tiên phong.
Cũng trong tháng đó, những lời kêu gọi về các quy tắc chặt chẽ hơn cũng đến từ nội bộ ngành AI, với Giám đốc điều hành Anthropic Dario Amodei lập luận rằng các yêu cầu về tính minh bạch không còn đủ nữa và kêu gọi kiểm tra bắt buộc của bên thứ ba đối với các mô hình tiên phong. Yêu cầu này được đưa ra sau khi chính phủ Hoa Kỳ ra lệnh cho Anthropic hạn chế quyền truy cập vào Claude Fable 5 và Mythos 5 vì lo ngại an ninh quốc gia trước khi dỡ bỏ lệnh này vào tháng 7.
