Các chuyên gia an ninh từ Hoa Kỳ và Trung Quốc đã đề xuất các quy tắc cấm trí tuệ nhân tạo độc lập phát động các cuộc tấn công mạng nhằm vào các hệ thống chỉ huy hạt nhân hoặc đưa ra quyết định sử dụng vũ khí hạt nhân.
Một báo cáo gần đây của Brookings và Đại học Fudan có trụ sở tại Thượng Hải kêu gọi Hoa Kỳ và Trung Quốc mở rộng cam kết kiểm soát vũ khí hạt nhân của con người sang các mục đích sử dụng AI quân sự khác, bao gồm các cuộc tấn công mạng vào các hệ thống chỉ huy hạt nhân.
Các nhà nghiên cứu viết: “Tổng thống Donald Trump và Tập Cận Bình có thể dẫn đầu trong việc quản lý những mối nguy hiểm này bằng cách đồng ý rằng chỉ con người, chứ không phải AI, mới nên đưa ra quyết định khởi xướng một cuộc tấn công mạng chống lại hệ thống chỉ huy, kiểm soát và liên lạc hạt nhân (NC3) hoặc cơ sở hạ tầng quan trọng của nhau”.
Các hệ thống NC3 giúp các chính phủ phát hiện các mối đe dọa, quyết định có sử dụng vũ khí hạt nhân hay không và truyền lệnh phóng, nhưng những thất bại ở bất kỳ giai đoạn nào cũng có thể làm gián đoạn liên lạc, đọc sai một cuộc tấn công, khuyến khích một đòn tấn công phủ đầu hoặc gây ra một vụ phóng ngoài ý muốn hoặc trái phép.
Các nhà nghiên cứu viết: “Việc mở rộng nguyên tắc áp dụng cho vũ khí hạt nhân – rằng các cuộc tấn công có tác động chiến lược phải thể hiện ý định của con người và phải chịu trách nhiệm trước con người – không yêu cầu Washington và Bắc Kinh phải chia sẻ các nguyên tắc khác về an ninh mạng hoặc bảo vệ cơ sở hạ tầng”.
Thỏa thuận được đề xuất sẽ yêu cầu cả hai quốc gia giảm thiểu rủi ro do ngẫu nhiên, lỗi của con người, AI khó lường hoặc các tác nhân trái phép có thể gây ra các cuộc tấn công có hậu quả chiến lược.
Lời kêu gọi các biện pháp bảo vệ theo kiểu hạt nhân là một phần của cuộc tranh luận ngày càng tăng về cách làm chậm sự phát triển của AI và giữ các hệ thống ngày càng có năng lực dưới sự kiểm soát của con người. Mối lo ngại này đặc biệt nghiêm trọng trong quân đội, nơi các quyết định tự động được đưa ra trong tích tắc có thể biến một cảnh báo sai hoặc một cuộc tấn công mạng thành một cuộc khủng hoảng hạt nhân.
Mối lo ngại đó đã được nhấn mạnh vào tháng 2 khi các mô hình từ OpenAI, Google và Anthropic đã sử dụng vũ khí hạt nhân trong 95% kịch bản trò chơi chiến tranh đã thử nghiệm, mặc dù các chuyên gia cảnh báo rằng mô phỏng có thể đã khuyến khích leo thang.
Cùng tháng đó, Anthropic đã từ chối yêu cầu của Lầu Năm Góc về việc dỡ bỏ các hạn chế của Claude đối với việc giám sát hàng loạt và vũ khí tự động hoàn toàn. Trump đã ra lệnh cho các cơ quan liên bang ngừng sử dụng công nghệ của công ty, nhưng một thẩm phán liên bang đã phán quyết vào ngày 28 tháng 8 rằng chính quyền đã trả đũa Anthropic một cách bất hợp pháp.
Kể từ đó, những lời kêu gọi kiềm chế đã lan rộng khắp ngành. Đầu tháng này, CEO Anthropic Dario Amodei đã kêu gọi các nhà phát triển làm chậm việc tăng năng lực, nhận được sự ủng hộ từ CEO OpenAI Sam Altman và chủ sở hữu xAI Elon Musk, trong khi OpenAI đã hỏi Quốc hội liệu các công ty có thể phối hợp làm chậm mà không vi phạm luật chống độc quyền hay không.
Khi chưa có sự chậm lại ràng buộc nào được áp dụng, các tác giả của Brookings đề xuất một quy tắc hẹp hơn: Chỉ con người mới được phép ủy quyền các cuộc tấn công vào hệ thống chỉ huy hạt nhân hoặc việc sử dụng vũ khí hạt nhân.
Họ viết: “Việc quản lý AI quân sự không phải là một cuộc đàm phán có thể trì hoãn – đó là một cuộc chạy đua với thời gian”.
BTC