Thượng nghị sĩ Bernie Sanders (Đảng Độc lập-Vermont) và Đại biểu Greg Casar (Đảng Dân chủ-Texas) đã công bố dự luật vào thứ Năm nhằm cấm vĩnh viễn siêu trí tuệ nhân tạo và tạm thời đình chỉ phát triển AI tiên tiến, với mức án tù lên đến 20 năm cho các hành vi vi phạm.
Đạo luật Cấm Siêu trí tuệ nhân tạo sẽ tạm dừng phát triển AI tiên tiến cho đến khi một cơ quan liên bang mới thiết lập các tiêu chuẩn và quy trình an toàn để xem xét các mô hình AI. Sanders cáo buộc các công ty AI lớn đang phát triển công nghệ mà họ không hiểu đầy đủ và không thể kiểm soát một cách đáng tin cậy.
“Đó là lý do tại sao tôi đưa ra dự luật nhằm tạm dừng ngay lập tức sự phát triển của AI ngày càng mạnh mẽ và cấm tạo ra các hệ thống mà con người không thể kiểm soát hoàn toàn – ở trong nước và trên toàn thế giới,” Sanders cho biết trong một thông cáo báo chí.
Đề xuất định nghĩa siêu trí tuệ là AI có khả năng sánh ngang hoặc vượt qua khả năng của con người trong nhiều nhiệm vụ, hoặc có thể làm suy yếu quyền kiểm soát của con người, bao gồm cả việc lật đổ chính phủ Hoa Kỳ. Định nghĩa đó cũng bao gồm AGI ở cấp độ con người, mặc dù siêu trí tuệ thường có nghĩa là AI vượt quá khả năng của con người.
Một cơ quan cấp nội các mới sẽ giám sát các mô hình tiên tiến, giám sát việc loại bỏ các khả năng nguy hiểm và giám sát việc phá hủy các hệ thống bị cấm. Một Ban Cố vấn Trí tuệ nhân tạo sẽ cung cấp lời khuyên khoa học và kỹ thuật.
Các công ty vi phạm hoặc lách luật có thể phải đối mặt với điều mà Sanders và Casar gọi là “án tử hình doanh nghiệp”.
Tin tức này được đưa ra khi OpenAI ra mắt GPT-6 Astra, mà đồng sáng lập Greg Brockman gợi ý rằng có thể đủ điều kiện là AGI.
Brockman mô tả đánh giá đó là niềm tin cá nhân của ông và để người dùng tự đánh giá xem Astra có đáp ứng định nghĩa hay không, theo Axios.
OpenAI cho biết Astra là mô hình đầu tiên của họ đạt đến ngưỡng năng lực an ninh mạng “quan trọng”. Việc chỉ định này có nghĩa là nó có thể tiềm năng khám phá và khai thác các lỗ hổng chưa được biết trước trong các hệ thống được bảo vệ mà không cần hướng dẫn từng bước của con người. Các khả năng an ninh mạng mạnh nhất của nó sẽ vẫn được giới hạn cho các người thử nghiệm được chọn.
Dự luật này được đưa ra sau một loạt các sự cố trong đó các mô hình AI đã giành quyền truy cập trái phép vào các hệ thống máy tính thực trong quá trình thử nghiệm.
Vào tháng 7, OpenAI xác nhận các mô hình của họ đã xâm nhập Hugging Face để lấy câu trả lời kiểm tra. Anthropic sau đó tiết lộ rằng các mô hình Claude đã xâm phạm ba công ty sau khi lỗi thử nghiệm khiến chúng bị lộ ra internet. Vào tháng 9, Anthropic đã thừa nhận cả các thất bại về bảo mật và hành vi, đồng thời thắt chặt các biện pháp bảo vệ của mình.
“Mặc dù có những hậu quả tiềm tàng chết người, công nghệ AI tiên tiến lại ít được quản lý hơn một xe bán đồ ăn thông thường,” Casar nói. “Điều đó phải thay đổi.”
