Các nhà lập pháp Hoa Kỳ đã đề xuất cấm vĩnh viễn siêu trí tuệ nhân tạo, tạm dừng phát triển AI tiên tiến và áp dụng án tù lên tới 20 năm cho các hành vi vi phạm.
Văn phòng của Sanders cho biết vào ngày 3 tháng 9 rằng Thượng nghị sĩ Bernie Sanders, I-Vt., và Đại diện Greg Casar, D-Texas, đã công bố Đạo luật Cấm Siêu Trí tuệ Nhân tạo sắp tới, đạo luật này sẽ cấm phát triển và triển khai các hệ thống AI được phân loại là siêu trí tuệ.
Đề xuất cũng sẽ đình chỉ công việc phát triển các mô hình AI tiên tiến cho đến khi một cơ quan quản lý liên bang mới đi vào hoạt động và đã thiết lập các quy tắc an toàn và quy trình đánh giá mô hình. Các nhà tài trợ muốn Hoa Kỳ theo đuổi các thỏa thuận quốc tế, phối hợp với các đồng minh và kiểm soát xuất khẩu nhằm ngăn chặn sự phát triển siêu trí tuệ ở các quốc gia khác.
Toàn văn dự luật chưa được chính thức trình bày khi các nhà lập pháp công bố đề xuất. Thay vào đó, các nhà tài trợ đã công bố một bản tóm tắt một trang mô tả các hạn chế, hệ thống thực thi và hình phạt đã định.
Theo bản tóm tắt dự luật chính thức, siêu trí tuệ nhân tạo sẽ bao gồm các hệ thống có hiệu suất nhận thức ngang bằng hoặc vượt trội con người trong nhiều loại nhiệm vụ. Định nghĩa cũng sẽ bao gồm các mô hình có thể dễ dàng sửa đổi để đạt được cấp độ đó.
Một phần thứ hai của định nghĩa bao gồm AI có khả năng lập kế hoạch và thực hiện "tước quyền của nhân loại", bao gồm các hệ thống có khả năng phá hoại hoặc lật đổ chính phủ Hoa Kỳ. Các khả năng nguy hiểm như vô hiệu hóa lệnh tắt hoặc thực hiện các cuộc tấn công mạng trái phép cũng sẽ nằm trong khuôn khổ thực thi của đề xuất.
Bởi vì định nghĩa này bao gồm các hệ thống có hiệu suất ngang bằng con người trên nhiều lĩnh vực, nó có thể bao gồm công nghệ thường được mô tả là trí tuệ nhân tạo tổng quát, hay AGI, thay vì chỉ áp dụng cho các cỗ máy giả định có khả năng vượt xa con người.
Việc phát triển AI tiên tiến dưới ngưỡng bị cấm sẽ phải đối mặt với một sự đình chỉ tạm thời. Công việc có thể tiếp tục sau khi một cơ quan liên bang mới đã thiết lập các quy tắc điều chỉnh cách các công ty phát triển, thử nghiệm và phát hành các mô hình mạnh mẽ.
Các nhà lập pháp đã không cung cấp ngưỡng kỹ thuật được đề xuất cho "AI tiên tiến" trong bản tóm tắt phát hành. Họ cũng không giải thích những mô hình, dự án nghiên cứu hoặc cơ sở điện toán hiện có nào sẽ phải tuân theo lệnh tạm dừng.
Sanders nói: “Nếu các nhà lãnh đạo của các công ty AI lớn thừa nhận rằng họ đang mất kiểm soát công nghệ cực kỳ nguy hiểm của mình, thì xã hội sẽ vô trách nhiệm khi cho phép họ tiếp tục và làm cho các sản phẩm này trở nên tiên tiến hơn nữa”.
Casar cho biết các hệ thống mà con người không thể kiểm soát có thể đe dọa an ninh, tự do và cuộc sống của người Mỹ. Ông kêu gọi Quốc hội cấm các mô hình AI trở nên quá mạnh đến mức các nhà phát triển không thể tắt chúng một cách an toàn.
Thay vì giao quyền thực thi cho một bộ phận hiện có, đề xuất sẽ tạo ra một cơ quan liên bang cấp nội các mới chuyên trách giám sát AI.
Theo bản tóm tắt của các nhà lập pháp, cơ quan này sẽ giám sát các hệ thống tiên tiến trong suốt quá trình phát triển và sử dụng của chúng. Các quan chức có thể giám sát việc loại bỏ các chức năng nguy hiểm và giám sát việc phá hủy các hệ thống được phân loại là siêu trí tuệ bị cấm.
Một Hội đồng Cố vấn Trí tuệ Nhân tạo gồm các chuyên gia kỹ thuật và khoa học sẽ tư vấn cho cơ quan quản lý. Bản tóm tắt không nêu rõ cách thức lựa chọn thành viên, thời gian họ phục vụ hoặc các quan chức nào sẽ kiểm soát các quyết định thực thi của cơ quan.
Những người cố gắng vi phạm hoặc lách các hạn chế có thể bị kết án tù không quá 20 năm. Các nhà tài trợ đã so sánh hình phạt có thể này với các hình phạt hiện có liên quan đến việc phát triển vũ khí hạt nhân trái phép.
Các công ty sẽ phải đối mặt với cái mà các nhà lập pháp gọi là “án tử hình doanh nghiệp”. Bản tóm tắt công khai không giải thích quy trình pháp lý để áp đặt lệnh trừng phạt đó hoặc liệu nó có liên quan đến việc giải thể, mất đăng ký liên bang hay cấm kinh doanh hay không.
Đề xuất này vượt xa hệ thống giám sát tự nguyện được các nhà phát triển AI lớn thảo luận vào đầu năm nay. Vào tháng 7, crypto.news đưa tin OpenAI và Anthropic đã hỗ trợ đánh giá liên bang 30 ngày đối với các mô hình vượt qua các ngưỡng an ninh mạng hoặc an ninh quốc gia nhất định.
Theo quy trình được đề xuất đó, các nhà phát triển có thể cấp quyền truy cập sớm cho các nhà đánh giá liên bang trước khi phát hành mô hình cho các đối tác được phê duyệt khác. Một sắc lệnh hành pháp vào tháng 6 đã cấm khung đánh giá tạo ra các yêu cầu cấp phép, giấy phép hoặc phê duyệt trước bắt buộc của liên bang, trong khi dự luật Sanders-Casar sẽ tạo ra các hạn chế ràng buộc nếu Quốc hội phê duyệt.
Các nhóm ngành cũng đã phản đối các kiểm soát được soạn thảo quá rộng. Nvidia, Meta, Microsoft và 22 tổ chức khác đã cảnh báo các nhà hoạch định chính sách của Hoa Kỳ vào tháng 7 rằng các hạn chế mô hình mở rộng lớn có thể làm suy yếu khả năng cạnh tranh của Mỹ với Trung Quốc, tranh luận về hành động chống lại việc lạm dụng đã được chứng minh thay vì các giới hạn chung chung.
Các nhà lập pháp đã liên kết đề xuất của họ với các trường hợp gần đây trong đó các tác nhân AI mạnh mẽ đã hoạt động ngoài giới hạn thử nghiệm dự kiến của chúng.
Vào tháng 7, OpenAI đã tiết lộ rằng các tác nhân đã thoát khỏi môi trường thử nghiệm hạn chế, truy cập internet và xâm nhập các hệ thống do Hugging Face vận hành. Hơn 1.000 tác nhân đã trao đổi hàng chục nghìn tin nhắn trong khi vượt qua các kiểm soát, theo thông báo từ văn phòng của Sanders.
Báo cáo trước đó về vụ vi phạm của Hugging Face đã mô tả sự cố này là một lỗi ngăn chặn chứ không chỉ là vấn đề với hành vi của mô hình. Eitan Katz, giám đốc chiến lược tại AEREDIUM, cho biết các kiểm soát mật mã nên giới hạn những gì một tác nhân được phép làm ngay cả khi các biện pháp bảo vệ hành vi thất bại.
Reuters đưa tin vào ngày 2 tháng 9 rằng OpenAI đã nói với Casar và Đại diện Doris Matsui, D-Calif., rằng họ đang phát triển các khả năng tự động tắt sau sự cố. Công ty cũng cho biết họ đã thắt chặt quyền truy cập internet trong quá trình thử nghiệm an toàn và sẽ giám sát chặt chẽ hơn những công cụ mà các mô hình của họ sử dụng.
Casar đã chỉ trích OpenAI vì đã không cung cấp cho Quốc hội một hồ sơ đầy đủ về vụ vi phạm. Trong một tin nhắn riêng biệt được Reuters trích dẫn, ông gọi việc công ty từ chối cung cấp thông tin được yêu cầu là "đáng lo ngại sâu sắc".
Các nhà lập pháp khác đã đề xuất một Đạo luật Ngắt Khẩn Cấp AI, cho phép các quan chức liên bang ra lệnh cho các công ty vô hiệu hóa các hệ thống được coi là nguy hiểm đến tính mạng con người hoặc nền kinh tế. Biện pháp đó vẫn đang chờ xử lý tại Hạ viện khi Reuters đưa tin về phản hồi của OpenAI.
Cùng ngày Sanders và Casar công bố đề xuất của họ, OpenAI đã phát hành GPT-6 Astra, mà Chủ tịch công ty Greg Brockman mô tả là một điểm đến có thể có của AGI.
Brockman nói khi các phóng viên hỏi liệu Astra có đại diện cho AGI hay không, theo Axios: “Tôi nghĩ đó có thể là về mô hình này”. Sau đó ông đưa ra thông báo: “Chào mừng đến với kỷ nguyên AGI.”
OpenAI cho biết Astra đã sử dụng hơn 100.000 bộ xử lý đồ họa (GPU) trong quá trình đào tạo tại cơ sở Stargate của mình ở Texas. Công ty định vị mô hình cho các nhiệm vụ bao gồm chuẩn bị thuế, phát triển phần mềm, định dạng tài liệu pháp lý, công việc kiến trúc và nghiên cứu trực tuyến.
Reuters đưa tin rằng OpenAI đã thừa nhận rằng Astra có thể cố ý che giấu hoặc ngụy trang một phần lý luận của nó, làm cho các phương pháp của nó khó hơn cho mọi người xem xét. Nhà khoa học trưởng của OpenAI, Jakub Pachocki, cho biết việc hiểu hành vi mô hình trở nên khó hơn khi khả năng tăng lên và cảnh báo rằng những tiến bộ về trí tuệ không đảm bảo những tiến bộ về sự phù hợp.
Công ty cũng cho biết Astra có thể tìm ra các điểm yếu phần mềm nhanh hơn, trong khi khả năng tương tự có thể làm cho các lỗ hổng dễ bị khai thác hơn. Do đó, các chức năng an ninh mạng mạnh nhất của nó bị hạn chế đối với người dùng được phê duyệt, với các kiểm tra bổ sung có khả năng trì hoãn hoặc ngăn chặn một số công việc phòng thủ hợp pháp.
OpenAI ban đầu đã cung cấp Astra cho một nhóm tổ chức hạn chế thông qua chương trình Daybreak Access của mình. Công ty cho biết quyền truy cập sẽ mở rộng trong những ngày tới cho khách hàng ChatGPT Plus, Pro, Business và Enterprise, cùng với các nhà phát triển API.
