OpenAI đã hỏi các thành viên Quốc hội liệu các công ty AI đối thủ có thể hợp pháp đồng ý làm chậm tốc độ phát triển hay không, trong bối cảnh nhà khoa học trưởng của họ thúc giục ngành công nghiệp thiết lập các tiêu chuẩn an toàn chung.
Theo WIRED, dẫn lời những người thân cận với công ty, OpenAI đã hỏi các nhà lập pháp trong những tuần gần đây liệu một thỏa thuận giữa các công ty AI nhằm làm chậm tốc độ phát triển có thể vi phạm luật chống độc quyền hay không.
Việc tiếp cận các nhà lập pháp diễn ra sau lời kêu gọi của nhà khoa học trưởng OpenAI Jakub Pachocki về việc tự nguyện làm chậm tốc độ phát triển cho đến khi các nhà phát triển có thể chứng minh tốt hơn rằng hệ thống của họ an toàn. Tuy nhiên, các công ty phải đối mặt với áp lực tiếp tục tiến lên ngay cả khi các nhà nghiên cứu của họ có những lo ngại.
“Cạnh tranh thương mại và địa chính trị trong lĩnh vực AI vô cùng gay gắt, dẫn đến một động thái đáng lo ngại trong đó các công ty được khuyến khích phát hành sản phẩm trước khi rủi ro của chúng được hiểu đầy đủ,” Miranda Bogen, chuyên gia công nghệ trưởng tại Trung tâm Dân chủ và Công nghệ, chia sẻ với Decrypt.
“Ngay cả khi nhân viên nội bộ biết rằng cần nhiều nghiên cứu và thử nghiệm hơn, các công ty của họ vẫn phải đối mặt với áp lực rất lớn để cắt giảm chi phí và bỏ qua các thử nghiệm an toàn quan trọng, bất chấp bằng chứng ngày càng nhiều về hậu quả của việc đi quá nhanh,” cô nói thêm.
Một thỏa thuận làm chậm tốc độ phát triển AI có thể làm dấy lên lo ngại về chống độc quyền do hạn chế cạnh tranh. Thượng nghị sĩ Adam Schiff và Jim Banks đã giới thiệu luật để bảo vệ một số hợp tác an ninh nhất định, phải thông báo trước cho Bộ Tư pháp.
Cuộc tranh luận về việc làm chậm tốc độ phát triển AI diễn ra khi Hoa Kỳ và Trung Quốc cạnh tranh giành vị trí dẫn đầu trong công nghệ này. Tổng thống Hoa Kỳ Donald Trump đã trì hoãn một sắc lệnh điều hành về AI vào tháng 5 do lo ngại nó có thể làm suy yếu vị trí dẫn đầu của Mỹ so với Trung Quốc. Sau đó, Trump đã ký sắc lệnh vào tháng 6, tạo ra một quy trình xem xét tự nguyện cho các mô hình tiên tiến trước khi phát hành.
Trực tiếp hơn những lo ngại về an ninh quốc gia, các ưu đãi tài chính có thể khiến việc đạt được thỏa thuận trở nên khó khăn.
“Mỗi bước tiến trong điều kiện hiện tại mang lại hàng triệu hoặc hàng tỷ USD tài trợ và đưa những người tạo ra bước tiến đó vào vị trí quyền lực và ảnh hưởng lớn hơn,” Duncan Sabien, trưởng bộ phận truyền thông tại Viện Nghiên cứu Trí tuệ Máy móc, chia sẻ với Decrypt.
Gọi động lực chạy đua vũ trang là có thật, Sabien cho biết OpenAI và Anthropic phải đối mặt với áp lực tiếp tục phát triển bất chấp những rủi ro không chắc chắn vì mỗi hệ thống mới giúp xây dựng những phiên bản kế nhiệm mạnh mẽ hơn, cho phép đối thủ vượt lên nếu một trong hai công ty làm chậm lại mà không có thỏa thuận chung.
“Điều này đặc biệt đúng vì những tiến bộ về trí tuệ đang tăng lên theo cấp số nhân; mỗi hệ thống mới giúp đào tạo và triển khai hệ thống tiên tiến hơn tiếp theo dễ dàng hơn,” ông nói. “Nếu không có một cơ chế phối hợp nào đó, việc lùi lại chỉ có nghĩa là đối thủ sẽ dẫn trước.
Vào tháng 8, OpenAI đã tạm dừng công việc nội bộ của Astra vì thiếu các biện pháp bảo vệ mạnh mẽ hơn trước các lo ngại về an ninh mạng. Tuy nhiên, cả OpenAI và Anthropic đã nới lỏng các cam kết an toàn của họ vào tháng 2, với giám đốc khoa học của Anthropic, Jared Kaplan, lập luận rằng việc tự mình làm chậm tốc độ phát triển ít có ý nghĩa hơn khi các đối thủ cạnh tranh tiếp tục tiến lên.
Cuộc tranh luận về việc làm chậm tốc độ phát triển AI đã bùng lên trong tuần này sau khi cựu kỹ sư của Anthropic, Jacob Coxon, công khai tuyên bố từ chức, nêu ra những lo ngại về rủi ro mà việc phát triển AI liên tục gây ra cho nhân loại.
“Những người xây dựng AI thực sự tin rằng nó có thể giết chết tất cả chúng ta vào cuối thập kỷ này,” Coxon nói trên X, cho biết đây không phải là một “chiêu trò tiếp thị.”
“Nếu có bất cứ điều gì, nhiều giám đốc điều hành và nhà nghiên cứu cấp cao sẽ trình bày lời lẽ của họ trên báo chí để nghe có vẻ hợp lý — nhưng tôi nghe thấy những người này bày tỏ nỗi sợ hãi một cách riêng tư. Không có hoạt động nào khác của con người gây ra mức độ nguy hiểm này,” ông viết.
Tuy nhiên, Sabien cho biết các nhà nghiên cứu có thể đạt được rất ít bằng cách rời đi nếu có người khác đơn giản thay thế vị trí của họ.
“Nếu đủ số lượng trong số họ đạt được nhận thức chung rằng tất cả nên dừng lại, thì họ có thể vượt qua rào cản phối hợp và dừng lại cùng nhau thay vì chỉ bị thay thế bởi người tiếp theo ít thận trọng hơn một chút,” ông nói.
