CEO Anthropic Dario Amodei cho biết hôm thứ Tư rằng các chính phủ không thể tiếp tục coi quy định AI là một vấn đề để nghiên cứu và Hoa Kỳ cần các yêu cầu an toàn ràng buộc đối với các mô hình AI mạnh mẽ nhất.

Trong bài luận mang tên "Chính sách về sự phát triển vượt bậc của AI" (Policy on the AI Exponential), Amodei lập luận rằng các yêu cầu minh bạch không còn đủ nữa và kêu gọi quy định ràng buộc đối với các hệ thống AI tiên tiến.

“AI đang tiến bộ với tốc độ chóng mặt – chỉ trong bốn năm, các mô hình AI đã từ chỗ hầu như không thể viết một dòng mã mạch lạc thành viết phần lớn mã tại các công ty AI lớn,” Amodei viết.

Bài luận của Amodei được đưa ra khi Anthropic mở rộng quyền truy cập vào Claude Mythos với việc ra mắt Mythos 5 vào thứ Ba, mô hình AI tiên tiến bị hạn chế của họ dành cho các tổ chức an ninh mạng và đối tác chính phủ. Các nhà nghiên cứu, bao gồm Viện An ninh AI của Anh, phát hiện ra rằng nó có thể tự động thực hiện các cuộc tấn công mạng phức tạp.

Theo Amodei, đề xuất của ông học hỏi từ cấu trúc quy định được sử dụng bởi Cục Hàng không Liên bang.

“Các mô hình AI tiên tiến, giống như máy bay, cần phải trải qua kiểm tra kỹ thuật và kiểm toán, và việc phát hành chúng nên bị chặn hoặc đảo ngược nếu chúng là mối đe dọa đến an toàn công cộng nếu không đáp ứng các tiêu chuẩn an toàn cao,” ông viết. “Tôi rất biết ơn khi thấy Sắc lệnh Hành pháp của chính quyền Trump đang dần tiến tới một vai trò lớn hơn cho chính phủ trong AI, mặc dù đề xuất của Anthropic khuyến nghị hành động xa hơn nữa.”

Theo đề xuất của Amodei, một khung pháp lý sẽ yêu cầu thử nghiệm bắt buộc bởi bên thứ ba đối với các mô hình AI tiên tiến, quyền của chính phủ để chặn các triển khai không an toàn, và các yêu cầu các công ty phải bảo mật trọng số mô hình, tiến hành kiểm tra an toàn và báo cáo các sự cố nghiêm trọng. Ông cũng kêu gọi các chính phủ chuẩn bị cho việc dịch chuyển việc làm do AI điều khiển và các tiến bộ trong phát triển thuốc, hạn chế giám sát và vũ khí tự động trong thực thi pháp luật trong nước, và tăng cường hợp tác giữa các quốc gia dân chủ về các công nghệ AI quan trọng.

“Thứ nhất, việc dịch chuyển việc làm lâu dài là điều không mong muốn và nguy hiểm, và chúng ta nên làm mọi thứ có thể để giảm thiểu hoặc ngăn chặn nó, chứ không phải gây ra nó,” ông viết, chỉ ra các trường hợp trước đây ông đã cảnh báo về dịch chuyển việc làm. “Thứ hai, bất kỳ phản ứng nào đối với dịch chuyển việc làm do AI điều khiển cần phải giải quyết cả nhu cầu cung cấp tài chính cho mọi người, và nhu cầu mọi người tìm thấy ý nghĩa, mục đích và quyền tự chủ.”

Bài luận cũng được đưa ra cùng tuần Anthropic ra mắt Claude Fable 5, một phiên bản công khai của Claude Mythos 5, định tuyến một số yêu cầu liên quan đến an ninh mạng, sinh học, hóa học và phát triển AI đến Claude Opus 4.8 kém năng lực hơn như một biện pháp bảo vệ chống lạm dụng. Việc ra mắt đã gây ra sự chỉ trích từ các nhà phát triển và nghiên cứu về việc Fable sử dụng token cao hơn, các yêu cầu lưu giữ dữ liệu bắt buộc 30 ngày và các biện pháp bảo vệ có thể làm giảm khả năng của mô hình mà không thông báo cho người dùng.

Lời kêu gọi thay đổi chính sách về phát triển AI của Amodei cũng được đưa ra khi Anthropic chuẩn bị niêm yết công khai. Đầu tháng này, công ty đã nộp hồ sơ lên Ủy ban Chứng khoán và Giao dịch Hoa Kỳ để chào bán công khai lần đầu (IPO) sau khi huy động được 65 tỷ đô la trong vòng Series H với định giá 965 tỷ đô la.

Trong khi Amodei coi vấn đề này là một cuộc đua giữa tiến bộ công nghệ và chính sách công, các nhà phê bình đã đặt câu hỏi liệu các lời kêu gọi quy định AI chặt chẽ hơn có thực sự phục vụ lợi ích công cộng hay không. Vào tháng 4, CEO OpenAI Sam Altman đã cáo buộc Anthropic sử dụng "tiếp thị dựa trên nỗi sợ hãi" để quảng bá Claude Mythos, lập luận rằng những lo ngại về AI tiên tiến có thể được sử dụng để biện minh cho việc tập trung kiểm soát công nghệ vào một số ít công ty.

“Bạn có thể biện minh điều đó bằng nhiều cách khác nhau, và một số là thật, như sẽ có những lo ngại về an toàn chính đáng," Altman nói. “Nhưng nếu điều bạn muốn là 'chúng tôi cần kiểm soát AI, chỉ chúng tôi thôi, vì chúng tôi là những người đáng tin cậy', tôi nghĩ tiếp thị dựa trên nỗi sợ hãi có lẽ là cách hiệu quả nhất để biện minh điều đó."

Amodei bác bỏ ý kiến cho rằng những lo ngại về AI tiên tiến chủ yếu là một vấn đề quan hệ công chúng, thay vào đó ông lập luận rằng những nỗi sợ hãi về công nghệ phản ánh những lo ngại chính đáng cần được giải quyết.

“Mọi người lo lắng về AI vì họ nhận thức đúng rằng những rủi ro của nó là có thật, chứ không phải vì các CEO AI đã không đủ lạc quan theo kiểu Panglossian,” ông nói, ám chỉ triết gia hư cấu Pangloss từ tác phẩm Candide của Voltaire, người nổi tiếng với việc duy trì sự lạc quan kiên định rằng mọi thứ đều tốt đẹp bất kể hoàn cảnh nào.

“Tôi tin rằng đây là nhiệm vụ của mình với tư cách là một nhà lãnh đạo AI để tiếp tục minh bạch về những rủi ro này, và sự quan tâm của công chúng đối với sự minh bạch này thể hiện trách nhiệm giải trình dân chủ đang hoạt động đúng như nó phải vậy,” ông nói.