Hội đồng Bảo an Liên Hợp Quốc sẽ dành chiều thứ Tư để lắng nghe chính những người đang xây dựng công nghệ mà tổ chức này lo ngại nhất.

CEO OpenAI Sam Altman, CEO Anthropic Dario Amodei, nhà nghiên cứu an toàn AI Yoshua Bengio và CEO Hugging Face Clément Delangue đều đã được lên lịch báo cáo trước hội đồng gồm 15 thành viên — cơ quan của Liên Hợp Quốc có quyền thông qua các lệnh trừng phạt và hành động quân sự — về những rủi ro do trí tuệ nhân tạo gây ra.

DeepSeek cũng được mời. Startup Trung Quốc này từng thổi bay khoảng 600 tỷ USD vốn hóa thị trường của Nvidia khi ra mắt một mô hình giá rẻ vào tháng 1/2025, và nay được đề nghị đưa ra phát biểu, cùng với một công ty Trung Quốc khác là Moonshot, đơn vị phát triển các mô hình Kimi.

Pháp là nước tổ chức phiên họp hôm thứ Tư và hiện giữ chức chủ tịch luân phiên của hội đồng trong tháng này. Ngoại trưởng Jean-Noël Barrot sẽ chủ trì, và theo ghi nhận, tài liệu định hướng cho cuộc họp tập trung vào nguy cơ các hệ thống AI vượt ra ngoài tầm kiểm soát của con người.

Buổi báo cáo này cũng được cho là sẽ đề cập đến AI có thể cuối cùng vận hành các cuộc tấn công mạng, tác động tới bầu cử hoặc thiết kế vũ khí mà không cần con người can thiệp trong vòng lặp kiểm soát, đó là lý do vì sao một hội đồng được lập ra để xử lý chiến tranh và trừng phạt lại lắng nghe các CEO công nghệ thay vì các tướng lĩnh trong tuần này.

Amodei sẽ tham gia từ xa thay vì xuất hiện trực tiếp. Ngày 12/9, ông công bố một bài luận mang tên "We Must Pace the Frontier", trong đó lập luận rằng ngành này nên chủ động làm chậm tốc độ phát triển các mô hình frontier có năng lực mạnh hơn — những hệ thống AI lớn nhất và tiên tiến nhất mà bất kỳ phòng thí nghiệm nào từng phát hành. Ông cho biết Anthropic sẽ cấp cho các đơn vị đánh giá bên ngoài quyền truy cập thường trực ở cấp độ nhân sự để kiểm chứng các cam kết an toàn của mình. Sam Altman và Elon Musk đều nói rằng họ đồng ý chỉ trong vài giờ sau đó.

Amodei gọi Trung Quốc là "quốc gia chuyên chế có năng lực AI tiên tiến nhất vượt trội" và lập luận rằng Mỹ nên tiếp tục hạn chế xuất khẩu chip tiên tiến sang Bắc Kinh, ngay cả khi vẫn kêu gọi Bắc Kinh hợp tác về các quy tắc an toàn toàn cầu. Bộ Ngoại giao Trung Quốc gọi bài luận này là phản tác dụng, còn truyền thông nhà nước mô tả đó là một "kịch bản Chiến tranh Lạnh" nhằm kiềm chế Trung Quốc.

Trong khi đó, Tổng thống Donald Trump không muốn dính dáng gì đến lời kêu gọi giảm tốc này. Sau khi bài luận của Amodei được công bố, ông chủ Nhà Trắng gọi các cảnh báo về việc AI tiếp quản là một "trò lừa bịp" gắn với "phe Cánh tả Cấp tiến", đồng thời trực tiếp cáo buộc Amodei có hành vi sai trái mà không đưa ra bằng chứng.

Vài ngày sau, Vua Charles đã tiếp đón các lãnh đạo từ Anthropic, OpenAI, Nvidia và Google DeepMind tại điền trang của ông ở Scotland cho một hội nghị thượng đỉnh về an toàn AI, nơi có các cuộc trao đổi nhưng không tạo ra bất kỳ thỏa thuận nào được công khai.

Phiên họp hôm thứ Tư cũng khó có khả năng tạo ra một thỏa thuận mang tính ràng buộc. Nó diễn ra hai ngày trước khi Trump gặp Chủ tịch Trung Quốc Tập Cận Bình tại Washington vào ngày 24/9, một hội nghị thượng đỉnh mà theo ghi nhận, an toàn AI nằm trong chương trình nghị sự cùng với thương mại.