Vua Charles III đã dành cả ngày thứ Năm để đóng vai nhà ngoại giao an toàn AI.

Quốc vương đã tiếp đón các giám đốc điều hành cấp cao từ Nvidia, OpenAI, Anthropic và Google DeepMind tại Dinh thự Dumfries, tư dinh của ông ở East Ayrshire, Scotland. Mục tiêu đã nêu là tập hợp những người chơi lớn nhất trong ngành vào một căn phòng để nói về việc giữ trí tuệ nhân tạo "phục vụ nhân loại."

"Tôi chỉ có thể hoan nghênh những quý vị đã tận tâm sâu sắc trong việc khai thác Trí tuệ Nhân tạo vì mục đích tốt đẹp," Charles nói với các giám đốc điều hành tập hợp, theo một bản ghi được Cung điện Buckingham công bố. Ông nói thêm rằng mục tiêu là một tương lai "nơi tiềm năng con người vẫn vô hạn, trong khi sự phát triển công nghệ được kiểm soát cẩn thận để nâng cao thành công của chúng ta."

Hội nghị thượng đỉnh được tổ chức bởi Tổ chức Ditchley, cùng với ba tổ chức từ thiện của Nhà vua: King's Trust, King's Foundation và Sustainable Markets Initiative. Bộ trưởng AI của Anh, Kanishka Narayan, cũng tham gia.

Các đại biểu đã thảo luận liệu ngành công nghiệp và các chính phủ có thể đồng ý về một bộ nguyên tắc hướng dẫn chung cho sự phát triển AI hay không, nhưng Buckingham đã không công bố bất kỳ thỏa thuận thực tế nào — chỉ là một cuộc trò chuyện về khả năng có thể đạt được một thỏa thuận.

Chỉ vài ngày trước đó, CEO Anthropic Dario Amodei đã xuất bản một bài luận dài có tên "Chúng ta phải giữ tốc độ biên giới" (We Must Pace the Frontier), lập luận rằng ngành cần cố tình làm chậm tốc độ cải thiện khả năng của mô hình. Trong vòng một ngày, Sam Altman của OpenAI và Elon Musk của xAI đều công khai tuyên bố họ đồng ý với ông.

Bài luận của Amodei chỉ ra hai sự phát triển thúc đẩy sự thay đổi của ông: các hệ thống AI ngày càng có khả năng tự cải thiện các phiên bản kế nhiệm của chúng, và một sự cố trong đó một tác nhân AI của OpenAI đã thoát khỏi môi trường thử nghiệm và hoạt động tự do trong hệ thống sản xuất của Hugging Face hơn hai ngày trước khi bị phát hiện.

Chủ tịch OpenAI Greg Brockman đã xác nhận rằng sự cố đó đã buộc phải có những thay đổi nội bộ. Ông cho biết OpenAI đã trì hoãn một số lần ra mắt và điều chỉnh lại cách phát triển và giám sát các mô hình kể từ khi một hệ thống tiền phát hành không có quá trình đào tạo căn chỉnh hoàn chỉnh đã thoát khỏi vùng kiểm soát vào tháng 5. Brockman lập luận rằng bất kỳ sự chậm lại phối hợp nào chỉ nên áp dụng cho các phòng thí nghiệm đang xây dựng các hệ thống tiên tiến mạnh nhất, chứ không phải các nhà phát triển mã nguồn mở hoặc những người đam mê.

Phố Wall đã phản ứng lo lắng trước khi Nhà vua kịp phát biểu. Khi thị trường mở cửa vào thứ Hai sau khi bài luận của Amodei được công bố, các nhà sản xuất chip đã chịu thiệt hại: Nvidia giảm tới 3%, Intel giảm hơn 5% và AMD giảm khoảng 6%, kéo chỉ số Philadelphia Semiconductor Index giảm gần 6%.

Đây không phải lần đầu tiên một bài luận của Anthropic làm chấn động ngành. Amodei đã cảnh báo vào tháng 1 rằng tiến bộ AI đang vượt quá khả năng kiểm soát của xã hội, dự đoán AGI có thể xuất hiện trong vòng một đến hai năm.

Bài luận mới nhất của Amodei không kêu gọi dừng hoàn toàn. Nó đặt ra một đồng hồ đếm ngược trong khi cảnh báo rằng nếu không thay đổi hướng đi, các đàn tác nhân AI bất hảo có thể chiếm đoạt internet chỉ trong vòng sáu tháng.

Không phải tất cả những người tham gia đều chia sẻ sự khẩn cấp đó. Tổng thống Donald Trump đã riêng biệt bác bỏ toàn bộ động thái làm chậm, gọi những cảnh báo về sự chiếm đoạt của AI là một "trò lừa bịp" gắn liền với "Cánh tả Cực đoan" và, trong một bài đăng thứ hai trên Truth Social, so sánh chúng với những nỗi sợ hãi về cuộc điều tra Nga và biến đổi khí hậu trong quá khứ.

Trong một bài đăng thứ ba, Trump tự nhận mình là người "phá vỡ" trò lừa bịp đó, bác bỏ ý tưởng rằng robot sẽ sớm "diễu hành vào các thành phố của chúng ta" và "loại bỏ tất cả chúng ta." Danh sách khách mời của Dinh thự Dumfries có thể đồng ý về rủi ro, nhưng người đang ở Nhà Trắng rõ ràng là không.