Tổng thư ký Liên Hợp Quốc António Guterres đã khai mạc Đối thoại Toàn cầu đầu tiên về Quản trị AI tại Geneva vào thứ Hai, nói với 193 quốc gia rằng AI đã vượt xa các thể chế được tạo ra để quản lý nó – và rằng nhân loại đang tự thực hiện một cuộc thử nghiệm "không có kế hoạch và không có sự đồng thuận."
"Trí tuệ nhân tạo đang phát triển với tốc độ chóng mặt," Guterres nói trong phần mở đầu bài phát biểu của mình. "Một công nghệ có thể định hình lại nền kinh tế, biến đổi thế giới việc làm, ảnh hưởng đến các cuộc bầu cử và làm nghiêng cán cân an ninh đang được triển khai nhanh hơn bất kỳ ai – kể cả những người tạo ra nó – có thể theo kịp."
Tham dự cuộc họp có tất cả 193 quốc gia thành viên Liên Hợp Quốc, được triệu tập tại Geneva trong Đối thoại Toàn cầu đầu tiên về Quản trị AI, một nỗ lực đa phương nhằm quản lý một công nghệ vốn đã vượt xa mọi người đang cố gắng làm điều đó.
Khái niệm được Guterres sử dụng để giải thích rủi ro của AI không được quản lý là vibe coding – một thuật ngữ được Andrej Karpathy, thành viên sáng lập OpenAI và cựu giám đốc AI tại Tesla, đặt ra để mô tả việc lập trình theo cảm tính: nói cho AI biết bạn muốn gì, để nó tự xử lý phần còn lại, không cần xem xét kỹ lưỡng. Merriam-Webster gần đây đã thêm thuật ngữ này vào từ điển của mình.
Guterres thừa nhận vibe coding "có thể tạo ra những điều kỳ diệu" khi ngày càng nhiều người tin tưởng vào các sản phẩm do AI xây dựng.
"Nhưng chúng ta không thể 'vibe code' sự thật," ông nói. "Chúng ta không thể 'vibe code' tương lai của nhân loại."
Các con số đằng sau câu nói đó không hề nhẹ nhàng. Guterres cho biết internet mất 15 năm để đạt một tỷ người, còn AI chỉ mất hai năm. Ông mô tả các hệ thống hiện tại "không còn là công cụ chờ hướng dẫn – chúng đang viết mã, hoạt động trực tuyến và đưa ra các lựa chọn với sự giám sát của con người ngày càng ít đi."
"Các thể chế của chúng ta được xây dựng để quản lý các cỗ máy tuân theo lệnh. Chúng chưa sẵn sàng cho các cỗ máy tự quyết định."
Đối thoại này ra đời từ Thỏa thuận Kỹ thuật số Toàn cầu năm 2024, lần đầu tiên thiết lập quản trị AI quốc tế như một nhiệm vụ của Liên Hợp Quốc. Phiên khai mạc hai năm sau đó cũng nhận được báo cáo sơ bộ của Hội đồng Khoa học Quốc tế Độc lập về Trí tuệ Nhân tạo – gồm 40 nhà khoa học từ 140 quốc gia – đã công bố tuần trước phát hiện rằng hiện tại không ai có thể đảm bảo AI sẽ không gây ra thiệt hại thảm khốc.
Tốc độ là một trong ba cảnh báo mà Guterres rút ra từ hội đồng. Thứ hai là quyền lực: điện toán, dữ liệu và nhân tài tập trung vào một số ít công ty và quốc gia, phần lớn thế giới bị loại khỏi các quyết định vốn đã định hình nó, một điều cũng khiến các chuyên gia AI khác như Yann Lecun, Andy Kowinski và Yoshua Bengio lo lắng.
Thứ ba là sự thật – một lời nói dối do máy móc tạo ra giờ đây có sức thuyết phục hiệu quả như một sự thật đã được xác minh, dần dần làm xói mòn cái mà Guterres gọi là "sự toàn vẹn của hệ sinh thái thông tin của chúng ta."
Trẻ em làm chuột bạch và robot sát thủ
Trong số các đề xuất cụ thể của Guterres có Cam kết An toàn AI cho Trẻ em, yêu cầu các công ty phải chứng minh sự an toàn thông qua thử nghiệm độc lập trước khi bất kỳ AI nào tiếp cận trẻ em, duy trì chính sách không khoan nhượng đối với việc tạo ra hình ảnh lạm dụng tình dục trẻ em, và kết nối trẻ em gặp khó khăn với sự hỗ trợ từ con người thật thay vì để chúng một mình với chatbot. "Không đứa trẻ nào nên là chuột bạch cho AI không được kiểm soát."
Và sau đó là các robot sát thủ. Guterres gọi vũ khí tự hành gây chết người – những cỗ máy tự chọn và tiêu diệt mục tiêu mà không cần phán xét của con người – là "ghê tởm về mặt đạo đức" và kêu gọi cấm chúng theo luật quốc tế.
Các quốc gia đã ngồi vào bàn thảo luận. Ông không gợi ý họ nên kéo dài thời gian.
Đối thoại sẽ được triệu tập lại tại New York vào năm 2027. Guterres cũng kêu gọi Đại hội đồng Liên Hợp Quốc thành lập Quỹ Toàn cầu về AI tập trung vào việc tiếp cận điện toán cho các nước đang phát triển, và thách thức mọi công ty AI lớn vận hành tất cả các trung tâm dữ liệu bằng năng lượng tái tạo vào năm 2030 – năm mà ông ước tính các cơ sở đó sẽ vượt mức tiêu thụ điện của tất cả trừ năm quốc gia.
