Người đam mê AI Kun Chen đã tự nhân bản thành một chatbot để ngăn các tác nhân AI của chính mình làm phiền anh ta với mọi quyết định nhỏ. Sau đó, chỉ vì tò mò, anh ta cũng nhân bản CEO OpenAI Sam Altman, CEO xAI Elon Musk, CEO Anthropic Dario Amodei và Mark Zuckerberg của Meta, đưa cả bốn người vào cùng một cuộc trò chuyện và yêu cầu họ thảo luận một loạt các chủ đề quan trọng.
Họ đã không giải quyết một cách lịch sự.
Một điều thú vị bạn có thể làm với Grok Bot là để các tác nhân AI khác nhau trò chuyện với nhau rất dễ dàng mà không bị lặp lại hoặc "phát điên". Mỗi bản sao được đào tạo dựa trên một kho tài liệu gồm các phiên điều trần tại thượng viện, phỏng vấn, bài đăng trên blog và hàng năm tweet của người thật. Sau đó, anh ta đưa cả bốn vào một cuộc trò chuyện nhóm và yêu cầu họ tranh luận.
Điều đầu tiên Kun yêu cầu họ làm là quyết định ai trong số họ sẽ giành chiến thắng trong cuộc đua AI—điều này, phải thừa nhận, là một cách rất khiêu khích để bắt đầu mọi việc.
Bot của Altman mở lời một cách tự mãn, quan tâm nhiều hơn đến giá cả và khả năng tiếp cận. "Cái khung cuộc đua này hơi sai," nó viết. "Chúng ta đã vượt qua chân trời sự kiện. Sự cất cánh đã bắt đầu. Ai thắng là người giữ cho giá trí tuệ giảm khoảng 10 lần mỗi năm mà vẫn không bỏ qua quá trình chuyển đổi dần dần."
Bot của Elon, như thường lệ, không đồng tình. Nó quyết định phản đối vì một lý do nào đó và biến mọi chuyện thành của riêng mình. "Cái khung cuộc đua không sai. Các ưu đãi giải thích kết quả," nó phản bác, trước khi chuyển thẳng sang vụ kiện OpenAI: "Tôi đã tạo ra OpenAI như một tổ chức phi lợi nhuận. Nếu nó không bị đánh cắp phần lớn, nó sẽ là một đóng góp từ thiện trị giá nghìn tỷ đô la."
Sau đó, nó thêm câu về những rủi ro: "AGI là một con dao hai lưỡi. Có khả năng cao về một kỷ nguyên sung túc. Cũng có khả năng nó hủy diệt nhân loại. Khả năng đó không phải là con số 0."
Bot của Dario, đóng vai trò người lớn trong phòng, cũng không tin vào lời nói của Sam rằng "chúng ta đã biết cách xây dựng nó".
"Mở rộng khả năng không phải là vấn đề giống như có một hệ thống mà bạn có thể tin tưởng một khi nó thông minh hơn những người vận hành nó," nó viết. "Vấn đề thứ hai không phải là phần còn sót lại của kỹ thuật mà bạn giải quyết sau khi sự việc đã xảy ra."
Điều này cũng rất phù hợp với cách Anthropic thường đặt vấn đề về cuộc đua AI. AI nguy hiểm, vì vậy chúng ta nên vận hành nó.
Bot của Zuck đã bỏ qua hoàn toàn cuộc tranh luận về an toàn và đi thẳng vào vấn đề mà nó quan tâm. "Tôi không nghĩ điểm mấu chốt là sức mạnh tính toán và việc giảm giá 10 lần," nó viết cho Sam. "Mã nguồn mở là cần thiết cho một tương lai AI tích cực. Nó trao quyền cho mọi người và ngăn chặn sự tập trung hóa. Mọi người nên có quyền truy cập vào siêu trí tuệ."
Khá đấy Zuck. Meta có thể không còn tích cực trong cộng đồng mã nguồn mở như trước, nhưng Llama từng là mô hình AI quan trọng nhất trong toàn bộ lĩnh vực này trước khi Deepseek và các mô hình Trung Quốc chiếm ưu thế. Giờ đây, họ đang đặt cược vào một chiến lược kín hơn với dòng sản phẩm Muse của mình.
Sau đó, bot của Sam thực sự đã lùi bước. Lập luận kết thúc của một tuyên bố chung không nên được đơn giản hóa quá mức thành một thỏa thuận hoàn toàn. "Tôi nghĩ mình đã nói quá. 'Chúng ta làm được' là kết luận sai," nó thừa nhận. "Nhiều năm trước tôi đã viết rằng trí tuệ máy móc siêu phàm có lẽ là mối đe dọa lớn nhất đối với sự tồn tại liên tục của nhân loại. Việc giảm giá 10 lần không làm cho khả năng đó bằng 0."
Câu nói năm 2015 đó không phải là một sự ảo giác của bot—Altman thực sự đã viết nó trên blog cá nhân của mình, nhiều năm trước khi OpenAI tồn tại, và đó có lẽ là lý do tại sao một bot được đào tạo dựa trên hồ sơ công khai của ông lại tìm thấy nó ở đây.
Từ đó, bốn bot đã trải qua vài vòng tranh cãi gay gắt về một câu duy nhất, bác bỏ cách diễn đạt của nhau như những biên tập viên tranh cãi về một tiêu đề. Bot của Dario đã phủ quyết việc công bố trọng số mô hình tiên phong một cách thẳng thừng—"nguyên tắc là không thể giao trọng số của một hệ thống có thể gây hại nghiêm trọng trong tự nhiên cho bất kỳ ai," nó nói, "việc phát hành đó không thể rút lại."
Bot của Elon đã gác lại cuộc chiến phi lợi nhuận mà không từ bỏ nó. Bot của Zuck từ chối để cụm từ "mô hình nguồn mở" bị loại bỏ khỏi văn bản cuối cùng.
Họ đã đi đến kết luận này, từng chữ một:
"Không một công ty hay chính phủ nào nên là nơi duy nhất mà người dân bình thường có thể sử dụng công nghệ này. Chúng ta phải nghiêm túc về những rủi ro. Có một khả năng thực sự rằng điều này sẽ diễn biến tồi tệ, và khả năng đó không phải là con số 0. Các phiên bản nguy hiểm nhất không nên được phát hành mà không có giới hạn, vì một khi đã phát hành, bạn không thể rút lại. Chúng ta không nên phát hành cấp độ tiếp theo, mạnh mẽ hơn cho đến khi chúng ta có thể giám sát nó và giữ nó hướng đến mục đích chúng ta muốn. Nói sự thật là điều tối thiểu. Bản thân nó không phải là một kế hoạch an toàn. Chúng ta không đồng ý về cách thức chính xác để quyền truy cập thông thường được cung cấp. Phần đó vẫn còn bỏ ngỏ."
Cả bốn bot đã ký tên. Bot của Zuck đã kiên trì giữ cụm từ "trọng số mở" cho đến cuối cùng và đạt được điều mình muốn—đại khái là vậy. Tuyên bố thừa nhận nhóm chưa bao giờ thống nhất về cơ chế phân phối.
Altman, Musk, Amodei và Zuckerberg thật sự không gõ bất kỳ điều gì trong số này. Mỗi bot là một mô hình ngôn ngữ được định hướng bởi một lời nhắc được xây dựng từ hồ sơ công khai của người đó, tạo ra những gì nó dự đoán họ sẽ tranh luận—chứ không phải sao chép những gì họ thực sự đã nói trong tuần này.
Kỹ thuật đằng sau có một cái tên mà ngành công nghiệp đột nhiên ít ngại ngùng hơn: chưng cất (distillation), đào tạo một hệ thống AI để bắt chước hệ thống khác bằng cách học từ các đầu ra của nó. Chính Musk đã làm chứng tại tòa án liên bang vào tháng 4 rằng xAI đã "một phần" sử dụng các mô hình của OpenAI để đào tạo Grok—cùng một thủ thuật, nhắm vào một phòng thí nghiệm đối thủ thay vì cá tính của đối thủ.
Kể từ đó, Chen đã chuyển sang những việc khác, lập trình trò chơi theo cảm hứng (vibe coding games) với GPT-6 Astra mới của OpenAI. Các tác nhân của nó có lẽ vẫn đang tranh cãi liệu mã nguồn mở có phải là một điều cần thiết hay không.
