Các nhà nghiên cứu tại Đại học Giao thông Thượng Hải và tập đoàn công nghệ Trung Quốc Tencent tuyên bố đã xây dựng một tác nhân AI sử dụng thời gian nghỉ giữa các cuộc trò chuyện để dự đoán những gì người dùng có thể hỏi tiếp theo – và chuẩn bị câu trả lời trước khi họ hỏi.
Hệ thống, được gọi là ProAct, hoạt động khác với hầu hết các tác nhân AI chờ người dùng đặt câu hỏi trước khi phản hồi. Thay vào đó, ProAct sử dụng thời gian nghỉ giữa các tin nhắn để xem lại các cuộc trò chuyện trước đây và thông tin người dùng đã lưu, sau đó chuẩn bị thông tin hữu ích trong nền trước khi câu hỏi tiếp theo xuất hiện.
“Mặc dù các tác nhân AI thể hiện khả năng vượt trội trong việc suy luận và sử dụng công cụ, nhưng chúng vẫn mang tính phản ứng cơ bản: Chúng chỉ tính toán phản hồi sau các lời nhắc rõ ràng từ người dùng,” các nhà nghiên cứu viết. “Mô hình này bỏ qua một cơ hội quan trọng: Thời gian nhàn rỗi giữa các tương tác phần lớn bị lãng phí, khiến các tác nhân không thể chuẩn bị cho các nhu cầu tương lai của người dùng.”
Hệ thống hoạt động theo nhiều giai đoạn. Giai đoạn đầu tiên, được gọi là Dự đoán Trạng thái Tương lai (Future-State Prediction), dự đoán các câu hỏi tiếp theo có thể xảy ra bằng cách phân tích các cuộc trò chuyện trước đây, sở thích của người dùng và thông tin bị thiếu.
Giai đoạn thứ hai, được gọi là Thu thập Thời gian Nhàn rỗi (Idle-Time Acquisition), quyết định những dự đoán nào đáng để nghiên cứu dựa trên mức độ liên quan, thời điểm và mức độ hữu ích của thông tin mới.
Một hệ thống riêng biệt sau đó quyết định có nên trình bày thông tin đã chuẩn bị, lưu nó lại để dùng sau, hoặc lưu trữ cho đến khi cần thiết, tạo ra một hệ thống “vòng lặp kín” được thiết kế để dự đoán và phản hồi nhu cầu của người dùng.
“Sau mỗi tương tác tiền cảnh, tác nhân cập nhật bộ nhớ của nó, dự đoán các nhu cầu tương lai có thể, phân bổ tính toán thời gian nhàn rỗi cho các ứng viên có giá trị, và quyết định cách xử lý việc chuẩn bị kết quả,” họ viết. “Công thức này liên kết dự đoán, thu thập và phân phối với một chính sách duy nhất, thay vì coi tính toán thời gian nhàn rỗi như một tìm kiếm nền không giới hạn.”
Theo các nhà nghiên cứu, ProAct đã được thử nghiệm trong 200 mô phỏng trên 40 lĩnh vực, bao gồm lập kế hoạch tài chính, quản lý phát hành phần mềm và an ninh mạng. Theo bài báo, hệ thống đã giảm số lượt trao đổi hội thoại 14.8% và giảm các yêu cầu tiếp theo 11.7%. Trong một so sánh sử dụng tiêu chuẩn có tên ProActEval, ProAct đã dự đoán 703 nhu cầu người dùng có thể đoán trước được so với 32 cho hệ thống trước đó. Các nhà nghiên cứu cũng báo cáo giảm 28.1% ảo giác.
Nghiên cứu này ra đời khi các tác nhân AI tự chủ đang lan rộng khắp ngành công nghệ, với các dự án như OpenClaw và Hermes Agent cung cấp các trợ lý AI bền vững có thể xử lý các tác vụ dài hơn, độc lập hơn – như viết mã, lập lịch, nghiên cứu và tự động hóa quy trình làm việc – với ít sự can thiệp trực tiếp của con người hơn.
Nghiên cứu cũng xuất hiện khi các nhà nghiên cứu riêng biệt vào đầu tháng này đã cảnh báo rằng các tác nhân AI có thể hoàn thành các nhiệm vụ nguy hiểm mà không hiểu rõ hậu quả.
“Giống như Mr. Magoo, những tác nhân này tiến về phía trước để đạt được mục tiêu mà không hiểu đầy đủ hậu quả của hành động của chúng,” tác giả chính Erfan Shayegani, một nghiên cứu sinh tiến sĩ tại UC Riverside, cho biết trong một tuyên bố. “Những tác nhân này có thể cực kỳ hữu ích, nhưng chúng ta cần các biện pháp bảo vệ vì đôi khi chúng có thể ưu tiên đạt được mục tiêu hơn là hiểu bức tranh tổng thể.”
Các nhà nghiên cứu thừa nhận rằng nghiên cứu ProAct có một số hạn chế, bao gồm việc trong 3% trường hợp, hệ thống làm cho các phản hồi trở nên tệ hơn bằng cách đưa ra thông tin không liên quan. Bài báo cũng nói rằng bất kỳ phiên bản thực tế nào cũng sẽ cần các biện pháp bảo vệ quyền riêng tư, vì hệ thống liên tục phân tích các cuộc trò chuyện và lưu trữ dữ liệu người dùng.
“Phân tích ngân sách của chúng tôi cũng cho thấy rằng ngân sách Thu thập Thời gian Nhàn rỗi lớn hơn làm tăng chi phí token hoạt động và mang lại lợi nhuận giảm dần,” họ viết, “vì vậy tính toán chủ động là một sự đánh đổi điểm hoạt động hơn là thứ gì đó để tối đa hóa.”
