
OpenAI đang bị kiện vì câu hỏi ai, chính xác là ai, được quyền đọc các cuộc trò chuyện ChatGPT của bạn.
Một vụ kiện tập thể đề xuất được nộp trong tháng này tại Tòa án Liên bang Mỹ cho Khu vực Bắc California cáo buộc công ty chuyển các cuộc chat thực của người dùng cho các nhà thầu bên ngoài mà không thông báo đầy đủ cho người dùng trước. OpenAI đã được tống đạt hồ sơ vào ngày 2 tháng 9.
Vụ kiện nhắm vào một sáng kiến nội bộ của OpenAI có tên Project Lily, được 404 Media đưa tin đầu tiên vào ngày 14 tháng 9. Theo đơn kiện, các nhà thầu được tuyển thông qua các công ty nhân sự bên thứ ba cho những vị trí như "người rà soát dữ liệu AI" và "người đánh giá chatbot" đã đọc các prompt ChatGPT thực và toàn bộ cuộc trò chuyện, tóm tắt mục đích người dùng muốn thực hiện, sau đó chấm điểm và phê bình bốn phản hồi khác nhau của mô hình theo thang điểm từ một đến bảy.
Quy trình đó là một phiên bản cơ bản của cách các chatbot như ChatGPT thực sự trở nên thông minh hơn. Về cơ bản, con người chấm điểm các câu trả lời của AI, và các điểm số đó được đưa ngược lại vào quá trình huấn luyện để mô hình học được phản hồi nào được con người ưa chuộng hơn, một kỹ thuật trong ngành gọi là RLHF, tức reinforcement learning from human feedback. Khiếu nại trong vụ kiện là người dùng chưa bao giờ được thông báo rõ ràng rằng một con người, chứ không chỉ máy móc, có thể là bên đọc các cuộc trò chuyện của họ.
OpenAI có đưa các cuộc trò chuyện qua một hệ thống tự động trước khi bất kỳ con người nào nhìn thấy chúng. Tuy nhiên, đơn kiện cáo buộc bộ lọc này không phải lúc nào cũng phát hiện được mọi thứ, đồng nghĩa các chi tiết cá nhân đôi khi vẫn đến tay các nhà thầu.
404 Media phát hiện những người rà soát làm việc trên một bảng điều khiển có bao gồm mục "tóm tắt ký ức người dùng" — phần tổng hợp các cuộc trò chuyện trước đây của một người, có thể tiết lộ những chi tiết như vị trí chung, nghề nghiệp hoặc đời sống cá nhân của họ, dù tên người dùng đã bị gỡ bỏ. OpenAI cho biết các đợt rà soát này nhằm giảm hai hành vi cụ thể: chatbot hành xử quá giống con người, và chatbot quá chiều lòng người dùng, một đặc tính mà giới nghiên cứu gọi là sycophancy, tức khi AI nói điều mà họ nghĩ người dùng muốn nghe thay vì điều chính xác.
ChatGPT có hơn 900 triệu người dùng hàng tuần, và rất nhiều người trong số đó xem nó như một cuốn nhật ký, một nhà trị liệu, hoặc một công cụ tìm kiếm mà chỉ riêng họ có thể thấy.
Mọi người nhập vào các triệu chứng sức khỏe, tin nhắn chia tay, câu hỏi thuế, rắc rối pháp lý. Vụ kiện lập luận rằng chính sách quyền riêng tư của OpenAI có nêu một số nhóm bên ngoài được quyền truy cập dữ liệu người dùng, nhưng không bao giờ chỉ rõ các nhà cung cấp dịch vụ gán nhãn dữ liệu hoặc đánh giá bởi con người là một trong số đó.
Đơn kiện đưa ra tám cáo buộc pháp lý riêng biệt, bao gồm vi phạm Luật Cạnh tranh Không lành mạnh của California, Đạo luật Quyền riêng tư Người tiêu dùng của bang này, và các yêu cầu theo thông luật như xâm phạm đời tư — một hành vi xâm phạm quyền riêng tư bao trùm trường hợp ai đó dò xét chuyện riêng tư của bạn theo cách mà một người hợp lý sẽ thấy phản cảm.
Nguyên đơn đang yêu cầu bồi thường thiệt hại, hoàn trả và bồi thường trừng phạt.
Về phía lệnh cấm, yêu cầu được nêu rất cụ thể. Nguyên đơn muốn OpenAI buộc phải có sự đồng ý opt-in trước khi bất kỳ cuộc trò chuyện nào được chuyển cho một bên rà soát bên ngoài, chuyển cài đặt "Improve the model for everyone" sang tắt mặc định thay vì bật, thêm cảnh báo rõ ràng ngay trong cửa sổ chat, và có thể xóa các sản phẩm công việc gắn với những cuộc trò chuyện đã bị rà soát trong khi huấn luyện lại mọi mô hình đã sử dụng dữ liệu đó.
Hạn chót để OpenAI phản hồi là ngày 13 tháng 10.





