Tổng chưởng lý Florida James Uthmeier hôm thứ Hai đã đệ trình cái mà tiểu bang mô tả là “vụ kiện cấp tiểu bang đầu tiên trên toàn quốc” chống lại OpenAI và CEO Sam Altman, cáo buộc công ty này đã lừa dối người tiêu dùng về sự an toàn của ChatGPT trong khi khiến trẻ em gặp nguy hiểm.

Vụ kiện đánh dấu một trong những hành động quyết liệt nhất chống lại một công ty AI lớn, và được đưa ra sau khi văn phòng tổng chưởng lý Florida mở cuộc điều tra về nhà phát triển ChatGPT vào tháng Tư.

"Chúng tôi gần đây đã đệ trình một vụ kiện dân sự quan trọng chống lại Sam Altman và ChatGPT vì đã gây nguy hiểm cho con em chúng ta và lừa dối các bậc phụ huynh tin rằng ứng dụng này an toàn khi sử dụng," Uthmeier nói trong một cuộc họp báo hôm thứ Hai. "Rõ ràng là không."

Được đệ trình tại tòa án bang Florida hôm thứ Hai, vụ kiện cáo buộc OpenAI đã trình bày sai về ChatGPT là an toàn trong khi khiến người dùng gặp phải các rủi ro bao gồm tự hại, bạo lực, nghiện ngập, suy giảm nhận thức và thông tin sai lệch. Florida đang yêu cầu bồi thường thiệt hại, lệnh cấm và trách nhiệm cá nhân đối với Altman.

"Sam Altman và ChatGPT đã chọn cuộc đua AI thay vì sự an toàn và an ninh của con em chúng ta," Uthmeier nói. "Họ đã chọn lợi nhuận thay vì an toàn công cộng, và chúng tôi sẽ không chấp nhận điều đó ở Florida."

Vụ kiện diễn ra trong bối cảnh các cuộc điều tra và vụ kiện đang diễn ra liên quan đến ChatGPT. Tháng trước, OpenAI và CEO Sam Altman đã bị gia đình một sinh viên 19 tuổi tử vong do dùng thuốc quá liều một cách vô tình kiện tại tòa án bang California, với cáo buộc rằng ChatGPT đã khuyến khích việc sử dụng ma túy nguy hiểm và tư vấn về việc pha trộn các chất.

Uthmeier cho biết các nhà điều tra đã phát hiện ra rằng kẻ xả súng tại Đại học Bang Florida đã tham khảo chatbot về súng, đạn dược, thời gian và địa điểm trong khuôn viên trường trước vụ tấn công. Ông cũng chỉ ra một vụ án bắt cóc và giết người riêng biệt của USF, trong đó một nghi phạm bị cáo buộc đã hỏi ChatGPT cách phi tang xác, cùng với các sự cố khác liên quan đến tự hại, cố gắng tự tử, khiêu dâm trẻ em và các tội phạm khác.

Vào tháng 5, OpenAI cho biết họ đã cập nhật ChatGPT để phát hiện tốt hơn các dấu hiệu tự tử, tự hại và bạo lực tiềm tàng bằng cách phân tích các cuộc trò chuyện theo thời gian thay vì các tin nhắn riêng lẻ. Bản cập nhật này được đưa ra sau một vụ kiện chống lại OpenAI liên quan đến một vụ xả súng hàng loạt vào tháng 2 ở British Columbia.

Đơn khiếu nại của Tổng chưởng lý Florida cũng chỉ ra sự phát triển của OpenAI từ một tổ chức phi lợi nhuận được thành lập vào năm 2015 thành một công ty được định giá hơn 850 tỷ đô la. OpenAI gần đây đã công bố mức định giá 852 tỷ đô la sau khi huy động được 122 tỷ đô la, viện dẫn nhu cầu ngày càng tăng đối với ChatGPT và các dịch vụ AI, với kế hoạch niêm yết công khai vào cuối năm nay.

“Thành công này không phải là xứng đáng; sự trỗi dậy của OpenAI có thể quy cho một mạng lưới lừa dối và bóc lột người dùng (bao gồm cả người dân Florida), tận dụng dữ liệu và sự an toàn của họ để đẩy giá trị thị trường của OpenAI lên mức không thể chấp nhận được," vụ kiện cho biết.