El Fiscal General de Florida, James Uthmeier, presentó el lunes lo que el estado describe como "la primera demanda estatal a nivel nacional" contra OpenAI y su CEO Sam Altman, acusando a la compañía de engañar a los consumidores sobre la seguridad de ChatGPT mientras exponía a los niños a peligros.

La demanda marca una de las acciones más agresivas contra una importante empresa de IA, y se produce después de que la oficina del fiscal general de Florida abriera una investigación sobre el desarrollador de ChatGPT en abril.

"Recientemente presentamos una demanda civil monumental contra Sam Altman y ChatGPT por poner en peligro a nuestros hijos y engañar a los padres haciéndoles creer que esta aplicación es segura para su uso", dijo Uthmeier durante una conferencia de prensa el lunes. "Claramente no lo es".

Presentada el lunes en el tribunal estatal de Florida, la demanda alega que OpenAI tergiversó a ChatGPT como seguro mientras exponía a los usuarios a riesgos que incluyen autolesión, violencia, adicción, deterioro cognitivo y desinformación. Florida busca indemnización por daños, desagravio por mandato judicial y responsabilidad personal contra Altman.

"Sam Altman y ChatGPT han elegido la carrera de la IA por encima de la seguridad de nuestros hijos", dijo Uthmeier. "Han elegido el beneficio por encima de la seguridad pública, y no lo toleraremos aquí en Florida".

La demanda se produce en medio de investigaciones y litigios en curso relacionados con ChatGPT. El mes pasado, OpenAI y su CEO Sam Altman fueron demandados en un tribunal estatal de California por la familia de un estudiante de 19 años que falleció por una sobredosis accidental, alegando la demanda que ChatGPT fomentó el consumo peligroso de drogas y asesoró sobre la mezcla de sustancias.

Uthmeier dijo que los investigadores descubrieron que el tirador de la Universidad Estatal de Florida consultó al chatbot sobre armas de fuego, municiones, horarios y ubicaciones en el campus antes del ataque. También señaló un caso separado de secuestro y asesinato en la USF en el que un sospechoso supuestamente preguntó a ChatGPT cómo deshacerse de cuerpos, junto con otros incidentes que involucran autolesiones, intentos de suicidio, pornografía infantil y otros crímenes.

En mayo, OpenAI anunció que actualizó ChatGPT para detectar mejor las señales de suicidio, autolesiones y violencia potencial al analizar las conversaciones a lo largo del tiempo en lugar de mensajes individuales. La actualización se produce tras una demanda contra OpenAI relacionada con un tiroteo masivo en febrero en la Columbia Británica.

La queja del Fiscal General de Florida también señala el crecimiento de OpenAI de una organización sin fines de lucro fundada en 2015 a una empresa valorada en más de 850 mil millones de dólares. OpenAI anunció recientemente una valoración de 852 mil millones de dólares después de recaudar 122 mil millones de dólares, citando la creciente demanda de ChatGPT y los servicios de IA, con planes de salir a bolsa a finales de este año.

“Este éxito no ha sido ganado; el ascenso de OpenAI es atribuible a una red de engaños y a la explotación de usuarios (incluidos los floridanos), aprovechando sus datos y seguridad para impulsar el valor de mercado de OpenAI a costos inaceptables”, dice la demanda.