OpenAI está siendo demandada por quién, exactamente, puede leer tus conversaciones de ChatGPT.
Una propuesta de demanda colectiva presentada este mes en el Tribunal de Distrito de EE. UU. para el Distrito Norte de California acusa a la compañía de canalizar chats reales de usuarios hacia contratistas externos sin informar debidamente a las personas de antemano. OpenAI recibió la notificación formal el 2 de septiembre.
La demanda apunta a una iniciativa interna de OpenAI llamada Project Lily, que el medio 404 Media reveló por primera vez el 14 de septiembre. Según la querella, contratistas incorporados a través de firmas externas de staffing para cargos como "revisor de datos de IA" y "evaluador de chatbots" leen prompts reales de ChatGPT y conversaciones completas, resumen lo que el usuario intentaba hacer y luego puntúan y critican cuatro respuestas distintas del modelo en una escala del uno al siete.
Ese proceso es una versión básica de cómo los chatbots como ChatGPT realmente se vuelven más inteligentes. En esencia, humanos califican las respuestas de la IA, y esas calificaciones se reincorporan al entrenamiento para que el modelo aprenda qué respuestas prefieren las personas, una técnica que la industria llama RLHF o aprendizaje por refuerzo a partir de retroalimentación humana. La queja central de la demanda es que nunca se informó con claridad a los usuarios que una persona, y no solo una máquina, podía ser quien leyera sus chats.
OpenAI sí hace pasar las conversaciones por un sistema automatizado antes de que cualquier humano las vea. La demanda alega que ese filtro no siempre detecta todo, lo que significa que, aun así, a veces detalles personales llegan a manos de contratistas.
404 Media descubrió que los revisores trabajan desde un panel que incluye un "resumen de memorias del usuario": una recapitulación de los chats anteriores de una persona que puede revelar detalles como su ubicación general, profesión o vida personal, aunque los nombres de usuario hayan sido eliminados. OpenAI ha dicho que estas revisiones buscan reducir dos comportamientos específicos: que el chatbot actúe de forma demasiado humana y que sea excesivamente complaciente, un rasgo que los investigadores llaman sycophancy, cuando una IA le dice al usuario lo que cree que quiere oír en lugar de lo que es correcto.
→
ChatGPT tiene más de 900 millones de usuarios semanales, y muchos de ellos lo tratan como un diario, un terapeuta o un motor de búsqueda que solo ellos pueden ver.
La gente introduce síntomas de salud, mensajes de ruptura, preguntas fiscales y problemas legales. La demanda sostiene que la política de privacidad de OpenAI menciona algunas categorías de terceros externos que acceden a datos de usuarios, pero nunca identifica específicamente a los proveedores de anotación de datos o evaluación humana como una de ellas.
La querella incluye ocho reclamaciones legales independientes, entre ellas violaciones de la Ley de Competencia Desleal de California, su Ley de Privacidad del Consumidor y reclamaciones de common law como intrusión en la intimidad, un agravio de privacidad que cubre cuando alguien se entromete en tus asuntos privados de una manera que una persona razonable consideraría ofensiva.
Los demandantes solicitan daños y perjuicios, restitución y daños punitivos.
En el frente de la medida cautelar, la petición es específica. Los demandantes quieren que OpenAI exija consentimiento expreso previo antes de que cualquier conversación pase a un revisor externo, que la configuración "Mejorar el modelo para todos" quede desactivada por defecto en lugar de activada, que se añada una advertencia clara dentro de la propia ventana del chat y, potencialmente, que se elimine el trabajo derivado vinculado a las conversaciones revisadas mientras se reentrena cualquier modelo que las haya utilizado.
La respuesta de OpenAI debe presentarse el 13 de octubre.
BTC