Se connecterS'inscrire
Déposer
Connecter
Transférer
OpenAI fait l’objet d’une plainte sur la question de savoir qui, exactement, est autorisé à lire vos conversations ChatGPT.
Un projet de recours collectif déposé ce mois-ci devant le tribunal fédéral du district nord de Californie accuse l’entreprise d’acheminer de véritables conversations d’utilisateurs vers des prestataires externes sans en informer correctement les personnes concernées au préalable. OpenAI a été officiellement assignée le 2 septembre.
La plainte vise une initiative interne d’OpenAI appelée Project Lily, révélée pour la première fois par le média 404 Media le 14 septembre. Selon la plainte, des sous-traitants embauchés via des agences de recrutement tierces pour des postes tels que « AI data reviewer » et « chatbot evaluator » lisent de vrais prompts ChatGPT et des conversations complètes, résument ce que l’utilisateur cherchait à faire, puis notent et critiquent quatre réponses différentes du modèle sur une échelle de un à sept.
Ce processus constitue une version basique de la manière dont des chatbots comme ChatGPT deviennent réellement plus performants. En substance, des humains évaluent les réponses de l’IA, puis ces évaluations sont réinjectées dans l’entraînement afin que le modèle apprenne quelles réponses les gens préfèrent, une technique que le secteur appelle RLHF, ou apprentissage par renforcement à partir de retours humains. Le grief formulé dans la plainte est que les utilisateurs n’ont jamais été clairement informés qu’une personne, et pas seulement une machine, pouvait être amenée à lire leurs échanges.
OpenAI soumet bien les conversations à un système automatisé avant qu’un humain ne les voie. La plainte affirme toutefois que ce filtre ne capte pas toujours tout, ce qui signifie que des informations personnelles parviennent malgré tout parfois aux sous-traitants.
404 Media a constaté que les examinateurs travaillent à partir d’un tableau de bord comprenant un « user memories summary » — un récapitulatif des conversations passées d’une personne pouvant révéler des éléments comme sa localisation générale, sa profession ou sa vie personnelle, même si les noms d’utilisateur ont été retirés. OpenAI a indiqué que ces examens visent à réduire deux comportements précis : le chatbot qui agit de manière trop humaine, et le chatbot qui se montre trop complaisant, un trait que les chercheurs appellent la sycophancy, lorsqu’une IA dit à l’utilisateur ce qu’elle pense qu’il veut entendre plutôt que ce qui est exact.
→
ChatGPT compte plus de 900 millions d’utilisateurs hebdomadaires, et beaucoup d’entre eux l’utilisent comme un journal intime, un thérapeute ou un moteur de recherche que seul eux peuvent voir.
Les gens y saisissent des symptômes de santé, des messages de rupture, des questions fiscales, des problèmes juridiques. La plainte soutient que la politique de confidentialité d’OpenAI cite certaines catégories de tiers ayant accès aux données des utilisateurs, mais ne mentionne jamais spécifiquement les fournisseurs d’annotation de données ou d’évaluation humaine parmi eux.
La plainte regroupe huit chefs distincts, dont des violations de la loi californienne sur la concurrence déloyale, de son Consumer Privacy Act, ainsi que des fondements de common law comme l’intrusion dans la vie privée — un délit civil en matière de confidentialité qui vise le fait de s’immiscer dans les affaires privées d’une personne d’une manière qu’une personne raisonnable jugerait offensante.
Les plaignants demandent des dommages-intérêts, une restitution et des dommages-intérêts punitifs.
Sur le volet injonctif, la demande est précise. Les plaignants veulent qu’OpenAI impose un consentement explicite préalable avant qu’une conversation ne soit envoyée à un examinateur externe, désactive par défaut le paramètre « Improve the model for everyone » au lieu de l’activer, ajoute un avertissement clair directement dans la fenêtre de chat, et supprime potentiellement les travaux dérivés liés aux conversations examinées tout en réentraînant les modèles qui les ont utilisées.
La réponse d’OpenAI est attendue pour le 13 octobre.
BTC