OpenAI este dată în judecată din cauza întrebării cine, mai exact, ajunge să citească conversațiile tale din ChatGPT.
O propunere de acțiune colectivă depusă luna aceasta la Tribunalul Districtual al SUA pentru Districtul de Nord al Californiei acuză compania că a direcționat chat-uri reale ale utilizatorilor către contractori externi fără să informeze oamenii în mod corespunzător în prealabil. OpenAI a fost notificată oficial pe 2 septembrie.
Procesul vizează o inițiativă internă OpenAI numită Project Lily, dezvăluită prima dată de publicația 404 Media pe 14 septembrie. Potrivit plângerii, contractori angajați prin firme terțe de staffing pentru roluri precum „AI data reviewer” și „chatbot evaluator” citesc prompturi reale din ChatGPT și conversații complete, rezumă ce încerca utilizatorul să facă, apoi notează și critică patru răspunsuri diferite ale modelului pe o scară de la unu la șapte.
Acest proces este o versiune de bază a modului în care chatbot-uri precum ChatGPT devin, în realitate, mai inteligente. Pe scurt, oamenii notează răspunsurile AI-ului, iar acele note sunt reintegrate în procesul de antrenare, astfel încât modelul să învețe ce răspunsuri preferă utilizatorii, o tehnică pe care industria o numește RLHF, adică reinforcement learning from human feedback. Susținerea din plângere este că utilizatorilor nu li s-a spus niciodată clar că o persoană, nu doar o mașină, ar putea fi cea care le citește chat-urile.
OpenAI trece într-adevăr conversațiile printr-un sistem automatizat înainte ca vreun om să le vadă. Plângerea susține însă că filtrul nu detectează întotdeauna totul, ceea ce înseamnă că uneori detalii personale ajung totuși la contractori.
404 Media a constatat că evaluatorii lucrează dintr-un dashboard care include un „rezumat al memoriilor utilizatorului” — o recapitulare a chat-urilor anterioare ale unei persoane, care poate dezvălui detalii precum locația generală, profesia sau viața personală, chiar dacă numele de utilizator sunt eliminate. OpenAI a spus că aceste evaluări au scopul de a reduce două comportamente specifice: chatbotul care se comportă prea uman și chatbotul care este prea de acord cu utilizatorul, o trăsătură pe care cercetătorii o numesc „sycophancy”, când un AI îi spune utilizatorului ceea ce crede că acesta vrea să audă, în loc de ceea ce este corect.
→
ChatGPT are peste 900 de milioane de utilizatori săptămânali, iar mulți dintre ei îl tratează ca pe un jurnal, un terapeut sau un motor de căutare pe care doar ei îl pot vedea.
Oamenii introduc simptome medicale, mesaje de despărțire, întrebări fiscale, probleme juridice. Procesul susține că politica de confidențialitate a OpenAI menționează anumite categorii de terți care primesc acces la datele utilizatorilor, dar nu indică niciodată în mod specific furnizorii de adnotare a datelor sau de evaluare umană drept una dintre acestea.
Plângerea include opt capete de acuzare distincte, inclusiv încălcări ale Legii privind concurența neloială din California, ale Legii privind confidențialitatea consumatorilor din California și pretenții de common law precum intrusion upon seclusion — un delict civil privind viața privată care acoperă situațiile în care cineva se bagă în afacerile tale private într-un mod pe care o persoană rezonabilă l-ar considera ofensator.
Reclamanții solicită despăgubiri, restituire și daune punitive.
În ceea ce privește ordinul judecătoresc, cererea este specifică. Reclamanții vor ca OpenAI să solicite consimțământ expres, de tip opt-in, înainte ca orice conversație să fie trimisă unui evaluator extern, să dezactiveze în mod implicit setarea „Îmbunătățește modelul pentru toată lumea” în loc să o lase activată, să adauge un avertisment clar chiar în fereastra de chat și, posibil, să șteargă produsele de lucru legate de conversațiile evaluate, retrenând în același timp orice modele care le-au folosit.
Răspunsul OpenAI trebuie depus până pe 13 octombrie.
BTC