Fazer loginRegistrar-se
Depositar
Conectar
Transferência
A OpenAI está sendo processada pela questão de quem, exatamente, pode ler suas conversas no ChatGPT.
Uma proposta de ação coletiva apresentada neste mês no Tribunal Distrital dos EUA para o Distrito Norte da Califórnia acusa a empresa de encaminhar chats reais de usuários a contratados externos sem informar adequadamente as pessoas antes. A OpenAI foi oficialmente notificada em 2 de setembro.
O processo mira uma iniciativa interna da OpenAI chamada Project Lily, exposta pela primeira vez pelo veículo 404 Media em 14 de setembro. Segundo a queixa, contratados recrutados por firmas terceirizadas para funções como "revisor de dados de IA" e "avaliador de chatbot" leem prompts reais do ChatGPT e conversas completas, resumem o que o usuário estava tentando fazer e depois pontuam e criticam quatro respostas diferentes do modelo em uma escala de um a sete.
Esse processo é uma versão básica de como chatbots como o ChatGPT realmente ficam mais inteligentes. Em essência, humanos avaliam as respostas da IA, e essas avaliações são reinseridas no treinamento para que o modelo aprenda quais respostas as pessoas preferem — uma técnica que o setor chama de RLHF, ou reinforcement learning from human feedback. A alegação central do processo é que os usuários nunca foram informados de forma clara de que uma pessoa, e não apenas uma máquina, poderia estar lendo seus chats.
A OpenAI de fato submete as conversas a um sistema automatizado antes que qualquer humano as veja. A queixa alega que esse filtro nem sempre captura tudo, o que significa que detalhes pessoais às vezes acabam chegando aos contratados mesmo assim.
404 Media descobriu que os revisores trabalham em um dashboard que inclui um "resumo das memórias do usuário" — uma recapitulação dos chats anteriores de uma pessoa que pode revelar detalhes como sua localização geral, profissão ou vida pessoal, embora os nomes de usuário sejam removidos. A OpenAI afirmou que essas revisões têm o objetivo de reduzir dois comportamentos específicos: o chatbot agir de forma humana demais e o chatbot ser excessivamente complacente, uma característica que pesquisadores chamam de sycophancy, quando uma IA diz ao usuário o que acha que ele quer ouvir em vez do que é preciso.
→
O ChatGPT tem mais de 900 milhões de usuários semanais, e muitos deles o tratam como um diário, um terapeuta ou um mecanismo de busca que só eles podem ver.
As pessoas digitam sintomas de saúde, mensagens de término, dúvidas fiscais, problemas legais. O processo argumenta que a política de privacidade da OpenAI cita algumas categorias de partes externas que obtêm acesso aos dados dos usuários, mas nunca identifica especificamente fornecedores de anotação de dados ou de avaliação humana como uma delas.
A queixa reúne oito alegações jurídicas distintas, incluindo violações da Lei de Concorrência Desleal da Califórnia, de sua Lei de Privacidade do Consumidor, e alegações de common law como intrusion upon seclusion — um ilícito civil de privacidade que abrange bisbilhotar assuntos privados de alguém de uma forma que uma pessoa razoável consideraria ofensiva.
Os autores pedem indenização por danos, restituição e danos punitivos.
No lado do pedido de tutela injuntiva, a solicitação é específica. Os autores querem que a OpenAI exija consentimento prévio expresso antes que qualquer conversa seja enviada a um revisor externo, desative por padrão a configuração "Melhorar o modelo para todos" em vez de deixá-la ativada, adicione um aviso claro dentro da própria janela de chat e potencialmente apague produtos de trabalho vinculados às conversas revisadas, ao mesmo tempo em que retreina quaisquer modelos que as tenham utilizado.
A resposta da OpenAI deve ser apresentada até 13 de outubro.
BTC