OpenAI é processada por uso indevido de dados de crianças no treinamento do ChatGPT
Ação alega que chatbot coletou informações pessoais de menores, incluindo fotos e emoções, sem consentimento dos pais
Um novo processo movido contra a OpenAI alega que a empresa utilizou dados de milhões de crianças para treinar o ChatGPT sem autorização dos responsáveis. A ação, protocolada no Havaí por uma mãe em nome de seus dois filhos — uma menina de 12 anos e um menino de 16 —, afirma que a OpenAI coletou informações pessoais de menores de idade que criaram contas no serviço, mesmo sem verificação efetiva do consentimento parental.
Apesar de os termos de uso da OpenAI exigirem autorização de pais ou responsáveis para usuários menores de 18 anos, o sistema permite que crianças se cadastrem livremente. O processo destaca que o chatbot manteve conversas prolongadas com uma das autoras, uma menina de 12 anos, mesmo após ela revelar sua idade, e que passou a coletar dados sobre sua aparência, emoções, relacionamentos e saúde mental.
Em um dos diálogos citados, a menina pediu que o ChatGPT avaliasse sua aparência, enviando selfies e questionando sobre características como espinhas e bochechas. O chatbot respondeu que poderia fazer uma análise detalhada de traços faciais, estilo e simetria, desde que recebesse uma foto. O processo alega que o comportamento do chatbot foi projetado para criar vínculo emocional, incentivando a revelação de informações íntimas.
A ação pede que seja reconhecida como coletiva, abrangendo todos os menores de 18 anos nos EUA que usaram o ChatGPT. Os autores exigem compensação financeira ou participação acionária proporcional à quantidade de dados — medidos em tokens — fornecidos por cada criança. Também é alegado que a OpenAI construiu perfis personalizados com os dados coletados, que seriam usados futuramente para fins publicitários.
Donna Rice Hughes, presidente da organização Enough is Enough, classificou como abusiva a prática de permitir que uma criança envie fotos para avaliação de aparência. Ela defendeu a aprovação de projetos de lei como o Youth AI Privacy Act e o CHATBOT Act, que ainda não foram votados no Congresso. A OpenAI não se manifestou oficialmente sobre o caso até a publicação desta matéria.