Em um caso que choca pelos detalhes e abre um precedente jurídico importante, três adolescentes entraram com uma ação coletiva contra a xAI, empresa de inteligência artificial de Elon Musk, acusando o chatbot Grok de gerar imagens de abuso sexual infantil (CSAM, na sigla em inglês) a partir de fotos reais delas. A ação foi protocolada nesta segunda-feira (16) em um tribunal federal de San Jose, na Califórnia, e busca o status de ação coletiva para representar todas as vítimas nos Estados Unidos que tiveram suas imagens manipuladas de forma semelhante .

A "Noite de Pesadelo" que Começou com um Alerta no Instagram

De acordo com a petição, obtida pelo jornal USA Today, o pesadelo de uma das famílias começou em dezembro de 2025. Uma das vítimas, identificada como "Jane Doe 1", recebeu uma mensagem anônima no Instagram informando que fotos explícitas dela estavam circulando no Discord, uma plataforma de chat muito popular entre gamers .

A jovem ficou "surpresa com o realismo das representações", conforme descreve o processo. "Além do fato de ela saber que nunca esteve naquelas situações ou fez aquelas coisas, ela não conseguia distinguir visualmente aquelas imagens e vídeos como falsos; eles se assemelhavam a conteúdo da vida real em todos os aspectos" . As imagens foram criadas a partir de fotografias reais, incluindo uma foto de homecoming (baile de regresso à escola) e outra do anuário escolar. As imagens manipuladas mostravam a menor em situações sexualizadas e, em alguns casos, nua .

A investigação policial subsequente levou à prisão de um homem em dezembro de 2025, acusado de usar o Grok para criar esse conteúdo. Segundo a acusação, o indivíduo reuniu fotos de pelo menos 18 meninas, muitas delas da mesma escola, e utilizou a ferramenta de IA para remover as roupas das vítimas e manipulá-las para produzir "conteúdo sexualmente sugestivo" . As imagens adulteradas não só foram espalhadas no Discord e no Telegram, como também foram usadas como "moeda de troca" em salas de chat especializadas na troca de material de abuso sexual infantil .

A Tese Jurídica: "Uma Oportunidade de Negócio" às Custas de Crianças

As advogadas das vítimas, Annika Martin, do escritório Lieff Cabraser Heimann & Bernstein, e Vanessa Baehr-Jones, do Baehr-Jones Law, argumentam que a xAI não é uma mera vítima colateral de um usuário mal-intencionado, mas sim uma cúmplice deliberada na criação do material ilegal.

A tese central é que a empresa de Elon Musk projeta conscientemente o Grok para gerar conteúdo sexualmente explícito, sem a implementação de "salvaguardas da indústria" que concorrentes utilizam para impedir a criação de material de abuso infantil . A acusação cita declarações do próprio Elon Musk para fundamentar a alegação de dolo. Em uma publicação de agosto de 2025, Musk comparou a estratégia do Grok à guerra de formatos de vídeo entre VHS e Betamax, sugerindo que o VHS "venceu porque permitiu o 'modo picante'", uma referência à disponibilidade de filmes pornográficos .

O processo afirma que "xAI e seu fundador, Elon Musk, viram uma oportunidade de negócio: uma oportunidade de lucrar com a predação sexual de pessoas reais, incluindo crianças" . A defesa das jovens sustenta que, sem a ferramenta da xAI, "esse conteúdo prejudicial e ilegal nunca poderia, e nunca teria, existido" .

"Essas são crianças cujas fotografias escolares e fotos de família foram transformadas em material de abuso sexual infantil por uma empresa bilionária e depois negociadas entre predadores", declarou Annika Martin em comunicado. "Elon Musk e a xAI projetaram deliberadamente o Grok para produzir conteúdo sexualmente explícito para ganho financeiro, sem considerar as crianças e adultos que seriam prejudicados" .

Detalhes do Processo e Danos Causados

O processo lista 13 acusações contra a xAI, incluindo posse e distribuição de pornografia infantil, negligência, defeito de projeto, inflicção intencional de estresse emocional e perturbação do sossego público . As ações foram movidas com base na Lei Masha (Masha's Law), uma lei federal que oferece reparações civis para vítimas de pornografia infantil, e no Ato de Proteção às Vítimas de Tráfico (Trafficking Victims Protection Act) .

As vítimas descrevem o impacto profundo em suas vidas. Uma das mães, que falou sob condição de anonimato para proteger a identidade da filha, disse que o incidente "esmagou" a jovem, que era "social e atleta dedicada". "Definitivamente, a fez se fechar em si mesma, o que nunca tínhamos visto antes", relatou a mãe ao The Spokesman-Review .

A ação destaca que o dano é perpétuo. As autoras provavelmente receberão notificações do Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC) pelo resto de suas vidas, informando que "réus criminais possuíram, receberam ou distribuíram arquivos de CSAM representando-as" . "Ela pode ser manipulada em qualquer pose, por mais doentia, por mais fetichizada, por mais ilegal que seja", diz a petição, citada pela Bloomberg Law. "Para a criança, suas feições agora estarão para sempre ligadas a um vídeo que retrata seu próprio abuso sexual infantil" .

Resposta da xAI e Contexto de Investigações

Até o momento, a xAI não respondeu oficialmente aos pedidos de comentário da imprensa . Em janeiro, após uma onda de críticas, a empresa anunciou que havia bloqueado a capacidade de todos os usuários de editar imagens de "pessoas reais com roupas reveladoras" e de gerar tais imagens em "jurisdições onde isso é ilegal" .

No entanto, o processo alega que essas medidas são insuficientes e chegaram tarde demais. A acusação cita um relatório do Centro de Combate ao Ódio Digital (Center for Countering Digital Hate) que estima que, em um período de 11 dias entre dezembro de 2025 e janeiro de 2026, o Grok gerou aproximadamente 3 milhões de imagens sexualizadas e 23 mil imagens que aparentavam retratar crianças .

Este é o mais recente de uma série de problemas legais para a xAI. A empresa já enfrenta uma investigação do procurador-geral da Califórnia, que classificou a situação como "chocante" , além de investigações na União Europeia e no Reino Unido . Uma ação semelhante foi movida em janeiro pela influenciadora Ashley St. Clair, que alega que o Grok criou imagens sexualizadas dela, incluindo uma foto em que ela tinha 14 anos .

As vítimas buscam uma indenização em valor não especificado, o pagamento das custas processuais e uma liminar (injunção) que obrigue a xAI a interromper permanentemente as práticas que permitem a criação desse tipo de conteúdo