Essa política teria feito conteúdos ilegais produzidos pelo chatbot voltarem ao sistema como material de treinamento, afirma a ação. “Enquanto o Grok mantiver a capacidade de gerar esse tipo de conteúdo, o dano não pode ser considerado resolvido apenas porque imagens individuais foram removidas”, diz a denúncia.
A autora pede indenização às vítimas e a destruição de todo conteúdo de abuso sexual infantil gerado pelo Grok. O pedido inclui materiais ainda públicos e arquivos que possam ser usados para treinar os modelos da empresa.
Outras ações contra a ferramenta
O Grok enfrenta investigações governamentais, processos individuais e ao menos três ações coletivas ligadas à criação de imagens sexuais sem consentimento. Parte das vítimas de imagens manipuladas era formada por crianças, relata a reportagem.
A xAI restringiu o acesso ao recurso que permitia retirar roupas de pessoas em fotos e o colocou atrás de pagamento. O chamado modo picante continua disponível, embora com mais limitações.
A própria xAI também processou dois usuários acusados de usar a ferramenta para criar conteúdo de abuso sexual infantil. Na ação, a empresa afirmou ter ajudado na prisão de ao menos 244 pessoas acusadas de criar ou distribuir esse tipo de material pelo Grok.