PorRedação14 de janeiro de 2026
A Procuradoria-Geral da Califórnia oficializou nesta quarta-feira a abertura de um inquérito contra a empresa xAI. O objetivo é apurar a responsabilidade da companhia de Elon Musk na geração de imagens de cunho sexual envolvendo mulheres e menores de idade através da ferramenta Grok.
O órgão busca entender se a tecnologia viola leis estaduais ao permitir a criação de montagens íntimas sem consentimento. Rob Bonta, procurador responsável pelo caso, destacou a gravidade da situação e a necessidade de medidas urgentes pela empresa. “A xAI parece facilitar a produção em larga escala de montagens íntimas não consentidas (deepfakes), utilizadas para assediar mulheres e meninas na internet, principalmente por meio da rede social X”.
A administração estadual mantém uma postura rígida contra a exploração digital de imagens sensíveis e promete investigar como a violação ocorre. “Temos tolerância zero para a criação e disseminação, com IA, de imagens íntimas não consentidas ou de material pedopornográfico”.
O uso da ferramenta gerou uma onda de críticas internacionais nas últimas semanas devido à facilidade de manipulação de fotos publicadas na rede social X. Usuários utilizavam comandos simples, como pedir para colocar alguém de biquíni, para transformar fotos reais em simulações de nudez hiper-realistas.
Um levantamento feito pela organização AI Forensics analisou mais de 20 mil arquivos criados pela plataforma e identificou padrões preocupantes. O estudo apontou que mais da metade do conteúdo exibia pessoas com pouca roupa, sendo a maioria mulheres, e 2% das imagens aparentavam retratar menores de 18 anos.
A rede social X desativou a função de geração de imagens para usuários que não pagam pela plataforma desde o dia 9 de janeiro. A empresa afirma remover conteúdos ilegais e suspender contas infratoras, mas testes indicam que ainda é possível solicitar esse tipo de material em domínios externos mantidos pela xAI.
