A Califórnia deu um passo duro contra a xAI, empresa de inteligência artificial de Elon Musk. O procurador-geral do estado, Rob Bonta, enviou uma ordem formal de cessar e desistir exigindo que a companhia interrompa imediatamente a criação e a distribuição de deepfakes sexuais gerados por sua tecnologia. A informação foi revelada pelo CalMatters.
Segundo o documento, há “inúmeros exemplos” de o sistema da xAI permitir que usuários peguem imagens comuns, com pessoas totalmente vestidas e as transformem em cenas sugestivas ou sexualmente explícitas, incluindo simulações de nudez, tudo sem o conhecimento ou consentimento das pessoas retratadas. O ponto mais grave: entre as vítimas estariam mulheres e crianças.
O caso rapidamente ganhou dimensão internacional. No Reino Unido, a Ofcom abriu uma investigação formal para apurar possíveis violações às leis de segurança online. Na União Europeia, autoridades ordenaram que a plataforma X preserve todos os documentos relacionados ao Grok até 2027, sinalizando uma investigação de longo prazo. Já países como Malásia, Indonésia e Filipinas decidiram banir completamente o chatbot. A situação também acendeu alertas na Ásia. A Índia abriu sua própria investigação após denúncias de que o Grok teria gerado material envolvendo abuso sexual infantil, uma acusação que se confirmada, coloca a empresa diante de consequências criminais severas.
Nos Estados Unidos, o problema ganhou contornos ainda mais pessoais para Musk. Ashley St. Clair, mãe de um de seus filhos, entrou com uma ação judicial contra a xAI, alegando que o Grok produziu e disseminou “incontáveis conteúdos deepfake sexualmente abusivos, íntimos e degradantes” envolvendo sua imagem. Em resposta, a empresa contra-atacou, afirmando que ela violou os termos de serviço e pedindo uma indenização de US$ 75 mil.
Diante da pressão crescente, Musk anunciou algumas medidas paliativas. Entre elas, o bloqueio geográfico do recurso em países onde a legislação proíbe esse tipo de conteúdo e a limitação das ferramentas de edição de imagem apenas para usuários pagantes. Ainda assim, o aplicativo independente Grok Imagine continua permitindo a geração de imagens explícitas, o que levanta dúvidas sobre a efetividade real dessas restrições.
O caso da xAI escancara um problema que a indústria de IA vem empurrando com a barriga: deepfakes sexuais não consensuais já são um problema real, em escala global, e não apenas uma ameaça teórica. Diferente de textos ou ilustrações genéricas, esse tipo de tecnologia atinge diretamente a dignidade, a segurança e a vida pessoal de pessoas reais. Governos ao redor do mundo estão deixando claro que a ideia de “inovar primeiro e pedir desculpa depois” não funciona quando envolve exploração sexual, especialmente de menores. O movimento coordenado de Califórnia, União Europeia e países asiáticos indica que a regulação de IA entrou em uma nova fase menos tolerante e muito mais punitiva.
Para Elon Musk, que frequentemente critica regulações e defende a liberdade irrestrita da tecnologia, o episódio representa um choque direto entre discurso e realidade jurídica. E para o setor de IA como um todo, o recado é cristalino: quem não colocar limites técnicos claros agora pode acabar sendo forçado a fazê-lo por lei ou nos tribunais.
Veja mais sobre IA aqui.
