X bloqueia imagens sexualizadas feitas pelo Grok

A xAI anunciou na 4ª feira (14.jan.2026) que o Grok deixará de permitir a criação ou edição por IA (Inteligência Artificial) de imagens sexualizadas de pessoas reais na rede social X a partir de comandos dos usuários. A medida foi adotada depois de semanas de críticas de consumidores, pressão política e abertura de investigações regulatórias em diferentes países.

Em comunicado divulgado pela conta X Safety, a empresa informou ter implantado barreiras técnicas para impedir que o Grok edite imagens de pessoas reais em trajes considerados reveladores, como biquínis. Segundo a xAI, a restrição vale para todos os usuários, inclusive assinantes pagos.

A companhia determinou que a criação e a edição de imagens gerais pelo Grok na plataforma passem a ser exclusivas de contas pagas, como forma adicional de responsabilização em casos de abuso.

O anúncio se deu horas depois de o procurador-geral da Califórnia, Rob Bonta, afirmar que seu gabinete investiga a xAI por uma aparente produção em larga escala de imagens íntimas falsas e sem consentimento. No mesmo dia, o governador da Califórnia, Gavin Newsom (Partido Democrata), criticou publicamente a decisão inicial da empresa de permitir esse tipo de conteúdo, classificando o ambiente criado como propício à disseminação de deepfakes sexuais, inclusive envolvendo crianças.

Nas últimas semanas, autoridades da Índia, da Malásia, da Indonésia, da Irlanda, do Reino Unido, da França e da Austrália, além da Comissão Europeia, anunciaram apurações sobre o funcionamento do Grok. Indonésia e Malásia chegaram a impor uma suspensão temporária da ferramenta. As medidas vieram depois de acusações de que o sistema facilitava a criação de imagens sexuais e violentas a partir de fotos reais, usando apenas comandos de texto.

No Brasil, a deputada Erika Hilton (Psol-SP) pediu que o MPF (Ministério Público Federal) e a ANPD (Agência Nacional de Proteção de Dados) investiguem o caso.

Nos Estados Unidos, 3 senadores do Partido Democrata pediram que Apple e Google retirem os aplicativos do X e do Grok de suas lojas até que mudanças adicionais impeçam a produção de conteúdo explícito sem consentimento.

Dono do X, Elon Musk compartilhou, em 10 de janeiro, uma foto de Keir Starmer (Partido Trabalhista, esquerda), primeiro-ministro britânico, alterada digitalmente, usando biquíni. Disse que “o Gemini do Google e o ChatGPT da OpenAI também produzem imagens de pessoas em biquínis quando ordenados”. Musk chamou de tentativa de censura uma proposta do governo do Reino Unido para punir o X por causa de imagens produzidas pelo Grok.

O X disse ter tolerância zero à exploração sexual infantil, nudez sem consentimento e conteúdo sexual indesejado. A empresa afirmou remover material ilegal com prioridade, suspender contas reincidentes e comunicar autoridades quando necessário. Também informou que passou a bloquear, por região, a criação de imagens de pessoas reais em trajes íntimos onde a prática é ilegal, mantendo a exigência de que todo conteúdo criado por IA siga estritamente as regras da plataforma.