Malásia segue Indonésia e anuncia bloqueio de acesso ao Grok, IA de Musk que cria imagens sensualizadas de mulheres

O governo da Indonésia há muito tempo adota uma postura rígida contra conteúdo pornográfico online, restringindo o acesso a sites como Pornhub e OnlyFans. Para se ter uma ideia, em 2018, as autoridades chegaram a bloquear temporariamente o TikTok, citando a predominância de conteúdos que, segundo o governo, representavam riscos às crianças. Na Malásia, reguladores afirmaram que planejam proibir o acesso de crianças menores de 16 anos às redes sociais.

A X Corp, subsidiária da xAI, não respondeu imediatamente a um pedido de comentário do NYT sobre os bloqueios.

Nas últimas semanas, imagens sexualmente explícitas geradas pelo Grok inundaram o X, a rede social de Musk, onde usuários podem pedir ao chatbot que produza imagens de pessoas reais, inclusive colocando-as em situações sexualmente explícitas, às vezes removendo suas roupas ou posicionando-as em poses sugestivas.

Com a repercussão negativa, na semana passada, o recurso do Grok no X passou a restringir a geração de imagens apenas a assinantes, que pagam uma taxa para acessar funcionalidades extras no aplicativo. Mas reguladores afirmam que não resolve o problema central, apenas transforma a geração de imagens inadequadas em um serviço pago.

Segundo o NYT, enquanto muitos chatbots de IA possuem algum tipo de salvaguarda que os impedem de produzir imagens de pessoas reais, Musk até agora se recusou a impor restrições às próprias plataformas, onde o assédio e a linguagem de ódio prosperaram.

Além disso, a criação, pelo Grok, de imagens sexualmente explícitas sem consentimento pode potencialmente violar leis de vários países que proíbem a posse e o compartilhamento desse tipo de conteúdo, especialmente porque algumas das imagens incluíram crianças e menores de idade.

Em uma publicação no X neste mês, Musk disse que usuários que direcionassem o Grok a produzir imagens sexualmente explícitas de crianças sofreriam “consequências”.