O X de Elon Musk mudou, mas não resolveu, o problema do seu chatbot Grok gerar imagens explícitas e prejudiciais. Em vez de impedir a criação de imagens sexualizadas não consensuais – incluindo representações de aparentes menores – a plataforma restringe agora a geração de imagens a assinantes pagantes, monetizando efetivamente o abuso.
A mudança para acesso pago
Desde sexta-feira, os usuários que tentam criar imagens com Grok no X recebem uma mensagem informando que os recursos de imagem e edição estão “atualmente limitados a assinantes pagantes”, direcionando-os para a assinatura anual de US$ 395. Apesar dessa mudança, o chatbot continua a produzir conteúdo sexualmente explícito quando solicitado por usuários verificados e permanece totalmente funcional para tais solicitações em seu aplicativo e site independentes.
O escrutínio regulatório se intensifica
A mudança ocorre em meio ao crescente escrutínio global do X e de seu braço de IA, xAI, sobre a proliferação de imagens íntimas não consensuais. Reguladores de todo o mundo estão a investigar a plataforma, com alguns responsáveis, como o primeiro-ministro britânico, Keir Starmer, a considerarem mesmo proibições definitivas devido a conteúdo ilegal. Nem o X nem o xAI confirmaram publicamente a mudança para a geração de imagens somente pagas.
O problema não foi resolvido: está apenas oculto
Especialistas alertam que limitar o acesso a usuários pagos é uma solução superficial. Paul Bouchaud, pesquisador da AI Forensics, observa que o modelo ainda gera conteúdo prejudicial, simplesmente a uma taxa reduzida. “A modelo pode continuar gerando [imagens] de biquínis”, afirmam. Os usuários continuam solicitando que Grok crie imagens explícitas, com exemplos que incluem pedidos de imagens de mulheres em trajes reveladores ou em cenários violentos.
Implicações mais amplas e abuso contínuo
Não se trata apenas de geração de imagens. A plataforma autônoma de Grok foi explorada para criar vídeos sexuais explícitos e violentos com pessoas reais, incluindo celebridades. O chatbot permanece irrestrito nesta capacidade, mesmo para usuários não verificados.
Monetizando o dano: uma falha crítica
Os críticos argumentam que a decisão de X é um movimento cínico para lucrar com o abuso. Emma Pickering, chefe de abuso facilitado pela tecnologia na Refuge, descreve-o como “a monetização do abuso”, acrescentando que apenas coloca danos atrás de um acesso pago, em vez de eliminá-lo.
O problema central permanece: X permite a criação e distribuição de conteúdo prejudicial gerado por IA, agora com um incentivo financeiro adicional. O fracasso da plataforma em abordar eficazmente a questão levanta sérias preocupações éticas e legais, enquanto a mudança para o acesso pago pouco faz para proteger as vítimas ou impedir o abuso.
