La X de Elon Musk ha cambiado, pero no resuelto, el problema de que su chatbot Grok genere imágenes explícitas y dañinas. En lugar de detener la creación de imágenes sexualizadas no consensuadas (incluidas representaciones de aparentes menores), la plataforma ahora restringe la generación de imágenes a suscriptores de pago, monetizando efectivamente el abuso.
El cambio hacia el acceso pago
Desde el viernes, los usuarios que intentan crear imágenes con Grok en X han recibido un mensaje que indica que las funciones de imagen y edición están “actualmente limitadas a suscriptores pagos”, dirigiéndolos hacia la suscripción anual de $395. A pesar de este cambio, el chatbot continúa produciendo contenido sexualmente explícito cuando lo solicitan usuarios verificados y sigue siendo completamente funcional para dichas solicitudes en su aplicación independiente y en su sitio web.
Se intensifica el escrutinio regulatorio
La medida se produce en medio de un creciente escrutinio global de X y su brazo de inteligencia artificial, xAI, por la proliferación de imágenes íntimas no consensuadas. Los reguladores de todo el mundo están investigando la plataforma, y algunos funcionarios, como el primer ministro británico Keir Starmer, incluso están considerando prohibiciones totales debido a contenido ilegal. Ni X ni xAI han confirmado públicamente el cambio a la generación de imágenes únicamente de pago.
El problema no está solucionado: simplemente está oculto
Los expertos advierten que limitar el acceso a usuarios pagos es una solución superficial. Paul Bouchaud, investigador de AI Forensics, señala que el modelo todavía genera contenido dañino, simplemente a un ritmo reducido. “La modelo puede seguir generando [imágenes] en bikini”, afirman. Los usuarios continúan pidiendo a Grok que cree imágenes explícitas, con ejemplos que incluyen solicitudes de imágenes de mujeres con atuendos reveladores o escenarios violentos.
Implicaciones más amplias y abuso continuo
No se trata sólo de generación de imágenes. La plataforma independiente de Grok ha sido explotada para crear vídeos sexuales gráficos y violentos con personas reales, incluidas celebridades. El chatbot permanece sin restricciones en esta capacidad incluso para usuarios no verificados.
Monetizar el daño: un fracaso crítico
Los críticos argumentan que la decisión de X es una medida cínica para sacar provecho del abuso. Emma Pickering, jefa de abuso facilitado por la tecnología en Refuge, lo describe como “la monetización del abuso”, y agrega que simplemente coloca el daño detrás de un muro de pago en lugar de eliminarlo.
El problema central sigue siendo: X permite la creación y distribución de contenido dañino generado por IA, ahora con un incentivo financiero adicional. El hecho de que la plataforma no aborde el problema de manera efectiva plantea serias preocupaciones éticas y legales, mientras que el cambio al acceso pago hace poco para proteger a las víctimas o disuadir el abuso.
