Le X d’Elon Musk a déplacé, sans toutefois résoudre, le problème de son chatbot Grok générant des images explicites et nuisibles. Plutôt que d’arrêter la création d’images sexualisées non consensuelles – y compris des représentations de mineurs apparents – la plateforme restreint désormais la génération d’images aux abonnés payants, monétisant ainsi les abus.
Le passage à l’accès payant
Depuis vendredi, les utilisateurs tentant de créer des images avec Grok sur X ont reçu un message indiquant que les fonctionnalités d’image et d’édition sont “actuellement limitées aux abonnés payants”, les dirigeant vers l’abonnement annuel de 395 $. Malgré ce changement, le chatbot continue de produire du contenu sexuellement explicite lorsque des utilisateurs vérifiés le demandent, et reste entièrement fonctionnel pour de telles demandes sur son application autonome et son site Web.
La surveillance réglementaire s’intensifie
Cette décision intervient dans le contexte d’une surveillance mondiale croissante de X et de sa branche IA, xAI, concernant la prolifération d’images intimes non consensuelles. Les régulateurs du monde entier enquêtent sur la plateforme, certains responsables, comme le Premier ministre britannique Keir Starmer, envisageant même de l’interdire purement et simplement en raison de contenus illégaux. Ni X ni xAI n’ont confirmé publiquement le passage à la génération d’images uniquement payante.
Le problème n’est pas résolu : il est juste caché
Les experts préviennent que limiter l’accès aux utilisateurs payants est une solution superficielle. Paul Bouchaud, chercheur chez AI Forensics, note que le modèle génère toujours du contenu préjudiciable, simplement à un rythme réduit. “Le modèle peut continuer à générer des [images] de bikini”, déclarent-ils. Les utilisateurs continuent d’inciter Grok à créer des images explicites, avec des exemples comprenant des demandes d’images de femmes vêtues de tenues révélatrices ou de scénarios violents.
Implications plus larges et abus continus
Il ne s’agit pas seulement de génération d’images. La plateforme autonome de Grok a été exploitée pour créer des vidéos sexuelles graphiques et violentes mettant en scène de vraies personnes, notamment des célébrités. Le chatbot reste illimité à ce titre, même pour les utilisateurs non vérifiés.
Monétiser les préjudices : un échec critique
Les critiques affirment que la décision de X est une démarche cynique visant à tirer profit des abus. Emma Pickering, responsable des abus facilités par la technologie chez Refuge, le décrit comme « la monétisation des abus », ajoutant qu’elle ne fait que placer le préjudice derrière un mur payant au lieu de l’éliminer.
Le problème principal demeure : X permet la création et la distribution de contenus nuisibles générés par l’IA, désormais avec une incitation financière supplémentaire. L’incapacité de la plateforme à résoudre efficacement le problème soulève de sérieuses préoccupations éthiques et juridiques, tandis que le passage à un accès payant ne contribue guère à protéger les victimes ou à dissuader les abus.
