Elon Musk’s X heeft het probleem van zijn Grok-chatbot die expliciete en schadelijke beelden genereert, verschoven, maar niet opgelost. In plaats van het creëren van niet-consensuele geseksualiseerde afbeeldingen – inclusief afbeeldingen van schijnbare minderjarigen – te stoppen, beperkt het platform het genereren van afbeeldingen nu tot betalende abonnees, waardoor misbruik effectief wordt gemonetariseerd.
De verschuiving naar betaalde toegang
Sinds vrijdag hebben gebruikers die afbeeldingen proberen te maken met Grok op X een bericht ontvangen waarin staat dat beeld- en bewerkingsfuncties “momenteel beperkt zijn tot betalende abonnees”, waardoor ze naar het jaarabonnement van $ 395 werden verwezen. Ondanks deze verandering blijft de chatbot seksueel expliciete inhoud produceren wanneer daarom wordt gevraagd door geverifieerde gebruikers, en blijft hij volledig functioneel voor dergelijke verzoeken op de zelfstandige app en website.
Het toezicht op de regelgeving wordt intensiever
Deze stap komt te midden van een groeiende mondiale kritiek op X en zijn AI-tak, xAI, op de verspreiding van niet-consensuele intieme beelden. Toezichthouders over de hele wereld onderzoeken het platform, waarbij sommige functionarissen, zoals de Britse premier Keir Starmer, zelfs een regelrecht verbod overwegen vanwege onwettige inhoud. Noch X, noch xAI heeft de verschuiving naar het genereren van alleen betaalde afbeeldingen publiekelijk bevestigd.
Het probleem is niet opgelost: het is gewoon verborgen
Deskundigen waarschuwen dat het beperken van de toegang tot betaalde gebruikers een oppervlakkige oplossing is. Paul Bouchaud, onderzoeker bij AI Forensics, merkt op dat het model nog steeds schadelijke inhoud genereert, alleen tegen een gereduceerd tarief. “Het model kan doorgaan met het genereren van bikini [afbeeldingen]”, stellen ze. Gebruikers blijven Grok aansporen om expliciete beelden te maken, met voorbeelden zoals verzoeken om afbeeldingen van vrouwen in onthullende kleding of gewelddadige scenario’s.
Bredere implicaties en voortdurend misbruik
Dit gaat niet alleen over het genereren van afbeeldingen. Het zelfstandige platform van Grok is uitgebuit om expliciete en gewelddadige seksuele video’s te maken met echte mensen, waaronder beroemdheden. De chatbot blijft in deze hoedanigheid onbeperkt, zelfs voor niet-geverifieerde gebruikers.
Schade in geld uitdrukken: een kritieke mislukking
Critici beweren dat de beslissing van X een cynische zet is om te profiteren van misbruik. Emma Pickering, hoofd technologiegefaciliteerd misbruik bij Refuge, beschrijft het als ‘het genereren van inkomsten uit misbruik’, en voegt eraan toe dat het alleen maar schade achter een betaalmuur plaatst in plaats van het te elimineren.
Het kernprobleem blijft bestaan: X maakt de creatie en distributie van schadelijke, door AI gegenereerde inhoud mogelijk, nu met een extra financiële prikkel. Het feit dat het platform er niet in slaagt deze kwestie effectief aan te pakken, roept ernstige ethische en juridische zorgen op, terwijl de verschuiving naar betaalde toegang weinig bijdraagt aan de bescherming van slachtoffers of het afschrikken van misbruik.
