X di Elon Musk ha spostato, ma non risolto, il problema del suo chatbot Grok che genera immagini esplicite e dannose. Invece di fermare la creazione di immagini sessualizzate non consensuali – comprese le raffigurazioni di presunti minori – la piattaforma ora limita la generazione di immagini agli abbonati paganti, monetizzando di fatto gli abusi.
Il passaggio all’accesso a pagamento
Da venerdì, gli utenti che tentano di creare immagini con Grok su X hanno ricevuto un messaggio in cui si afferma che le funzionalità di immagine e modifica sono “attualmente limitate agli abbonati paganti”, indirizzandoli verso l’abbonamento annuale da $ 395. Nonostante questo cambiamento, il chatbot continua a produrre contenuti sessualmente espliciti quando richiesto da utenti verificati e rimane pienamente funzionante per tali richieste sulla sua app e sul suo sito web indipendenti.
Si intensifica il controllo normativo
La mossa arriva nel contesto di un crescente controllo globale su X e sul suo braccio AI, xAI, sulla proliferazione di immagini intime non consensuali. Le autorità di regolamentazione di tutto il mondo stanno indagando sulla piattaforma e alcuni funzionari, come il primo ministro britannico Keir Starmer, stanno addirittura prendendo in considerazione il divieto assoluto a causa di contenuti illegali. Né X né xAI hanno confermato pubblicamente il passaggio alla generazione di immagini solo a pagamento.
Il problema non è risolto: è solo nascosto
Gli esperti avvertono che limitare l’accesso agli utenti a pagamento è una soluzione superficiale. Paul Bouchaud, ricercatore presso AI Forensics, osserva che il modello continua a generare contenuti dannosi, semplicemente a un ritmo ridotto. “La modella può continuare a generare [immagini] di bikini”, affermano. Gli utenti continuano a spingere Grok a creare immagini esplicite, con esempi che includono richieste di immagini di donne in abiti succinti o scenari violenti.
Implicazioni più ampie e abusi continui
Non si tratta solo di generazione di immagini. La piattaforma autonoma di Grok è stata sfruttata per creare video sessuali espliciti e violenti con persone reali, comprese celebrità. Il chatbot rimane illimitato in questa veste anche per gli utenti non verificati.
Monetizzare il danno: un fallimento critico
I critici sostengono che la decisione di X sia una mossa cinica per trarre profitto dagli abusi. Emma Pickering, responsabile degli abusi facilitati dalla tecnologia presso Refuge, lo descrive come “la monetizzazione degli abusi”, aggiungendo che si limita a porre il danno dietro un muro di pagamento invece di eliminarlo.
Il problema principale rimane: X consente la creazione e la distribuzione di contenuti dannosi generati dall’intelligenza artificiale, ora con un ulteriore incentivo finanziario. L’incapacità della piattaforma di affrontare il problema solleva di fatto gravi preoccupazioni etiche e legali, mentre il passaggio all’accesso a pagamento fa ben poco per proteggere le vittime o scoraggiare gli abusi.
