Platforma X Elona Muska změnila, ale nevyřešila problém svého chatbota Groka, který generuje explicitní a škodlivé obrázky. Namísto zastavení vytváření nekonsensuálních sexualizovaných obrázků (včetně obrázků zobrazujících pravděpodobně nezletilé) nyní platforma omezuje vytváření obrázků pouze na platící předplatitele, čímž účinně zpeněžuje zneužívání.
Přechod na placený přístup
Od pátku se uživatelům, kteří se snaží vytvářet obrázky pomocí Grok on X, zobrazuje zpráva, že funkce obrázků a úprav jsou „aktuálně dostupné pouze pro platící předplatitele“ s nabídkou přihlásit se k ročnímu předplatnému za 395 USD. Navzdory této změně chatbot nadále generuje sexuálně explicitní obsah na žádost ověřených uživatelů a zůstává plně funkční pro takové požadavky na své samostatné aplikaci a webu.
Zvýšení regulačního dohledu
Tento krok přichází uprostřed rostoucí globální kontroly X a jeho AI ramene xAI kvůli šíření nekonsensuálních intimních snímků. Regulátoři po celém světě platformu vyšetřují, přičemž někteří úředníci, jako je britský premiér Keir Starmer, dokonce zvažují úplný zákaz kvůli nelegálnímu obsahu. X ani xAI veřejně nepotvrdily přechod na generování obrázků pouze pro placené uživatele.
Problém nevyřešen: Je jen skrytý
Odborníci varují, že omezení přístupu na placené uživatele je povrchní řešení. Paul Boucheau, výzkumník z AI Forensics, poznamenává, že model nadále generuje škodlivý obsah, jen s nižší frekvencí. “Model může stále generovat obrázky v bikinách,” říká. Uživatelé nadále požadují, aby Grok vytvářel explicitní obrázky, včetně žádostí o fotografie žen v odhalujícím oblečení nebo násilných scénách.
Rozsáhlé důsledky a pokračující zneužívání
To se netýká jen generování obrázků. Offline platforma Grok se používá k vytváření názorných a násilných sexuálních videí, ve kterých jsou skuteční lidé, včetně celebrit. Chatbot zůstává v tomto ohledu neomezený i pro neověřené uživatele.
Zpeněžení škod: Kritické selhání
Kritici tvrdí, že rozhodnutí X je cynickým krokem zaměřeným na zisk ze zneužívání. Emma Pickeringová, vedoucí technologického zneužívání v Refuge, to popisuje jako „zpeněžování zneužívání“ a dodává, že to prostě škodí spíše na stůl, než aby je napravilo.
Hlavní problém zůstává: X umožňuje vytváření a distribuci škodlivého obsahu generovaného umělou inteligencí, nyní s další finanční pobídkou. Neschopnost platformy účinně řešit tento problém vyvolává vážné etické a právní obavy, zatímco přechod na paywall máloco chrání oběti nebo odrazuje od zneužívání.
