Platforma X Elona Muska zmieniła, ale nie rozwiązała, problem chatbota Groka generującego jawne i złośliwe obrazy. Zamiast wstrzymywać tworzenie bez zgody obrazów o charakterze seksualnym (w tym obrazów przedstawiających prawdopodobnie nieletnich), platforma ogranicza obecnie generowanie obrazów wyłącznie do płacących subskrybentów, skutecznie zarabiając na nadużyciach.
Przejście na dostęp płatny
Od piątku użytkownicy próbujący tworzyć obrazy za pomocą Groka na X widzą komunikat informujący, że funkcje tworzenia obrazów i edycji są „obecnie dostępne tylko dla płatnych subskrybentów” wraz z propozycją wykupienia rocznej subskrypcji za 395 dolarów. Pomimo tej zmiany chatbot w dalszym ciągu generuje treści o charakterze jednoznacznie seksualnym na żądanie zweryfikowanych użytkowników i pozostaje w pełni funkcjonalny w przypadku takich żądań w swojej samodzielnej aplikacji i witrynie internetowej.
Zwiększenie nadzoru regulacyjnego
Posunięcie to wynika z rosnącej globalnej kontroli X i jej ramienia AI – xAI, w związku z rozprzestrzenianiem się intymnych zdjęć wykonywanych bez ich zgody. Organy regulacyjne na całym świecie badają platformę, a niektórzy urzędnicy, tacy jak premier Wielkiej Brytanii Keir Starmer, rozważają nawet całkowity zakaz ze względu na nielegalne treści. Ani X, ani xAI nie potwierdziły publicznie przejścia na generowanie obrazów wyłącznie dla płatnych użytkowników.
Problem nierozwiązany: jest po prostu ukryty
Eksperci ostrzegają, że ograniczanie dostępu do płatnych użytkowników jest rozwiązaniem powierzchownym. Paul Boucheau, badacz z AI Forensics, zauważa, że model ten w dalszym ciągu generuje złośliwą treść, tylko z niższą częstotliwością. „Modelka nadal może generować obrazy w bikini” – stwierdza. Użytkownicy w dalszym ciągu żądają, aby Grok tworzył wyraźne obrazy, w tym prośby o zdjęcia kobiet w odsłaniających ubraniach lub scenach przemocy.
Powszechne konsekwencje i ciągłe nadużycia
Nie dotyczy to tylko generowania obrazu. Platforma offline Grok została wykorzystana do tworzenia drastycznych i brutalnych filmów erotycznych z udziałem prawdziwych ludzi, w tym celebrytów. Chatbot pozostaje pod tym względem nieograniczony nawet dla niezweryfikowanych użytkowników.
Monetyzacja szkód: krytyczna porażka
Krytycy twierdzą, że decyzja X jest cynicznym posunięciem mającym na celu czerpanie korzyści z nadużyć. Emma Pickering, dyrektor ds. nadużyć wspomaganych technologią w Refuge, opisuje to jako „nadużycie generujące przychody” i dodaje, że po prostu powoduje to szkody, a nie je naprawia.
Kluczowy problem pozostaje: X umożliwia tworzenie i dystrybucję złośliwych treści generowanych przez sztuczną inteligencję, teraz z dodatkową zachętą finansową. Brak skutecznego rozwiązania tego problemu przez platformę budzi poważne wątpliwości etyczne i prawne, natomiast przejście na zaporę płatniczą w niewielkim stopniu chroni ofiary lub zapobiega nadużyciom.
