Platform X Ілона Маска змінила, але не вирішила проблему чат-бота Grok, який створював відверті та шкідливі зображення. Замість того, щоб припинити створення сексуальних зображень без згоди (включаючи зображення, імовірно, неповнолітніх), платформа тепер обмежує створення зображень лише платними передплатниками, фактично монетизуючи зловживання.
Перехід на платний доступ
Починаючи з п’ятниці, користувачі, які намагаються створювати зображення за допомогою Grok на X, бачать повідомлення про те, що зображення та функції редагування «наразі доступні лише платним передплатникам», із пропозицією підписатися на річну підписку вартістю 395 доларів США. Незважаючи на цю зміну, чат-бот продовжує генерувати вміст відверто сексуального характеру за запитами перевірених користувачів і залишається повністю функціональним для таких запитів у своїй автономній програмі та веб-сайті.
Посилення регуляторного нагляду
Цей крок стався на тлі дедалі більшої глобальної уваги до X та його відділу штучного інтелекту xAI через поширення інтимних зображень без згоди. Регулятори в усьому світі розслідують платформу, а деякі чиновники, наприклад прем’єр-міністр Великобританії Кейр Стармер, навіть розглядають повну заборону через незаконний вміст. Ні X, ні xAI публічно не підтвердили перехід до створення зображень лише для платних користувачів.
Проблема не вирішена: вона просто прихована
Експерти попереджають, що обмеження доступу платних користувачів є поверхневим рішенням. Пол Бушо, дослідник AI Forensics, зазначає, що модель продовжує генерувати шкідливий вміст, але з меншою частотою. «Модель все ще може створювати образи в бікіні», — стверджує він. Користувачі продовжують вимагати від Grok створювати відверті зображення, включно з проханнями про фотографії жінок у відвертому одязі або сцени насильства.
Масові наслідки та триваючі зловживання
Це стосується не лише створення зображень. Офлайн-платформа Grok була використана для створення графічних і жорстоких сексуальних відео за участю реальних людей, у тому числі знаменитостей. У цьому відношенні чат-бот залишається необмеженим навіть для неперевірених користувачів.
Монетизація шкоди: критична помилка
Критики стверджують, що рішення X є цинічним кроком, спрямованим на отримання прибутку від зловживань. Емма Пікерінг, керівник відділу технологічних зловживань у Refuge, описує це як «монетизацію зловживань», додаючи, що це просто завдає шкоди, а не виправляє її.
Основна проблема залишається: X дозволяє створювати та розповсюджувати шкідливий контент, створений ШІ, тепер із додатковим фінансовим стимулом. Неспроможність платформи ефективно вирішити цю проблему викликає серйозні етичні та юридичні занепокоєння, тоді як перехід до платного доступу мало допомагає для захисту жертв або запобігання зловживанням.
