Платформа X Илона Маска изменила, но не решила проблему генерации откровенных и вредоносных изображений её чат-ботом Grok. Вместо того чтобы остановить создание сексуализированных изображений без согласия (включая изображения, изображающие, предположительно, несовершеннолетних), платформа теперь ограничивает генерацию изображений только платящими подписчиками, эффективно монетизируя злоупотребления.
Переход к Платному Доступу
С пятницы пользователи, пытающиеся создать изображения с помощью Grok на X, видят сообщение о том, что функции изображений и редактирования «в настоящее время доступны только платящим подписчикам», с предложением оформить годовую подписку за 395 долларов. Несмотря на это изменение, чат-бот продолжает генерировать откровенно сексуальный контент по запросу верифицированных пользователей и остаётся полностью функциональным для подобных запросов в своём автономном приложении и на веб-сайте.
Усиливающийся Регуляторный Надзор
Этот шаг происходит на фоне растущего мирового внимания к X и его AI-подразделению xAI из-за распространения интимных изображений, созданных без согласия. Регулирующие органы во всём мире расследуют платформу, при этом некоторые официальные лица, такие как премьер-министр Великобритании Кир Стармер, даже рассматривают возможность полного запрета из-за незаконного контента. Ни X, ни xAI публично не подтвердили переход к генерации изображений только для платных пользователей.
Проблема Не Решена: Она Просто Скрыта
Эксперты предупреждают, что ограничение доступа для платных пользователей является поверхностным решением. Пол Бушо, исследователь в AI Forensics, отмечает, что модель продолжает генерировать вредоносный контент, просто с меньшей частотой. «Модель по-прежнему может генерировать изображения в бикини», — заявляет он. Пользователи продолжают запрашивать у Grok создание откровенных изображений, в том числе просьбы о фотографиях женщин в откровенной одежде или сцен насилия.
Широкие Последствия и Продолжающиеся Злоупотребления
Это не только касается генерации изображений. Автономная платформа Grok была использована для создания графических и жестоких сексуальных видео с участием реальных людей, включая знаменитостей. Чат-бот остаётся неограниченным в этом отношении даже для неверифицированных пользователей.
Монетизация Вреда: Критический Провал
Критики утверждают, что решение X является циничным шагом, направленным на получение прибыли от злоупотреблений. Эмма Пикеринг, глава отдела технологически облегчённых злоупотреблений в Refuge, описывает это как «монетизацию злоупотреблений», добавляя, что это просто помещает вред за плату, а не устраняет его.
Основная проблема остаётся: X разрешает создание и распространение вредоносного контента, сгенерированного искусственным интеллектом, теперь с дополнительным финансовым стимулом. Неспособность платформы эффективно решить эту проблему вызывает серьёзные этические и юридические опасения, в то время как переход к платному доступу мало что делает для защиты жертв или сдерживания злоупотреблений.
