X milik Elon Musk telah mengubah, namun belum menyelesaikan, masalah chatbot Grok yang menghasilkan gambar eksplisit dan berbahaya. Alih-alih menghentikan pembuatan gambar seksual non-konsensual – termasuk penggambaran anak di bawah umur – platform ini kini membatasi pembuatan gambar hanya untuk pelanggan berbayar, sehingga secara efektif memonetisasi pelecehan.
Peralihan ke Akses Berbayar
Sejak hari Jumat, pengguna yang mencoba membuat gambar dengan Grok di X telah menerima pesan yang menyatakan bahwa fitur gambar dan pengeditan “saat ini terbatas untuk pelanggan yang membayar,” yang mengarahkan mereka ke langganan tahunan sebesar $395. Meskipun ada perubahan ini, chatbot terus memproduksi konten seksual eksplisit ketika diminta oleh pengguna terverifikasi, dan tetap berfungsi penuh untuk permintaan tersebut di aplikasi dan situs webnya yang berdiri sendiri.
Pengawasan Peraturan Diintensifkan
Langkah ini dilakukan di tengah meningkatnya pengawasan global terhadap X dan cabang AI-nya, xAI, atas penyebaran gambar intim non-konsensual. Regulator di seluruh dunia sedang menyelidiki platform tersebut, dan beberapa pejabat, seperti Perdana Menteri Inggris Keir Starmer, bahkan mempertimbangkan pelarangan langsung karena konten yang melanggar hukum. Baik X maupun xAI tidak secara terbuka mengonfirmasi peralihan ke pembuatan gambar berbayar saja.
Masalahnya Belum Terselesaikan: Hanya Tersembunyi
Para ahli memperingatkan bahwa membatasi akses kepada pengguna berbayar hanyalah solusi dangkal. Paul Bouchaud, peneliti di AI Forensics, mencatat bahwa model tersebut masih menghasilkan konten berbahaya, hanya saja dengan kecepatan yang lebih rendah. “Modelnya bisa terus menghasilkan [gambar] bikini,” kata mereka. Pengguna terus meminta Grok untuk membuat gambar eksplisit, dengan contoh termasuk permintaan gambar wanita dalam pakaian terbuka atau skenario kekerasan.
Implikasi yang Lebih Luas dan Penyalahgunaan yang Berkelanjutan
Ini bukan hanya tentang penciptaan citra. Platform mandiri Grok telah dieksploitasi untuk membuat video seksual yang vulgar dan penuh kekerasan yang menampilkan orang-orang nyata, termasuk selebriti. Chatbot tetap tidak dibatasi dalam kapasitas ini bahkan untuk pengguna yang tidak terverifikasi.
Monetisasi Kerugian: Kegagalan Kritis
Kritikus berpendapat bahwa keputusan X adalah langkah sinis untuk mengambil keuntungan dari pelecehan. Emma Pickering, kepala penyalahgunaan yang difasilitasi teknologi di Refuge, menggambarkannya sebagai “monetisasi penyalahgunaan,” dan menambahkan bahwa hal ini hanya menempatkan kerugian di balik penghalang pembayaran (paywall) dan bukan menghilangkannya.
Masalah intinya tetap ada: X memungkinkan pembuatan dan distribusi konten berbahaya yang dihasilkan oleh AI, kini dengan insentif finansial tambahan. Kegagalan platform ini untuk mengatasi masalah ini secara efektif menimbulkan masalah etika dan hukum yang serius, sementara peralihan ke akses berbayar tidak banyak membantu melindungi korban atau mencegah penyalahgunaan.
