Regulator Uni Eropa telah meluncurkan penyelidikan formal terhadap platform media sosial Elon Musk, X (sebelumnya Twitter), atas kegagalannya mencegah penyebaran luas gambar seksual eksplisit yang dihasilkan oleh chatbot kecerdasan buatannya, Grok. Penyelidikan ini memperparah perselisihan yang sedang berlangsung antara UE dan AS mengenai regulasi konten online, dimana Musk dan para pendukungnya menganggap peraturan Eropa sebagai pelanggaran terhadap kebebasan berpendapat dan menghambat bisnis Amerika.
Penyalahgunaan dan Tekanan Peraturan yang Dihasilkan oleh AI
Mulai akhir Desember, X mengalami lonjakan gambar eksplisit – beberapa diantaranya menggambarkan anak-anak – yang dibuat oleh Grok, sehingga memicu kritik baik dari korban maupun badan pengawas di seluruh dunia. UE menuduh X melanggar Undang-Undang Layanan Digital (DSA) karena tidak melakukan mitigasi “risiko sistemik” yang terkait dengan integrasi chatbot AI ke dalam platformnya. Penyelidikan terbaru ini menambah pengawasan yang ada: bulan lalu, X didenda €120 juta ($140 juta) karena pelanggaran DSA terkait dengan praktik desain yang menipu, transparansi iklan, dan berbagi data.
Upaya Penegakan Uni Eropa yang Lebih Luas
Tindakan UE tidak berdiri sendiri. Investigasi terpisah sedang dilakukan untuk menilai algoritma rekomendasi X dan efektivitasnya dalam membatasi penyebaran konten ilegal. DSA, yang diberlakukan untuk meminta pertanggungjawaban platform online besar atas keselamatan pengguna, kini ditegakkan dengan ketat.
“Pemalsuan seksual tanpa persetujuan terhadap perempuan dan anak-anak adalah bentuk degradasi yang penuh kekerasan dan tidak dapat diterima,” kata Henna Virkkunen, wakil presiden eksekutif UE yang mengawasi penegakan DSA. “Kami akan menentukan apakah X telah memenuhi kewajiban hukumnya… atau apakah X memperlakukan hak-hak warga negara Eropa sebagai kerugian tambahan.”
Mengapa Ini Penting
Investigasi ini bukan hanya tentang X; ini adalah bagian dari tren yang lebih luas. Regulator di seluruh dunia sedang bergulat dengan pesatnya perkembangan AI dan potensi penyalahgunaannya, khususnya dalam pembuatan konten berbahaya. Sikap proaktif UE di bawah DSA menandakan kesediaan untuk menantang raksasa teknologi yang berbasis di AS, sehingga menjadi preseden bagi pengawasan digital yang lebih ketat. Pertanyaannya sekarang adalah apakah X akan mematuhi atau terus mendorong batasan moderasi konten.
Penegakan DSA oleh UE menunjukkan komitmennya untuk melindungi warga negara dari konten online yang berbahaya. Hasil investigasi ini dapat mengubah cara platform media sosial mengelola materi yang dihasilkan AI, sehingga berpotensi memengaruhi standar global untuk keamanan digital.
