Clarissa Mansbridge menyukai bayangan. Selama hampir dua puluh tahun, dia beroperasi di latar belakang industri hiburan di Brisbane, Australia. Dia mengelola bintang seperti Jason Derulo dan Shengo Deane. Dia menangani krisis. Dia membangun merek. Kemudian putranya lahir pada usia tiga puluh tiga minggu tanpa detak jantung.
Dokter memperbaikinya. Namun berbulan-bulan perawatan intensif mengubah segalanya.
Mansbridge harus mengubah pekerjaannya untuk mengatasi komplikasi kesembuhannya. Dia beralih ke alat pembuat gambar AI. Dia membangun persona virtual bernama Mia Metaverse. Karakter tersebut didefinisikan sebagai “kaya yang rendah hati” dan “sehat”. Penggemar The Sims awal akan mengenali daya tariknya. Ini tentang menyusun alur cerita. Ini tentang merancang pengaturan glamor untuk dihuni oleh avatar digital.
Sekarang, Mansbridge yang berusia tiga puluh empat tahun berpenghasilan sekitar $6,000 setiap bulan. Dia melakukan ini melalui kolaborasi merek. Dia juga merancang influencer AI yang dibuat khusus untuk perusahaan lain. Banyak klien menandatangani Perjanjian Kerahasiaan. Dia tidak bisa mengungkapkan siapa mereka. Ini adalah tahun paling menguntungkannya sejak memulai. Namun dia gugup. Pergeseran global dalam cara platform menangani konten AI dapat meruntuhkan model bisnisnya dalam sekejap.
Undang-Undang AI UE: Instrumen yang Tumpul
Pasar untuk influencer virtual sedang meledak. Perkiraan menempatkan nilai saat ini sebesar $14,5 miliar. Diperkirakan akan mencapai $110,4 miliar pada tahun 2033. Angka ini mewakili tingkat pertumbuhan tahunan sebesar 33,6%. Merek setuju. Sebuah survei yang dilakukan oleh agensi Billion Dollar Boy menemukan bahwa 79% pemasar meningkatkan pengeluaran untuk konten kreator yang dihasilkan oleh AI.
Namun arus regulasi mulai berubah.
Mulai tanggal 2 Agustus, aturan baru berdasarkan EU AI Act akan berlaku. Mereka mengharuskan konten promosi yang dibuat atau dimanipulasi oleh AI untuk diberi label yang jelas. TikTok juga memperketat sistem deteksi. Platform ini mengubah feed agar lebih mengutamakan kreator manusia dibandingkan spam sintetis.
Bagi mata pencaharian yang dibangun berdasarkan pengaruh buatan, hasilnya adalah sebuah labirin peraturan yang tidak memiliki peta.
UU AI UE adalah kerangka hukum komprehensif pertama yang sejenis. Ursula von der Leyen menyebutnya sebagai “yang pertama secara global”. Tujuannya adalah “AI yang dapat dipercaya” di Eropa. Pasal 50 mengamanatkan pengungkapan konten audio, gambar, video, dan teks yang dihasilkan oleh AI. Tapi ada jalan keluar. Jika kontennya bersifat artistik, kreatif, satir, atau fiksi, kewajiban transparansinya terbatas. Label tidak boleh menghalangi kenikmatan karya.
Ambiguitas ini memberikan ruang untuk interpretasi. Dan kebingungan.
“Pendorongnya sederhana saja: AI telah hadir dan semakin banyak konten yang dihasilkan AI, jadi mari kita tingkatkan [literasi AI] warga UE,” kata Kai Zenner, penasihat kebijakan digital. “ChatGPT baru saja keluar… hanya ada sedikit pengetahuan di kalangan anggota Parlemen Eropa… tentang apa yang kami atur.”
Perangkap Hak Cipta dan Palu Godam Algoritmik
Lebih banyak undang-undang akan dikeluarkan pada akhir tahun ini atau tahun depan. Zenner memperingatkan bahwa hal ini akan memaksa influencer untuk memberikan transparansi mengenai asal usul dan pendanaan mereka. Kami belum mengetahui bagaimana hal ini akan dikelola setelah Pasal 50.
Resikonya adalah kusutnya hukum. Undang-Undang AI bertentangan dengan aturan hak cipta. Standar media audiovisual berlaku. Undang-undang perlindungan konsumen melakukan intervensi. Undang-Undang Keadilan Digital yang diusulkan menargetkan taktik online yang menyesatkan pengguna. Pembuat konten mungkin mendapati satu undang-undang menyatakan bahwa konten mereka legal, sementara undang-undang lain melarangnya.
Platform sudah melakukan tindakan keras. Pada pertengahan Juli, TikTok meluncurkan sistem deteksi spam AI. Perusahaan mengklaim spam ini mengusir pembuat konten asli. Sistem segera mengidentifikasi konten sintetis. Ini memungkinkan pengguna menyaring materi AI. Pinterest dan Meta (Facebook, Instagram, Threads) mengikuti protokol serupa, menambahkan label “info AI” saat terdeteksi.
“Platform yang sama yang menghasilkan lebih banyak konten… kini mengubah algoritme mereka untuk menekan [konten AI] kembali,” jelas konsultan media sosial Matt Navarra. “Platform memanfaatkan konten AI dengan palu godam padahal yang mereka butuhkan hanyalah pisau bedah.”
Masalah dengan palu godam? Kerusakan tambahan. Pencipta manusia terjebak dalam jaring. Mereka menggunakan AI untuk perbaikan tata bahasa atau pengeditan kecil. Lagipula mereka akan dihukum.
Biaya Visibilitas
Lionel Metge mengetahui konsekuensinya. Berbasis di Lyon, produser hip-hop menciptakan Zairo, artis reggaeton AI, awal tahun ini. Dia melihat perubahan itu secara langsung. Sistem deteksi baru menandai postingan yang dibuat oleh AI saat postingan tersebut ditayangkan. Apalagi jika akun tersebut mengaku sebagai ciptaan digital.
Zairo Metge memiliki 23,8 ribu pengikut. Dia khawatir aturan tersebut akan mengasingkan penonton. Namun dia menerima kebutuhan itu. Model generasi yang realistis menuntut realisme dalam pengungkapannya. Dia berencana untuk melipatgandakan kualitas dan koherensi. Itulah satu-satunya cara untuk menonjol sekarang.
Rob Haywood, kepala keselamatan di Fanvue, melihat jalan yang berbeda. Platform ini telah bekerja sama dengan pembuat konten dalam standar pengungkapan. Ada pula yang condong pada transparansi. Mereka membuat konten unik yang hanya mungkin dilakukan oleh persona AI. Mereka berhenti berusaha bersembunyi. Haywood mencatat bahwa TikTok merespons gelombang banjir sintetis yang tidak memerlukan banyak usaha. Platform harus melindungi visibilitas manusia.
Penjualan yang Dapat Diprediksi
Mansbridge sedang membangun portofolio, bukan hanya satu karakter. Dia berharap dapat melakukan promosi silang persona. Pada akhirnya, dia ingin mereka berjalan secara mandiri. Motivasinya bersifat pribadi. Dia ingin menciptakan warisan untuk putranya. Jika dia membutuhkan dukungan finansial di masa depan, itu harus ditanggung.
Strateginya adalah keamanan dalam transparansi. Dia membuat Mia Metaverse menarik namun aspiratif. Sebuah catatan yang bersih. Tidak ada skandal. Tidak ada politik. Tidak ada klausul moral yang harus dilanggar. Dalam pasar yang menuntut pengungkapan, prediktabilitas adalah suatu aset. Persona AI yang dikontrol sepenuhnya mungkin menjadi lebih berharga karena tidak mempermalukan merek.
Tidak semua orang melihat regulasi sebagai ancaman.
Wim Tilkin adalah seorang animator Belgia berusia 60 tahun. Dia menciptakan PuppyBerry Mousy, seekor tikus AI yang mengenakan syal. Dia memulai dengan menggambar klip berdurasi lima detik dengan tangan. Dia memasukkannya ke dalam AI. Dia menambahkan musik. Itu mendapat tiga juta tampilan.
Mousy sekarang memiliki 236 ribu pengikut di Instagram dan 68,3 ribu di Facebook. Pertumbuhan melonjak dalam lima bulan terakhir. Penontonnya sebagian besar adalah wanita berusia di atas 50 tahun di AS dan Inggris. Tilkin menerima pesan dari orang yang kesepian atau sakit. Mereka menemukan kenyamanan dalam tarian Mousy.
“Mousy adalah tentang kelembutan dan kenyamanan di dunia yang sibuk,” kata Tilkin. “Saya senang kombinasi ini membawa kegembiraan.”
Dia telah melihat peralihan dari 2D ke 3D sebelumnya. Dia melihat ini hanyalah alat lain. Lebih banyak kemungkinan untuk suara kreatif. Lebih banyak pilihan yang harus diambil. Pertanyaan sebenarnya baginya adalah apakah peraturan akan melindungi penyampaian cerita atau justru malah meratakannya. Jika diratakan, Mousy mungkin akan menghilang ke dalam kebisingan. Atau mungkin, dia akan menjadi satu-satunya suara tersisa yang terdengar seperti hati manusia.
