Tuduhan Pembuatan Konten Seksual Tanpa Permintaan
Elon Musk kembali menjadi sorotan setelah generator video AI miliknya, Grok Imagine, dituduh membuat video seksual eksplisit Taylor Swift tanpa diminta.
Profesor hukum Clare McGlynn dari Universitas Durham menilai tindakan ini sebagai bentuk misogini yang disengaja, bukan sekadar kecelakaan teknologi.
baca juga : Nicolas Jackson Bisa Tinggalkan Chelsea, Enzo Maresca Berikan Kepastian
Laporan The Verge: Fitur "Pedas" Tanpa Batasan
Menurut The Verge, mode “pedas” Grok Imagine mampu menghasilkan video topless Taylor Swift tanpa sensor meski perintah awal tidak meminta konten seksual.
Lebih parahnya, sistem verifikasi usia yang diwajibkan undang-undang Inggris sejak Juli tidak diterapkan secara memadai.
Kebijakan XAI dan Larangan Konten Pornografi
Padahal, kebijakan resmi XAI—perusahaan di balik Grok—melarang penggunaan AI untuk menampilkan rupa seseorang secara pornografi. Namun, Prof. McGlynn menilai perusahaan memilih untuk tidak mencegah terjadinya pelanggaran ini.
Kasus Serupa di Masa Lalu
Ini bukan insiden pertama wajah Taylor Swift digunakan dalam deepfake pornografi. Pada Januari 2024, konten semacam itu sempat viral di X dan Telegram, ditonton jutaan kali sebelum akhirnya diblokir sementara oleh platform X.
Pengalaman Jurnalis: Video Eksplisit Muncul Instan
Jurnalis Jess Weatherbed dari The Verge menguji Grok Imagine dengan perintah sederhana: “Taylor Swift merayakan Coachella bersama teman-temannya”.
Hasilnya, AI langsung menampilkan gambar Swift yang kemudian dapat diubah menjadi video pendek dengan opsi “normal”, “menyenangkan”, “khusus”, atau “pedas”.
Ketika memilih mode “pedas”, Swift divisualisasikan merobek gaunnya dan menari hanya mengenakan thong—sepenuhnya tanpa sensor—meski Weatherbed tidak memberikan instruksi eksplisit.
Masalah Verifikasi Usia dan Aturan Baru Inggris
Weatherbed mengungkap bahwa Grok hanya menanyakan tanggal lahir tanpa metode verifikasi usia lain.
Padahal, berdasarkan Undang-Undang Inggris yang berlaku akhir Juli, platform dengan konten eksplisit wajib menggunakan metode verifikasi yang teknis, akurat, andal, dan adil.
Ancaman Bagi Anak dan Perlindungan yang Minim
Regulator media Ofcom memperingatkan risiko besar dari AI generatif di dunia daring, khususnya bagi anak-anak. Mereka menuntut platform untuk menerapkan perlindungan ketat demi mengurangi risiko penyalahgunaan.
Amandemen Hukum untuk Cegah Deepfake Nonkonsensual
Saat ini, pembuatan deepfake pornografi ilegal jika digunakan untuk balas dendam atau melibatkan anak.
Prof. McGlynn bersama Baroness Owen mendorong amandemen hukum agar setiap bentuk deepfake seksual nonkonsensual—termasuk yang melibatkan selebritas—dilarang sepenuhnya.
Sikap Pemerintah Inggris
Kementerian Kehakiman Inggris menegaskan bahwa deepfake seksual tanpa persetujuan adalah tindakan merendahkan dan berbahaya. Pemerintah berkomitmen mempercepat pengesahan larangan tersebut demi melindungi perempuan dan anak.
baca juga : LLDIKTI dukung Produk Penelitian Unggulan Universitas Teknokrat Indonesia ke Nasional
Latar Belakang Pemilihan Taylor Swift untuk Uji Coba
Tim The Verge memilih Taylor Swift sebagai subjek uji coba Grok Imagine karena kasus viral sebelumnya. Mereka mengira wajah Swift akan masuk daftar prioritas perlindungan AI, namun asumsi itu terbukti salah.
penulis : Ginasti kurniasih trifosa
