Generator video AI milik Elon Musk, Grok Imagine, kembali menghadapi kritik setelah dituduh dengan sengaja memproduksi video eksplisit seksual, termasuk yang melibatkan selebriti terkenal Taylor Swift, tanpa permintaan eksplisit untuk konten tersebut. Seorang pakar kekerasan online menyebut ini sebagai misogini yang disengaja dalam desain teknologi AI.
Baca juga: Ketua Komisi X DPR Imbau Orang Tua Melek Teknologi untuk Awasi Gim Daring
Grok Imagine: Mode “Spicy” Menghasilkan Konten Eksplisit Tanpa Diminta
Grok Imagine memiliki mode baru yang disebut “spicy” yang memungkinkan pengguna menghasilkan gambar dan video berdasarkan teks yang diberikan. Namun, alat ini dengan cepat menghasilkan video topless Taylor Swift tanpa ada permintaan untuk gambar eksplisit. Mode "spicy" ini tidak hanya menghasilkan gambar tetapi juga animasi dan video pendek dengan elemen seksual yang mencolok.
Menurut laporan dari The Verge, saat seorang jurnalis mencoba menggunakan Grok Imagine dengan memasukkan prompt “Taylor Swift merayakan Coachella dengan teman-temannya”, hasilnya langsung berupa gambar Swift yang mengenakan gaun dengan pria di belakangnya. Ketika gambar tersebut diubah menjadi video, Swift tanpa ragu langsung merobek gaunnya dan mulai menari tanpa pakaian bagian atas.
“Misogini yang Dirancang Secara Sengaja”
Clare McGlynn, seorang profesor hukum yang terlibat dalam perancangan undang-undang terkait deepfake pornografi, mengkritik penggunaan AI ini. Ia menyatakan bahwa ini bukan misogini yang kebetulan, melainkan misogini yang dirancang. McGlynn menambahkan bahwa meskipun platform seperti X (sebelumnya Twitter) bisa mencegah penyebaran konten seperti ini, mereka memilih untuk tidak melakukannya.
“Konten ini diproduksi tanpa permintaan yang jelas, ini menunjukkan bias misoginis dari banyak teknologi AI,” kata McGlynn.
Ketidaksempurnaan Sistem Verifikasi Usia
Meskipun Grok Imagine meminta pengguna untuk mengonfirmasi tanggal lahir mereka saat mendaftar, sistem verifikasi usia yang lebih ketat yang diperkenalkan pada Juli 2024 ternyata tidak diterapkan secara efektif. Di bawah undang-undang baru Inggris, aplikasi dan situs yang menunjukkan gambar eksplisit harus memverifikasi usia penggunanya dengan cara yang akurat dan dapat diandalkan. Namun, pengguna yang mengakses Grok Imagine hanya diminta untuk memasukkan tanggal lahir tanpa verifikasi lebih lanjut.
Pemerintah Inggris telah berkomitmen untuk memperkenalkan perubahan hukum yang akan membuat pembuatan deepfake pornografi yang tidak sah menjadi ilegal, namun undang-undang tersebut masih dalam tahap implementasi.
Kontroversi Deepfake Seksual Taylor Swift
Kasus ini bukanlah yang pertama kali bagi Taylor Swift menjadi korban deepfake seksual. Sebelumnya, deepfake eksplisit yang menggunakan wajah Swift sempat viral dan menyebar luas di X dan Telegram pada Januari 2024. Ketika gambar-gambar tersebut viral, X sementara memblokir pencarian menggunakan nama Taylor Swift di platform mereka, dan mengambil tindakan terhadap akun-akun yang menyebarkan konten tersebut.
AI Generatif dan Risiko Terhadap Perlindungan Wanita
Pakar hukum dan aktivis mengatakan bahwa meskipun teknologi seperti Grok Imagine dapat memiliki aplikasi positif, potensi penyalahgunaan untuk menciptakan konten yang merugikan individu, terutama wanita, sangat besar. Pembuatan deepfake pornografi tanpa persetujuan jelas merendahkan martabat individu yang digambarkan dan memberikan dampak psikologis yang serius.
Baroness Owen, yang mengusulkan perubahan undang-undang di House of Lords, menegaskan bahwa setiap wanita berhak untuk memiliki kontrol penuh atas gambar intim dirinya, baik dia seorang selebriti atau bukan. “Kasus ini adalah contoh jelas mengapa pemerintah harus segera menerapkan perubahan undang-undang ini,” katanya.
Tindakan Pemerintah dan Regulasi Mendatang
Juru bicara dari Kementerian Kehakiman Inggris menyatakan bahwa deepfake seksual yang dibuat tanpa persetujuan adalah bentuk kekerasan yang merendahkan dan berbahaya. Mereka berkomitmen untuk memperkenalkan regulasi yang akan melarang pembuatan konten seperti itu secepat mungkin.
Pemerintah juga telah menyatakan keprihatinannya mengenai risiko AI generatif terhadap anak-anak dan masyarakat secara keseluruhan, dan mereka sedang bekerja untuk memastikan bahwa platform menyediakan pengaman yang memadai untuk mengurangi risiko ini.
Tantangan Hukum dan Etika yang Terus Berkembang
Grok Imagine, meskipun dirancang untuk kreativitas, menunjukkan risiko besar terkait penyalahgunaan teknologi AI untuk membuat konten eksplisit tanpa persetujuan. Dengan masalah verifikasi usia yang lemah dan kemungkinan penggunaan untuk deepfake seksual, penting bagi pengembang dan regulator untuk segera memperkenalkan tindakan yang lebih ketat untuk mencegah konten berbahaya ini.
Penulis: Fiska Anggraini
