Grok, alat generatif AI baru, menghadirkan mode “spicy” yang langsung memunculkan video deepfake kontroversial, termasuk Taylor Swift dalam keadaan tidak berpakaian. Sementara banyak alat penghasil video lain seperti Google’s Veo dan OpenAI’s Sora memiliki perlindungan untuk mencegah pembuatan konten NSFW atau deepfake selebriti, Grok Imagine tampaknya tidak memiliki batasan serupa.
Baca juga: Ketua Komisi X DPR Imbau Orang Tua Melek Teknologi untuk Awasi Gim Daring
Apa Itu Mode "Spicy" di Grok?
Fitur “Imagine” di aplikasi Grok memungkinkan pengguna untuk membuat gambar dengan prompt teks, lalu mengubahnya menjadi klip video. Terdapat empat preset untuk pembuatan video: "Custom," "Normal," "Fun," dan "Spicy." Preset "Spicy" dalam aplikasi ini memungkinkan untuk menghasilkan video yang tidak hanya mengandung unsur menggoda, tetapi juga potensi untuk menghasilkan deepfake selebriti tanpa sensor.
Taylor Swift Tanpa Pakaian: Sebuah Contoh Kontroversial
Pada penggunaan pertama saya, saya meminta aplikasi untuk membuat gambar “Taylor Swift merayakan Coachella dengan teman-teman”. Tak lama kemudian, saya diberikan lebih dari 30 gambar, beberapa di antaranya menunjukkan Swift mengenakan pakaian minim. Ketika saya memilih gambar Swift dengan rok perak dan atasan halter, saya mengubahnya menjadi video dengan memilih preset "spicy." Video tersebut menampilkan Swift yang seolah-olah merobek pakaiannya dan menari dengan pakaian minim.
Walaupun tampaknya mirip, gambar dan video yang dihasilkan memiliki ketidaksempurnaan yang jelas, mengarah pada "uncanny valley," tetapi tetap dikenali sebagai Taylor Swift. Meski generator gambar tidak menghasilkan gambar telanjang secara langsung (menghasilkan kotak kosong ketika diminta), preset "spicy" justru mengarah pada gambar dengan sebagian besar pakaian Swift terlepas.
Kontroversi Deepfake dan Potensi Masalah Hukum
Grok Imagine menawarkan kebebasan untuk membuat video dengan unsur seksual dan ketelanjangan parsial, meskipun beberapa gambar bisa dihasilkan tanpa unsur tersebut. Masalah utama terletak pada kurangnya pengendalian untuk mencegah pembuatan deepfake selebriti atau konten yang eksplisit, yang berisiko melanggar kebijakan hukum yang ada, seperti Take It Down Act yang membatasi penyebaran konten eksploitasi seksual anak.
Meskipun Grok memiliki kebijakan penggunaan yang melarang "penggambaran likeness seseorang secara pornografi," tidak ada tindakan yang jelas untuk mencegah pengguna membuat deepfake selebriti seperti Taylor Swift. Selain itu, verifikasi usia yang diterapkan sangat mudah untuk dilewati, dengan hanya meminta pengguna untuk mengonfirmasi tahun kelahiran mereka.
Keamanan dan Penggunaan yang Meningkat
Penggunaan Grok Imagine, yang kini memiliki lebih dari 34 juta gambar yang dihasilkan sejak peluncurannya, telah menarik perhatian banyak orang, termasuk CEO xAI Elon Musk, yang menyebutkan bahwa penggunaan alat ini berkembang dengan pesat. Namun, dengan akses yang mudah dan murah (hanya dengan langganan SuperGrok seharga $30), siapa saja yang memiliki iPhone dapat memanfaatkan fitur ini untuk menciptakan konten yang kontroversial, meskipun aplikasi tersebut didesain untuk menciptakan video dengan gerakan atau suasana yang menggoda, bukan eksplisit.
Apa yang Harus Diperhatikan oleh Pengguna dan Regulasi?
Dengan fitur seperti ini, penting bagi pengembang seperti Grok untuk memperhatikan potensi dampak hukum dan etis dari penggunaan teknologi mereka. Jika tidak ada tindakan lebih lanjut untuk membatasi pembuatan konten eksplisit atau deepfake selebriti, Grok bisa menghadapi tantangan hukum besar di masa depan.
Penulis: Fiska Anggraini
