Grok Imagine, generator video AI milik Elon Musk, kini menuai kecaman besar setelah diduga diprogram untuk menghasilkan konten eksplisit seksual, khususnya gambar dan video wanita. Alat ini diklaim memicu masalah etika dan misogini yang dirancang secara sengaja.
Baca juga: Ketua Komisi X DPR Imbau Orang Tua Melek Teknologi untuk Awasi Gim Daring
Grok Imagine: Menghasilkan Konten Seksual dengan Cepat dan Mudah
Grok Imagine, fitur generatif video AI dari xAI, yang dipimpin oleh Elon Musk, telah menarik perhatian publik dengan kemampuannya untuk menghasilkan video dan gambar secara instan, termasuk konten yang mengandung unsur seksual. Meskipun AI ini bertujuan untuk menciptakan video kreatif dan realistis berdasarkan permintaan teks, banyak yang mengecam karena kemampuannya untuk menghasilkan gambar dan video yang tidak pantas, seperti menggambarkan selebriti, termasuk Taylor Swift, dalam situasi seksual.
Misogini yang Dirancang Secara Sengaja?
Kritikus berpendapat bahwa kemampuan AI ini untuk menghasilkan gambar eksplisit wanita menunjukkan adanya misogini yang disengaja dalam desainnya. Meskipun Grok Imagine memiliki tujuan awal untuk menghasilkan gambar dan video menarik, kenyataannya adalah alat ini memungkinkan pembuatan deepfake seksual tanpa perlindungan yang memadai terhadap eksploitasi selebriti atau individu lain.
Potensi Bahaya dan Dampak Hukum
Kemampuan Grok Imagine untuk membuat deepfake seksual selebriti seperti Taylor Swift memicu perdebatan tentang dampak hukum dan etika. Mengingat adanya undang-undang seperti Take It Down Act, yang melarang distribusi konten eksploitasi seksual, penggunaan alat ini bisa berisiko melanggar hukum. Tanpa adanya pengawasan yang tepat, Grok Imagine berpotensi menjadi alat yang berbahaya bagi penyalahgunaan konten digital.
Apa yang Harus Dilakukan untuk Mencegah Penyalahgunaan?
Penting bagi pengembang teknologi seperti xAI untuk meninjau kembali kebijakan dan desain fitur mereka untuk memastikan alat ini tidak dimanfaatkan untuk menciptakan atau mendistribusikan konten yang merugikan individu, terutama wanita. Jika tidak ada tindakan tegas yang diambil, Grok Imagine bisa menghadapi masalah besar terkait tanggung jawab hukum dan etika di masa depan.
Menghadapi Tantangan Besar
Meskipun Grok Imagine menawarkan peluang kreatif dalam pembuatan video AI, kontroversi seputar kemampuan untuk menghasilkan konten seksual tanpa batasan mengarah pada kekhawatiran besar. Misogini yang disengaja dalam desain alat ini menunjukkan perlunya regulasi yang lebih ketat dan kontrol lebih dalam untuk mencegah penyalahgunaan yang dapat merugikan banyak pihak.
Penulis: Fiska Anggraini
