5 bulan yang lalu
Telset.id – Bayangkan Anda bisa membikin video AI selebriti favorit dalam beragam pose, termasuk nan tidak pantas, hanya dengan satu klik. Itulah nan ditawarkan Grok Imagine, perangkat kreator gambar dan video AI terbaru dari xAI milik Elon Musk. Namun, kontroversi langsung menyelimuti fitur “Spicy” nan memungkinkan pengguna membikin konten NSFW (Not Safe For Work) dengan mudah—terutama untuk figur perempuan.
Diluncurkan pekan ini untuk pengguna iOS nan berlangganan SuperGrok dan Premium+ X, Grok Imagine langsung menuai kritik setelah The Verge melaporkan bahwa perangkat ini bisa menghasilkan video topless Taylor Swift tanpa permintaan eksplisit. Gizmodo juga menguji perangkat ini dan menemukan pola mengkhawatirkan: AI ini secara konsisten membikin konten vulgar untuk perempuan, sementara untuk laki-laki hanya sebatas melepas kemeja.
Ketimpangan nan Mencolok
Dalam pengetesan Gizmodo, nyaris semua video perempuan—termasuk Melania Trump dan penulis feminis Valerie Solanas—menampilkan segmen bugil dada alias lebih. Sementara itu, video laki-laki seperti Elon Musk, Mark Zuckerberg, apalagi Presiden AS seperti Barack Obama hanya berakhir di segmen melepas baju. “Tidak ada nan lebih memalukan daripada itu,” tulis laporan tersebut. Bahkan ketika mencoba membikin video “Spicy” dari ayah Elon Musk, Errol Musk, hasilnya sama: sekadar laki-laki tanpa kemeja.
Fitur ini juga bermasalah dalam perihal akurasi. Misalnya, ketika diminta membikin video Wakil Presiden JD Vance dan aktris Sydney Sweeney, hasilnya jauh dari mirip. “Kecuali kami betul-betul lupa seperti apa wajah mereka, ini sama sekali tidak akurat,” tulis Gizmodo. Namun, ketidakakuratan ini mungkin justru menjadi “penyelamat” Musk dari tuntutan hukum, mengingat potensi pelanggaran privasi dan kewenangan cipta.
Standar Ganda nan Mengkhawatirkan
Yang lebih memprihatinkan adalah standar dobel nan diterapkan Grok Imagine. Sementara platform AI lain seperti OpenAI Sora dan Google Veo memasang “pagar” ketat untuk mencegah konten pelecehan, xAI tampaknya hanya melakukannya untuk laki-laki. Padahal, seperti kekhawatiran AS terhadap penyalahgunaan AI deepfake, perangkat semacam ini berpotensi besar untuk disalahgunakan.
Elon Musk sendiri belum memberikan tanggapan atas pertanyaan mengenai sistem perlindungan di Grok Imagine. Padahal, Melania Trump—salah satu korban uji coba perangkat ini—adalah pendukung Take It Down Act, undang-undang nan melarang penyebaran gambar intim non-konsensual, termasuk deepfake.
Dengan nilai langganan SuperGrok sebesar $30 per bulan (atau $300 untuk jenis “Heavy”), perangkat ini jelas bukan mainan murah. Namun, seperti nan ditemukan Gizmodo, pengguna bisa dengan sigap mencapai pemisah pembuatan gambar dan dipaksa upgrade. Ironisnya, meski dibayar mahal, kualitas hasilnya seringkali buruk—seperti video Harry Truman nan putingnya muncul di luar kemeja.
Dalam bumi di mana teknologi AI seperti Microsoft VASA-1 semakin canggih, Grok Imagine justru menawarkan kemudahan membikin konten pelecehan. Pertanyaannya: apakah ini penemuan nan dibutuhkan, alias sekadar perangkat bagi Musk untuk memuaskan khayalan tertentu?
