1 hari yang lalu
Telset.id – Fenomena penyalahgunaan Grok AI pada platform X (sebelumnya Twitter) sekarang mencapai level nan semakin meresahkan. Laporan terbaru mengungkap bahwa chatbot milik Elon Musk ini tidak hanya digunakan untuk membikin gambar vulgar generik, tetapi secara spesifik menargetkan wanita dengan atribut keagamaan dan budaya, seperti memaksa “melepas” hijab, sari, hingga busana biarawati melalui manipulasi prompt.
Berdasarkan tinjauan WIRED terhadap 500 gambar nan dihasilkan Grok antara 6 hingga 9 Januari, ditemukan sekitar 5 persen output menampilkan wanita nan pakaiannya dimanipulasi secara digital. Mayoritas korban adalah wanita kulit berwarna, dengan konsentrasi utama pada pelucutan busana sopan seperti sari India dan busana Muslim, serta seragam sekolah Jepang.
Noelle Martin, peneliti izin penyalahgunaan deepfake dari University of Western Australia, menyoroti bahwa wanita kulit berwarna secara tidak proporsional menjadi sasaran manipulasi gambar intim ini. Menurutnya, perihal ini terjadi lantaran pandangan misoginis nan menganggap golongan ini kurang bermartabat, apalagi sebelum era deepfake merajalela.
Situasi di lapangan menunjukkan eskalasi nan mengerikan. Sebuah akun terverifikasi dengan lebih dari 180.000 pengikut diketahui membalas unggahan foto tiga wanita berhijab dengan perintah kepada Grok untuk “menghapus hijab dan memakaikan busana pesta tahun baru nan terbuka”. Hasilnya, Grok menampilkan ketiga wanita tersebut tanpa penutup kepala dengan busana berpayet nan sebagian tembus pandang. Gambar hasil manipulasi ini telah dilihat lebih dari 700.000 kali.
Eksploitasi Atribut Agama dan Minimnya Moderasi
Council on American-Islamic Relations (CAIR), golongan pembelaan Muslim terbesar di AS, menghubungkan tren ini dengan sentimen permusuhan terhadap Islam dan support politik mengenai Palestina. CAIR secara tegas mendesak Elon Musk untuk menghentikan penggunaan Grok nan memfasilitasi pelecehan dan pembuatan gambar seksual definitif terhadap wanita Muslim.
Data nan dihimpun peneliti media sosial Genevieve Oh menunjukkan lonjakan aktivitas nan mengkhawatirkan. Grok tercatat menghasilkan lebih dari 1.500 gambar rawan per jam, termasuk foto nan menelanjangi subjek alias menambahkan unsur nuditas. Bahkan, sebelum X mulai membatasi akses Grok di jawaban publik, angkanya mencapai 7.700 gambar per jam.
Lebih mencengangkan lagi, platform X sekarang menghasilkan materi deepfake seksual 20 kali lebih banyak dibandingkan campuran lima situs web unik deepfake teratas. Meski X menyatakan mengambil tindakan terhadap konten ilegal, banyak unggahan mengenai manipulasi busana keagamaan tetap bebas beredar berhari-hari setelah dilaporkan.
Ironisnya, saat publik bereaksi keras, Elon Musk justru terlihat sering memposting ulang video AI wanita sensual buatan Grok dan berbual mengenai keahlian chatbot tersebut. Respons resmi dari xAI terhadap permintaan komentar media pun hanya berupa pesan otomatis bertuliskan “Legacy Media Lies”.
Celah Hukum dan Kontrol Digital
Masalah ini semakin pelik lantaran adanya celah hukum. Mary Anne Franks, guru besar norma kewenangan sipil di George Washington University, menjelaskan bahwa contoh manipulasi seperti melepas hijab tidak selalu secara teknis melanggar patokan konten seksual definitif alias deepfake asusila, sehingga kreatornya sering lolos dari sanksi. Namun, dampaknya tetap merupakan corak pelecehan nan “sengaja bermain di pemisah aturan”.
Di sisi lain, muncul pula tren sebaliknya nan disebut “DignifAI”, di mana pengguna menggunakan AI untuk menambahkan busana pada foto wanita agar terlihat lebih konservatif. Meski terkesan berlawanan, para mahir menilai kedua kejadian ini—melucuti alias menambahkan pakaian—berakar pada kemauan nan sama: mengontrol tubuh dan penampilan wanita secara digital tanpa persetujuan mereka.
Di tengah pesatnya perkembangan teknologi AI, seperti kemunculan model bahasa canggih DeepSeek V3.2 dan lainnya, izin perlindungan korban tampak tertinggal. Undang-undang AS seperti “Take It Down Act” nan bakal bertindak Mei mendatang belum mewajibkan X untuk mempunyai proses penghapusan gambar bagi korban, membiarkan platform ini menjadi “taman bermain” bagi pelaku pelecehan digital.
