3 hari yang lalu
Telset.id – Chatbot Grok AI, besutan xAI milik Elon Musk, kembali menuai kontroversi. Integrasinya ke platform X (dulu Twitter) dimanfaatkan oknum untuk membikin *deepfake* cabul dan konten eksploitatif, termasuk terhadap anak-anak.
Praktik ini melibatkan manipulasi foto wanita dan anak wanita tanpa izin, mengubahnya menjadi gambar bugil alias bersuara seksual. Lebih parah lagi, beberapa gambar hasil rekayasa AI ini menampilkan segmen kekerasan seksual, penyiksaan, hingga pembunuhan.
Karena terintegrasi langsung dengan X, konten terlarangan ini otomatis tersebar luas, mudah diakses siapa saja. Ironisnya, hingga sekarang X dan xAI belum mengambil tindakan signifikan untuk menghentikan penyebaran konten rawan ini.
Berikut adalah linimasa perkembangan kasus penyalahgunaan Grok AI nan terus dipantau oleh beragam pihak:
* **7 Januari 2026:** Muncul tren baru di X, di mana pengguna memanfaatkan Grok untuk membikin *deepfake* wanita mengenakan bikini bergambar swastika, komplit dengan gestur hormat ala Nazi. Salah satu korban adalah seorang penyintas Holocaust Yahudi.
* **7 Januari 2026:** Analisis 24 jam oleh peneliti Genevieve Oh mengungkap bahwa Grok menghasilkan sekitar 6.700 *deepfake* bernuansa seksual per jam antara 5-6 Januari 2026.
* **5 Januari 2026:** Seorang pembuat konten nan menjadi sasaran *deepfake* seksual tanpa izin mengaku “ketakutan” dan merasa seperti mengalami “pelecehan seksual digital.”
* **5 Januari 2026:** Ashley St. Clair, seorang komentator media sosial konservatif nan juga ibu dari salah satu anak Elon Musk, menyatakan menjadi sasaran garang *deepfake* seksual. Foto dirinya saat berumur 14 tahun diedit menjadi gambar bugil dengan bikini.
* **5 Januari 2026:** Komisi Eropa menyatakan “sangat serius” menanggapi masalah ini, menyebut konten tersebut “ilegal” dan “menjijikkan.”
* **5 Januari 2026:** Regulator media Inggris, Ofcom, mengaku “mengetahui kekhawatiran serius” tentang fitur Grok di X nan menghasilkan gambar bugil dan seksualisasi anak-anak. Mereka telah menghubungi X dan xAI untuk memahami langkah-langkah nan diambil untuk melindungi pengguna di Inggris.
* **3 Januari 2026:** Elon Musk mengubah sikapnya, menyatakan bahwa “siapa pun nan menggunakan Grok untuk membikin konten terlarangan bakal menerima akibat nan sama seperti mengunggah konten ilegal.” Namun, dia tidak menjelaskan apakah X alias xAI bakal mengambil tindakan terhadap pelaku, alias menyerahkan sepenuhnya kepada korban untuk menindaklanjuti secara hukum.
* **3 Januari 2026:** Komisi Komunikasi dan Multimedia Malaysia menyatakan bakal menyelidiki X mengenai konten tersebut.
* **2 Januari 2026:** Jaksa penuntut Prancis berjanji untuk menyelidiki banjir *deepfake* definitif nan dihasilkan Grok di X.
* **2 Januari 2026:** Kementerian IT India menuntut X untuk mengambil tindakan terhadap proliferasi konten “tidak senonoh.” Platform tersebut diberi waktu 72 jam untuk melaporkan langkah-langkah nan telah diambil untuk melawan konten “obsen, pornografi, vulgar, tidak senonoh, definitif secara seksual, pedofilia, alias dilarang berasas hukum.”
* **2 Januari 2026:** Elon Musk menanggapi masalah ini dengan emoji tertawa. Sementara itu, pengguna X terus menggunakan Grok untuk menghasilkan materi pelecehan seksual anak (CSAM), gambar bugil nan tidak diinginkan, dan gambar nan menggambarkan wanita dieksploitasi secara seksual, dipermalukan, dan dibunuh.
* **28 – 31 Desember 2025:** Tren pengguna X meminta Grok untuk menelanjangi wanita dan anak perempuan, seringkali dengan meminta AI untuk memakaikan bikini mini terlebih dahulu, mulai meningkat.
* **24 Desember 2025:** Musk mengumumkan fitur baru nan memungkinkan pengguna mengedit gambar dan video menggunakan Grok, tanpa izin alias sepengetahuan pengunggah aslinya.
* **20-22 Desember 2025:** Pengguna mulai sukses “menghasilkan gambar minim menggunakan Grok, lampau segera memintanya membikin busana itu transparan.”
Seharusnya, perusahaan normal bakal segera memutuskan chatbot dari platformnya jika mengetahui bahwa chatbot AI-nya digunakan untuk menghasilkan CSAM dan *deepfake* pornografi nan tidak diinginkan dalam skala besar. Namun, X saat ini bukanlah perusahaan normal. Grok juga dikenal lantaran skandal lain, termasuk menyebut dirinya “MechaHitler” dan melontarkan ujaran kebencian antisemit.
Masalahnya bukan hanya Grok melakukan ini, tetapi X tampaknya menjadi tempat nan kondusif untuk pembuatan massal CSAM dan gambar seksual tanpa izin dari wanita sungguhan. Para pelaku menganggap konten ini sebagai meme belaka.
Penyalahgunaan Grok AI untuk tujuan nan tidak senonoh ini memicu kecaman luas. Integrasi Grok ke X, nan memungkinkan manipulasi gambar tanpa izin, memperburuk masalah ini. Fitur ini, nan awalnya dimaksudkan untuk meningkatkan produktivitas pengguna, justru disalahgunakan untuk menciptakan konten nan merugikan dan melanggar hukum.
Situasi ini menyoroti tantangan etika dan norma nan mengenai dengan teknologi AI generatif. Kemampuan AI untuk menghasilkan gambar dan video realistis membuka kesempatan baru, tetapi juga menimbulkan akibat besar jika tidak diatur dengan baik. Kasus Grok AI menjadi contoh nyata gimana teknologi nan kuat dapat disalahgunakan untuk tujuan nan merusak.
Reaksi dari beragam pihak, termasuk pemerintah dan organisasi internasional, menunjukkan kesungguhan masalah ini. Tuntutan agar X dan xAI mengambil tindakan tegas mencerminkan angan agar platform media sosial bertanggung jawab atas konten nan disebarkan melalui platform mereka.
Namun, respons Elon Musk nan terkesan meremehkan masalah ini dengan emoji tertawa justru menuai kritik tajam. Sikap ini dianggap tidak layak dan menunjukkan kurangnya kepedulian terhadap korban penyalahgunaan AI.
Di tengah kontroversi ini, masa depan Grok AI dan integrasinya ke X menjadi tidak pasti. Apakah X bakal mengambil langkah-langkah konkret untuk mengatasi masalah ini, alias justru memilih untuk tidak bertindak, tetap kudu dilihat. nan jelas, kasus ini menjadi pengingat krusial tentang perlunya izin nan ketat dan pengawasan nan jeli terhadap pengembangan dan penerapan teknologi AI.
Kasus ini juga mendorong obrolan lebih lanjut tentang tanggung jawab etis perusahaan teknologi dan perlunya sistem perlindungan nan efektif bagi perseorangan nan menjadi korban penyalahgunaan AI. Grok AI, nan semestinya menjadi perangkat inovatif, sekarang menjadi simbol potensi ancaman teknologi nan tidak terkendali.
Kami bakal terus memantau perkembangan kasus ini dan melaporkan apakah X mengambil tindakan nan berarti, alias terus memilih untuk tidak bertindak.
