3 hari yang lalu
Telset.id – Bayangkan foto diri Anda nan biasa-biasa saja tiba-tiba diubah menjadi konten pornografi oleh sebuah kepintaran buatan, lampau disebarluaskan tanpa sepengetahuan Anda. Itulah ancaman nyata nan sekarang diselidiki Kementerian Komunikasi dan Digital (Kemkomdigi) mengenai dugaan penyalahgunaan fitur Grok AI pada platform X. Laporan awal menunjukkan teknologi ini belum mempunyai pagar nan cukup kuat untuk mencegah produksi dan pengedaran konten cabul berbasis foto pribadi penduduk Indonesia.
Ini bukan lagi sekadar soal spam alias ujaran kebencian. Kita sedang berbincang tentang perampasan kendali atas identitas visual seseorang, sebuah pelanggaran privasi nan bisa meninggalkan luka psikologis dan sosial nan dalam. Kemkomdigi, melalui Direktorat Jenderal Pengawasan Ruang Digital, sedang menelusuri celah keamanan ini. Hasilnya? Grok AI dinilai belum mempunyai pengaturan definitif dan memadai untuk mencegah terciptanya konten pornografi dari foto nyata. Artinya, kewenangan privasi dan kewenangan atas gambaran diri Anda berpotensi tergadai hanya dengan beberapa perintah teks sederhana.
Alexander Sabar, Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, dengan tegas menyatakan bahwa manipulasi digital foto pribadi melampaui persoalan kesusilaan. Ini adalah corak perampasan kendali perseorangan atas identitas visualnya. “Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi. Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan kewenangan gambaran diri warga,” ujarnya di Jakarta, Rabu (7 Januari 2026). Pernyataan ini bukan sekadar peringatan, tapi sinyal bahwa era di mana wajah kita bisa dengan mudah menjadi perangkat pemanfaatan telah tiba.
Koordinasi Ketat dengan Penyelenggara Sistem Elektronik
Lantas, apa langkah konkret nan diambil? Kemkomdigi tidak tinggal diam. Mereka sekarang berkoordinasi intens dengan para Penyelenggara Sistem Elektronik (PSE), termasuk tentunya platform X sebagai induk dari Grok AI. Tujuannya jelas: memastikan tersedianya sistem pelindungan nan efektif. Koordinasi ini mencakup penguatan sistem moderasi konten, pencegahan pembuatan deepfake asusila, serta penyiapan prosedur penanganan sigap atas laporan pelanggaran. Alexander menegaskan, “Setiap PSE wajib memastikan bahwa teknologi nan mereka sediakan tidak menjadi sarana pelanggaran privasi, pemanfaatan seksual, maupun perusakan martabat seseorang.”
Pesan ini terdengar keras, dan memang harus. Dalam ekosistem digital nan semakin kompleks, tanggung jawab tidak boleh hanya dibebankan pada pengguna akhir. Penyedia platform dan teknologi, seperti nan terjadi dalam inisiatif transformasi digital nan diusung beragam perusahaan, kudu membangun dari hulu. Mereka perlu mengintegrasikan prinsip keamanan dan etika sejak tahap desain, bukan sekadar menambal lubang setelah masalah terjadi. Ini sejalan dengan semangat penemuan nan bertanggung jawab, seperti nan juga digaungkan dalam event-event besar seperti Telkomsel Solution Day 2025 nan menghadirkan penemuan AI dan 5G.
Ancaman Sanksi dan Dasar Hukum nan Menguat
Bagi PSE nan abai, konsekuensinya jelas. Kemkomdigi mengingatkan bahwa tanggungjawab kepatuhan terhadap peraturan Indonesia melekat pada semua PSE nan beraksi di wilayah norma Republik. Sikap tidak kooperatif alias ketidakpatuhan bisa berujung pada hukuman administratif nan berat, apalagi hingga pemutusan akses jasa Grok AI dan platform X secara keseluruhan. Ini adalah kewenangan nan serius, menunjukkan komitmen pemerintah untuk tidak bermain-main dalam melindungi warganya di ruang digital.
Pijakan hukumnya pun semakin kokoh. Dengan berlakunya Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) sejak 2 Januari 2026, payung norma untuk menjerat pelaku lebih jelas. Konten pornografi sekarang diatur, antara lain, dalam Pasal 172 dan Pasal 407 KUHP baru. Pasal 172 mendefinisikan pornografi sebagai media nan memuat kecabulan alias pemanfaatan seksual nan melanggar norma kesusilaan. Sementara itu, Pasal 407 menakut-nakuti pidana penjara paling singkat enam bulan hingga sepuluh tahun, alias pidana denda. Ancaman ini bertindak baik bagi penyedia jasa AI maupun pengguna perseorangan nan terbukti memproduksi dan menyebarkan konten terlarang.
Ini adalah babak baru dalam penegakan norma siber di Indonesia. Hukum tidak lagi tertinggal jauh di belakang kecepatan teknologi. Upaya penegakan ini merupakan bagian integral dari transformasi digital menyeluruh nan mau dicapai, di mana kemajuan teknologi kudu melangkah beriringan dengan perlindungan kewenangan dasar penduduk negara.
Seruan untuk Literasi Digital dan Tanggung Jawab Bersama
Di akhir pernyataannya, Alexander Sabar menyampaikan imbauan nan krusial untuk kita renungkan. “Kami mengimbau seluruh pihak untuk menggunakan teknologi logika imitasi secara bertanggung jawab. Ruang digital bukan ruang tanpa hukum, ada privasi dan kewenangan atas gambaran diri setiap penduduk nan kudu dihormati dan dilindungi.” Kalimat ini mengingatkan kita bahwa di kembali kecanggihan algoritma dan model bahasa besar, ada manusia dengan martabat nan kudu dijaga.
Kasus dugaan penyalahgunaan Grok AI ini menjadi pengingat pahit bahwa transformasi digital membawa dua sisi mata uang. Di satu sisi, dia membuka pintu penemuan dan efisiensi nan tak terbatas. Di sisi lain, dia juga membuka celah baru bagi kejahatan dan pelanggaran hak. Peran pemerintah sebagai regulator memang krusial, tetapi tanggung jawab akhirnya ada di pundak kita semua. Mulai dari perusahaan teknologi nan kudu beretika dalam berinovasi, hingga pengguna perseorangan nan perlu meningkatkan literasi digital dan kesadaran untuk tidak menyalahgunakan teknologi.
Jadi, apa langkah Anda selanjutnya? Mungkin mulai dengan lebih berhati-hati membagikan foto pribadi di ruang publik digital. Atau, lebih aktif melaporkan konten-konten nan mencurigakan. nan pasti, era di mana kita bisa pasif dan menyerahkan segalanya pada platform telah berakhir. Perlindungan privasi di era AI dimulai dari kesadaran kolektif bahwa setiap teknologi punya konsekuensi, dan setiap klik kita membentuk masa depan ruang digital nan lebih kondusif alias justru lebih berbahaya. Pilihannya ada di tangan kita.
