2 hari yang lalu
Telset.id – Kementerian Komunikasi dan Informatika (Kemkominfo) sedang menyelidiki dugaan penyalahgunaan Grok AI, sebuah fitur kepintaran buatan (AI) di platform X. Fitur ini diduga digunakan untuk memproduksi dan menyebarkan konten asusila, termasuk memanipulasi foto pribadi tanpa izin.
Direktur Jenderal Pengawasan Ruang Digital Kemkominfo, Alexander Sabar, mengungkapkan bahwa penelusuran awal menunjukkan Grok AI belum mempunyai pengaturan nan memadai untuk mencegah produksi dan pengedaran konten pornografi berbasis foto nyata penduduk Indonesia. Hal ini berpotensi melanggar kewenangan privasi dan kewenangan atas gambaran diri seseorang.
“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi. Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan kewenangan gambaran diri warga,” ujar Alexander di Jakarta, Rabu (15/05/2024).
Kemkominfo menilai bahwa manipulasi digital terhadap foto pribadi bukan hanya masalah kesusilaan, tetapi juga perampasan kendali perseorangan atas identitas visualnya, nan dapat menyebabkan kerugian psikologis, sosial, dan reputasi. Kasus deepfake dan pelanggaran kewenangan cipta semakin marak seiring perkembangan AI.
Alexander menegaskan bahwa Kemkominfo sedang berkoordinasi dengan para Penyelenggara Sistem Elektronik (PSE) untuk memastikan tersedianya sistem perlindungan nan efektif. Langkah ini mencakup penguatan sistem moderasi konten, pencegahan pembuatan deepfake asusila, serta prosedur penanganan sigap atas laporan pelanggaran privasi dan kewenangan gambaran diri.
“Setiap PSE wajib memastikan bahwa teknologi nan mereka sediakan tidak menjadi sarana pelanggaran privasi, pemanfaatan seksual, maupun perusakan martabat seseorang,” tegasnya.
Ia juga mengingatkan bahwa tanggungjawab kepatuhan terhadap peraturan perundang-undangan Indonesia melekat pada seluruh PSE nan beraksi di wilayah Indonesia. Jika ditemukan ketidakpatuhan alias sikap tidak kooperatif, Kemkominfo dapat menjatuhkan hukuman administratif hingga pemutusan akses jasa Grok AI dan platform X.
Kemkominfo menegaskan bahwa penyedia jasa kepintaran buatan maupun pengguna nan terbukti memproduksi dan/atau menyebarkan konten pornografi alias manipulasi gambaran pribadi tanpa kewenangan dapat dikenakan hukuman administratif dan/atau pidana sesuai ketentuan norma nan berlaku. Belum lama ini, Kemkominfo selidiki penyalahgunaan Grok AI untuk konten cabul dan deepfake.
Alexander menjelaskan, sejak berlakunya Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) pada 2 Januari 2026, konten pornografi diatur antara lain dalam Pasal 172 dan Pasal 407. Pasal 172 mendefinisikan pornografi sebagai media nan memuat kecabulan alias pemanfaatan seksual nan melanggar norma kesusilaan, sementara Pasal 407 mengatur ancaman pidana penjara paling singkat 6 (enam) bulan dan paling lama 10 (sepuluh) tahun alias pidana denda sesuai ketentuan.
Dia menambahkan bahwa masyarakat nan menjadi korban manipulasi foto, deepfake asusila, alias pelanggaran kewenangan gambaran diri dapat menempuh upaya norma melalui sistem nan tersedia dalam peraturan perundang-undangan, termasuk pelaporan kepada abdi negara penegak norma dan pengaduan kepada Kemkominfo.
“Kami mengimbau seluruh pihak untuk menggunakan teknologi logika imitasi secara bertanggung jawab. Ruang digital bukan ruang tanpa hukum, ada privasi dan kewenangan atas gambaran diri setiap penduduk nan kudu dihormati dan dilindungi,” ujar Alexander.
Ancaman Hukuman Bagi Pelanggar
Kemkominfo tidak main-main dalam menindak pelaku penyalahgunaan AI untuk konten negatif. Sanksi administratif hingga pidana menanti bagi mereka nan terbukti melanggar. Hal ini sejalan dengan komitmen pemerintah dalam menciptakan ruang digital nan kondusif dan bertanggung jawab.
Pasal 172 dan 407 KUHP menjadi landasan norma bagi penindakan terhadap pelaku. Pasal 172 secara jelas mendefinisikan pornografi sebagai media nan mengandung unsur kecabulan alias pemanfaatan seksual nan melanggar norma kesusilaan. Sementara itu, Pasal 407 memberikan ancaman pidana penjara minimal 6 bulan dan maksimal 10 tahun, alias denda sesuai ketentuan nan berlaku.
Masyarakat nan merasa menjadi korban manipulasi foto, deepfake asusila, alias pelanggaran kewenangan gambaran diri, mempunyai kewenangan untuk menempuh jalur hukum. Pelaporan kepada abdi negara penegak norma dan pengaduan kepada Kemkominfo adalah langkah nan dapat diambil untuk mencari keadilan.
Pentingnya kesadaran dan tanggung jawab dalam menggunakan teknologi AI menjadi sorotan utama. Ruang digital bukanlah wilayah tanpa aturan. Privasi dan kewenangan atas gambaran diri setiap perseorangan kudu dihormati dan dilindungi. Alexander Sabar kembali mengingatkan bakal perihal ini, membujuk seluruh pihak untuk bijak dalam memanfaatkan kemajuan teknologi.
Kasus Grok AI bikin ulah, dipakai untuk deepfake cabul dan pemanfaatan anak di X menjadi preseden buruk. Pemerintah tidak bakal tinggal tak bersuara dan bakal menindak tegas segala corak penyalahgunaan teknologi nan merugikan masyarakat.
Perkembangan AI nan pesat menuntut adanya izin nan ketat dan pengawasan nan cermat. Kemkominfo terus berupaya untuk memperkuat sistem moderasi konten dan meningkatkan kesadaran masyarakat bakal pentingnya menjaga privasi dan kewenangan gambaran diri di era digital. Selain itu, perkembangan DeepSeek V3.2 guncang bumi AI, klaim kalahkan GPT-5 dan Gemini 3 Pro, juga menjadi perhatian mengenai potensi penyalahgunaan.
Penting untuk diingat bahwa teknologi hanyalah alat. Bagaimana perangkat tersebut digunakan, sepenuhnya tergantung pada manusia. Mari bersama-sama menciptakan ruang digital nan positif, aman, dan bertanggung jawab.
Kemkominfo mengimbau masyarakat untuk lebih berhati-hati dalam mengunggah foto alias info pribadi ke internet. Selain itu, masyarakat juga diimbau untuk tidak mudah percaya dengan konten nan beredar di media sosial, terutama konten nan berkarakter provokatif alias mengandung unsur pornografi.
Pemerintah bakal terus berupaya untuk melindungi masyarakat dari akibat negatif penyalahgunaan teknologi. Namun, peran serta aktif dari masyarakat juga sangat krusial dalam menciptakan ruang digital nan sehat dan produktif. Diharapkan, kasus ini menjadi pelajaran berbobot bagi semua pihak untuk lebih bijak dalam menggunakan teknologi dan menghormati hak-hak orang lain.
Kasus ini juga menjadi momentum bagi para developer AI untuk lebih bertanggung jawab dalam menciptakan teknologi nan kondusif dan tidak disalahgunakan. Algoritma dan sistem keamanan kudu terus ditingkatkan untuk mencegah penyebaran konten negatif dan melindungi privasi pengguna.
Masyarakat juga perlu meningkatkan literasi digital agar dapat membedakan antara konten nan betul dan salah, serta memahami akibat dan potensi ancaman nan ada di bumi maya. Dengan literasi digital nan baik, masyarakat dapat lebih bijak dalam menggunakan teknologi dan terhindar dari menjadi korban penyalahgunaan teknologi.
Upaya pencegahan dan penindakan terhadap penyalahgunaan AI memerlukan kerjasama dari semua pihak, termasuk pemerintah, developer teknologi, masyarakat, dan media. Dengan kerjasama nan baik, diharapkan ruang digital dapat menjadi tempat nan aman, nyaman, dan produktif bagi semua orang.
Ke depan, Kemkominfo bakal terus melakukan sosialisasi dan edukasi kepada masyarakat mengenai pentingnya menjaga privasi dan kewenangan gambaran diri di era digital. Selain itu, Kemkominfo juga bakal terus berkoordinasi dengan para pemangku kepentingan untuk menciptakan izin nan adaptif dan bisa menjawab tantangan perkembangan teknologi.
Penting untuk diingat bahwa teknologi AI mempunyai potensi nan besar untuk memberikan faedah bagi kehidupan manusia. Namun, potensi tersebut hanya dapat terwujud jika teknologi digunakan secara bertanggung jawab dan etis. Mari bersama-sama mewujudkan visi Indonesia sebagai negara digital nan maju, inklusif, dan berkelanjutan.
Kemkominfo membujuk seluruh masyarakat untuk melaporkan jika menemukan konten nan melanggar norma alias norma kesusilaan di internet. Laporan dapat disampaikan melalui beragam kanal nan telah disediakan oleh Kemkominfo, seperti website, media sosial, alias hotline pengaduan.
Dengan partisipasi aktif dari masyarakat, diharapkan ruang digital dapat menjadi tempat nan lebih baik bagi semua orang. Mari bersama-sama membangun ekosistem digital nan sehat, produktif, dan bertanggung jawab.
