3 bulan yang lalu
Telset.id – Bayangkan jika teknologi kepintaran buatan nan Anda gunakan sehari-hari rupanya dimanfaatkan untuk membangun sistem pengawasan sosial nan invasif. Itulah nan baru saja diungkap oleh OpenAI, perusahaan di kembali ChatGPT, dalam laporan terbarunya. Sebuah akun nan berasal dari China diduga menggunakan platform AI tersebut untuk merancang perangkat penyadapan media sosial nan menargetkan konten politik, etnis, dan agama.
Bocoran ini bukan sekadar rumor kecil. OpenAI secara resmi mengonfirmasi bahwa mereka telah memblokir akun tersebut setelah menemukan bukti penggunaan ChatGPT untuk mengembangkan “probe” nan bisa merayapi platform seperti X, Facebook, Instagram, Reddit, TikTok, dan YouTube. nan lebih mengkhawatirkan, pekerjaan ini diklaim dilakukan untuk pengguna pemerintah, meskipun OpenAI menyatakan tidak dapat memverifikasi secara independen apakah perangkat tersebut betul-betul digunakan oleh entitas pemerintah China.
Ini bukan kali pertama OpenAI menghadapi penyalahgunaan semacam ini. Perusahaan mengungkapkan bahwa mereka telah mengganggu upaya serupa sebelumnya tahun ini. Bahkan, dalam kasus terpisah, sebuah akun lain juga diblokir lantaran menggunakan ChatGPT untuk mengembangkan proposal perangkat nan dinamai “High-Risk Uyghur-Related Inflow Warning Model” – sistem nan dirancang untuk melacak pergerakan perseorangan “terkait Uyghur”. China sendiri telah lama dituduh melakukan pelanggaran HAM terhadap Muslim Uyghur di wilayah Xinjiang.
Pola Ancaman Global nan Terus Berulang
Laporan terbaru OpenAI ini sebenarnya merupakan bagian dari upaya sistematis perusahaan dalam memerangi penyalahgunaan teknologi AI. Sejak Februari 2024, OpenAI mulai menerbitkan laporan ancaman secara rutin untuk meningkatkan kesadaran tentang aktor-aktor nan berafiliasi dengan negara nan menggunakan model bahasa besar untuk beragam tujuan berbahaya.
Apa nan ditemukan cukup mengkhawatirkan. Selain kasus China, perusahaan juga menangkap developer berkata Rusia, Korea, dan China nan menggunakan ChatGPT untuk menyempurnakan malware. Jaringan nan lebih luas di Kamboja, Myanmar, dan Nigeria juga ketahuan memanfaatkan chatbot ini untuk menciptakan skema penipuan.
Namun ada secercah harapan. Menurut perkiraan OpenAI sendiri, ChatGPT rupanya tiga kali lebih sering digunakan untuk mendeteksi penipuan daripada untuk menciptakannya. Fakta ini setidaknya memberikan gambaran bahwa teknologi ini mempunyai potensi positif nan signifikan.
Operasi Pengaruh Online nan Meluas
Musim panas ini, OpenAI sukses mengganggu operasi di Iran, Rusia, dan China nan menggunakan ChatGPT untuk menciptakan postingan, komentar, dan mendorong keterlibatan serta perpecahan sebagai bagian dari kampanye pengaruh online. Konten nan dihasilkan AI ini digunakan di beragam platform media sosial, baik di negara asal maupun secara internasional.
Praktik semacam ini mengingatkan kita pada pentingnya izin nan tepat dalam penggunaan teknologi AI. Seperti nan terjadi di Mesir nan akhirnya mensahkan UU pengawasan media sosial, negara-negara mulai menyadari urgensi pengaturan ini.
Bahkan studi FTC mengungkap praktik pengawasan info oleh platform media sosial dan streaming menunjukkan sungguh rentannya info pengguna terhadap penyalahgunaan. Kasus OpenAI ini semakin mempertegas bahwa kita tidak bisa lagi menganggap enteng masalah keamanan siber dan privasi data.
Tantangan Etis di Balik Kemajuan Teknologi
Pertanyaannya sekarang: sampai di mana batas etis dalam pengembangan dan penggunaan AI? Ketika teknologi nan sama bisa digunakan untuk kebaikan dan keburukan, gimana kita memastikan bahwa kemajuan tidak mengorbankan nilai-nilai kemanusiaan?
Kasus penggunaan ChatGPT untuk pengawasan sosial ini mengingatkan pada keputusan Microsoft nan mencabut akses teknologi untuk pengawasan massal Israel di Palestina. Perusahaan teknologi besar mulai menyadari tanggung jawab mereka dalam mencegah penyalahgunaan produk mereka.
Di Indonesia sendiri, rumor pengawasan konten di media sosial juga menjadi perhatian serius. Kemkominfo menyiapkan pemblokiran iklan rokok di media sosial berasas kejuaraan Kemenkes menunjukkan komitmen pemerintah dalam melindungi masyarakat dari konten berbahaya.
Laporan OpenAI ini semestinya menjadi sirine bagi kita semua. Teknologi AI berkembang dengan kecepatan nan luar biasa, namun izin dan pengawasannya seringkali tertinggal. Kita perlu memastikan bahwa kemajuan teknologi tidak mengabaikan perlindungan terhadap kewenangan asasi manusia dan privasi individu.
Mungkin inilah saatnya bagi organisasi dunia untuk duduk berbareng dan menciptakan kerangka etika nan kuat untuk pengembangan dan penggunaan AI. Karena jika tidak, kita berisiko menciptakan monster nan tidak bisa kita kendalikan – teknologi nan semestinya mempermudah hidup justru berbalik menakut-nakuti kebebasan dasar kita sebagai manusia.
