2 bulan yang lalu
Telset.id – Bayangkan wajah Anda tiba-tiba muncul dalam video nan tidak pernah Anda buat, mengatakan hal-hal nan tidak pernah Anda ucapkan. Itulah kengerian nan dihadapi banyak orang di era deepfake AI nan semakin canggih. Kini, YouTube mengambil langkah berani dengan meluncurkan fitur penemuan wajah untuk melindungi perseorangan dari penyalahgunaan teknologi ini.
Ketika alat-alat AI mulai merajalela di internet, kekhawatiran tentang deepfake tumbuh bersamanya. Kini, dengan teknologi seperti Sora 2 dari OpenAI nan baru saja dirilis menjadi lebih bisa dan lebih mudah diakses – dan digunakan secara tidak bertanggung jawab seperti nan bisa Anda tebak – baik orang terkenal maupun biasa mungkin menginginkan lebih banyak kendali untuk melindungi gambaran mereka. Setelah mengumumkan fitur ini tahun lalu, YouTube mulai meluncurkan perangkat penemuan wajah untuk memerangi deepfake nan tidak diinginkan dan menghapusnya dari platform video.
Fitur penemuan wajah ini sedang diluncurkan untuk personil YouTube Partner Program. Namun, ada batas penting: fitur ini hanya bisa mencakup kasus di mana wajah seseorang telah dimodifikasi dengan AI. Kasus di mana bunyi seseorang diubah oleh AI tanpa persetujuan mereka mungkin tidak terdeteksi oleh fitur ini. Ini menjadi celah nan perlu diwaspadai, mengingat YouTube sebelumnya telah meluncurkan beragam fitur AI untuk melindungi kreator.
Proses partisipasinya cukup ketat. Untuk berpartisipasi, orang perlu mengirimkan KTP dan video selfie singkat ke YouTube. Tujuannya ganda: memastikan mereka adalah orang nan mereka klaim, dan memberikan materi sumber bagi fitur ini untuk digunakan dalam tinjauannya. Dari sana, langkah kerjanya mirip dengan fitur Content ID YouTube untuk menemukan audio nan dilindungi kewenangan cipta – memindai video nan diunggah untuk kemungkinan kecocokan nan kemudian dapat ditinjau orang tersebut dan menandai video nan melanggar untuk dihapus.
Langkah YouTube ini datang di saat nan tepat. Teknologi deepfake semakin susah dibedakan dari konten asli, dan dampaknya bisa menghancurkan. Bayangkan reputasi ahli nan hancur lantaran video palsu, alias hubungan pribadi nan rusak lantaran rekaman nan dimanipulasi. Tidak heran jika selebritas seperti Scarlett Johansson mendesak regulasi nan lebih ketat setelah menjadi korban deepfake AI.
Batasan dan Tantangan nan Masih Dihadapi
Meski langkah YouTube patut diapresiasi, ada beberapa keterbatasan nan perlu diperhatikan. Pertama, fitur ini hanya tersedia untuk personil YouTube Partner Program – artinya pengguna biasa belum bisa mengaksesnya. Kedua, seperti nan disebutkan sebelumnya, modifikasi bunyi tidak tercakup dalam sistem penemuan ini. Ketiga, proses verifikasi nan memerlukan KTP dan video selfie mungkin menjadi penghalang bagi beberapa orang nan cemas tentang privasi info mereka.
Lalu ada pertanyaan tentang efektivitas. Seberapa jeli sistem ini dalam membedakan antara deepfake nan rawan dan konten parodi alias imajinatif nan sah? Bagaimana dengan video nan menggunakan teknik campuran, di mana hanya sebagian wajah nan dimodifikasi? Pertanyaan-pertanyaan ini menunjukkan bahwa pertempuran melawan deepfake tetap panjang.
Industri teknologi sendiri menyadari kompleksitas masalah ini. Kompetisi penemuan deepfake nan digelar FB dan Microsoft menunjukkan sungguh seriusnya perusahaan teknologi menganggap ancaman ini. Sementara upaya Google memperkuat AI di Android 16 untuk melawan penipuan online menunjukkan pendekatan multi-segi dalam memerangi penyalahgunaan AI.
Masa Depan Perlindungan Digital
Peluncuran fitur penemuan wajah oleh YouTube bisa menjadi titik kembali dalam perlindungan identitas digital. Ini mengirim pesan jelas bahwa platform besar mulai mengambil tanggung jawab serius dalam melindungi pengguna dari penyalahgunaan AI. Namun, ini baru permulaan.
Ke depan, kita mungkin memandang integrasi teknologi serupa di beragam platform. Bayangkan jika Facebook, Instagram, TikTok, dan platform lainnya mengangkat sistem serupa. Atau mungkin pengembangan perangkat penemuan nan lebih canggih nan bisa mengenali tidak hanya modifikasi wajah tetapi juga bunyi dan aktivitas tubuh.
Tantangan terbesar mungkin justru berada di luar teknologi – ialah edukasi pengguna. Berapa banyak dari Anda nan betul-betul memahami akibat deepfake? Atau tahu langkah melaporkan konten semacam itu? Alat-alat identifikasi wajah seperti TwinsOrNot mungkin terlihat seperti mainan, tetapi mereka mengajarkan konsep dasar tentang gimana teknologi pengenalan wajah bekerja – pengetahuan nan semakin krusial di era AI ini.
Yang jelas, perlombaan senjata antara kreator deepfake dan pendeteksinya bakal terus berlanjut. Setiap kali teknologi penemuan menjadi lebih baik, teknologi kreator deepfake juga berevolusi. Tapi dengan langkah proaktif seperti nan diambil YouTube, setidaknya kita tidak lengah sepenuhnya. Mungkin nan kita butuhkan bukan hanya teknologi nan lebih cerdas, tetapi juga kesadaran kolektif bahwa di bumi digital saat ini, wajah dan bunyi kita adalah aset nan perlu dilindungi seperti halnya info finansial kita.
