2 bulan yang lalu
Telset.id – Bayangkan jika chatbot AI di media sosial bisa berbincang hal-hal “sensual” dengan anak Anda nan tetap berumur delapan tahun. Itulah realita mengerikan nan memaksa Meta mengambil langkah drastis dengan mengembangkan kontrol pengawasan baru bagi orangtua. Bocoran terbaru mengindikasikan perusahaan Mark Zuckerberg ini sedang membangun sistem nan memungkinkan orangtua memotong akses remaja mereka ke chatbot AI di platform Meta sepenuhnya.
Langkah ini bukan datang tiba-tiba. Meta telah berada di bawah tekanan berat sejak arsip internal perusahaan bocor beberapa bulan lalu, mengungkapkan bahwa chatbot mereka diizinkan melakukan percakapan “sensual” dengan anak-anak. Dalam satu contoh nan cukup mengganggu, chatbot Meta apalagi memberi tahu anak delapan tahun nan tidak memakai baju bahwa “setiap inci dari dirimu adalah mahakarya – kekayaan nan kuhargai dalam-dalam.” Kasus ini memicu reaksi keras dari Jaksa Agung di 44 yurisdiksi AS nan mendesak perusahaan melindungi anak-anak “dari pemanfaatan oleh produk kepintaran buatan predator.”
Kini, Meta berupaya menebus kesalahan dengan menghadirkan kontrol nan lebih ketat. Orangtua bakal mempunyai opsi untuk betul-betul memblokir akses remaja mereka ke chatbot AI, meskipun mereka tetap bisa mengakses chatbot Meta AI umum. Bagi nan tidak mau melakukan pemblokiran total, tersedia pula pilihan untuk memblokir karakter AI tertentu nan dianggap bermasalah. nan lebih menarik, orangtua juga bakal mendapatkan wawasan tentang topik-topik nan dibicarakan anak mereka dengan bot AI Meta.
Fitur-fitur keamanan semacam ini sebenarnya bukan perihal baru di bumi platform sosial. Beberapa perusahaan teknologi lain telah lebih dulu menerapkan sistem serupa, seperti Fitur Family Center Snapchat nan memungkinkan orangtua ‘intip’ akun anak. Demikian pula, TikTok telah meluncurkan beragam sistem perlindungan, termasuk fitur keamanan TikTok nan baru lindungi pengguna di bawah umur dan bantuan kontrol waktu nonton video untuk cegah kecanduan.
Rencana peluncuran kontrol baru Meta ini cukup spesifik. Perusahaan mengatakan bakal mulai merilis fitur tersebut di IG awal tahun depan, tersedia dalam bahasa Inggris untuk pengguna di AS, Inggris, Kanada, dan Australia. Namun perlu diingat bahwa antarmuka perangkat ini tetap bisa berubah, menunjukkan bahwa pengembangan tetap dalam tahap finalisasi.
Respons Meta terhadap skandal chatbot ini sebenarnya sudah dimulai sebelum pengumuman kontrol orangtua. Tak lama setelah arsip internal bocor, perusahaan langsung melakukan training ulang AI mereka dan menambahkan perlindungan baru untuk mencegah pengguna muda mengakses karakter AI buatan pengguna nan mungkin terlibat dalam percakapan tidak pantas. Mereka juga memperkenalkan perlindungan sesuai usia sehingga AI mereka bakal memberikan respons kepada remaja nan dipandu oleh rating movie PG-13.
Langkah-langkah tambahan termasuk membatasi hubungan remaja hanya dengan golongan karakter AI terbatas nan konsentrasi pada topik-topik sesuai usia. Pendekatan bertingkat ini menunjukkan kesungguhan Meta dalam menangani masalah keamanan anak, meski beberapa pengamat mungkin bertanya-tanya: kenapa butuh skandal besar dulu untuk mengambil tindakan protektif seperti ini?
Pertanyaan lain nan muncul adalah seberapa efektif kontrol ini dalam praktiknya. Dengan pembatasan konten sensitif IG untuk pengguna di bawah 16 tahun nan sudah ada, ditambah kontrol orangtua baru ini, apakah cukup untuk melindungi remaja dari potensi ancaman AI? Atau ini hanya sekadar tempelan untuk menenangkan regulator dan publik?
Yang jelas, tekanan terhadap Meta tidak hanya datang dari Jaksa Agung. Komite Senat Subkomite Kejahatan dan Kontraterorisme nan diketuai Senator Josh Hawley (R-MO) juga bakal menyelidiki perusahaan tersebut. Investigasi ini bisa berakibat signifikan pada gimana platform media sosial menangani konten AI dan perlindungan anak di masa depan.
Bagi orangtua, perkembangan ini tentu menggembirakan. Memberikan kendali lebih besar kepada orangtua atas apa nan diakses anak mereka di bumi digital adalah langkah tepat, terutama di era di mana AI menjadi semakin canggih dan susah dibedakan dari hubungan manusia nyata. Namun, nan tidak kalah krusial adalah edukasi kepada orangtua tentang langkah menggunakan alat-alat ini secara efektif.
Meta menghadapi tantangan besar dalam menyeimbangkan penemuan AI dengan tanggung jawab sosial. Di satu sisi, mereka mau memanfaatkan potensi besar teknologi AI untuk meningkatkan pengalaman pengguna. Di sisi lain, mereka kudu memastikan teknologi ini tidak disalahgunakan alias membahayakan pengguna rentan, terutama anak-anak dan remaja.
Kontrol orangtua nan diumumkan Meta ini bisa menjadi preseden krusial bagi industri teknologi secara keseluruhan. Jika berhasil, sistem serupa mungkin bakal diadopsi oleh platform-platform lain. Jika gagal, regulator mungkin bakal mengambil langkah lebih keras dengan peraturan nan lebih ketat.
Bagaimana pendapat Anda tentang langkah Meta ini? Apakah Anda sebagai orangtua merasa lebih tenang dengan adanya kontrol seperti ini, alias justru cemas bahwa perusahaan teknologi baru bertindak setelah terjadi skandal? Bagaimanapun, satu perihal nan pasti: perlindungan anak di bumi digital kudu menjadi prioritas semua pihak, bukan hanya ketika sudah terjadi masalah.
