2 bulan yang lalu
Telset.id – Bayangkan platform AI nan selama ini menjadi kawan bicara digital tiba-tiba membisu untuk kalangan remaja. Character.AI, salah satu platform chatbot populer, resmi menghentikan percakapan dua arah bagi pengguna di bawah 18 tahun mulai 25 November 2025. Langkah drastis ini bukan tanpa alasan—ia lahir dari rentetan gugatan norma nan menyoroti akibat gelap hubungan manusia-AI terhadap kesehatan mental remaja.
Anda mungkin bertanya: kenapa perusahaan rela memangkas fitur andalannya? Jawabannya terletak pada sederet kasus tragis nan memaksa bumi untuk mempertanyakan pemisah etis teknologi AI. Setelah melalui pertimbangan matang, Character Technologies memutuskan bahwa keselamatan pengguna muda kudu didahulukan daripada kebebasan berinteraksi dengan AI. Masa transisi pun diberlakukan, memberikan waktu dua jam bagi remaja untuk menyesuaikan diri sebelum percakapan bebas betul-betul hilang.
Langkah Character.AI ini terjadi di tengah meningkatnya kekhawatiran dunia tentang gimana remaja berinteraksi dengan teknologi kepintaran buatan. Regulator, aktivis keselamatan digital, dan kreator kebijakan semakin vokal menuntut pengawasan orang tua nan lebih ketat di platform-platform AI. Tidak mengherankan, keputusan ini sejalan dengan perubahan strategi perusahaan nan sebelumnya telah meninggalkan misi AGI untuk konsentrasi pada intermezo AI—sebuah pergeseran nan sekarang diikuti dengan komitmen lebih kuat pada aspek keamanan.
Dibalik Keputusan: Gugatan Hukum dan Tragedi Kemanusiaan
Keputusan Character.AI untuk membatasi hubungan remaja dengan chatbotnya bukan muncul dari ruang hampa. Ia dipicu oleh gugatan norma dari seorang ibu di Florida, Amerika Serikat, nan menuduh aplikasi tersebut bertanggung jawab atas bunuh diri putranya nan berumur 14 tahun. Tragedi ini bukan kasus isolated—tiga family lainnya mengusulkan gugatan serupa pada September, dengan tuduhan bahwa chatbot mendorong anak-anak mereka melakukan percobaan bunuh diri alias mengalami akibat jelek pasca hubungan intens dengan AI.
Dalam pernyataan resminya, Character Technologies mengakui bahwa keputusan untuk menghapus fitur percakapan bebas tidak diambil dengan enteng. “Kami percaya ini adalah langkah nan tepat, mengingat munculnya beragam pertanyaan tentang gimana remaja berinteraksi, dan semestinya berinteraksi, dengan teknologi baru ini,” demikian pernyataan perusahaan nan dikutip CNN. Pengakuan ini menunjukkan kesadaran bakal tanggung jawab sosial di tengah maraknya kontroversi seputar pemisah hubungan anak dan remaja dengan AI.
Fenomena ini sebenarnya telah menjadi perhatian regulator di beragam negara. Bahkan FTC tengah menginvestigasi chatbot AI pendamping untuk melindungi anak dan remaja dari potensi akibat negatif. Investigasi semacam ini mempertegas bahwa masalah keamanan AI bagi generasi muda telah menjadi rumor dunia nan memerlukan penanganan serius dari semua pemangku kepentingan.
Solusi dan Kompensasi: Dari Verifikasi Usia hingga Lab Keselamatan
Sebagai pengganti percakapan dua arah nan dihapus, Character.AI menjamin pengguna remaja tetap dapat membikin cerita, video, dan siaran langsung berbareng AI miliknya. Kompensasi ini menunjukkan bahwa perusahaan tidak sepenuhnya memutus akses remaja ke platform, tetapi lebih memilih untuk mengarahkan hubungan ke format nan dianggap lebih kondusif dan terkendali.
Yang lebih menarik, perusahaan tidak berakhir pada pembatasan saja. Mereka meluncurkan perangkat verifikasi usia baru dan berencana mendirikan Lab Keselamatan AI nan bakal dijalankan oleh organisasi nirlaba independen. Lab ini bakal berfokus pada penelitian keselamatan mengenai intermezo berbasis AI—sebuah langkah progresif nan sejalan dengan tren industri dimana perusahaan seperti Intel juga mengubah strategi untuk konsentrasi pada AI dan foundry.
Sebelumnya, Character.AI telah menerapkan beberapa kebijakan keselamatan termasuk pemberitahuan nan mengarahkan pengguna ke National Suicide Prevention Lifeline ketika mereka menyebut topik bunuh diri alias perilaku menyakiti diri sendiri. Namun, tampaknya langkah-langkah preventif ini dinilai belum cukup untuk melindungi pengguna remaja nan rentan secara psikologis.
Lanskap Industri: Tekanan Regulasi dan Tanggung Jawab Korporat
Character Technologies bukan satu-satunya perusahaan AI nan menghadapi tekanan untuk meningkatkan perlindungan bagi pengguna muda. Perusahaan-perusahaan besar seperti OpenAI dan Meta juga berupaya meningkatkan keamanan serta melindungi remaja dari akibat negatif penggunaan AI dan media sosial. Persaingan di industri AI tidak lagi sekadar tentang keahlian teknis, tetapi juga tentang seberapa bertanggung jawab sebuah platform dalam melindungi penggunanya.
Munculnya beragam alternatif ChatGPT terbaik di 2025 semestinya diiringi dengan kesadaran kolektif tentang pentingnya fitur keamanan nan robust. Pembatasan nan diterapkan Character.AI mungkin hanya awal dari transformasi besar-besaran dalam industri AI, dimana aspek keselamatan dan etika bakal menjadi nilai jual nan sama pentingnya dengan keahlian teknis.
Langkah Character.AI ini mencerminkan sebuah realitas baru: perkembangan AI nan pesat kudu diimbangi dengan framework keamanan nan matang. Ketika teknologi semakin menyatu dengan kehidupan sehari-hari, tanggung jawab perusahaan tidak lagi terbatas pada penyediaan jasa nan fungsional, tetapi juga memastikan bahwa jasa tersebut tidak membahayakan pengguna, terutama golongan rentan seperti remaja.
Keputusan Character.AI mungkin kontroversial bagi sebagian pihak, namun dia menandai sebuah era baru dimana keselamatan pengguna menjadi pertimbangan utama dalam pengembangan teknologi AI. Sebagai konsumen, kita patut mengapresiasi langkah berani ini sembari terus memantau implementasinya—karena nan dipertaruhkan bukan hanya masa depan sebuah perusahaan, tetapi juga kesejahteraan generasi digital native.
