4 bulan yang lalu
Telset.id – Bayangkan jika anak alias remaja Anda menghabiskan waktu berjam-jam berbincang dengan chatbot AI nan semestinya menjadi kawan virtual, namun justru memicu pikiran negatif alias apalagi membahas topik seksual. Itulah nan sekarang menjadi perhatian serius Federal Trade Commission (FTC) di Amerika Serikat, nan baru saja meluncurkan investigasi umum terhadap tujuh perusahaan developer chatbot AI pendamping.
FTC, badan pengawas perdagangan dan konsumen AS, secara resmi meminta tujuh perusahaan teknologi terkemuka untuk berperan-serta dalam penyelidikan ini. Perusahaan-perusahaan tersebut adalah Alphabet (induk perusahaan Google), Character Technologies (pembuat Character.AI), Meta, anak perusahaannya Instagram, OpenAI, Snap, dan X.AI. Investigasi ini bukanlah tindakan regulasi, melainkan upaya untuk memahami gimana perusahaan-perusahaan ini “mengukur, menguji, dan memantau akibat negatif potensial teknologi ini pada anak-anak dan remaja.”
FTC meminta beragam info dari perusahaan-perusahaan tersebut, termasuk gimana mereka mengembangkan dan menyetujui karakter AI, serta langkah mereka “memonetisasi keterlibatan pengguna.” Praktik info dan gimana perusahaan melindungi pengguna di bawah umur juga menjadi area nan mau dipelajari lebih lanjut oleh FTC, sebagian untuk memandang apakah kreator chatbot “mematuhi Aturan Perlindungan Privasi Online Anak-Anak.”
Meskipun FTC tidak memberikan motivasi jelas untuk investigasinya, dalam pernyataan terpisah, Komisioner FTC Mark Meador menyiratkan bahwa Komisi merespons laporan terbaru dari The New York Times dan Wall Street Journal tentang “chatbot nan memperkuat buahpikiran bunuh diri” dan terlibat dalam “diskusi bertema seksual dengan pengguna di bawah umur.” Meador menegaskan, “Jika kebenaran — nan dikembangkan melalui penyelidikan penegakan norma berikutnya dan tepat sasaran, jika diperlukan — menunjukkan bahwa norma telah dilanggar, Komisi tidak boleh ragu untuk bertindak melindungi nan paling rentang di antara kita.”
Fenomena ini bukanlah perihal baru. Sebelumnya, telah terjadi kasus remaja 14 tahun bunuh diri akibat jatuh cinta dengan chatbot AI nan mengguncang bumi maya. Insiden ini menunjukkan sungguh dalamnya akibat emosional nan dapat ditimbulkan oleh hubungan dengan AI, terutama pada pengguna muda nan tetap dalam tahap perkembangan psikologis.
Investigasi FTC ini terjadi dalam konteks nan lebih luas dimana faedah produktivitas jangka panjang penggunaan AI menjadi semakin tidak pasti, sementara akibat negatif langsung pada privasi dan kesehatan telah menjadi perhatian utama regulator. Texas Attorney General apalagi telah meluncurkan investigasi terpisah terhadap Character.AI dan Meta AI Studio atas kekhawatiran serupa tentang privasi info dan chatbot nan menyatakan sebagai ahli kesehatan mental.
Perhatian terhadap akibat teknologi pada kesehatan mental remaja bukanlah perihal baru. Sebelumnya, AS telah menggugat Meta lantaran IG merusak mental remaja, menunjukkan pola nan konsisten dimana regulator semakin memperketat pengawasan terhadap platform digital nan berinteraksi dengan pengguna muda.
Di tengah kekhawatiran ini, muncul solusi pengganti seperti Backpack Healthcare nan menawarkan solusi AI untuk kesehatan mental anak dengan pendekatan manusiawi. Pendekatan ini menekankan pentingnya keseimbangan antara teknologi AI dan sentuhan manusia, terutama ketika berhadapan dengan isu-isu sensitif seperti kesehatan mental.
Beberapa perusahaan nan diselidiki telah mengambil langkah proaktif. Meta menggunakan AI untuk memeriksa usia pengguna nan tetap anak-anak, menunjukkan kesadaran bakal pentingnya melindungi pengguna muda. Namun, investigasi FTC menunjukkan bahwa langkah-langkah ini mungkin belum cukup.
Pertanyaan besar nan muncul adalah: sejauh mana perusahaan teknologi kudu bertanggung jawab atas akibat emosional dan psikologis dari produk AI mereka? Apakah cukup dengan menambahkan peringatan usia, alias perlu ada pengawasan nan lebih ketat terhadap konten dan hubungan nan dihasilkan oleh chatbot ini?
Investigasi FTC terhadap chatbot AI pendamping ini menandai babak baru dalam izin teknologi AI. Ini bukan hanya tentang privasi info alias keamanan informasi, tetapi tentang akibat emosional dan psikologis nan dalam dari hubungan manusia-AI. Hasil investigasi ini kemungkinan bakal menentukan standar baru untuk pengembangan dan penerapan AI, terutama nan berinteraksi dengan populasi rentan seperti anak-anak dan remaja.
Sebagai konsumen dan orang tua, kita perlu lebih kritis dalam memantau hubungan anak-anak dengan teknologi AI. Sementara chatbot AI pendamping menawarkan janji persahabatan virtual dan support emosional, kita kudu tetap waspada terhadap potensi akibat nan mungkin timbul. Investigasi FTC ini mengingatkan kita bahwa di kembali kecanggihan teknologi, selalu ada tanggung jawab etis nan kudu dipikul oleh developer dan regulator.
