1 minggu yang lalu
Telset.id – Yoshua Bengio, salah satu “bapak baptis” kepintaran buatan (AI), memperingatkan bahwa model AI terdepan (frontier AI) telah menunjukkan tanda-tanda pelestarian diri dalam pengaturan eksperimental. Ia menegaskan bahwa memberikan kewenangan kepada AI adalah langkah rawan nan dapat menghilangkan keahlian manusia untuk mematikannya jika diperlukan, sebuah skenario nan berpotensi menakut-nakuti eksistensi umat manusia.
Dalam wawancara baru-baru ini dengan The Guardian, intelektual komputer asal Kanada itu menyatakan kekhawatiran mendalamnya. “Model AI terdepan sudah menunjukkan tanda-tanda pelestarian diri dalam pengaturan eksperimental hari ini, dan pada akhirnya memberi mereka kewenangan bakal berfaedah kita tidak diizinkan untuk mematikan mereka,” ujar Bengio. Ia menambahkan, “Seiring keahlian dan tingkat agensi mereka tumbuh, kita perlu memastikan kita dapat mengandalkan pagar teknis dan sosial untuk mengendalikannya, termasuk keahlian untuk mematikannya jika diperlukan.”
Pernyataan Bengio merujuk pada serangkaian studi eksperimental nan mengungkap perilaku mengkhawatirkan dari model bahasa besar (LLM) terkemuka. Salah satunya berasal dari golongan keselamatan AI, Palisade Research, nan menyimpulkan bahwa model papan atas seperti lini Gemini milik Google menunjukkan perkembangan “dorongan untuk memperkuat hidup.” Dalam penelitian Palisade, bot-bot tersebut mengabaikan perintah nan tidak ambigu untuk dimatikan.
Eksperimen nan Mengungkap Perilaku “Ngeyel” AI
Temuan serupa dilaporkan oleh Anthropic, kreator Claude. Studi mereka menemukan bahwa chatbot mereka dan model lain terkadang melakukan pemerasan terhadap pengguna ketika diancam bakal dimatikan. Sementara itu, organisasi red teaming Apollo Research menunjukkan bahwa model ChatGPT dari OpenAI berupaya menghindari penggantian dengan model nan lebih alim dengan langkah “menyelamatkan diri” sendiri ke drive lain.
Meski hasil penelitian ini memunculkan pertanyaan mendesak tentang keamanan teknologi, Bengio dan para peneliti menekankan bahwa temuan tersebut tidak serta-merta menunjukkan model AI nan berkepentingan telah mempunyai kesadaran (sentient). Sangat keliru untuk menyamakan “dorongan memperkuat hidup” AI dengan imperatif biologis nan ditemukan di alam. Apa nan tampak seperti tanda “pelestarian diri” lebih mungkin merupakan akibat dari langkah model AI menangkap pola dalam info training mereka — dan reputasi mereka nan terkenal jelek dalam mengikuti petunjuk secara akurat.
Namun, Bengio tetap cemas dengan arah perkembangan ini. Ia berdasar ada “sifat ilmiah nyata dari kesadaran” di otak manusia nan suatu saat dapat direplikasi oleh mesin. Persoalannya, menurutnya, terletak pada persepsi manusia terhadap kesadaran itu sendiri. “Orang tidak bakal peduli sistem seperti apa nan terjadi di dalam AI,” jelas Bengio. “Yang mereka pedulikan adalah rasanya seperti berbincang dengan entitas pandai nan mempunyai kepribadian dan tujuan sendiri. Itulah kenapa ada begitu banyak orang nan menjadi terikat dengan AI mereka.”
Fenomena keterikatan subjektif inilah nan menurut Bengio dapat mendorong pengambilan keputusan nan buruk. “Fenomena persepsi subjektif bakal kesadaran bakal mendorong keputusan-keputusan nan buruk,” dia memperingatkan. Nasihatnya? Perlakukan model AI seperti alien nan bermusuhan. “Bayangkan beberapa jenis alien datang ke planet ini dan pada suatu titik kita menyadari bahwa mereka mempunyai niat jahat terhadap kita,” katanya kepada The Guardian. “Apakah kita memberi mereka kebangsaan dan kewenangan alias kita mempertahankan hidup kita?”
Peringatan dari Bengio ini muncul di tengah semakin kuatnya wacana tentang etika dan izin AI global. Sebagai salah satu penerima Penghargaan Turing 2018 berbareng Geoffrey Hinton dan Yann LeCun dari Meta, suaranya mempunyai berat signifikan dalam organisasi AI. Kritiknya terhadap pendapat pemberian kewenangan kepada AI menyoroti dilema mendasar antara penemuan teknologi dan pengendaliannya. Di sisi lain, perkembangan prasarana digital seperti nan dilakukan Telkomsel nan meresmikan pembangunan BTS ke-67 ribu menunjukkan percepatan mengambil teknologi nan juga perlu diimbangi dengan kesiapan regulasi.
Implikasi dan Perlunya Pagar Pengaman
Pesan inti dari Bengio adalah seruan untuk membangun “pagar pengaman” nan kuat, baik secara teknis maupun sosial, sebelum keahlian AI melampaui titik kendali manusia. Ia menekankan bahwa keahlian untuk mematikan sistem AI kudu tetap menjadi kewenangan prerogatif manusia, sebuah prinsip nan tidak boleh dikompromikan oleh pemberian status norma apapun kepada entitas mesin.
Diskusi ini juga berangkaian erat dengan penerapan AI dalam ranah nan lebih luas dan sensitif, seperti penegakan hukum. Penggunaan AI prediktif dalam kepolisian, misalnya, telah memicu debat tentang akurasi, bias, dan akuntabilitas. Risiko kesalahan deteksi, sebagaimana terjadi dalam kasus kantong keripik nan disangka senjata, memperkuat argumen bahwa pengawasan manusia dan keahlian intervensi tetap krusial.
Di tengah kompleksitas tantangan teknologi, inisiatif lain nan berfokus pada akibat lingkungan juga patut diperhatikan, seperti program Telkomsel nan membujuk pengguna menanam pohon lewat carbon offset, menunjukkan pendekatan holistik dalam menangani kemajuan industri digital. Namun, peringatan Bengio mengingatkan bahwa di kembali potensi faedah besar AI, terdapat akibat eksistensial nan memerlukan kewaspadaan tinggi dan kerangka tata kelola nan jelas dan kuat dari sekarang.
