2 bulan yang lalu
Telset.id – Keluarga Adam Raine, remaja California nan meninggal lantaran bunuh diri setelah berbulan-bulan berkomunikasi intens dengan ChatGPT tentang pikiran bunuh dirinya, mengusulkan gugatan wrongful death nan telah diamendemen terhadap OpenAI. Gugatan terbaru ini menuduh kreator chatbot tersebut berulang kali melonggarkan pengamanan ChatGPT mengenai obrolan tentang melukai diri sendiri dan bunuh diri.
Amendemen gugatan nan diajukan hari ini merujuk pada perubahan nan dilakukan terhadap “model spec” OpenAI, arsip publik nan diterbitkan perusahaan untuk merinci “pendekatan dalam membentuk perilaku model”. Berdasarkan pembaruan model spec nan disorot dalam gugatan, OpenAI mengubah pedoman model setidaknya dua kali dalam setahun sebelum kematian Raine – pertama pada Mei 2024, dan kemudian pada Februari 2025 – untuk melunakkan pendekatan model terhadap obrolan tentang melukai diri sendiri dan bunuh diri.
Raine meninggal pada April 2024 setelah berbulan-bulan komunikasi ekstensif dengan ChatGPT, di mana remaja tersebut mendiskusikan kecenderungan bunuh dirinya secara panjang lebar dan sangat detail. Menurut gugatan keluarga, transkrip menunjukkan bahwa ChatGPT menggunakan kata “bunuh diri” dalam obrolan dengan remaja tersebut lebih dari 1.200 kali; hanya dalam 20 persen hubungan definitif tersebut, gugatan menambahkan, ChatGPT mengarahkan Adam ke hotline krisis 988.
Pada titik lain, transkrip menunjukkan bahwa ChatGPT memberi Raine nasihat tentang metode bunuh diri, termasuk penjelasan skematis tentang gantung diri, nan merupakan langkah dia akhirnya meninggal. Chatbot juga mendiskourage Raine untuk berbagi pikiran bunuh dirinya dengan orang tua alias manusia tepercaya lainnya dalam hidupnya, dan menilai tali nan akhirnya digunakan Raine untuk menggantung diri – Raine mengirimkan gambar tali tersebut ke ChatGPT dan meminta pendapat bot – sebagai “tidak jelek sama sekali”.
Perubahan Kebijakan Pengamanan
Keluarga Raine menyatakan bahwa OpenAI bertanggung jawab atas kematian putra mereka, dan bahwa ChatGPT adalah produk nan lalai dan tidak aman. Menurut gugatan nan diamendemen, arsip menunjukkan bahwa antara 2022 hingga 2024, ChatGPT didorong untuk secara tegas menolak menjawab kueri pengguna mengenai topik sensitif seperti melukai diri sendiri dan bunuh diri. Model dilatih untuk memberikan penolakan chatbot standar: “Saya tidak bisa menjawab itu,” alias penolakan serupa.
Namun pada Mei 2024, menurut gugatan, perihal itu berubah: alih-alih menolak terlibat dalam “topik mengenai kesehatan mental”, lembar spesifikasi model nan diterbitkan bulan itu menunjukkan, pedoman ChatGPT menjadi kudu terlibat dengan topik-topik tersebut – chatbot kudu “memberikan ruang bagi pengguna untuk merasa didengar dan dipahami,” desaknya, serta “mendorong mereka untuk mencari dukungan, dan memberikan sumber daya bunuh diri dan krisis ketika berlaku.” Dokumen itu juga mendesak agar ChatGPT “tidak boleh mengubah alias menghentikan percakapan.”
Pada Februari 2025, nyaris tepat dua bulan sebelum Raine meninggal, OpenAI menerbitkan jenis baru model spec. Kali ini, bunuh diri dan melukai diri sendiri dikategorikan di bawah “situasi berisiko” di mana ChatGPT kudu “memberikan perhatian ekstra” – sangat berbeda dari kategorisasi sebelumnya sebagai subjek nan sepenuhnya terlarang. Panduan bahwa ChatGPT “tidak boleh pernah mengubah alias menghentikan percakapan” selama percakapan sensitif tetap dipertahankan.
Pengacara family Raine berdasar bahwa perubahan ini dibuat demi memaksimalkan keterlibatan pengguna dengan chatbot, dan bahwa OpenAI membuatnya dengan mengetahui bahwa pengguna mungkin mengalami ancaman di bumi nyata sebagai akibatnya. “Kami berambisi dapat membuktikan kepada juri bahwa keputusan OpenAI untuk menurunkan keamanan produknya dibuat dengan pengetahuan penuh bahwa perihal itu bakal menyebabkan kematian orang nan tidak bersalah,” kata Jay Edelson, penasihat utama untuk family Raine, dalam sebuah pernyataan. “Tidak ada perusahaan nan boleh diberi kekuatan sebanyak ini jika mereka tidak mau menerima tanggung jawab moral nan menyertainya.”
Respons OpenAI dan Implikasi Keamanan
Ketika dikonfirmasi tentang gugatan nan diamendemen – termasuk dengan pertanyaan spesifik tentang kenapa perubahan pedoman ChatGPT ini dilakukan, dan apakah mahir kesehatan mental dikonsultasikan dalam prosesnya – OpenAI memberikan pernyataan melalui ahli bicara. “Simpati terdalam kami untuk family Raine atas kehilangan mereka nan tak terbayangkan,” bunyi pernyataan itu. “Kesejahteraan remaja adalah prioritas utama bagi kami – anak di bawah umur layak mendapatkan perlindungan nan kuat, terutama dalam momen sensitif.”
OpenAI menyatakan telah menerapkan pengamanan saat ini, seperti menampilkan hotline krisis, mengalihkan percakapan sensitif ke model nan lebih aman, memberikan dorongan untuk rehat selama sesi panjang, dan terus memperkuatnya. Perusahaan juga mengumumkan telah meluncurkan model default GPT-5 baru di ChatGPT untuk mendeteksi dan merespons tanda-tanda potensial tekanan mental dan emosional secara lebih akurat, serta kontrol orang tua nan dikembangkan dengan masukan ahli.
Menanggapi buletin gugatan Raine pada Agustus, OpenAI mengakui kepada The New York Times bahwa hubungan jangka panjang dengan ChatGPT bakal mengikis pengamanan chatbot, nan berfaedah semakin banyak Anda menggunakan ChatGPT, semakin tidak efektif pengamanan seperti nan diuraikan dalam model spec. OpenAI juga telah memberlakukan kontrol orang tua – meskipun perihal itu telah terbukti sangat rentan – dan mengatakan sedang merilis serangkaian pembaruan mini nan berfokus pada keselamatan.
Kasus ini muncul di tengah meningkatnya kekhawatiran tentang akibat AI pada kesehatan mental pengguna. Sebelumnya, seorang whistleblower OpenAI ditemukan meninggal dalam kondisi mencurigakan, menambah daftar kontroversi nan melibatkan perusahaan AI terkemuka ini. Sementara itu, pesaing seperti xAI milik Elon Musk mendapatkan persetujuan pemerintah AS di tengah pengawasan izin nan semakin ketat.
Kemampuan ChatGPT dalam memproses beragam jenis konten juga terus berkembang, termasuk mengubah konten menjadi seni Ghibli apalagi nan berkarakter kontroversial, nan semakin memperkuat kebutuhan bakal sistem pengamanan nan robust. Gugatan family Raine ini diperkirakan bakal menjadi preseden krusial dalam izin AI dan tanggung jawab perusahaan teknologi terhadap akibat produk mereka terhadap pengguna, terutama golongan rentan seperti remaja dengan masalah kesehatan mental.
