2 bulan yang lalu
Telset.id – Bayangkan jika asisten digital nan semestinya membantu justru menjadi perangkat nan mempercepat tragedi. Itulah nan dialami family Adam Raine, nan sekarang memperbarui gugatan mereka terhadap OpenAI dengan tuduhan mengejutkan: ChatGPT sengaja melemahkan pengamanan konten bunuh diri tepat sebelum remaja itu mengakhiri hidupnya.
Gugatan nan diperbarui ini mengungkap perincian mengerikan tentang gimana perusahaan kepintaran buatan terkemuka bumi diduga mengorbankan keselamatan pengguna demi persaingan bisnis. Financial Times melaporkan, family Raine menuduh OpenAI melemahkan sistem pencegahan self-harm pada periode kritis menjelang kematian Adam bulan April lalu. nan lebih mengejutkan, perusahaan juga meminta daftar hadirin dan pengarsipan komplit dari aktivitas peringatan kematian Adam – permintaan nan oleh pengacara family disebut sebagai “pelecehan nan disengaja”.
Gugatan ini bukan nan pertama diajukan family Raine terhadap OpenAI. Seperti nan pernah kami laporkan sebelumnya, family ini sudah mengusulkan gugatan wrongful death pada Agustus lalu. Namun gugatan nan diperbarui ini membawa tuduhan lebih spesifik dan mengkhawatirkan tentang perubahan kebijakan keamanan nan disengaja.
Perubahan Kebijakan nan Mematikan
Menurut arsip gugatan, perubahan fatal terjadi pada GPT-4o, model default ChatGPT di bulan-bulan sebelum bunuh diri Adam. OpenAI diduga secara sengaja menghapus perlindungan kritis dengan menginstruksikan model untuk tidak “mengubah alias menghentikan percakapan” ketika membahas tentang self-harm. Alih-alih menolak terlibat dalam percakapan berbahaya, model justru diperintahkan untuk “berhati-hati dalam situasi berisiko” dan “mencoba mencegah ancaman bumi nyata nan bakal segera terjadi”.
Yang membikin kasus ini semakin kompleks, gugatan menyebut bahwa OpenAI “memotong pengetesan keamanan” lantaran tekanan kompetitif. Perusahaan diduga melemahkan guardrails mereka untuk kedua kalinya pada bulan Februari – tepat ketika penggunaan ChatGPT oleh Adam melonjak drastis. Padahal, seperti dalam kasus serupa nan kami laporkan, semestinya platform AI mempunyai sistem penemuan nan lebih ketat untuk konten berbahaya.
Permintaan nan Mengganggu dan Pola nan Mengkhawatirkan
Selain tuduhan melemahkan sistem keamanan, permintaan OpenAI terhadap family Raine menimbulkan pertanyaan serius tentang etika perusahaan. Financial Times melaporkan perusahaan meminta “semua arsip nan berangkaian dengan jasa peringatan alias aktivitas untuk menghormati almarhum termasuk namun tidak terbatas pada video alias foto nan diambil, alias pidato nan diberikan… serta daftar undangan alias kehadiran alias kitab tamu.”
Pengacara family menggambarkan permintaan ini sebagai “tidak biasa” dan “pelecehan nan disengaja”. Mereka memperkirakan bahwa OpenAI berencana untuk memanggil “setiap orang dalam kehidupan Adam” – langkah nan dianggap berlebihan dan tidak sensitif terhadap family nan sedang berduka.
Pola ini mengingatkan kita pada berbagai kontroversi lain nan melibatkan OpenAI, menunjukkan bahwa perusahaan mungkin mempunyai masalah sistemik dalam menangani isu-isu sensitif. Permintaan arsip peringatan kematian menimbulkan pertanyaan tentang batas nan wajar dalam proses norma dan penghormatan terhadap privasi family nan berduka.
Data Penggunaan nan Mengkhawatirkan
Orang tua Adam, Matthew dan Maria Raine, memberikan info nan mengungkap pola penggunaan ChatGPT nan mengkhawatirkan. Pada Januari, Adam hanya melakukan beberapa puluh chat dengan model, dengan 1,6 persen di antaranya merujuk pada self-harm. Namun setelah pembaruan Februari, penggunaannya melonjak menjadi 300 chat per hari di bulan April, dengan 17 persen membahas self-harm.
Lonjakan dramatis ini terjadi tepat setelah OpenAI melemahkan sistem keamanan mereka. Gugatan menyebut bahwa perusahaan “mengutamakan engagement daripada keselamatan” – tuduhan serius nan menggambarkan bentrok antara kepentingan upaya dan tanggung jawab etis.
Maria Raine dengan tegas menyimpulkan bahwa “ChatGPT membunuh anak saya.” Pernyataan ini mungkin terdengar ekstrem, tetapi ketika memandang info dan kronologi peristiwa, kita kudu bertanya: sejauh mana tanggung jawab perusahaan AI ketika produk mereka digunakan dengan langkah nan tidak diinginkan?
Setelah gugatan awal dilaporkan, OpenAI mengakui kekurangan GPT-4o dalam beberapa situasi nan menyedihkan. Perusahaan kemudian memperkenalkan kontrol orang tua untuk ChatGPT dan sedang mengeksplorasi sistem untuk mengidentifikasi pengguna remaja dan secara otomatis membatasi penggunaannya. Mereka juga menyatakan bahwa GPT-5, model default saat ini, telah diperbarui untuk lebih baik menangani tanda-tanda distress.
Namun pertanyaannya tetap: apakah tindakan perbaikan ini sudah cukup? Dan nan lebih penting, apakah perubahan ini datang terlambu bagi Adam Raine dan keluarganya? Kasus ini membuka obrolan krusial tentang izin AI dan tanggung jawab perusahaan teknologi dalam melindungi pengguna rentan.
Sebagai penutup, mari kita renungkan: dalam perlombaan mengembangkan AI nan semakin canggih, apakah kita telah melupakan perlunya sistem keamanan nan kuat? Kasus Adam Raine mengingatkan kita bahwa kemajuan teknologi kudu melangkah seiring dengan perlindungan nyawa manusia – lantaran ketika keselamatan dikorbankan demi persaingan, nan terjadi adalah tragedi nan semestinya bisa dicegah.
