Ai Deteksi Kesuksesan Finansial Dari Wajah, Risiko Diskriminasi Mengintai

Sedang Trending 2 bulan yang lalu

Telset.id – Sebuah penelitian terbaru dari University of Pennsylvania mengungkap bahwa kepintaran buatan (AI) dapat memprediksi karakter krusial seseorang, termasuk potensi kesuksesan finansial, hanya dengan menganalisis fitur wajah mereka. Studi nan dipublikasikan melalui The Economist ini menggunakan sistem AI nan dilatih untuk mengekstrak lima sifat kepribadian dari foto 96.000 lulusan MBA LinkedIn.

Tim peneliti UPenn mengembangkan sistem AI nan bisa mengidentifikasi lima sifat kepribadian utama – keterbukaan, kesadaran, ekstraversi, keramahan, dan neurotisisme – dari foto profil profesional. Mereka kemudian membandingkan hasil kajian wajah tersebut dengan perkembangan karir aktual para personil LinkedIn, menyatakan menemukan hubungan antara karakter wajah dan kesuksesan di pasar tenaga kerja.

Menurut temuan penelitian, ekstraversi muncul sebagai “prediktor positif terkuat” untuk tingkat kompensasi, sementara sifat keterbukaan justru dikaitkan dengan kemungkinan penghasilan nan lebih rendah. Implikasi penelitian ini menunjukkan bahwa teknik machine learning dapat menemukan hubungan antara karakter wajah dan kesuksesan di bumi nyata.

Risiko Etika dan Potensi Diskriminasi

Meski menarik secara akademis, penelitian ini membuka kotak Pandora etika nan mengkhawatirkan. Bayangkan algoritma nan menentukan apakah seseorang mendapatkan pekerjaan, persetujuan pinjaman bank, alias sewa mobil hanya berasas kajian wajah mereka. Dalam bumi nan mengutamakan kesuksesan finansial di atas segalanya, perusahaan-perusahaan mempunyai “insentif kuat” untuk menerapkan teknologi semacam ini.

Risiko diskriminasi terhadap karakter nan dilindungi undang-undang menjadi ancaman serius. Padahal, seperti nan terjadi dalam kasus AI Salah Deteksi, Kantong Keripik Disangka Senjata di Sekolah Baltimore, teknologi pengenalan wajah sudah terbukti rentan terhadap kesalahan identifikasi.

Implementasi di Dunia Nyata Sudah Dimulai

Teknologi serupa sebenarnya sudah mulai diimplementasikan di beragam bagian dunia, meski dengan hasil nan beragam. Di Amerika Serikat, beberapa negara bagian menggunakan perangkat lunak AI untuk verifikasi SIM pengemudi, nan rupanya berakibat jelek bagi orang-orang dengan perbedaan wajah.

Sementara itu, Kepolisian Metropolitan Inggris baru-baru ini mengumumkan keberhasilan sistem penemuan wajah AI mereka dengan jumlah penangkapan rekor, meski dengan tingkat positif tiruan 0,5 persen – nomor nan sebenarnya cukup mengkhawatirkan jika dilihat dari skala implementasinya.

Perkembangan teknologi penemuan wajah ini juga mendorong platform seperti YouTube meluncurkan fitur penemuan wajah untuk melawan deepfake AI, menunjukkan gimana teknologi nan sama dapat digunakan untuk tujuan nan berbeda.

Para peneliti UPenn dalam publikasinya memperingatkan bahwa “adopsi luas teknologi pengenalan wajah di masa depan dapat memotivasi perseorangan untuk memodifikasi gambar wajah mereka menggunakan perangkat lunak alias apalagi mengubah penampilan original mereka melalui prosedur kosmetik.”

Perkembangan ini terjadi dalam konteks YouTube meluncurkan fitur AI untuk melindungi pembuat dari deepfake, nan menunjukkan sungguh cepatnya teknologi pengenalan wajah dan AI berkembang dalam beragam aspek kehidupan.

Meski tetap terlalu awal untuk memprediksi apakah perusahaan teknologi bakal mengangkat penelitian UPenn ini ke bumi nyata, tren nan ada menunjukkan bahwa startup-startup baru terus bermunculan dengan teknologi serupa. Perlombaan pengembangan AI, seperti nan diungkapkan Jensen Huang tentang China nan nyaris menyalip AS, semakin memacu penemuan di bagian ini tanpa selalu diiringi pertimbangan etika nan memadai.

Penelitian University of Pennsylvania ini membuka obrolan krusial tentang batas etika dalam penerapan teknologi AI, terutama ketika menyangkut penilaian manusia berasas karakter bentuk nan tidak dapat mereka ubah dengan mudah.

Selengkapnya