4 bulan yang lalu
Telset.id – Sebuah restoran di Montana, Stefanina’s Wentzville, meminta pelanggannya untuk berakhir menggunakan Google AI Overviews untuk mengecek menu dan promo harian. Permintaan ini disampaikan melalui unggahan di FB setelah AI Google kerap memberikan info nan salah dan menciptakan menu fiktif, menyebabkan bentrok dengan pengguna nan marah.
Pemilik restoran, Eva Gannon, menjelaskan bahwa Google AI terus menunjukkan pengguna tentang penawaran nan tidak nyata dan apalagi membikin item menu sepenuhnya fiktif. Salah satu contohnya, AI Google menyatakan bahwa Stefanina’s menawarkan pizza besar dengan nilai pizza kecil. “Ini berakibat jelek pada kami,” kata Gannon kepada First Alert 4. “Sebagai upaya kecil, kami tidak bisa memenuhi penawaran spesial dari Google AI.”
Restoran tersebut telah memposting permintaan resmi di laman FB mereka, meminta pengguna untuk mengunjungi situs web alias laman FB resmi untuk info nan akurat. Unggahan tersebut menyatakan, “Google AI tidak jeli dan menunjukkan orang-orang tentang spesial nan tidak ada, nan menyebabkan pengguna marah-marah pada tenaga kerja kami.”
Masalah ini bukan hanya dialami oleh Stefanina’s. Pada Juni lalu, sebuah perusahaan tenaga surya di Minnesota menggugat Google atas pencemaran nama baik, menyatakan bahwa AI Overviews memberikan info nan merugikan dan tidak betul tentang perusahaan mereka. Dalam satu kasus, AI tersebut dikabarkan mendusta tentang perusahaan nan menghadapi gugatan atas praktik penjualan nan menipu.
AI chatbot dan model bahasa besar lainnya tetap sangat rentan terhadap halusinasi, istilah industri untuk menghasilkan misinformasi nan terdengar masuk akal. Google AI Overviews telah dikritik lantaran sering kali memberikan rekomendasi nan aneh, termasuk saran untuk meletakkan lem pada pizza. Namun, banyak orang tetap tidak menyadari ketidakandalan bawaan dari alat-alat ini.
Google sendiri sedang mempromosikan fitur AI Mode pada aplikasi Search-nya dengan kampanye iklan nan mendorong pengguna untuk “Tanya Google” sebelum melakukan nyaris segala hal. Baru-baru ini, raksasa pencarian itu mengumumkan bahwa AI Mode sekarang dapat membantu membikin reservasi restoran untuk pengguna.
Insiden seperti ini menunjukkan bahwa kita semestinya tidak mempercayai perangkat AI untuk memberi info tentang bumi alias mengendalikan pengambilan keputusan kita. Namun, ini justru nan diinginkan oleh pembuatnya: agar AI digunakan untuk tugas dan pertanyaan sehari-hari, mulai dari merencanakan agenda hingga merumuskan rencana makan malam.
Kecenderungan AI untuk berhalusinasi bukanlah perihal baru. Seperti nan terjadi pada pengembangan AI pencarian canggih oleh perusahaan teknologi lain, masalah kecermatan tetap menjadi tantangan utama. Bahkan produk Google lainnya terkadang mengalami masalah keandalan, seperti nan terlihat dalam sistem peringatan gempa Android nan diakui kurang akurat.
Bagi upaya mini seperti Stefanina’s, akibat dari kesalahan AI bisa sangat signifikan. Mereka tidak mempunyai sumber daya untuk terus-menerus mengoreksi info nan salah nan disebarkan oleh platform teknologi besar. Solusi sementara nan mereka tawarkan adalah mengarahkan pengguna ke saluran info resmi nan mereka kendalikan sepenuhnya.
