3 bulan yang lalu
Telset.id – Perusahaan konsultan finansial Deloitte terpaksa mengembalikan biaya sebesar 291.000 dolar AS (sekitar Rp 4,7 miliar) kepada pemerintah Australia setelah ketahuan menggunakan AI nan menghasilkan nomor dan quote tiruan dalam laporannya. Departemen Ketenagakerjaan dan Hubungan Industrial Australia (DEWR) mengonfirmasi bahwa Deloitte setuju bayar kembali sisa pembayaran terakhir dari perjanjian nan ditandatangani Desember lalu.
Deloitte ditugaskan melakukan tinjauan independen terhadap sistem otomatisasi hukuman dalam program kesejahteraan bagi pencari kerja nan tidak memenuhi tanggungjawab mutual. Namun, laporan nan semestinya menjadi “tinjauan agunan independen” justru memuat beragam kesalahan fatal, termasuk referensi kepada quote nan tidak pernah ada – karakter unik dari kesalahan AI nan dikenal sebagai hallucination.
Christopher Rudge, pengajar sosiologi Universitas Sydney nan pertama kali mengungkap masalah dalam laporan Deloitte, menyatakan perusahaan tersebut berupaya menutupi kesalahannya dengan membagikan jenis laporan nan telah diperbarui. “Alih-alih mengganti satu referensi tiruan dengan referensi baru nan nyata, mereka mengganti referensi tiruan tersebut dengan lima, enam, tujuh, alias delapan referensi baru,” ujarnya kepada The Guardian.
Upaya Penutupan Masalah nan Justru Memperparah
Rudge menambahkan bahwa tindakan Deloitte justru memperkuat dugaan bahwa klaim utama dalam laporan tidak didasarkan pada sumber bukti tertentu. “Apa nan terjadi menunjukkan bahwa klaim original nan dibuat dalam tubuh laporan tidak didasarkan pada satu sumber bukti tertentu mana pun,” tegasnya.
Meski tertangkap basah menggunakan AI untuk menghasilkan quote palsu, Deloitte bersikeras bahwa substansi utama pedoman mereka tidak berubah. Dalam catatan kaki jenis revisi, perusahaan mengakui stafnya menggunakan GPT-4o dari OpenAI untuk menyusun laporan tersebut.
“Deloitte melakukan tinjauan agunan independen dan telah mengonfirmasi beberapa catatan kaki dan referensi tidak benar,” ujar ahli bicara Deloitte kepada The Guardian. “Substansi tinjauan independen dipertahankan, dan tidak ada perubahan pada rekomendasinya.”
Reaksi Keras dari Parlemen Australia
Insiden ini memicu kemarahan para personil parlemen Australia nan menuntut pengawasan lebih ketat terhadap perusahaan konsultan. Senator Deborah O’Neill dari Partai Buruh menyatakan Deloitte mempunyai “masalah kepintaran manusia.”
“Ini bakal menjadi kocak jika tidak begitu menyedihkan,” ujar O’Neill kepada Australian Financial Review. “Terlalu sering, seperti nan ditunjukkan penyelidikan parlemen kami, perusahaan konsultan ini memenangkan perjanjian dengan menjanjikan skill mereka, dan ketika kesepakatan ditandatangani, mereka memberikan staf apa pun nan paling murah bagi mereka.”
O’Neill menambahkan bahwa siapa pun nan mau mengontrak perusahaan-perusahaan ini kudu memastikan tepatnya siapa nan melakukan pekerjaan nan mereka bayar, dan memverifikasi skill serta tidak adanya penggunaan AI. “Kalau tidak, mungkin alih-alih perusahaan konsultan besar, pengguna jasa bakal lebih baik berlangganan ChatGPT,” sindirnya.
Senator Penny Allman-Payne dari Partai Hijau juga menyoroti ironi situasi ini. “Laporan ini semestinya membantu mengungkap kegagalan dalam sistem kesejahteraan kami dan memastikan perlakuan nan setara bagi penerima support pendapatan, tetapi malah Partai Buruh membiarkan Deloitte membodohi mereka,” katanya.
Kasus Deloitte ini bukan nan pertama kalinya AI menyebabkan masalah dalam bumi kerja. Sebelumnya, pengacara pernah ketahuan mengutip kasus nan tidak ada, dan Pusat Pengendalian Penyakit di era Trump merujuk pada studi nan dikarang oleh AI awal tahun ini.
Financial Times melaporkan bahwa Deloitte dan perusahaan konsultan lainnya telah mengucurkan miliaran dolar untuk mengembangkan perangkat AI nan mereka klaim dapat mempercepat proses audit. Namun, hari ini juga surat berita tersebut mencatat bahwa enam firma akuntansi terbesar Inggris belum secara umum memantau gimana AI mempengaruhi kualitas audit mereka.
Fenomena ini mengkhawatirkan mengingat besarnya investasi dalam proyek-proyek teknologi nan melibatkan biaya publik. Seperti dalam proyek satelit nan memerlukan kalkulasi matang, penggunaan AI dalam kajian kebijakan publik memerlukan verifikasi ketat untuk menghindari kesalahan nan berpotensi merugikan masyarakat.
Insiden Deloitte ini menyoroti perlunya transparansi dan akuntabilitas dalam penggunaan teknologi AI, terutama ketika menyangkut urusan publik dan pengelolaan biaya negara. Para mahir menekankan bahwa meskipun AI dapat mempercepat proses, verifikasi manusia tetap menjadi komponen kritis nan tidak bisa diabaikan.
