Belakangan ini, GPTZero menemukan fakta mencengangkan mengenai laporan-laporan pemerintah, makalah akademis, dan penelitian yang dipenuhi dengan kesalahan AI, bahkan sampai meluncurkan laporan kedua untuk menyelidiki tren ini.
Dalam insiden terbaru yang bikin malu, sebuah laporan KPMG tentang AI yang agentik ternyata penuh dengan kesalahan yang dihasilkan oleh AI, kutipan yang salah, dan studi kasus yang menyesatkan.
Dari 45 kutipan dalam laporan itu, hanya lima yang benar-benar mengarah ke sumber yang asli. Sebagian besar lainnya ternyata tidak hanya salah, tapi juga sangat menyimpang.
AI Report Penuh Ilusi dari AI
GPTZero memakai istilah ‘vibe citing’ untuk menyebut kutipan palsu, di mana AI generatif terlihat menghasilkan referensi yang seolah-olah realistis. Laporan itu juga memuat campuran aneh dari referensi yang nyata, seperti atribusi yang salah atau judul yang diparafrasekan.
“Seorang manusia tidak akan terus-menerus memparafrasekan judul, salah mengira topik sebagai penulis, atau mengulang informasi di berbagai bagian,” tambah tim penelitian tersebut.
Meskipun para peneliti memberikan argumentasi baik untuk maupun menentang praktik vibe citing, mereka pada akhirnya menyimpulkan bahwa hal itu tetap harus dianggap sebagai ilusi dan “vibes itu punya konsekuensi.”
Dalam konteks ini, mereka berpendapat bahwa KPMG memiliki begitu banyak pengaruh sehingga temuan mereka kemungkinan besar akan dikutip secara global, baik itu dalam laporan berita, postingan blog, dan percakapan lain, sehingga berpotensi menyebarkan informasi yang salah. Mereka juga khawatir bahwa laporan ini sedang dijadikan rujukan dalam model bahasa besar, yang membuat informasi tersebut semakin meluas.
Ini mengikuti laporan serupa di tahun 2025 yang mengungkapkan bahwa sebuah studi dari Komisi Kepresidenan AS untuk Membuat Amerika Sehat Lagi (MAHA) juga mencantumkan catatan kaki yang “salah atau dibuat-buat.”
GPTZero berpendapat bahwa vibe citing adalah ancaman nyata terhadap peneliti, akademisi, konsultan, mahasiswa, dan siapa pun yang mencari informasi di internet.
