Hanya 14% Konsumen Inggris Percaya pada AI Otonom
Menurut temuan baru dari EY, tiga dari empat (74%) konsumen di Inggris telah menggunakan AI dalam enam bulan terakhir. Ini menunjukkan bahwa penggunaan AI sudah menjadi hal umum. Namun, hanya 14% yang merasa nyaman mengandalkan kecerdasan buatan yang sepenuhnya otonom.
Angka kepercayaan yang rendah ini menunjukkan adanya kesenjangan antara kemampuan AI dan kenyamanan pengguna. Ini menandakan bahwa kemampuan bukan lagi faktor pembatas bagi AI saat ini.
Dalam penelitiannya, EY menemukan bahwa pengguna semakin menuntut kontrol, akuntabilitas, dan transparansi lebih besar dari alat yang mereka gunakan.
Kesenjangan Kepercayaan Menjadi Kendala bagi AI
Data menunjukkan bahwa keamanan dan privasi menjadi kekhawatiran besar bagi pengguna. Hanya sekitar dua dari lima orang yang mempercayai perusahaan (43%) atau pemerintah (41%) untuk mengelola data AI mereka secara efektif, dan tiga perempat (73%) merasa khawatir tentang sistem AI yang mungkin diretas.
Matthew Ringelheim, Pemimpin EY UK&I, menjelaskan, “Ketika sistem AI menjadi semakin otonom, kepercayaan harus ditanamkan melalui dasar data yang kuat, akuntabilitas yang jelas, dan pengawasan manusia yang terlihat.”
Di sisi lain, penelitian terpisah dari Ping Identity menunjukkan bahwa sistem identitas dan tata kelola yang sebelumnya dirancang untuk manusia kini kesulitan mengikuti tuntutan dari AI otonom.
Penyelidikan ini mengungkapkan bahwa agen AI dapat menggabungkan izin dengan cara yang tidak terduga, yang berpotensi melewati kendali dalam titik buta tata kelola.
Richard Bovey, Kepala Data AND Digital, menjelaskan, “Saat ini, 58 persen organisasi menggambarkan data mereka sebagai ‘kacau’, yang semakin mengkhawatirkan seiring dengan semakin otonomnya AI.”
Dengan semakin terbuktinya penggunaan AI, kini saatnya bagi perusahaan untuk fokus pada penerapan yang tepat. Ini dimulai dengan fondasi yang kuat dalam tata kelola, kesiapan data, dan kepercayaan.
