Di era digital saat ini, sistem AI bukan hanya sekadar pengolah informasi. Mereka sudah mampu membuat penilaian sistematis tentang orang-orang dengan cara yang meniru kepercayaan manusia, meskipun ada beberapa perbedaan penting. Sebuah studi terbaru dari Universitas Ibrani yang dipublikasikan di Proceedings of the Royal Society menganalisis lebih dari 43.000 keputusan yang disimulasikan, serta sekitar seribu peserta manusia dalam lima skenario yang berbeda.
Skenario tersebut mencakup berbagai situasi, seperti berapa banyak uang yang sebaiknya dipinjamkan kepada pemilik usaha kecil, apakah bisa mempercayai pengasuh anak, bagaimana menilai seorang bos, dan seberapa besar sumbangan untuk pendiri nonprofit. Menarik, kan?
Bagaimana AI Membedah Penilaian Manusia
Temuan studi ini menunjukkan bahwa alat AI bisa membentuk sesuatu yang tampak seperti kepercayaan. Namun, cara penilaian mereka sangat berbeda dari manusia. Baik manusia maupun AI lebih cenderung menyukai orang yang tampak kompeten, jujur, dan bermaksud baik. Ini menunjukkan bahwa mesin menangkap sesuatu yang nyata mengenai kepercayaan manusia.
“Itu adalah kabar baik,” ucap Prof. Yaniv Dover. “AI tidak membuat keputusan secara acak. Ia menangkap sesuatu yang nyata dari cara manusia mengevaluasi satu sama lain.”
Namun, manusia biasanya membentuk kesan umum, menggabungkan berbagai sifat menjadi penilaian intuitif dan holistik. AI melakukan hal yang berbeda: ia membedah individu menjadi komponen, memberi nilai pada kompetensi, integritas, dan kebaikan, mirip dengan kolom yang terpisah dalam spreadsheet.
“Orang dalam studi kami mengadili satu sama lain dengan cara yang berantakan dan holistik,” jelas Valeria Lerman. “AI lebih bersih, lebih sistematis, dan itu bisa menghasilkan konsekuensi yang sangat berbeda.”
Perbedaan ini muncul bahkan ketika setiap detail lain tentang orang tersebut identik. “Manusia memang memiliki bias,” kata Prof. Dover. “Tapi yang mengejutkan kami adalah bias dalam AI bisa lebih sistematis, lebih dapat diprediksi, dan kadang-kadang lebih kuat.”
Contohnya, dalam skenario finansial seperti menentukan berapa banyak uang yang seharusnya dipinjam atau disumbangkan, sistem AI menunjukkan perbedaan yang konsisten berdasarkan sifat demografis. Misalnya, individu yang lebih tua sering diberikan hasil yang lebih menguntungkan, dan agama memiliki pengaruh yang kuat, terutama dalam situasi moneter.
Yang menarik lainnya, tidak ada satu “pendapat AI” yang universal. Model yang berbeda sering kali memberikan penilaian yang berbeda mengenai orang yang sama. Jadi, pilihan sistem AI bisa secara senyap membentuk hasil di dunia nyata. “Model yang kamu gunakan sangat penting,” tambah Lerman.
Model bahasa besar kini telah digunakan untuk menyaring kandidat pekerjaan, menilai kelayakan kredit, merekomendasikan tindakan medis, hingga membimbing keputusan organisasi. Studi tersebut menunjukkan bahwa meski AI bisa meniru struktur penilaian manusia, cara mereka melakukannya lebih kaku dan tanpa nuansa, dengan bias yang mungkin lebih sulit terdeteksi.
“Sistem ini sangat kuat,” kata Dover. “Mereka bisa memodelkan aspek-aspek dari penalaran manusia secara konsisten. Tapi mereka bukan manusia. Kita tidak boleh menganggap mereka melihat orang dengan cara yang sama dengan kita.”
Seiring dengan berkembangnya alat dan agen AI dari sekadar asisten menjadi pengambil keputusan, memahami cara “berpikir” mereka jadi sangat penting bagi organisasi yang menerapkannya secara luas. Para peneliti menekankan bahwa temuan mereka bukanlah peringatan terhadap AI, melainkan panggilan untuk kesadaran.
Yang jelas, saat ini pertanyaannya bukan lagi apakah kita mempercayai mesin, tetapi apakah kita memahami bagaimana mesin mempercayai kita.
