Pemerintah Inggris menyebutkan, satu dari enam organisasi di Inggris sudah menggunakan alat AI. Teknologi ini menawarkan potensi luar biasa untuk mempercepat tugas, menyederhanakan alur kerja, dan mendukung pengambilan keputusan secara real-time.
Meski manfaatnya sudah terlihat, sayangnya hasil yang dihasilkan AI sering kali dipandang sebelah mata, dengan integritas data sering terabaikan. AI adalah produk dari data yang men-support-nya. Jadi, jika data yang digunakan untuk melatih model AI tidak merepresentasikan dengan baik, maka hasilnya akan berisiko bias dan bisa membawa dampak diskriminatif.
Masalah bias AI ini menjadi salah satu isu paling menonjol yang dihadapi organisasi saat ini. Untuk mengatasinya, organisasi perlu mengutamakan kepercayaan pada data yang mereka miliki.
Data yang Bias Menghasilkan Keputusan yang Bias
Bias dalam AI muncul ketika teknologi tersebut secara tidak adil menggambarkan atau membuat asumsi yang tidak akurat tentang orang-orang karena data latihnya cacat, tidak lengkap, atau tidak dapat diandalkan. Misalnya, jika sebuah mesin dilatih dengan data yang bias, dampaknya bisa mengotomatiskan tugas dengan cara yang merugikan kelompok tertentu tanpa disadari.
Bias gender secara khusus menjadi perhatian yang semakin meningkat di banyak industri terkait inisiatif AI yang mereka jalankan. Kita sudah melihat bagaimana bias ini memperkuat pola-pola berbahaya dengan konsekuensi di dunia nyata.
Contohnya, London School of Economics (LSE) menemukan bahwa model bahasa besar (LLMs) seperti Gemma yang digunakan oleh lebih dari 50% lembaga pemda di Inggris, bisa memperkenalkan bias gender dalam keputusan perawatan. Analisis LSE menunjukkan bahwa istilah-istilah yang berkaitan dengan kesehatan serius, seperti “cacat”, “tidak mampu”, dan “kompleks”, lebih sering muncul dalam deskripsi pria dibandingkan wanita. Ini bisa menghambat akses wanita terhadap layanan perawatan yang setara dan berdampak buruk bagi kesehatan mereka.
Polarisasi ini juga terjadi dalam data perekrutan. Menurut laporan Nature, LLMs cenderung menggambarkan perempuan dalam posisi profesional – khususnya di posisi tinggi – sebagai lebih muda dan kurang berpengalaman dibandingkan pria. Ini berisiko merugikan perempuan dalam karier mereka, dari keputusan perekrutan hingga bagaimana mereka dipandang di tempat kerja.
Dampak Bias Gender dalam AI
Dengan kemunculan AI yang berfungsi secara mandiri, mengatasi data yang bias menjadi semakin krusial. Berbeda dengan LLMs yang hanya menghasilkan output berbasis teks, AI agen beroperasi secara otonom berdasarkan parameter yang ditentukan pengguna. Ini meningkatkan risiko tindakan bias yang dieksekusi tanpa pengawasan manusia, dan dapat memiliki dampak sosial, etis, dan bisnis yang besar.
Lebih jauh lagi, bias gender tidak hanya mempengaruhi wanita. Model AI yang bekerja dengan data yang tidak representatif dapat menyebabkan wawasan pasar yang salah, pengambilan keputusan yang buruk, dan kerugian finansial bagi organisasi dalam skala yang lebih luas.
Bukti bias gender dalam inisiatif AI juga memperkenalkan konsekuensi regulasi. Sementara Inggris telah mengadopsi pendekatan kerangka kerja lintas sektor untuk regulasi AI yang mencakup prinsip keadilan dan transparansi, Undang-Undang AI Uni Eropa mengatur hal ini dengan lebih ketat. Undang-undang ini mengharuskan data set yang digunakan untuk reprezentatif, dan bias harus diatasi secara aktif, dengan pelanggaran dikenakan denda hingga £30,5 juta.
Peran Pengelolaan Data dalam Bias AI
Penting untuk memperhatikan bagaimana data dikelola agar organisasi dapat mengidentifikasi dan mengatasi bias. Organisasi yang mengabaikan pilar integritas data seperti tata kelola data, integrasi, pengayaan, dan wawasan geospasial, berisiko tinggi untuk menghadapi bias dalam inisiatif AI mereka dan berpotensi tidak patuh terhadap regulasi.
Mengurangi bias AI harus dimulai dengan mengevaluasi fondasi ini. Pengelolaan data yang buruk dan infrastruktur TI yang terfragmentasi memegang peranan penting dalam menciptakan bias. Jika data terkurung dan tidak mudah diakses, AI hanya akan mendapatkan potongan informasi dan tidak bisa memahami konteks secara utuh, sehingga bisa menghasilkan asumsi yang bias karena kurangnya informasi.
Memastikan Integritas Data untuk Mengurangi Bias Gender
Agar inisiatif AI tidak terpengaruh bias, data yang digunakan harus berkualitas tinggi dan representatif. Ini berarti memecahkan silo data, menerapkan tata kelola yang ketat, dan memperkaya data latih dengan atribut yang sudah disusun dengan baik dan wawasan spasial.
Integrasi data di berbagai platform juga sangat penting. Ketika data terpisah di berbagai tempat, sulit untuk menciptakan gambaran akurat dari keseluruhan informasi, yang dapat menyebabkan rekomendasi yang tidak efektif dan bias gender. Membaurkan data di cloud dan lingkungan hybrid serta memastikan kelengkapannya akan mengurangi potensi output yang bias.
Dengan 66 persen orang bergantung pada output AI tanpa mengevaluasi akurasinya, kebutuhan akan integritas data untuk mengurangi bias dalam pengambilan keputusan sekarang lebih dari sebelumnya. Investasi dalam data yang representatif dan berkualitas tinggi bisa meminimalkan bias dan memastikan sistem AI mendukung kesetaraan gender. Hanya dengan cara seperti itulah inovasi sungguh bisa berjalan dengan percaya diri.
