Meta dan perusahaan teknologi besar lainnya tengah menjelaskan pengurangan pekerja terbaru dengan narasi yang sama: AI bisa melakukan pekerjaan sekarang, jadi manusia nggak perlu ada. Memang sih, kita sudah melihat AI melaju dengan cepat mendekati tingkat keahlian manusia. Tapi, setelah bertahun-tahun mengembangkan alat AI untuk pelatihan wawancara, terbukti bahwa merancang sistem yang hanya bergantung pada AI itu adalah taruhan yang salah.
Di atas kertas, AI terlihat sudah mencapai performa setara manusia. Microsoft baru-baru ini menggunakan model o3 canggih dari OpenAI untuk “menyelesaikan” lebih dari delapan dari sepuluh studi kasus di New England Journal of Medicine, dibandingkan dengan tingkat keberhasilan dokter manusia yang hanya 20%. Sementara itu, METR, lembaga riset nirlaba, memprediksi bahwa pada tahun 2030, AI bisa “mengeksekusi proyek perangkat lunak kompleks” yang saat ini membutuhkan waktu berminggu-minggu atau bahkan berbulan-bulan kerja pakar manusia.
Namun, penggantian manusia oleh AI tidak semudah itu seperti yang ingin diceritakan industri AI. Perusahaan-perusahaan yang saat ini hanya berfokus pada pemanfaatan AI untuk penghematan biaya akan segera menemukan kenyataan mahal: sistem AI yang paling efektif adalah yang dirancang di sekitar keahlian manusia, bukan mengabaikannya. Mengintegrasikan validasi manusia secara permanen dan sengaja di seluruh alur kerja AI akan membuka setiap level kemampuan AI selanjutnya.
Di Mana Sistem AI Gagal
Peningkatan akurasi AI belum pasti dan memerlukan pengorbanan besar. Setiap peningkatan 10% dalam model dasar membutuhkan pengeluaran sebesar $1 triliun. Peneliti dari Stanford menemukan bahwa model bahasa besar mungkin tidak akan pernah bisa secara andal membedakan antara apa yang benar dan apa yang diyakini manusia sebagai kebenaran. Artinya, tanpa penilaian manusia dalam sistem, AI akan dengan percaya diri memperbesar titik buta.
Tetapi ada titik kegagalan yang akan terus ada meskipun AI sudah sempurna: sering kali, sistem yang mengandung AI tidak memanfaatkannya dengan baik. Contohnya, seorang pemimpin manajemen produk mungkin akan menyerahkan agen untuk membangun dasbor kinerja mingguan secara mandiri. Semua terlihat baik, jadi pemimpin mengirimnya tanpa pengawasan yang ketat. Beberapa bulan kemudian, pengeluaran iklan akan dialokasikan ke produk baru berdasarkan grafik tersebut. Namun, penjualan berikutnya menurun drastis. Penyebabnya? Agen itu diam-diam menghitung pengguna percobaan gratis sebagai pelanggan bayar, yang bisa langsung dikenali oleh pakar manusia. Akhirnya, seperempat anggaran iklan terbuang sia-sia hanya karena peran pengawasan manusia tidak ditentukan dengan jelas.
Atau coba lihat perusahaan yang menggunakan AI untuk keputusan perekrutan. Tanpa input manusia untuk menyempurnakan seleksi, model hanya mengulang asumsi usang tentang seperti apa pemimpin yang sukses. Model tersebut melewatkan banyak kandidat yang mungkin kurang di atas kertas, tetapi memiliki kombinasi keterampilan yang sempurna; orang-orang yang akan dipilih oleh manajer berpengalaman. Di sini, aturan pengalihan yang lebih terdefinisi untuk setiap aplikasi bisa menjaga kandidat tersebut tetap dalam pertimbangan.
Semua contoh ini nyata. Kita sedang menyaksikannya sendiri dalam kerja kita dengan sistem AI; mulai dari bagaimana mereka masih secara variabel memperhitungkan pedoman medis yang berubah cepat hingga kesalahan asumsi bahwa mereka dapat melampaui langkah-langkah pengawasan manusia.
Membangun Alur Kerja yang Ramah AI
Pemimpin perusahaan saat ini mendorong tim untuk sekadar “mengaplikasikan AI” ke dalam alur kerja yang ada. Namun, menempelkan AI justru memperburuk masalah yang ada seiring dengan proses yang berkembang. Untuk membangun AI yang benar-benar memenuhi janji pertumbuhannya, kita harus merancang ulang alur kerja agar secara inheren menonjolkan kekuatan AI, manusia, dan perangkat lunak.
Kenyataannya, tidak setiap tugas memerlukan LLM; ada situasi yang membutuhkan kepastian dalam pengalihan, validasi, dan batasan. Jika semua bersifat probabilistik, alur kerja akan lebih mirip mesin saran daripada sistem yang bisa diandalkan.
Sistem AI terbaik menggabungkan proses kaku dan fleksibel serta mendefinisikan kepemilikan tugas secara jelas di tiga lapisan terpisah:
- 1. Fleksibilitas AI: menyematkan model probabilistik yang menerjemahkan permintaan yang lebih abstrak dan mengubahnya menjadi tindakan yang dikenali.
- 2. Perangkat Lunak Deterministik: menambahkan aturan pengalihan yang dikodekan keras, batasan, pemicu validasi, dan pengecualian yang mengarahkan operasi ke jalur yang benar.
- 3. Manusia untuk Konteks: terus-menerus menilai asumsi model, mengubah alur kerja berdasarkan kondisi eksternal, menjelaskan nuansa perilaku manusia atau ambiguitas keseluruhan, dan membuat keputusan akhir.
Maka dari itu, pada tingkat fungsionalitas yang ideal, AI bisa merekomendasikan langkah selanjutnya tetapi membiarkan manusia memilih jalur yang akan diambil.
Mendefinisikan Ulang Peran Manusia dalam Proses AI
Benar, AI terkadang tidak akurat, tetapi itu tidak menghilangkan potensinya. Seringkali, sistem yang cacat di sekitar AI menyebabkan keruntuhan yang paling berbahaya. Untuk meningkatkan integrasi AI, tujuannya adalah melampaui sekedar menambahkan “manusia dalam proses.” Jika manusia hanya ada untuk memeriksa keluaran akhir AI, alur kerja tersebut cacat.
Alih-alih menghilangkan manusia dari proses yang didorong oleh AI, seharusnya kita merancang sistem AI di mana setiap bagian berkontribusi pada hasil yang dapat diandalkan. Menghilangkan manusia dari proses AI saat ini sama saja dengan menukarkan aset yang saling menguntungkan dengan kemenangan sekali saja. Justru, pusatkan dan definisikan dengan jelas peran keahlian manusia untuk menjadikan sistem AI lebih baik dari waktu ke waktu.
Perusahaan-perusahaan yang mendominasi dekade berikutnya bukanlah yang memiliki struktur organisasi terkecil, tetapi yang berhasil mengintegrasikan manusia dengan perangkat lunak untuk mendorong kemajuan AI.
