Ketika karyawan dan pengembang mengadopsi alat baru secara mandiri, sering kali manajemen TI baru tahu setelah alat tersebut sudah terintegrasi dalam alur kerja sehari-hari. Ini juga yang terjadi pada OpenClaw, agen AI yang banyak digunakan saat ini. Di permukaan, OpenClaw tampak memudahkan hidup, mampu mengelola tugas, mengirim pesan, dan mengotomatisasi alur kerja yang repetitif.
Tapi di balik layar, OpenClaw beroperasi dengan otoritas yang luas, memegang kredensial, melaksanakan perintah, dan terhubung antar sistem tanpa pengawasan. Hal ini menunjukkan betapa pentingnya memahami bagaimana dan mengapa masalah dapat terjadi. Dengan kata lain, agen-agen AI seperti OpenClaw bukan sekadar alat produktivitas yang klasik, melainkan aktor otonom yang membawa risiko baru dalam dunia korporasi.
Kebangkitan OpenClaw
Setelah diluncurkan, OpenClaw dengan cepat diadopsi oleh banyak orang. Alat ini berjalan secara lokal di mesin, terhubung ke platform pesan, alat pengembang, dan kalender, serta mampu mengelola alur kerja yang kompleks dengan mandiri. Arsitekturnya memiliki gerbang lokal yang mengoordinasi node-node yang terhubung. Node-node ini bisa mengeksekusi perintah sistem, mengakses file, dan berinteraksi dengan platform lain.
Pengguna mengendalikan agen ini melalui antarmuka web atau terminal baris perintah, tetapi sekali dikonfigurasi, agen ini beroperasi tanpa pengawasan langsung. Ini mencerminkan kenyataan yang lebih luas di mana agen AI semakin menjadi lapisan operasional perusahaan. Sayangnya, pengaturan belum sepenuhnya mengikuti perkembangan ini, yang menciptakan celah antara organisasi yang siap memperluas penggunaan AI dan yang tidak.
Temuan Tim Riset Keamanan Oasis
Tim Riset Keamanan Oasis menemukan kerentanan yang menunjukkan risiko dari agen AI yang kurang diatur. Di OpenClaw, website yang dikunjungi oleh seorang pengembang dapat menguasai agen lokal secara diam-diam tanpa perlu ekstensi, plugin, atau tindakan pengguna. Serangan ini memanfaatkan gerbang WebSocket lokal OpenClaw, di mana JavaScript jahat dapat terhubung, memaksa kata sandi, dan mendaftarkan diri sebagai perangkat tepercaya.
Setelah berhasil masuk, penyerang bisa mengakses data konfigurasi, enumerasi node yang terhubung, membaca log, dan menjalankan perintah di seluruh sistem. Ini memperlihatkan betapa satu agen AI yang terkompromi dapat dengan mudah menjalar ke seluruh workstation. Meskipun pemasok OpenClaw berhasil mengeluarkan perbaikan dalam waktu 24 jam, kerentanan ini menunjukkan risiko sistemik yang perlu diperhatikan.
Kategori Keamanan Baru
Agen AI bukanlah perangkat lunak bisnis tradisional. Mereka adalah entitas otonom dengan hak akses di berbagai sistem perusahaan. Mereka memerlukan identitas untuk melakukan aksi, bisa melakukan tindakan bertahap, dan berinteraksi dengan lingkungan internal serta eksternal tanpa pengawasan. Otonomi ini menjadikan serangan seperti peretasan agen dan manipulasi perintah menjadi lebih merusak.
Risiko Munculnya “Shadow AI”
Sering kali, banyak agen AI diimplementasikan tanpa pengetahuan TI atau keamanan, menciptakan apa yang disebut sebagai Shadow AI. Ini bisa terjadi di mesin pengembang, menyimpan kredensial, terhubung ke platform pesan, dan menjalankan tindakan secara independen. Bahayanya nyata; Shadow AI dapat memiliki akses yang tinggi terhadap sistem sensitif tanpa pengawasan yang memadai.
Dengan meningkatnya adopsi, organisasi semakin menghadapi risiko lebih besar dari agen otonom yang bertindak secara diam-diam. Pelanggaran berikutnya bisa jadi bukan diakibatkan oleh manusia, tetapi oleh sistem AI yang dipercaya untuk menyelesaikan tugas.
Langkah yang Harus Diambil Organisasi Sekarang
Jendela untuk melakukan pengaturan yang baik semakin menyempit. PwC mencatat bahwa 79% organisasi sudah menerapkan agen AI dalam beberapa tingkat. Organisasi yang akan berhasil memperluas penggunaan AI adalah yang membangun infrastruktur pengaturan sekarang:
- Melihat dengan jelas. Inventarisasi agen AI, asisten otonom, dan server LLM lokal di seluruh lingkungan pengembang. Agen yang tidak terlihat adalah agen yang tidak terkelola.
- Perbaiki tanpa menunda. Agen yang rentan, termasuk OpenClaw, harus segera diperbarui. Perlakukan pembaruan ini dengan prioritas yang sama seperti patch keamanan kritis.
- Scope akses dengan hati-hati. Agen memegang kredensial yang sering kali memiliki izin tinggi. Audit izin ini dan terapkan prinsip hak akses minimal.
- Kelola identitas non-manusia secara ketat. Perlakukan agen sebagai identitas. Terapkan analisis niat untuk memahami tindakan yang diusulkan, laksanakan kebijakan deterministik untuk mencegah operasi yang tidak aman, berikan akses tertuju kapan diperlukan, dan pertahankan audit penuh menghubungkan niat manusia dengan aksi agen.
Tindakan-tindakan ini memungkinkan organisasi untuk menyeimbangkan keamanan dengan inovasi.
Pelajaran dari OpenClaw
OpenClaw sudah diperbaiki, tetapi penemuan Oasis mengingatkan kita bahwa agen AI adalah aktor operasional, bukan sekadar alat. Organisasi yang terus memperlakukan mereka sebagai fitur produktivitas berada dalam kegelapan dan mengundang risiko.
Agen AI sudah menjadi bagian dari alur kerja perusahaan. Pertanyaannya bukan lagi apakah harus mengaturnya, tetapi apakah organisasi Anda akan membangun kemampuan itu sebelum insiden terjadi. Organisasi yang menegakkan kebijakan, mempertahankan catatan audit penuh, dan mengatur identitas agen dengan baik akan menjadi yang berhasil memperluas penggunaan AI dengan percaya diri.
