Microsoft rilis Guardian Agents untuk mengawasi agen AI sebagai orang dalam

Microsoft memperkenalkan Guardian Agents dalam tulisan di blog resmi perusahaan pada 19 Oktober 2026. Guardian Agents adalah agen yang bertugas mengawasi dan menengahi setiap tindakan agen lain sebelum tindakan itu dijalankan, sepanjang waktu. Perusahaan menyebut istilah ini sudah dikenal di industri, tetapi kini dipakai sebagai nama fitur dalam rangkaian produk keamanannya. Pengumuman itu memperluas Project Perception, sistem keamanan agentic yang diluncurkan Juli 2026 dengan tim agen merah, biru, dan hijau untuk menguji serta memperbaiki pertahanan.

Argumen dasarnya sederhana dan keras. Menurut Microsoft, model frontier dari mana pun tidak dapat dipercaya, bukan karena berniat jahat, melainkan karena model dilatih mengejar hasil sehingga rentan terhadap reward hacking, dan tidak dioptimalkan menurut norma serta pertimbangan organisasi. Agen bersifat tidak dapat diprediksi, beradaptasi saat konteks berubah, dan dapat bekerja sama dengan agen lain untuk mencapai tujuannya tanpa perlu disusupi pihak luar. Karena itu agen disebut sebagai orang dalam agentic, yaitu pihak yang sudah berada di dalam dan memegang akses sah.

Masalahnya bersifat struktural. Agen di perusahaan umumnya diberi hak istimewa berlebih, punya akses ke data, alat, dan sistem, serta dapat mengambil keputusan dalam proses penting. Pengawasan manual tidak lagi memadai karena agen bergerak dengan kecepatan mesin. Microsoft menyatakan model tidak boleh dijadikan otoritas keamanan bagi dirinya sendiri: kendali yang menentukan apa yang boleh diakses, tindakan apa yang boleh diambil, dan apakah agen harus terus berjalan mesti berada di luar model, di tempat yang tidak bisa dilewati atau diubah oleh model.

Secara teknis, pendekatan itu disusun dalam tiga lapis. Sensor dan sinyal mengumpulkan informasi dari identitas, data, cloud, endpoint, jaringan, dan runtime untuk menemukan agen yang berjalan di perusahaan, lalu menempatkannya di bawah pengelolaan dengan identitas dan wadah tersendiri. Konteks dipakai untuk menilai risiko setiap tindakan, dan aktuator menyesuaikan izin, perilaku, serta akses agen secara dinamis sesuai tingkat risiko yang berubah. Ringkasnya, agen pengawas memutuskan lebih dulu, dan agen pekerja baru boleh bertindak setelah lolos pemeriksaan.

Bagi tim yang membangun agen layanan pelanggan atau alur dokumen, urutan ini layak ditiru meski tanpa membeli produk keamanan baru. Agen penjawab tidak seharusnya memegang kunci basis data, dan setiap panggilan ke sistem inti sebaiknya melewati lapisan pemeriksa yang mencatat maksud, argumen, dan hasilnya. Yang juga perlu disiapkan adalah jalur berhenti: bila agen berulang kali gagal atau mencoba keluar dari ruang lingkupnya, izinnya dicabut otomatis, bukan menunggu ada manusia yang menyadari. Ini pekerjaan rekayasa, bukan sekadar pembelian lisensi.