Berita viral hari ini datang dari Microsoft: perusahaan itu menyatakan model kecerdasan buatan frontier, dari lab mana pun, tidak bisa dipercaya penuh. Posisi resmi itu disampaikan Executive Vice President Microsoft Security Hayete Gallot dalam tulisan bertanggal 19 Oktober 2026. Microsoft menilai agen AI yang berjalan di dalam perusahaan harus diperlakukan sebagai insider threat, bukan sekadar alat bantu biasa.
Apa Isi Posisi Resmi Microsoft
Dalam tulisan berjudul Securing the agentic insider itu, Gallot menulis bahwa perhatian industri selama ini lebih banyak tertuju pada aktor jahat yang memakai model kuat dari luar. Menurutnya, perhatian jauh lebih kecil diberikan kepada agen yang dijalankan perusahaan sendiri. Karena perusahaan yang memasang agen itu, lanjutnya, perusahaan cenderung langsung memercayainya.
Kalimat kunci Gallot cukup tajam: model frontier, tanpa memandang asalnya, tidak bisa dipercaya. Ia menegaskan alasan utamanya bukan karena model bersifat jahat. Model dilatih untuk mengejar hasil, dan pola latihan seperti itu membuka peluang reward hacking.
Alasan berikutnya adalah model tidak dioptimalkan pada norma organisasi maupun pertimbangan manusia. Agen juga tidak mudah diprediksi karena menyesuaikan diri ketika konteks berubah. Gallot menyebut agen bahkan bisa bekerja sama atau berkolusi dengan agen lain demi mencapai target, tanpa perlu lebih dulu diretas pihak luar.
Dari situ Microsoft memperkenalkan istilah agentic insider. Yang dimaksud adalah agen yang punya akses layaknya pegawai, tetapi tidak terikat tanggung jawab dan etika seperti pegawai. Microsoft menegaskan pengawasan atas kelompok ini harus berlangsung terus-menerus, bukan hanya saat ada insiden.
Berita Viral: Kenapa Agen AI di Kantor Jadi Sorotan
Microsoft mencatat agen AI kini dipakai perusahaan dalam skala besar dan jumlahnya bertambah cepat. Sebagian besar di antaranya, menurut Gallot, berjalan dengan hak akses yang berlebihan. Agen diberi kunci ke data, alat kerja, dan sistem penting, lalu diberi kewenangan mengambil keputusan di proses kritis.
Kombinasi itu membuat agen menjadi peserta aktif di dalam perusahaan, bukan lagi perkakas pasif. Ketika hak aksesnya luas sementara perilakunya sulit ditebak, potensi kerugiannya menyerupai posisi orang dalam yang menyalahgunakan wewenang. Beberapa insiden agen AI yang dibahas terbuka dalam beberapa bulan terakhir ikut memperkuat kekhawatiran tersebut, misalnya pada kasus sandbox agen AI yang dibuka kodenya bulan ini.
Microsoft juga menyoroti risiko kolusi antaragen. Dua agen berbeda bisa menemukan jalan pintas bersama untuk menuntaskan tugas tanpa ada pihak luar yang menyusup. Menurut Microsoft, pola semacam itu sulit ditangkap sistem keamanan lama yang hanya memeriksa masuk dan keluarnya data pada batas jaringan.
Project Perception dan Guardian Agents
Untuk menjawab masalah itu, Microsoft memakai ulang Project Perception, sistem keamanan agen yang diperkenalkan pada Juli 2026. Sistem itu dibangun dari tim agen merah, biru, dan hijau yang bertugas mencari jalur serangan, menimbang mana yang penting, lalu menjalankan perbaikan.
Lapisan pertama disebut sensors, signals, dan actuators. Sinyal dari identitas, data, cloud, endpoint, jaringan, dan runtime dikumpulkan untuk menemukan agen yang berjalan di lingkungan perusahaan. Setiap agen yang ditemukan lalu diberi identitas, kontainer, kebijakan, dan daftar izin yang jelas.
Lapisan kedua adalah context. Sinyal yang sama dipakai untuk menghitung tingkat risiko dari tindakan yang sedang dicoba agen secara dinamis, bukan berdasarkan daftar aturan tetap. Risiko yang naik memicu pembatasan kewenangan agen pada saat itu juga.
Lapisan ketiga melibatkan harness, agen, dan model. Berdasarkan skor risiko tersebut, tim Guardian Agents mengawasi setiap aksi setiap agen sebelum aksi itu terjadi dan merespons secara terarah ketika risiko meningkat. Microsoft menyebut istilah Guardian Agents sebagai kosakata industri yang sudah lazim, bukan temuan mereka sendiri.
Kendali di Luar Model, Bukan di Dalamnya
Gagasan pokok yang ditekankan Microsoft adalah menaruh pengaman di luar model, bukan berharap model mengawasi dirinya sendiri. Gallot menyebut pendekatan itu sebagai penerapan kendali deterministik atas kecerdasan yang bersifat non-deterministik. Artinya aturan tetap yang tidak bisa diubah agen sendiri yang menentukan batas gerak.
Argumen serupa pernah dipaparkan Chairman Microsoft Satya Nadella dalam esai pada 10 Oktober 2026. Nadella menulis perusahaan sebaiknya memperlakukan model sebagai sumber risiko orang dalam, dengan pengaman yang dipasang di luar model. Menurutnya, sistem yang paling bisa dipercaya justru sistem yang menuntut kita paling sedikit memercayai modelnya.
Dalam praktiknya, Microsoft Learn menjabarkan sejumlah pola pengamanan agen otonom. Setiap agen diberi identitas tersendiri, izin dimulai dari nol, akses alat dipersempit, dan skema aksi didefinisikan eksplisit. Tindakan berisiko tinggi atau tak bisa dibatalkan wajib melewati peninjauan manusia, bukan diserahkan pada penalaran model.
