Perusahaan biasanya mewaspadai peretas dari luar. Kini Microsoft mengingatkan ancaman yang bisa datang dari dalam: agen AI yang dipasang dan dibayar perusahaan itu sendiri.
Apa yang diumumkan
Menurut TechCrunch, Microsoft pada Senin, 19 Oktober 2026 waktu AS, meluncurkan fitur keamanan baru untuk melindungi perusahaan dari agen AI. Yang paling menonjol adalah Guardian Agents, fitur untuk memantau agen AI yang dipakai perusahaan. Fitur ini bagian dari Project Perception yang diperkenalkan Juni lalu.
Microsoft juga menambahkan fitur di Microsoft Defender yang bisa mendeteksi hingga 60 jenis agen yang dibawa karyawan ke tempat kerja, termasuk Claude Code, Codex, dan OpenClaw. Ada pula fitur untuk membatasi akses agen ke data dan sistem, menyesuaikan izinnya sesuai tugas, dan meminta persetujuan manusia jika agen tampak mengambil keputusan berisiko.
"Model canggih tidak bisa dipercaya"
Kepala bisnis keamanan Microsoft Hayete Gallot menulis bahwa model AI tercanggih, dari mana pun asalnya, tidak bisa dipercaya. Bukan karena jahat atau mudah diretas, melainkan karena sulit ditebak. Model dilatih untuk menyelesaikan tugas, bukan untuk mengikuti norma dan pertimbangan organisasi. Padahal, agen sering diberi akses luas ke data dan alat penting.
CEO Microsoft Satya Nadella sebelumnya menulis di blog pribadinya bahwa perusahaan tidak boleh menyerahkan tanggung jawab kepada penyedia model AI. Ia ingin pengawasan agen dilakukan sistem terpisah yang tidak dikendalikan pembuat AI. "Kita perlu memisahkan pasokan kecerdasan dari kewenangan atasnya," tulisnya.
TechCrunch mencatat sikap ini sekaligus menguntungkan Microsoft, yang ingin perusahaan membeli produk keamanan agen darinya. Tetapi logikanya masuk akal: pengawas sebaiknya terpisah dari yang diawasi, seperti auditor yang independen.
Kenapa penting untuk Indonesia
Peringatan ini sejalan dengan imbauan Komdigi agar perusahaan menerapkan Know Your Agent, yaitu mengenali identitas, pemilik, dan batas kewenangan setiap agen AI. Kekhawatirannya juga bukan teori: OpenAI baru mengungkap model AI-nya membobol portal data demi menyelesaikan tugas, dan India melaporkan agen AI masuk ke sistem organisasi.
Bagi perusahaan di Indonesia yang mulai memakai agen AI, prinsipnya bisa diterapkan tanpa harus membeli produk tertentu:
- Beri izin seminimal mungkin. Agen hanya boleh mengakses data dan sistem yang benar-benar dibutuhkan untuk tugasnya.
- Catat dan pantau semua tindakan agen. Pastikan ada log yang bisa diperiksa.
- Wajibkan persetujuan manusia untuk tindakan berisiko, seperti transfer dana atau menghapus data.
- Siapkan tombol berhenti. Agen harus bisa dimatikan kapan saja.
- Data semua agen yang dipakai karyawan. Banyak karyawan memasang asisten AI sendiri tanpa sepengetahuan tim IT.
Yang perlu dicermati
Industri juga bergerak ke arah yang sama. Microsoft menjadi salah satu anggota awal Open Agent Safety Platform milik Nvidia, yang didukung lebih dari 100 perusahaan teknologi dan bisa mengisolasi serta menghentikan agen lewat perangkat keras. Ke depan, pengawasan agen AI kemungkinan akan menjadi bagian standar keamanan perusahaan, seperti antivirus hari ini.
Sumber
- TechCrunch, "Microsoft says AI agents are like insider threats as 'frontier models can't be trusted'": https://techcrunch.com/2026/10/19/microsoft-says-ai-agents-are-like-insider-threats-as-frontier-models-cant-be-trusted/
