Agen AI tidak hanya menjawab pertanyaan. Ia bisa diberi wewenang untuk bertindak, misalnya mentransfer dana atau menyusun rekomendasi medis. Wakil Menteri Komunikasi dan Digital Nezar Patria mengingatkan bahwa di dua sektor, keuangan dan kesehatan, kesalahan agen seperti itu bisa berakibat fatal. Pernyataan ini ia sampaikan dalam keterangan pers di Jakarta, Jumat (30/10/2026).
Dua sektor paling berisiko
Keuangan. "Ketika kita memberikan otoritas kepadanya untuk melakukan tindakan dan pengambilan keputusan, apabila terjadi kesalahan, maka akan menjadi fatal," kata Nezar soal agentic AI di perbankan. Menurutnya, uang bisa hilang, bahkan bisa timbul kekacauan sistemik akibat salah eksekusi.
Kesehatan. AI yang membantu diagnosis atau keputusan layanan medis, baik dipakai dokter maupun berjalan sebagai agen, berisiko tinggi karena yang dipertaruhkan adalah nyawa. Ada pula risiko kebocoran data pasien, yang tergolong data pribadi spesifik dengan sensitivitas tinggi.
UU PDP sebagai pagar
Nezar menyebut UU Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi dan UU ITE sebagai regulasi yang sudah menjaga ekosistem AI, meski tidak dibuat khusus untuk AI. "Kalau bicara soal AI kan makanannya data," ujarnya. Pemerintah juga menyiapkan Perpres Peta Jalan Nasional AI dan Perpres Etika AI, yang menurut Komdigi kini dalam proses penandatanganan.
Namun Nezar juga memberi sinyal soal gaya regulasinya: pemerintah ingin memetakan perkembangan secara menyeluruh "supaya tidak terlalu berat dalam regulasi", sambil tetap mendorong inovasi.
Apa artinya bagi bank, fintech, dan rumah sakit
Pesan pemerintah ini sejalan dengan tren global. Kami pernah menulis bagaimana bank besar di AS mulai membatasi akses agen AI ke rekening nasabah, dan bagaimana Microsoft menyebut agen AI bisa berperilaku seperti ancaman orang dalam. Langkah praktis yang bisa diambil sekarang:
- Batasi wewenang agen. Misalnya, transaksi di atas nilai tertentu wajib disetujui manusia.
- Catat semua tindakan agen agar bisa diaudit.
- Pastikan dasar pemrosesan data sesuai UU PDP, terutama untuk data kesehatan dan keuangan.
Untuk sektor keuangan, aturan OJK tentang tata kelola teknologi juga tetap berlaku. Pernyataan Nezar ini belum berupa aturan baru, melainkan arah kebijakan.
