Bayangkan agen AI di kantor Anda menolak pengajuan kredit nasabah. Seminggu kemudian regulator bertanya: kenapa? Kebanyakan organisasi di Indonesia yakin bisa menjawab. Masalahnya, sebagian besar tidak punya catatan untuk membuktikannya.
Angka utamanya
Menurut laporan Investor.id, temuan ini berasal dari APAC State of Digital Trust: AI Governance Benchmark, survei Sumsub terhadap 720 profesional senior di sembilan negara Asia-Pasifik, dikerjakan Blackbox Research bersama Singapore FinTech Association.
Untuk Indonesia:
- 96% organisasi yakin bisa menjelaskan keputusan AI-nya, tetapi hanya 34% menyimpan rekam jejak yang utuh dan tahan manipulasi.
- 91% nyaman membiarkan AI memutuskan proses rutin tanpa manusia, tetapi turun ke 55% untuk transaksi keuangan.
- 64% pernah mengalami AI bertindak sendiri dan berujung masalah.
- 94% pernah memakai sistem AI di luar tujuan awalnya dalam setahun terakhir.
- 56% menyebut kualitas data sebagai kekhawatiran terbesar, tertinggi di APAC.
Sumsub menamai jarak antara rasa percaya diri dan bukti nyata ini accountability asymmetry.
Regulasi sedang mengejar
Laporan yang sama mencatat OJK sudah punya Panduan Tata Kelola Kecerdasan Artifisial Perbankan Indonesia, yang menetapkan standar minimum pengelolaan AI di bank, dari manajemen risiko hingga audit.
Selain itu, ada dua Peraturan Presiden yang disebut tinggal menunggu tanda tangan Presiden: Perpres tentang Peta Jalan AI Nasional dan Perpres tentang Etika AI. Begitu berlaku, tuntutan untuk bisa menunjukkan "apa yang dilakukan AI dan siapa yang bertanggung jawab" kemungkinan makin nyata. Di parlemen, isu AI juga masuk ke pembahasan RUU Hak Cipta.
Catatan kami
Survei ini dibuat oleh Sumsub, perusahaan yang menjual solusi kepatuhan dan jejak audit AI, dan sekaligus meluncurkan Sumsub Agentic AI Council. Jumlah responden khusus Indonesia tidak disebutkan dalam laporan. Angkanya tetap berguna sebagai gambaran, tapi bukan statistik nasional.
Apa yang bisa dilakukan
Kalau organisasi Anda memakai AI untuk keputusan, mulai dari hal dasar: simpan log input, output, dan siapa yang menyetujui; batasi AI sesuai tujuan awal; dan tinjau ulang saat fungsinya bergeser.
