Semakin banyak sistem AI yang bisa bertindak sendiri. Badan Siber dan Sandi Negara (BSSN) mengingatkan: justru karena itu, pengawasan manusia harus ikut naik kelas.
Manusia yang menentukan batas
Deputi Bidang Keamanan Siber dan Sandi Pemerintahan dan Pembangunan Manusia BSSN, Sulistyo, berbicara di Hotel Bidakara, Jakarta, Rabu (28/10/2026). Menurut laporan Kompas.com, ia menegaskan bahwa pengawasan manusia dalam pemakaian AI, khususnya di bidang pertahanan, tidak bisa ditawar.
Intinya sederhana: manusia yang menentukan untuk apa AI dipakai dan sampai mana AI boleh bertindak. "Semakin besar otonomi AI, semakin ketat pengawasan yang harus disiapkan," kata Sulistyo, seperti dikutip Kompas.com.
Dua contoh yang diangkat BSSN
Jepang. Sulistyo menyebut gelombang serangan siber pada pertengahan Oktober 2026 yang menyasar sektor ritel, transportasi, keuangan, rumah sakit, dan pendidikan. Menurutnya, 53 perusahaan terkena ransomware dan lebih dari 6 juta data pelanggan berpotensi bocor. AI diduga mempercepat pemindaian celah keamanan dan otomatisasi serangan, dan pemerintah Jepang memperlakukannya sebagai keadaan darurat keamanan siber.
Amerika Serikat. Ia juga menyinggung kasus militer AS yang nyaris menjalankan operasi terhadap kapal Tiongkok karena laporan intelijen berbantuan AI keliru mengira muatan kapal sebagai komponen senjata nuklir. Pelajarannya, kata Sulistyo, tantangan AI bukan soal secanggih apa teknologinya, melainkan bagaimana memastikan pemakaiannya bertanggung jawab.
Catatan kami: kedua contoh ini disampaikan dalam pidato BSSN dan dikutip media; kami belum menemukan rincian resmi terpisah untuk kasus kapal tersebut.
Kenapa ini penting bagi Indonesia
Pernyataan BSSN menambah suara pemerintah yang mendorong prinsip human in the loop, sejalan dengan rancangan Perpres Etika AI berbasis risiko dan imbauan Komdigi agar perusahaan menerapkan Know Your Agent.
Bagi organisasi di Indonesia, pesan praktisnya: catat AI apa saja yang dipakai, beri batas tindakan yang jelas, dan pastikan ada orang yang bertanggung jawab menyetujui keputusan penting. Kasus Jepang juga mengingatkan bahwa penyerang pun memakai AI, sehingga tambal celah dan cadangan data harus rutin.
