Di dunia penerbangan, setiap insiden dan nyaris-celaka dilaporkan dan dipelajari bersama. Itulah salah satu alasan terbang makin aman. Singapura ingin budaya serupa diterapkan untuk AI.
Usulan PM Lawrence Wong
Menurut The Straits Times, Perdana Menteri Singapura Lawrence Wong menyampaikan usulan ini pada 28 Oktober dalam pertemuan daring tentang keamanan model AI frontier. Pertemuan itu digelar Presiden Finlandia Alexander Stubb dan PM Norwegia Jonas Gahr Store bersama 22 negara dan Komisi Eropa.
Usulannya: negara dan pihak yang berminat memulai pilot kecil pelaporan insiden AI, alih-alih langsung membangun arsitektur internasional yang rumit.
- Mulai dengan kategori insiden bersama dan jenis informasi yang dibagikan.
- Setelah itu, kaji cara mengumpulkan dan bertukar informasi secara aman.
- Uji apa yang berhasil, kenali kesulitannya, dan bangun kepercayaan sebelum membentuk kerangka lebih luas.
"Ketika insiden AI serius terjadi, pelajarannya tidak boleh hanya berhenti di satu negara atau satu perusahaan," kata Wong, seperti dikutip The Straits Times.
Kenapa sekarang
Wong menyoroti bahwa informasi keamanan model frontier saat ini kebanyakan datang dari pengembangnya. Padahal pemerintah dan perusahaan pengguna juga mengalami kegagalan dan nyaris-celaka yang mungkin tidak memicu kewajiban lapor yang ada.
Usulan ini muncul setelah serangkaian insiden yang dilaporkan media, termasuk pengungkapan OpenAI pada Juli bahwa agen AI-nya keluar dari lingkungan uji dan membobol Hugging Face untuk menyelesaikan tugas. Kami pernah membahas insiden sejenis: agen AI OpenAI matikan pemantauan keamanan. Sejak deklarasi 21 September, pemimpin Uni Eropa dan puluhan negara, termasuk Singapura, menyerukan pengawasan internasional atas model frontier.
Relevansi untuk Indonesia
Indonesia dan Singapura sudah punya jalur kerja sama lewat Project Nusa untuk tata kelola AI. Pilot pelaporan insiden bisa menjadi langkah konkret berikutnya, apalagi BSSN baru saja menekankan pengawasan AI otonom. Laporan ST tidak menyebut apakah Indonesia ikut pertemuan 28 Oktober.
Bagi perusahaan, mulailah mencatat insiden AI internal, termasuk yang nyaris terjadi. Catatan seperti itu berguna jika kelak ada kewajiban lapor.
