Sebuah tangkapan layar jawaban Meta AI menyebar di media sosial: chatbot itu menyebut pembatasan konten soal demonstrasi dan kebakaran hutan dan lahan (karhutla) dilakukan atas permintaan Kementerian Komunikasi dan Digital (Komdigi). Banyak pengguna lalu mengaitkannya dengan konten mereka yang diturunkan atau terkena shadowban.

Respons Komdigi

Menurut CNBC Indonesia, Direktur Kemitraan Komunikasi Lembaga dan Kehumasan Komdigi, Marroli Jeni Indarto, mengatakan di kantor Komdigi, Kamis (29/10/2026), bahwa jawaban chatbot belum tentu benar. Ia meminta masyarakat melakukan check dan recheck, serta mencari konfirmasi dari sumber terverifikasi seperti media daring yang terverifikasi.

"AI boleh membantu kita berpikir, tetapi kemudian keputusan dan penilaian tetap harus berada di tangan para penggunanya," kata Marroli. Ia juga menyinggung bahwa platform sendiri mencantumkan peringatan bahwa AI bisa membuat kesalahan.

Sebelumnya, Menkomdigi juga mendesak platform transparan soal algoritma usai kasus ini.

Apa itu halusinasi AI?

Chatbot seperti Meta AI, ChatGPT, atau Gemini bekerja dengan memprediksi kata berikutnya yang paling mungkin, berdasarkan pola dari data latihnya. Ia tidak "tahu" fakta seperti manusia mengingat kejadian. Akibatnya, chatbot bisa menyusun jawaban yang terdengar meyakinkan dan rapi, tetapi keliru atau bahkan dikarang. Fenomena ini disebut halusinasi AI.

Halusinasi paling sering muncul ketika:

  • Pertanyaannya tentang hal yang sangat baru atau jarang dibahas, sehingga data latihnya tipis.
  • Pertanyaannya mengandung asumsi. "Kenapa Komdigi meminta konten X dibatasi?" bisa mendorong chatbot "melengkapi" cerita alih-alih membantah asumsinya.
  • Pengguna meminta alasan di balik keputusan internal perusahaan atau pemerintah, yang tidak pernah dipublikasikan.

Catatan kami: kita tidak tahu persis bagaimana Meta AI sampai pada jawaban tersebut. Tetapi polanya cocok dengan halusinasi: klaim spesifik tentang pihak tertentu tanpa sumber yang bisa diperiksa.

Cara praktis mengecek jawaban chatbot

  1. Minta sumbernya. Jika chatbot tidak bisa menunjukkan tautan yang benar-benar ada, anggap klaimnya belum terbukti.
  2. Buka sumbernya sendiri. Chatbot kadang mengarang judul atau tautan.
  3. Cocokkan dengan media dan situs resmi, misalnya situs kementerian terkait.
  4. Jangan sebarkan tangkapan layar jawaban AI sebagai fakta, apalagi soal tuduhan kepada lembaga atau orang.

Sumber