Apa jadinya jika chatbot AI milik platform raksasa memberi jawaban yang terdengar meyakinkan, tetapi keliru, tentang kebijakan pemerintah? Itulah yang ramai dibicarakan pekan ini di Indonesia.

Apa yang terjadi

Belakangan muncul keluhan dari pengguna media sosial bahwa jangkauan konten soal kebakaran hutan dan lahan (karhutla) menurun drastis, yang dikenal sebagai dugaan shadowban. Menurut detikINET, salah satunya datang dari kreator konten Tasya Farasya, yang menyebut penonton Instagram Stories-nya turun dari sekitar satu juta menjadi sekitar 85.000 setelah mengunggah konten terkait.

Di tengah isu itu, beredar tangkapan layar percakapan dengan Meta AI di Threads. Menurut laporan SINDOnews dan Bisnis.com, chatbot tersebut menyebut ada "permintaan hukum" dari Kementerian Komunikasi dan Digital (Komdigi) untuk membatasi konten karhutla dan demonstrasi.

Bantahan Komdigi

Menteri Komunikasi dan Digital Meutya Hafid membantahnya. "Tidak ada permintaan dari Kemkomdigi untuk membatasi informasi terkait karhutla," ujarnya, seperti dikutip detikINET. Menurutnya, informasi karhutla justru penting bagi pemerintah sebagai masukan penanganan bencana.

Meutya lalu mengajak masyarakat ikut mendorong platform agar lebih terbuka. "Bantu kami mendorong platform digital agar lebih transparan dan bertanggung jawab terhadap algoritma mereka," katanya. Menurut CNBC Indonesia, ia juga meminta warganet yang merasa unggahannya terganggu untuk mengajukan banding ke platform, baik Meta, TikTok, maupun lainnya, lalu melaporkannya ke Komdigi.

Meta AI meralat jawabannya

Menurut SINDOnews, Meta AI kemudian mengoreksi diri dengan merujuk pernyataan Dirjen Pengawasan Ruang Digital Komdigi pada 20 Oktober. Saat ditanya asal datanya, chatbot itu menyebut jawaban lamanya tidak berasal dari rilis resmi Komdigi, melainkan dari pola label "legal-request" dan ramainya laporan dugaan shadowban.

Artinya, chatbot itu merangkai kesimpulan dari pola dan rumor, lalu menyajikannya sebagai fakta. Fenomena ini sering disebut halusinasi AI. Hingga artikel ini ditulis, kami belum menemukan pernyataan resmi Meta soal kasus ini.

Dua isu yang berbeda

Ada dua persoalan yang perlu dibedakan:

  1. Halusinasi chatbot. Meta AI memberi informasi yang tidak didukung sumber resmi. Ini soal akurasi dan akuntabilitas produk AI.
  2. Transparansi moderasi konten. Apakah jangkauan konten karhutla memang diturunkan, dan atas dasar apa? Menurut detikINET, Direktur Eksekutif SAFEnet Nenden Sekar Arum menilai hal ini tidak bisa dipastikan tanpa akses ke data dan proses keputusan platform. SAFEnet juga mendesak Komdigi menjelaskan dasar hukum setiap permintaan pembatasan konten dan memastikan ada mekanisme banding yang efektif bagi pengguna.

Isu tanggung jawab platform ini sejalan dengan dorongan Komdigi sebelumnya agar platform dan pengembang AI ikut bertanggung jawab mendeteksi deepfake.

Apa yang bisa Anda lakukan

  • Jangan jadikan chatbot sebagai sumber tunggal untuk klaim soal kebijakan pemerintah. Cek situs resmi kementerian atau media kredibel.
  • Jika jangkauan unggahan Anda tiba-tiba anjlok, ajukan banding lewat fitur platform, simpan bukti tangkapan layar, lalu laporkan ke Komdigi seperti yang dianjurkan Menkomdigi.
  • Biasakan bertanya ke chatbot: "Apa sumbernya?" Jawaban tanpa sumber jelas layak diragukan.

Sumber