Banyak aplikasi AI sebenarnya tidak butuh jawaban panjang. Cukup "ya atau tidak", "pilih kategori A, B, atau C", atau "beri skor". OpenAI kini meresmikan API khusus untuk kebutuhan itu: Decisions API.
Apa itu Decisions API
Menurut pengumuman OpenAI (22/10), Decisions API kini tersedia umum (GA), dibangun dengan model GPT-6 Luna. API ini mengambil keputusan berjawaban terbatas dari teks, gambar, atau JSON. OpenAI mengklaim hasilnya hingga 10 kali lebih cepat dibanding memakai Luna lewat Responses API biasa.
Ada tiga jenis jawaban:
- Predicate: ya/tidak, disertai probabilitas.
- Choice: memilih satu dari beberapa opsi.
- Score: memberi nilai.
Yang baru sejak versi beta
Menurut OpenAI, tambahan fiturnya antara lain integrasi dengan GPT-Live, prompt caching, opsi lokasi pemrosesan di AS atau Uni Eropa, dukungan JSON bawaan, gambar di dalam instruksi, hingga 400 pertanyaan per permintaan (dua kali batas sebelumnya), serta kapasitas tambahan di Asia.
Harga
OpenAI menetapkan US$0,10 per 1 juta token input, US$0,01 per 1 juta token input yang di-cache, dan tidak ada biaya token output. Pelanggan yang memenuhi syarat bisa memakai Zero Data Retention (data tidak disimpan).
Klaim pelanggan
OpenAI mengutip beberapa pelanggan, misalnya Datadog yang mengklaim latensi p95 40 kali lebih cepat, Ramp 4 kali lebih cepat dan 30% lebih murah, serta Speak yang waktu responsnya turun dari 1,4 detik ke 0,13 detik. Ini klaim yang dipublikasikan OpenAI, belum diuji independen.
Apa artinya bagi developer Indonesia
Contoh penerapannya: memilah tiket layanan pelanggan, mendeteksi pesan spam atau penipuan, memeriksa apakah foto produk sesuai aturan marketplace, atau mengarahkan pertanyaan pengguna ke tim yang tepat. Karena tidak ada biaya output, tugas klasifikasi bervolume besar bisa lebih hemat. Tetap lakukan uji akurasi dengan data Bahasa Indonesia Anda sendiri, dan periksa kebijakan data sebelum mengirim data pelanggan, apalagi setelah Kemkomdigi meminta platform transparan soal AI.