Kebanyakan startup AI Indonesia membangun aplikasi di atas API milik penyedia luar negeri. Netra Runtime memilih lapisan yang lebih dalam: infrastruktur inferensi, yaitu perangkat lunak yang membuat model AI berjalan lebih cepat dan lebih murah di GPU. Startup ini kini menjadi portofolio terbaru Init-6, perusahaan modal ventura yang didirikan pendiri Bukalapak, Achmad Zaky dan Nugroho Herucahyono.

Masalah yang ingin dipecahkan

Saat perusahaan mulai memakai AI dalam skala besar, biaya menjalankan model menjadi beban baru. Punya GPU mahal tidak otomatis membuat inferensi cepat. "Pertanyaan bagi perusahaan bukan lagi sekadar model mana yang paling pintar dan paling cepat, tetapi berapa biaya untuk menghasilkan suatu pekerjaan," kata Nugroho, Founding Partner Init-6.

Dua cara pakai Netra

  • Private deployment: perangkat lunak Netra dijalankan di GPU milik pelanggan, sehingga lokasi pemrosesan model dan data tetap di bawah kendali perusahaan.
  • Netra Cloud: inferensi terkelola lewat API yang kompatibel dengan format OpenAI, dengan pembayaran per token.

Angka yang diklaim

Menurut data yang dilaporkan Netra:

  • lebih dari 288 miliar token diproses hingga 28 Oktober 2026;
  • rata-rata 6,14 miliar token per hari pada 21–27 Oktober, dengan rekor harian 12,47 miliar;
  • 1.415 pengguna terdaftar dan 19 mitra;
  • di empat GPU AMD Instinct MI350X, throughput decode agregat 5.062 token per detik pada konkurensi 32, dan 1.152 token per detik untuk satu pengguna.

Netra sendiri mengakui hasil benchmark bergantung pada model, perangkat keras, dan konfigurasi. Nilai investasinya tidak diungkapkan.

Kenapa ini menarik

Pemakaian GPU AMD, bukan hanya Nvidia, serta opsi menjalankan model di server sendiri, relevan dengan diskusi kedaulatan AI. Perusahaan yang ingin menjalankan model terbuka seperti Sahabat-AI di dalam negeri membutuhkan lapisan inferensi yang efisien. Init-6 menyebut fokus awalnya adalah klien korporasi di Indonesia sebelum masuk ke pasar global.

Catatan kami: semua angka performa dan penggunaan berasal dari klaim perusahaan dan belum diverifikasi pihak independen. Liputannya juga baru bersumber dari satu media.

Sumber