Kebanyakan model AI modern ditulis dengan PyTorch, dan kebanyakan dijalankan di GPU Nvidia. Google ingin mengubah kebiasaan itu dengan membuat chip AI-nya sendiri, TPU, semudah GPU untuk dipakai developer PyTorch.

Apa yang dirilis

Dalam blog Google Cloud yang diumumkan di PyTorch Conference 2026, Google menyatakan TorchTPU kini tersedia sebagai open source di GitHub. TorchTPU adalah "jalur" PyTorch native untuk TPU (Tensor Processing Unit), chip AI buatan Google. Menurut Google, dengan TorchTPU, TPU menjadi pilihan native di PyTorch, sejajar dengan GPU dan CPU.

TorchTPU dikembangkan bersama tim PyTorch di Meta. Google mengklaim model PyTorch yang sudah ada bisa dijalankan di TPU dengan perubahan kode minimal, memakai API yang sama.

Ekosistem yang ikut mendukung

Google menyebut TorchTPU sudah terhubung dengan banyak alat populer:

  • Hugging Face Transformers v5: model bisa dijalankan di TPU cukup dengan opsi device_map="tpu".
  • vLLM dan SGLang: mesin untuk menjalankan (inferensi) model bahasa.
  • llm-d 1.0: dirilis bersama Red Hat dan IBM untuk mengatur banyak server inferensi di Kubernetes.
  • TorchTitan, VeRL, dan Ray: untuk pelatihan skala besar, reinforcement learning, dan orkestrasi.
  • LiteRT (sebelumnya TensorFlow Lite) kini bergabung dengan ekosistem PyTorch untuk menjalankan model di ponsel dan perangkat kecil.

Google juga mengklaim pelatihan lewat TorchTitan mencapai pemanfaatan komputasi hingga 52 persen pada model Qwen 3 8B dengan hingga 8.192 TPU Ironwood. Angka ini berasal dari Google sendiri.

Kenapa ini penting

Selama ini, salah satu kekuatan Nvidia adalah ekosistem perangkat lunaknya (CUDA) yang sudah dikuasai banyak developer. Bila PyTorch bisa jalan mulus di TPU, perusahaan punya lebih banyak pilihan perangkat keras dan bisa membandingkan harga. Langkah serupa juga terlihat ketika DeepSeek merilis DeepInfer yang mendukung chip Nvidia dan Huawei.

Kenapa penting bagi Anda

Bagi developer, startup, dan kampus di Indonesia, pilihan perangkat keras yang lebih beragam bisa berarti biaya komputasi lebih rendah. TPU tersedia lewat Google Cloud, yang punya region Jakarta. Namun, ketersediaan jenis TPU tertentu bisa berbeda di setiap region, jadi cek dulu sebelum merencanakan proyek.

Yang perlu dicermati

Klaim "perubahan kode minimal" dan angka kinerja berasal dari Google dan mitranya. Pengalaman nyata bisa berbeda, terutama untuk model yang memakai fitur khusus GPU.

Sumber

  • Google Cloud Blog, "TorchTPU is now open source: Run native PyTorch on TPUs": https://cloud.google.com/blog/topics/ai-infrastructure/torchtpu-is-now-open-source-run-native-pytorch-on-tpus