Jika Anda developer yang membangun aplikasi AI dengan Python, berita ini perlu Anda cek sekarang juga. LiteLLM, salah satu pustaka AI paling populer, terkena serangan rantai pasok (supply-chain attack).

Apa itu LiteLLM

LiteLLM adalah SDK Python open source dan AI gateway yang memungkinkan aplikasi mengakses model AI dari berbagai penyedia lewat satu API yang sama. Menurut BleepingComputer, proyek ini punya 61.800 bintang di GitHub dan 92 juta unduhan per bulan di PyPI, serta dipakai perusahaan seperti NVIDIA, Netflix, AT&T, dan Okta.

Apa yang terjadi

Menurut pengelola proyek, jalur rilisnya dibobol pada 21 Oktober. Pelaku lalu menerbitkan versi 1.107.0 ke PyPI dan Docker. "Versi ini berisi malware terkompilasi yang mencuri kredensial dan memuat alat eksekusi kode jarak jauh," tulis pengelola, seperti dikutip BleepingComputer. Pelanggan versi enterprise privat disebut tidak terdampak.

Artefak yang terdampak (waktu dalam UTC; tambahkan 7 jam untuk WIB):

  • PyPI: litellm==1.107.0, ketujuh wheel, tersedia pukul 11.39–13.23 UTC.
  • Docker Hub: tag v1.107.0, latest, main-latest, dan main-stable, pukul 11.46–14.20 UTC.
  • GHCR: tag yang sama, dari 11.46 UTC hingga ditarik paling lambat 13.51 UTC.

Menurut BleepingComputer, beberapa perusahaan keamanan aplikasi mendeteksi serangan dalam enam menit setelah versi berbahaya terbit.

Cara kerja malware-nya

Pelaku tidak mengubah kode aplikasi LiteLLM. Yang diubah adalah paket instalasinya, dengan menaruh tiga file berbahaya (cook.pth, cook.py, dan sitecustomize.py) di direktori pustaka Python. Akibatnya, malware berjalan setiap kali Python dijalankan di lingkungan itu, bahkan saat Anda menjalankan Python atau pip untuk menyelidikinya.

Menurut laporan tersebut, yang dicuri antara lain:

  • kredensial cloud (AWS, Azure, Google Cloud), Kubernetes, dan Docker;
  • kredensial alat AI dan kunci penyedia model yang tersimpan di LiteLLM;
  • token Git, GitHub, npm, PyPI, CI/CD, file .env, serta kunci SSH, GPG, dan TLS;
  • data browser seperti login tersimpan dan cookie;
  • variabel lingkungan dan riwayat shell.

Langkah jika Anda mungkin terdampak

  1. Cek versi yang terpasang lewat lockfile, requirements.txt, atau manifest image Docker Anda. Jangan menjalankan Python atau pip di lingkungan yang dicurigai, karena itu justru memicu malware.
  2. Hentikan deployment yang terdampak dan isolasi sistemnya.
  3. Bangun ulang dari backup yang bersih. Menghapus folder paket LiteLLM saja tidak cukup, karena file startup atau loader bisa tertinggal.
  4. Rotasi semua rahasia yang ada di sistem itu: kunci API AI, kredensial cloud, token GitHub, kunci SSH, dan lainnya.
  5. Pasang versi pemulihan 1.106.2, rilis bersih terakhir sebelum serangan, dan kunci (pin) versinya.

Ini bukan pertama kalinya. Menurut BleepingComputer, pada Maret lalu kelompok peretas TeamPCP juga menerbitkan versi LiteLLM berbahaya di PyPI setelah membobol pemindai kerentanan Trivy yang dipakai dalam jalur CI/CD LiteLLM.

Kenapa penting bagi Anda

Banyak startup dan tim developer di Indonesia memakai pustaka seperti LiteLLM untuk berganti-ganti model AI dengan mudah. Kunci API AI yang bocor bisa langsung dipakai orang lain dan menagih kartu kredit Anda.

Pelajaran umumnya: kunci (pin) versi dependensi, jangan otomatis memakai tag latest di produksi, dan simpan rahasia di secret manager, bukan di file .env di server. Risiko ini juga berlaku bagi agen AI yang memegang banyak akses, seperti diingatkan Microsoft soal agen AI sebagai ancaman orang dalam.

Sumber