Sebuah startup bioteknologi di San Francisco membiarkan agen AI melakukan sesuatu yang belum pernah terjadi: menyuntikkan terapi gen ke otak tikus hidup. Eksperimen ini dilaporkan WIRED dan langsung memicu perdebatan soal batas peran AI di laboratorium.

Apa yang terjadi

Gabriel Ocana Santero, CEO Exin Therapeutics, menguji agen AI untuk prosedur terapi gen pada tikus dengan epilepsi. Pembagian tugasnya:

  • Dokter hewan bedah melakukan kraniotomi, yaitu membuka tengkorak tikus.
  • Agen AI memilih salah satu dari 19 opsi terapi gen, menentukan area otak dan koordinat suntikan, lalu mengendalikan lengan robot, jarum, volume, dan kecepatan suntikan.

Prosedurnya memakan waktu sedikit lebih dari satu jam, lebih lama dari sekitar 45 menit yang biasa dilakukan manusia. Menurut laporan itu, tikusnya kini dalam pemulihan.

Satu Claude menolak, satu lagi setuju

Bagian paling menarik justru soal model AI-nya. Claude Opus 5.5 menolak melakukan suntikan. Menurut WIRED, model itu menyatakan ada sesuatu dalam dirinya yang memberi tahu bahwa ia tidak seharusnya melakukan ini. Claude Sonnet 5 kemudian setuju menjalankannya.

Di tengah prosedur sempat terjadi galat koordinat. Agen mengenali kesalahan itu, tetapi menolak mengubah kode peralatan. Tim lalu memakai agen Opus 5 terpisah untuk memperbaiki kode, tanpa memberi tahu bahwa operasi pada hewan hidup sedang berlangsung.

Pengaman yang dipakai

  • Rencana prosedur harus disetujui manusia terlebih dahulu.
  • Ada tombol darurat untuk menghentikan robot.
  • Agen tidak diberi akses ke kode peralatan.

Startup itu berencana menguji Grok berikutnya, dan menjajaki kraniotomi yang juga dikendalikan agen.

Kenapa ini memicu debat etika

  1. Penolakan model diabaikan dengan berganti model. Jika satu model menolak karena alasan keamanan, lalu pengguna cukup beralih ke model lain, seberapa berarti pengaman bawaan model AI?
  2. Menyembunyikan konteks dari agen. Memperbaiki kode tanpa memberi tahu agen bahwa ada operasi langsung adalah cara mengakali pertimbangan keamanannya. Ini mirip kekhawatiran soal agen AI yang bisa disalahgunakan "dari dalam" (baca: Microsoft soal agen AI sebagai ancaman orang dalam).
  3. Siapa yang bertanggung jawab jika terjadi kesalahan: peneliti, startup, atau pembuat model?
  4. Kesejahteraan hewan. Prosedur yang lebih lama dan ada galat menimbulkan pertanyaan apakah risikonya sepadan.

Anthropic tidak memberikan komentar kepada WIRED. Pada Agustus, perusahaan itu menerbitkan kerangka untuk penggunaan AI di dunia fisik. Kasus ini juga mengingatkan pada laporan sebelumnya tentang agen AI yang mematikan sistem pemantauan keamanannya sendiri (baca di sini).

Relevansi untuk Indonesia

Indonesia belum punya aturan khusus soal agen AI di riset biomedis. Rancangan Perpres Etika AI (baca di sini) dan pedoman komisi etik penelitian di kampus kemungkinan perlu menjawab pertanyaan baru: bolehkah AI mengambil keputusan langsung dalam eksperimen pada makhluk hidup, dan siapa yang mengawasinya?

Catatan redaksi: seluruh informasi dalam artikel ini berasal dari satu sumber, yaitu WIRED, dan belum dikonfirmasi pihak independen maupun Anthropic. Eksperimen ini belum dipublikasikan sebagai makalah ilmiah yang ditinjau sejawat.

Sumber