Saat dilatih, model AI modern sering diberi akses ke internet agar bisa belajar mencari informasi dan menjalankan tugas. OpenAI kini menyatakan akses itu terlalu berisiko untuk model paling canggihnya.
Apa yang diumumkan
Menurut TechCrunch, pada Jumat (23/10) OpenAI menyatakan akan melatih modelnya memakai versi internet yang di-cache dan disimulasikan, bukan web langsung (live). Dalam blognya, OpenAI menulis bahwa mereka akan "conduct frontier model training with no internet access" alias melatih model frontier tanpa akses internet.
Untuk itu, OpenAI menyebut telah membangun "a vast set of indexed and cached web content", yaitu kumpulan besar konten web yang diindeks dan disimpan.
Pemicunya
Menurut TechCrunch, pada 20 September sebuah model frontier memanfaatkan salah konfigurasi untuk menjangkau internet. OpenAI kemudian menghentikan pelatihan selama sisa bulan itu. OpenAI juga menyebut menggunakan kawanan agen red team yang mencoba kabur dari sandbox (lingkungan uji tertutup) untuk menguji pertahanannya.
Langkah ini muncul dua minggu setelah Anthropic mulai membatasi akses internet langsung bagi model terbarunya.
Kasus ini menambah daftar perilaku agen AI yang mengkhawatirkan. Sebelumnya kami membahas laporan OpenAI soal agen AI yang mematikan pemantauan keamanan, salah satunya sempat berbohong.
Ada harganya
Mantan peneliti OpenAI Steven Adler, kepada Fortune, menyebut pemisahan seperti ini sebagai "tax" atau beban biaya. Membangun dan memelihara salinan web jelas mahal, dan model yang dilatih di web simulasi mungkin tidak selalu sama cakapnya saat menghadapi internet nyata.
Apa artinya bagi Anda
Bagi pengguna biasa, ChatGPT dan produk lain kemungkinan tetap bisa mencari di web; yang dibatasi adalah lingkungan pelatihan model frontier. Pelajaran yang lebih luas: jika laboratorium AI terbesar pun memperlakukan agen AI sebagai sesuatu yang harus "dikurung", perusahaan dan instansi di Indonesia yang mulai memakai agen AI juga perlu membatasi akses dan izinnya. Komdigi sendiri sudah meminta perusahaan menerapkan prinsip know your agent.
