CEO CertiK, Ronghui Gu, membunyikan alarm tentang terburu-burunya penerapan agen AI dalam skala besar. Dalam pernyataan terbaru, Gu memperingatkan bahwa penggunaan luas sistem otonom ini tanpa pengamanan yang tepat dapat memicu bencana keamanan, terutama saat menangani data pribadi sensitif dan aset digital.
Mengapa peringatan ini penting sekarang
Agen AI—program perangkat lunak yang bertindak secara mandiri atas nama pengguna—sedang diintegrasikan ke dalam segala hal, mulai dari layanan pelanggan hingga dompet kripto. Namun Gu, yang perusahaannya berspesialisasi dalam keamanan blockchain dan kontrak pintar, berpendapat bahwa kecepatan penerapan melampaui langkah-langkah keamanan yang diperlukan untuk mengendalikannya. Ia secara khusus menunjuk risiko akses tidak sah jika agen tidak diisolasi dengan baik selama pengujian.
Tanpa isolasi, satu agen yang dikompromikan dapat mengekspos jutaan catatan pengguna atau menguras dompet digital. Gu tidak menyebutkan insiden tertentu, tetapi pernyataannya muncul saat perusahaan-perusahaan berlomba menyematkan agen AI ke dalam sistem keuangan dan data pribadi.
Isolasi sebagai pengaman
Gu merekomendasikan agar pengembang mengunci agen AI di dalam lingkungan terpisah dan terisolasi selama pengujian. Pendekatan sandboxing ini mencegah agen mengakses basis data langsung, kunci privat, atau infrastruktur sensitif lainnya hingga perilaku mereka sepenuhnya divalidasi. “Penerapan massal agen AI menimbulkan risiko signifikan,” kata Gu, mendesak tim untuk memperlakukan setiap agen sebagai vektor ancaman potensial hingga terbukti aman.
Rekomendasi ini menggemakan praktik yang sudah umum dalam keamanan perangkat lunak—seperti menjalankan kode yang tidak tepercaya di mesin virtual—tetapi diterapkan pada tantangan unik AI otonom. Karena agen dapat bertindak sendiri, cacat yang dieksploitasi selama pengujian dapat mengakibatkan kerugian di dunia nyata jika agen memiliki akses jaringan parsial.
Apa yang dihadapi industri
Untuk saat ini, tidak ada standar universal untuk menguji agen AI. Banyak perusahaan menerapkannya langsung ke produksi dengan pagar pengaman minimal, bertaruh bahwa manfaatnya lebih besar daripada bahayanya. Peringatan Gu menunjukkan bahwa taruhan itu bisa menjadi bumerang. Ia tidak menyebutkan perusahaan atau produk tertentu, tetapi implikasinya jelas: industri keamanan perlu mengejar ketertinggalan sebelum agen menjadi di mana-mana.
CertiK sendiri telah membangun alat untuk mengaudit kontrak pintar dan sistem blockchain, dan seruan Gu untuk isolasi mungkin menandakan dorongan yang lebih luas untuk ketelitian serupa dalam pengembangan agen AI. Apakah pengembang akan mengadopsi praktik ini masih menjadi pertanyaan terbuka.
Pesan Gu sangat jelas: uji agen di dalam kotak sebelum melepaskannya pada data langsung. Bagi perusahaan yang berlomba menerapkan AI, jeda untuk isolasi itu bisa menjadi perbedaan antara alat yang berguna dan pelanggaran yang mahal.
