CEO CertiK, Ronghui Gu, membunyikan penggera tentang tergesa-gesa menggunakan agen AI secara besar-besaran. Dalam kenyataan terkini, Gu memberi amaran bahawa penggunaan meluas sistem autonomi ini tanpa langkah keselamatan yang betul boleh mencetuskan bencana keselamatan, terutamanya apabila mengendalikan data peribadi sensitif dan aset digital.
Mengapa amaran ini penting sekarang
Agen AI—program perisian yang bertindak secara bebas bagi pihak pengguna—sedang disepadukan ke dalam pelbagai perkara, daripada perkhidmatan pelanggan hingga dompet kripto. Namun Gu, yang syarikatnya pakar dalam keselamatan blockchain dan kontrak pintar, berpendapat bahawa kelajuan penggunaan telah mengatasi langkah keselamatan yang diperlukan untuk mengawalnya. Beliau secara khusus menunjuk kepada risiko akses tanpa kebenaran jika agen tidak diasingkan dengan betul semasa ujian.
Tanpa pengasingan, satu agen yang terjejas boleh mendedahkan berjuta-juta rekod pengguna atau mengosongkan dompet digital. Gu tidak menyebut sebarang insiden tertentu, tetapi kenyataannya muncul ketika syarikat berlumba-lumba untuk menyematkan agen AI ke dalam sistem kewangan dan data peribadi.
Pengasingan sebagai langkah perlindungan
Gu mengesyorkan bahawa pembangun mengunci agen AI di dalam persekitaran berasingan yang terkandung semasa ujian. Pendekatan pengasingan ini menghalang agen daripada mencapai pangkalan data langsung, kunci peribadi, atau infrastruktur sensitif lain sehingga tingkah laku mereka disahkan sepenuhnya. “Penggunaan besar-besaran agen AI menimbulkan risiko yang ketara,” kata Gu, menggesa pasukan untuk memperlakukan setiap agen sebagai ancaman yang berpotensi sehingga terbukti selamat.
Cadangan ini menggemakan amalan yang sudah biasa dalam keselamatan perisian—seperti menjalankan kod yang tidak dipercayai dalam mesin maya—tetapi diterapkan kepada cabaran unik AI autonomi. Oleh kerana agen boleh bertindak sendiri, kelemahan yang dieksploitasi semasa ujian boleh melarat menjadi mudarat di dunia nyata jika agen tersebut mempunyai akses rangkaian walaupun sebahagian.
Apa yang dihadapi oleh industri
Buat masa ini, tiada piawaian universal untuk menguji agen AI. Banyak syarikat menggunakan mereka terus ke dalam pengeluaran dengan pengawal yang minimum, bertaruh bahawa faedah melebihi bahaya. Amaran Gu menunjukkan bahawa pertaruhan itu boleh menjadi bumerang. Beliau tidak menamakan mana-mana syarikat atau produk tertentu, tetapi implikasinya jelas: industri keselamatan perlu mengejar sebelum agen menjadi di mana-mana.
CertiK sendiri telah membina alat untuk mengaudit kontrak pintar dan sistem blockchain, dan seruan Gu untuk pengasingan mungkin menandakan dorongan yang lebih luas untuk ketelitian yang serupa dalam pembangunan agen AI. Sama ada pembangun akan mengamalkan amalan itu masih menjadi persoalan terbuka.
Mesej Gu adalah mudah: uji agen dalam kotak sebelum melepaskannya ke data langsung. Bagi syarikat yang berlumba-lumba untuk menggunakan AI, jeda untuk pengasingan itu boleh menjadi perbezaan antara alat yang berguna dan pelanggaran yang mahal.
