Certik, sebuah firma keselamatan blockchain, melancarkan platform baharu pada 27 Mei yang dipanggilnya sebagai 'antivirus untuk ejen AI.' Alat ini direka untuk mengesan risiko yang bersembunyi di dalam kemahiran AI pihak ketiga — tambahan seperti pemalam yang meluaskan keupayaan ejen AI.
Mengapa platform ini dibina
Syarikat itu menyatakan bahawa kebangkitan pasaran terbuka di mana pembangun memuat naik dan menjual kemahiran AI telah mewujudkan titik buta keselamatan. Sesiapa sahaja boleh menerbitkan kemahiran. Hanya segelintir pengguna menyemak apa yang sebenarnya dilakukan oleh kod tersebut. Platform Certik bertujuan untuk mengimbas kemahiran tersebut sebelum digunakan, menandakan apa-apa daripada kebocoran data hingga pintu belakang tersembunyi.
Apa yang diimbas
Platform ini menilai tingkah laku kod AI pihak ketiga terhadap satu set kriteria risiko. Ini termasuk data yang diakses oleh kemahiran, sama ada ia berkomunikasi dengan pelayan luaran, dan sama ada tindakannya sepadan dengan tujuan yang diiklankan. Certik menyamakan proses ini dengan cara perisian antivirus tradisional memeriksa fail untuk perisian hasad — hanya di sini sasarannya adalah logik dan kebenaran kemahiran ejen AI.
Masalah yang diselesaikan
Kemahiran AI pihak ketiga yang tidak disemak merupakan sakit kepala yang semakin meningkat bagi syarikat yang membina sistem berasaskan ejen. Kemahiran yang kelihatan tidak berbahaya — contohnya, penganjur kalendar — boleh mencuri e-mel atau menyuntik arahan berniat jahat. Platform Certik bukan sahaja menandakan isu; ia menyediakan skor risiko supaya pembangun boleh membuat keputusan sama ada untuk mempercayai kemahiran tersebut atau menyekatnya.
Certik belum menyatakan platform atau pasaran ejen AI mana yang disokong oleh alat ini terlebih dahulu. Butiran itu masih belum ada. Syarikat itu juga belum mengeluarkan harga atau demo awam. Tetapi pelancaran produk ini menandakan bahawa industri keselamatan mula menganggap ejen AI sebagai permukaan serangan yang berbeza — yang memerlukan perlindungan jenis tersendiri.
