Bir blok zinciri güvenlik firması olan Certik, 27 Mayıs'ta 'AI ajanları için antivirüs' olarak adlandırdığı yeni bir platformu kullanıma sundu. Araç, üçüncü taraf AI yeteneklerinin içinde gizlenen riskleri yakalamak için tasarlandı — bunlar, bir AI ajanının yapabileceklerini genişleten eklenti benzeri eklentilerdir.
Platform neden oluşturuldu
Şirket, geliştiricilerin AI yeteneklerini yükleyip sattığı açık pazaryerlerinin yükselişinin bir güvenlik kör noktası yarattığını söylüyor. Herkes bir yetenek yayınlayabilir. Çok az kullanıcı kodun gerçekte ne yaptığını kontrol eder. Certik'in platformu, bu yetenekleri dağıtımdan önce tarayarak veri sızıntılarından gizli arka kapılara kadar her şeyi işaretlemeyi amaçlıyor.
Neleri tarıyor
Platform, üçüncü taraf AI kodunun davranışını bir dizi risk kriterine göre değerlendiriyor. Bu, yeteneğin hangi verilere eriştiğini, harici sunucularla iletişim kurup kurmadığını ve eylemlerinin reklamı yapılan amacıyla eşleşip eşleşmediğini içeriyor. Certik, süreci geleneksel antivirüs yazılımlarının dosyaları kötü amaçlı yazılımlara karşı nasıl taradığına benzetiyor — yalnızca burada hedef, bir AI ajan yeteneğinin mantığı ve izinleridir.
Çözdüğü sorun
Denetlenmemiş üçüncü taraf AI yetenekleri, ajan tabanlı sistemler kuran şirketler için artan bir baş ağrısı haline geliyor. Zararsız görünen bir yetenek — örneğin bir takvim düzenleyici — e-postaları sızdırabilir veya kötü niyetli istemler enjekte edebilir. Certik'in platformu yalnızca sorunları işaretlemekle kalmaz; ayrıca geliştiricilerin yeteneğe güvenip güvenmeyeceğine veya engelleyip engellemeyeceğine karar vermesi için bir risk puanı sağlar.
Certik, aracın ilk olarak hangi AI ajan platformlarını veya pazaryerlerini desteklediğini söylemedi. Bu detay hala eksik. Şirket ayrıca fiyatlandırma veya halka açık bir demo yayınlamadı. Ancak ürün lansmanı, güvenlik endüstrisinin AI ajanlarını ayrı bir saldırı yüzeyi olarak ele almaya başladığını gösteriyor — kendi türünde korumaya ihtiyaç duyan bir yüzey.
