Společnost Certik, firma zabývající se bezpečností blockchainu, 27. května spustila novou platformu, kterou nazývá „antivirem pro AI agenty“. Nástroj je navržen tak, aby odhalil rizika skrytá uvnitř schopností AI třetích stran – doplňků podobných pluginům, které rozšiřují možnosti AI agenta.
Proč byla platforma vytvořena
Společnost uvádí, že nárůst otevřených tržišť, kde vývojáři nahrávají a prodávají schopnosti AI, vytvořil bezpečnostní slepé místo. Kdokoli může zveřejnit dovednost. Málokdo kontroluje, co kód skutečně dělá. Platforma Certik má tyto dovednosti prohledávat ještě před jejich nasazením a upozorňovat na cokoli od úniků dat po skrytá zadní vrátka.
Co skenuje
Platforma vyhodnocuje chování kódu AI třetích stran podle souboru rizikových kritérií. Zahrnuje to, k jakým datům dovednost přistupuje, zda komunikuje s externími servery a zda její činnosti odpovídají deklarovanému účelu. Certik přirovnává tento proces k tomu, jak tradiční antivirový software kontroluje soubory na malware – jenže zde je cílem logika a oprávnění dovednosti AI agenta.
Problém, který řeší
Neprověřené dovednosti AI od třetích stran jsou rostoucím problémem pro společnosti budující systémy založené na agentech. Dovednost, která vypadá neškodně – například organizátor kalendáře – by mohla odcizovat e-maily nebo vkládat škodlivé výzvy. Platforma Certik nejen upozorňuje na problémy; poskytuje také skóre rizika, aby se vývojáři mohli rozhodnout, zda dovednosti důvěřovat, nebo ji zablokovat.
Certik neuvedl, které platformy AI agentů nebo tržiště nástroj podporuje jako první. Tento detail stále chybí. Společnost také nezveřejnila ceny ani veřejné demo. Spuštění produktu však signalizuje, že bezpečnostní průmysl začíná považovat AI agenty za samostatnou útočnou plochu – takovou, která potřebuje svůj vlastní druh ochrany.
