A Certik, egy blokklánc biztonsági cég, május 27-én indított el egy új platformot, amelyet 'AI-ügynökök vírusirtójának' nevez. Az eszköz célja, hogy kiszűrje a harmadik féltől származó AI képességekben rejlő kockázatokat – ezek a bővítményszerű kiegészítők, amelyek kibővítik, mit tud tenni egy AI-ügynök.
A platform létrehozásának oka
A cég szerint a nyílt piacterek elterjedése, ahol a fejlesztők feltölthetik és árulhatják AI képességeiket, egy biztonsági vakfoltot hozott létre. Bárki közzétehet egy képességet. Kevesen ellenőrzik, hogy a kód valójában mit csinál. A Certik platformja célja, hogy bevetés előtt átvizsgálja ezeket a képességeket, jelezve mindent az adatszivárgástól a rejtett hátsó ajtókig.
Mit vizsgál a platform
A platform egy kockázati kritériumrendszer alapján értékeli a harmadik féltől származó AI kód viselkedését. Ez magában foglalja, hogy a képesség milyen adatokhoz fér hozzá, kommunikál-e külső szerverekkel, és hogy a műveletei megegyeznek-e a hirdetett céllal. A Certik a folyamatot a hagyományos vírusirtó szoftverek fájlok rosszindulatú programokra való ellenőrzéséhez hasonlítja – csak itt a célpont egy AI-ügynök képességének logikája és engedélyei.
A probléma, amit megold
A nem ellenőrzött harmadik féltől származó AI képességek egyre nagyobb fejfájást okoznak az ügynökalapú rendszereket építő cégeknek. Egy ártalmatlannak tűnő képesség – mondjuk egy naptárrendező – kiszivárogtathat e-maileket, vagy rosszindulatú promptokat szúrhat be. A Certik platformja nemcsak jelzi a problémákat; kockázati pontszámot is ad, hogy a fejlesztők eldönthessék, megbíznak-e a képességben, vagy blokkolják azt.
A Certik nem közölte, hogy mely AI-ügynök platformokat vagy piactereket támogatja először az eszköz. Ez a részlet továbbra is hiányzik. A cég az árképzést és a nyilvános demót sem hozta nyilvánosságra. A termék bevezetése azonban azt jelzi, hogy a biztonsági ipar kezdi külön támadási felületként kezelni az AI-ügynököket – amely saját típusú védelmet igényel.
