Certik, firma zajmująca się bezpieczeństwem blockchain, 27 maja uruchomiła nową platformę, którą nazywa 'antywirusem dla agentów AI'. Narzędzie ma na celu wykrywanie zagrożeń ukrytych w zewnętrznych umiejętnościach AI — czyli dodatkach przypominających wtyczki, które rozszerzają możliwości agenta AI.
Dlaczego platforma została zbudowana
Firma twierdzi, że rozwój otwartych rynków, na których programiści przesyłają i sprzedają umiejętności AI, stworzył lukę w zabezpieczeniach. Każdy może opublikować umiejętność. Niewielu użytkowników sprawdza, co kod faktycznie robi. Platforma Certik ma na celu skanowanie tych umiejętności przed ich wdrożeniem, wykrywając wszystko, od wycieków danych po ukryte backdoory.
Co skanuje
Platforma ocenia zachowanie kodu AI stron trzecich według zestawu kryteriów ryzyka. Obejmuje to, do jakich danych umiejętność ma dostęp, czy komunikuje się z zewnętrznymi serwerami oraz czy jej działania są zgodne z deklarowanym przeznaczeniem. Certik porównuje ten proces do tego, jak tradycyjne oprogramowanie antywirusowe sprawdza pliki pod kątem złośliwego oprogramowania — tyle że tutaj celem jest logika i uprawnienia umiejętności agenta AI.
Problem, który rozwiązuje
Niesprawdzone zewnętrzne umiejętności AI to coraz większy ból głowy dla firm budujących systemy oparte na agentach. Umiejętność, która wygląda nieszkodliwie — na przykład organizer kalendarza — może wyciekać e-maile lub wstrzykiwać złośliwe polecenia. Platforma Certik nie tylko sygnalizuje problemy; dostarcza ocenę ryzyka, aby programiści mogli zdecydować, czy zaufać umiejętności, czy ją zablokować.
Certik nie podał, które platformy agentów AI lub rynki narzędzie wspiera w pierwszej kolejności. Ten szczegół jest wciąż nieznany. Firma nie opublikowała również cennika ani publicznego demo. Jednak uruchomienie produktu sygnalizuje, że branża bezpieczeństwa zaczyna traktować agentów AI jako odrębną powierzchnię ataku — taką, która wymaga własnego rodzaju ochrony.
