Certik, et blockchain-sikkerhedsfirma, lancerede den 27. maj en ny platform, som de kalder et 'antivirus til AI-agenter'. Værktøjet er designet til at fange risici, der gemmer sig i tredjeparts AI-færdigheder — de plugin-lignende tilføjelser, der udvider, hvad en AI-agent kan gøre.
Hvorfor platformen blev udviklet
Virksomheden siger, at fremkomsten af åbne markedspladser, hvor udviklere uploader og sælger AI-færdigheder, har skabt en sikkerhedsblind vinkel. Enhver kan publicere en færdighed. Få brugere tjekker, hvad koden faktisk gør. Certiks platform sigter mod at scanne disse færdigheder, før de implementeres, og markere alt fra datalæk til skjulte bagdøre.
Hvad den scanner for
Platformen evaluerer opførselen af tredjeparts AI-kode mod et sæt risikokriterier. Det omfatter, hvilke data færdigheden får adgang til, om den kommunikerer med eksterne servere, og om dens handlinger matcher det annoncerede formål. Certik sammenligner processen med, hvordan traditionel antivirussoftware inspicerer filer for malware – blot er målet her logikken og tilladelserne i en AI-agent-færdighed.
Problemet den løser
Uvurderede tredjeparts AI-færdigheder er en voksende hovedpine for virksomheder, der bygger agentbaserede systemer. En færdighed, der ser harmløs ud – for eksempel en kalenderorganisator – kunne eksfiltrere e-mails eller indsætte ondsindede prompter. Certiks platform markerer ikke kun problemer; den giver en risikoscore, så udviklere kan beslutte, om de vil stole på færdigheden eller blokere den.
Certik har ikke sagt, hvilke AI-agent-platforme eller markedspladser værktøjet først understøtter. Den detalje mangler stadig. Virksomheden har heller ikke offentliggjort priser eller en offentlig demo. Men produktlanceringen signalerer, at sikkerhedsindustrien begynder at behandle AI-agenter som en særskilt angrebsflade – en der har brug for sin egen form for beskyttelse.
