Certik, une société de sécurité blockchain, a dévoilé le 27 mai une nouvelle plateforme qu'elle qualifie d'« antivirus pour agents IA ». L'outil est conçu pour détecter les risques cachés dans les compétences IA tierces – ces extensions de type plug-in qui étendent les capacités d'un agent IA.
Pourquoi la plateforme a été construite
L'entreprise affirme que l'essor des places de marché ouvertes où les développeurs téléchargent et vendent des compétences IA a créé un angle mort en matière de sécurité. N'importe qui peut publier une compétence. Peu d'utilisateurs vérifient ce que fait réellement le code. La plateforme de Certik vise à analyser ces compétences avant leur déploiement, en signalant tout problème, des fuites de données aux portes dérobées cachées.
Ce qu'elle recherche
La plateforme évalue le comportement du code IA tiers par rapport à un ensemble de critères de risque. Cela inclut les données auxquelles la compétence accède, si elle communique avec des serveurs externes et si ses actions correspondent à son objectif déclaré. Certik compare ce processus à la manière dont les logiciels antivirus traditionnels inspectent les fichiers à la recherche de logiciels malveillants – sauf qu'ici la cible est la logique et les permissions d'une compétence d'agent IA.
Le problème qu'elle résout
Les compétences IA tierces non vérifiées deviennent un casse-tête croissant pour les entreprises qui construisent des systèmes basés sur des agents. Une compétence qui semble inoffensive – par exemple, un organisateur de calendrier – pourrait exfiltrer des e-mails ou injecter des invites malveillantes. La plateforme de Certik ne se contente pas de signaler les problèmes ; elle fournit un score de risque afin que les développeurs puissent décider s'ils font confiance à la compétence ou la bloquent.
Certik n'a pas précisé quelles plateformes d'agents IA ou places de marché l'outil prend en charge en premier. Ce détail reste manquant. L'entreprise n'a pas non plus publié de tarifs ni de démo publique. Mais le lancement du produit indique que l'industrie de la sécurité commence à traiter les agents IA comme une surface d'attaque distincte – qui nécessite son propre type de protection.
