Certik, una empresa de seguridad blockchain, lanzó el 27 de mayo una nueva plataforma que denomina 'antivirus para agentes de IA'. La herramienta está diseñada para detectar riesgos ocultos dentro de habilidades de IA de terceros, los complementos tipo plugin que amplían lo que un agente de IA puede hacer.
Por qué se creó la plataforma
La empresa afirma que el auge de los mercados abiertos donde los desarrolladores cargan y venden habilidades de IA ha creado un punto ciego de seguridad. Cualquiera puede publicar una habilidad. Pocos usuarios revisan lo que realmente hace el código. La plataforma de Certik busca escanear esas habilidades antes de que se implementen, señalando desde fugas de datos hasta puertas traseras ocultas.
Qué escanea
La plataforma evalúa el comportamiento del código de IA de terceros frente a un conjunto de criterios de riesgo. Esto incluye qué datos accede la habilidad, si se comunica con servidores externos y si sus acciones coinciden con su propósito anunciado. Certik compara el proceso con la forma en que el software antivirus tradicional inspecciona archivos en busca de malware, solo que aquí el objetivo es la lógica y los permisos de una habilidad de agente de IA.
El problema que resuelve
Las habilidades de IA de terceros no examinadas son un dolor de cabeza creciente para las empresas que construyen sistemas basados en agentes. Una habilidad que parece inofensiva —por ejemplo, un organizador de calendario— podría extraer correos electrónicos o inyectar indicaciones maliciosas. La plataforma de Certik no solo señala problemas; proporciona una puntuación de riesgo para que los desarrolladores decidan si confiar en la habilidad o bloquearla.
Certik no ha dicho qué plataformas o mercados de agentes de IA admite primero la herramienta. Ese detalle aún falta. La empresa tampoco ha publicado precios ni una demostración pública. Pero el lanzamiento del producto indica que la industria de la seguridad está comenzando a tratar a los agentes de IA como una superficie de ataque distinta, una que necesita su propio tipo de protección.
