Certik, ein Blockchain-Sicherheitsunternehmen, hat am 27. Mai eine neue Plattform vorgestellt, die es als 'Virenschutz für KI-Agenten' bezeichnet. Das Tool soll Risiken aufspüren, die in KI-Fähigkeiten Dritter lauern – den plug-in-artigen Erweiterungen, die die Möglichkeiten eines KI-Agenten erweitern.
Warum die Plattform entwickelt wurde
Das Unternehmen erklärt, dass der Aufstieg offener Marktplätze, auf denen Entwickler KI-Fähigkeiten hochladen und verkaufen, einen Sicherheitsblindfleck geschaffen hat. Jeder kann eine Fähigkeit veröffentlichen. Nur wenige Benutzer prüfen, was der Code tatsächlich tut. Die Plattform von Certik zielt darauf ab, diese Fähigkeiten zu scannen, bevor sie bereitgestellt werden, und dabei alles von Datenlecks bis hin zu versteckten Hintertüren zu kennzeichnen.
Wonach es sucht
Die Plattform bewertet das Verhalten von KI-Code Dritter anhand einer Reihe von Risikokriterien. Dazu gehört, auf welche Daten die Fähigkeit zugreift, ob sie mit externen Servern kommuniziert und ob ihre Aktionen dem beworbenen Zweck entsprechen. Certik vergleicht den Prozess mit der Art und Weise, wie herkömmliche Antivirensoftware Dateien auf Malware untersucht – nur dass hier die Logik und Berechtigungen einer KI-Agenten-Fähigkeit das Ziel sind.
Das Problem, das es löst
Nicht geprüfte KI-Fähigkeiten Dritter sind ein wachsendes Problem für Unternehmen, die agentenbasierte Systeme entwickeln. Eine harmlos wirkende Fähigkeit – etwa ein Kalender-Organizer – könnte E-Mails exfiltrieren oder schädliche Eingabeaufforderungen einschleusen. Die Plattform von Certik markiert nicht nur Probleme; sie liefert eine Risikobewertung, sodass Entwickler entscheiden können, ob sie der Fähigkeit vertrauen oder sie blockieren.
Certik hat nicht mitgeteilt, welche KI-Agenten-Plattformen oder Marktplätze das Tool zuerst unterstützt. Dieses Detail fehlt noch. Das Unternehmen hat auch keine Preise oder eine öffentliche Demo veröffentlicht. Aber die Produkteinführung signalisiert, dass die Sicherheitsbranche beginnt, KI-Agenten als eine eigenständige Angriffsfläche zu betrachten – eine, die ihren eigenen Schutz benötigt.
