Certik, một công ty bảo mật blockchain, đã ra mắt một nền tảng mới vào ngày 27 tháng 5 mà họ gọi là 'phần mềm diệt virus cho AI agent'. Công cụ này được thiết kế để phát hiện các rủi ro ẩn bên trong các kỹ năng AI của bên thứ ba — các tiện ích bổ sung dạng plug-in giúp mở rộng khả năng của AI agent.
Tại sao nền tảng này được xây dựng
Công ty cho biết sự phát triển của các chợ mở nơi nhà phát triển tải lên và bán các kỹ năng AI đã tạo ra một điểm mù về bảo mật. Bất kỳ ai cũng có thể xuất bản một kỹ năng. Rất ít người dùng kiểm tra mã thực sự làm gì. Nền tảng của Certik nhằm mục đích quét các kỹ năng đó trước khi chúng được triển khai, đánh dấu mọi thứ từ rò rỉ dữ liệu đến cửa hậu ẩn.
Những gì nó quét
Nền tảng đánh giá hành vi của mã AI bên thứ ba dựa trên một bộ tiêu chí rủi ro. Điều này bao gồm dữ liệu mà kỹ năng truy cập, liệu nó có giao tiếp với máy chủ bên ngoài không, và liệu hành động của nó có khớp với mục đích quảng cáo hay không. Certik so sánh quy trình này với cách phần mềm diệt virus truyền thống kiểm tra tệp để tìm phần mềm độc hại — chỉ khác là ở đây mục tiêu là logic và quyền hạn của một kỹ năng AI agent.
Vấn đề mà nó giải quyết
Các kỹ năng AI của bên thứ ba chưa được kiểm duyệt đang là một cơn đau đầu ngày càng tăng đối với các công ty xây dựng hệ thống dựa trên agent. Một kỹ năng trông có vẻ vô hại — ví dụ, một công cụ sắp xếp lịch — có thể đánh cắp email hoặc tiêm các prompt độc hại. Nền tảng của Certik không chỉ đánh dấu vấn đề; nó cung cấp điểm rủi ro để nhà phát triển có thể quyết định tin tưởng kỹ năng đó hay chặn nó.
Certik chưa cho biết nền tảng này hỗ trợ các nền tảng AI agent hoặc chợ nào trước tiên. Chi tiết đó vẫn còn thiếu. Công ty cũng chưa công bố giá cả hoặc bản demo công khai. Nhưng việc ra mắt sản phẩm cho thấy ngành công nghiệp bảo mật đang bắt đầu coi AI agent như một bề mặt tấn công riêng biệt — một bề mặt cần loại bảo vệ riêng.
