Генеральный директор CertiK Ronghui Gu бьет тревогу по поводу поспешного развертывания AI-агентов в промышленных масштабах. В недавнем заявлении Гу предупредил, что широкое использование этих автономных систем без надлежащих мер защиты может спровоцировать катастрофы в области безопасности, особенно при обработке конфиденциальных личных данных и цифровых активов.
Почему предупреждение актуально сейчас
AI-агенты — программные программы, действующие самостоятельно от имени пользователей, — интегрируются повсеместно: от службы поддержки до криптовалютных кошельков. Однако Гу, чья компания специализируется на безопасности блокчейна и смарт-контрактов, утверждает, что скорость внедрения опережает разработку мер безопасности, необходимых для их сдерживания. Он особо отметил риск несанкционированного доступа, если агенты не будут должным образом изолированы во время тестирования.
Без изоляции один скомпрометированный агент может раскрыть миллионы записей пользователей или опустошить цифровые кошельки. Гу не упомянул конкретных инцидентов, но его замечания прозвучали на фоне гонки компаний по внедрению AI-агентов в финансовые системы и системы обработки персональных данных.
Изоляция как защитная мера
Гу рекомендует разработчикам помещать AI-агентов в отдельные изолированные среды во время тестирования. Такой подход «песочницы» предотвращает доступ агентов к рабочим базам данных, закрытым ключам или другой чувствительной инфраструктуре до полной проверки их поведения. «Массовое развертывание AI-агентов несет значительные риски», — заявил Гу, призывая команды рассматривать каждого агента как потенциальный вектор угрозы до подтверждения его безопасности.
Эта рекомендация перекликается с уже распространенными практиками в сфере программной безопасности — например, запуск непроверенного кода в виртуальных машинах, — но применяется к уникальным вызовам автономного ИИ. Поскольку агенты могут действовать самостоятельно, уязвимость, использованная во время тестирования, может привести к реальному ущербу, если агент имеет даже частичный доступ к сети.
С чем сталкивается индустрия
Пока не существует универсального стандарта тестирования AI-агентов. Многие компании развертывают их непосредственно в рабочей среде с минимальными ограничениями, делая ставку на то, что преимущества перевешивают риски. Предупреждение Гу говорит о том, что такая ставка может оказаться ошибочной. Он не назвал конкретные компании или продукты, но намек очевиден: индустрия безопасности должна наверстать упущенное, прежде чем агенты станут повсеместными.
Сама CertiK создала инструменты для аудита смарт-контрактов и блокчейн-систем, и призыв Гу к изоляции может сигнализировать о более широком движении за внедрение подобной строгости в разработке AI-агентов. Готовы ли разработчики принять эту практику, остается открытым вопросом.
Послание Гу прямолинейно: тестируйте агентов в «коробке», прежде чем выпускать их на живые данные. Для компаний, спешащих развернуть ИИ, эта пауза для изоляции может стать решающим фактором между полезным инструментом и дорогостоящей утечкой.
