Генеральний директор CertiK Ронгуй Гу б'є на сполох через поспішне розгортання AI-агентів у великих масштабах. У своїй нещодавній заяві Гу попередив, що широке використання таких автономних систем без належних запобіжних заходів може спричинити катастрофи в кібербезпеці, особливо при роботі з чутливими персональними даними та цифровими активами.
Чому це попередження важливе саме зараз
AI-агенти — програмні засоби, що діють автономно від імені користувачів — впроваджуються повсюдно: від служби підтримки до криптогаманців. Але Гу, чия компанія спеціалізується на безпеці блокчейну та смарт-контрактів, стверджує, що швидкість розгортання випереджає заходи безпеки, необхідні для їх контролю. Він особливо наголосив на ризику несанкціонованого доступу, якщо агенти не будуть належним чином ізольовані під час тестування.
Без ізоляції один скомпрометований агент може викрити мільйони записів користувачів або спустошити цифрові гаманці. Гу не вказав на конкретні випадки, але його зауваження з'явилися на тлі того, як компанії змагаються за вбудовування AI-агентів у фінансові системи та системи персональних даних.
Ізоляція як запобіжний захід
Гу рекомендує розробникам ізолювати AI-агентів у окремі закриті середовища під час тестування. Такий підхід «пісочниці» запобігає доступу агентів до робочих баз даних, приватних ключів або іншої чутливої інфраструктури, поки їхню поведінку не буде повністю перевірено. «Масове розгортання AI-агентів створює значні ризики», — сказав Гу, закликаючи команди ставитися до кожного агента як до потенційної загрози, поки його безпека не буде доведена.
Ця рекомендація перегукується з практиками, уже поширеними в безпеці програмного забезпечення — такими, як запуск неперевіреного коду у віртуальних машинах — але застосовує їх до унікальних викликів автономного AI. Оскільки агенти можуть діяти самостійно, хиба, використана під час тестування, може спричинити ланцюгову реакцію з реальними наслідками, якщо агент має хоча б частковий доступ до мережі.
З чим стикається індустрія
Наразі не існує універсального стандарту тестування AI-агентів. Багато компаній розгортають їх безпосередньо в робочому середовищі з мінімальним рівнем захисту, вважаючи, що переваги переважають ризики. Попередження Гу свідчить про те, що така ставка може не виправдати себе. Він не називав конкретних компаній чи продуктів, але підтекст очевидний: індустрії безпеки необхідно надолужити згаяне, поки агенти не стали повсюдними.
Сама CertiK створила інструменти для аудиту смарт-контрактів і блокчейн-систем, і заклик Гу до ізоляції може свідчити про ширшу тенденцію запровадження подібних суворих вимог у розробці AI-агентів. Чи візьмуть розробники цю практику на озброєння, залишається відкритим питанням.
Послання Гу просте: тестуйте агентів у закритому середовищі, перш ніж випускати їх на живі дані. Для компаній, які поспішають розгортати AI, ця пауза для ізоляції може стати різницею між корисним інструментом і дорогим витоком даних.
