Ronghui Gu, dyrektor generalny CertiK, bije na alarm w związku z pośpiesznym wdrażaniem agentów AI na masową skalę. W swoim niedawnym oświadczeniu Gu ostrzegł, że powszechne stosowanie tych autonomicznych systemów bez odpowiednich zabezpieczeń może wywołać katastrofy bezpieczeństwa, szczególnie w przypadku przetwarzania wrażliwych danych osobowych i aktywów cyfrowych.
Dlaczego to ostrzeżenie jest ważne teraz
Agenci AI – programy działające samodzielnie w imieniu użytkowników – są integrowani z różnymi dziedzinami, od obsługi klienta po portfele kryptowalut. Gu, którego firma specjalizuje się w bezpieczeństwie blockchainów i smart kontraktów, twierdzi jednak, że tempo wdrażania przewyższa środki bezpieczeństwa niezbędne do ich kontrolowania. Wskazał on szczególnie na ryzyko nieautoryzowanego dostępu, jeśli agenci nie są odpowiednio izolowani podczas testów.
Bez izolacji pojedynczy przejęty agent mógłby ujawnić miliony rekordów użytkowników lub opróżnić portfele cyfrowe. Gu nie wskazał żadnego konkretnego incydentu, ale jego uwagi pojawiają się w momencie, gdy firmy ścigają się w osadzaniu agentów AI w systemach finansowych i systemach danych osobowych.
Izolacja jako zabezpieczenie
Gu zaleca, aby programiści zamykali agentów AI w oddzielnych, odizolowanych środowiskach podczas testów. To podejście typu sandbox (piaskownica) zapobiega dostępowi agentów do aktywnych baz danych, kluczy prywatnych lub innej wrażliwej infrastruktury, dopóki ich zachowanie nie zostanie w pełni zweryfikowane. „Masowe wdrażanie agentów AI wiąże się z poważnym ryzykiem” – powiedział Gu, wzywając zespoły do traktowania każdego agenta jako potencjalnego wektora zagrożenia, dopóki nie zostanie uznany za bezpieczny.
To zalecenie przypomina praktyki powszechnie stosowane w bezpieczeństwie oprogramowania – takie jak uruchamianie niezaufanego kodu w maszynach wirtualnych – ale odnosi je do unikalnych wyzwań związanych z autonomiczną AI. Ponieważ agenci mogą działać samodzielnie, luka wykorzystana podczas testów może przerodzić się w rzeczywiste szkody, jeśli agent ma choćby częściowy dostęp do sieci.
Co czeka branżę
Na razie nie ma uniwersalnego standardu testowania agentów AI. Wiele firm wdraża je bezpośrednio w środowisku produkcyjnym z minimalnymi zabezpieczeniami, zakładając, że korzyści przewyższają zagrożenia. Ostrzeżenie Gu sugeruje, że takie założenie może przynieść odwrotny skutek. Nie wymienił on konkretnych firm ani produktów, ale implikacja jest jasna: branża bezpieczeństwa musi dogonić rozwój, zanim agenci staną się wszechobecni.
Samo CertiK zbudowało narzędzia do audytu smart kontraktów i systemów blockchain, a wezwanie Gu do izolacji może sygnalizować szersze dążenie do podobnej dyscypliny w rozwoju agentów AI. To, czy programiści przyjmą tę praktykę, pozostaje pytaniem otwartym.
Przesłanie Gu jest proste: testuj agentów w zamkniętym środowisku, zanim wypuścisz je na prawdziwe dane. Dla firm ścigających się we wdrażaniu AI to zatrzymanie się na izolację może być różnicą między użytecznym narzędziem a kosztownym naruszeniem bezpieczeństwa.
