CertiK-sjef Ronghui Gu advarer mot den raske utruleringen av AI-agenter i stor skala. I en nylig erklæring advarer Gu mot at utbredt bruk av disse autonome systemene uten passende sikkerhetsforanstaltninger kan utløse sikkerhetskatastrofer, spesielt når de håndterer følsom personlig data og digitale aktiva.
Hvorfor advarselen er viktig nå
AI-agenter – programvare som virker uavhengig på vegne av brukere – integreres nå i alt fra kundeservice til kryptolommer. Men Gu, hvis selskap spesialiserer seg på sikkerhet for blockchain og smartkontrakter, mener at utruleringens hastighet løper foran de sikkerhetsforanstaltningene som trengs for å kontrollere dem. Han peker spesielt på risikoen for uautorisert tilgang dersom agenter ikke isoleres korrekt under testing.
Uten isolasjon kan en enkelt kompromittert agent utsette millioner av brukeropplysninger eller tømme digitale lommer. Gu nevnte ikke noe spesifikt tilfelle, men hans uttalelser kommer samtidig som selskaper skynder seg med å integrere AI-agenter i finansielle og personopplysningsystemer.
Isolering som sikkerhetsforanstaltning
Gu anbefaler at utviklere låser AI-agenter inne i separate, avskårne miljøer under testing. Denne sandbox-metoden forhindrer agenter i å nå aktive databaser, private nøkler eller annen følsom infrastruktur før deres oppførsel er fullstendig validert. «Storskala utrulering av AI-agenter innebærer betydelige risikoer,» sa Gu, og oppfordret team til å behandle hver agent som en potensiell trussel inntil den er bevist trygg.
Anbefalingen reflekterer praksiser som allerede er vanlig i programvaresikkerhet – som å kjøre upålitelig kode i virtuelle maskiner – men tilpasser dem de unike utfordringene med autonome AI. Siden agenter kan handle på egen hånd, kan en feil som utnyttes under testing føre til reelle skader dersom agenten har tilgang til deler av nettverket.
Hva bransjen står overfor
Foreløpig finnes det ingen universell standard for testing av AI-agenter. Mange selskaper utrullerer dem direkte i produksjon med minimale sikkerhetsforanstaltninger, og satser på at fordelene veier opp mot farene. Gu’s advarsel antyder at dette kan gå galt. Han nevnte ikke noen spesifikke selskaper eller produkter, men implikasjonen er klar: sikkerhetsbransjen må ta igjen tapt terreng før agenter blir overalt.
CertiK har selv utviklet verktøy for å auditere smartkontrakter og blockchain-systemer, og Gu’s kall til isolering kan signalisere en bredere innsats for tilsvarende strenghet i utviklingen av AI-agenter. Om utviklere vil adoptere denne praksisen er fortsatt et åpent spørsmål.
Gu’s budskap er enkelt: test agenter i en boks før de slippes løs på sanntidsdata. For selskaper som skynder seg med å utrulle AI, kan denne pausen for isolering være forskjellen mellom et nyttig verktøy og en kostbar sikkerhetsbrudd.
