CertiK CEO Ronghui Gu lyder alarm om den hastige udrulning af AI-agenter i stor skala. I en nylig erklæring advarer Gu mod, at den bredt udbredte anvendelse af disse autonome systemer uden passende sikkerhedsforanstaltninger kan udløse sikkerhedskatastrofer, især når der arbejdes med følsom personlig data og digitale aktiver.
Hvorfor advarslen er relevant nu
AI-agenter – softwareprogrammer, der handler uafhængigt på vegne af brugere – integreres nu i alt fra kundeservice til crypto-lommer. Men Gu, hvis virksomhed specialiserer sig i blockchain- og smartkontrakt-sikkerhed, mener, at hastigheden i udrulningen overgår de sikkerhedsforanstaltninger, der er nødvendige for at begrænse dem. Han fremhævede specifikt risikoen for uautoriseret adgang, hvis agenter ikke isoleres korrekt under test.
Uden isolation kan en enkelt kompromitteret agent udsætte millioner af brugeroplysninger for risiko eller tømme digitale lommer. Gu nævnte ikke nogen specifik incident, men hans udtalelser kommer, mens virksomheder skynder sig med at integrere AI-agenter i finansielle og personlige datasystemer.
Isolation som sikkerhedsforanstaltning
Gu anbefaler, at udviklere låser AI-agenter inde i adskilte, afgrænsede miljøer under test. Denne sandbox-metode forhindrer agenter i at få adgang til live-databaser, private nøgler eller anden følsom infrastruktur, indtil deres adfærd er fuldt valideret. »Masseudrulning af AI-agenter indebærer betydelige risici,« sagde Gu og opfordrede hold til at behandle hver agent som en potentiel trusselfaktor, indtil sikkerhed er bevidst.
Anbefalingen genlyder praksis, der allerede er almindelig inden for software-sikkerhed – som at køre kode, der ikke kan stoles på, i virtuelle maskiner – men tilpasses de unikke udfordringer, der er forbundet med autonome AI. Da agenter kan handle på eget initiativ, kan en fejl, der udnyttes under test, føre til reelle skader, hvis agenten har endda delvist netværksadgang.
Hvad branchen står overfor
Der findes pt. ingen universel standard for test af AI-agenter. Flere virksomheder udruller dem direkte i produktion med minimale sikkerhedsforanstaltninger, idet de satser på, at fordelene vejer op imod farene. Gu’s advarsel antyder, at denne satsning kan gå galt. Han nævnte ikke specifikke virksomheder eller produkter, men budskabet er klart: sikkerhedsbranchen skal levere, inden agenter bliver udbredte.
CertiK har selv udviklet værktøjer til at auditere smartkontrakter og blockchain-systemer, og Gu’s opfordring til isolation kan signalere en bredere bestræbelse på at gennemføre tilsvarende strenge krav i udviklingen af AI-agenter. Om udviklere vil adoptere denne praksis, er stadig et åbent spørgsmål.
Gu’s budskab er klart: test agenter i en boks, inden de bringes i brug med live-data. For virksomheder, der skynder sig med at udrulle AI, kan denne pause til isolation være forskellen mellem et nyttigt værktøj og en kostbar sikkerhedshækkelse.
