CEO-ul CertiK, Ronghui Gu, dă alarma cu privire la graba de a implementa agenți AI la scară largă. Într-o declarație recentă, Gu a avertizat că utilizarea pe scară largă a acestor sisteme autonome fără măsuri de siguranță adecvate ar putea declanșa catastrofe de securitate, în special în gestionarea datelor personale sensibile și a activelor digitale.
De ce este importantă această avertizare acum
Agentii AI — programe software care acționează independent în numele utilizatorilor — sunt integrate în totul, de la serviciul clienți până la portofelele cripto. Dar Gu, a cărui firmă se specializează în securitatea blockchain-ului și a contractelor inteligente, susține că viteza de implementare depășește măsurile de securitate necesare pentru a le controla. A evidențiat în special riscul accesului neautorizat dacă agenții nu sunt izolați corespunzător în timpul testării.
Fără izolare, un singur agent compromis ar putea expune milioane de înregistrări ale utilizatorilor sau epuiza portofelele digitale. Gu nu a specificat niciun incident particular, dar observațiile sale apar în momentul în care companiile se grăbesc să integreze agenți AI în sistemele financiare și cele ce gestionează date personale.
Izolarea ca măsură de siguranță
Gu recomandă ca dezvoltatorii să blocheze agenții AI în medii separate și închise în timpul testării. Această abordare de tip sandbox împiedică agenții să ajungă la baze de date active, chei private sau alte infrastructuri sensibile până când comportamentul lor este pe deplin validat. „Implementarea la scară largă a agenților AI prezintă riscuri semnificative,” a declarat Gu, îndemnând echipele să trateze fiecare agent ca pe un vector potențial de amenințare până când siguranța acestuia este dovedită.
Recomandarea reflectă practici deja comune în securitatea software-ului — cum ar fi rularea codului de neîncredere în mașini virtuale — dar le aplică provocărilor unice ale IA autonome. Deoarece agenții pot acționa singuri, o vulnerabilitate exploatată în timpul testării ar putea duce la daune reale dacă agentul are chiar și un acces parțial la rețea.
Cu ce se confruntă industria
Până în prezent, nu există un standard universal pentru testarea agenților AI. Multe companii îi implementează direct în producție cu măsuri minimale de protecție, pariezând că beneficiile depășesc riscurile. Avertizarea lui Gu sugerează că acest pariu ar putea avea efect contrar. Nu a menționat nicio companie sau produs specific, dar implicația este clară: industria securității trebuie să se adapteze înainte ca agenții să devină omniprezenți.
CertiK a construit deja unelte pentru a audita contractele inteligente și sistemele blockchain, iar apelul lui Gu pentru izolare poate semnala o tendință mai largă de a aplica aceeași rigurozitate în dezvoltarea agenților AI. Dacă dezvoltatorii vor adopta această practică rămâne o întrebare deschisă.
Mesajul lui Gu este clar: testați agenții într-un mediu izolat înainte de a-i elibera pe datele reale. Pentru companiile care se grăbesc să implementeze AI, această pauză pentru izolare ar putea fi diferența dintre un instrument util și o încălcare costisitoare.
