Ronghui Gu, CEO i CertiK, po ngre alarmin për nxitjen për të vendosur agjentë të inteligjencës artificiale (IA) në shkallë të gjerë. Në një deklaratë të fundit, Gu paralajmëroi se përdorimi i gjerë i këtyre sistemeve autonome pa mbrojtje të duhura mund të shkaktojë katastrofa sigurie, veçanërisht kur trajtohen të dhëna të ndjeshme personale dhe asete dixhitale.
Pse paralajmërimi ka rëndësi tani
Agjentët e IA—programe softuerike që veprojnë në mënyrë të pavarur në emër të përdoruesve—po integrohen në gjithçka, nga shërbimi ndaj klientit deri te kuletat kripto. Por Gu, firma e të cilit specializohet në sigurinë e blockchain dhe kontratave inteligjente, argumenton se shpejtësia e vendosjes po tejkalon masat e sigurisë të nevojshme për t'i kontrolluar ato. Ai veçanërisht theksoi rrezikun e aksesit të paautorizuar nëse agjentët nuk izolohen siç duhet gjatë testimit.
Pa izolim, një agjent i vetëm i komprometuar mund të ekspozojë miliona të dhëna përdoruesish ose të zbrazë kuletat dixhitale. Gu nuk përmendi ndonjë incident të veçantë, por komentet e tij vijnë në një kohë kur kompanitë po garojnë për të integruar agjentët e IA në sistemet financiare dhe ato të të dhënave personale.
Izolimi si masë mbrojtëse
Gu rekomandon që zhvilluesit të mbyllin agjentët e IA brenda mjediseve të veçanta dhe të izoluara gjatë testimit. Kjo qasje sandboxing parandalon që agjentët të arrijnë në bazat e të dhënave aktive, çelësat privatë ose infrastrukturë tjetër të ndjeshme derisa sjellja e tyre të jetë plotësisht e verifikuar. “Vendosja masive e agjentëve të IA paraqet rreziqe të konsiderueshme,” tha Gu, duke bërë thirrje që ekipet ta trajtojnë çdo agjent si një kërcënim potencial derisa të provohet i sigurt.
Rekomandimi përputhet me praktikat tashmë të zakonshme në sigurinë e softuerit—si p.sh. ekzekutimi i kodit të pabesueshëm në makina virtuale—por i aplikon ato në sfidat unike të IA-së autonome. Për shkak se agjentët mund të veprojnë vetë, një defekt i shfrytëzuar gjatë testimit mund të shkaktojë dëme reale nëse agjenti ka qasje të pjesshme në rrjet.
Çfarë përballet industria
Për momentin, nuk ekziston asnjë standard universal për testimin e agjentëve të IA. Shumë kompani i vendosin ato drejtpërdrejt në prodhim me mbrojtje minimale, duke vënë bast se përfitimet tejkalojnë rreziqet. Paralajmërimi i Gu-së sugjeron se ky bast mund të dështojë. Ai nuk përmendi kompani ose produkte specifike, por nënkuptimi është i qartë: industria e sigurisë duhet të arrijë përpara se agjentët të bëhen të kudondodhur.
Vetë CertiK ka ndërtuar mjete për auditimin e kontratave inteligjente dhe sistemeve blockchain, dhe thirrja e Gu-së për izolim mund të sinjalizojë një shtytje më të gjerë për rigorozitet të ngjashëm në zhvillimin e agjentëve të IA. Nëse zhvilluesit do ta adoptojnë praktikën, mbetet një pyetje e hapur.
Mesazhi i Gu-së është i drejtpërdrejtë: testoni agjentët në një kuti para se t'i lëshoni në të dhëna reale. Për kompanitë që nxitojnë të vendosin IA, ajo ndalesë për izolim mund të jetë ndryshimi midis një mjeti të dobishëm dhe një shkeljeje të kushtueshme.
