CertiK:n toimitusjohtaja Ronghui Gu on nostanut hälytysmerkkejä tekoälyagenttien kiirehtimisestä laajaan käyttöönottoon. Tuoreessa lausunnossaan Gu varoitti, että näiden autonomisten järjestelmien laajamittainen käyttö ilman asianmukaisia suojatoimia voi aiheuttaa tietoturvakatastrofeja, erityisesti käsiteltäessä arkaluonteisia henkilötietoja ja digitaalisia varoja.
Miksi varoitus on nyt ajankohtainen
Tekoälyagentit – käyttäjän puolesta itsenäisesti toimivat ohjelmat – integroidaan kaikkeen asiakaspalvelusta kryptolompakoihin. Mutta Gu, jonka yritys erikoistuu lohkoketju- ja älysopimustietoturvaan, väittää, että käyttöönoton nopeus on ylittämässä niiden hallintaan tarvittavat tietoturvatoimet. Hän viittasi erityisesti luvattoman käytön riskiin, jos agentteja ei eristetä kunnolla testauksen aikana.
Ilman eristystä yksi vaarantunut agentti voisi paljastaa miljoonia käyttäjätietueita tai tyhjentää digitaalisia lompakoita. Gu ei maininnut mitään tiettyä tapausta, mutta hänen lausuntonsa tulevat aikana, jolloin yritykset kilpailevat upottaakseen tekoälyagentteja taloudellisiin ja henkilötietojärjestelmiin.
Eristys suojatoimena
Gu suosittelee, että kehittäjät lukitsevat tekoälyagentit erillisiin, suljettuihin ympäristöihin testauksen ajaksi. Tämä hiekkalaatikointimenetelmä estää agentteja pääsemästä käsiksi live-tietokantoihin, yksityisavaimiin tai muuhun arkaluonteiseen infrastruktuuriin ennen kuin niiden käyttäytyminen on täysin varmennettu. ”Tekoälyagenttien massiivinen käyttöönotto aiheuttaa merkittäviä riskejä”, Gu sanoi ja kehotti tiimejä kohtelemaan jokaista agenttia mahdollisena uhkavektorina, kunnes se on todistettu turvalliseksi.
Suositus heijastaa jo ohjelmistoturvallisuudessa yleisiä käytäntöjä – kuten luottamattoman koodin suorittamista virtuaalikoneissa – mutta soveltaa niitä autonomisen tekoälyn ainutlaatuisiin haasteisiin. Koska agentit voivat toimia itsenäisesti, testauksen aikana hyväksikäytetty virhe voi johtaa todellisen maailman vahinkoihin, jos agentilla on edes osittainen verkkoyhteys.
Mitä toimiala kohtaa
Tällä hetkellä ei ole olemassa yleistä standardia tekoälyagenttien testaamiselle. Monet yritykset ottavat agentteja käyttöön suoraan tuotantoympäristöön minimaalisilla suojakaiteilla, luottaen siihen, että hyödyt voittavat vaarat. Gun varoitus viittaa siihen, että tämä veto voi kääntyä itseä vastaan. Hän ei maininnut mitään tiettyjä yrityksiä tai tuotteita, mutta viesti on selvä: tietoturva-alan on saavutettava taso ennen kuin agenteista tulee kaikkialla läsnä olevia.
CertiK itse on rakentanut työkaluja älysopimusten ja lohkoketjujärjestelmien tarkastamiseen, ja Gun vaatimus eristyksestä saattaa ennakoida laajempaa pyrkimystä samanlaiseen tarkkuuteen tekoälyagenttien kehityksessä. Onko kehittäjillä halua omaksua käytäntö, jää avoimeksi kysymykseksi.
Gun viesti on suoraviivainen: testaa agentit laatikossa ennen kuin päästät ne valloilleen live-tietoihin. Yrityksille, jotka kiirehtivät ottamaan tekoälyä käyttöön, se testaustauko voi olla ero hyödyllisen työkalun ja kalliin tietomurron välillä.
