A CertiK vezérigazgatója, Ronghui Gu riadót fúj a mesterséges intelligencia ügynökök nagyarányú telepítésének sietsége miatt. Egy nemrégiben tett nyilatkozatában Gu arra figyelmeztetett, hogy ezen autonóm rendszerek széles körű használata megfelelő biztonsági óvintézkedések nélkül biztonsági katasztrófákhoz vezethet, különösen akkor, ha érzékeny személyes adatokat és digitális eszközöket kezelnek.
Miért fontos most a figyelmeztetés
A mesterséges intelligencia ügynökök – olyan szoftverprogramok, amelyek a felhasználók nevében önállóan cselekszenek – már mindenbe beépülnek az ügyfélszolgálattól kezdve a kriptotárcákig. Gu, akinek cége a blokklánc- és okosszerződés-biztonságra specializálódott, azzal érvel, hogy a telepítés sebessége meghaladja a kordában tartásukhoz szükséges biztonsági intézkedéseket. Konkrétan rámutatott az illetéktelen hozzáférés kockázatára, ha az ügynökök nincsenek megfelelően elkülönítve a tesztelés során.
Elkülönítés nélkül egyetlen feltört ügynök milliónyi felhasználói rekordot tehet közzé, vagy digitális tárcákat üríthet ki. Gu nem említett konkrét eseményt, de megjegyzései olyan időszakban hangzottak el, amikor a vállalatok versenyeznek, hogy MI-ügynököket építsenek be pénzügyi és személyes adatokat kezelő rendszerekbe.
Az elkülönítés mint védőintézkedés
Gu azt javasolja a fejlesztőknek, hogy a tesztelés során zárják az MI-ügynököket különálló, elkülönített környezetekbe. Ez a homokozó megközelítés megakadályozza, hogy az ügynökök hozzáférjenek élő adatbázisokhoz, privát kulcsokhoz vagy más érzékeny infrastruktúrához, amíg a viselkedésüket teljes mértékben nem validálták. „Az MI-ügynökök tömeges bevezetése jelentős kockázatokkal jár” – mondta Gu, és arra szólította fel a csapatokat, hogy minden ügynököt potenciális fenyegetési vektorként kezeljenek, amíg be nem bizonyosodik, hogy biztonságos.
A javaslat visszaköszön a szoftverbiztonságban már elterjedt gyakorlatokból – mint például a nem megbízható kód futtatása virtuális gépeken –, de ezeket az autonóm MI sajátos kihívásaira alkalmazza. Mivel az ügynökök önállóan cselekedhetnek, a tesztelés során kiaknázott hiba valós károkat okozhat, ha az ügynök részleges hálózati hozzáféréssel rendelkezik.
Mivel néz szembe az iparág
Jelenleg nincs univerzális szabvány az MI-ügynökök tesztelésére. Sok vállalat minimális védőkorlátokkal közvetlenül éles környezetbe telepíti őket, arra fogadva, hogy az előnyök meghaladják a veszélyeket. Gu figyelmeztetése arra utal, hogy ez a fogadás visszaüthet. Nem nevezett meg konkrét vállalatokat vagy termékeket, de az üzenet egyértelmű: a biztonsági iparnak fel kell zárkóznia, mielőtt az ügynökök mindennapossá válnak.
A CertiK maga is épített eszközöket okosszerződések és blokklánc-rendszerek auditálására, és Gu elkülönítésre való felszólítása jelezheti, hogy hasonló szigort szeretne látni az MI-ügynökök fejlesztésében is. Az, hogy a fejlesztők alkalmazzák-e a gyakorlatot, továbbra is nyitott kérdés.
Gu üzenete egyértelmű: teszteljék az ügynököket egy dobozban, mielőtt élő adatokra engedik őket. Azon vállalatok számára, amelyek versenyeznek az MI telepítésében, ez a szünet az elkülönítésre jelentheti a különbséget egy hasznos eszköz és egy költséges adatszivárgás között.
