Certik, një firmë sigurie blockchain, lançoi më 27 maj një platformë të re që e quan 'anti-virus për agjentët e AI.' Mjeti është projektuar për të kapur rreziqet që fshihen brenda aftësive të AI të palëve të treta — shtesat e ngjashme me shtojcat që zgjerojnë atë që mund të bëjë një agjent AI.
Pse u ndërtua platforma
Kompania thotë se rritja e tregjeve të hapura ku zhvilluesit ngarkojnë dhe shesin aftësi të AI ka krijuar një pikë të verbër sigurie. Kushdo mund të publikojë një aftësi. Pak përdorues kontrollojnë se çfarë bën në të vërtetë kodi. Platforma e Certik synon të skanojë këto aftësi përpara se të vendosen, duke shënuar gjithçka nga rrjedhjet e të dhënave deri te dyert e fshehura të pasme.
Çfarë skanon
Platforma vlerëson sjelljen e kodit të AI të palëve të treta kundrejt një grupi kriteresh rreziku. Kjo përfshin se cilat të dhëna akseson aftësia, nëse komunikon me serverë të jashtëm dhe nëse veprimet e saj përputhen me qëllimin e reklamuar. Certik e krahason procesin me mënyrën se si softueri tradicional antivirus inspekton skedarët për malware — vetëm se këtu objektivi është logjika dhe lejet e një aftësie agjenti AI.
Problemi që zgjidh
Aftësitë e AI të palëve të treta të paverifikuara janë një dhimbje koke në rritje për kompanitë që ndërtojnë sisteme të bazuara në agjentë. Një aftësi që duket e padëmshme — për shembull, një organizues kalendari — mund të nxjerrë jashtë emaile ose të injektojë prompte keqdashëse. Platforma e Certik nuk shënon vetëm problemet; ajo ofron një pikë rreziku në mënyrë që zhvilluesit të vendosin nëse duhet t'i besojnë aftësisë apo ta bllokojnë atë.
Certik nuk ka thënë se cilat platforma ose tregje agjentesh AI mbështet mjeti në radhë të parë. Ky detaj ende mungon. Kompania gjithashtu nuk ka publikuar çmime ose një demo publike. Por nisja e produktit sinjalizon se industria e sigurisë po fillon t'i trajtojë agjentët e AI si një sipërfaqe sulmi të veçantë — që ka nevojë për llojin e vet të mbrojtjes.
