Jeremy Allaire, administrerende direktør i Circle, spår at milliarder av AI-agenter vil være i drift innen fem år. Forskere maner imidlertid til forsiktighet og uttaler at disse AI-agentene må behandles som upålitelige systemer. De to uttalelsene, som kommer fra ulike hjørner av teknologiverdenen, tegner et skarpt kontrast mellom rask utrulling og sikkerhetsmessig forsiktighet.
Sjefens spådom
Allaire kom med spådommen om omfanget av AI-agenter i nær fremtid. Selv om han ikke gikk i detalj om spesifikke bruksområder eller infrastrukturen som trengs for å støtte en slik vekst, tyder spådommen fra lederen av et stort betalingsselskap på bred tillit til teknologiens ekspansjon. Circle er mest kjent for sitt arbeid med digitale valutaer og blokkjede, men Allaires kommentarer peker på en tro på at AI-agenter vil bli allestedsnærværende på tvers av bransjer.
Forskernes advarsel
Separat har en gruppe forskere kommet med en klar advarsel: AI-agenter bør ikke være tillitsfulle som standard. De argumenterer for at det er nødvendig å behandle disse systemene som upålitelige for å forhindre potensiell skade eller misbruk. Forskerne spesifiserte ikke hvilke typer AI-agenter – fra enkle chatroboter til mer autonome beslutningstakere – som utgjør størst risiko, men den generelle anbefalingen signaliserer en dyp bekymring blant dem som studerer feltet.
Kontrasterende syn på samme horisont
Begge uttalelsene deler en tidsramme: de neste fem årene. Én ser milliarder av agenter i drift; den andre sier at hver eneste av dem bør betraktes med mistenksomhet. Spenningen er ikke ny for teknologi – rask adopsjon overgår ofte sikkerhetstenkning – men den enorme skalaen Allaire spår gjør forskernes forsiktighet spesielt påtrengende. Hvis milliarder av agenter faktisk utplasseres, vil det å behandle hver enkelt som upålitelig kreve en massiv omtanke for hvordan de bygges, overvåkes og styres.
Ingen enkelt bransjeorgan eller reguleringsmyndighet har ennå utstedt bindende regler for tillit til AI-agenter. Gapet mellom Allaires optimistiske tidslinje og forskernes sikkerhetsførst-holdning fremhever en debatt som sannsynligvis vil intensiveres når femårsmerket nærmer seg.
