Jeremy Allaire, administrerende direktør for Circle, forudser, at milliarder af AI-agenter vil være i drift inden for fem år. Forskere opfordrer dog til forsigtighed og påpeger, at disse AI-agenter skal behandles som upålidelige systemer. De to udsagn, der kommer fra forskellige hjørner af teknologiverdenen, tegner en skarp kontrast mellem hurtig udrulning og sikkerhedsadvarsler.
Administrerende direktørs forudsigelse
Allaire fremsatte forudsigelsen om omfanget af AI-agenter i den nærmeste fremtid. Selvom han ikke specificerede konkrete anvendelsesområder eller den nødvendige infrastruktur til at understøtte en sådan vækst, tyder forudsigelsen fra lederen af et større betalingsselskab på en bred tillid til teknologiens ekspansion. Circle er bedst kendt for sit arbejde med digitale valutaer og blockchain, men Allaires kommentarer peger på en tro på, at AI-agenter vil blive allestedsnærværende på tværs af industrier.
Forskeres advarsel
En gruppe forskere har uafhængigt heraf udsendt en klar advarsel: AI-agenter bør ikke blive betroet som standard. De argumenterer for, at det er nødvendigt at behandle disse systemer som upålidelige for at forhindre potentiel skade eller misbrug. Forskerne specificerede ikke, hvilke typer AI-agenter – fra simple chatbots til mere autonome beslutningstagere – der udgør den største risiko, men den generelle anbefaling signalerer en dyb bekymring blandt dem, der studerer feltet.
Kontrasterende syn på samme horisont
Begge udsagn deler en tidsramme: de næste fem år. Én ser milliarder af agenter i drift; den anden siger, at hver eneste af dem bør betragtes med mistænksomhed. Spændingen er ikke ny inden for teknologi – hurtig vedtagelse overhaler ofte sikkerhedstænkning – men den enorme skala, Allaire forudser, gør forskernes forsigtighed særlig relevant. Hvis milliarder af agenter faktisk bliver implementeret, ville det kræve en massiv nytænkning af, hvordan de bygges, overvåges og reguleres, hvis hver enkelt skal behandles som upålidelig.
Ingen industriel instans eller tilsynsmyndighed har endnu udstedt bindende regler for tillid til AI-agenter. Afstanden mellem Allaires optimistiske tidslinje og forskernes sikkerhedsorienterede holdning fremhæver en debat, der sandsynligvis vil intensiveres, når femårsmærket nærmer sig.
