Jeremy Allaire, CEO van Circle, voorspelt dat er binnen vijf jaar miljarden AI-agenten zullen opereren. Onderzoekers daarentegen dringen aan op voorzichtigheid en stellen dat deze AI-agenten als onbetrouwbare systemen moeten worden behandeld. De twee uitspraken, afkomstig uit verschillende hoeken van de techwereld, schetsen een scherp contrast tussen snelle inzet en beveiligingsvoorzichtigheid.
De voorspelling van de CEO
Allaire deed de voorspelling over de omvang van AI-agenten op korte termijn. Hoewel hij geen specifieke toepassingsgevallen of de benodigde infrastructuur toelichtte, suggereert de voorspelling van het hoofd van een groot betaalbedrijf een breed vertrouwen in de uitbreiding van de technologie. Circle staat vooral bekend om zijn werk op het gebied van digitale valuta en blockchain, maar Allaire's opmerkingen wijzen op de overtuiging dat AI-agenten overal in de bedrijfstakken zullen voorkomen.
Waarschuwing van onderzoekers
Onafhankelijk hiervan heeft een groep onderzoekers een duidelijke waarschuwing uitgegeven: AI-agenten mogen niet standaard worden vertrouwd. Ze betogen dat het nodig is deze systemen als onbetrouwbaar te beschouwen om mogelijke schade of misbruik te voorkomen. De onderzoekers specificeerden niet welke soorten AI-agenten — van eenvoudige chatbots tot meer autonome besluitvormers — het grootste risico vormen, maar de algemene aanbeveling toont een diepe bezorgdheid onder hen die het vakgebied bestuderen.
Tegenstrijdige standpunten over dezelfde horizon
Beide uitspraken delen een tijdsraam: de komende vijf jaar. De ene voorziet miljarden agenten in bedrijf; de andere stelt dat elk van hen met argwaan moet worden bekeken. De spanning is niet nieuw in de technologie — snelle adoptie gaat vaak vooruit op beveiligingsdenken — maar de enorme omvang die Allaire voorspelt maakt de voorzichtigheid van de onderzoekers extra scherp. Als er inderdaad miljarden agenten worden ingezet, zou het behandelen van elk als onbetrouwbaar een grondige heroverweging vereisen van hoe ze worden gebouwd, gecontroleerd en gereguleerd.
Geen enkele brancheorganisatie of regulator heeft tot nu toe bindende regels uitgegeven voor de vertrouwenswaarde van AI-agenten. De kloof tussen Allaire's optimistische tijdschema en de veiligheid-als-eerste stand van de onderzoekers benadrukt een debat dat waarschijnlijk zal escaleren naarmate de vijfjarige termijn nadert.
