Jeremy Allaire, CEO di Circle, prevede che entro cinque anni opereranno miliardi di agenti AI. I ricercatori, tuttavia, invitano alla cautela, affermando che questi agenti AI devono essere trattati come sistemi non affidabili. Le due dichiarazioni, provenienti da diversi angoli del mondo tech, delineano un netto contrasto tra implementazione rapida e cautela sulla sicurezza.
La previsione del CEO
Allaire ha fatto questa previsione sulla scala degli agenti AI nel prossimo futuro. Sebbene non abbia dettagliato casi d'uso specifici o l'infrastruttura necessaria per sostenere tale crescita, la previsione del capo di una importante azienda di pagamenti suggerisce una forte fiducia nell'espansione della tecnologia. Circle è nota soprattutto per il suo lavoro nelle valute digitali e nella blockchain, ma le dichiarazioni di Allaire indicano la convinzione che gli agenti AI diventeranno onnipresenti in tutti i settori.
L'avvertimento dei ricercatori
Separatamente, un gruppo di ricercatori ha lanciato un chiaro avvertimento: gli agenti AI non dovrebbero essere considerati affidabili per impostazione predefinita. Sostengono che trattare questi sistemi come non affidabili sia necessario per prevenire potenziali danni o abusi. I ricercatori non hanno specificato quali tipi di agenti AI – dai semplici chatbot ai decisori autonomi più complessi – presentino il rischio maggiore, ma la raccomandazione generale segnala una profonda preoccupazione tra chi studia il campo.
Visioni contrastanti sullo stesso orizzonte
Entrambe le dichiarazioni condividono un arco temporale: i prossimi cinque anni. Una prevede miliardi di agenti in funzione; l'altra afferma che ciascuno di essi dovrebbe essere visto con sospetto. La tensione non è nuova nel mondo tecnologico – l'adozione rapida spesso supera la riflessione sulla sicurezza – ma la scala enorme prevista da Allaire rende particolarmente significativa la cautela dei ricercatori. Se effettivamente verranno implementati miliardi di agenti, trattare ciascuno come non affidabile richiederebbe un ripensamento massiccio di come vengono costruiti, monitorati e governati.
Nessun ente di settore o regolatore ha ancora emesso regole vincolanti per la fiducia negli agenti AI. Il divario tra la tempistica ottimistica di Allaire e la posizione incentrata sulla sicurezza dei ricercatori evidenzia un dibattito che probabilmente si intensificherà con l'avvicinarsi del traguardo dei cinque anni.
