Jeremy Allaire, generální ředitel společnosti Circle, předpovídá, že během pěti let bude v provozu miliarda AI agentů. Výzkumníci však nabádají k opatrnosti a tvrdí, že tyto AI agenty je třeba považovat za nedůvěryhodné systémy. Tato dvě prohlášení z různých koutů technologického světa ukazují ostrý kontrast mezi rychlým nasazením a bezpečnostní obezřetností.
Předpověď generálního ředitele
Allaire učinil předpověď ohledně rozsahu AI agentů v blízké budoucnosti. Ačkoli neuvedl konkrétní případy použití ani infrastrukturu potřebnou k podpoře takového růstu, tato předpověď od šéfa velké platební společnosti naznačuje širokou důvěru v expanzi této technologie. Společnost Circle je známá především svou prací v oblasti digitálních měn a blockchainu, ale Allaireovy komentáře poukazují na přesvědčení, že AI agenti se stanou všudypřítomnými napříč odvětvími.
Varování výzkumníků
Samostatně skupina výzkumníků vydala jasné varování: AI agentům by se nemělo důvěřovat automaticky. Tvrdí, že považovat tyto systémy za nedůvěryhodné je nezbytné, aby se předešlo možnému poškození nebo zneužití. Výzkumníci nespecifikovali, které typy AI agentů – od jednoduchých chatbotů po autonomnější rozhodovací systémy – představují největší riziko, ale toto plošné doporučení signalizuje hluboké obavy mezi těmi, kteří tuto oblast studují.
Protichůdné pohledy na stejný horizont
Obě prohlášení sdílejí časový rámec: příštích pět let. Jeden vidí v provozu miliardy agentů, druhý říká, že každý z nich by měl být vnímán s podezřením. Toto napětí není v technologiích nic nového – rychlé přijetí často předbíhá bezpečnostní myšlení – ale rozsah, který Allaire předpovídá, činí varování výzkumníků obzvláště důležitým. Pokud bude skutečně nasazena miliarda agentů, považovat každého z nich za nedůvěryhodného by vyžadovalo zásadní přehodnocení toho, jak jsou budováni, monitorováni a řízeni.
Žádný průmyslový orgán ani regulátor dosud nevydal závazná pravidla pro důvěryhodnost AI agentů. Propast mezi Allaireovým optimistickým časovým plánem a bezpečnostním přístupem výzkumníků zdůrazňuje debatu, která bude s blížícím se pětiletým horizontem pravděpodobně sílit.
