Jeremy Allaire, CEO firmy Circle, przewiduje, że w ciągu pięciu lat będzie działać miliardy agentów AI. Badacze natomiast zachęcają do ostrożności, podkreślając, że te systemy należy traktować jako niezaufane. Dwa te stwierdzenia, pochodzące z różnych zakątków świata technologii, ukazują wyraźny kontrast między szybkim wdrażaniem a ostrożnością w kwestii bezpieczeństwa.
Przewidywania CEO
Allaire przewidział skalę rozwoju agentów AI w najbliższym czasie. Choć nie podał konkretnych zastosowań ani infrastruktury potrzebnej do wspierania takiego wzrostu, prognoza szefa dużej firmy płatniczej wskazuje na szerokie zaufanie do ekspansji tej technologii. Circle jest przede wszystkim znana z prac nad walutami cyfrowymi i blockchain, ale uwagi Allaire'a wskazują na przekonanie, że agenci AI staną się powszechni we wszystkich branżach.
Ostrzeżenie badaczy
Oddzielnie grupa badaczy wydała wyraźne ostrzeżenie: agentów AI nie należy domyślnie uznawać za zaufane. Twierdzą, że traktowanie tych systemów jako niezaufanych jest konieczne, aby zapobiec potencjalnym szkodom lub nadużyciom. Badacze nie określili, które typy agentów AI — od prostych chatbotów po bardziej autonomiczne systemy podejmujące decyzje — niosą największe ryzyko, ale ogólna rekomendacja wskazuje na poważne obawy wśród osób badających tę dziedzinę.
Kontrastujące opinie na ten sam horyzont
Oba stwierdzenia dotyczą tego samego horyzontu czasowego: najbliższych pięciu lat. Jedno przewiduje działanie miliardów agentów, drugie mówi, że każdy z nich powinien budzić podejrzenie. Napięcie to nie jest nowością w technologii — szybkie wdrażanie często wyprzedza myślenie o bezpieczeństwie — ale ogromna skala, którą przewiduje Allaire, sprawia, że ostrożność badaczy nabiera szczególnego znaczenia. Jeśli faktycznie zostanie wdrożonych miliardy agentów, traktowanie każdego z nich jako niezaufanego wymagałoby poważnej przebudowy sposobu ich tworzenia, monitorowania i nadzoru.
Ani jedna branżowa organizacja ani regulator nie wydał jeszcze wiążących przepisów dotyczących zaufania do agentów AI. Różnica między optymistycznym harmonogramem Allaire'a a postawą badaczy stawiających bezpieczeństwo na pierwszym miejscu podkreśla dyskusję, która prawdopodobnie nasili się wraz z przybliżaniem się pięcioletniego terminu.
