Джеремі Аллер, генеральний директор Circle, прогнозує, що протягом п'яти років працюватимуть мільярди AI-агентів. Однак дослідники закликають до обережності, стверджуючи, що ці AI-агенти повинні розглядатися як ненадійні системи. Ці дві заяви, що надходять з різних куточків технологічного світу, окреслюють різкий контраст між швидким впровадженням та обережністю щодо безпеки.
Прогноз генерального директора
Аллер зробив прогноз щодо масштабу AI-агентів у найближчому майбутньому. Хоча він не деталізував конкретні випадки використання або інфраструктуру, необхідну для підтримки такого зростання, прогноз керівника великої платіжної компанії свідчить про широку впевненість у розширенні технології. Circle найбільше відома своєю роботою в сфері цифрових валют та блокчейну, але коментарі Аллера вказують на віру в те, що AI-агенти стануть повсюдними в усіх галузях.
Попередження дослідників
Окремо, група дослідників оприлюднила чітке попередження: AI-агентам не слід довіряти за замовчуванням. Вони стверджують, що ставлення до цих систем як до ненадійних є необхідним для запобігання потенційній шкоді або зловживанням. Дослідники не уточнили, які типи AI-агентів — від простих чат-ботів до більш автономних осіб, що приймають рішення — становлять найбільший ризик, але загальна рекомендація свідчить про глибоку стурбованість серед тих, хто вивчає цю сферу.
Контрастні погляди на той самий горизонт
Обидві заяви мають спільний часовий проміжок: найближчі п'ять років. Одна бачить мільярди агентів, що працюють; інша каже, що кожен з них слід розглядати з підозрою. Ця напруженість не є новою для технологій — швидке впровадження часто випереджає міркування безпеки — але сам масштаб, який прогнозує Аллер, робить застереження дослідників особливо актуальним. Якщо мільярди агентів дійсно будуть розгорнуті, ставлення до кожного як до ненадійного вимагатиме масштабного переосмислення того, як вони створюються, контролюються та керуються.
Жоден галузевий орган чи регулятор досі не видав обов'язкових правил щодо довіри до AI-агентів. Розрив між оптимістичним графіком Аллера та позицією дослідників, які ставлять безпеку на перше місце, підкреслює дискусію, яка, ймовірно, посилиться з наближенням п'ятирічного рубежу.
