Билл Гейтс заявляет, что настоящая угроза ИИ сегодня — не машина, вырвавшаяся из-под контроля, а люди, уже использующие технологию во вред, причём защитные механизмы, способные их остановить, можно снять за считанные минуты. В интервью Джейку Тапперу для программы State of the Union на CNN Гейтс отодвинул «сценарий Терминатора» на годы вперёд и указал на более насущную проблему: недостаточно делается для предотвращения биотероризма и кибератак с использованием ИИ.
Гейтс описал систему безопасности, которая выглядит надёжной, пока кто-то не решит её демонтировать. По его словам, разработчики встраивают защиту от кибератак и биооружия, но эти защиты можно снять прямо сейчас. Именно этот разрыв между технической возможностью и реальным исполнением, по его мнению, и является средоточием опасности.
Год впереди: кибератаки в центре внимания
В ближайшие двенадцать месяцев Гейтс ожидает, что злоупотребление ИИ наиболее ярко проявится в кибератаках. Он обрисовал бизнес-модель, уже знакомую всем, кто следит за программами-вымогателями или манипулированием рынком: угрожать цели и требовать оплаты либо создать достаточно хаоса, чтобы сдвинуть цену акций или повлиять на ставку. ИИ делает обе версии дешевле в исполнении и сложнее для отслеживания.
Этот прогноз совпадает с тем, что отслеживают исследователи безопасности. В августе OpenAI опубликовала открытое письмо о киберзащите, подписанное более чем 100 организациями. В письме говорилось, что кибератаки с использованием ИИ станут гораздо более распространёнными и изощрёнными в ближайшие месяцы. Это было не предсказание о далёком будущем, а предупреждение о текущей траектории.
Цифры с земли
Несколько показателей за прошедший год указывают на то, что злоупотребления, описанные Гейтсом, уже происходят. Тайваньская фирма по безопасности TeamT5 обнаружила, что связанные с китайским государством группы удвоили объём атак, передав рутинную работу ИИ. Chainalysis зафиксировала рост на 440% количества инструкций по вредоносному ПО, написанных в блокчейне, после появления в середине 2025 года открытых китайских моделей без ограничений на вредоносный код. А CrowdStrike связала несколько взломов южнокорейских банков с вероятным финансово мотивированным злоумышленником, использовавшим инструменты ИИ.
Ни один из этих инцидентов не требовал, чтобы ИИ перехитрил своих создателей. Он требовал, чтобы ИИ выполнял черновую работу быстрее и в масштабе. Именно эту схему и описывает Гейтс: обычные преступники и государственные субъекты получают повышение эффективности, а не некая новая форма цифровой жизни решает выйти из-под контроля.
Почему защитные механизмы продолжают ускользать
Проблема, как её формулирует Гейтс, не в том, что мер безопасности не существует. А в том, что они добровольны, поддаются исправлению или просто удаляются. Модель, которая сегодня отказывается помогать с биооружием, завтра можно дообучить или обойти. Открытые веса делают это ещё проще — как только веса опубликованы, «выключателя» нет.
Это оставляет регуляторный вакуум. Гейтс не предложил конкретных политических мер в интервью, но его акцент на том, что можно «снять прямо сейчас», указывает на дебаты, которые уже идут в законодательных органах и организациях по стандартизации: вводить ли жёстко закодированные ограничения, журналы аудита или лицензирование для моделей, способных на опасную работу.
Пока что защитные механизмы больше похожи на «лежачих полицейских», чем на стены. А те, о ком беспокоится Гейтс, уже научились их объезжать.
За чем следить
Следующая конкретная проверка исходит от подписантов открытого письма, которые обязались отслеживать и сообщать о тенденциях атак с использованием ИИ. Их первое публичное обновление ожидается в ближайшие месяцы. До тех пор самым ясным сигналом будет то, продолжит ли расти 440-процентный всплеск вредоносного ПО в блокчейне — или защитники найдут способ закрепить эти меры безопасности.
