Білл Гейтс каже, що справжня загроза ШІ зараз — не машина, яка виходить з-під контролю, а люди, які вже використовують цю технологію для завдання шкоди, і запобіжники, які могли б їх зупинити, можна зняти за лічені хвилини. В інтерв'ю Джейку Тапперу в програмі CNN State of the Union Гейтс відсунув сценарій «Термінатора» на роки вперед і вказав на більш нагальну проблему: недостатньо робиться для зупинки біотероризму та кібератак, уможливлених ШІ.
Гейтс описав систему безпеки, яка виглядає надійною, доки хтось не вирішить її демонтувати. За його словами, розробники вбудовують захист від кібератак і біозброї, але цей захист можна видалити прямо зараз. Саме в цій прогалині між тим, що технічно можливо, і тим, що фактично забезпечується, він вбачає концентрацію небезпеки.
Наступний рік: кібератаки в центрі уваги
Протягом наступних дванадцяти місяців Гейтс очікує, що зловживання ШІ найяскравіше проявиться в кібератаках. Він окреслив бізнес-модель, вже знайому всім, хто стежить за програмами-вимагачами або маніпулюванням ринком: погрожувати цілі й вимагати плату або створити достатньо перешкод, щоб зрушити ціну акцій чи змінити результат ставки. ШІ робить обидва варіанти дешевшими у виконанні та складнішими для відстеження.
Цей прогноз збігається з тим, що відстежують дослідники безпеки. У серпні OpenAI опублікувала відкритий лист про кіберзахист, підписаний понад 100 організаціями. У листі йдеться, що кібератаки з використанням ШІ стануть значно поширенішими та витонченішими в найближчі місяці. Це було не передбачення про далеке майбутнє, а попередження про поточну траєкторію.
Цифри з місця подій
Кілька показників за минулий рік свідчать, що зловживання, про яке говорить Гейтс, уже відбувається. Тайванська фірма з безпеки TeamT5 виявила, що групи, пов'язані з китайською державою, подвоїли обсяг атак після передачі рутинної роботи ШІ. Chainalysis зафіксувала стрибок на 440% інструкцій для шкідливого програмного забезпечення, написаних он-чейн, після появи в середині 2025 року китайських моделей з відкритими вагами без обмежень на шкідливий код. А CrowdStrike пов'язала кілька зломів південнокорейських банків із імовірним фінансово вмотивованим зловмисником, який використовував інструменти ШІ.
Жоден із цих інцидентів не вимагав, щоб ШІ перевершив своїх творців. Вони вимагали, щоб ШІ виконував чорнову роботу швидше й у масштабі. Це та сама модель, яку описує Гейтс: звичайні злочинці та державні суб'єкти отримують підвищення ефективності, а не якась нова форма цифрового життя вирішує вийти з-під контролю.
Чому запобіжники продовжують вислизати
Проблема, як її формулює Гейтс, не в тому, що заходи безпеки не існують. А в тому, що вони добровільні, можуть бути виправлені патчами або просто видалені. Модель, яка сьогодні відмовляється допомагати з біозброєю, завтра можна донавчити або зламати. Релізи з відкритими вагами роблять це ще простішим — щойно ваги опубліковано, жодного вимикача не залишається.
Це залишає регуляторний вакуум. Гейтс не запропонував конкретних політичних рішень в інтерв'ю, але його наголос на тому, що можна «видалити прямо зараз», вказує на дебати, які вже точаться в законодавчих органах і органах стандартизації: чи запроваджувати жорстко закодовані обмеження, журнали аудиту або ліцензування для моделей, здатних виконувати небезпечну роботу.
Наразі запобіжники більше схожі на «лежачих поліцейських», ніж на стіни. І люди, за яких хвилюється Гейтс, уже зрозуміли, як їх об'їхати.
За чим стежити
Наступне конкретне випробування походить від підписантів відкритого листа, які зобов'язалися відстежувати та звітувати про тенденції атак з використанням ШІ. Їхнє перше публічне оновлення очікується найближчими місяцями. До того часу найчіткішим сигналом буде те, чи продовжить зростати 440-відсотковий стрибок он-чейн шкідливого програмного забезпечення — чи захисники знайдуть спосіб зробити ці запобіжники стійкими.
