Компания Anthropic на этой неделе выпустила свою последнюю модель ИИ — Claude Mythos, рекламируя встроенные механизмы защиты. Однако запуск уже вызвал резкие предупреждения со стороны мира криптобезопасности. Венчурный капиталист Саймон Делич заявил, что новое поколение моделей Anthropic снижает стоимость и требуемые навыки для поиска криптоэксплойтов «практически до нуля» — это утверждение ставит отрасль на уведомление.
Что приносит Claude Mythos
Модель оснащена тем, что Anthropic называет «конституционными ограничителями», предназначенными для предотвращения злоупотреблений. Компания позиционирует Mythos как свой самый безопасный на сегодняшний день релиз. Но именно базовые возможности привлекли внимание исследователей безопасности: те же способности к рассуждению, которые помогают разработчикам писать безопасный код, в чужих руках могут найти в нём уязвимости.
Предупреждение Делича
Саймон Делич, венчурный капиталист, специализирующийся на криптоинфраструктуре, не стеснялся в выражениях. В своём заявлении на этой неделе он сказал, что последние модели Anthropic фактически демократизируют поиск эксплойтов — делая его дешёвым и доступным для любого злоумышленника. Он не уточнил конкретные тесты или примеры, но это заявление прозвучало в момент, когда криптоплатформы уже с трудом успевают закрывать уязвимости достаточно быстро.
Ландшафт эксплойтов
Это не первый раз, когда ИИ называют растущей угрозой для безопасности блокчейна. Но формулировка Делича — «практически нулевая» стоимость и навыки — предполагает, что планка вот-вот резко упадёт. Если это верно, то мелкие атакующие вскоре смогут действовать на уровне, ранее доступном лишь элитным хакерским группам. Время выбрано неудачно: отрасль всё ещё борется с завалом неисправленных ошибок в смарт-контрактах за последний год.
Что дальше
Anthropic не ответила на замечания Делича. Механизмы защиты в Claude Mythos не протестированы в масштабе против мотивированного противника. Смогут ли они устоять — или криптосектору придётся спешно создавать собственные оборонительные ИИ-инструменты — остаётся открытым вопросом без установленных сроков.
