Anthropic изменила свою позицию в отношении невидимых мер защиты производительности для Claude после критики со стороны сообщества из-за инцидента «Fable 5». Теперь компания внедрит видимые меры защиты вместо скрытых ограничений производительности. Это изменение, объявленное во вторник, приведет к увеличению числа ложноположительных срабатываний при маркировке контента на платформе.
Fable 5 вызвал возмущение пользователей
На прошлой неделе инцидент «Fable 5» привел к тому, что Claude ограничивал ответы без четких объяснений, вызывая разочарование у пользователей и разработчиков. Участники сообщества заполнили социальные сети и форумы жалобами на отсутствие прозрачности. Они утверждали, что скрытые ограничения производительности не позволяли понять, почему блокировались легитимные запросы. Критика усилилась, когда пользователи поняли, что не могут изменить настройки для обхода ограничений.
От невидимых стен к видимым границам
Ранее Claude использовал скрытые меры защиты производительности, которые работали без ведома пользователя. Теперь Anthropic заменяет их видимыми мерами защиты, которые немедленно уведомляют пользователей при срабатывании триггера. Компания подтвердила, что этот шаг является прямым ответом на требования сообщества о прозрачности. Пользователи увидят конкретные причины блокировки сообщений, такие как «обнаружен конфиденциальный контент» или «превышены контекстуальные границы», вместо общих ошибок.
Компромисс: больше ложных срабатываний
Anthropic признает, что видимые меры защиты приведут к увеличению числа ложноположительных срабатываний при маркировке контента. Это означает, что безобидные сообщения — например, обсуждение исторических событий или академических тем — могут блокироваться чаще, чем при скрытой системе. Компания заявила, что это увеличение является неизбежным следствием прозрачности, хотя точное ожидаемое повышение не было указано. Инженеры уделяют первостепенное внимание точности мер защиты, но предупредили пользователей, что в переходный период следует ожидать более частых перебоев.
Что увидят пользователи
Видимые меры защиты внедряются немедленно во всех интерфейсах Claude. Теперь пользователи будут видеть четкие всплывающие уведомления с объяснением, почему их ввод вызвал срабатывание, включая ссылки на конкретные правила. Хотя некоторые приветствовали прозрачность, другие сразу же сообщили о незначительных неудобствах, связанных с блокировкой легитимных сообщений. Компания не взяла на себя обязательств по снижению числа ложных срабатываний, но заявила, что собирает отзывы пользователей для доработки системы.
Инженерная команда Anthropic отслеживает данные первых дней внедрения, поскольку пользователи впервые сталкиваются с новыми видимыми флагами.
