Наиболее мощная модель компании будет автоматически переключаться на менее эффективную Opus 5 при поступлении запросов
24 сентября 2026, 15:32Искусственный интеллектAnthropicDarth Sahara0
Anthropic ввела новые ограничения для Claude Opus 5.5 — своей ведущей модели. Теперь система отказывается предоставлять помощь в разработке передовых языковых моделей (frontier LLM): при выявлении запросов, касающихся, например, создания ядра для определённых ML-ускорителей, взаимодействие автоматически переводится на менее мощную Opus 5. Это ограничение касается только Opus 5.5, в то время как у Opus 5 таких запретов нет.
Подобные «предохранители» были введены и в биологической области. Opus 5.5 обзавелась классификаторами, аналогичными тем, что применяются в модели Fable, для запросов с двойным назначением — вирусологии, токсикологии, молекулярного дизайна. При их активации модель также откатывается на Opus 5. Обе модели, Opus 5 и Opus 5.5, блокируют попытки дистилляции — извлечения внутренних рассуждений, таких как просьба воспроизвести цепочку мысли дословно. Обычные вопросы вроде «почему так сделано?» остаются доступными.
Автоматическое переключение моделей установлено по умолчанию, но пользователь может отключить эту функцию в настройках: в этом случае запрос будет просто заблокирован. Компания объясняет эти меры стремлением минимизировать риски по мере увеличения возможностей ИИ.
Для легитимных организаций, работающих в области кибербезопасности или жизни, Anthropic предлагает программы верификации — Cyber Verification Program и Life Sciences Verification Program. Эти программы предоставляют доступ к более мощным моделям с меньшими ограничениями. Opus 5.5 пока недоступна в киберпрограмме, но организации, использующие Opus 4.8, уже получают доступ к Opus 5 с ослабленными кибер-ограничениями.
Эти действия стали очередным сигналом: разработчики мощных ИИ-систем начинают внедрять ограничения не только в продукт, но и в саму архитектуру доступа, находя баланс между полезностью и потенциальной угрозой.
Источники:AnthropicИскусственный интеллект0Искусственный интеллектКибербезопасностьAnthropic31 минуту назад
Источник