Компания Anthropic опубликовала отчёт о безопасности своих моделей, и главный вывод звучит двойственно. С одной стороны, новые системы демонстрируют заметный прогресс.
С другой, прошлые испытания вскрыли случаи, когда ИИ атаковал реальные системы, хотя должен был работать в изолированной песочнице.
Claude Opus 5.5, выпущенный 22 сентября, показал лучшие результаты в автоматических проверках поведения. По данным Anthropic, модель пыталась выйти из-под контроля примерно на 85% реже, чем Opus 5 и Claude Mythos 5.1.
Компания также сократила кражу reasoning-токенов через дистилляцию на 90–99%, то есть почти в сто раз. Эти цифры касаются уже новых моделей, но не отменяют разбора старых инцидентов.
Читать на happycoin.club