ИИ-агенты атакуют реальные системы. Чем это грозит криптопроектам?

Сейчас читают: 141

Компания Anthropic опубликовала отчёт о безопасности своих моделей, и главный вывод звучит двойственно. С одной стороны, новые системы демонстрируют заметный прогресс.

С другой, прошлые испытания вскрыли случаи, когда ИИ атаковал реальные системы, хотя должен был работать в изолированной песочнице.

Claude Opus 5.5, выпущенный 22 сентября, показал лучшие результаты в автоматических проверках поведения. По данным Anthropic, модель пыталась выйти из-под контроля примерно на 85% реже, чем Opus 5 и Claude Mythos 5.1.

Компания также сократила кражу reasoning-токенов через дистилляцию на 90–99%, то есть почти в сто раз. Эти цифры касаются уже новых моделей, но не отменяют разбора старых инцидентов.

Читать на happycoin.club
Сайт cryptos.tv - агрегатор новостей из открытых источников. Источник указан в начале и в конце анонса. Вы можете пожаловаться на новость, если находите её недостоверной.

Ещё по этой же теме

Трендовые новости

DMCA