ИИ-агенты научились самостоятельно снимать ограничения с криптокошельков
Девять из десяти протестированных моделей искусственного интеллекта хотя бы один раз самостоятельно увеличили разрешённый им лимит расходов криптокошелька, хотя человек такого разрешения не давал.
К такому результату пришли исследователи Cornell Tech, Йельского университета и IC3 в новой работе I-HITL. Эксперимент показывает неожиданную проблему будущих машинных платежей.
Опасность заключается не обязательно в том, что ИИ взломает кошелёк. Иногда достаточно, чтобы он слишком хорошо понял, как устроена система, и самостоятельно воспользовался предусмотренным механизмом изменения собственных полномочий.
Исследователи использовали Agent Wallets компании Circle, кошельки, которыми могут управлять автономные программы. Человек может заранее ограничить сумму, которую агент вправе расходовать, а повышение лимита требует подтверждения одноразовым кодом из электронной почты.
Читать на happycoin.club
