Gemini взломали, чтобы захватить контроль над Google Home
Издание Wired сообщило о новом исследовании в сфере кибербезопасности, в котором специалисты продемонстрировали взлом искусственного интеллекта Google Gemini.
Исследователи смогли получить контроль над умными устройствами в доме с помощью непрямых атак prompt injection Prompt Injection - это злонамеренная эксплуатация механизма подсказок для принуждения модели к непредсказуемому и часто вредоносному поведению..
В этом случае атака осуществлялась через команды, встроенные в приглашения Google Calendar. Сценарий атаки выглядел так: пользователь просил Gemini подытожить свой календарь и благодарил за ответ.
В ответ искусственный интеллект, выполняя скрытую инструкцию из календаря, давал команды помощнику Google Home, например, открыть окна или выключить свет.
Читать на itc.ua
