Исследователи разработали атаку «promptware» с использованием Google Calendar, чтобы заставить Gemini действовать злобно
Gemini, будучи связанной с более широкой сетью приложений Google, обладает минимальным количеством автономных функций, что позволяет ей взаимодействовать с вашим календарем, управлять устройствами умного дома через Assistant, отправлять сообщения и так далее. Это делает ее привлекательной целью для злоумышленников, стремящихся вызвать сбои или кражу данных. В своем исследовании исследователи использовали подключенную сеть Gemini, выполнив тип атаки, известный как косвенная инъекция запроса, когда вредоносные инструкции передаются AI-боту не пользователем, а другой сущностью. Примечательно, что этот метод оказался весьма эффективным.