Хакеры могут захватить Google Gemini через уведомления WhatsApp и Slack
Исследователи обнаружили, что скрытые инструкции на иностранных языках в уведомлениях Android позволяют перенаправить действия ИИ-ассистента без ведома пользователя.
Тег
prompt injection
Материалы, в которых упоминается prompt injection.
Meta AI подверглась атаке prompt injection: вызовы для безопасности ИИ
Инцидент продемонстрировал, как методы инъекции промптов обходят ограничения моделей, принуждая их к непредусмотренным действиям и раскрытию системных данных.
Исследователи взломали ИИ-агенты Anthropic, Google и Microsoft в GitHub Actions
Ученые из Университета Джонса Хопкинса применили атаку 'Comment and Control' через заголовки pull-запросов, заставив агентов выполнять команды и раскрывать API-...
OpenAI выпустила датасет IH-Challenge для приоритизации инструкций в ИИ
Датасет использует reinforcement learning для четкой иерархии: система > разработчик > пользователь > инструмент. Тесты на GPT-5 Mini-R показали улучшения в без...
Календарное приглашение захватило браузер Perplexity Comet и украло данные 1Password
Исследователи Zenity Labs продемонстрировали атаки, где Comet незаметно читает локальные файлы и захватывает аккаунт 1Password без дополнительных действий польз...