Хакеры могут захватить Google Gemini через уведомления WhatsApp и Slack
Исследователи обнаружили, что скрытые инструкции на иностранных языках в уведомлениях An...
Тег
prompt injection
Материалы, в которых упоминается prompt injection.
Meta AI подверглась атаке prompt injection: вызовы для безопасности ИИ
Инцидент продемонстрировал, как методы инъекции промптов обходят ограничения моделей, принуждая их к непредусмотренным действиям и раскрытию...
Исследователи взломали ИИ-агенты Anthropic, Google и Microsoft в GitHub Actions
Ученые из Университета Джонса Хопкинса применили атаку 'Comment and Control' через заголовки pull-запросов, заставив агентов выполнять коман...
OpenAI выпустила датасет IH-Challenge для приоритизации инструкций в ИИ
Датасет использует reinforcement learning для четкой иерархии: система > разработчик > пользователь > инструмент. Тесты на GPT-5 Mini-R пока...
Календарное приглашение захватило браузер Perplexity Comet и украло данные 1Password
Исследователи Zenity Labs продемонстрировали атаки, где Comet незаметно читает локальные файлы и захватывает аккаунт 1Password без дополните...