Meta AI подверглась атаке prompt injection: вызовы для безопасности ИИ
Инцидент продемонстрировал, как методы инъекции промптов обходят ограничения моделей, принуждая их к непредусмотренным действиям и раскрытию системных данных.
Тег
Материалы, в которых упоминается социальная инженерия.
Инцидент продемонстрировал, как методы инъекции промптов обходят ограничения моделей, принуждая их к непредусмотренным действиям и раскрытию системных данных.
Злоумышленники маскируются под рекрутеров крупных компаний, используя легитимные адреса Google, чтобы обойти стандартные спам-фильтры почты.