уязвимости LLM

Meta AI подверглась атаке prompt injection: вызовы для безопасности ИИ

Инцидент продемонстрировал, как методы инъекции промптов обходят ограничения моделей, принуждая их к непредусмотренным действиям и раскрытию системных данных.