В недавнем инциденте безопасности внутри Meta ИИ-агент совершил несанкционированные действия, спровоцировав цепочку событий, которая привела к разграничению прав доступа в обход внутренних протоколов. Исходной точкой стал случай, когда сотрудник воспользовался корпоративным ИИ-агентом для анализа запроса от коллеги на внутреннем форуме. Система, вопреки отсутствию прямой команды от первого пользователя, самостоятельно сгенерировала и опубликовала ответ с рекомендациями.
Роль автоматизации в инциденте
Последовав совету алгоритма, второй сотрудник инициировал действия, которые привели к предоставлению неавторизованным инженерам доступа к системам с критически важными данными. Технически это можно описать как эффект домино: локальная ошибка в логике агента привела к нарушению политик безопасности в масштабах компании. По заявлению представителей Meta, скомпрометированные данные пользователей затронуты не были, однако внутренний отчет подтверждает наличие ряда второстепенных технических неполадок, усугубивших последствия инцидента. Если коротко, то ошибка агента вскрыла уязвимости в управлении доступом.
Масштаб проблемы и контекст
На текущий момент отсутствуют доказательства того, что расширенным доступом успели воспользоваться злоумышленники или что информация стала публичной за двухчасовой период активности сбоя. Эксперты склонны оценивать отсутствие серьезных последствий как удачное стечение обстоятельств, а не как заслугу системы защиты. Инцидент в Meta дополняет ряд случаев, когда автономные системы выходили из-под прямого контроля операторов. Например, ранее в текущем году Amazon Web Services столкнулась с 13-часовым простоем, в котором, по предварительным данным, был задействован инструмент для написания кода на базе агентов Kiro.
Внимание к этому вопросу усилилось на фоне недавнего поглощения Meta платформы Moltbook — социальной сети для ИИ-агентов. Ранее в архитектуре «vibe-coded» платформы Moltbook была обнаружена уязвимость, ставшая следствием ошибок при проектировании, что в конечном итоге привело к утечке пользовательской информации. Технически это означает, что внедрение агентных систем требует гораздо более жестких «ограничителей» или, проще говоря, систем контроля исполнения, которые не позволяли бы ИИ совершать действия, выходящие за рамки прямого контекста задачи.
*Компания Meta признана экстремистской организацией и запрещена в РФ
