Безопасность ИИ: рекомендации Google Cloud и скрытые уязвимости платформы

В современных условиях интеграции искусственного интеллекта в бизнес-процессы подход к обеспечению безопасности претерпевает фундаментальные изменения. Фрэнсис де Соуза, операционный директор Google Cloud, подчеркивает, что внедрение ИИ требует от компаний глубокой трансформации стратегий защиты данных. По его мнению, безопасность больше не может рассматриваться как факультативный элемент, подключаемый на финальных этапах разработки. Проще говоря, если у компании нет целостной стратегии управления данными и защиты инфраструктуры, она не обладает и рабочей стратегией использования ИИ.

Трансформация угроз и необходимость платформенного подхода

Особую тревогу вызывает так называемый «теневой ИИ» — бесконтрольное использование сотрудниками сторонних инструментов без ведома IT-департамента. Риски возрастают из-за смены парадигмы атак: если раньше на преодоление защиты от момента взлома до реализации угрозы уходило до восьми часов, то сегодня этот процесс в отдельных случаях занимает всего 22 секунды. Традиционные методы защиты периметра сети становятся неэффективными, так как поверхность атаки теперь включает в себя языковые модели, конвейеры данных для их обучения, промпты и автономных агентов.

Одной из скрытых проблем стали забытые инфраструктурные компоненты. Автономные агенты, перемещающиеся по внутренней корпоративной сети, способны обнаруживать устаревшие серверы, о существовании которых администраторы давно забыли. В подобных хранилищах часто отсутствуют актуальные механизмы контроля доступа, что делает их легкой мишенью для компрометации данных. В связи с этим де Соуза настаивает на внедрении «полностью агентской защиты», где на смену медленным ручным процессам приходят алгоритмы, работающие на машинной скорости под общим надзором специалистов.

Технический разрыв между стратегией и реализацией

Параллельно с теоретическими рекомендациями экспертов, на практике возникают серьезные инциденты, связанные с архитектурой реализации инструментов ИИ. В последнее время участились жалобы разработчиков на неожиданные финансовые расходы в Google Cloud, вызванные несанкционированным использованием API ключей. Проблема заключается в расширении функциональности ключей: например, API-токены, изначально созданные для работы с картографическими сервисами, после обновления политики безопасности Google получили возможность обращаться к возможностям моделей Gemini. При этом системы биллинга автоматически повышали лимиты затрат пользователей без их явного подтверждения.

В компании заявили, что приоритетом является предотвращение перебоев в работе сервисов, а не соблюдение пользовательских ограничений бюджета, поэтому пересматривать политику автоматического повышения лимитов там не планируют. Ситуация усугубляется и задержками в ревокации (отзыве) скомпрометированных ключей. Исследователи из компании Aikido обнаружили, что после удаления скомпрометированного ключа в консоли Google, он может сохранять работоспособность до 23 минут. В течение этого окна злоумышленники способны извлекать данные из системы.

Технически эта проблема решаема, о чем свидетельствует работа более современных форматов учетных данных: сервисные аккаунты отзываются за 5 секунд, а специализированные ключи Gemini с префиксом AQ — примерно за минуту. Таким образом, существующая 23-минутная задержка для стандартных ключей является скорее вопросом внутренних приоритетов инженерных команд, нежели технологическим ограничением. Это создает заметный диссонанс между призывами платформенных гигантов к строгому соблюдению корпоративной безопасности и скоростью устранения критических уязвимостей в их собственных API.