Корпорация Microsoft сообщила о значительном увеличении использования искусственного интеллекта (ИИ) киберпреступниками для ускорения атак, масштабирования вредоносной деятельности и снижения технических барьеров. В недавно опубликованном отчёте Microsoft Threat Intelligence говорится, что хакеры активно применяют генеративный ИИ для выполнения широкого спектра задач, включая разведку, фишинг, развитие инфраструктуры и создание вредоносного программного обеспечения (ПО).
Отмечается, что злоумышленники всё чаще используют ИИ-инструменты для составления фишинговых писем, перевода контента, обобщения украденных данных и отладки вредоносного ПО. Большинство случаев злонамеренного применения ИИ связано с использованием языковых моделей для генерации текста, кода или медиа. Злоумышленники задействуют генеративный ИИ для создания фишинговых приманок, перевода контента, обобщения украденных данных, разработки и отладки вредоносного ПО, а также написания скриптов и настройки инфраструктуры. В этих сценариях ИИ выступает как усилитель возможностей, который снижает технические сложности и ускоряет выполнение задач, в то время как человек-оператор сохраняет контроль над целями и решениями по развёртыванию.
Специалисты Microsoft выявили множество случаев, когда различные киберпреступные группировки использовали ИИ в своих атаках. Например, северокорейские группы Jasper Sleet (Storm-0287) и Coral Sleet (Storm-1877) используют ИИ для создания реалистичных личностей, резюме и коммуникаций, необходимых для трудоустройства в западные компании. Jasper Sleet использует платформы генеративного ИИ для оптимизации создания поддельных цифровых личностей. Члены группы отдают команды ИИ-платформам для генерации списков имен, соответствующих культуре, и форматов адресов электронной почты, подходящих для конкретных профилей личности. Кроме того, они используют ИИ для анализа вакансий на должностях, связанных с разработкой ПО и IT, извлекая и обобщая востребованные навыки. Эти данные затем применяются для адаптации поддельных личностей к конкретным ролям.
ИИ также активно используется для разработки вредоносного ПО и создания инфраструктуры. Злоумышленники задействуют языковые модели для написания, оптимизации и устранения ошибок в программном коде, а также для переноса компонентов на разные языки программирования. В некоторых случаях фиксировались признаки использования ИИ для динамической генерации скриптов или изменения их поведения во время выполнения.
Специалисты Microsoft зафиксировали, как члены группировки Coral Sleet использовали ИИ для быстрого создания поддельных корпоративных сайтов, развёртывания вредоносной инфраструктуры и тестирования различных инструментов. Когда ИИ-системы пытаются задействовать механизмы защиты от злонамеренного использования, хакеры используют особым образом сформированные запросы для их обхода.
Поскольку многие вредоносные кампании, нацеленные на IT-специалистов, полагаются на злоупотребление легитимным доступом, Microsoft рекомендует организациям рассматривать подобные схемы как инсайдерские риски. Специалистам по информационной безопасности (ИБ) рекомендуется сосредоточиться на выявлении аномального использования учетных данных, усилении защиты систем идентификации от фишинга и обеспечении безопасности самих ИИ-систем, которые могут стать целями в будущих атаках.