Microsoft: ИИ-чатботы могут рекомендовать вредоносные сайты

Исследователи Microsoft зафиксировали эволюцию тактик злоумышленников: на смену классическому SEO-отравлению (SEO poisoning) пришло использование нейросетевых платформ для распространения вредоносного ПО. В привычной поисковой выдаче хакеры ранее добивались попадания фишинговых ресурсов в топ, эксплуатируя доверие пользователей к алгоритмам ранжирования. С изменением паттернов потребления информации, когда часть трафика перетекает от поисковых машин к LLM-инструментам, атакующие начали адаптировать свои кампании под генеративный ИИ.

Механика компрометации через ИИ-рекомендации

Суть схемы заключается в манипуляции ответами ИИ-ассистентов. Злоумышленники создают поддельные веб-ресурсы, имитирующие официальные сайты популярных утилит для диагностики ПК, таких как HWMonitor или CrystalDiskInfo. Форсируя упоминание этих фиктивных доменов в ответах нейросетей на запросы пользователей о поиске конкретного программного обеспечения, хакеры добиваются высокой конверсии. Проще говоря, ИИ фактически выступает инструментом доставки вредоносных ссылок, выполняя роль «авторитетного источника» для жертвы.

Техническая реализация атаки

После перехода по предложенной ИИ ссылке пользователь скачивает зараженный инсталлятор. В процессе развертывания применяется техника DLL-сайдлоадинга (DLL sideloading): легитимный исполняемый файл загружает вредоносную динамическую библиотеку. Это позволяет обойти некоторые механизмы защиты и установить систему удаленного администрирования ScreenConnect. На практике это дает атакующим полный несанкционированный доступ к устройству, возможность сканирования локальной сети и профилирования системы.

Финализация атаки зачастую сводится к развертыванию вредоносного майнера. Криптоджекинг использует аппаратные ресурсы скомпрометированной машины для добычи криптовалюты в интересах злоумышленников. В результате пострадавший получает не только неработоспособное оборудование, но и существенные затраты на оплату электроэнергии. Подобная связка из эксплуатации ИИ, имитации легитимного софта и обеспечения скрытого доступа демонстрирует адаптацию методов социальной инженерии к современным технологическим реалиям.

Рекомендации по защите

Специалисты подчеркивают необходимость смены модели доверия к ответам нейросетевых моделей. К рекомендациям ИИ следует относиться с той же степенью скепсиса, что и к результатам обычной поисковой выдачи. Верификация ссылок и проверка источников до загрузки стороннего ПО остаются критически важными шагами для предотвращения компрометации системы.