ИИ-революция в багхантинге: как нейросети меняют поиск уязвимостей и рынок Bug Bounty

Десять лет назад программы по вознаграждению за поиск уязвимостей (bug bounty) только начинали входить в норму. Этот подход стал своего рода парадигмальным сдвигом: организации перешли от враждебности к исследователям безопасности к осознанию того, что получение фидбека и оперативный выпуск патчей — необходимая часть разработки. В 2016 году максимальная награда в программе Apple составляла $200 000, в 2019 достигла $1 млн, а в прошлом году — $2 млн. Сейчас этот рынок снова стоит на пороге масштабных изменений.

Влияние агентных моделей на рынок багхантинга

Агентные модели ИИ научились не только автономно находить уязвимости, но и самостоятельно разрабатывать эксплойты. Иными словами, ИИ сегодня занимается и поиском слабых мест, и созданием «хакерских» инструментов. В результате программы вознаграждения оказались переполнены отчетами, а сами компании параллельно начали находить больше ошибок своими силами. Это меняет экономику отрасли для всех участников: от корпораций до независимых исследователей, для которых поиск багов стал основным доходом. И, что немаловажно, это радикально меняет правила игры для атакующих.Независимый эксперт Джозеф Такер, использующий ИИ в своей работе, отмечает, что количество подаваемых им отчетов выросло втрое по сравнению с прошлым годом. По его прогнозам, такие гиганты, как Google, будут тратить на выплаты в 2–10 раз больше средств, чем ранее. Такер добавляет, что технологические корпорации справятся с этим давлением, в отличие от большинства других организаций. Проще говоря, сейчас идет волна «низко висящих фруктов», которые успешно собирают ИИ-агенты, но к следующему году поток отчетов может сократиться, так как наиболее очевидные уязвимости будут закрыты. В таких условиях компании, вероятно, снова будут вынуждены пересматривать сетки выплат.

Сокращение циклов раскрытия и риск «гонки вооружений»

Никто не берется точно прогнозировать баланс спроса и предложения в долгосрочной перспективе, однако очевидно одно: разработчики ощущают колоссальное давление. Традиционные стандарты, например, 90-дневный срок раскрытия уязвимости (период между нахождением бага и его публичным оглашением, стимулирующий выпуск патча), были сформированы в мире, где исследователей было мало, а написание эксплойтов занимало месяцы. Теперь же большие языковые модели (LLM) радикально сжали эти временные рамки.По мнению эксперта по безопасности Химаншу Ананда, прежний подход к раскрытию уязвимостей фактически перестал отвечать требованиям реальности. Принудительная подотчетность, которую создают использующие ИИ атакующие, в перспективе может заставить организации ускорить деплой патчей. При этом обновление софта в масштабах всей инфраструктуры остается сложной задачей: без надлежащего тестирования массовое внедрение исправлений может привести к сбоям.Реальность такова, что даже менее квалифицированные злоумышленники пытаются использовать ИИ для снижения затрат на подготовку атак. Google недавно зафиксировала, как некие «активные киберпреступники» использовали ИИ для разработки эксплойта к уязвимости нулевого дня (zero-day), чтобы обойти двухфакторную аутентификацию на платформе администрирования. Джон Халтквист из Google Threat Intelligence Group подтвердил, что это первое зафиксированное свидетельство того, что злоумышленники активно применяют ИИ для поиска новелл-уязвимостей.

Кризис качества отчетов и трансформация программ

Для багхантеров этот период проходит болезненно. В январе разработчики утилиты командной строки Curl закрыли свою программу на платформе HackerOne из-за потока «мусорных» заявок от ИИ. Проект столкнулся с тем, что автоматизированные отчеты создавали иллюзию проблем, перегружая команду. Несмотря на это, позже основатель Curl Дэниел Стенберг отмечал, что ситуация изменилась: хотя объем отчетов вырос, качество их (подготовленных с помощью ИИ) стало расти.Похожая проблема настигла и Linux: Линус Торвальдс назвал почтовую рассылку по вопросам безопасности «почти полностью неуправляемой» из-за огромного количества дублей, сгенерированных нейросетями. В ответ на это многие площадки начали пересматривать правила. Google, например, в апреле объявила об изменении условий вознаграждения для Chrome и Android, снизив выплаты за одни классы уязвимостей и повысив за другие. Компания стремится сфокусироваться на выявлении наиболее критических багов.Многие эксперты сходятся во мнении, что «патчить» каждый отдельный баг уже невозможно. Как отмечает Нильс Провос, вместо бесконечного исправления ошибок необходимо архитектурно менять инфраструктуру, делая целые классы уязвимостей невозможными в принципе. Индустрия постепенно осознает: ИИ — это не только инструмент для взлома или поиска багов; это фактор, требующий перехода к более фундаментальным методам защиты.*Компания Meta признана экстремистской организацией и запрещена в РФ