Роскомнадзор предлагает соцсетям самостоятельно блокировать дипфейки

Главный радиочастотный центр (ГРЧЦ), входящий в структуру Роскомнадзора, выступил с инициативой по изменению правил модерации контента в российских социальных сетях. Регулятор предлагает обязать площадки самостоятельно выявлять дипфейки и ограничивать их охваты еще до того, как будет подтверждена достоверность содержащихся в них сведений. Фактически речь идет о превентивной блокировке резонансного медиаконтента, созданного с помощью нейросетей, на время верификации данных у упомянутых в материалах лиц или организаций.

Механизмы оперативного реагирования

Представители ГРЧЦ подчеркивают, что скорость распространения синтетического контента зачастую превышает охваты обычных «горячих» новостей. В связи с этим ведомство настаивает на внедрении законодательных норм, позволяющих ИТ-платформам оперативно приостанавливать виральное распространение подозрительных сообщений. Проще говоря, соцсети должны получить право «замораживать» контент до получения официального подтверждения или опровержения от первоисточника.

Помимо прямой блокировки, пакет предложений включает обязательную маркировку любых материалов, сгенерированных искусственным интеллектом, еще до начала их ротации. Также обсуждается создание единой базы технологических угроз и запуск систем межведомственного обмена информацией между государственным сектором и частным ИТ-бизнесом для повышения цифровой грамотности населения.

Технологический барьер и риски ложных срабатываний

Несмотря на административные инициативы, представители крупного ИТ-сектора указывают на отсутствие надежного инструментария для реализации подобных требований. Главная проблема заключается в том, что при текущих объемах трафика — миллионах видео и изображений, загружаемых ежедневно, — не существует технического решения, способного со 100% точностью отличить высококачественный дипфейк от реальной съемки. Ведущие российские платформы, включая VK, Rutube и «Яндекс», пока воздерживаются от официальных комментариев по данному вопросу.

Эксперты отрасли опасаются, что попытки автоматизировать процесс приведут к массовым ошибкам. Современные генеративные модели развиваются быстрее, чем детекторы, которые должны их распознавать. На практике это значит, что под блокировку могут попасть подлинные фотографии и видеоролики, что неизбежно спровоцирует юридические конфликты с пользователями и медийными брендами из-за необоснованного ограничения охватов.

Перспективы гибридной модерации

Специалисты в области ИИ отмечают, что полностью ручная модерация невозможна из-за масштабов данных, а полностью автоматическая — из-за несовершенства алгоритмов. Наиболее жизнеспособным сценарием выглядит создание гибридных систем анализа. Такие комплексы могут сочетать в себе поиск цифровых водяных знаков, проверку метаданных файла и поведенческий анализ — отслеживание аномально быстрого роста популярности публикации.

Однако создание и поддержка такой инфраструктуры потребует от соцсетей колоссальных затрат. Вопрос о том, как именно будет происходить верификация у «доверенного источника» и в какие сроки это должно укладываться, остается открытым. Без детальной экспертизы и четких критериев того, какой именно синтетический контент считать опасным, инициатива рискует превратиться в избыточный фильтр, тормозящий работу площадок.