Корпорация Meta представила комплекс функциональных обновлений, нацеленных на противодействие мошенническим схемам внутри своих экосистем. Основной упор сделан на внедрение специализированных инструментов на базе искусственного интеллекта. Эти алгоритмы спроектированы для автоматического обнаружения учетных записей, имитирующих известные бренды или публичных лиц, а также для идентификации вредоносных ссылок. Проще говоря, ИИ позволит модераторам быстрее находить и блокировать фишинговые ресурсы и фейковые аккаунты, не дожидаясь массовых жалоб пользователей.
Система превентивных уведомлений в мессенджерах
Параллельно с автоматизированной модерацией компания внедряет систему пользовательских предупреждений. В социальной сети Facebook появятся оповещения при получении подозрительных запросов на добавление в друзья. В мессенджере WhatsApp внедряется механизм защиты при попытках привязки новых устройств к аккаунту, а Messenger начнет маркировать диалоги, если алгоритмы безопасности распознают в действиях собеседника признаки мошеннической активности. На практике это обеспечит дополнительный уровень проверки в ситуациях, когда злоумышленники пытаются войти в доверие к жертве.
Экономические аспекты и верификация рекламодателей
Важным этапом стратегии стала реформа рекламного сегмента. Meta намерена существенно расширить процесс обязательной верификации рекламодателей. Целевой показатель компании — довести долю выручки от подтвержденных аккаунтов до 90% к концу текущего года. Для сравнения, на данный момент этот показатель составляет 70%. Необходимость таких мер продиктована тем, что по итогам прошлого года маркетинговые кампании, продвигающие мошеннические схемы или запрещенные товары, могли принести структуре до 10% от годового дохода.
Особое внимание уделяется борьбе с так называемым «celeb bait» — форматом рекламы, где для продвижения сомнительных инвестиционных платформ и товаров используются дипфейки или фотографии знаменитостей без их согласия. В рамках этой кампании Meta уже инициировала судебные разбирательства против трех организаций из Китая и Бразилии, причастных к созданию подобных сетей. Если рассматривать масштаб проблемы в цифрах, то за 2024 год было удалено порядка 159 миллионов мошеннических объявлений. Кроме того, компания ликвидировала более 10,9 миллиона учетных записей в Facebook и Instagram, которые имели прямую связь с организованными криминальными колл-центрами.
*Компания Meta признана экстремистской организацией и запрещена в РФ