Игровая платформа Roblox внедрила новую систему модерации чатов, использующую алгоритмы искусственного интеллекта для перефразирования пользовательских сообщений. Этот механизм дополняет уже существующую систему фильтрации ненормативной лексики, которая ранее заменяла запрещенные слова символами «#».
Принцип работы ИИ-модерации
Теперь ИИ автоматически преобразует потенциально некорректные или агрессивные фразы в более приемлемые варианты, сохраняя при этом исходный смысл сообщения. Например, фраза «Hurry TF up!» (что можно перевести как «Давай быстрее, черт возьми!») будет автоматически скорректирована до «Hurry up!» («Поторопись!»). Система также информирует всех участников чата о том, что сообщение было отредактировано для поддержания вежливого тона общения.
Возрастные ограничения и доступность функции
На данный момент функция автоматического перефразирования доступна для пользователей, прошедших процедуру верификации возраста. Она применяется в игровых чатах между игроками, относящимися к схожим возрастным группам. Месяц назад на платформе появилась возможность подтверждения возраста, что позволяет пользователям общаться с другими игроками из определённых возрастных категорий. Например, пользователи в возрасте от 9 до 12 лет могут взаимодействовать с игроками из группы 13-15 лет.
Напомним, что на данный момент на территории России игра Roblox блокируется