Корпорация OpenAI приняла решение отложить внедрение функционала для генерации эротического контента в ChatGPT. Несмотря на то что Сэм Альтман еще в середине 2023 года анонсировал появление подобных возможностей, сроки релиза неоднократно переносились. Изначально запуск планировался на декабрь, затем был смещен на текущий квартал, однако, согласно последним данным, выход функции задержится как минимум на месяц. В компании объясняют это необходимостью дополнительной проработки вопросов безопасности и этических барьеров.
Исторический контекст и попытки регулирования
Интерес OpenAI к генеративному ИИ в сфере эротики не нов. Еще в 2021 году компания столкнулась с рисками бесконтрольной генерации контента 18+ в рамках проекта AI Dungeon. Тогда разработчики обнаружили, что нейросеть склонна к инициации сексуальных тем в диалогах, а при запросе пользователя на «умеренный» уровень контента платформа зачастую выходила за рамки этических пределов. Уже тогда стало очевидно, что создание функционала требует жестких ограничений, так как нейромодели проявляют чрезмерную «откровенность» в ответах.
Технологические ограничения и риски верификации
Ключевым препятствием для запуска новых функций выступает не столько техническая генерация текста, сколько надежность верификации пользователей. На текущий момент используемые OpenAI инструменты идентификации возраста ошибаются в 12 % случаев, принимая подростков за совершеннолетних. Учитывая, что аудитория ChatGPT охватывает около 100 миллионов несовершеннолетних пользователей, даже при такой погрешности миллионы подростков могут получить доступ к нежелательному контенту.
Рекомендации экспертной комиссии
Сформированная в январе специальная комиссия экспертов указала на критические риски, связанные с потенциальной генерацией контента, нарушающего законодательные и моральные нормы — в частности, сценариев с элементами насилия или участием несовершеннолетних. Специалисты также подчеркивают угрозу формирования психологической зависимости, при которой пользователи теряют мотивацию к социализации в реальном мире. Более того, эксперты опасаются, что глубокое погружение в эротические диалоги с «цифровыми личностями» может спровоцировать ухудшение ментального здоровья, вплоть до суицидальных состояний, прецеденты которых уже фиксировались при использовании других чат-ботов.
Конкурентная среда и позиция компании
Рынок движется в сторону либерализации правил: Meta разрешила пользователям своих ботов участвовать в романтических ролевых играх, а Илон Маск анонсировал возможность генерации контента 18+ для видео в рамках Grok. В OpenAI, в свою очередь, пытаются найти баланс между рыночным давлением и внутренним сопротивлением части сотрудников, которые опасаются, что «эротизация» платформы негативно скажется на репутации. Руководство подчеркивает, что планируемый функционал ограничится текстовым форматом без генерации визуальных материалов. Тем не менее, компания признает невозможность достижения 100-процентной точности в системах проверки возраста, что делает процесс запуска крайне осторожным. На текущем этапе OpenAI планирует внедрять принудительные напоминания о необходимости поддержания отношений с реальными людьми, чтобы минимизировать риски изоляции пользователей.
*Компания Meta признана экстремистской организацией и запрещена в РФ