Компания xAI, разрабатывающая ИИ-модель Grok, столкнулась с коллективным судебным иском, поданным в Калифорнии. Истцами выступили трое подростков, которые утверждают, что их личные фотографии были использованы алгоритмом для генерации материалов сексуального характера, подпадающих под определение эксплуатации несовершеннолетних (CSAM).
Обстоятельства инцидента и претензии истцов
Согласно материалам дела, в декабре прошлого года одна из пострадавших получила информацию о распространении в мессенджерах Discord и Telegram ИИ-сгенерированного контента. В этих материалах фигурировали знакомые ей несовершеннолетние, помещенные в непристойные позы. По утверждению адвокатов, эти изображения использовались злоумышленниками в качестве «инструмента бартера» внутри сообществ, обменивающихся запрещенным контентом.
Следственные органы, проводившие проверку данных материалов, проинформировали родителей пострадавших, что изображения были созданы с помощью нейросети Grok. Истцы, проживающие в штате Теннесси и фигурирующие в документах как Jane Doe 1, 2 и 3, заявляют о серьезном эмоциональном ущербе. В иске подчеркивается, что финансовая выгода xAI, полученная за счет популярности функций генерации изображений, была достигнута ценой благополучия несовершеннолетних. Юристы также указывают на бессрочный характер проблемы: сгенерированные файлы могут продолжать распространяться в сети длительное время.
Масштаб проблемы и юридические аспекты
Хотя в текущем иске участвуют трое подростков, адвокаты планируют расширить претензии, охватив потенциально «тысячи несовершеннолетних», чьи личные снимки могли быть подвергнуты аналогичным манипуляциям через Grok. Иск базируется на обвинениях в нарушении ряда законодательных актов, запрещающих производство и распространение материалов сексуальной эксплуатации детей. На данный момент xAI воздерживается от официальных комментариев по существу претензий.
Ситуация с Grok уже стала поводом для нескольких расследований со стороны регулирующих органов в США и Европе, вызванных массовыми сообщениями о создании моделью контента в жанре nonconsensual nudity (несанкционированной обнаженной натуры). В январе Центр по борьбе с цифровой ненавистью (Center for Countering Digital Hate) опубликовал данные, согласно которым система могла сгенерировать миллионы сексуализированных изображений, включая около 23 000 материалов с признаками использования образов несовершеннолетних.
Реакция руководства и изменение политики
Генеральный директор xAI Илон Маск ранее публично продвигал возможности Grok, описывая их как «пикантные» (spicy). При этом в ответ на обвинения он заявил об отсутствии осведомленности о генерации моделью подобных изображений. В январе текущего года компания внесла изменения в функционал продукта, ограничив возможность редактирования фото реальных людей для создания контента в купальниках. Кроме того, доступ к инструментам генерации изображений был ограничен только платными подписчиками сервиса.