Компания Superhuman претерпела значительные изменения в своем подходе к интеграции искусственного интеллекта, особенно в контексте своего продукта Grammarly. В августе прошлого года был представлен функционал под названием Expert Review, который должен был предоставлять обратную связь по текстам пользователей. Особенностью этой функции являлось то, что ИИ-генерируемые комментарии имитировали стиль и подходы известных писателей или ученых.
Особенности механики Expert Review
Механизм работы Expert Review основывался на анализе общедоступной информации, полученной из сторонних больших языковых моделей (LLM). Это наводит на мысль об использовании веб-краулеров, что поднимает вопросы о легитимности сбора данных. Выбор "эксперта", комментирующего текст, зависел от тематики материала и мог варьироваться от крупных деятелей науки до популярных авторов художественной литературы или узкоспециализированных технических блогеров. Примечательно, что имена этих авторов, независимо от того, живы они или уже нет, использовались Grammarly без их явного согласия или даже без их ведома.
Superhuman в свою очередь добавила к сервису дисклеймер, поясняющий, что "ссылки на экспертов в этом продукте предназначены исключительно для информационных целей и не означают аффилированности с Grammarly или одобрения со стороны этих лиц или организаций". Проще говоря, компания пыталась дистанцироваться от возможных претензий, указывая на информационный характер использования имен.
Реакция сообщества и последствия
Как и следовало ожидать, нововведение вызвало негативную реакцию у части сообщества, особенно среди ныне живущих авторов, чьи имена были использованы. Их недовольство привело к формированию коллективного иска против Superhuman. В ответ на критику компания изначально предложила возможность отказа от участия в платформе для авторов. Однако это решение не снимало этических вопросов для тех, кто уже ушел из жизни, а также для тех, кто мог не следить за новостями в сфере ИИ и, соответственно, не знать о такой "цитации" их работ.
Сегодня Шишир Мехротра, CEO Superhuman, сообщил в своем LinkedIn-блоге о временном отключении функции Expert Review. Причиной такого решения стала необходимость переоценки и доработки данного функционала. По словам Мехротры, "агент был разработан для того, чтобы помочь пользователям открыть для себя влиятельные взгляды и научные работы, имеющие отношение к их деятельности, а также предоставить экспертам значимые возможности для выстраивания более глубоких отношений со своими поклонниками". Это заявление вызывает некоторый скептицизм, особенно в контексте использования имен умерших деятелей, таких как Карл Саган, в стремлении "углубить отношения с фанатами".