В OpenAI освободилась позиция руководителя направления робототехники. Кейтлин Калиновски, ранее занимавшая этот пост, объявила о своем уходе в X, выразив критику поспешному решению компании о сотрудничестве с Министерством обороны США без надлежащей проработки этических ограничений в использовании ИИ.
Предыстория и причины ухода
Калиновски, перешедшая в OpenAI в конце 2024 года с предыдущей должности в Meta*, заявила в своем посте: "наблюдение за американцами без судебного надзора и летальная автономность без человеческого разрешения — это грани, которые заслуживали большей проработки, чем получили". В ответ на другой комментарий бывший топ-менеджер OpenAI уточнила, что "анонс был поспешным, без определённых защитных механизмов", подчеркнув, что это была "в первую очередь проблема управления".
Реакция OpenAI
OpenAI подтвердила отставку Калиновски, заявив Engadget, что компания признает наличие "сильных позиций" по этим вопросам и намерена продолжать обсуждения с заинтересованными сторонами. В заявлении также отмечалось, что компания не поддерживает опасения, выраженные Калиновски.
"Мы полагаем, что наше соглашение с Пентагоном создаёт действенный путь для ответственного использования ИИ в целях национальной безопасности, чётко обозначая наши красные линии: никакого внутреннего наблюдения и никакого автономного оружия", — говорится в официальном заявлении OpenAI.
Контекст и последствия
Уход Калиновски, вероятно, стал наиболее заметным последствием решения OpenAI заключить договор с Министерством обороны. Это событие произошло вскоре после того, как компания Anthropic отказалась ослабить свои внутренние правила относительно массового наблюдения и разработки полностью автономных систем вооружения. Примечательно, что даже Сэм Альтман, генеральный директор OpenAI, выразил готовность внести изменения в соглашение с Министерством обороны, чтобы исключить возможность шпионажа за гражданами США.
*Компания Meta признана экстремистской организацией и запрещена в РФ