Недавнее соглашение OpenAI с Министерством обороны США спровоцировало заметное недовольство среди сотрудников стартапа. В ответ на это генеральный директор Сэм Альтман призвал коллектив воздержаться от оценок действий Пентагона, подчеркнув, что все операционные решения остаются прерогативой американских властей. Параллельно появились предположения о том, что OpenAI стремится к заключению контракта и с НАТО.
Реакция Альтмана на обеспокоенность сотрудников
На вчерашнем общем собрании сотрудников OpenAI, как сообщает CNBC, обсуждалась тема сделки с Пентагоном. Альтман подтвердил свою позицию, озвученную на прошлой неделе: компания не может влиять на то, как военные будут использовать её технологии. Он пояснил, что рассуждать о целесообразности военных операций, например, "хорошей идее удара по Ирану" или "плохом вторжении в Венесуэлу", не входит в компетенцию стартапа. По его словам, OpenAI не обладает полномочиями принимать операционные решения относительно использования разработанных ею ИИ-технологий американскими военными.
Взаимодействие OpenAI и Пентагона
Альтман отметил, что Пентагон ценит техническую экспертизу OpenAI и учитывает рекомендации по оптимальному применению искусственного интеллекта. Он также подчеркнул, что военное ведомство позволит OpenAI определять границы безопасного использования технологий в тех случаях, когда это будет сочтено уместным. Тем не менее, Министерство обороны США ясно дало понять, что операционные решения будут приниматься его руководством в лице Пита Хегсета. Отметим, что ИИ-решения конкурента Anthropic, по некоторым данным, уже применялись Пентагоном не только в операции по задержанию президента Венесуэлы в январе, но и в недавних ударах по Ирану. Пентагон использует технологии OpenAI в несекретных сферах деятельности с прошлого года, сумма соответствующего контракта составляет 200 миллионов долларов. Теперь же эти технологии могут быть задействованы и в секретных операциях.
Позиция Альтмана относительно конкуренции и использования ИИ
Сэм Альтман выразил уверенность, что OpenAI, обладая передовыми моделями ИИ, сможет мотивировать правительство к сотрудничеству, даже если ограничения компании в области безопасности вызовут неудобства. Он также предположил, что появится "ещё одно действующее лицо", подразумевая xAI, которое будет готово "сделать всё, что вы захотите".
Потенциальное сотрудничество с НАТО и этические ограничения
Агентство Reuters, ссылаясь на The Wall Street Journal, сообщило, что OpenAI рассматривает возможность заключения контракта с НАТО на использование своих ИИ-технологии в несекретных системах. Альтман подтвердил это на собрании персонала. Учитывая ведущую роль американского военного комплекса в функционировании альянса, подобные намерения стартапа не выглядят удивительными. Пентагон настаивает на возможности использования ИИ для любых законных целей. Однако как Anthropic, так и OpenAI считают необходимым исключить применение ИИ для массовой слежки за гражданами США и управления системами вооружений, способными к автоматическому выбору и уничтожению целей. OpenAI стремится к тому, чтобы её ИИ-системы не использовались АНБ и другими разведывательными структурами США, а в военной сфере применение ИИ ограничивалось облачной инфраструктурой ведомства, не затрагивая конечные устройства, управляющие оружием. Сам Альтман охарактеризовал заключение сделки с Пентагоном как крайне сложное, но верное решение, которое в краткосрочной перспективе негативно скажется на репутации OpenAI.