По информации Wall Street Journal, правительство Канады заявило о согласии Сэма Альтмана, генерального директора OpenAI, усилить меры безопасности. Это решение принято после инцидента с массовой стрельбой в школе, когда OpenAI, выявив подозрительную активность пользователя, заблокировала его аккаунт, но не проинформировала правоохранительные органы.
Реакция на инцидент и новые протоколы
Ожидается, что введенные изменения будут направлены на плотное взаимодействие с правоохранительными органами. Речь идет о передаче данных полиции в случаях потенциально подозрительного использования ChatGPT. Хотя официального подтверждения от OpenAI пока нет, министр искусственного интеллекта Канады Эван Соломон сообщил, что Альтман дал согласие на предложенные им действия.
В ходе виртуальной встречи с Альтманом Соломон обсудил, как OpenAI сможет интегрировать канадских экспертов по вопросам конфиденциальности, психического здоровья и правопорядка в процесс выявления и анализа высокорисковых ситуаций с участием канадских пользователей. OpenAI обязалась представить отчет, детализирующий эти новые протоколы.
Ретроспективный анализ и ужесточение мер
Соломон также предложил применить новые правила ретроспективно, то есть проанализировать предыдущие подозрительные инциденты на платформе и, при необходимости, предоставить данные правоохранительным органам. Информации о согласии OpenAI на этот пункт пока нет.
Ранее OpenAI уже предпринимала шаги для улучшения своих систем безопасности. Энн О'Лири, вице-президент OpenAI по глобальной политике, упоминала о планах по доработке систем обнаружения, чтобы эффективнее предотвращать повторную регистрацию заблокированных пользователей. Примечательно, что аккаунт предполагаемого стрелка был забанен из-за "потенциальных предупреждений о готовности совершить реальное насилие", однако ему удалось создать новый аккаунт.