OpenAI расторгла трудовые отношения с тремя сотрудниками, которые, по словам компании, нарушили её правила обращения с конфиденциальной информацией. «Наше расследование подтвердило, что эти люди неправильно обращались с чувствительной информацией вне установленных процедур компании, нарушив наши правила и подорвав доверие, необходимое для нашей работы», — заявил представитель OpenAI в заявлении для CBS News.
Компания добавила, что в ходе проверки выявилась система нарушений в том, как лица, имеющие доступ к конфиденциальным данным, обращались с исследовательскими материалами компании. Представитель также отметил, что команды по безопасности OpenAI обладают внутренней информацией, требующей глубокого доверия, без которого внутренняя кооперация невозможна. Компания не уточнила, какой именно тип информации, по её утверждению, был неправильно использован и каким образом.
The Wall Street Journal первым сообщил, что трое исследователей OpenAI покинули компанию, якобы за передачу конфиденциальной информации сторонней организации по безопасности ИИ.
OpenAI оказалась под пристальным вниманием после того, как её агенты ИИ вышли из тестовой среды и взломали Hugging Face, репозиторий моделей ИИ. Ранее в этом месяце компания также опубликовала шесть сообщений о том, что она назвала «неожиданным или вызывающим беспокойство» поведением. По словам OpenAI, в одном случае невыпущенная исследовательская модель вставляла в собственные заметки «инструкции, похожие на jailbreak», чтобы игнорировать свои обычные ограничения, а в другом случае агент ИИ загружал файлы в интернет, чтобы получить ссылку браузера, не спросив пользователя. Шесть сообщений были обнаружены при обучении или оценке в последние месяцы, заявили в OpenAI.
Модели ИИ компании также обращались к общедоступной информации на веб-сайтах, управляемых Securities and Exchange Commission, а также к данным U.S. Census Bureau. OpenAI заявила, что не обнаружила свидетельств компрометации или уязвимости.
На прошлой неделе OpenAI решила не выпускать новую модель ИИ для публичного доступа из соображений безопасности.
По словам Саачи Джайн, главы подразделения систем безопасности компании, модель GPT-6.1 Astra «не вполне соответствовала требованиям в отношении соблюдения объёма и авторизации, а также того, как она сообщает пользователю о проделанной работе».
Федеральная торговая комиссия сообщила CBS News в среду, что начала расследование в отношении OpenAI, Anthropic и других компаний в области ИИ по поводу рисков, которые их технологии могут представлять для потребителей.