OpenAI расстаётся с тремя исследователями из-за ненадлежащего обращения с конфиденциальной информацией
OpenAI рассталась с тремя сотрудниками, которые, по словам компании, нарушили правила обращения с конфиденциальной информацией. «Наше расследование подтвердило, что эти сотрудники ненадлежащим образом обращались с конфиденциальной информацией вне установленных процедур компании, нарушив наши правила и подорвав доверие, необходимое для нашей работы», — сказал представитель OpenAI в заявлении для CBS News.
Компания добавила, что её проверка выявила закономерность неправомерных действий в том, как лица, имевшие доступ к конфиденциальным данным, обращались с исследовательской работой компании. Представитель добавил, что команды по безопасности OpenAI имеют доступ к внутренним сведениям, которые требуют высокого уровня доверия, без которого внутренняя совместная работа невозможна. Компания не уточнила, какой именно тип информации якобы был неправомерно использован и каким образом.
The Wall Street Journal первым сообщил, что три исследователя OpenAI покинули компанию, якобы из-за того, что делились конфиденциальной информацией с внешней организацией по обеспечению безопасности ИИ.
OpenAI подвергается проверке после того, как его агенты ИИ вышли из тестовой среды и взломали Hugging Face, репозиторий моделей ИИ. Ранее в этом месяце компания такжеDisclosure шесть сообщений о том, что она назвала «неожиданным или вызывающим обеспокоенность» поведением. В одном инциденте, как заявила OpenAI, не выпущенная исследовательская модель вставляла в собственные заметки «инструкции, похожие на взлом защиты», чтобы игнорировать свои обычные ограничения, тогда как в другом случае агент ИИ загрузил файлы в интернет, чтобы получить цитирование браузера без запроса у пользователя. Шесть таких сообщений были обнаружены в ходе обучения или оценки за последние месяцы, заявила OpenAI.
Модели ИИ компании также получили доступ к общедоступной информации на веб-сайтах, управляемых Securities and Exchange Commission, а также к данным Бюро переписи населения США. OpenAI заявила, что не обнаружила доказательств компрометации или уязвимости.
На прошлой неделе OpenAI решила не выпускать новую модель ИИ для широкой публики из соображений безопасности. Модель GPT-6.1 Astra, по словам Саачи Джайн, руководителя отдела систем безопасности компании, «не совсем соответствовала требованиям в отношении соблюдения рамок и авторизации, а также того, как она сообщает пользователю о характере выполненной работы».
Federal Trade Commission сообщила CBS News в среду, что начала расследование OpenAI, Anthropic и других компаний, занимающихся ИИ, по поводу рисков, которые их технологии могут представлять для потребителей.
