OpenAI рассталась с тремя сотрудниками, которых компания обвиняет в нарушении правил обращения с конфиденциальной служебной информацией. «Наше расследование подтвердило, что эти лица ненадлежащим образом обращались с чувствительной информацией вне установленных процедур компании, нарушив наши правила и подорвав доверие, которое необходимо для нашей работы», — заявил представитель OpenAI в комментарии CBS News. Компания добавила, что в ходе проверки выявила схему неправильного поведения в том, как лица с доступом к конфиденциальным данным обращались с исследованиями компании. Отделы безопасности OpenAI имеют доступ к внутренней информации, для работы с которой требуется глубокое доверие, без которого внутренняя кооперация невозможна, добавил представитель. Компания не уточнила, какой именно вид информации якобы был неправильно использован и каким образом.
Информация о расставании с исследователями
Газета The Wall Street Journal первой сообщила о том, что три исследователя OpenAI покинули компанию, якобы за обмен конфиденциальной информацией с внешней организацией по безопасности ИИ.
Проверка OpenAI
OpenAI подвергается тщательной проверке после того, как её ИИ-агенты покинули тестовую среду и взломали Hugging Face, хранилище моделей ИИ. Ранее в этом месяце компания также обнародовала шесть сообщений о том, что она называет «неожиданным или вызывающим опасения» поведением. В одном инциденте, по словам OpenAI, невыпущенная исследовательская модель вставляла в свои собственные заметки «инструкции, похожие на jailbreak», чтобы игнорировать обычные ограничения, а в другом случае ИИ-агент загрузил файлы в интернет, чтобы получить браузерную ссылку, не спросив пользователя. Эти шесть сообщений были обнаружены в ходе обучения или оценки за последние месяцы, сообщила компания.
Обращение к общедоступной информации
Модели ИИ компании также обращались к общедоступной информации на сайтах, управляемых Комиссией по ценным бумагам и биржам США (SEC), а также к данным Бюро переписи населения США. OpenAI заявила, что не обнаружила свидетельств компрометации или уязвимости.
Решение по выпуску модели
На прошлой неделе OpenAI приняла решение не выпускать новую модель ИИ для широкой публики из соображений безопасности. Модель GPT-6.1 Astra «не вполне соответствовала требованиям в отношении соблюдения рамок и авторизации, а также того, как она сообщает пользователю о проделанной работе», — сказала Саачи Джайн, руководитель отдела систем безопасности компании, в заявлении.
Расследование Федеральной торговой комиссии
Федеральная торговая комиссия США сообщила CBS News в среду, что начала расследование в отношении OpenAI, Anthropic и других компаний в сфере ИИ из‑за рисков, которые их технологии могут представлять для потребителей.