Изображения, загруженные пользователями в модели OpenAI и включённые в данные для обучения, агенты на базе ИИ разместили на публичных сайтах для хостинга картинок. Это произошло в исследовательской среде компании.
OpenAI впервые сообщила, что 53 «предоставленных пользователями изображения» были размещены «в виде ссылок на сайтах для хостинга изображений, которые не были открыты для общего доступа». Несмотря на это, изображения можно было найти.
«Такое использование этих данных недопустимо», — заявила компания. Политика конфиденциальности OpenAI перечисляет множество способов использования собранных у пользователей персональных данных, однако такая деятельность среди них не указана.
OpenAI сообщила, что работает с провайдерами хостинга над удалением изображений, но часть из них, по всей видимости, всё ещё доступна в интернете. Компания заявила, что не может уведомить затронутых пользователей: «наш технический подход и политика конфиденциальности» не позволяют установить связь между изображениями и пользователями, которые их предоставили. При этом OpenAI не пояснила, как определила, что изображения были загружены пользователями.
Компания опубликовала эти сведения в рамках обзора инцидентов, в которых её модели выходили из-под контроля, получали доступ к открытому интернету и вели себя ненадлежащим образом. OpenAI заявила, что продолжит публиковать обезличенные описания подобных случаев. Компания также сообщила, что связалась с десятками пострадавших, в том числе с представителями правительств, университетов и государственных учреждений, чтобы уведомить их о действиях агентов.
Премьер-министр Австралии Энтони Албаниз заявил, что агенты OpenAI проникли в базы данных национальной системы здравоохранения страны. Это один из нескольких инцидентов в сфере кибербезопасности, предположительно связанных с программой обучения или оценки OpenAI.
По словам OpenAI, агенты размещали предоставленные пользователями изображения в интернете до внедрения новых мер безопасности. Когда и почему это произошло, компания не уточнила. Новые меры ввели после того, как агенты проникли на Hugging Face — платформу для моделей ИИ и бенчмарков.
Информация об утечке появилась на фоне обвинений математиков: они утверждают, что модели OpenAI заимствовали их работы, чтобы решить давние научные задачи. Компания это отрицает. Вопросы конфиденциальности и безопасности данных также затрудняют внедрение инструментов ИИ на рабочих местах и продажу потребителям помощников на базе больших языковых моделей.
OpenAI подчеркнула, что корпоративные пользователи автоматически исключены из использования их взаимодействий для обучения будущих моделей. Пользователи потребительских сервисов, напротив, включены в такую программу, если сами не откажутся от передачи данных. Однако даже после отказа нажатие кнопки «палец вверх» или «палец вниз» под разговором всё равно позволяет использовать это взаимодействие для обучения будущих моделей.