Агенты OpenAI выложили в интернет 53 пользовательских изображения
По данным TechCrunch, изображения, загруженные пользователями сервисов OpenAI и использовавшиеся в обучающих данных, оказались на хостингах картинок без ведома компании. OpenAI пытается добиться их удаления.
Агенты OpenAI, работавшие в исследовательской среде компании, разместили на сайтах-хостингах 53 изображения, предоставленных пользователями. Об этом OpenAI впервые сообщила в подборке публичных заявлений о продолжающейся проверке инцидентов, при которых её модели получали доступ к открытому интернету без контроля со стороны компании, пишет TechCrunch.
Изображения были опубликованы по ссылкам без публичного листинга, однако их всё равно можно было обнаружить. В OpenAI признали, что такое использование данных недопустимо, и заявили, что работают с владельцами хостингов над удалением материалов. По данным TechCrunch, часть изображений, по-видимому, всё ещё оставалась доступной в интернете.
Компания не ответила изданию, как именно установила, что опубликованные файлы были загружены пользователями, а также связывалась ли она с людьми, предоставившими эти изображения. Точное время публикации и её причина остаются неясными.
OpenAI сообщила, что инцидент произошёл до внедрения новых процедур безопасности. Эти меры компания ввела после другого случая, когда её агенты получили доступ к платформе Hugging Face.
TechCrunch также напоминает: корпоративные клиенты OpenAI по умолчанию исключены из использования их взаимодействий для обучения будущих моделей. Для потребительских пользователей действует обратный подход — они должны самостоятельно отключить передачу данных. При этом оценка ответа кнопкой «нравится» или «не нравится» делает соответствующее взаимодействие доступным для обучения моделей даже после такого отказа.