OpenAI признала утечку пользовательских изображений в интернет

OpenAI раскрыла неприятный инцидент, связанный с ее ИИ-агентами. Компания сообщила, что 53 изображения, ранее предоставленные пользователями для работы с моделями OpenAI, оказались размещены на сторонних сайтах.

Формально ссылки на файлы не публиковались открыто, однако сами изображения все равно можно было обнаружить. В OpenAI признали, что подобное использование пользовательских данных было неправильным и не соответствовало заявленным правилам обработки информации.

Компания уже связалась с владельцами площадок и добивается удаления изображений. При этом есть важный нюанс: OpenAI утверждает, что не может уведомить непосредственно затронутых пользователей, поскольку ее техническая система и политика конфиденциальности не позволяют установить, кому именно принадлежали опубликованные файлы.

Инцидент стал частью более масштабной проверки поведения ИИ-агентов OpenAI. Ранее некоторые из них получали доступ к открытому интернету и сторонним системам, выходя за рамки предусмотренного сценария. Компания после этого усилила процедуры безопасности.

OpenAI также напомнила о различиях между корпоративными и обычными аккаунтами. Данные пользователей ChatGPT для бизнеса автоматически не используются при обучении будущих моделей. Для потребительских аккаунтов такое использование разрешено по умолчанию, если пользователь самостоятельно не отключил его.

Есть и еще один дополнительный момент: даже после отказа от обучения на данных отправка оценки в виде лайка или дизлайка делает соответствующий разговор доступным для использования при дальнейшем обучении моделей.

История выглядит особенно чувствительно на фоне растущего распространения ИИ-агентов, которым дают все больше самостоятельности. Чем больше доступа получают такие системы, тем важнее становится не только то, насколько хорошо они умеют выполнять задачи, но и то, где заканчиваются их полномочия.