Microsoft встроила в ИИ-картинки скрытый идентификатор — по нему можно установить, кто их создал

[душман]

Microsoft выбрала для маркировки созданных с помощью искусственного интеллекта изображений собственный формат: «водяные знаки», которые накладываются на картинки из Paint и приложения «Фотографии», содержат сведения, которые могут указать на отправившего запрос к ИИ пользователя.

Маркировка введена в соответствии с требованиями новых норм ЕС о прозрачности. Они предполагают, чтобы созданный с помощью ИИ контент имел отметку в машиночитаемом формате, а связанные с ним метаданные должны указывать, как минимум, подвергался ли контент обработке с помощью ИИ или был полностью сгенерирован им. 

Конкретные методы не определяются, и в Microsoft решили расширить этот объём информации — будучи одним из основателей Коалиции за происхождение и подлинность контента (C2PA), компания решила внедрить в Paint и приложение «Фотографии» маркировку с указанием глобального уникального идентификатора (GUID), связанного с запросом, по которому было создано изображение.

Невидимый водяной знак GUID представляет собой 16-байтовое целое число, отличающееся от видимого водяного знака, который Microsoft предоставляет пользователям Paint и ИИ-функций Microsoft 365. Зная связанный с изображением GUID запрос, компания имеет техническую возможность идентифицировать и отправившего этот запрос пользователя. 

Примечательно, что при запросе на генерацию Paint также отправляет значение предыдущего promptGenerationId, то есть Microsoft может связывать и последовательности запросов.

Маркировку ИИ-контента в ответ на требования ИИ уже ввели Anthropic, OpenAI и Google. Без маркировки работают только модели с открытыми весами, в том числе Stable Diffusion; а самым надёжным способом сохранить конфиденциальность остаются модели, которые запускаются локально на устройствах пользователей, а не в облаке.