Google поможет отличать настоящие изображения от подделок ИИ

[душман]

Google намерена сделать общедоступным решение, которое поможет определить, было ли изображение сделано камерой, отредактировано с помощью ПО вроде Photoshop или создано при помощи модели генеративного искусственного интеллекта. В ближайшие месяцы в результатах поиска Google появится обновлённая функция «Об этом изображении», которая поможет пользователям понять, использовался ли ИИ при создании или редактировании изображения.

Используемая системой Google технология разработана на основе стандарта метаданных, продвигаемого организацией C2PA (Coalition for Content Provenance and Authenticity) — одной из нескольких организаций, которые стремятся решить проблему изображений, созданных с помощью ИИ. Аутентификация C2PA включает информацию о происхождении изображений и применяется аппаратными и программными системами для создания цифрового следа. Её поддержали компании Amazon, Microsoft, Adobe, Arm, OpenAI, Intel, Truepic и Google, однако развёртывание решения идёт медленно. Интеграция в результаты поиска Google станет первым серьёзным испытанием этой инициативы.

Google участвовала в разработке новейшего технического стандарта C2PA 2.1, и новая функция поиска будет использоваться совместно с доверенным списком C2PA. «Например, если данные указывают, что изображение было снято на камеру определённой модели, доверенный список поможет подтвердить точность этой информации», — пояснили в Google. Компания также планирует интегрировать C2PA в свои рекламные системы и рассматривает вопрос о внедрении стандарта на YouTube.