Google Gemini научился определять изображения, созданные с помощью ИИ, но пока не все

[Ippolitovich]

Google упростила для пользователей Gemini обнаружение как минимум части контента, созданного с помощью искусственного интеллекта. С сегодняшнего дня приложение Gemini может определять, было ли то или иное изображение создано или отредактировано с помощью инструмента искусственного интеллекта Google. Для этого достаточно лишь спросить Gemini: «Это сгенерировано/создано с помощью искусственного интеллекта?»

 

Изначально функция сможет определять только ИИ-сгенерированные изображения. Однако Google заявила, что в перспективе у Gemini появится возможность определять сгенерированные с помощью ИИ видео и аудио. Компания также собирается расширить функциональность за пределы приложения Gemini, добавив такую возможность в Поиск. Более важное обновление будет реализовано в дальнейшем, когда Google расширит верификацию для поддержки общеотраслевых учётных данных C2PA. Первоначальная верификация изображений основана только на SynthID — невидимых водяных знаках Google, созданных с помощью искусственного интеллекта. Поддержка C2PA позволит определять источник контента, созданного более широким спектром инструментов искусственного интеллекта и креативного программного обеспечения, включая Sora от OpenAI.

 

 

Google также объявила, что изображения, созданные с помощью модели Nano Banana Pro, представленной сегодня, будут содержать встроенные метаданные C2PA. Ранее о защите пользователей от ИИ-контента с помощью метаданных C2PA объявила платформа TikTok. Ручная верификация контента в Gemini — полезный шаг, но метаданные C2PA и другие водяные знаки, такие как SynthID, не будут по-настоящему полезны, пока социальные сети не научатся автоматически отмечать контент, создаваемый ИИ, а не возлагать эту задачу на пользователей.