В Google изобрели надёжный способ помечать сгенерированные ИИ изображения

[душман]

Подразделение Google DeepMind предложило решение, которое позволяет наносить невидимую для человеческого глаза маркировку на изображения, созданные искусственным интеллектом. Человеку становится всё труднее отличать сгенерированные ИИ изображения от картинок, созданных людьми, поэтому инженеры Google и других технологических гигантов всерьёз задумались о разработке технических средств для этого. 

Одним из решений может стать разработанная компанией технология SynthID, позволяющая помечать изображения ИИ-генераторов, не ухудшая их качества. Она работает путем внедрения тонких изменений в отдельные пиксели изображений, создавая водяной знак, невидимый для человеческого глаза, но распознаваемый компьютерами. Такая пометка обнаруживается даже после добавления различных фильтров, внесения цветокоррекции или регулировки яркости, утверждают в Google. 

Более того, SynthID нельзя удалить, даже если обрезать изображение. Google была одной из технологических компаний, пообещавших администрации президента США внедрить некое подобие «водяных знаков» для ИИ-контента. Параллельно аналогичной работой занимается Adobe – компания создаёт методы кодирования данных, позволяющие отслеживать способы создания изображения и документировать последующие изменения. 

Не исключено, что располагающие мощными ИИ-платформами злоумышленники преднамеренно откажутся от маркировки ИИ-изображений, но если крупные игроки будут помечать их в обязательном порядке, люди станут относиться к изображениям без «водяных знаков» настороженно.