Meta стала ошибочно маркировать настоящие фотографии как творения ИИ

[душман]

Несколько фотографов сообщили, что соцсети Meta в последние месяцы стали незаслуженно добавлять к их снимкам пометку «Создано ИИ» (Made by AI). В одном из случаев это были фотографии, сделанные на баскетбольном матче, в другом — на турнире по крикету в индийской премьер-лиге. Интересно, что эти метки показываются при просмотре снимков в мобильных приложениях, а не в веб-версии.

Сделавший снимок на баскетбольном матче бывший фотограф Белого дома Пит Соуза рассказал, что пытался удалить эту метку, но не смог. По его мнению, алгоритм Meta сработал из-за того, что он предварительно обрезал фото в ПО Adobe и сохранил его в формате JPEG. «Ложноположительные» срабатывания отмечаются, когда фотографы пользуются при обработке инструментами на основе генеративного ИИ, например, Adobe Generative Fill, — даже для удаления мелких объектов.

Эту гипотезу подтвердили журналисты PetaPixel, которые удалили при помощи Generative Fill мелкое пятнышко со снимка — в Instagram действительно появилась пометка «Создано ИИ». Эксперимент решили продолжить: открыли этот снимок в Photoshop, скопировали и вставили его в документ с чёрным фоном, после чего сохранили и снова опубликовали в соцсети — метка не появилась.

В Meta «примут во внимание недавние отзывы» и переоценят свой подход, чтобы «отметки отражали объём работы ИИ при создании изображения», заявила The Verge представитель компании Кейт Маклафлин. «Мы полагаемся на индикаторы отраслевых стандартов, которые другие компании добавляют в контент своими инструментами, поэтому мы активно работаем с компаниями, чтобы улучшить наш процесс, и чтобы наш подход к маркировке соответствовал нашим намерениям», — добавила Маклафлин. О планах добавлять такие пометки Meta сообщала в апреле. Adobe использует собственный способ маркировки ИИ-материалов Content Credentials.