В Facebook и Instagram встроили ИИ, который выявляет детей по росту и строению скелета

[душман]

Meta запустила ИИ-систему, которая по фотографиям и видео анализирует рост и строение скелета пользователей Facebook и Instagram, чтобы находить и удалять аккаунты детей младше 13 лет. Компания подчёркивает, что технология не распознаёт лица и не определяет конкретного человека на снимке. Алгоритм пока работает в нескольких странах, включая США, и Meta планирует расширить его географию.

ИИ сканирует публикации на обеих платформах и анализирует визуальные признаки возраста пользователей — прежде всего рост и строение скелета. Помимо изображений алгоритм проверяет сообщения, комментарии, биографические сведения, подписи и собирает по ним признаки того, что автор может быть несовершеннолетним. По принципу действия инструмент похож на систему сканирования лиц. Если система решит, что аккаунт принадлежит ребёнку, то заблокирует его. Чтобы учётную запись не удалили, владельцу нужно подтвердить возраст.

Заявление прозвучало через несколько дней после того, как присяжные в штате Нью-Мексико (США) признали Meta виновной в нарушении законодательства. Компания вводила пользователей в заблуждение относительно безопасности своих платформ и не защищала детей от вредоносного контента. Meta обязали выплатить $375 млн. Помимо штрафа компании, возможно, придётся внести изменения в работу платформ, из-за которых она уже пригрозила уйти из штата.

Параллельно Meta распространяет на Facebook подростковые аккаунты Teen Accounts. Система автоматически определяет пользователей от 13 до 18 лет и переводит их в этот режим, в котором ограничен контент, заблокированы сообщения от незнакомцев и запрещены прямые трансляции для тех, кому ещё нет 16. В Instagram технология работает с 2024 года. Теперь Meta запустит её на Facebook сначала в США, а в июне подключит Великобританию и Европу. В заявлении Meta также высказалась за то, чтобы возраст пользователя проверяли на уровне магазинов приложений и операционных систем. Такой подход поддерживают всё больше политиков в Конгрессе США и в нескольких штатах, в том числе в Калифорнии и Колорадо.