Новые правила ЕС потребуют от мессенджеров сканировать сообщения для выявления правонарушений

[душман]

Еврокомиссия готова предложить новые правила, согласно которым приложения мессенджеров вроде WhatsApp или Facebook Messenger будут выборочно сканировать сообщения пользователей в поисках материалов, связанных с сексуальным насилием над детьми (т.н. CSAM) и попытками домогательств до несовершеннолетних со стороны взрослых. Проект раскритиковали эксперты по информационной безопасности и правозащитники.

После того, как данные о законопроекте появились ранее на этой неделе, он немедленно подвергся критике ряда групп и экспертов. По словам одного из них, «документ представляет самую страшную вещь из тех, что он когда-либо видел». Некоторые специалисты заявляют, что это один из самых «постыдных» законов, полностью несовместимый с любой свободной демократией. В частности, закон предусматривает ряд новых обязательств для «онлайн-провайдеров сервисов», включая магазины приложений, хостинг-сервисы и любых провайдеров «сервисов межличностного общения».

Наиболее суровые нормы будут применяться к популярным мессенджерам. Так, после получения запроса от властей администрация мессенджера обязана будет сканировать сообщения указанных властями пользователей в поисках материалов, связанных с сексуальным насилием в отношении детей, а также фактов домогательств — это потребует использования инструментов машинного зрения и систем ИИ для анализа контекста фото и текстов. Запросы будут делаться правоохранительными органами отдельных государств. Тем не менее, в документе отсутствует определение того, как именно будут «таргетироваться» запросы — на отдельных личностей, сообщества или более широкие категории пользователей.