Роскомнадзор сообщил о рисках дезинформации пользователей рекомендательными алгоритмами

[душман]

Бесконтрольное развитие рекомендательных сервисов может привести к политической поляризации общества, продвижению фейковых новостей и «риторик ненависти», об этом говорится в аналитической справке, подготовленной ФГУП «Главный радиочастотный центр» (ГРЧЦ).

«В основе рекомендательных алгоритмов лежит использование искусственного интеллекта (ИИ), будь то довольно простые модели логистической регрессии или наиболее продвинутые версии глубоких нейронных сетей. Поэтому можно смело утверждать, что ИИ — ключевой компонент популярных социальных сетей», — пишут авторы документа, которых сегодня цитируют «Ведомости».

При распространении контента ИИ «часто отдает предпочтение спорной, разжигающей вражду и недостоверной информации, поскольку именно такой контент привлекает больше внимания пользователей и ведет к повышению вовлеченности и взаимодействия с платформой», отмечают в ГРЧЦ.

«В результате социальные сети могут спровоцировать политическую поляризацию и продвигать дезинформацию», — делают вывод авторы справки. ГРЧЦ приводит в пример статистику соцсети Facebook (принадлежит компании Meta, признана экстремистской и запрещена в РФ), согласно которой 64 % всех новых подписчиков экстремистских групп пришли в них через рекомендации.

Описываемые риски обосновывают принятие законопроекта о регулировании таких сервисов. «Законодательное регулирование рекомендательных сервисов необходимо для защиты потребителей от непрозрачных алгоритмов отбора контента, способных искажать реальное положение дел и приводить к пугающим последствиям, вплоть до реального нанесения вреда здоровью и психике человека», — заявляют в ГРЧЦ.

Это регулирование среди прочего должно включать в себя возможность независимого аудита используемых тем или иным сервисом алгоритмов. Соответствующий законопроект должен регламентировать использование персональных данных пользователей. «Пользователь должен быть в доступной форме и в полной мере проинформирован о работе рекомендательного алгоритма, дать согласие на обработку персональных данных и иметь возможность его отозвать», — считают в ГРЧЦ.