«ВКонтакте» подключила к пабликам нейросеть

[душман]

Нейросеть будет следить за «враждебными высказываниями», которые появляются на просторах крупнейшей российской соцсети «Вконтакте». Администраторам в соцсети стал доступен специальный фильтр для борьбы с ними. По умолчанию функция отключена, ее можно включить в настройках сообщества. Пока сервис появился у владельцев 50% пабликов. В компании сообщили, что скоро он станет доступен всем.

Тестирование фильтра было запущено в ноябре 2020 года. За этот период функцией уже воспользовались руководители свыше 10% всех сообществ «ВКонтакте» — это 13 млн публичных страниц, групп и мероприятий. Как говорится в сообщении компании, среди подключивших фильтр от него впоследствии отказались лишь 1,8%. 

Для создания алгоритмов использовалось большое количество текстов на русском языке — например, субтитры из фильмов, сериалов и видео. Нейросеть содержит в себе специальный механизм внимания, позволяющий принимать решения на основе важности слов и их комбинаций.

На сегодняшний день алгоритмы научились определять прямые угрозы: пожелания смерти, обещания причинить вред здоровью и угрозы расправы. Разработчики «ВКонтакте» обещают, что в будущем фильтр сможет научиться распознавать травлю по национальной или религиозной принадлежности. 

«ВКонтакте» миллионы сообществ по интересам — от групп фанатов сериалов до клубов любителей вышивания крестиком, от страниц международных брендов до пабликов с абстрактными мемами. В каждом из них разная атмосфера и свои принципы общения в рамках общих правил VK. 

Мы хотим дать администраторам возможность сделать среду в их сообществах более доброжелательной: подписчики смогут вести конструктивный диалог и не бояться получить жестокий комментарий в ответ. Наша модерация за считанные минуты реагирует на обращения пользователей, а с помощью фильтра враждебных высказываний это время будет сведено до минимума — прямые угрозы удалятся мгновенно», — говорится в сообщении «ВКонтакте».

Летом прошлого года «ВКонтакте» создала технологию чтения голосовых сообщений, за распознавание речи в которой также отвечает нейросеть. Она учитывает русскоязычный сленг и сложные условия записи. С 1 февраля по российскому закону «О соцсетях» игроки этого рынка должны самостоятельно выявлять и блокировать противоправный контент.

По данным члена Общественной палаты Екатерины Мизулиной, которые она озвучила на круглом столе «Безответственные платформы: как соцсети борются с деструктивным контентом», на территории России по соотношению числа деструктивных материалов является социальная сеть Twitter, на втором месте — Facebook.