«ВКонтакте» протестирует нейросеть для борьбы с оскорблениями и травлей в комментариях

[душман]

Соцсеть «ВКонтакте» проведёт эксперимент по борьбе с нетерпимостью и травлей в комментариях при помощи нейросети. Об этом сообщается в пресс-центре компании. Разработчики в течение суток будут тестировать функции, которые призваны сократить число оскорблений.

Первой функцией станет фильтр враждебных высказываний, который будет удалять комментарии с угрозами. Администраторы сообществ смогут увидеть все враждебные комментарии и добавить автора в чёрный список, если он часто нарушает правила.

Вторая — рекомендации по отказу от оскорблений. Во время написания комментария соцсеть будет анализировать, есть ли в тексте признаки оскорблений. Если система находит их, то пользователь получит предложение отказаться от агрессивного высказывания. В прошлом году функция позволила сократить число оскорбительных высказываний на 36 %.

Администраторы пабликов смогут включить фильтр враждебных высказываний в настройках сообществ. Несмотря на это, в соцсети сохранится стандартная форма подачи жалоб на оскорбления. По итогам тестирования «ВКонтакте» примет решения об улучшении и дальнейшем использовании функций.