Искусственный интеллект поможет администраторам групп в Facebook предупреждать конфликты в комментариях

[Ippolitovich]

Facebook запускает новый набор инструментов, который призван облегчить жизнь администраторам групп. Некоторые из них предлагают улучшенный обзор сообщений и участников, в то время как другие призваны помочь администраторам в разрешении конфликтов.

 

Один из самых интересных инструментов носит название Conflict Alerts. Она похожа на уже существующую функцию оповещений по ключевым словам, которая уведомляет администраторов групп, когда в комментариях появляются определённые слова или фразы, например мат или оскорбления. Однако новая возможность использует модели машинного обучения, чтобы обнаруживать менее явные проблемы. Facebook говорит, что пока тестирует Conflict Alerts, поэтому функция может быть доступна не всем.

 

 

Идея Conflict Alerts заключается в том, чтобы выявлять конфликты, которые только завязываются, и уведомлять администратора или модератора о необходимости вмешаться. Пока до конца не ясно, как функция будет обнаруживать конфликты в комментариях. Предполагается, что Conflict Alerts будет использовать системы искусственного интеллекта, подобные тем, которые уже используются Facebook для обнаружения оскорбительных высказываний. Помимо Conflict Alerts, Facebook представила новую домашнюю страницу для администраторов и функцию Admin Assist для автоматической модерации комментариев. Она позволит администраторам ограничивать круг лиц, которым разрешено публиковать комментарии, а также ограничивать нежелательные рекламные акции и распространение спама. Функция Conflict Alerts будет частью Admin Assist.