YouTube улучшила автоматическую модерацию комментариев: за оскорбления будут сначала предупреждать, а потом банить на сутки

[Ippolitovich]

Администрация YouTube доложила об улучшении работы алгоритмов автоматической модерации на платформе: теперь они эффективнее справляются со спамом и оскорблениями в комментариях. Особо активным сетевым хулиганам выносятся предупреждения и вводятся временные ограничения.

 

За первую половину года на YouTube были удалены более 1,1 млрд содержащих спам комментариев — спамеры постоянно меняют тактику, вот и администрации платформы приходится постоянно совершенствовать модели машинного обучения, помогая им эффективнее обнаруживать нежелательный контент. Защитные ИИ-алгоритмы работают не только в комментариях под видео, но и в чатах прямых трансляций — с очередным обновлением общение во время эфиров станет комфортнее для всех.

 

 

Кроме того, если система удалила несколько комментариев оскорбительного характера от одного пользователя, ему будет вынесено предупреждение о недопустимости нарушения политики ресурса. Если он продолжит размещать контент оскорбительного характера, на его аккаунт будут накладываться ограничения, и он не сможет оставлять комментарии в течение 24 часов. Как показало проведённое администрацией YouTube исследование, эти меры снижают вероятность того, что пользователь будет оставлять подобные сообщения снова. Пока предупреждения выносятся только в англоязычном сегменте платформы, но в перспективе функция расширится и на другие её сегменты.