ИИ поможет Facebook бороться с оскорбительными мемами

[Ippolitovich]

Одной из проблем для социальных сетей является сложность контроля за контентом. Ни один человек не в состоянии обработать слишком большой объём данных, проанализировать их и определить, что является оскорбительным, а что — нет. Да, ненормативную лексику определить легко, а вот если информация подана так, что может оскорбить только определённую категорию людей — всё становится сложнее.

 

И потому разработчики из Facebook представили нейросеть Rosetta, которая способна распознавать изображения с текстом. Она должна помочь модераторам социальной сети улучшить борьбу со спамом, оскорбительным контентом, социально неприемлемыми мемами и так далее.

В основе системы лежит фирменная технология распознавания изображений, созданная в 2015 году. Она умеет обнаруживать зоны с текстом внутри картинок. После этого символы распознаются и транскрибируются. Пока что Rosetta поддерживает несколько языков на основе латиницы, причём она умеет обрабатывать изображения и кадры из роликов. Как отмечают разработчики, система может «прогонять» через себя до миллиарда изображений в день.

 

Ранее, 22 августа, социальная сеть Facebook ввела систему оценки репутации пользователей, которая определяет степень благонадежности аккаунтов по специальной шкале. Это было сделано для борьбы с фейковыми новостями.

А до этого разработчики компании представили инструмент на базе ИИ, который решает главную проблему фото — открывает закрытые глаза людей на снимках. Таким образом, компания всё больше внедряет ИИ-инструменты в свою систему. Однако остаётся вопрос, насколько качественной будет их работа и не помешает ли она обычным пользователям Сети. Ведь, по сути, ИИ обучается на человеческих примерах, а значит, в теории, его можно обучить всему. К слову, ранее Facebook признала «Декларацию независимости США» документом, разжигающим ненависть. Хотя затем извинилась.