«Одноклассники» стали автоматически скрывать эротический контент

[душман]

Соцсеть «Одноклассники» внедрила технологию автоматического скрытия эротического контента. В ее основу положено машинное обучение. В то же время если пользователь захочет посмотреть скрытое изображение или GIF-файл, он может кликнуть по нему, либо проигнорировать и пропустить, об этом говорится в сообщении соцсети.

Для выявления и ограничения нежелательного контента компания провела исследование среди пользователей и выяснила, что именно пользователи соцсети считают эротикой, которую не хочется видеть. На примерах, которые респонденты посчитали нежелательным, инженеры «Одноклассников» обучили нейросеть, чтобы та автоматически обнаруживала и размывала нежелательный контент.

Для этого было использовано более 6 млн файлов и разработано две ML-модели. Одна непосредственно сканирует картинку и определяет визуальное содержимое, другая относит контент к определенному типу, за счет чего он или размывается, или остается в первоначальном виде. Обновление не затрагивает изобразительное искусство, фотографии спортсменов и пляжные снимки пользователей.