ICQ внедрила антиспам-систему для фото и картинок

[душман]

Mail.Ru Group объявила о внедрении в ICQ нового алгоритма борьбы со спамом, в основе которого лежат нейронные сети: он позволяет отфильтровать нежелательные изображения, которые нарушают правила сервиса. Система уже тестируется в лайвчатах ICQ: она блокирует порнографический контент и спам, сообщили в Mail.Ru Group.

Самообучающаяся система автоматически распознает изображение и текст на фотографиях и картинках, выявит контент, не соответствующий правилам, и заблокирует его. Таким образом, пользователи ICQ защищены не только от текстовых спам-сообщений, но и от непрошенных картинок с назойливой рекламой, подчеркнули в компании.

Для обучения нейросети разработчики использовали базу из 5 млн изображений, а результаты работы системы проверялись вручную. Такая схема позволила добиться высокой точности и минимизировать вероятность ложного срабатывания. Новая система разработана совместно с командой «Поиска Mail.Ru».