Meta подключила ИИ к выявлению мошенников в WhatsApp

[душман]

Meta добавит в WhatsApp основанную на локальных алгоритмах машинного обучения функцию оповещения о мошенничестве, которая предупредит пользователей мессенджера о подозрительных приложениях. Ранее компания добавила детектор мошенничества в систему запросов на привязку устройств в WhatsApp.

Сейчас новая функция «Оповещения о мошенничестве» находится на стадии ограниченного бета-тестирования. Когда модель искусственного интеллекта идентифицирует поступившее сообщение как вероятную попытку мошеннических действий, пользователю прямо в чате показывается предупреждение, которое не видно другой стороне. 

После этого он сам принимает решение, что делать дальше: заблокировать собеседника, пожаловаться на него или продолжить переписку. Если пользователь сочтёт предупреждение ошибочным, он может пометить чат как доверенный, и данная переписка проверяться уже не будет. 

В последнем случае он сможет также отправить пять последних сообщений в администрацию WhatsApp, чтобы система оповещения работала точнее. В 2025 году американские граждане потеряли из-за мошенников в соцсетях более $2,1 млрд, из которых на WhatsApp пришлись $425 млн. Общая аудитория мессенджера насчитывает более 3 млрд человек. 

Когда функция обнаружения мошенничества включена, «содержимое сообщений не покидает устройство пользователя для классификации», и ничто «в автоматическом режиме не отправляется в WhatsApp, Meta или кому-либо ещё». Отключить эту функцию можно в любое время.