Британский оператор натравил ИИ-бабушку на телефонных мошенников

[душман]

Крупнейший британский оператор мобильной связи O2 представил голосовой чат-бот, предназначенный для борьбы с телефонными мошенниками. Система с искусственным интеллектом получила название dAIsy, и она имитирует пожилую женщину, которая может забалтывать мошенников хоть целый день.

У «ИИ-бабушки» всегда есть время поболтать, например, о вязании или её коте Пушистике — для того, чтобы как можно дольше удерживать внимание мошенников, пытающихся получить её банковские реквизиты, которые всё равно окажутся вымышленными. Система объединяет «различные модели ИИ»: одна производит преобразование голоса звонящего в текст, далее специально настроенная большая языковая модель генерирует ответ, после чего ещё одна преобразует текст в речь и озвучивает ответ. 

В обучении ИИ участвовал эксперт по мошенничеству и автор YouTube-канала Джим Браунинг. Оператор O2 опубликовал рекламный ролик, посвящённый проекту dAIsy, — негодующие голоса мошенников на записи, как утверждается, настоящие.Телефонное мошенничество представляет серьёзную проблему для людей по всему миру. Только в прошлом году жулики выманили $3,4 млрд у американцев старше 60 лет, подсчитали в ФБР.

А в России каждый день совершаются до 15 млн попыток мошеннических звонков, гласит статистика «Сбера». Сегодня растёт популярность систем генеративного ИИ — они позволяют правдоподобно подделывать голос, а значит, эти показатели могут возрасти.