Copilot роется в конфиденциальных письмах пользователей в обход защиты — Microsoft назвала это багом

[душман]

Компания Microsoft сообщила, что из-за ошибки в Microsoft 365 Copilot ИИ-помощник с конца января обобщает конфиденциальные электронные письма пользователей, обходя политики предотвращения потери данных (DLP), на которые полагаются организации для защиты чувствительной информации. Сообщение об этом появилось в одном из служебных оповещений софтверного гиганта.

По данным источника, речь идёт о баге CW1226326, который впервые был обнаружен 21 января. Он затрагивает функцию чата «рабочей вкладки» Copilot, из-за чего происходит некорректное считывание и обобщение писем, хранящихся в папках «Отправленные» и «Черновики», включая сообщения с метками конфиденциальности, которые специально предназначены для ограничения доступа автоматизированных инструментов.

«Сообщения электронной почты пользователей с пометкой «конфиденциально» некорректно обрабатываются Microsoft 365 Copilot Chat», — говорится в сообщении Microsoft. Там также отмечается, что этот инструмент обобщает электронные письма, даже если к ним применена метка конфиденциальности или настроена политика DLP. Позднее Microsoft подтвердила, что причиной такого поведения алгоритма стала ошибка в коде, добавив о запуске работ по внедрению патча в начале февраля. 

По состоянию на середину текущей недели Microsoft заявила, что продолжает следить за развёртыванием исправления и контактирует с затронутыми проблемой пользователями для оценки качества патча. Microsoft не предоставила окончательных сроков полного устранения проблемы и не раскрыла, сколько пользователей или организаций она затронула. В компании лишь отметили, что по мере расследования инцидента масштабы проблемы могут измениться.