Microsoft заявила, что хакеры теперь используют ИИ на всех этапах кибератак

[душман]

Microsoft заявила, что киберпреступники всё чаще задействуют искусственный интеллект в своих операциях для ускорения атак, масштабирования вредоносной деятельности и снижения технических барьеров на всех этапах. В опубликованном недавно отчёте Microsoft Threat Intelligence сказано, что хакеры применяют генеративный ИИ для выполнения широкого круга задач, включая разведку, фишинг, развитие инфраструктуры и создание вредоносного программного обеспечения.

Отмечается, что всё чаще злоумышленники используют ИИ-инструменты для составления фишинговых писем, перевода контента, обобщения украденных данных, отладки вредоносного программного обеспечения, а также написания скриптов и настройки инфраструктуры. «Большинство случаев злонамеренного применения ИИ связано с использованием языковых моделей для генерации текста, кода или медиа. Злоумышленники задействуют генеративный ИИ для составления фишинговых приманок, перевода контента, обобщения украденных данных, создания и отладки вредоносного ПО, а также написания скриптов и настройки инфраструктуры. 

В этих сценариях ИИ выступает в качестве усилителя возможностей, который уменьшает технические сложности и ускоряет выполнение, в то время как человек-оператор сохраняет контроль над целями, выбором мишеней и решениями по развёртыванию», — говорится в сообщении Microsoft.

Специалисты софтверного гиганта выявили множество случаев, когда разные киберпреступные группировки задействовали ИИ в своих атаках. Речь в том числе о северокорейских группировках Jasper Sleet (Storm-0287) и Coral Sleet (Storm-1877), которые используют ИИ в рамках схем с привлечением находящихся удалённо ИТ-сотрудников. В таких операциях ИИ-инструменты помогают в создании реалистичных личностей, резюме и коммуникациях для трудоустройства в западные компании. 

«Jasper Sleet использует платформы генеративного ИИ для оптимизации создания поддельных цифровых личностей. Например, члены Jasper Sleet дают команды ИИ-платформам для генерации списков имен, соответствующих культуре, и форматов адресов электронной почты, подходящих под определённые профили личности. Jasper Sleet также использует генеративный ИИ для анализа вакансий на должности, связанные с разработкой ПО и IT на профессиональных платформах, давая алгоритмам команды по извлечению и обобщению востребованных навыков. 

Затем собранные таким образом данные используются для адаптации поддельных личностей под конкретные роли», — сказано в отчёте Microsoft. Там также описывается, как ИИ применяется для разработки вредоносного ПО и создания инфраструктуры. Злоумышленники задействуют языковые модели для написания программного кода, его оптимизации и устранения ошибок, а также переноса отдельных компонентов на разные языки программирования. В некоторых случаях фиксировались признаки использования ИИ для динамической генерации скриптов или изменения поведения в процессе их выполнения.

Специалисты Microsoft зафиксировали, как члены группировки Coral Sleet использовали ИИ для быстрого создания поддельных корпоративных сайтов, развёртывания вредоносной инфраструктуры, а также тестирования и устранения неисправностей в работе разных инструментов. Когда ИИ-системы пытаются задействовать механизмы защиты от злонамеренного использования хакеры задействуют особым образом сформированные запросы, позволяющие их обходить.

Поскольку многие вредоносные кампании, нацеленные на IT-специалистов, полагаются на злоупотребление легитимным доступом, Microsoft рекомендует организациям рассматривать подобные схемы как инсайдерские риски. Поскольку атаки с использованием ИИ повторяют привычные кибератаки, специалистам по ИБ-безопасности рекомендуется сосредоточиться на выявлении аномального использования учетных данных, усилении защиты систем идентификации от фишинга и обеспечении безопасности самих ИИ-систем, которые могут стать целями в будущих атаках.