ИИ-супермодель Claude Mythos всего за месяц обнаружила свыше 10 тыс. уязвимостей в ПО

[душман]

Компания Anthropic опубликовала первый отчёт о проекте в сфере кибербезопасности Project Glasswing, запущенный в апреле. В основе инициативы лежит пока не ставшая широкодоступной ИИ-модель Claude Mythos Preview, которая всего за один месяц помогла партнёрам Anthropic обнаружить более 10 тысяч уязвимостей в их программном обеспечении.

Большинство компаний, получивших доступ к нейросети, зафиксировали сотни критических багов в своих продуктах. Как сообщает Engadget, Cloudflare обнаружила 2000 уязвимостей, из которых 400 отнесены к категории высокой или критической опасности. Mozilla нашла и исправила 271 ошибку в браузере Firefox, значительно превзойдя результаты тестирования с использованием предыдущих версий модели Claude. 

Также и недавнее заявление Microsoft о предстоящем увеличении объёма выпускаемых патчей напрямую связано с результатами сканирования инфраструктуры через Mythos Preview. Помимо корпоративного сектора, специалисты Anthropic протестировали тысячу проектов с открытым исходным кодом, где ИИ выявил свыше 6200 критических угроз из 23 тыс найденных недочётов. 

При этом сторонние исследователи заявили, что с помощью Mythos им удалось найти способ по взлому защищённой операционной системы macOS. На фоне столь высокой эффективности Anthropic пока отказывается от публичного релиза модели, так как разработчики опасаются использования технологии злоумышленниками и планируют сделать алгоритм общедоступным только после создания надёжных механизмов защиты. В настоящее время Anthropic расширяет доступность проекта Project Glasswing, работая над восстановлением отношений с правительством США и привлекая к сотрудничеству крупные технологические компании, включая Apple, Google и Nvidia.