Anthropic открыла властям ЕС доступ к модели Mythos после трех месяцев ожидания

[душман]

Anthropic предоставила Агентству по кибербезопасности ЕС (ENISA) доступ к своей передовой модели искусственного интеллекта Mythos — спустя более трёх месяцев после того, как впервые объявила о намерении открыть к ней доступ для властей региона. «По итогам конструктивного взаимодействия с Anthropic можем подтвердить, что ENISA получило доступ к модели Mythos 5 и в настоящее время её тестирует», — заявил представитель Еврокомиссии Томас Ренье. Anthropic представила модель Mythos в апреле.

Она обладает чрезвычайно большими способностями к поиску уязвимостей в области кибербезопасности, и компания ограничила к ней доступ только проверенным организациям в рамках проекта Project Glasswing для поиска и устранения уязвимостей, прежде чем ими смогут воспользоваться злоумышленники.

Доступ к передовым моделям — важный вопрос с учётом инцидентов, при которых системы ИИ взламывали собственные тестовые среды и сторонние ресурсы. После получения запроса от ЕС компания Anthropic предложила предоставить ENISA доступ к Mythos, но после этого стороны вступили в многомесячную дискуссию по поводу характера и объёма предоставляемого доступа. 

Дополнительным препятствием стал запрет Белого дома на доступ иностранных граждан и организаций как к Mythos, так и к другой мощной модели Fable, тоже от Anthropic. Переговоры завершились успешно, но ENISA было отказано в доступе к новейшей версии модели — Mythos 5.1. Одним из первых за пределами США доступ к оригинальной версии Mythos получил британский Институт безопасности ИИ, но и его специалисты с новейшей версией модели поработать не смогли.