Microsoft, xAI и Google согласились отдавать ИИ-модели властям США на проверку безопасности

[душман]

Microsoft, Google и xAI Илона Маска согласились предоставлять правительству США ранний доступ к новым моделям искусственного интеллекта до их публичного выпуска, чтобы государственные эксперты проводили проверку этих систем на предмет угроз национальной безопасности.

Центр стандартов и инноваций в области ИИ (CAISI) при Министерстве торговли заявил, что в рамках соглашения с разработчиками эксперты ведомства будут оценивать передовые модели до их широкого развёртывания и проводить исследования на предмет их возможностей и рисков безопасности. 

Новые модели ИИ, в том числе Anthropic Mythos, в последние недели вызвали ажиотаж по всём мире, в том числе среди американских чиновников и корпораций — эти системы способны в значительной мере повысить эффективность хакерских атак. Сама Anthropic, которая пытается разрешить конфликт с Пентагоном, в заявлении властей не упоминается.

CAISI является главным правительственным центром тестирования ИИ-моделей — к настоящему моменту он уже провёл оценку более 40 систем, в том числе передовых платформ, ещё не вышедших в широкий доступ. Разработчики часто передают ведомству варианты своих моделей с упрощёнными механизмами безопасности, чтобы эксперты центра могли изучить риски для национальной безопасности.

На минувшей неделе Пентагон сообщил, что сумел договориться с семью разработчиками ИИ на предмет развёртывания их передовых моделей в секретных сетях Министерства обороны — сейчас оно стремится расширить круг поставщиков ИИ в вооружённых силах. Microsoft, Google и xAI комментариев пока не дали.