Власти США потребовали от Meta передать свои ИИ-модели на проверку безопасности

[душман]

Правительство США обратилось к компании Meta с требованием предоставить свои ИИ-модели для оценки их безопасности. По сообщению Engadget со ссылкой на The New York Times, на данный момент компания осталась единственным крупным разработчиком, который ещё не передал свои модели властям для анализа их возможностей и выявления потенциальных уязвимостей. В отличие от Meta, компании OpenAI, Anthropic, Google, xAI и Microsoft, уже сотрудничают с правительством и добровольно предоставили ранний доступ к своим моделям «Центру стандартов и инноваций в области ИИ» (Center for AI Standards and Innovation, CAISI), созданному администрацией Байдена и возглавляемому на текущий момент министром торговли Говардом Латником. 

Представитель Meta Фрэнсис Бреннан, комментируя ситуацию, заявил, что компания разделяет цели новой администрации по укреплению лидерства страны в сфере безопасного ИИ и рассчитывает в ближайшее время подписать соответствующее соглашение, детали которого сейчас обсуждаются с чиновниками. Усиление контроля последовало за указом, который 2 июня подписал президент Дональд Трамп, поручив до конца июля разработать федеральную систему оценки ИИ-моделей, обязывающую компании выделять регуляторам до 30 дней на тестирование систем перед их публичным релизом. Внимание правительства, в частности, привлекает выпущенная в апреле модель Muse Spark от Meta, которая, несмотря на некоторое отставание от передовых систем конкурентов, оснащена режимами мгновенного ответа и углубленного размышления (Thinking), позволяющими более тщательно анализировать пользовательские запросы.

Повышенное внимание властей к технологическому сектору уже привело к жёстким ограничениям, затронувшим других участников рынка. Так, в середине июня правительство из соображений национальной безопасности предписало компании Anthropic закрыть доступ иностранным гражданам к передовой модели Mythos 5, предоставляемой на сегодня только партнёрам Project Glasswing, а также к её публичной версии Fable 5. Чтобы гарантированно выполнить предписание, разработчик временно заблокировал доступ и к Mythos 5 и к Fable 5 для всех без исключения пользователей.