Американский Институт безопасности ИИ больше не сосредоточен на безопасности ИИ

[Ippolitovich]

Минторг США переименовал подчинённый ему Институт безопасности искусственного интеллекта (AI Safety Institute) в Центр стандартов и инноваций в области ИИ (Center for AI Standards and Innovation — CAISI). Тем самым фокус организации сместился с собственно безопасности ИИ на борьбу с угрозами национальной безопасности и устранение «обременительного и ненужного регулирования за рубежом».

Глава Минторга Говард Лютник (Howard Lutnick) объявил о реорганизации учреждения 3 июня, охарактеризовав эту меру как возможность «оценить и продвинуть инновации США» и «обеспечить доминирование США в области международных стандартов ИИ». О создании института было объявлено в 2023 году — тогда его целью провозглашалось снижение угроз, происходящих от ИИ.

 

 

Администрация президента США подписала меморандумы о взаимопонимании с крупными компаниями в сфере ИИ, включая OpenAI и Anthropic; в документах предусматривался доступ властей к новым моделям и право предлагать улучшения систем ИИ перед их запуском для широкой аудитории. В начале 2025 года действующий на тот момент президент США Джо Байден (Joe Biden) выпустил проект руководящих принципов по управлению рисками, связанными с ИИ, такими как использование систем для проектирования биологического оружия или иных угроз национальной безопасности, а также генерация вредоносного контента, включая изображения жестокого обращения с детьми.

В новом качестве, заявил господин Лютник, организация «сосредоточится на очевидных рисках, таких как кибербезопасность, биобезопасность и химическое оружие». Центр также будет расследовать факты «злонамеренного иностранного влияния, возникающего в результате использования систем ИИ противников» — под этим, вероятно, имеется в виду созданная в Китае большая языковая модель DeepSeek, которая впервые вышла на уровень американских аналогов. Вступивший в должность в конце января действующий президент США Дональд Трамп (Donald Trump) отменил указ своего предшественника, устанавливавший новые стандарты безопасности для крупных систем ИИ. Новый глава государства исходит из необходимости дать американским компаниям в области ИИ возможность развиваться максимально быстро.