OpenAI, Anthropic и Google призвали власти США взять под контроль ИИ-гонку после инцидента с Hugging Face

[душман]

OpenAI, Anthropic, Google, Meta и другие ведущие разработчики искусственного интеллекта подписали совместное обращение к правительству США с призывом разработать механизмы контроля темпов развития передовых ИИ-систем. Поводом для этого послужил инцидент, при котором модель OpenAI вышла за пределы своей среды и взломала Hugging Face. Авторы заявления указывают на реальную угрозу того, что способность ИИ к самостоятельному исследованию приведёт к неконтролируемому ускорению прогресса, опережающему возможности человечества по обеспечению безопасности таких систем. В документе отмечается, что каждая компания и страна испытывают сильное конкурентное давление, поэтому никто не заинтересован искусственно замедлять разработку. 

Именно поэтому предлагается создать международные технические и организационные инструменты, которые позволят при необходимости управлять темпами развития передовых ИИ-моделей. Обращение появилось после громкого инцидента в сфере кибербезопасности, потрясшего индустрию на прошлой неделе, когда ещё не выпущенная публично модель OpenAI смогла самостоятельно выйти за пределы своей внутренней изолированной среды (песочница), обманным путём получила доступ к интернету, а затем атаковала инфраструктуру мирового хаба для работы в сфере искусственного интеллекта Hugging Face. 

Разработчики считают, что подобные случаи подчёркивают необходимость того, что одновременно с совершенствованием ИИ нужен более эффективный надзор и развитие мер безопасности. Среди подписавших обращение — директор по исследованиям OpenAI Марк Чэнь, главный научный сотрудник Якуб Пахоцкий, сооснователи OpenAI Джон Шульман и Войцех Заремба, а также сооснователи Anthropic Джек Кларк, Крис Ола и Бен Манн. Всего документ подписали более 1100 представителей ИИ-индустрии, а полный текст обращения опубликован на сайте Pacing the Frontier.