OpenAI открыла вакансию на новую руководящую должность для управления ИИ-угрозами

[Ippolitovich]

Компания OpenAI объявила о вакансии на новую должность, которая называется «руководитель по готовности» (Head of Preparedness). В посте, опубликованном генеральным директором компании Сэмом Альтманом (Sam Altman) в соцсети X, указано, что на фоне быстрого развития моделей искусственного интеллекта (ИИ) и новых вызовов, включая угрозы в области кибербезопасности и биобезопасности, данная позиция является «критически важной». Как сообщает Times of India, за эту должность OpenAI предлагает компенсационный пакет в размере до $555 000 в год, а также акции компании.

 

Согласно официальному описанию вакансии, назначенный специалист станет ответственным за техническую стратегию и реализацию так называемого «рамочного подхода к готовности» (Preparedness framework), представляющего из себя систему отслеживания и подготовки к потенциальным рискам, связанным с потенциальной возможностью искусственного интеллекта причинить вред.

В частности, Альтман в своём сообщении отметил, что в 2025 году уже проявились первые признаки влияния ИИ, например, на психическое здоровье людей. По его словам, у компании уже есть надёжная основа для измерения растущих возможностей ИИ, однако теперь требуется более тонкое понимание того, как эти возможности могут быть использованы не только на пользу, но и во вред, и как минимизировать негативные последствия — как в продуктах OpenAI, так и в мире в целом.

Глава OpenAI подчеркнул, что подобные задачи крайне сложны, прецедентов в этой области практически нет, и многие интуитивно привлекательные решения сталкиваются с непредвиденными ситуациями. Он также предупредил, что будущая работа будет напряжённой и потребует немедленного погружения в самые сложные вопросы.

 

 

В обязанности руководителя входит управление созданием оценок возможностей ИИ, построение моделей угроз и координация мер по их смягчению для формирования «согласованного, строгого и оперативно масштабируемого конвейера безопасности». От кандидата требуются глубокие технические знания, навыки чёткой коммуникации и способность руководить сложными проектами. Ему придётся возглавить небольшую, но высокоэффективную команду и тесно взаимодействовать с подразделениями по безопасности, исследованиям, инженерии, продукту, политике и внешним партнёрам.