Власти США позвали Сэма Альтмана, Дженсена Хуанга и Сатью Наделлу помочь им с защитой от ИИ

[душман]

Сэм Альтман из OpenAI, Дженсен Хуанг из Nvidia, Сатья Наделла из Microsoft, Сундар Пичаи из Alphabet, Дарио Амодей из Anthropic и другие представители крупнейших компаний, связанных с разработкой ИИ, вошли в состав группы при правительстве США из почти двух десятков человек, призванной защитить критически важную инфраструктуру страны от потенциальных опасностей использования искусственного интеллекта.

Сформированный Совет по безопасности искусственного интеллекта (The Artificial Intelligence Safety and Security Board) — новый федеральный консультативный совет, который совместно с Министерством внутренней безопасности США разработает рекомендации для операторов электросетей, транспортных компаний и производственных предприятий по использованию ИИ и защите систем от потенциальных сбоев, которые могут быть вызваны его использованием.

Представители органов национальной безопасности США давно предупреждают об уязвимости критической инфраструктуры страны, включая возможные физические и кибератаки, а также аварии. Искусственный интеллект способен повысить эффективность и безопасность топливопроводов, коммуникационных сетей, авиации и больниц, но может стать и источником внезапных проблем. В своём интервью министр внутренней безопасности и председатель нового Совета Алехандро Майоркас подчеркнул, что использование ИИ открывает не только огромные возможности, но и таит немалые риски. 

«Неспособность безопасно, надёжно и ответственно внедрить ИИ в критическую инфраструктуру может привести к ужасающим последствиям», — сказал он. Президент США распорядился о создании Совета по безопасности ИИ ещё прошлой осенью, издав указ об искусственном интеллекте, обязывающий, среди прочего, разработчиков ИИ уведомлять правительство о разработке любой системы, представляющей «серьёзную угрозу национальной и экономической безопасности, а также здоровью и безопасности страны».