США запретили властям использовать ИИ, который ущемляет американцев

[Ippolitovich]

Пять месяцев назад президент США Джо Байден подписал указ, регламентирующий развитие и внедрение ИИ в государственных институтах. Сегодня, в соответствии с ним, Административно-бюджетное управление США представило политику, направленную на регулирование использования ИИ федеральными службами и правительством. Тремя основными приоритетами объявлены безопасность граждан, прозрачность применения нейросетей и внутренний надзор за системами ИИ. «Я считаю, что все лидеры правительства, гражданского общества и частного сектора имеют моральный, этический и социальный долг обеспечить внедрение и развитие искусственного интеллекта таким образом, чтобы защитить общественность от потенциального вреда, гарантируя, что каждый сможет наслаждаться его преимуществами», — заявила вице-президент Камала Харрис (Kamala Harris) во время пресс-конференции. Она также озвучила три обязательных требования к применению ИИ.

 

 

Во-первых, федеральным агентствам до 1 декабря 2024 года необходимо будет убедиться, что любые используемые ими инструменты ИИ «не ставят под угрозу права и безопасность американского народа». В противном случае агентству придётся прекратить использование продукта ИИ, если только его руководители не смогут обосновать, что отказ окажет «неприемлемое» влияние на критически важные операции. Система ИИ считается влияющей на безопасность, если она «используется или ожидается, что она будет использоваться в реальных условиях для контроля или существенного влияния на результаты определенных действий и решений». К ним относятся:

• поддержание честности выборов и инфраструктуры голосования;
• контроль критических функций безопасности инфраструктуры;
• эксплуатация автономных транспортных средств;
• управление физическими движениями роботов.

Второе требование требует от федеральных агентств прозрачности при использовании систем ИИ. Правительственные учреждения США обязаны ежегодно предавать гласности список своих систем ИИ, оценку рисков, которые эти системы могут представлять, и методы управления этими рисками. Агентствам придётся раскрывать названия моделей ИИ, их версии и использованные для обучения ИИ датасеты, если это не нанесёт вред обществу или деятельности правительства. При невозможности раскрытия конкретных вариантов использования ИИ по соображениям конфиденциальности, необходимо будет представить сводные показатели.

 

 

Третьим требованием к федеральным агентствам названа необходимость внутреннего надзора за использованием ИИ. Это предполагает назначение каждым департаментом главного специалиста по ИИ, который будет отвечать за использование нейросети агентством. Многим агентствам также придётся к 27 мая 2024 года создать специализированные советы по управлению ИИ. Федеральным агентствам придётся отказаться от систем ИИ, которые ущемляют права американцев и «создать адекватные механизмы защиты и надзора, которые позволят использовать генеративный ИИ, не создавая неоправданного риска». Принятие новой политики в отношении ИИ может заметно повлиять на уже существующие процедуры, такие как распознавание лиц или медицинскую диагностику. Политика ставит своей целью обеспечить жёсткий контроль за использованием ИИ в следующих сферах жизнедеятельности:

• прогнозирующая работа полиции;
• мониторинг социальных сетей для правоохранительных органов;
• выявление плагиата в учебных заведениях;
• применение первой поправки к Конституции США;
• обнаружение или измерение человеческих эмоций и мыслей;
• проверка перед приёмом на работу;
• воспроизведение образа или голоса человека без явного согласия.

 

  
В настоящее время правительственные учреждения активно используют системы ИИ. Национальное управление океанических и атмосферных исследований работает над моделями ИИ, которые помогут более точно прогнозировать экстремальные погодные условия, наводнения и лесные пожары, а Федеральное управление гражданской авиации использует систему, помогающую управлять воздушным движением в крупных мегаполисах. «ИИ представляет не только риск, но и огромную возможность улучшить публичные услуги и добиться прогресса в решении социальных проблем, таких как борьба с изменением климата, улучшение общественного здравоохранения и продвижение справедливых экономических возможностей, — заявила директор Административно-бюджетного управления США Шаланда Янг (Shalanda Young). — При ответственном использовании и контроле ИИ может помочь агентствам сократить время ожидания, повысить точность и расширить доступ к основным государственным услугам».