Россиян защитят от дискриминации искусственным интеллектом

[душман]

Нескольким министерствам поручено предложить меры, которые защитят граждан страны от дискриминации искусственным интеллектом (ИИ); отмечена также потребность в создании механизмов обжалования принимаемых ИИ решений. Работающие с технологиями ИИ компании уверены в их безвредности и считают, что сейчас более необходима просветительская работа с населением — ему необходимо перестать бояться ИИ.

Поручения от Совета Федерации получили, в частности, Минцифры, Минздрав и Минэкономики — им предстоит разработать меры по защите россиян в ходе работы систем ИИ и до конца года представить и утвердить план работ по данному вопросу. Ведомства разработают процедуры обжалования решений, принимаемых ИИ, обеспечат прозрачность в работе таких систем, а также предложат инициативы, которые исключат возможность дискриминации граждан при работе подобных алгоритмов. Первых предложений ждут уже в конце марта.

В качестве одной из мер предлагается уведомление граждан о взаимодействии с ИИ, если при этом решаются «жизненно важные вопросы», например, при получении госуслуг. Как сообщило издание «Коммерсантъ» со ссылкой на собственный источник, под понятие дискриминации граждан в данном случае подпадают как минимум критерии пола, возраста, личных взглядов и этнических признаков.

Новые меры последовали за рядом представленных в прошлом году инициатив по применению ИИ в работе. МВД предложило использовать ИИ для розыска серийных убийц, а в Минсельхозе решили использовать потенциал таких алгоритмов, чтобы увеличить производство сельхозпродукции. Впрочем, одними только предложениями в современных реалиях дело не ограничивается: в августе прошлого года управляющая платёжным сервисом компания Xsolla по итогам анализа на основе ИИ уволила 150 сотрудников. 

«Коммерсантъ» напомнил ещё об одном прошлогоднем инциденте, в ходе которого робот оператора Tele2 попытался связаться с одним из своих абонентов, однако на вызов ответил созданный банком «Тинькофф» бот «Олег», который дал согласие на смену тарифа для этого абонента и даже не поставил его в известность.