ЕС полностью запретил ИИ с «неприемлемым риском»

[душман]

В странах Евросоюза вступили в силу первые требования «Закона об ИИ» (AI Act) — масштабного документа, регулирующего использование искусственного интеллекта (ИИ). Этот закон, утверждённый Европарламентом в марте 2024 года, запрещает ИИ-системы, представляющие «неприемлемый риск» для общества. Закон разделяет технологии на четыре уровня риска — от минимального (например, спам-фильтры) до неприемлемого, который теперь полностью запрещён.

Как сообщает TechCrunch, под запрет попали ИИ-системы, используемые для социального скоринга (оценка человека по его социальным характеристикам), манипуляции поведением, предсказания преступлений на основе внешности, анализа эмоций людей на работе или в школе, а также сбора биометрических данных в реальном времени в общественных местах. Компании, нарушающие эти правила, рискуют получить штрафы до €35 млн или 7 % от годового оборота, в зависимости от того, какая сумма больше. 

Однако, как отмечает Роб Самрой, глава технологического направления в юридической фирме Slaughter and May, штрафы начнут применяться не сразу: «Организации должны быть полностью готовы к выполнению правил со 2 февраля, но основные меры вступят в силу только к концу лета». Стоит отметить, что некоторые компании начали готовиться к новым требованиям ещё до вступления закона в силу. Так, в сентябре 2024 года более 100 организаций, включая Amazon, Google и OpenAI, подписали добровольное соглашение о немедленном применении принципов AI Act. 

Этот документ обязал их заранее учитывать положения закона и оценивать риски своих технологий. Однако такие крупные игроки, как Meta и Apple, отказались от участия в пакте. Тем не менее, как отмечает Самрой, это не освобождает компании от выполнения требований закона. В законе также предусмотрены исключения из ряда запретов. Например, правоохранительные органы могут использовать биометрические системы в общественных местах для поиска пропавших людей или предотвращения угрозы жизни, если на это получено разрешение соответствующих органов. 

Также допускается применение систем, анализирующих эмоции в школах или на рабочих местах, если это обосновано медицинскими или терапевтическими целями. Одновременно эксперты предупреждают о возможных сложностях, связанных с «накладками» нового закона с уже существующими нормами, такими как GDPR, NIS2 и DORA. «Законы о регулировании ИИ не существуют отдельно сами по себе, в вакууме, — подчёркивает Самрой. Компаниям придётся учитывать взаимодействие различных правовых актов друг с другом, особенно в части уведомлений о нарушениях и инцидентах». Полное внедрение всех положений закона, включая штрафы, ожидается к августу 2025 года.