Что такое Закон Евросоюза об искусственном интеллекте

Закон Евросоюза об искусственном интеллекте, или EU AI Act, регулирует разработку, вывод на рынок и использование ИИ-систем в ЕС. Его основа — риск-ориентированный подход: чем выше возможный вред для людей, их прав и безопасности, тем строже требования. Для части практик закон вводит прямой запрет, для других — обязанности по прозрачности, документации, контролю рисков и надзору.

Как работает EU AI Act

EU AI Act делит ИИ-системы и модели по уровню риска и назначает для каждой категории свой набор правил. Закон охватывает не только готовые продукты, но и участников всей цепочки: разработчиков, поставщиков, импортеров, дистрибьюторов и организации, которые используют ИИ на практике.

Подход здесь простой по логике. Если система почти не несёт риска, специальных требований по этому закону может не быть. Если ИИ влияет на трудоустройство, образование, доступ к услугам, безопасность или права человека, требования становятся заметно жёстче.

Отдельный блок правил посвящён моделям общего назначения, или GPAI. К ним относятся модели, которые можно встроить в широкий круг приложений, от чат-ботов до генерации текста и изображений.

На кого распространяется закон

Закон распространяется на тех, кто разрабатывает ИИ, выпускает его на рынок, внедряет в рабочие процессы, ввозит в ЕС или продаёт дальше. При этом охват не ограничен компаниями, зарегистрированными внутри Евросоюза.

В тексте закона особенно важны три роли.

Поставщики

Поставщик — это организация или человек, которые разрабатывают ИИ-систему или модель общего назначения либо заказывают её создание и выпускают под своим именем или брендом. Именно на поставщика ложится значительная часть обязанностей по соответствию требованиям закона.

Под ИИ-системой закон понимает систему, которая с определённой степенью автономности обрабатывает входные данные и выводит результат: прогноз, рекомендацию, решение или контент. Такой результат может влиять на цифровую или физическую среду.

Модель общего назначения отличается большей универсальностью. Её можно использовать как основу для разных прикладных систем. Фундаментальная модель — пример такой категории, а чат-бот на её базе уже считается отдельной ИИ-системой.

Пользователи ИИ-систем

Пользователь в терминологии закона — это организация или лицо, которое применяет ИИ-систему в своей деятельности. Если компания использует сторонний чат-бот для обработки обращений клиентов, она считается пользователем такой системы.

Импортеры

Импортер — это участник, находящийся в ЕС и выводящий на рынок союза ИИ-систему компании, созданной за пределами ЕС. Для таких участников тоже предусмотрены обязанности по соблюдению правил.

Действует ли EU AI Act за пределами Евросоюза

Да, закон может применяться и к компаниям вне ЕС, если их ИИ или результаты его работы используются на территории Евросоюза. Ключевой критерий — не только место регистрации, но и факт использования результата в ЕС.

Это означает, что внешняя компания не выпадает из регулирования только потому, что её серверы, разработчики или головной офис находятся за пределами союза. Если европейская организация получает и использует результат работы такой системы, требования закона могут включиться.

Для поставщиков вне ЕС, которые предлагают ИИ-сервисы на рынке союза, закон предусматривает назначение уполномоченного представителя в ЕС.

Какие исключения есть в законе

Не каждое применение ИИ подпадает под требования EU AI Act. Из-под действия закона выведены отдельные случаи, включая сугубо личное использование и системы, применяемые только для научных исследований и разработок.

Это не означает полного отсутствия правил. В зависимости от сценария могут действовать другие нормативные акты, например требования по защите данных, безопасности продукта или авторскому праву.

Как EU AI Act делит ИИ по уровню риска

Закон строится вокруг оценки вероятности и тяжести возможного вреда. На практике можно выделить три крупные группы: запрещённые практики, высокорисковые системы и системы с низким или минимальным риском, для которых специальных требований либо нет, либо они ограничены прозрачностью.

Такой подход нужен, чтобы не регулировать одинаково все ИИ-инструменты подряд. Спам-фильтр в почте и система, которая влияет на найм сотрудников или доступ к социальной поддержке, создают разный масштаб последствий.

Часть деталей ещё уточняется на уровне последующих разъяснений и практики применения. Это относится, например, к отдельным вопросам пострыночного мониторинга и описания обучающих данных.

Какие практики ИИ запрещены

EU AI Act прямо запрещает те варианты использования ИИ, которые признаны создающими неприемлемый риск. Речь идёт о системах, способных причинить серьёзный вред людям, их правам или общественным процессам.

Перечень в законе не выглядит случайным. Он нацелен на сценарии, где ИИ используется для манипуляции, массового биометрического контроля или оценки людей способами, которые ведут к несправедливому обращению.

• системы социального скоринга, если они приводят к неблагоприятному обращению вне исходного контекста сбора данных и несоразмерны поведению человека;
• системы распознавания эмоций на работе и в учебных заведениях, кроме медицинских или связанных с безопасностью случаев;
• ИИ, который использует уязвимость человека, например связанную с возрастом или инвалидностью;
• невыборочный сбор изображений лиц из интернета или с камер наблюдения для создания баз распознавания лиц;
• биометрические системы, определяющие людей по чувствительным характеристикам;
• отдельные сценарии предиктивного полицейского анализа;
• использование правоохранительными органами систем удалённой биометрической идентификации в реальном времени в общественных местах, кроме предусмотренных исключений и при наличии предварительного разрешения, когда оно требуется.

Европейская комиссия может обновлять этот перечень. Из-за этого список запрещённых практик не стоит считать раз и навсегда закрытым.

Какие ИИ-системы считаются высокорисковыми

Высокорисковыми считаются ИИ-системы, которые используются в чувствительных сферах или входят в состав продуктов, уже регулируемых отраслевыми актами ЕС. Главный признак — заметное влияние на здоровье, безопасность, права человека или доступ к ключевым услугам.

Закон выделяет две логики отнесения к этой категории. Первая связана с продуктами и компонентами безопасности, которые подпадают под специальные требования ЕС. Вторая — с конкретными сферами применения, где ошибка ИИ может дорого обойтись.

• трудовые отношения: подбор кандидатов, оценка соискателей, решения по продвижению;
• отдельные виды медицинских устройств;
• образование и профессиональное обучение;
• правосудие и демократические процессы, включая системы, способные влиять на результаты выборов;
• доступ к базовым частным и государственным услугам, в том числе оценка права на пособия и кредитный скоринг;
• управление критической инфраструктурой, включая водоснабжение, газ и электроэнергию;
• разрешённые биометрические системы идентификации, кроме систем, чья единственная функция — подтверждение личности, например вход по отпечатку пальца в банковское приложение.

Для некоторых систем возможны исключения, если они не создают существенной угрозы здоровью, безопасности или правам людей. Но закон требует, чтобы такая оценка была обоснована и задокументирована.

При этом системы, которые автоматически обрабатывают персональные данные для оценки или прогнозирования аспектов жизни человека, например в рамках профилирования, закон относит к высокорисковым без такого исключения.

Какие требования предъявляются к высокорисковому ИИ

Высокорисковые ИИ-системы должны соответствовать требованиям по управлению рисками, качеству данных, технической документации и последующему контролю работы системы. Смысл этих правил — сделать работу ИИ проверяемой, отслеживаемой и управляемой на всём жизненном цикле.

Среди базовых требований закон выделяет несколько направлений.

1. Непрерывное управление рисками. Поставщик должен отслеживать риски, связанные с назначением системы, и снижать разумно предсказуемый вред.
2. Надлежащее управление данными. Данные для обучения, валидации и тестирования должны отвечать критериям качества, а процессы сбора и происхождение данных — быть понятными и оформленными.
3. Меры против искажений. Закон отдельно указывает на необходимость предотвращать и уменьшать предвзятость там, где это требуется.
4. Техническая документация. Она должна описывать устройство системы, её возможности, ограничения и шаги по соблюдению требований.

Есть и отдельные обязанности по прозрачности. Если система напрямую взаимодействует с человеком, пользователь должен понимать, что общается с ИИ, если это не очевидно из контекста.

Для генерации текста, изображений и другого контента действуют дополнительные правила маркировки. Это касается и материалов, созданных или изменённых ИИ, включая дипфейки.

Что обязаны делать поставщики высокорисковых систем

Поставщики высокорискового ИИ отвечают за соответствие системы требованиям закона до вывода на рынок и после него. Их обязанности не ограничиваются этапом разработки.

Поставщик должен обеспечить выполнение требований, которые относятся к самой системе: от управления рисками до документации. Кроме того, у него должна быть система менеджмента качества.

Ещё одна обязанность — пострыночный мониторинг. После запуска системы поставщик должен отслеживать её работу, оценивать, сохраняется ли соответствие требованиям, и реагировать на проблемы на протяжении жизненного цикла.

Что обязаны делать пользователи высокорискового ИИ

Пользователи высокорисковых ИИ-систем тоже несут обязанности, хотя набор требований у них уже, чем у поставщиков. Закон требует применять такие системы в соответствии с инструкциями и поддерживать контроль над их использованием.

Ключевые обязанности пользователей включают:

• принятие технических и организационных мер для корректного использования системы;
• хранение автоматически создаваемых журналов работы системы, если такие журналы находятся под их контролем;
• проведение оценки воздействия на основные права перед первым использованием в отдельных чувствительных сценариях, например при оказании определённых общественно значимых услуг.

Что закон говорит о моделях общего назначения

Для моделей общего назначения EU AI Act вводит отдельный набор правил. Эти модели могут использоваться во множестве прикладных решений, поэтому закон регулирует их отдельно от конкретных ИИ-систем.

Базовые обязанности поставщиков таких моделей включают соблюдение правил ЕС об авторском праве и подготовку публичных подробных сводок об обучающих наборах данных. Это связано с тем, что такие модели часто становятся основой для большого числа продуктов на следующем уровне цепочки.

Что такое системный риск у GPAI-моделей

Системный риск — это риск, связанный с высокоэффектными возможностями модели общего назначения и её масштабным влиянием на рынок ЕС, общество, безопасность, здоровье, основные права или общественный порядок. Речь идёт о риске, который может распространяться по всей цепочке использования модели.

В законе есть ориентир, связанный с объёмом вычислений, использованных для обучения. Если суммарный объём превышает 10 в 25 степени FLOPs, предполагается, что модель обладает высокоэффектными возможностями и может создавать системный риск.

При этом Европейская комиссия может признать модель создающей системный риск и по другим основаниям. То есть критерий вычислительных ресурсов — важный, но не единственный.

Какие дополнительные обязанности есть у GPAI-моделей с системным риском

Если модель общего назначения признана создающей системный риск, поставщик должен выполнять дополнительные требования. Эти правила касаются и бесплатных, и открытых моделей, если они подпадают под критерии закона.

• документировать серьёзные инциденты и сообщать о них в EU AI Office и национальным регуляторам;
• обеспечивать достаточный уровень кибербезопасности для защиты модели и связанной с ней физической инфраструктуры.

Какие штрафы предусмотрены за нарушение EU AI Act

Размер штрафа зависит от типа нарушения. Самые жёсткие санкции предусмотрены за применение запрещённых ИИ-практик.

Для стартапов, а также малых и средних компаний закон предусматривает особый порядок: применяется меньшая из двух указанных сумм.

Когда закон вступает в силу

EU AI Act вступил в силу 1 августа 2024 года, но его положения начинают применяться поэтапно. Разные блоки требований запускаются в разные даты.

• с 2 февраля 2025 года начинают действовать запреты на запрещённые ИИ-практики;
• с 2 августа 2025 года начинают применяться правила для новых GPAI-моделей;
• поставщики GPAI-моделей, выведенных на рынок до 2 августа 2025 года, должны привести их в соответствие до 2 августа 2027 года;
• с 2 августа 2026 года начинают действовать правила для высокорисковых ИИ-систем;
• с 2 августа 2027 года начинают применяться правила для ИИ-систем, которые являются продуктами или компонентами безопасности продуктов, регулируемых отдельными актами ЕС.

Почему EU AI Act уже влияет на рынок ИИ

Этот закон стал одним из первых крупных нормативных актов, который подробно регулирует ИИ на уровне целого интеграционного объединения. Его влияние выходит за пределы Евросоюза, потому что многие поставщики ИИ работают сразу на нескольких рынках.

На практике EU AI Act задаёт ориентир для внутренних процессов: оценки рисков, подготовки документации, контроля данных, маркировки ИИ-контента и распределения ответственности между участниками цепочки. Для компаний, создающих или внедряющих ИИ, это уже не абстрактная тема, а часть правовой и операционной архитектуры продукта.