Правовое регулирование ИИ в России и в мире

Правовое регулирование ИИ представляет собой создание правовых норм, правил и рамок для управления проектированием, разработкой, внедрением и использованием систем ИИ. Этот подход рассматривает ИИ не просто как технологию, а как социотехническую систему, оказывающую глубокое влияние на отдельных людей и общество в целом.
Центральным вопросом в юриспруденции является правовой статус ИИ: рассматривается ли он как объект права (инструмент или собственность) или как потенциальный субъект (сущность с правами или обязанностями). На данный момент глобальный консенсус заключается в том, что ИИ является объектом права, а ответственность за его действия возлагается на людей — разработчиков, операторов и пользователей.

Необходимость регулирования

Основной движущей силой регулирования является необходимость снижения этических, социальных и экономических рисков.

1. Этические императивы: Регулирование направлено на предотвращение этических рисков, таких как алгоритмическая предвзятость, которая может закреплять и усиливать существующую в обществе дискриминацию. Оно призвано обеспечить справедливость в процессах принятия решений и защитить автономию человека от манипулятивных технологий. Основополагающим принципом является приоритет прав и достоинства человека над технологическими возможностями.
2. Социальный и индивидуальный вред: Законодательство необходимо для устранения конкретных социальных угроз, таких как нарушение конфиденциальности при обработке больших массивов данных, распространение дезинформации и создание «дипфейков», подрывающих общественное доверие. Оно также нацелено на защиту уязвимых групп от эксплуатации системами ИИ.
3. Экономические риски и безопасность: Регулирование стремится установить четкие границы ответственности в случаях сбоев систем ИИ, что критически важно в таких областях, как автономный транспорт, медицинская диагностика и управление критической инфраструктурой. Создание предсказуемой правовой среды способствует укреплению доверия, что необходимо для внедрения технологий на рынке и экономического роста.

Глобальные стандарты: ОЭСР и ЮНЕСКО

Международные организации заложили основу для глобального диалога о регулировании ИИ. Эти рамочные документы, являясь «мягким правом», оказывают значительное влияние на разработку обязательного законодательства («жесткого права») в различных юрисдикциях.

1. Принципы ИИ ОЭСР: Эти принципы, принятые в 2019 году и обновленные в 2024, стали первым межправительственным стандартом, создавшим общий язык и этическую основу для политики в области ИИ. Пять ключевых ценностных принципов включают:
   • Инклюзивный рост, устойчивое развитие и благополучие: ИИ должен приносить пользу всему человечеству и планете.
   • Уважение прав человека и демократических ценностей: Системы ИИ должны соответствовать принципам справедливости, конфиденциальности и недискриминации.
   • Прозрачность и объяснимость: Заинтересованные стороны должны иметь возможность понимать и оспаривать решения, принятые с помощью ИИ.
   • Надежность, безопасность и защищенность: Системы ИИ должны быть устойчивы к сбоям и неправомерному использованию.
   • Подотчетность: Люди должны нести ответственность за системы ИИ на протяжении всего их жизненного цикла.
2. Рекомендации ЮНЕСКО по этике ИИ: Этот документ, принятый 194 государствами-членами в 2021 году, представляет собой всеобъемлющий стандарт, основанный на правах человека. Он базируется на четырех основных ценностях (права человека, мирное сосуществование, разнообразие и процветание экосистем) и десяти ключевых принципах, включая соразмерность, человеческий надзор и устойчивость.

Очевидно, что глобальный диалог о регулировании ИИ — это в первую очередь дискуссия о ценностях, а не о технологиях. Принципы, изложенные ОЭСР и ЮНЕСКО, демонстрируют широкий международный консенсус в том, что развитие ИИ должно быть подчинено правам человека, демократическим принципам и верховенству закона. Этот подход, ставящий ценности на первое место, является прямым противовесом чисто технократическим или рыночным взглядам.

Закон ЕС об искусственном интеллекте

Закон об ИИ (Регламент (ЕС) 2024/1689) является первой в истории всеобъемлющей правовой базой по ИИ, принятой крупным глобальным регулятором. Его цель — создание гармонизированных правил, способствующих доверию и совершенству в области ИИ на едином рынке ЕС. Подобно GDPR, Закон об ИИ обладает значительным экстерриториальным охватом: он применяется к любому поставщику, размещающему систему ИИ на рынке ЕС, независимо от его местонахождения. Это явление, известное как «Брюссельский эффект», побуждает мировые компании принимать стандарты ЕС в качестве фактического международного эталона.

Пирамида рисков: четырехуровневая система классификации

Ключевым нововведением Закона является риск-ориентированный подход, который адаптирует строгость регулирования к уровню потенциального вреда от системы ИИ.

1. Уровень 1: Неприемлемый риск (запрещенный ИИ): Практики ИИ, представляющие явную угрозу фундаментальным правам и безопасности людей, полностью запрещены. К ним относятся:
   • Когнитивно-поведенческие манипуляции и эксплуатация уязвимостей (например, игрушки, поощряющие опасное поведение).
   • Системы социального скоринга, управляемые государством.
   • Нецелевой сбор изображений лиц для создания баз данных.
   • Удаленная биометрическая идентификация в реальном времени в общественных местах правоохранительными органами (за очень редкими исключениями).
2. Уровень 2: Высокий риск: Эти системы разрешены, но подлежат строгим обязательствам до и после вывода на рынок. Они делятся на две основные категории:
   • Системы ИИ, используемые в качестве компонентов безопасности в продуктах, подпадающих под действующее законодательство ЕС о безопасности (например, медицинские изделия, автомобили, игрушки).
   • Системы ИИ, применяемые в чувствительных областях, перечисленных в Приложении III к Закону, таких как: подбор персонала (сортировка резюме), доступ к образованию, кредитный скоринг, правоохранительная деятельность и отправление правосудия.
3. Уровень 3: Ограниченный риск: Эти системы подлежат специальным обязательствам по обеспечению прозрачности. Например, пользователи должны быть информированы о том, что они взаимодействуют с системой ИИ, такой как чат-бот. Контент, созданный ИИ, например «дипфейки», должен быть четко маркирован.
4. Уровень 4: Минимальный риск: Подавляющее большинство систем ИИ (например, спам-фильтры, ИИ в видеоиграх) попадают в эту категорию и в основном не регулируются, развиваясь в рамках существующего законодательства.

Обязательства, правоприменение и управление

Поставщики систем ИИ высокого риска обязаны проводить оценку рисков, использовать высококачественные обучающие данные для минимизации предвзятости, обеспечивать человеческий надзор, вести подробную техническую документацию и гарантировать высокий уровень надежности и кибербезопасности.
Фундаментальные модели, такие как ChatGPT, не классифицируются как высокорисковые, но сталкиваются с особыми требованиями к прозрачности, например, раскрытием информации о том, что контент создан ИИ, и публикацией сводок данных, защищенных авторским правом, которые использовались для обучения. Модели с «системным риском» подлежат еще более строгим обязательствам.
Несоблюдение Закона влечет за собой серьезные финансовые санкции — штрафы до 35 млн евро или 7% от мирового годового оборота компании, в зависимости от того, какая сумма больше. Закон имеет поэтапный график вступления в силу, что дает организациям время на адаптацию.
Закон ЕС об ИИ — это не просто законодательный акт, а стратегический геополитический инструмент, предназначенный для экспорта европейской модели регулирования, основанной на ценностях. Создавая детализированную, юридически обязательную базу с огромными штрафами, ЕС формирует глобальный стандарт соответствия. Это дает ему преимущество на «рынке регулирования» и бросает вызов более либеральной модели США и модели Китая, контролируемой государством.

Рамочная программа NIST в США

Рамочная программа NIST по управлению рисками ИИ (AI RMF) — это руководство для добровольного использования организациями в целях управления рисками, связанными с ИИ. Это не юридически обязательный регламент, а своего рода «сборник правил» для ответственного внедрения ИИ. Цель программы — помочь организациям повысить надежность своих систем ИИ, не подавляя инновации.
Программа RMF структурирована вокруг четырех ключевых функций:

1. Управление (Govern): Формирование культуры управления рисками во всей организации.
2. Картирование (Map): Определение контекста и потенциальных рисков и преимуществ, связанных с системой ИИ.
3. Измерение (Measure): Анализ и отслеживание выявленных рисков с использованием качественных и количественных методов.
4. Управление (Manage): Приоритизация и принятие мер по выявленным рискам.

Формирование «надежного ИИ»

Программа RMF определяет «надежный ИИ» через несколько ключевых характеристик, к которым должны стремиться организации: валидность и надежность, безопасность, защищенность и отказоустойчивость, подотчетность и прозрачность, объяснимость, повышенная конфиденциальность и справедливость с управляемой предвзятостью. Этот подход фокусируется на предоставлении инструментов и лучших практик (например, «privacy by design», безопасная разработка, надежное тестирование), а не на предписании конкретных результатов или запрете технологий.
Модель США представляет собой классический подход «мягкого права». Он опирается на саморегулирование отрасли и принятие лучших практик, движимых рыночными стимулами и существующим законодательством. Это резко контрастирует с «жестким правом» ЕС, которое создает новые юридические обязательства и налагает прямые штрафы.
Подход США отражает глубокое убеждение в том, что инновации должны предшествовать регулированию. Создавая гибкую, добровольную рамочную программу, правительство США делает ставку на то, что быстро развивающаяся природа ИИ делает предписывающее законодательство преждевременным и потенциально вредным для технологического лидерства страны.

Вертикальное регулирование в Китае

В отличие от горизонтального Закона ЕС об ИИ, Китай принял «вертикальный» или отраслевой подход, выпустив ряд целевых нормативных актов для различных применений ИИ. Ключевые документы включают «Положения об алгоритмических рекомендациях», «Положения об управлении глубоким синтезом» и, что наиболее важно, «Временные меры по управлению услугами генеративного ИИ», вступившие в силу 15 августа 2023 года.

Временные меры по управлению услугами генеративного ИИ

Эти меры применяются к услугам генеративного ИИ, предлагаемым общественности на территории Китая, и имеют экстерриториальное действие в отношении иностранных поставщиков. Исследования и внутреннее корпоративное использование исключены из сферы их действия.
Ключевые обязательства для поставщиков услуг:

1. Целостность обучающих данных: Поставщики должны использовать данные из «законных источников», не нарушать права интеллектуальной собственности и получать согласие на использование персональных данных.
2. Строгая модерация контента: Поставщики несут юридическую ответственность за контент, генерируемый их моделями, и обязаны предотвращать создание незаконного контента (например, подрывающего государственную власть).
3. Регистрация алгоритмов и оценка безопасности: Услуги, обладающие «атрибутами общественного мнения или способностью к социальной мобилизации», должны проходить оценку безопасности и регистрировать свои алгоритмы в Администрации киберпространства Китая (CAC).
4. Маркировка и прозрачность: Контент, созданный ИИ, особенно «дипфейки», должен быть соответствующим образом маркирован.

Регулирование ИИ в Китае является неотъемлемой частью его более широкой системы цифрового управления и государственного контроля. Делая поставщиков ответственными за генерируемый контент, государство фактически превращает технологические компании в передовых цензоров. Это создает мощный стимул для разработки «безопасных» и политически выверенных моделей ИИ, что может привести к созданию технологически продвинутой, но идеологически ограниченной экосистемы ИИ.

Российская Федерация: двухтрековая стратегия

Национальная стратегия развития ИИ до 2030 года

Национальная стратегия, впервые утвержденная в 2019 году и значительно обновленная в феврале 2024 года, определяет стремление России стать мировым лидером в области ИИ. Ее ключевые цели — обеспечение экономической конкурентоспособности, национальной безопасности и повышение качества жизни граждан. Обновления 2024 года явно учитывают вызовы, связанные с санкциями, и ставят новые приоритеты, включая преодоление дефицита вычислительных мощностей и развитие отечественных решений для достижения технологического суверенитета. Стратегия устанавливает амбициозные целевые показатели на 2030 год, такие как повышение доверия населения к ИИ до 80% и увеличение корпоративных расходов на ИИ до 850 млрд рублей ежегодно.

Экспериментальные правовые режимы (ЭПР)

Для ускорения инноваций Россия активно использует экспериментальные правовые режимы (ЭПР) — «регуляторные песочницы». Это юридически определенные пространства, где для участников могут быть временно приостановлены или изменены определенные нормативные требования для тестирования инновационных технологий. Правовой основой служат Федеральный закон № 258-ФЗ «Об экспериментальных правовых режимах в сфере цифровых инноваций» и Федеральный закон № 123-ФЗ, который учредил специальный ЭПР для ИИ в Москве. Эти песочницы используются для тестирования ИИ в медицине, транспорте, сельском хозяйстве и финансах.
Использование ЭПР в России является прагматичной и адаптивной регуляторной стратегией, продиктованной необходимостью. В условиях геополитической изоляции и потребности в ускоренном развитии отечественных технологий, медленный законодательный процесс в стиле ЕС нецелесообразен. Модель «песочницы» позволяет государству сохранять стратегический контроль, одновременно стимулируя инновации в частном секторе в контролируемой среде с низким уровнем риска.

Сравнительный анализ и прогноз

Сравнительный анализ глобальных регуляторных рамок ИИ

Выявление конвергенций и дивергенций

Основное расхождение заключается в философии: подход ЕС, ставящий во главу угла права человека; подход США, ориентированный на инновации; подход Китая, сфокусированный на стабильности; и подход России, нацеленный на суверенитет. Однако, несмотря на различия, наблюдается и определенная конвергенция в отношении ключевых принципов, таких как прозрачность, качество данных, безопасность и подотчетность.
Глобальный ландшафт регулирования ИИ фрагментируется на отдельные «техно-регуляторные блоки». Эти блоки определяются не только разными правилами, но и разными ценностями и геополитическими целями. Эта фрагментация создает серьезные проблемы для концепции глобальной, открытой экосистемы ИИ и заставляет транснациональные корпорации ориентироваться в сложной мозаике режимов соответствия.

Стратегические рекомендации

Анализ показывает формирование четырех различных парадигм регулирования ИИ, каждая из которых отражает уникальные ценности и геополитические цели своей юрисдикции. Регулирование ИИ становится ареной для геополитической конкуренции. Несмотря на расхождения, формируется общий набор технико-этических принципов (прозрачность, подотчетность), который становится глобальной базовой линией.

• Для транснациональных корпораций: Рекомендуется принять стратегию соответствия «самому строгому режиму», вероятно, ориентируясь на Закон ЕС как на глобальный эталон. Необходимо инвестировать в создание команд по «управлению ИИ», способных ориентироваться в сложной нормативной среде.
• Для разработчиков политики: Следует сосредоточиться на развитии международного диалога для содействия совместимости регулирования, особенно в области технических стандартов, чтобы избежать полной фрагментации экосистемы ИИ.
• Для исследователей и разработчиков: Необходимо внедрять принципы «этики по умолчанию» и «безопасности по умолчанию» в жизненный цикл ИИ с самого начала, поскольку эти темы являются общими для всех основных регуляторных рамок. Следует тщательно документировать происхождение данных и процессы принятия решений для удовлетворения требований к прозрачности и подотчетности.