Искусственный интеллект быстро революционизирует каждый сектор, от здравоохранения до финансов, включая маркетинг и государственное управление. Но кто следит за этими системами? Как мы можем гарантировать, что AI не нарушает основные права?
Именно из этих вопросов возникает EU AI Act, первое в мире законодательство, которое регулирует разработку, распространение и использование искусственного интеллекта в соответствии с ключевым принципом: риск.
Содержание
Что предусматривает EU AI Act?
Утвержденный в 2024 году, Европейский регламент по искусственному интеллекту вводит подход основанный на риске. Системы AI классифицируются на четыре основные категории:
🔹 AI с минимальным риском
🔹 AI с высоким риском
🔹 AI запрещена
🔹 Модели для общих целей (GPAI)
Запрещенные практики: AI, у которого нет будущего
Некоторые использования искусственного интеллекта считаются этически неприемлемыми или опасными и будут запрещены с 2 февраля 2025 года.
Примеры запрещенного ИИ:
- Социальный рейтинг (в стиле «Black Mirror»): оценка людей на основе их поведения, с последствиями в реальной жизни.
- Психологическая манипуляция: системы, которые побуждают пользователей принимать вредные или неосознанные решения.
- Скрапинг лиц из Интернета для биометрических баз данных.
- Распознавание эмоций в школах и на рабочих местах (за исключением случаев, связанных с вопросами здоровья или безопасности).
- Биометрическое наблюдение в реальном времени со стороны правоохранительных органов, за исключением исключительных случаев, разрешенных законом.
ИИ высокого риска: правила и требования
Системы с высоким риском — это те, которые непосредственно влияют на права, безопасность или доступ к основным услугам. Они должны будут соблюдать строгие требования.
Конкретные примеры:
- ИИ используется для найма кандидатов или оценки производительности.
- Системы, которые определяют кредитоспособность или право на социальные льготы.
- Алгоритмы в медицинских устройствах или критической инфраструктуре (энергия, транспорт).
- Инструменты AI, которые влияют на систему правосудия или демократические выборы.
Поставщики должны будут:
- Принять системы непрерывного управления рисками
- Гарантировать высокое качество данных для обучения и тестирования
- Документировать каждый этап с технической прозрачностью
- Реализовать планы посткоммерческого мониторинга
Пользователи должны будут:
- Использовать системы, следуя специфическим инструкциям
- Сохранять журналы системы AI
- Оценить влияние на основные права в общественных или чувствительных контекстах
Правила вступят в силу с 2 августа 2026 года.
Правила для общих моделей ИИ (GPAI)
Положение также вводит специальную дисциплину для foundation models, таких как Granite di IBM или LLaMA 3 di Meta, которые могут использоваться в различных приложениях.
Обязанности поставщиков GPAI:
- Соблюдение авторских прав ЕС
- Публичное резюме dataset di training
- Автоматическая маркировка сгенерированного контента (deepfake, тексты, изображения)
Если модель превышает порог 10²⁵ FLOP на этапе обучения, она считается системным риском и должна:
- Сообщать о серьезных инцидентах
- Принять передовые меры кибербезопасности
Правила применяются к новым моделям с 2 августа 2025 года, с адаптационным периодом до 2027 года для уже существующих.
К кому применяется EU AI Act?
Положение применяется к:
- Поставщики (кто разрабатывает или продает AI)
- Пользователи (те, кто использует AI-системы в своей деятельности)
- Импортеры и дистрибьюторы в ЕС
Даже компании за пределами ЕС подпадают под нормативные акты если их системы или результаты используются в Европейском Союзе. В таком случае, они должны назначить уполномоченного представителя в ЕС.
Санкции: до 35 миллионов евро
Штрафы пропорциональны тяжести нарушения:
| Тип нарушения | Максимальный штраф |
| Использование запрещенного AI | €35 миллионов или 7% от мирового оборота |
| Нарушение требований для AI с высоким риском | €15 миллионов или 3% от мирового оборота |
| Предоставление вводящей в заблуждение информации властям | €7,5 миллионов или 1% от мирового оборота |
PMI e startup получают выгоду от пропорционального режима санкций.
Ключевые даты
1° августа 2024: официальное вступление в силу
2 февраля 2025: запрет запрещенных практик AI
2 августа 2025: GPAI (новые модели)
2 августа 2026: AI высокого риска
2 августа 2027: системы, регулируемые другими нормативами ЕС
FAQ – Часто задаваемые вопросы о Законе об ИИ
▶ Применяется ли AI Act также к личному использованию искусственного интеллекта?
Нет. Личное использование или использование для научных исследований освобождено.
▶ Системы open source регулируются?
Да, если они оказывают системное влияние или используются в рискованных контекстах.
▶ Что означает «маркировка сгенерированного контента»?
Добавление метаданных или меток, читаемых машинами, которые указывают, что контент (например, видео deepfake) был сгенерирован или изменен ИИ.
Заключение
Закон ЕС об ИИ — это гораздо больше, чем просто закон: это декларация о намерениях относительно будущего цифровых инноваций в Европе. Компании, которые разрабатывают, распространяют или используют ИИ, должны действовать немедленно, чтобы оценить свои риски, адаптировать процессы и инвестировать в прозрачность и управление.




