Информационная безопасность ИИ в российском правовом контуре

Программа курса

• Раздел 1. Правовое регулирование и требования законодательства РФ

  1.1. Базовый закон об ИИ: ключевые новации

  • Федеральный закон № 243-ФЗ от 26 июля 2026 г. «О поддержке развития технологий искусственного интеллекта»: предмет, цели, терминология
  
  
  • Понятия «суверенная модель», «национальная модель», «доверенная модель» и их правовой статус.
  
  
  • Законопроект о регулировании ИИ, принятый Госдумой в первом чтении: риск-ориентированный подход, разделение моделей по уровню суверенности, переходный период до 2032 года
  
  
  • Требования к применению преимущественно отечественных разработок в чувствительных сферах (оборона, безопасность, госуправление, образование)

  1.2. Подзаконные акты и требования регуляторов

  • Приказ ФСТЭК России № 117 (вступил в силу 1 марта 2026 г.): системные требования к защите систем с ИИ, запрет на передачу информации ограниченного доступа разработчику модели, правила фильтрации запросов и ответов
  
  
  • Проект изменений в приказ № 117: выделение моделей ИИ в отдельный сегмент, усиленная многофакторная аутентификация, квотирование запросов, контроль функциональности моделей, требования к агентам ИИ
  
  
  • Методические рекомендации Банка России № 3-МР от 16.06.2026: обеспечение ИБ при разработке и применении ИИ на финансовом рынке, каталог угроз (хищение обучающих данных, модификация модели, «отказ в обслуживании», манипуляция поведением)

  1.3. Стандартизация и защита прав граждан

  • Проект ГОСТ Р по безопасной разработке ПО с ИИ: развитие ГОСТ Р 56939-2024, распространение Secure SDLC на модели, данные и ИИ-инфраструктуру
  
  
  • ГОСТ Р 59276-2020 «Системы ИИ. Способы обеспечения доверия» – практическое применение
  
  
  • Право граждан на досудебное оспаривание решений, принятых с использованием ИИ, и компенсацию вреда
  
  
  • Обязательная маркировка ИИ-контента: текущий статус (добровольная маркировка на первом этапе) и перспективы введения штрафов
  
  
  • Практикум: Разбор кейса «Соответствие ИИ-сервиса требованиям приказа ФСТЭК № 117» – выявление разрывов и составление плана мероприятий

• Раздел 2. Технические аспекты безопасности ИИ: угрозы и меры защиты

  2.1. Специфические угрозы безопасности ИИ

  • Классификация угроз по методическим рекомендациям Банка России: хищение обучающих данных, модификация модели (бэкдоры, закладки), отказ в обслуживании (атаки «губка», фаззинг), манипуляция поведением модели, подмена модели
  
  
  • Состязательные атаки (adversarial attacks), отравление данных (data poisoning), инверсия модели (model inversion), извлечение данных через выходные данные
  
  
  • Риски цепочки поставок: уязвимости в библиотеках, фреймворках, предобученных моделях

  2.2. Архитектурные и организационные меры защиты

  • Выделенный сегмент для моделей ИИ: изоляция, контроль доступа, принцип минимальных привилегий
  
  
  • Фильтрация входных запросов и выходных ответов: методы, инструменты, статистические критерии выявления недостоверных ответов («галлюцинаций»)
  
  
  • Многофакторная аутентификация, регистрация и анализ действий пользователей, квотирование запросов
  
  
  • Шифрование данных, передаваемых за пределы контролируемой зоны; методы конфиденциального вычисления; обезличивание и маскирование данных
  
  
  • Контроль целостности и подлинности модели, отслеживание изменений в коде и документации

  2.3. Безопасная разработка ИИ-систем

  • Интеграция требований проекта ГОСТ Р в процессы Secure SDLC: управление рисками на всем жизненном цикле, моделирование угроз, контроль цепочки поставок
  
  
  • Тестирование на проникновение для ИИ-систем, фаззинг-тестирование, оценка устойчивости к состязательным атакам
  
  
  • Управление инцидентами, связанными с ИИ: мониторинг штатного функционирования модели, гарантированное стирание данных, использование «цифровых меток»
  
  
  • Практикум: Моделирование атаки типа «вредоносная инъекция» на тестовую LLM и настройка фильтрации запросов/ответов в соответствии с требованиями ФСТЭК

• Раздел 3. Управление compliance, рисками и практические кейсы

  3.1. Организация системы управления ИБ ИИ в компании

  • Разработка внутренних стандартов и регламентов по защите информации при использовании ИИ (требование проекта приказа ФСТЭК)
  
  
  • Формирование модели угроз и политики ИБ для работы с ИИ (рекомендация Банка России)
  
  
  • Роли и ответственность: оператор ИИ-системы, разработчик модели, владелец сервиса – разграничение зон ответственности в свете законопроекта о регулировании ИИ
  
  
  • Управление рисками: оценка влияния ИИ на жизнь человека и общество, категорирование систем по уровню риска

  3.2. Трансграничная передача данных и суверенитет

  • Федеральный закон № 265-ФЗ: изменение правил признания иностранных государств обеспечивающими адекватную защиту прав субъектов ПДн
  
  
  • Требования к обработке данных исключительно на территории России для суверенных моделей
  
  
  • Постановление Правительства № 845: контроль за использованием зарубежных баз данных и технических средств в государственных и корпоративных ИС с 1 сентября 2026 года

  3.3. Практические кейсы и разбор ситуаций

  • Кейс 1: Внедрение генеративного ИИ в документооборот госорганизации – как выполнить требования п. 60-61 приказа ФСТЭК № 117 без остановки процессов
  
  
  • Кейс 2: Использование внешней LLM для клиентской поддержки в банке – соответствие методическим рекомендациям Банка России № 3-МР
  
  
  • Кейс 3: Оценка рисков при интеграции зарубежной предобученной модели – анализ цепочки поставок и требований к суверенитету

  Итоговое задание: разработка дорожной карты приведения ИИ-системы организации в соответствие с актуальными требованиями РФ

  Завершение: обсуждение «Актуальные вопросы и открытые проблемы регулирования ИИ»

• Итоговый зачет