MLSecRecommendations
Глава 00 · Основы

MLSec Recommendations. Индекс документов

~9 мин ≈ 9 мин осталось 2 176 словОбновлено 28 мая 2026 г.

MLSec Recommendations. Индекс документов

Проект: Рекомендации по внедрению ML SecOps в российских компаниях Перспектива: Служба ИБ внедряет процессы MLSec по корпоративным стандартам Дата последней актуализации: Апрель 2026

Быстрые ссылки

  • README - общий обзор проекта и рекомендованные маршруты.
  • GLOSSARY - словарь терминов ИБ, ML и регуляторики.
  • FAQ - частые вопросы по внедрению MLSec.
  • TAGS - перекрёстный указатель тегов по главам.

Готовые артефакты (по запросу)

Ряд готовых материалов не публикуется в открытом доступе и предоставляется по запросу и отдельной договорённости:

  • Опросник зрелости MLSec по 10 доменам (в формате .md + .xlsx).
  • Одностраничники по ролям: CISO, ML-engineer, DevOps, Compliance, Developer, FinOps.
  • Шаблоны артефактов: Threat Model, PIA, AI Use Policy, AI-BOM (CycloneDX ML-BOM 1.5+), Tabletop-сценарии, ФСТЭК-чеклист, уведомления регуляторам (РКН, ГосСОПКА, ФинЦЕРТ).
  • Матрицы соответствия: OWASP LLM Top 10, MITRE ATLAS, NIST AI RMF, ISO/IEC 42001, EU AI Act, Приказы ФСТЭК 17 / 21 / 31 / 239.
  • Архитектурные диаграммы Mermaid: lifecycle, gateway, DLP, kill-switch, IR.

Как получить: напишите с корпоративной почты, укажите организацию и перечень нужных артефактов. Доступ предоставляется пакетом под конкретную задачу внедрения.

Структура документов

# Документ Описание
01 Обзор и архитектура MLSec Введение в MLSec, архитектура процесса, отличия от DevSecOps, security by design/default/deployment
02 Этап 0. ML System Design Проектирование ML-системы: требования безопасности, Data Classification, Privacy Impact Assessment
03 Этап 1. Data Operations Операции с данными: валидация, Great Expectations, Presidio, Label Studio, DVC, защита data pipeline
04 Этап 2. Model Operations Операции с моделями: MLflow, Bandit, pip-audit, Checkov, ART, безопасное обучение
05 Этап 3. Model Deployment Развёртывание: Kubernetes, Docker security, canary / blue-green, rollback, KServe, Istio
06 Этап 4. Operations & Platform Эксплуатация: мониторинг (Prometheus, Grafana, Arthur AI, Fiddler), drift detection, incident response
07 Red Teaming и методы тестирования Red Teaming, RLHF, adversarial testing, Garak, PyRIT, Promptfoo, тестирование LLM / CV / табличных моделей
08 Управление доступом и секретами HashiCorp Vault, Mozilla SOPS, Keycloak, PoLP, RBAC, Row-Level Security, audit
09 Threat Modeling STRIDE / STRIDE-AI, OWASP ML Top 10, OWASP LLM Top 10 (2025), MITRE ATLAS, DFD-анализ
10 Защита LLM-агентов Типы интеграции LLM, OWASP Agentic AI Top 10, Agentic Radar, Vigil, LLM-Guard, red teaming агентов
11 Безопасность чат-ботов Архитектура chatbot, STRIDE по DFD, prompt injection, утечки PII, model poisoning, side-channel, матрица рисков
12 Методы обнаружения и защиты, CI/CD Defense in Depth, sanitization, guardrails, eBPF, Falco, WAF, GitLab CI/CD для LLM, fuzzing
13 Внедрение MLSec в российских компаниях Сводный внедренческий плейбук: roadmap, зрелость, 152-ФЗ, ЦБ РФ, ФСТЭК, отечественный стек, OSS-инвентарь, Rilio
14 Governance: MRM, AI-BOM, AI Use Policy Управление модельным риском, реестр ИИ-систем, политика использования
15 AI Incident Response, Forensics, Tabletop Классификация инцидентов, плейбуки, артефакты, retention, коммуникации, сценарии штабных учений
16 ML Attack Atlas: RAG, Multimodal, Fine-tuning Extraction, inversion, MIA, RAG security, мультимодальные атаки, adapter supply chain
17 Privacy Enhancing Technologies (PET) Differential Privacy, Federated Learning, TEE, Homomorphic Encryption, SMPC, data clean rooms
18 Российская специфика, deep dive 152-ФЗ, 187-ФЗ, ФСТЭК, ЦБ, ГОСТ-крипто, реестр отечественного ПО, маркировка AI-контента
19 Безопасность обучающей инфраструктуры GPU-кластеры, distributed training, защита checkpoint-ов, supply chain, multi-tenant
20 Безопасность код-ассистентов Copilot, Cursor, Claude CLI, Codex, Aider, gateway, DLP, review workflow
21 Люди и процесс: AI Literacy, Decommissioning, Bug Bounty Программа обучения по ролям, снятие моделей с эксплуатации, bug bounty для AI
22 FinOps для ИИ и LLM Unit economics, бюджеты, anomaly detection, optimization, token flood, denial of wallet
23 MITRE ATLAS на русском Тактики и техники ATLAS v5.4.0, deep-dive по LLM/GenAI, мапинг на OWASP LLM / Agentic Top 10 и ФСТЭК
24 Безопасность векторных БД Pinecone, Weaviate, Qdrant, Milvus, pgvector: inversion, poisoning, cross-tenant, выбор движка под K3+
25 PromptOps Промпты как код: registry, версионирование, review, CI/CD, firewall, anti-echo-leak
26 Мультимодальность и CV Prompt injection через изображение, adversarial patches, OCR-атаки, deepfake, face-ID
27 Voice AI ASR/TTS, voice cloning, ASVspoof, ЕБС, liveness, watermarking TTS
28 Синтетические данные Memorization, distribution shift, model collapse, DP-генерация, compliance и attribution
29 Watermarking и attribution SynthID, AudioSeal, C2PA, Sigstore MT, model watermarking для IP и compliance
30 Интерпретируемость для ИБ SHAP/Captum/Mechanistic, backdoor detection, bias, forensics, GDPR Art. 22
31 AI-агенты: обзор и наследование README ветки про агентов: карта документов, принцип приоритета базовых документов, examples/
32 AI-агенты: operating overlay Граница агентного сценария, классы A-D, поля реестра, делегированные полномочия, этапы допуска
33 AI-агенты: security overlay Модель угроз, граница инструментов, согласование, память, изоляция коннекторов, защита от prompt injection
34 AI-агенты: runtime procedure Состояния runtime, мониторинг, ограниченный режим, приостановка, kill-switch, восстановление
35 AI-агенты: incident playbook Первичная реакция на инъекцию, tool misuse, отравление памяти, компрометацию коннектора, потерю свидетельств
36 AI-агенты: production readiness Чек-лист готовности: 8 блоков подтверждений, 9 блокирующих условий, подписи ролей
Доступ по подписке#00-INDEX

Дальше — практика и артефакты

Полная версия главы «MLSec Recommendations. Индекс документов» с готовыми артефактами, шаблонами, чек-листами и подробными процедурами доступна по подписке.

46% прочитано54% в подписке
Внутри:Готовые playbook'иШаблоны документовЧек-листыDetection-правила
3таблиц
  • Полный доступ ко всем главам и обновлениям 30 дней
  • Готовые playbook'и, шаблоны и runbook'и под копирование
  • Поддержка автора — paywall не для заработка, а для развития справочника
Открыть подписку· от 49 USD / 30 днейУже оплатил(а) — войти

Можно отменить в любой момент. Возврат средств в первые 7 дней без вопросов.

Упоминается в (24)