Безопасность AI систем — практический справочник
40 разделов по всему жизненному циклу ML: архитектура, защита от AI-атак, red teaming, агенты, DLP, compliance, incident response. С учётом ФСТЭК, ФЗ-152 и 149-ФЗ.
Зачем здесь paywall
Часть материалов доступна по подписке — это не способ заработать, а способ поддержать автора и его наработки. На сайте лежат живые playbook'и, шаблоны и compliance-артефакты, которые я веду сам и обновляю по мере появления новых угроз и регуляторных изменений. Подписка покрывает время на расширение справочника, доменные исследования и поддержку сообщества — не более.
Введение, обзор и навигация по каждой главе остаются открытыми. За paywall — готовые runbook'и, шаблоны, чек-листы, отраслевые сценарии и продвинутые разборы.
Безопасность на каждой стадии — от дизайна до операций
Свежее в справочнике
Что изменилось за последнее время. Даты — автоматически из frontmatter.
С чего начать по вашей роли
Выберите роль — получите упорядоченный маршрут из 4-6 глав. Без воды.
PrizmaAI Gateway для компаний
Единая точка входа для всех AI-запросов: DLP, RBAC, бюджеты, аудит и kill-switch. Настраивайте политики, видьте весь трафик, не пускайте секреты в OpenAI.
- DLP-фильтрацияна входе и выходе LLM
- RBAC + SSOполитики по командам
- Бюджетылимиты и биллинг
- Аудитполная трассируемость
- Kill-switchстоп одной кнопкой
- Topology mapкарта AI-инфры
Основы
Обзор и архитектура
MLOps жизненный цикл
S0 → S4: дизайн, данные, модель, деплой, операции
- 02Рекомендации ИБ: Этап 0 - Проектирование ML-системы
- 03Рекомендации ИБ: Этап 1 - Операции с данными (Data Operations)
- 04Рекомендации ИБ: Этап 2 - Операции с моделями (Model Operations)
- 05Рекомендации ИБ: Этап 3 - Развертывание и обслуживание моделей (Model Deployment and Serving)
- 06Рекомендации ИБ: Этап 4 - Операции и платформа (Operations & Platform)
Безопасность
Red team, доступы, угрозы, атаки
- 07Рекомендации ИБ: Red Teaming, тестирование моделей и CI/CD интеграция
- 08Рекомендации ИБ: Управление доступом и секретами в MLSec
- 09Threat Modeling для ML-систем: Рекомендации ИБ
- 16ML Attack Atlas, RAG Security, Multimodal, Fine-tuning Supply Chain
- 23Глава 23. MITRE ATLAS на русском языке
- 24Глава 24. Безопасность векторных баз данных
- 26Глава 26. Безопасность мультимодальных и CV-систем
- 27Глава 27. Безопасность Voice AI и speech-систем
LLM и агенты
Чат-боты, агенты, CI/CD, code assistants
- 10Защита и Red Teaming LLM-агентов
- 11Безопасность приложений чат-ботов и диалоговых ИИ-систем
- 12Методы обнаружения и защиты ML-систем. Безопасная интеграция LLM в CI/CD
- 20Безопасность код-ассистентов и AI-агентов разработки
- 25Глава 25. PromptOps: управление промптами как кодом
- 31AI-агенты: обзор ветки и принцип наследования
- 32AI-агенты: операционный overlay
- 33AI-агенты: security overlay
- 34AI-агенты: процедура исполнения (runtime)
- 35AI-агенты: инцидент-плейбук
- 36AI-агенты: чек-лист готовности к проду
Операции
Governance, incidents, люди, FinOps
Compliance и приватность
PET, ФЗ-152, ФСТЭК, регуляторика
Внедрение
RU-playbook, инфраструктура обучения
Прочее
Материалы вне основной классификации