Глава 28. Безопасность синтетических данных
Глава 28. Безопасность синтетических данных
Версия: 2.0 Дата актуализации: 2026-04-22 Область: генерация синтетических данных, их верификация, риски, compliance Связи: Глава 03, Глава 04, Глава 14, Глава 17, Глава 18, Глава 29
Аннотация
Синтетические данные это генерированные AI записи, которые статистически имитируют реальные. Для ML-команд это способ обойти ограничения на ПДн, расширить обучающий корпус, покрыть edge-cases, построить voice/vision тесты без реальных клиентов. Индустрия (Gartner, IDC) прогнозирует, что к 2028 году более 60% обучающих данных корпоративных моделей будут синтетическими.
Но синтетика несёт шесть категорий рисков:
- Memorization и privacy leakage. Генератор, обученный на реальных ПДн, способен воспроизвести реальные записи почти дословно: это показано для LLM (Carlini et al. 2021), для diffusion-моделей (Carlini et al. 2023), и для tabular GAN (Stadler et al. 2022).
- Distribution shift. Генератор сглаживает хвосты, амплифицирует частые паттерны, создаёт собственные артефакты. Модель, обученная только на синт, работает хорошо на синт-test, но плохо на real.
- Model collapse. Рекурсивное обучение на AI-сгенерированных данных приводит к деградации модели на 3-5 поколении (Shumailov et al., Nature 2024).
- Compliance иллюзия. «Это синт, 152-ФЗ не применяется» / это неверно без формальной privacy-гарантии.
- Laundering. Использование synt для «отмыва» токсичных или проприетарных данных.
- Amplification of bias. Generator воспроизводит и усиливает перекосы исходного корпуса в новых записях.
Эта глава систематизирует современные (2023-2026) практики, инструменты и компромиссы.
1. Что считать синтетическими данными
Типы по степени «синтетичности»:
| Тип | Определение | Пример |
|---|---|---|
| Полностью синтетические | 100% сгенерированы | tabular CTGAN, text LLM, image Flux |
| Частично синтетические | Реальные поля + синт-поля | реальный пол/возраст + синт-транзакции |
| Augmented | Реальные с модификациями | rotation, paraphrase, Gaussian noise |
| Anonymized через generation | Real → synt через DP-GAN | медицинские записи через DP-CTGAN |
| Hybrid | Mixed training corpus | 70% real + 30% synt |
Anonymization ≠ synthetic generation. Anonymization маскирует identifying fields в реальных записях (k-anonymity, l-diversity), но сохраняет реальные кортежи данных. Synthetic generation создаёт новые записи с похожей статистикой. Это разные правовые и технические режимы: синтетика по умолчанию НЕ считается анонимизированной в GDPR/152-ФЗ без формального доказательства.
2. Use cases и их риск-профили
| Use case | Польза | Главный риск | Допустимый ε |
|---|---|---|---|
| Тест-среда вместо прод-БД | Безопасные тесты, нагрузочное | Memorization PII | ε ≤ 3 |
| Class balancing (fraud, rare diseases) | Устранение class imbalance | Амплификация артефактов | ε ≤ 5 |
| Edge case generation | Robustness, coverage | Unrealistic distribution | Нет PII: не нужен |
| Demo / sales material | Показать продукт без NDA | Re-identification | ε ≤ 1 |
| Open benchmark dataset | Публикация без PII | Re-identification при publish | ε ≤ 1 |
| Обучение ML модели внутри | Обход compliance блока | Compliance иллюзия | ε ≤ 3 |
| Self-training LLM | Масштаб без новых данных | Model collapse | : |
| Voice / vision red teaming | Генерация adversarial примеров | Dual-use, deepfake | Watermark обязателен |
| Synthetic customers для A/B | Early-stage продукт | Не репрезентативны | Рекомендовать real ASAP |
Tier по чувствительности:
- Tier A (K1-K2 ПДн, спец.категории): только DP-генерация с ε ≤ 3, двойная проверка Юрист.
- Tier B (K3-K4 ПДн, бизнес-данные): DP-генерация желательна, mandatory fidelity и MIA тесты.
- Tier C (публичные/агрегаты): любой метод, но watermark и provenance обязательны.
Дальше — практика и артефакты
Полная версия главы «Глава 28. Безопасность синтетических данных» с готовыми артефактами, шаблонами, чек-листами и подробными процедурами доступна по подписке.
- Полный доступ ко всем главам и обновлениям 30 дней
- Готовые playbook'и, шаблоны и runbook'и под копирование
- Поддержка автора — paywall не для заработка, а для развития справочника
Можно отменить в любой момент. Возврат средств в первые 7 дней без вопросов.