Adversarial Robustness та безпека ML

🎓 Adversarial Attacks

FGSM (Fast Gradient Sign Method)

Концепція: Однокрокова атака. x' = x + ε·sign(∇_x L). Додає perturbation у напрямку gradient.

Переваги: Швидкий, простий.

Недоліки: Менш ефективний за multi-step атаки.

PGD (Projected Gradient Descent)

Концепція: Ітеративна атака. Кілька кроків gradient descent з projection на допустимий простір.

Переваги: Більш ефективний за FGSM, сильніша атака.

Недоліки: Повільніший, потребує більше обчислень.

CW (Carlini-Wagner)

Концепція: Оптимізаційна атака. Мінімізує perturbation при обмані моделі.

Переваги: Дуже ефективний, знаходить мінімальні perturbations.

Недоліки: Повільний, складний.

🔧 Defenses

Adversarial Training

Концепція: Навчання на adversarial прикладах. Мінімізує loss на adversarial + clean.

Переваги: Ефективний, підвищує стійкість.

Недоліки: Може знизити accuracy на clean, повільніший.

Input Transformation

Концепція: Preprocessing для видалення perturbations. Denoising, compression.

Переваги: Простий, не потребує retraining.

Недоліки: Менш ефективний, може впливати на clean дані.

Certified Defenses

Концепція: Математичні гарантії стійкості. Interval Bound Propagation, Randomized Smoothing.

Переваги: Гарантована стійкість.

Недоліки: Може знизити accuracy, складний.

📚 Практичні приклади

Приклад 1: Adversarial Training з PGD

Генерація: Генерувати adversarial приклади через PGD під час навчання.

Навчання: Мінімізувати loss на adversarial + clean даних.

Оцінка: Перевірити robust accuracy на test set.

Приклад 2: Тестування на adversarial attacks

Атаки: Застосувати FGSM, PGD, CW до моделі.

Оцінка: Обчислити robust accuracy для кожної атаки.

Аналіз: Проаналізувати вразливості, покращити defenses.

© 2025 Науковий Симулятор. Всі права захищені.

Adversarial Robustness: захист від атак

Спробуйте наживо

Усе, що вище, працює прямо у вашому браузері — відкрийте Dimensionality Reduction: PCA, t-SNE & UMAP і змінюйте параметри під час роботи. Нічого не встановлюється, нічого не завантажується на сервер, уся модель живе в одній вкладці.