Continual Learning та Lifelong Learning

🎓 Основні концепції

Catastrophic Forgetting

Проблема: При навчанні на новій задачі модель забуває старі. Параметри оновлюються для нової, втрачаючи знання.

Причина: Параметри спільні для всіх задач. Оновлення для нової задачі змінює параметри, важливі для старих.

Рішення: Replay, regularization, architecture methods.

Continual Learning Scenarios

Task-Incremental: Відома задача для кожного прикладу. Найпростіший.

Domain-Incremental: Різні домени, та сама задача. Середня складність.

Class-Incremental: Нові класи з'являються. Найскладніший.

🔧 Методи

Replay Methods

Experience Replay: Зберігає приклади старих задач, перемішує з новими.

Generative Replay: Генерує приклади старих задач через GAN.

Memory Buffer: Обмежений буфер важливих прикладів.

Переваги: Ефективні, добре працюють.

Недоліки: Потребують пам'яті.

Regularization Methods

EWC: Elastic Weight Consolidation. Захищає важливі параметри через Fisher information.

SI: Synaptic Intelligence. Відстежує важливість синапсів.

LwF: Learning without Forgetting. Використовує distillation для збереження знань.

Переваги: Не потребують пам'яті.

Недоліки: Менш ефективні за replay.

Architecture Methods

Progressive Neural Networks: Окремі мережі для кожної задачі, lateral connections.

PackNet: Pruning та masking для виділення параметрів для задач.

Переваги: Немає interference між задачами.

Недоліки: Зростає розмір моделі.

📚 Практичні приклади

Приклад 1: Experience Replay для continual learning

Буфер: Створити memory buffer для зберігання прикладів.

Навчання: Для кожної нової задачі: зберігати важливі приклади, перемішувати з новими.

Оцінка: Перевірити accuracy на всіх задачах.

Приклад 2: EWC для захисту параметрів

Fisher Information: Обчислити Fisher information для старих задач.

Regularization: Додати EWC penalty до loss при навчанні нової задачі.

Оцінка: Перевірити, чи збереглися знання про старі задачі.

© 2025 Науковий Симулятор. Всі права захищені.

Continual Learning: навчання без забування

Спробуйте наживо

Усе, що вище, працює прямо у вашому браузері — відкрийте Dimensionality Reduction: PCA, t-SNE & UMAP і змінюйте параметри під час роботи. Нічого не встановлюється, нічого не завантажується на сервер, уся модель живе в одній вкладці.