Generative Adversarial Networks (GANs)

Основна концепція: дві мережі, що змагаються

GAN (Generative Adversarial Networks) будуються на основі концепції перешкоджаючого навчання. Вони складаються з двох нейронних мереж – Генератора та Дискримінатора – які постійно борються за домінування.

Генератор намагається створювати реалістичні дані (наприклад, зображення), а Дискримінатор намагається розрізняти справжні дані з оригінального набору даних та підроблені дані, створені Генератором.

Generator(z) → Fake Data;  Discriminator(x) → Probability of x being Real

Як GAN-и вчаться: зворотний зв'язок

Спочатку Генератор виробляє випадковий шум (представлений як 'z'). Дискримінатор оцінює, чи схожий цей шум на реальні дані.

На основі відгуку Дискриміначатора Генератор коригує свої параметри для створення більш реалістичних виходів. Водночас, Дискримінатор вчиться краще розрізняти фальшиві дані.

жива демонстрація · пов'язана симуляція● LIVE

Навчання GAN: Виклики стабільності

Навчання GAN може бути надзвичайно нестабільним через зворотний зв’язок між Генератором та Дискримінатором. Поява зникаючих градієнтів або колапс мод (коли генератор лише виробляє обмежену кількість виходів) є поширеними проблемами.

Методи, такі як GAN з метричним обумовленим вагою (WGANs) та спектральна нормалізація, були розроблені для покращення стабільності навчання та конвергенції.

Застосування GAN

GAN використовуються в різних галузях, включаючи генерацію зображень (створення реалістичних портретів або пейзажів), перенесення стилю (зміна мистецького стилю зображення) та збільшення обсягу навчального набору даних.

Вони також показують перспективу у створенні музики, генерації 3D-моделей, а також у відкритті ліків.

Часті запитання

Що таке "колапс режиму" в GAN?

Колапс режиму виникає, коли генератор навчається виробляти лише невеликий підмножину можливих виходів, фактично ігноруючи інші режими, які присутні у тренувальних даних.

Чому GAN складні для навчання?

Конкуренна природа навчання GAN створює складний зворотній цикл, який може бути нестабільним і схильним до проблем, таких як зникнення градієнтів або колапс режиму.

Що таке Wasserstein GAN (WGAN)?

WGAN використовує відстань Вассерштейна як функцію втрат, що забезпечує більш плавну сигнатуру градієнту та покращує стабільність навчання порівняно з традиційними GAN.

Спробуйте наживо

Усе, що вище, працює прямо у вашому браузері — відкрийте SPH Fluid і змінюйте параметри під час роботи. Нічого не встановлюється, нічого не завантажується на сервер, уся модель живе в одній вкладці.

▶ Відкрити симуляцію SPH Fluid

Розкриваємо Креативність з AI: Вступ до GAN