Обмежені Броунівські Машини: Навчання за допомогою енергії

Двобійна Мережа Без Тиску

Обмежений Броунівський Механізм (ОБМ) складається з двох шарів бінарних одиниць: видимої шари v, яка представляє спостережувані дані, такі як активації пікселів, та прихованої шари h, яка представляє навчені латентні ознаки. Кожна видима одиниця під’єднана до кожної прихованої одиниці через матрицю ваг W, але, що важливо, немає зв’язків всередині шару — жодних видимо-прихованих зв’язків, жодних прихованих-прихованих зв’язків. Це ‘обмеження’, яке дає змогу моделі її назву, і виявляється надзвичайно корисним: оскільки одиниці всередині шару ніколи не спілкуються між собою безпосередньо, всі приховані одиниці стають умовно незалежними, враховуючи видимі одиниці, та навпаки. Це незалежність означає, що можна одночасно оновлювати весь шар, замість того, щоб оновлювати кожну одиницю поодинці, що робить обчислювально складну неорієнтовану графічну модель достатньо керованою для навчання в масштабі.

Функція Енергії: Оцінювання Конфігурацій

В основі РБМ знаходиться функція енергії, яка присвоює кожній можливій конфігурації суміжності видимих та прихованих елементів один скалярний номер. Для бінарних елементів вона записується як E(v,h) = -sum_i(a_i * v_i) - sum_j(b_j * h_j) - sum_ij(v_i * W_ij * h_j), де a_i та b_j є термінами ухилу для видимих та прихованих елементів, а W_ij – вага, що з’єднує видимий елемент i з прихованим елементом j. Низька енергія повинна відповідати конфігураціям, які мережа вважає правдоподібними, а висока – конфігураціям, які вона вважає неправдоподібними. Ця енергія перетворюється на ймовірність через розподіл Больцмана: P(v,h) = exp(-E(v,h)) / Z, щоб низькоенергетичні стани отримували експоненційно вищу масу ймовірності, а високоенергетичні – експоненційно пригнічені. Навчання РБМ є, в буквальному сенсі, формування цієї енергетичної поверхні так, щоб долини збігалися з навчальними даними, а піки – з усім іншим.

Нерозв’язана задача Z і існування контрастивної дивергенції

Нормалізуючий констант Z у цій формулі, що називається функцією розділення, визначається як Z = сума по всіх v,h виразу exp(-E(v,h)) — це сума ненормалізованої ймовірності по кожній можливості комбінації видимих та прихованих станів. Для будь-якої мережі з більше ніж кількох десятків одиниць, ця сума має астрономічно велику кількість членів, що робить Z, і відповідно точну ймовірність P(v,h), обчислювально нерозв’язною. Це важливо, оскільки справжній градієнт максимальної правдоподібності для ваг має елегантну форму dlogP(v)/dW_ij = <v_i h_j>_data - <v_i h_j>_model, де перший член є очікуванням, яке легко оцінюється з реальних прикладів навчання, але другий член вимагає семплювання з повної моделі розподілу, визначеної тим самим нездійсненним Z. Контрастивна дивергенція (CD), запропонована Джефрі Хінтоном у 2002 році, обходить це, замінюючи нерозв’язне очікування моделі дешевим наближенням: починається марковська ланцюг від реальної точки даних, запускаються лише кілька альтернативних кроків семплювання з використанням Гіббса (часто лише один, що називається CD-1), і використовується отриманий ‘реконструкт’ замість справжнього зразка рівноваги. Отримане правило оновлення дорівнює DeltaW_ij ~= <v_i h_j>_data - <v_i h_j>_reconstruction, що штовхає ваги вгору, де пара видимих та прихованих станів коактивується на реальних даних більше, ніж після короткої ланцюга реконструювання, і вниз, де протилежне справедливе.

Вибірка з шарів за Гіббсом

Етап реконструкції в різнобічному розбіжному відхиленні безпосередньо спирається на незалежність шарів, що вбудована в RBM. Оскільки приховані одиниці є умовно незалежними, враховуючи видиму шар, ви можете одночасно відбирати всі h з P(h|v) = сигмоїд(b + W^T v), і оскільки видимі одиниці є умовно незалежними, враховуючи приховану шар, ви можете одночасно відбирати всі v з P(v|h) = сигмоїд(a + W h). Чергування цих двох кроків відбору — від видимої до прихованої, потім від прихованої назад до видимої, а потім ще раз від прихованої — це точно ланцюг блокової вибірки Гіббса, і саме це дозволяє мережі зробити приблизний вибір з власного розподілу моделі без обчислення Z. Продовження цієї ланцюга дає більш точну модельну зразок та більш точну оцінку градієнту, але навіть грубий однокроковий варіант, використаний у CD-1, виявляється надійно штовхати поверхню енергії в правильному напрямку, що й пояснює, чому різнобіжне розбіжне відхилення стало практичним «робочим конем» для навчання RBM замість точного, але безвихідного максимального правдоподібності навчання.

Збірка РБМ та їхнє місце в історії

В середині 2000-х років РБМ знайшли своє найвідоміше застосування як будівельні блоки для Глибоких Віровних Мереж. Хінтон та його колеги показали, що можна навчати один РБМ на необроблених даних, заморозити його, а активації його прихованого шару розглядати як «дані» для другого РБМ, який був розташований зверху, і повторювати цей жадібний попередній тренування шар за шаром доки не досягнемо кінця. Цей безконтрольний попередній тренування дав глибоким мережам розумний відправний пункт для їхніх ваг перед фінальною фазою контрольованого налаштування, що було справді важливим трюком у період приблизно з 2006 по 2012 рік, коли навчання глибоких мереж із випадкового ініціалізації було надзвичайно нестабільним. Кращі схеми ініціалізації ваг, активації ReLU, пакетне нормалізування та, зрештою, значно більші розмічені набори даних зробили шар за шаром попереднє тренування РБМ непотрібним, і РБМ відступили від основної діяльності. Але їхня концептуальна ДНК пронизує сучасні генеративні моделі штучного інтелекту: ідея навчання енергетичної або оціночної функції над даними та використання ітеративного стохастичного семплювання для вилучення з неї безпосередньо віддзеркалюється в сьогоднішніх моделей на основі оцінок і дифузії, що робить РБМ менше музейним експонатом і більше раннім предком ідей, які все ще живі.

Часті запитання

Спробуйте наживо

Усе, що вище, працює прямо у вашому браузері — відкрийте Restricted Boltzmann Machines: Energy-Based Generative Learning і змінюйте параметри під час роботи. Нічого не встановлюється, нічого не завантажується на сервер, уся модель живе в одній вкладці.