Навчання #30 – Статистична теорія поля: від моделі Ізінга до ренормалізації та зв'язків з глибоким навчанням

Центральне спостереження статистичної теорії поля полягає в тому, що критична поведінка багаточастинкових систем визначається не мікроскопічними деталями, а симетрією та розмірністю. Магніт поблизу точки Кюрі, рідина поблизу критичної точки рідина-газ і перколяційна мережа мають однаковий набір критичних показників, тому що належать до одного й того самого класу універсальності. Інструмент, що робить це точним — ренормалізаційна група — одна з найкрасивіших конструкцій у теоретичній фізиці, і тепер вона з'являється в несподіваному вигляді всередині сучасних архітектур машинного навчання.

1. Від статистичної механіки до теорії поля

Модель Ізінга — канонічна відправна точка. Первісно запропонована Ленцом (1920) і розв'язана Ізінгом (1925) у 1D (без переходу) та Онсагером (1944) у 2D (точний розв'язок), ця модель зводить конкуренцію між феромагнітним упорядкуванням і тепловим безладом до найпростішого можливого гамільтоніана.

Гамільтоніан Ізінга:
  H = −J Σ_{} σᵢσⱼ − h Σᵢ σᵢ
  σᵢ ∈ {−1, +1}; J > 0 (феромагнітна взаємодія); h = зовнішнє поле
  Z = Σ_{σ} exp(−βH), β = 1/(k_B T)

Наближення середнього поля:
  Замінюємо σⱼ → ⟨m⟩ (середня намагніченість), кожен вузол має z сусідів:
  H_eff = −(zJ⟨m⟩ + h) Σᵢ σᵢ
  Самоузгодженість: ⟨m⟩ = tanh[β(zJ⟨m⟩ + h)]
  Критична температура: k_B T_c = zJ
  Поблизу T_c: ⟨m⟩ ≈ ±√(3(T_c−T)/T_c)   (h = 0, T < T_c)
  Нижче T_c: симетрія Z₂ (σ → −σ) спонтанно порушена

Функціонал вільної енергії Ландау-Гінзбурга (ЛГ):
  F[φ] = ∫d^d x [½(∇φ)² + a(T)φ² + b φ⁴ + ...]
  φ(x): неперервне поле параметра порядку (континуальна межа ⟨σᵢ⟩)
  a(T) = a₀(T − T_c): змінює знак у T_c
  Сідлова точка (середнє поле): δF/δφ = 0 → −∇²φ + 2aφ + 4bφ³ = 0
  Однорідний розв'язок: φ = 0 (T > T_c); φ = ±√(−a/2b) (T < T_c)
  Потенціал «мексиканського капелюха» при T < T_c → вироджені мінімуми

Поза середнім полем — гаусові флуктуації:
  F[φ] = ∫(d^d k)/(2π)^d [½k²|φ_k|² + a|φ_k|²]   (Фур'є, квадратична частина)
  Пропагатор: G(k) = ⟨φ_k φ_{-k}⟩ = 1/(k² + 2a)
  Кореляційна довжина: ξ = (2a)^{−½} ∝ |T − T_c|^{−½}  (середнє поле: ν = ½)
          

2. Континуальні інтеграли в теорії поля

Формулювання Фейнмана через континуальний інтеграл замінює суму за дискретними мікростанами інтегралом за всіма конфігураціями поля. Для скалярного поля φ(x) у d-вимірному евклідовому просторі статистична сума стає Z = ∫Dφ exp(−S[φ]), де S — евклідова дія. Цей формалізм об'єднує квантову теорію поля і статистичну механіку через аналітичне продовження: уявний час τ = it переводить квантові амплітуди в статистичні больцманівські ваги.

Евклідова статистична сума:
  Z = ∫Dφ exp(−S_E[φ]/ħ)
  S_E[φ] = ∫d^d x [½(∂_μ φ)² + V(φ)]   (додатно визначена → коректно поставлена)
  μ = 1..d; сума за евклідовими індексами (без мінус-знаків від метрики Мінковського)

Квантова механіка в уявному часі:
  Континуальний інтеграл Мінковського: ⟨x_f|e^{−iHt/ħ}|x_i⟩ = ∫Dx exp(iS_M/ħ)
  Обертання Віка t → −iτ:
    e^{−iHt/ħ} → e^{−Hτ/ħ}   (больцманівська вага!)
  Термальна статистична сума Z = Tr(e^{−βH}) = ∫Dx [періодична за τ ∈ (0,ħβ)]
  Відповідність: обернена температура β ↔ протяжність евклідового часу ħβ

Гаусів континуальний інтеграл (вільне поле, V = ½m²φ²):
  Z_0 = ∫Dφ exp(−½∫φ(−∇² + m²)φ)
  = (det(−∇² + m²))^{−½}
  = exp(−½ Tr ln(−∇² + m²))
  Точне обчислення: Z_0 = exp(−½ Σ_k ln(k² + m²))
  Вільна енергія: F_0 = ½ Σ_k ln(k² + m²) = ½ (L/2π)^d ∫d^d k ln(k² + m²)

Теорія збурень (φ⁴-теорія):
  S[φ] = ∫d^d x [½(∂φ)² + ½m²φ² + (λ/4!)φ⁴]
  Розкладаємо exp(−Sₙₙ[φ]) за степенями λ → діаграми Фейнмана
  4D φ⁴: перенормовувана; контрчлени δm², δZ, δλ поглинають ультрафіолетові розбіжності
  Верхня критична розмірність d_c = 4 (вище d_c: показники середнього поля точні)
          

3. Ренормалізаційна група

Ренормалізаційна група (РГ) Вілсона — це апарат для розуміння того, як фізичний опис змінюється залежно від масштабу, на якому ми спостерігаємо систему. Ключова ідея полягає в тому, що поблизу критичної точки фізика стає масштабно-інваріантною — кореляційна довжина розходиться, і система виглядає однаково на всіх довжинах. Нерухомі точки потоку РГ відповідають таким масштабно-інваріантним теоріям.

Блок-спінова побудова Каданова (d=2 Ізінг):
  Ділимо ґратку на блоки з L вузлів; замінюємо блок одним ефективним спіном
  Ефективний гамільтоніан H'(σ') на масштабі bL → повторюємо → потік РГ у просторі констант зв'язку

РГ за імпульсними оболонками (Вілсон, 1971):
  Розклад мод: φ(k) = φ_< (|k|<Λ/b) + φ_> (Λ/b<|k|<Λ)
  Крок 1 — інтегруємо швидкі моди φ_>: ∫Dφ_> e^{−S[φ_<,φ_>]}
  Крок 2 — перемасштабування: k → bk, φ_< → b^{d/2−1+η/2} φ  (перемасштабування поля)
  Результат: нова ефективна дія S'[φ'_<] зі зміщеними константами зв'язку

Рівняння потоку РГ (φ⁴-теорія поблизу d=4):
  da/dl = 2a + c₁ λ   (l = ln b)
  dλ/dl = (4−d)λ − c₂ λ²
  Нерухома точка Вілсона-Фішера: λ* = (4−d)/c₂ + O(ε²)  (ε = 4−d)
  d=3: ε=1 → Вілсон-Фішер лежить між гаусовою (λ=0) і нетривіальною

Нерухомі точки й скейлінг:
  Гаусова: a*=0, λ*=0   (вільне поле, показники середнього поля точні для d>4)
  Вілсона-Фішера: керує критичною точкою 3D Ізінга
  У нерухомій точці H*: скейлінгові оператори O_i з розмірностями Δᵢ
    Релевантні: Δᵢ < d → зростають під дією РГ → віддаляються від нерухомої точки
    Нерелевантні: Δᵢ > d → стікають до нуля → «змивають» мікроскопічні деталі → Універсальність
    Маргінальні: Δᵢ = d → потік визначається членами вищого порядку

Оператори в нерухомій точці Вілсона-Фішера 3D Ізінга:
  φ² (деформація температури): релевантна, Δ = 1/ν⁻¹ = 1/0.629 ≈ 1.587
  φ   (деформація поля): релевантна, Δ = 2 − β/ν ≈ 1.518
  Усі Z₂-парні оператори з вищими розмірностями: нерелевантні → універсальність
          

4. Критичні показники та класи універсальності

Універсальність — це емпіричне спостереження того, що системи з різною мікроскопічною структурою демонструють ідентичну степеневу поведінку при наближенні до критичної точки. Набір критичних показників (α, β, γ, δ, ν, η) характеризує клас універсальності, який залежить лише від розмірності простору та симетрії параметра порядку.

Означення (t = (T−T_c)/T_c, h = зовнішнє поле):
  ξ ~ |t|^{−ν}                (кореляційна довжина)
  C_h ~ |t|^{−α}              (питома теплоємність)
  ⟨m⟩ ~ |t|^β   (t < 0)       (параметр порядку)
  χ = ∂m/∂h ~ |t|^{−γ}        (сприйнятливість)
  ⟨m(h)⟩ ~ h^{1/δ} (t = 0)    (рівняння стану)
  G(r) ~ r^{−(d−2+η)} exp(−r/ξ) (кореляційна функція)

Скейлінгові співвідношення (випливають з єдиної розбіжної довжини ξ):
  α + 2β + γ = 2            (Рашбрук, випливає зі скейлінгу)
  γ = ν(2−η)                (Фішер; ν і η незалежні)
  dν = 2−α                  (гіперскейлінг; справедливо для d ≤ d_c)
  δ = (d+2−η)/(d−2+η)      (Відом + Фішер)
  Достатньо лише 2 незалежних показники, щоб визначити всі 6

Значення показників:
  Клас універсальності    d   (ν,    β,   γ,   α,   η  )
  Середнє поле           будь-яке (0.50, 0.50,1.00, 0,   0  )  [d > 4]
  2D Ізінг                2  (1.00, 0.125,1.75,0,  0.25)  [точно]
  3D Ізінг                3  (0.629,0.326,1.237,0.110,0.036) [конформний бутстреп]
  3D Гейзенберг            3  (0.711,0.366,1.397,−0.133,0.035)
  3D XY (λ-точка)          3  (0.671,0.348,1.316,−0.014,0.038)

Приклади еквівалентних критичних систем:
  Клас 3D Ізінга: одновісні магніти, критична точка рідина-газ, бінарні сплави
  Клас 3D XY:    надплинний He⁴ (λ-точка при 2.17 К), надпровідники
  Перколяція:    власний клас; ν=0.876, β=0.417 (3D)

Точний 2D розв'язок (Онсагер, 1944):
  k_B T_c = 2J/ln(1+√2) ≈ 2.269 J
  C ∝ −ln|t| (логарифмічна розбіжність → α = 0 точно)
  ⟨m⟩ = (1 − sinh^{−4}(2βJ))^{1/8} → β = 1/8
          

5. Конформна теорія поля у двох вимірах

У критичній точці симетрія обертань і трансляцій розширюється до повної конформної групи, яка включає локальні перетворення, що зберігають кути. У двох вимірах конформна група нескінченновимірна, що робить 2D КТП майже точно розв'язною теорією. Цю потужність використали Белавін, Полякова та Замолодчиков (БПЗ) у 1984 році, щоб класифікувати 2D критичні моделі за їхнім центральним зарядом c і оператрним вмістом.

Конформні перетворення (у R^d):
  Зберігають кути: g_μν(x) → Ω(x) g_μν(x)
  d ≥ 3: скінченновимірна група SO(d+1,1) з (d+2)(d+1)/2 генераторів
  d = 2: локальні конформні відображення = аналітичні функції z → f(z) на ℂ
         Нескінченновимірна; генератори L_n, n ∈ ℤ

Алгебра Вірасоро (2D КТП):
  [L_m, L_n] = (m−n)L_{m+n} + (c/12) m(m²−1) δ_{m+n,0}
  c = центральний заряд: характеризує КТП
  L_{−1}, L_0, L_1: породжують глобальну підгрупу SL(2,ℂ)
  L_0: генератор дилатацій → власне значення h = конформна вага оператора
  Повний старший стан Вірасоро |h⟩: L_0|h⟩ = h|h⟩, L_n|h⟩ = 0 (n > 0)

Первинні оператори та ОПР:
  T(z)O(w,w̄) = (h/(z−w)²)O(w,w̄) + (1/(z−w))∂O(w,w̄) + регулярні члени
  Операторний добутковий розклад (ОПР):
    Oᵢ(z)Oⱼ(0) = Σ_k C_{ij}^k |z|^{2(Δ_k−Δᵢ−Δⱼ)} O_k(0)
    C_{ij}^k = коефіцієнти ОПР (визначають усі n-точкові функції)

Мінімальні моделі M(p,q) — унітарні для p>q>1, НСД(p,q)=1:
  c = 1 − 6(p−q)²/(pq)
  Розмірності первинних операторів:
    h_{r,s} = [(pr−qs)² − (p−q)²] / (4pq)    (1 ≤ r ≤ q−1, 1 ≤ s ≤ p−1)

Фізично реалізовані мінімальні моделі:
  M(3,4): c=1/2, модель Ізінга (h=0, 1/16, 1/2 для операторів I, σ, ε)
  M(4,5): c=7/10, трикритичний Ізінг (намагніченість, трикритичність)
  M(5,6): c=6/7, трикритична 3-станова модель Поттса

Відповідність стан-оператор:
  Кожен оператор O у КТП відповідає стану |O⟩ у гільбертовому просторі на S^1
  Статистична сума на торі: Z = Tr q^{L_0−c/24} q̄^{L̄_0−c/24}  (q = e^{2πiτ})
  Модулярна інваріантність → обмеження на спектр (формула Верлінде для злиття)
          

6. Зв'язки з машинним навчанням

За останнє десятиліття дослідники виявили, що багато архітектур глибокого навчання за своєю математичною суттю є прикладами систем статистичної механіки. Машина Больцмана — це модель Ізінга при температурі T. Дифузійні генеративні моделі — дискретні стохастичні рівняння Ланжевена, що запускаються у зворотному напрямку. Моделі на основі скору розв'язують обернене в часі СДР Андерсона. Ці відповідності — не просто естетика; вони дають практичні алгоритми через фізично-обумовлену інтуїцію, як-от контрастивна дивергенція, відпал і зіставлення скору.

Машина Больцмана:
  Енергія: E(v, h) = −Σ_{ij} W_{ij} vᵢhⱼ − Σᵢ bᵢvᵢ − Σⱼ cⱼhⱼ
  Статистична сума: Z = Σ_{v,h} exp(−E/T)   → точно Ізінг зі схованими вузлами
  Мета навчання: максимізувати log P(v) = log Σ_h exp(−E/T) − log Z
  ∇_θ log P(v) = −⟨∂E/∂θ⟩_{дані} + ⟨∂E/∂θ⟩_{модель}
  Контрастивна дивергенція (Хінтон, 2002): наближення очікування моделі через k кроків Гіббса

Обмежена машина Больцмана (ОМБ):
  Немає зв'язків v-v чи h-h → трактовна:
    P(v) = Σ_h e^{−E(v,h)}/Z = ∏ⱼ 2cosh(cⱼ + Σᵢ W_{ij}vᵢ) × e^{bᵢvᵢ} / Z_v
  Скриті вузли h усереднюються аналітично
  Зв'язок із МГК: у лінійній межі W^T W → сингулярний розклад

Дифузійні моделі на основі скору (Сонг і Ермон, 2019):
  Прямий процес: q(xₜ|x_{t-1}) = N(xₜ; √(1−β_t)x_{t-1}, β_t I)  [додавання шуму]
  Зворотний процес: p_θ(x_{t-1}|xₜ) = N(x_{t-1}; μ_θ(xₜ,t), Σₜ)  [нейронний шумозаглушувач]
  Мережа скору: s_θ(xₜ, t) ≈ ∇_{xₜ} log q(xₜ)     [скор Стейна]
  Фізика: прямий процес = Орнштейн-Уленбек; зворотний = обернене в часі СДР (Андерсон, 1982)
  Зв'язок із МК Ланжевена: dx = −∇V(x)dt + √(2/β)dW   (цільовий розподіл ∝ e^{−βV})

Нейронне тангенційне ядро (НТЯ) і гаусові процеси:
  Широка нейронна мережа (ширина → ∞): ядро K_{NTK}(x,x') = ∇θ f(x)·∇θ f(x')
  У цій межі: мережа = гаусів процес з ядром K_NTK
  Зв'язок зі статфізикою: теорія середнього поля для мереж нескінченної ширини
  Погляд з боку РГ: глибина мережі = потік РГ; активації схованого шару = блок-спіни
    (Мехта і Шваб, 2014: глибоке навчання ↔ варіаційна ренормалізаційна група)

Реплічний метод і узагальнення:
  Теорія спінового скла (Парізі, РСБ): реплічна статистична сума
    Z^n = Σ_σ exp(−βH(σ^1)−...−βH(σ^n));  тоді ∂Z^n/∂n|_{n→0} = ⟨log Z⟩
  Застосування до навчання перцептрона: теорія Гарднер-Дерріди 1988
  Сучасне відродження: аналіз переходу SAT-UNSAT у ландшафті втрат нейронної мережі,
    теорія випадкових матриць для спектрів сингулярних значень матриць ваг
          

Спробуйте ці симуляції