Dynamika Langevina i Modeli Generatywnych oparte na Skorej

Funkcja punktująca: Kierunek Wyostrzający Najprawdopodobniejsze Dane

Każda zestawienie danych, czyli zbiór zdjęć kotów lub pomiarów kształtów protein, można pomyśleć jako próby wyciągnięte ze skrypcji prawdopodobieństwa podstawowej p(x). Mimo że rzadko wiemy p(x) jasno, możemy nadal zadawać bardziej lokalne pytanie: jeśli przesunę punkt x nieco, w jakim kierunku wzrost prawdopodobieństwa jest najpręcej? Odpowiedzią jest funkcja punktująca, zdefiniowana jako s(x) = ∇x log p(x), gradient log-densywności względem danych samego (a nie względem jakichkolwiek parametrów). Geometrycznie, funkcja punktująca to pole wektorowe rozłożone na całą przestrzeń danych: w każdym punkcie x pokazuje ona kierunek najstejeeperce wzrostu prawdopodobieństwa, a jej wielkość mówi o tym, jak szybko się tam zmienia. W pobliżu modów rozkładu wektory funkcji punktującej zbiegają się wewnątrz z wszystkich stron, jak woda spływa po górę do basenu, podczas gdy w gęstości niskoprawdopodobnych regionach między grupami pole funkcji punktującej przeprowadza punkty silnie ku najbliższemu grupecznemu. Praca z log-densywnością zamiast samej densywności nie jest tylko wygodą — również usuwa stałą normalizującą Z, która sprawia, że większość rzeczywistych densywności p(x) = exp(-E(x))/Z jest niemożliwa do obliczenia dokładnie, ponieważ log p(x) = -E(x) - log Z i gradient względem x całkowicie zabiłby wyraz stały.

Dinamika Langevina: Zwiększenie Gradientu Plus Dosisz Losowości

Jeśli kierunek wyników zawsze wskazuje na wyższą prawdopodobieństwo, dlaczego nie podążać po nim, jak to robiłoby proste zwiększenie gradientu? Ponieważ taka metoda spowodowałaby, że każdy punkt początkowy skupiłby się na jednym najwyższym wierzchołku (trymie) rozkładu, zniszczyjąc wszystką różnorodność, która sprawia, że jest to rozkład. Dinamika Langevina naprawia to dodając do każdego kroku przystosowaną do skali losowość, co daje wzór aktualizacji xt+1 = xt + (ε/2)∇x log p(xt) + √ε · zt, gdzie ε jest małym rozmiarem kroku a zt to nowa losowa wartość z normalnego rozkładu Gaussa, zt ~ N(0, I). Pierwszy wyraz to zwykła przemieszczanie się w kierunku regionów o wyższym prawdopodobieństwie pod kierownictwem wyników; drugi wyraz to drgań typu termicznych, ciągle rzucający punkt na boki. Jest to dokładnie dyskretna forma równania różniczkowego stochastycznego używanego pierwotnie przez Paula Langevina w 1908 roku do opisania grzywniaków przewracałych przez cząsteczki wody (ruch Browna) oraz narażonych na zewnetrzne siły. Wspaniałym matematycznym faktem, gwarantowanym równaniem Fokker-Plancka, jest to, że gdy ε → 0 i liczba kroków rośnie do nieskończoności, rozkład xt konverguje dokładnie do p(x) samego — nie do trymu, ale do pełnej, poprawnie wagiłej formy rozkładu, z gęstymi regionami odwiedzonymi proporcjonalnie często i rzadko odwiedzanymi regionami rzadko. Losowość nie jest błąd, który toleruje się dla eksploracji; to niezbędny element matematyczny przekształcający optymalizator w zbiórnik.

Nauczenie się melodiów bez znanego normalizatora

Dinamika Langevina wymaga obliczenia score s(x) = ∇x log p(x) na każdym punkcie, ale dla rzeczywistych danych, takich jak obrazy, prawdopodobieństwo p(x) nigdy nie jest dostępne w formie zamkniętej. Elegantna workaround polega na dopasowywaniu: trenujemy sieć neuronową sθ(x), aby bezpośrednio aproksymować pole score, bez kiedykolwiek szacowania p(x) ani jej stałą normalizacyjną Z. Naturalny cel minimizacji oczekiwanej wartości kwadratowej błędu Ep(x)[||sθ(x) - ∇x log p(x)||²] jest nieprzydatny, ponieważ nadal odnosi się do niewiadomego ∇x log p(x). Wynik Hyvarinena pokazuje, że ten cel jest równoważny, z dokładnością do stałą niezależną od θ, do Ep(x)[tr(∇xsθ(x)) + ½||sθ(x)||²], który zawiera tylko ślad jacobiego sieci i jej normę, obie obliczalne na podstawie próbek. W praktyce, współczesne systemy preferują jeszcze prostszą wersję nazywaną dopasowywaniem score do usuwania szumu: zamiast zawsze czystego punktu danych x, dodajemy do niego szum gaussowski otrzymując x̃ = x + σz, i trenujemy sieć, aby przewidzieć sθ(x̃) ≈ -z/σ, co można pokazać jako prawdziwe score rozkładu zasukanego. To ustawia estymację score jako zwykły problem usuwania szumu rozwiązany przez prostą regresję, unikając całkowicie normalizatora i sprawiając, że trening na skalę masowej jest banalny.

Wielokrotna Skala Ruchu Losowego: Matematyczna Podstawa Modeli Rozprzestrzeniania

Jednorodny poziom szumu dla dynamicznych ruchów Langevina napotyka trudności w wysokiej wymiarowości: rzeczywiste dane, takie jak obrazy, zajmują cienką manifoldę w ogromnym przestrzeni pikseli, co oznacza, że prawdziwa gęstość danych jest bliska zera w większości miejsc. W związku z tym szacunek skóra jest słabe i bardzo szumowy daleko od danych. Rozwiązanie wprowadzone przez Songa i Ermona polega na treningu sieci skórowych po pełnej sekwencji skali szumu σ1 > σ2 > ... > σL, z bardzo rozmytego i łatwego do oceny do prawie czystego i precyzyjnego. Następnie próby prowadzone są za pomocą dynamicznych ruchów Langevina anelizowanych: od pustego szumu, wykonanie kilku kroków dynamicznego ruchu Langevina na największej skali σ1 do czynnej i pewnej postępujemy przez przestrzeń rozmytą, a następnie anelizujemy do σ2, potem σ3 itd. Każda faza ulepszana jest szczegółami, podczas gdy wcześniejsze fazowe już umieszcza próbki w przybliżonym sąsiedztwie. Ta schemat anelizowania matematycznie odpowiada temu samemu pojęciu, które leży pod tzw. modelami probabilistycznymi rozprzestrzeniania się zdezynszerowanych (DDPM): proces przódowy stopniowo dodaje szum Gaussa do danych przez wiele kroków czasowych aż staje się nieodróżnialny od pustego szumu, a proces odwrotny uszczególnia ten szum stopniowo. Oba formułowania zbiegają się w tym samym obiekcie ciągłotemporowym: równaniu różniczkowemu stochastycznemu przewodnictwa, xt+1 = xt + (εt/2)∇x log pt(xt) + √εt · zt, wykonanym od szumu do danych na planie zmniejszających się poziomów szumu σt. Każda współczesna model rozprzestrzeniania, generująca obrazy, dźwięk lub kształty 3D, jest w swojej matematycznej jądrze dokładnie to: estymator skórowy neuronowy połączony z krokiem dynamicznego ruchu Langevina anelizowanym.

Dlaczego szum pomaga zamiast szkodzić

Może wydawać się kontrintuatywnym, że wprowadzanie losowości do wyszukiwania w celu jego uszkodzenia sprawia, że jest lepszy niż gorszy, ale szum rozwiązuje jednocześnie dwa różne problemy. Po pierwsze, pozwala on na reprezentację całościowej dystrybucji zamiast spadnięcia do estymaty punktowej: bez terminu √ε · zt każda trasa rozpoczęta blisko tej samej basenu atrakcji konverguje do jednego modułu tego basenu, a różnorodność wyników — różnych twarzy, różnych kotów, różnych prawdopodobnych uzupełnień — znika. Po drugie, w warunkach wieloskalowych, wprowadzanie szumu podczas treningu (jak w denoising score matching) zmusza sieć do nauczenia się pola wyników gładkiego i dobrze zachowanego nawet w regionach, gdzie rzeczywiste dane są rzadkie, ponieważ szumowe wersje punktów danych rozszerzają się, aby pokryć przestrzeń, którą czyste dane zostawiają puste. To dokładnie dlaczego sampler oparty na zasadzie Langevina może zacząć od całkowicie losowego obrazu, przemierzać początkowo nieinformacyjne pole wyników i nadal wiarygodnie docierać do ostrego, spójnego próbkowania: harmonogram odtwarzania gwarantuje, że istnieje użyteczny sygnał wynikowy na każdym etapie podróży, od najbardziej szumowej poziomu do najmniejszego detalizacji.

Często zadawane pytania