🧠 Gaz neuronowy
Zobacz, jak sieć typu neural gas dopasowuje się do topologii danych — uczenie konkurencyjne z rankingiem sąsiedztwa.
O tej symulacji
Ta symulacja trenuje na żywo w Twojej przeglądarce dwa klasyczne algorytmy nienadzorowanego uczenia konkurencyjnego — mapę samoorganizującą się (SOM) oraz gaz neuronowy. Siatka lub zbiór węzłów jest przyciągany do losowo próbkowanych punktów z wybranego rozkładu danych, stopniowo przekształcając się, aż jego węzły pokryją rozmaitość, na której faktycznie leżą dane.
Przełączaj się między zakładkami SOM i Gaz neuronowy, a następnie wybierz preset rozkładu danych — jednorodny kwadrat, pierścień, dwie gaussowskie chmury lub półksiężyc — aby zobaczyć, jak różnie dopasowuje się każdy algorytm. Dostosuj współczynnik uczenia η i sąsiedztwo σ (oba automatycznie maleją w trakcie treningu) lub λ dla gazu neuronowego, zmień rozmiar siatki, aby uzyskać więcej lub mniej węzłów, i naciśnij Uruchom, aby animować do 200 epok, podczas gdy odczyt błędu kwantyzacji na żywo śledzi, jak dobrze węzły dopasowują się do danych.
Najczęściej zadawane pytania
Jaka jest różnica między mapą samoorganizującą się (SOM) a gazem neuronowym?
Mapa samoorganizująca się rozmieszcza swoje węzły na stałej siatce (tu kwadratowej, do 16×16) i aktualizuje sąsiadów na podstawie ich odległości siatkowej od zwycięskiego węzła, co zmusza mapę do zachowania topologii siatki 2D nawet podczas dopasowywania się do danych. Gaz neuronowy nie ma żadnej siatki: każdy węzeł jest po prostu rangowany według odległości od bieżącego punktu wejściowego, a siła aktualizacji maleje wraz z rangą, a nie pozycją przestrzenną, co pozwala węzłom ułożyć się w dowolny układ najlepiej reprezentujący dane.
Jak reguła uczenia SOM faktycznie aktualizuje węzły?
Dla każdego pobranego punktu danych symulacja najpierw znajduje „najlepiej dopasowaną jednostkę” (BMU) — węzeł siatki najbliższy temu punktowi — a następnie aktualizuje każdy węzeł i według wzoru Δwᵢ = η·h(d)·(x−wᵢ), gdzie h(d) = e^(−d²/2σ²), a d to odległość siatkowa od węzła i do BMU. Węzły blisko BMU przesuwają się niemal tyle samo co sam BMU, podczas gdy odległe węzły ledwie się poruszają, co pozwala całej siatce płynnie zaginać się, śledząc rozmaitość danych.
Dlaczego współczynnik uczenia i promień sąsiedztwa maleją z czasem?
Zarówno η, jak i σ (lub λ dla gazu neuronowego) są mnożone przez wykładniczy współczynnik zaniku e^(−t·k) w miarę zbliżania się epok treningu do limitu 200 epok, więc wczesne aktualizacje są duże i obejmują szerokie sąsiedztwo (zgrubna, globalna organizacja), a późniejsze są małe i lokalne (dostrajanie). Bez tego harmonogramu wygaszania mapa albo nigdy by się nie ustabilizowała, albo nie rozwinęłaby się poprawnie ze swojego losowego stanu początkowego.
Co mierzy błąd kwantyzacji i dlaczego ma znaczenie?
Błąd kwantyzacji to średnia odległość próbki punktów danych od ich najbliższego węzła, obliczana tu dla 100 punktów co 5 epok; niższa wartość oznacza, że węzły znajdują się bliżej miejsca, w którym faktycznie znajdują się dane, więc mapa dokładniej reprezentuje rozkład. Obserwowanie spadku tej liczby podczas treningu to bezpośredni, liczbowy sposób na potwierdzenie wizualnego wrażenia, że siatka zbiega się do danych.
Dlaczego rozkład pierścienia lub półksiężyca wydaje się trudniejszy do dopasowania dla siatki SOM niż jednorodny kwadrat?
Stałe połączenia sąsiadów kwadratowej siatki naturalnie pasują do wypukłego, wypełnionego obszaru, takiego jak preset jednorodnego kwadratu, ale rozkłady takie jak pierścień czy półksiężyc są zakrzywione i puste w środku, zmuszając siatkę do skręcania się, zaginania na siebie lub pozostawiania węzłów uwięzionych w pustej przestrzeni między ramionami kształtu. Gaz neuronowy, pozbawiony sztywnej topologii, zazwyczaj lepiej śledzi te niewygodne kształty, ponieważ jego węzły nie są zmuszone do utrzymywania połączeń ze stałymi sąsiadami.