PL 
EnglishDomyślny
Українська🗺️ Wizualizacja t-SNE
Zobacz, jak t-SNE rzutuje wielowymiarowe skupienia na 2D: gaussowskie podobieństwa pᵢⱼ w wysokim wymiarze, rozkład t-Studenta qᵢⱼ w 2D, spadek gradientu po KL(P‖Q). Dobieraj perpleksję i tempo uczenia i patrz, jak klastry się rozdzielają.
O tej symulacji
To autentyczna, działająca na żywo w Twojej przeglądarce implementacja t-SNE w małej skali: dla każdego punktu metodą wyszukiwania binarnego dobierana jest indywidualna gaussowska szerokość pasma β, tak aby rozkład warunkowy p_j|i odpowiadał wybranej wartości Perplexity, następnie te wartości są symetryzowane do wspólnych prawdopodobieństw P i porównywane z rozkładem t-Studenta o grubych ogonach q_ij ∝ 1/(1+‖yᵢ−yⱼ‖²) w osadzeniu 2D. Spadek gradientu z pędem (momentum) minimalizuje dywergencję KL, KL(P‖Q), z wczesną fazą „przesady” (pierwsze ok. 100 iteracji), która sztucznie zawyża P, by wymusić powstanie ciasnych, dobrze rozdzielonych skupień, zanim algorytm dostroi rzeczywiste odległości względne.
🔬 Co pokazuje
Jak wielowymiarowy zbiór danych (tutaj od 5 do 8 wymiarów) można skompresować do dwuwymiarowego wykresu punktowego, który zachowuje lokalną strukturę sąsiedztwa — punkty, które były blisko siebie w oryginalnej przestrzeni, pozostają blisko siebie w osadzeniu, mimo że dokładne odległości nie są zachowane.
🎮 Jak korzystać
Wybierz zbiór danych Dataset (Blobs, Two moons, Concentric, Random), a następnie dostrój Perplexity (efektywny rozmiar sąsiedztwa), Learning rate i liczbę punktów Points count; obserwuj, jak zmienia się osadzenie 2D i krzywa dywergencji KL na żywo, użyj Pause/Resume, aby zatrzymać optymalizację, oraz Reset/Re-init, aby zacząć od nowego losowego osadzenia z tymi samymi danymi.
💡 Czy wiesz, że?
t-SNE celowo używa dla podobieństw w niskim wymiarze rozkładu t-Studenta o grubych ogonach (zamiast rozkładu Gaussa), aby rozwiązać „problem tłoku” — daje to umiarkowanie odległym punktom więcej miejsca na rozejście się w 2D, niż pozwoliłby na to rozkład Gaussa, dlatego wykresy t-SNE zwykle pokazują wyraźnie rozdzielone, dobrze zaokrąglone skupienia.
Najczęściej zadawane pytania
Co dokładnie kontroluje parametr Perplexity?
Perplexity to w przybliżeniu efektywna liczba najbliższych sąsiadów, jaką bierze pod uwagę każdy punkt podczas dobierania jego gaussowskiej szerokości pasma; niskie wartości kładą nacisk na bardzo lokalną strukturę, a wysokie — na strukturę bardziej globalną, a algorytm metodą wyszukiwania binarnego dobiera indywidualną szerokość pasma dla każdego punktu, tak aby osiągnąć zadaną wartość.
Dlaczego osadzenie zaczyna się skompresowane i stopniowo się rozszerza?
W fazie „przesady” (mniej więcej pierwsze 100 iteracji) wielowymiarowe prawdopodobieństwa P są sztucznie zawyżane, co najpierw ściąga podobne punkty w niezwykle ciasne, dobrze rozdzielone skupiska, ułatwiając odrębnym klastrom znalezienie osobnych obszarów, zanim algorytm złagodzi to zawyżenie i dostroi rzeczywiste odległości względne.
Co mówi krzywa dywergencji KL?
Mierzy ona, jak dobrze rozkład podobieństw Q w osadzeniu 2D odpowiada oryginalnemu, wielowymiarowemu rozkładowi podobieństw P; systematycznie malejąca dywergencja KL oznacza, że osadzenie coraz lepiej zachowuje oryginalną strukturę sąsiedztwa, a krzywa powinna się spłaszczyć w miarę zbieżności optymalizacji.
Czy można porównywać odległości między klastrami na wykresie t-SNE?
Nie — t-SNE ma na celu zachowanie lokalnych sąsiedztw, a nie globalnych odległości czy gęstości, więc rozmiar klastrów i odstępy między nimi na wykresie 2D niekoniecznie odzwierciedlają, jak daleko od siebie lub jak gęste są te grupy w oryginalnej wielowymiarowej przestrzeni.
Dlaczego t-SNE używa rozkładu t-Studenta zamiast rozkładu Gaussa w 2D?
Grube ogony rozkładu t-Studenta pozwalają, by umiarkowanie niepodobne punkty znalazły się w mapie niskowymiarowej dalej od siebie, niż pozwoliłby na to rozkład Gaussa, co przeciwdziała „problemowi tłoku”, w którym wiele punktów rywalizujących o ograniczoną przestrzeń niskowymiarową zostałoby w innym wypadku nienaturalnie ściśniętych blisko siebie.