📊 Wizualizator PCA i SVD — interaktywna analiza głównych składowych

Generuje chmurę punktów 2D i stosuje do niej analizę głównych składowych. Osie głównych składowych (PC1 i PC2) są rysowane przez średnią danych, skalowane odchyleniem standardowym, a wykres słupkowy pokazuje, jaką część całkowitej wariancji wyjaśnia każda składowa.

Strona centruje dane, tworzy macierz kowariancji 2×2 C = XᵀX/(n−1) i wyznacza jej wartości własne za pomocą kwadratowego wzoru opartego na śladzie i wyznaczniku. Każdy wektor własny jest następnie wyznaczany w postaci zamkniętej, więc PC1 i PC2 są dokładne, a nie estymowane iteracyjnie.

Liczba punktów N określa, ile próbek jest rysowanych; σₓ i σᵧ ustawiają rozrzut wzdłuż dwóch bazowych osi; obrót θ przechyla ten układ, wprowadzając korelację między x i y; a szum dodaje dodatkowe izotropowe drgania gaussowskie. Zmiana dowolnego suwaka regeneruje chmurę punktów i przelicza PCA.

Współczynnik wyjaśnionej wariancji dla składowej to jej wartość własna podzielona przez sumę wszystkich wartości własnych, EVRₖ = λₖ/Σλⱼ. Słupek PC1 pokazuje, jaką część całkowitego rozrzutu obejmuje najdłuższa oś. Dla chmury o kształcie zbliżonym do koła oba słupki są bliskie 50%; dla mocno wydłużonej elipsy PC1 zbliża się do 100%.

Przerywana elipsa to kontur oddalony o dwa odchylenia standardowe od średniej wzdłuż każdej głównej osi. Jej półosie wynoszą 2√λ₁ i 2√λ₂, a sama elipsa jest obrócona tak, by pokrywać się z wektorami własnymi. Dla danych gaussowskich obejmuje ona około 86% punktów, dając wizualne podsumowanie kowariancji.

Pokazany wskaźnik uwarunkowania to stosunek dwóch wartości własnych, λ₁/λ₂. Duża wartość oznacza, że dane są mocno rozciągnięte, a macierz kowariancji jest bliska osobliwej, więc kierunek drugorzędny niesie niewiele informacji. Gdy PC2 zapada się niemal do zera, odczyt pokazuje nieskończoność.

PCA dla X jest równoważna rozkładowi według wartości osobliwych (SVD) macierzy X/√(n−1). Główne składowe to prawe wektory osobliwe, a wartości osobliwe spełniają σₖ = √((n−1)λₖ). Obliczanie SVD bezpośrednio na danych jest numerycznie bardziej stabilne niż rozkład macierzy kowariancji na wartości własne, choć oba podejścia dają te same osie.

Tak. Kliknij w dowolnym miejscu na płótnie, aby dodać pojedynczy punkt, naciśnij „Regeneruj”, aby narysować nową losową chmurę na podstawie bieżących ustawień suwaków, lub użyj „Wyczyść”, aby opróżnić płótno. PCA jest przeliczana po każdej zmianie, więc możesz zbudować własny rozkład i od razu zobaczyć jego główne osie.

Dla symetrycznej macierzy 2×2 jest dokładne. Wartości własne otrzymuje się ze wzoru λ = tr/2 ± √(tr²/4 − det), który jest analitycznym rozwiązaniem wielomianu charakterystycznego. Obie wartości własne są ograniczone od dołu zerem, co odpowiada faktowi, że rzeczywista macierz kowariancji jest dodatnio półokreślona.

Włączenie rzutowań rysuje linię od każdego punktu do jego podstawy na osi PC1, ilustrując redukcję wymiarowości. Zachowanie tylko współrzędnej PC1 odrzuca informację PC2; kwadrat długości tych odrzuconych odcinków równa się błędowi rekonstrukcji, który PCA minimalizuje dla dowolnie wybranej liczby składowych.

PCA i SVD napędzają kompresję obrazów, rozpoznawanie twarzy poprzez „własne twarze” (eigenfaces), analizę struktury populacji w genomice, modele czynnikowe w finansach oraz redukcję szumu przed klasteryzacją lub regresją. W mechanice kwantowej blisko spokrewniony rozkład Schmidta diagonalizuje zredukowaną macierz gęstości układu dwuczęściowego.