Strona główna Statystyka Regresja liniowa — metoda najmniejszych kwadratów (OLS)

📈 Regresja liniowa — metoda najmniejszych kwadratów (OLS)

Przeciągaj punkty danych, a metoda najmniejszych kwadratów dopasuje prostą na nowo, z resztami, nachyleniem, wyrazem wolnym, r Pearsona i R-kwadrat w czasie rzeczywistym.

Statystyka2DŁatwy60 FPS
linear-regression ↗ Otwórz osobno
Interfejs samej symulacji jest w języku angielskim.

O regresji liniowej — metoda najmniejszych kwadratów (OLS)

Ta symulacja dopasowuje prostą do chmury punktów danych za pomocą metody najmniejszych kwadratów (OLS). Klikasz na płótnie, aby dodać punkty, a prosta aktualizuje się natychmiast, minimalizując sumę kwadratów pionowych reszt. Nachylenie obliczane jest jako m = Σ(xᵢ−x̄)(yᵢ−ȳ) / Σ(xᵢ−x̄)², a wyraz wolny jako b = ȳ − m·x̄, co daje jedyną najlepiej dopasowaną prostą dla dowolnego zbioru co najmniej dwóch punktów.

Przyciski trybu pozwalają dodawać, przeciągać lub usuwać punkty, a przełącznik Show Residuals (Pokaż reszty) wyświetla przerywane pionowe linie, które OLS minimalizuje. Gotowe zestawy danych pokazują idealne dopasowania liniowe, wpływ pojedynczej wartości odstającej, brak korelacji oraz ograniczenia dopasowania prostej do danych kwadratowych. Statystyki na żywo pokazują nachylenie, wyraz wolny, R², r Pearsona, liczbę punktów i SSE. Regresja tego typu leży u podstaw prognozowania, analizy trendów i uczenia maszynowego.

Najczęściej zadawane pytania

Czym jest regresja liniowa?

Regresja liniowa znajduje prostą y = m·x + b, która najlepiej opisuje zależność między dwiema zmiennymi. Ta strona wykorzystuje zwykłą metodę najmniejszych kwadratów (OLS), która wybiera nachylenie m i wyraz wolny b minimalizujące sumę kwadratów pionowych odległości między każdym punktem danych a prostą.

Jak działa zwykła metoda najmniejszych kwadratów?

OLS mierzy pionową resztę dla każdego punktu, podnosi ją do kwadratu i sumuje kwadraty. Następnie wybiera tę jedną prostą, dla której ta suma (SSE) jest najmniejsza możliwa. Minimum ma rozwiązanie w postaci zamkniętej, więc prosta jest obliczana bezpośrednio, a nie metodą prób i błędów.

Co robią elementy sterujące na tej stronie?

Add Points, Drag i Delete zmieniają sposób, w jaki kliknięcia wpływają na wykres punktowy; Show Residuals przełącza przerywane pionowe linie błędu; Undo cofa ostatnią zmianę, a Clear All czyści płótno. Przyciski gotowych zestawów wczytują przykładowe dane, a karty statystyk aktualizują się na żywo, pokazując nachylenie, wyraz wolny, R², r Pearsona, n i SSE.

Jakie równanie służy do obliczenia prostej?

Nachylenie wynosi m = Σ(xᵢ−x̄)(yᵢ−ȳ) / Σ(xᵢ−x̄)², czyli kowariancja x i y podzielona przez wariancję x. Wyraz wolny wynika wtedy z b = ȳ − m·x̄, co wymusza przejście prostej przez punkt średni (x̄, ȳ).

Co oznacza R²?

R² to współczynnik determinacji — ułamek całkowitej wariancji y wyjaśnionej przez prostą: R² = 1 − SSE/SST. Wartość 1 oznacza idealne dopasowanie bez błędu resztowego, a 0 oznacza, że prosta nie wyjaśnia niczego ponad średnią y.

Jak r Pearsona odnosi się do R²?

r Pearsona mierzy siłę i kierunek zależności liniowej, przyjmując wartości od −1 do +1. Dla prostej regresji liniowej jest ono równe pierwiastkowi z R² ze znakiem, więc symulacja przyjmuje znak z nachylenia: r = sign(m)·√R².

Dlaczego pojedyncza wartość odstająca tak bardzo zmienia prostą?

Ponieważ OLS podnosi każdą resztę do kwadratu, punkty odległe od prostej wnoszą nieproporcjonalnie duży wkład do całkowitego błędu. Pojedyncza odległa wartość odstająca może wyraźnie przesunąć nachylenie i wyraz wolny, co pokazuje zestaw Outlier Effect. Ta wrażliwość jest powodem, dla którego metoda najmniejszych kwadratów nie jest odporna na wartości ekstremalne.

Co dzieje się przy zestawie kwadratowym?

Zestaw Quadratic generuje zakrzywione dane, których żadna prosta nie może dobrze odwzorować. OLS nadal zwraca najlepsze dopasowanie liniowe, ale reszty pozostają duże, a R² spada, co pokazuje, że regresja liniowa uchwyca jedynie trendy liniowe i systematycznie pomija krzywiznę danych.

Czy symulacja jest matematycznie dokładna?

Tak. Wykorzystuje dokładne wzory OLS w postaci zamkniętej dla nachylenia i wyrazu wolnego oraz oblicza SSE, SST, R² i r bezpośrednio z punktów. Jedynymi praktycznymi ograniczeniami są zaokrąglenia zmiennoprzecinkowe oraz to, że wartości są ograniczone do widocznego zakresu wykresu od 0 do 10.

Gdzie regresja liniowa jest wykorzystywana w praktyce?

Jest jednym z najczęściej stosowanych narzędzi statystycznych, wykorzystywanym w ekonomii, biologii, inżynierii i finansach do szacowania trendów i prognozowania. Służy również jako podstawowy model w uczeniu maszynowym, gdzie ta sama idea najmniejszych kwadratów uogólnia się na wiele zmiennych predykcyjnych.

⚙ Pod maską

Przeciągaj punkty danych, a metoda najmniejszych kwadratów dopasuje prostą na nowo — reszty, nachylenie, wyraz wolny, r Pearsona i R-kwadrat aktualizują się na bieżąco.

linear regressionOLSordinary least squaresscatter plotR squaredresidualsPearson rstatisticsmachine learning

3D · Three.js / WebGL renderer · 60 FPS target · runs fully client-side, no install

Podobne symulacje