Nawigacja rozkładu normalnego i twierdzenie o centralnej granicy

Shape of the normal distribution

Rozkład normalny (także nazywany rozkładem Gaussa) jest ciągłą, symetrycznym, kształtowym rozkładem prawdopodobieństwa opisanym tylko dwiema parametrami: średnimi wartością μ, która ustawia położenie maksimum, i odchyleniem standardowym σ, który określa jak szeroki jest rozkład. Funkcja gęstości prawdopodobieństwa ma postać

f(x) = 1 / (σ√(2π)) · e−(x−μ)²/(2σ²)

Krzywa osiąga maksimum dla x = μ, maleje symetrycznie w obu kierunkach i nigdy nie docina się do zera, choć staje się niewielkim wartością po kilku odchyleniach standardowych. Pole pod całym krzywą jest dokładnie równe 1, co jest zgodne z drugim aksjomatem Kolmogorowa, a pole pod dowolną częścią krzywej daje prawdopodobieństwo, że wartość spadnie w danym zakresie.

Zasada 68-95-99,7%

Dla dowolnego rozkładu normalnego, niezależnie od jego konkretnych wartości μ i σ, proporcja wartości leżących w danym zakresie standardowych odchylen od średniej jest stała. Oszacowana 68,27% wartości znajduje się w granicach μ ± 1σ, około 95,45% w granicach μ ± 2σ, a około 99,73% w granicach μ ± 3σ. Ta zasada jest często skrócona do „zasady 68-95-99,7%” i stanowi jedną z najbardziej przydatnych sztuczek mentalnych w statystyce stosowanej: pozwala ocenić, jak niezwykła jest obserwacja, tylko znanie, ile standardowych odchyleń odległa jest od średniej, bez wykorzystania formuły. Uwaga: popularny próg 95% weryfikacji konfidencji ±1,96σ jest niezawodnie lekko szerszy niż zaokrąglona „dwusigowa” zasada, ponieważ wartość 1,96 dokładnie odzwierciedla 95,00%, a nie 95,45% obszaru.

Zasada twierdzenia o centralnej granicy

Twierdzenie o centralnej granicy (TCL) jest niemalże jednym z najważniejszych wyników w statystyce, ponieważ wyjaśnia, dlaczego rozkład normalny pojawia się tak często, nawet gdy wartości pomiarowe nie są w ogóle rozłożone normalnie. W najpopularniejszej formie: jeśli X1, X2, ..., Xn są niezależnymi, identycznie rozłożonymi zmiennymi losowymi o skończonej średniej μ i skończonym wariancie σ², to gdy n rośnie do dużych wartości, rozkład średniej próbowej X̄ = (X1 + X2 + ... + Xn) / n zbliża się do normalnego z średnią μ i wariancją σ²/n — to jest, X̄ przybliżenie ∼ N(μ, σ²/n) — niezależnie od kształtu pierwotnego rozkładu, z którego pochodzą Xi.

Ostatnia fraza jest całe zdanie. Dane osobowe mogłyby być wylosowane z rozkładu, który jest bardzo asymetryczny, bimodalny, ograniczony lub inaczej niczym nie przypominający krzywej dziedziny — dochody w populacji, czekanie przy przystanku autobusowym, wynik pojedynczego rzutu kostką — i TCL nadal gwarantuje, że średnia wielu niezależnych losowań z tego rozkładu ustaje w przybliżonym do normalnego kształcie, gdy rozmiar próby rośnie.

Obserwacja zbieżności: co się zmienia wraz ze wzrostem n

Histogram wielokrotnie powtarzanych średnich wartości prób, stworzony przez symulację, sprawia, że twierdzenie o centralnej granicy jest konkretnie zrozumiałe, a nie abstrakcyjne. Zacznijmy od populacji silnie asymetrycznej — na przykład wartościami wylosowanymi ze rozkładu eksponencjalnego, który ma ostro zarysowany szczyt blisko zera i długi ogon prawy. Wybierz próbkę o rozmiarze n z tej populacji, oblicz jej średnią, a następnie powtórz ten proces tysiące razy, rysując histogram wszystkich wynikowych średnich wartości prób. Dla n = 1, histogram „średnich wartości” jest po prostu oryginalnym asymetrycznym kształtem rozkładu eksponencjalnego. Dla n = 5, asymetria jest jasno zmęczała. Ostatecznie, dla n = 30 lub podobnie, histogram jest już bliski gładkiej, symetrycznej krzywej bell centrowanej na średniej populacji — nawet jeśli żaden z oryginalnych punktów danych nigdy nie był blisko rozkładu normalnego.

Dwie rzeczy zmieniają się jednocześnie wraz ze wzrostem n: kształt staje się bardziej normalny, a rozproszenie ustać, ponieważ odchylenie standardowe średniej próbki (oznaczane jako błąd standardowy) wynosi σ/√n. Wielokrotny podwójny rozmiar próby spowoduje połowienie odchylenia standardowego, ponieważ √4 = 2 — bezpośrednia i testowalna konsekwencja formuły wariancji twierdzenia o centralnej granicy, a matematyczna przyczyna, dlaczego większe studia badawcze i większe trialne kliniczne produkują bardziej precyzyjne estymaty.

Dlaczego twierdzenie o centralnej granicy podporządkowuje tak wiele zastosowań statystyki

Dzięki temu, że średnie próbowalne (oraz sumy, proporcje próbowe i wiele innych agregatów statystycznych) tarczy się ku rozkładowi normalnemu niezależnie od kształtu rozkładu podstawowej populacji, enormna ilość tradycyjnej maszyny statystycznej — testy Z, testy t, przedziały ufności oparte na wartości krytycznej Z lub t — może być zbudowana wokół rozkładu normalnego bez potrzeby wcześniejszego znalezienia i potwierdzenia kształtu rozkładu danych oryginalnych. To dokładnie dlaczego badacz publicznopinionowy przeprowadzający ankiety wśród 1,000 losowo wybranych głosujących może cytować margines błędu oparty na matematyce rozkładu normalnego, nawet jeśli indywidualne opinie głosujących są wynikami binarnymi, jasno niezależnymi od rozkładu normalnego.

Powszechnie popełniane błędy dotyczące twierdzenia o centralnej granicy

CLT często jest niepoprawnie sformuowane, dlatego warto być precyzyjnym co do tego, co ono nie mówi. Nie mówi ono, że pojedyncze punkty danych stają się normalnie rozłożone wraz ze zbieraniem więcej z nich — kształt pierwotnej dystrybucji populacji nigdy nie zmienia się, niezależnie od ilości danych, które zbierzesz. Zastosowanie dotyczy statystyk agregowanych, takich jak średnia próbki, a nie pojedynczych obserwacji. CLT wymaga również, aby podstawowa dystrybucja miała skończoną wariancję; mała liczba niezwykłych dystrybucji (dowolna z nich, ale standardowe przykładem jest dystrybucja Cauchy’ego) ma takie ciężkie ogony, że ich wariancja jest nieskończona, a dla tych dystrybucji, w formie klasycznej, CLT niezależnie od wielkości n nie zastosowuje się. Ostatecznie, „duże n” wykonuje rzeczywistą pracę: populacje wyraźnie asymetryczne lub o ciężkich ogonach zwykle wymagają znacznie większej liczby próbek przed tym, aby przybliżenie normalne stało się zaufane w porównaniu do populacji już bliskich symetrii.

Często zadawane pytania