Zasada Granicznej Rozkładu Prawdopodobieństwa: Dlaczego Średnie Stają Się Krzywymi

Formalne stwierdzenie

Zbiór Wiedzy o Rozkładzie Prawdopodobieństwa (CLT) jest bez wątpienia jednym z najczęściej wykorzystywanych wyników w statystyce. Mówi on, że średnia z dużego próbek wyciągniętych z dowolnej rozkładu o skończonym wariancie jest przybliżona do rozkładu normalnego – niezależnie od tego, czy populacja pierwotna jest jednorodna, wykładnicza, dwimorna lub cokolwiek innego nieprawidłowego. Formalnie: niech X₁, X₂, …, Xₙ będą niezależnymi, identycznie rozłożonymi zmiennymi losowymi o średniej μ = E[Xᵢ] i wariancji σ² = Var(Xᵢ) < ∞. Zdefiniuj średnią próbkową standaryzowaną:

X̄ₙ = (X₁ + X₂ + ... + Xₙ) / n Zₙ = (X̄ₙ − μ) / (σ/√n) Wtedy: Zₙ → N(0, 1) w rozkładzie, gdy n → ∞ Równoważnie, X̄ₙ jest sama przybliżona do N(μ, σ²/n) dla dużych n. Ta pojedyncza linia uzasadnia przedział ufności 95% x̄ ± 1.96·σ/√n, test z-testu, test t i większość mechanizmów klasycznej inferencji statystycznej – wszystko to nie wymaga, aby populacja pierwotna była normalna, tylko średnia próbki wyciągniętej z niej.

X̄ₙ = (X₁ + X₂ + ... + Xₙ) / n
Zₙ  = (X̄ₙ − μ) / (σ/√n)

Then:  Zₙ → N(0, 1)  in distribution as n → ∞

Dlaczego to działa: funkcje charakterystyczne

Najczystszy dowód wykorzystuje funkcje charakterystyczne – zasadniczo transformatę Fouriera rozkładu prawdopodobieństwa, φ_X(t) = E[e^(itX)]. Znormalizuj każdą zmienną jako Yᵢ = (Xᵢ − μ)/σ, tak aby E[Yᵢ] = 0 i Var(Yᵢ) = 1, a następnie zapisz Zₙ = (Y₁ + ... + Yₙ)/√n. Ponieważ Yᵢ są niezależne, funkcja charakterystyczna sumy jest iloczynem indywidualnych:

φ_Zn(t) = φ_Y(t/√n)ⁿ Rozwiń Taylora w przybliżeniu dla t=0, wykorzystując E[Y]=0 i E[Y²]=1: log φ_Y(t) = −t²/2 + O(t³) log φ_Zn(t) = n · log φ_Y(t/√n) = −t²/2 + O(1/√n) → −t²/2 wraz ze wzrostem n Zatem φ_Zn(t) → e^(−t²/2), funkcja charakterystyczna rozkładu N(0,1). Zgodnie z twierdzeniem Lévy'ego o ciągłości funkcji charakterystycznych, konwergencja funkcji charakterystycznych do funkcji charakterystycznej N(0,1) implikuje konwergencję w rozkładzie do N(0,1) – to jest cały dowód i nigdy nie zakładano kształtu oryginalnego rozkładu poza skończoną wariancję.

φ_Zn(t) = φ_Y(t/√n)ⁿ

Taylor-expand near t=0, using E[Y]=0 and E[Y²]=1:
log φ_Y(t) = −t²/2 + O(t³)

log φ_Zn(t) = n · log φ_Y(t/√n) = −t²/2 + O(1/√n)  →  −t²/2  as n → ∞

So φ_Zn(t) → e^(−t²/2), the characteristic function of N(0,1).

Jak szybko zbiega się?

CLT gwarantuje zbieżność ostatecznie, ale nic nie mówi o jej tempie samodzielnie – to właśnie twierdzenie Berry-Esseen dostarcza. Określa dolne ograniczenie dla najgorszego przypadku różnicy między prawdziwą funkcją rozkładu prawdopodobieństwa Zₙ a standardową funkcją rozkładu normalnego Φ:

sup_x |P(Zₙ ≤ x) − Φ(x)| ≤ C · ρ / (σ³ · √n) p = Średnią wartość trzeciego momentu bezwzględny (ρ) C ≤ 0.4748 (najlepsza znana stała, Shevtsova 2011) Dla zmiennej Bernoulliego(p) bliskiej p = 0.5 daje to maksymalny błąd w okolicach 1/(2√n) – około 5% dla n = 100 i 1,6% dla n = 1000. W praktyce: dla symetrycznych, dobrze zachowanych rozkładów n ≥ 30 jest dobrym kryterium, ale w przypadku silnie skośnego rozkładu, takiego jak wykładniczy, często potrzeba n ≥ 100 lub więcej, aby przybliżenie normalne było wiarygodne.

sup_x |P(Zₙ ≤ x) − Φ(x)|  ≤  C · ρ / (σ³ · √n)

ρ = E[|X − μ|³]     (third absolute moment)
C ≤ 0.4748          (best known constant, Shevtsova 2011)

Galton Board w praktyce

Francis Galton zbudował około 1876 roku fizyczną demonstrację tego twierdzenia – Galton Board, zwany też quincunx. Urządzenie to losowo upuszcza kulę przez trójkątny szereg kolumn, odbijając ją w lewo lub w prawo z równą prawdopodobieństwem na każdym poziomie. Ostateczne położenie kuli poziomo jest sumą n niezależnych kroków ±1 – zmienna Binomial(n, 0.5) – a dzięki twierdzeniu o asymptotycznej zbliżeniu (CLT), Binomial(n,p) → N(np, np(1−p)) w miarę wzrostu n. Wysokość każdej miski docierającej jest proporcjonalna do wiersza trójkąta Pascala, a przy wystarczającej liczbie wierszy histogram kulek wyraźnie ustala się w kształcie krzywej Gaussa. Ta sama logika uogólnia się na wiele obszarów poza rzuty monetami: każda wielkość, która pojawia się jako suma wielu małych, niezależnych przyczyn – błąd pomiarowy, wzrost, ciśnienie krwi – ma tendencję do bycia w przybliżeniu normalną dla tego właśnie powodu.

Kiedy przestaje działać

Teoria ma realne założenia, a ich naruszenie ma znaczenie. Rozkłady o dużych ogonach z nieskończonym wariancją – rozkład Pareto o indeksie ogonu 2 lub mniejszym, czy rozkład Cauchy – całkowicie wykraczają poza CLT; ich sumy zbiegają się zamiast tego do rozkładu stabilnego według Lévy'ego, dlatego też zwroty finansowe i ruch internetowy z rozkładami potęgowymi nie zbiegają się w sposób oczywisty do normalnych. Rozkład Cauchy jest przypadkiem skrajnym: nie ma zdefiniowanego średniego ani wariancji, a próbkowa średnia z n zmiennych Cauchy'ch jest również rozłożona według Cauchy dla każdego n – uśrednianie nigdy nie pomaga. Zależne obserwacje, takie jak skoorelowane szeregi czasowe, również naruszają klasyczne założenie o niezależności i jednorodności (i.i.d.), chociaż funkcjonalna wersja teorii (teoria Donskera z 1951 roku) odzyskuje granice – proces sumy częściowej zbiega się do ruchu Browna, który stanowi fundament pod równania różniczkowe cząstkowe i model Black-Scholes.

Często zadawane pytania

Wypróbuj na żywo

Wszystko powyżej działa bezpośrednio w Twojej przeglądarce — otwórz the simulation i zmieniaj parametry podczas działania. Nic nie jest instalowane ani przesyłane na serwer, cały model działa w jednej karcie.