Dwa prawa, dwa pytania
Zasada Wielkiej Liczby (WNL) i Twierdzenie o Rozkrzpaczaniu się (TRZ) to dwie wyniki, które sprawiają, że średnia jest znacząca. WNL odpowiada na pytanie "gdzie idzie średnia?" — im więcej niezależnych próbek pobierzesz z dowolnej rozkładu o skończonym środku, tym średnia bieżąca zbiega się do tego prawdy. TRZ odpowiada na inne pytanie "jak wygląda średnia w trakcie?" — rozkład średnich próbek, podjętych w wielu powtórzonych próbkach o rozmiarze n, zbliża się do krzywej normalnej (symetrycznej) wraz ze wzrostem n, niezależnie od tego, jaki kształt miała pierwotna rozklad.
Dlaczego średnia z rzutów kośćmi musi ustalić się w okolicach 3.5
Sprawiedliwa sześcienna kość ma oczekiwane wartości E[X] = (1+2+3+4+5+6)/6 = 3,5. Po kilku rzutach średnia wartość może usiąść niemal wsząd – trzy rzuty 6, 6, 1 dają średnią 4,33. Ale każdy kolejny rzut jest niezależnym wyciągnięciem z tego samego rozkładu i wariancja średniej z n rzutów maleje wraz z 1/n:
Słaby Prawo Wielkich Liczb: Dla dowolnego ε > 0, P( |X̄_n - μ| > ε ) → 0 wraz z n → ∞ Rozbieżność (wariancja) X̄_n) = σ² / n → rozpylenie średniej maleje wraz z n Silne Prawo Wielkich Liczb: X̄_n → μ prawie na pewno (z prawdopodobieństwem 1) Rozkład bieżącej średniej staje się coraz węższy wokół 3,5 w miarę wzrostu n, co wyjaśnia, dlaczego wydaje się ona zbiegać do tego wyniku, nawet jeśli technicznie rzecz biorąc, nic nie zabrania ogromnego przebiegu szóstek w dowolnym momencie – taki przebieg staje się niewyobrażalnie mało prawdopodobny i każdy wczesny ciąg jest rozcieńczony przez przytłaczającą liczbę późniejszych rzutów.
Weak Law of Large Numbers: For any ε > 0, P( |X̄_n − μ| > ε ) → 0 as n → ∞ Var(X̄_n) = σ² / n → the average's own spread shrinks with n Strong Law of Large Numbers: X̄_n → μ almost surely (with probability 1)
Często popełniany błąd: fałszywa intuicja gracza
LLN często, i błędnie, jest wykorzystywany do usprawiedliwiania przekonania, że moneta "długuje" nam ogony po serii orłów. Kości i monety nie mają pamięci: każdy rzut jest losowany z tej samej rozkładu niezależnie od tego, co się wcześniej wydarzyło, a sekwencja 6,6,6,6,6,6 jest dokładnie tak prawdopodobna jak każda inna konkretna sekwencja sześciu rzutów. Średni zwrot wynosi 3,5 nie dlatego, że przyszłe rzuty kompensują przeszłe, ale dlatego, że długi ciąg jest wypłynięty przez ogromną liczbę nowych, niezależnych danych, które go podążają – rozcieńczenie, a nie korekta.
Centralny Twierdzenie o Rozsaszczeniu, precyzyjnie
Weź próbki o wielkości n z dowolnej rozkładu o skończonym średnim i skończonym wariancie σ² — może to być uczciwa kość do zarzucania, rozkład dochodów bardzo obciążony lub cokolwiek innego — oblicz średnią każdej próby i obserwuj, jak te średnie z próbek są same sobie rozłożone:
Centralny Twierdzenie o Rozsaszczeniu: Xₙ̅ ≈ Normal( μ, σ²/n ) dla dużych n odchylenie standardowe średniej: SE = σ / √n Jest to niezwykły, niemal uniwersalny wynik: kształt pierwotnego rozkładu — równomierny jak kość do zarzucania, wykładniczy, bardzo obciążony — w zasadzie znika z rozkładu średnich próbek, które zbliżają się do tej samej symetrycznej krzywej błękitnej niezależnie od tego. Stanowi ono teoretyczne podstawy dla przedziałów ufności, obliczeń marginesu błędu w badaniach opinii publicznych i większości klasycznych testów hipotez, które opierają się na założeniu, że średnia z próby jest w przybliżeniu normalna nawet wtedy, gdy dane podległe oczywistym чином nie są.
Central Limit Theorem: X̄_n ≈ Normal( μ, σ²/n ) for large n standard error of the mean: SE = σ / √n
Spadek zwrotów: dlaczego błąd standardowy tak wolno się zmniejsza
Ponieważ błąd standardowy skaluje się jako σ/(√n) zamiast σ/n, aby zredukować niepewność o połowę, potrzeba czterokrotnie zwiększyć rozmiar próby, a nie podwoić go. To prawo pierwiastka jest cichym powodem, dla którego organizacje badawcze potrzebują tysięcy respondentów, aby obniżyć margines błędu do kilku procentowych punktów, oraz dlaczego podwajanie długości wykonania pomiaru fizycznego zmniejsza jedynie o około 41%, a nie 50% szum statystyczny.
Frequently asked questions
Czy fałszywy paradoks gracza to po prostu Prawo Dużej Liczby?
Nie — są one prawie przeciwieństwami. Fałszywy paradoks gracza to przekonanie, że uczciwa moneta jest 'dłużna' po serii orłów, jakby moneta pamiętała poprzednie wyniki i przyszłe rzuty musiały skorygować średnią. LLN nie daje takiego założenia. Mówi jedynie, że średnia zbiega się do siebie wraz ze wzrostem n, ponieważ przeszła seria jest rozcieńczona przez ogromną liczbę nowych, niezależnych rzutów, a nie dlatego, że moneta się dostosowuje. Każda skończona seria, niezależnie od długości, może być w ten sposób rozcieńczona bez żadnego skorygowania.
Jak duży musi być próba, aby 'weszło' twierdzenie o CLT?
Nie ma uniwersalnego progu; zależy to od tego, jak bardzo rozkład pierwotny odbiega od symetrii i kształtu dzwonkowego. Dla rozkładów w przybliżeniu symetrycznych z lekkimi ogonami, n około 30 jest dobrym punktem wyjścia, aby rozkład średniej próbki wyglądał rozsądnie normalnie. Rozkłady mocno skośne lub o bardzo ciężkich ogonach wymagają znacznie większych n, a rozkład bez skończonej wariancji może całkowicie zepsuć klasyczne twierdzenie o CLT.
Dlaczego standardowy błąd maleje wraz z pierwiastkiem z n zamiast z samym n?
Ponieważ wariancja sumy n niezależnych próbek dodaje się bezpośrednio, Var(suma) = n * sigma-kwadrat, co daje Var(średnia) = sigma-kwadrat / n po podzieleniu przez n. Odchylenie standardowe jest pierwiastkiem z wariancji, więc standardowy błąd średniej wynosi sigma / sqrt(n). Zatem zmniejszenie niepewności o połowę wymaga cztery razy więcej danych, a nie dwa razy — to zachowanie odwrotności kosztów stojące za powodem, dla którego sondaże i eksperymenty potrzebują bardzo dużych próbek, aby zredukować margines błędu o niewielką wartość.
Wypróbuj na żywo
Wszystko powyżej działa bezpośrednio w Twojej przeglądarce — otwórz Law of Large Numbers i zmieniaj parametry podczas działania. Nic nie jest instalowane ani przesyłane na serwer, cały model działa w jednej karcie.
▶ Otwórz symulację Law of Large Numbers