Wszystko o prawdopodobieństwie i statystyce: od podstaw do współczesnych zastosowań

Podstawy prawdopodobieństwa

Przestrzeń próbek Ω, zdarzenia i miara prawdopodobieństwa P spełniająca aksjomaty Kolmogorowa. Prawdopodobieństwo warunkowe: P(A|B) = P(A∩B)/P(B). Twierdzenie Bayesa: P(A|B) = P(B|A)P(A)/P(B). Niezależność: P(A∩B) = P(A)P(B). Zmiennych losowych: dyskretnych (PMF) i ciągłych (PDF). Oczekiwanie: E[X] = Σ xP(X=x) lub ∫xf(x)dx. Wariancja: Var(X) = E[(X-μ)²] = E[X²] - (E[X])². Wspólne rozkłady: Bernoulliego, binomialny, Poissona (rzadkie zdarzenia), geometryczny (pierwszy sukces).ciągłe: jednostajny, normalny (gaussowski), wykładniczy, gamma. Twierdzenie granicze centrzalne: średnia próbowa n niezależnych i identycznie rozłożonych obserwacji zbliża się do Normal(μ, σ²/n) przy n→∞ — podstawowe dla wnioskowania statystycznego.

Statystyczna wnioskodawczość

Oszacowanie punktowe: MLE (Estymacja Największej Wprawdopodobieństwa) — znalezienie θ, które maksymalizuje L(θ|dane). Właściwości: zgodność, asymptotyczna normalność, efektywność (granica Craméra-Rao). Metoda chwil momentów: równanie chwil momentów próbowych do chwil momentów populacji. Intervaly ufności: 95% CI dla średniej: x̄ ± 1,96·σ/√n. Testowanie hipotez: hipoteza zerowa H₀ przeciwko alternatywna H₁. Statystyka testu → wartość p. Błąd typu I (α): odmawianie prawdziwej H₀. Błąd typu II (β): nieodmawianie fałszywej H₀. Moc = 1-β. Popularne testy: test z, test t (małe próby, niewiadoma σ), test χ² (kategorialne), test F (porównanie wariancji), ANOVA (wielokrotne grupy). Wiele testów: korekcja Bonferroni, kontrola FDR Benjamini-Hochberg.

Statystyka bayesowska

Ramka bayesowska: posterior ∝ likelihood × prior. P(θ|data) ∝ P(data|θ)P(θ). Prior koduje wierzenia przed podaniem danych. Priory konjugatne: Beta-Binomial, Normal-Normal, Gamma-Poisson — posterioリー z zamkniętą formą. Priory niekonjugatne: sztuczka łańcuchowa Markova (MCMC) do próbkowania. Metropolis-Hastings, Gibbs sampling, Hamiltonian Monte Carlo (HMC). Stan: język programowania prawdopodobieństwowy dla modeli bayesowskich. Ważone zalety bayesowskie: naturalna kwantyfikacja niepewności, działa na małych zbiorach danych, łączy się z wiedzą domenową. Modely hierarchiczne/multikalowe: parametry na wielu poziomach (uczniowie w szkołach). Porównanie modeli: czynniki Bayesa, WAIC, LOO-CV. Bayesowska uczenie głębokie: niepewność w prognozach sieci neuronowych.

Regresja i klasyfikacja

Regresja liniowa: y = Xβ + ε, estymator OLS β̂ = (XᵀX)⁻¹Xᵀy. Założenia: liniowość, niezależność, jednorodność wariancji, normalność błędów. R²: proporcja wariacji wyjaśnionej. Regularizacja: Ridge (L2: λ‖β‖²) zwraca koeficjenty, Lasso (L1: λ‖β‖₁) wykonywała selekcję cech. Elastic Net: kombinuje L1 i L2. Regresja logistyczna: P(Y=1) = σ(Xβ), klasyfikacja dwuczynnicza poprzez funkcję sigmoide. Modely liniowe generalizowane (GLM): funkcja łączenia g(E[Y]) = Xβ — regresja Poissona (log link), regresja gamma.

Random forests: zestaw decyzyjnych drzew z baggingiem i podzbiorem cech. Gradient boosting (XGBoost, LightGBM): sekwencyjne budowanie drzew, minimalizacja gradientu strat.

Czynszowe zastosowania

Testowanie A/B: losowe kontroloskorelowane eksperymenty w technologii (obliczanie wielkości próby, sekwencyjne testowanie). Inferencja kauzalna: faktoryalne alternatywy, potencjalne wyniki (Rubin), DAGi (Pearl). Metody: różnice w różnicach, kontynuacja regresji, zmiennych instrumentowych, przepaszczenie proporcjonalności. Seria czasowa: ARIMA, GARCH (wolność), Prophet (Facebook), modele przestrzenno-stosunkowe. Analiza przeżycia: krzywe Kaplan-Meier, proporcjonalne zagrożenia Cox (badania kliniczne). Statystyka przestrzenna: kriging, procesy Gaussa, modelowanie geospałeczne. Optymalizacja Bayesowska: regularyzacja hiperparametrów dla modeli maszynowych. Teoria informacji: entropia H(X) = -Σ p(x)log p(x), strata krzyżowa w sieciach neuronowych, divergenca KL.

Spróbuj to na żywo

Wszystko powyżej działa w Twojej przeglądarce — otwórz Spirograph i zmieniaj parametry podczas jego działania. Nie ma instalacji, nie jest wysyłany żaden plik, cała modelika istnieje w jednym okienku.

Wypróbuj na żywo

Wszystko powyżej działa bezpośrednio w Twojej przeglądarce — otwórz Parametric Spirograph Patterns i zmieniaj parametry podczas działania. Nic nie jest instalowane ani przesyłane na serwer, cały model działa w jednej karcie.