⚖️ Bayes'sche Inferenz — Prior, Likelihood & Posterior

Der Prior P(θ) kodiert deine Überzeugungen über den Parameter θ, bevor du Daten siehst — er kann aus früheren Studien, Expertenwissen oder einer bewusst uninformativen flachen Verteilung stammen. Die Likelihood P(Daten|θ) gibt an, wie wahrscheinlich die beobachteten Daten für jeden möglichen Wert von θ wären. Die Posterior P(θ|Daten) ∝ Prior × Likelihood ist deine aktualisierte Überzeugung nach den Daten; sie gewichtet Vorwissen und beobachtete Evidenz nach ihrer relativen Stärke.

Die Beta-Verteilung Beta(α,β) ist auf [0,1] definiert und repräsentiert auf natürliche Weise Unsicherheit über eine Wahrscheinlichkeit. Ihr Mittelwert ist α/(α+β), ihr Modus (MAP-Schätzer) ist (α−1)/(α+β−2) für α,β > 1. Sie ist der konjugierte Prior für die Binomial-Likelihood: Ist der Prior Beta(α,β) und beobachtet man k Erfolge von n Versuchen, ist die Posterior exakt Beta(α+k, β+n−k) — ohne numerische Integration.

Die Posterior-Varianz ist αβ / ((α+β)²(α+β+1)). Mit zunehmenden k Erfolgen und (n−k) Fehlschlägen wächst α+β, was die Varianz verringert — die Verteilung konzentriert sich stärker um den wahren Anteil. Mit genug Daten wird die Posterior extrem eng, unabhängig vom Prior — ein Prinzip, das zeigt, dass ausreichend große Datensätze selbst stark falsche Prior-Überzeugungen überwinden können.

MAP steht für Maximum A Posteriori — der Wert von θ, der die Posterior-Dichte maximiert. Für Beta(α,β) ist er (α−1)/(α+β−2) (für α,β > 1). Bei einem uniformen Prior (α=β=1, entspricht keinem Vorwissen) fällt der MAP mit dem Maximum-Likelihood-Schätzer k/n zusammen — einfach dem beobachteten Anteil. Der MAP wird als gelbe gestrichelte Linie im Diagramm angezeigt.

Das 95%-Kredibilitätsintervall enthält 95 % der Posterior-Wahrscheinlichkeit — man kann direkt sagen: „Es besteht eine Wahrscheinlichkeit von 95 %, dass θ in diesem Intervall liegt.“ Ein frequentistisches 95%-Konfidenzintervall hat eine subtilere Bedeutung: Bei vielfacher Wiederholung des Experiments würden 95 % der berechneten Intervalle den wahren festen Parameter enthalten. Bei großen Stichproben sind beide numerisch ähnlich, unterscheiden sich aber grundlegend in der Interpretation.

Ein konjugierter Prior ist eine Prior-Verteilung, deren funktionale Form nach Multiplikation mit der Likelihood erhalten bleibt: Die Posterior gehört zur gleichen Verteilungsfamilie. Für Binomial-Likelihood ist der konjugierte Prior Beta; für Poisson ist es Gamma; für Gauß mit bekannter Varianz eine weitere Gauß-Verteilung. Konjugation vermeidet numerische Integration und liefert ein analytisch exaktes, sofortiges Posterior-Update in geschlossener Form.

Die Voreinstellung „Medizinischer Test“ setzt α=1, β=9, was einer Prior-Krankheitsprävalenz von ~10 % entspricht. Jeder „Erfolg“-Klick steht für ein positives Testergebnis. Hat der Test 90 % Sensitivität und 95 % Spezifität, sollte ein positives Ergebnis die Posterior erheblich nach oben verschieben. Dieses Szenario veranschaulicht den Basisraten-Trugschluss: Selbst ein sehr genauer Test erzeugt bei einer seltenen Krankheit viele falsch-positive Ergebnisse, weil die Prior-Wahrscheinlichkeit der Krankheit niedrig ist.

Bayes'sches Updating bedeutet, die heutige Posterior als morgigen Prior zu verwenden. Beobachtet man 3 Kopf bei 5 Würfen, ist die Posterior Beta(1+3, 1+2) = Beta(4,3). Beobachtet man danach 2 weitere Kopf bei 4 Würfen, aktualisiert man zu Beta(4+2, 3+2) = Beta(6,5). Das Endergebnis ist identisch mit der Posterior aus allen 9 Würfen auf einmal — sequenzielle und Batch-Bayes'sche Inferenz sind nachweislich äquivalent, solange Beobachtungen unabhängig sind.

Verwende einen uninformativen (flachen oder schwach informativen) Prior, wenn du wenig Vorwissen hast und die Posterior von den Daten dominiert sein soll — Beta(1,1) in diesem Simulator. Verwende einen informativen Prior, wenn du echtes Vorwissen hast (z. B. aus einer Metaanalyse), das Schlussfolgerungen auch bei kleinen Datensätzen beeinflussen sollte. In klinischen Studien verlangen Regulierer manchmal eine Vorregistrierung von Priors, um „Posterior-Fishing“ zu verhindern.

Der frequentistische Maximum-Likelihood-Schätzer (MLE) für die Kopf-Wahrscheinlichkeit einer Münze ist einfach k/n — der beobachtete Anteil. Ein frequentistisches 95%-Konfidenzintervall ist ungefähr p̂ ± 1,96 × √(p̂(1−p̂)/n). Der Bayes'sche Posterior-Mittelwert ist (α+k)/(α+β+n), der nur bei flachem Prior (α=β=1) und großem n dem MLE entspricht. Bei kleinen Stichproben regularisiert der Bayes'sche Ansatz die Schätzung natürlich in Richtung des Priors und vermeidet Überanpassung an spärliche Daten.