🎲 Hidden-Markov-Modell — Zustände & Beobachtungen

In einer gewöhnlichen Markov-Kette sind die Zustände direkt beobachtbar. In einem HMM sind die Zustände verborgen und werden nur indirekt durch verrauschte oder unvollständige Emissionen offenbart. Das Modell muss die zugrunde liegende Zustandssequenz aus den beobachteten Ausgabesymbolen erschließen.

Der Viterbi-Algorithmus findet effizient die wahrscheinlichste Sequenz verborgener Zustände bei gegebener Beobachtungssequenz mittels dynamischer Programmierung. Er läuft in O(T·K²) Zeit, wobei T die Sequenzlänge und K die Anzahl der Zustände ist, was ihn für praktische Probleme handhabbar macht.

HMMs werden typischerweise mit dem Baum-Welch-Algorithmus trainiert, einer Instanz der Erwartungsmaximierung. Er iteriert zwischen der Berechnung von Zustandsbelegungswahrscheinlichkeiten (E-Schritt) und der Aktualisierung von Übergangs- und Emissionsparametern, um die Wahrscheinlichkeit der beobachteten Daten zu maximieren (M-Schritt).

HMMs bildeten von den 1980er- bis in die 2000er-Jahre das Rückgrat der Spracherkennung. Moderne Systeme verwenden tiefe neuronale Netze, aber viele Hybridarchitekturen kombinieren immer noch neuronale akustische Modelle mit HMM-basierter Sequenzdecodierung. Reine HMM-Systeme bleiben für ressourcenarme oder eingebettete Anwendungen im Einsatz.

Die Markov-Annahme besagt, dass der nächste Zustand nur vom aktuellen Zustand abhängt, nicht von der gesamten Vorgeschichte. Sie versagt, wenn langreichweitige Abhängigkeiten wichtig sind — zum Beispiel grammatische Übereinstimmung über viele Wörter hinweg in der Sprache. Markov-Modelle höherer Ordnung und neuronale Sequenzmodelle lockern diese Annahme.