🎲 Прихована марковська модель — стани та спостереження

У звичайному ланцюзі Маркова стани безпосередньо спостережувані. У ПММ стани приховані й розкриваються лише опосередковано через зашумлені або неповні спостереження (випромінювання). Модель має вивести приховану послідовність станів зі спостережуваних вихідних символів.

Алгоритм Вітербі ефективно знаходить найімовірнішу послідовність прихованих станів за заданою послідовністю спостережень, використовуючи динамічне програмування. Він працює за час O(T·K²), де T — довжина послідовності, а K — кількість станів, що робить його придатним для практичних задач.

ПММ зазвичай навчають за допомогою алгоритму Баума-Велча — приклад алгоритму очікування-максимізації. Він ітеративно чергує обчислення ймовірностей перебування в станах (E-крок) та оновлення параметрів переходів і випромінювання для максимізації правдоподібності спостережених даних (M-крок).

ПММ становили основу розпізнавання мовлення з 1980-х до 2000-х років. Сучасні системи використовують глибокі нейронні мережі, але багато гібридних архітектур все ще поєднують нейронні акустичні моделі з декодуванням послідовностей на основі ПММ. Чисті системи ПММ досі використовуються для вбудованих застосунків з обмеженими ресурсами.

Марковське припущення стверджує, що наступний стан залежить лише від поточного стану, а не від повної історії. Воно не виконується, коли важливі далекосяжні залежності — наприклад, граматичне узгодження через багато слів у мові. Марковські моделі вищого порядку та нейронні моделі послідовностей послаблюють це припущення.