Байєсівське оновлення: Спостерігаючи, як зміцнюється віра в реальному часі

Оновлення переконання, а не просто числа

Киньте монету з невідомим ухилом p і кожен результат має змістити ваше переконання щодо p. Правило Бейса робить цей зміст точним: ваш апостеріорний вір (після отримання даних) пропорційний вашому початковому віру (перед отриманням даних) та ймовірності того, що дані були отримані за кожної можливої величини p.

P(p | data) ∝ P(data | p) · P(p) апостеріорний вір ∝ ймовірність (likelihood) × початковий вір ● LIVE demo · Остринвання Бета апостеріорного віру з кожним кидком монети Ця пропорційність приховує нормалізуючий констант – ймовірність даних, усереднену по всіх можливих значеннях p – але для задачі з монетою існує спрощення, яке дозволяє уникнути її обчислення.

P(p | data)  ∝  P(data | p) · P(p)

posterior   ∝   likelihood   ×   prior

Чому Beta та Binomial добре поєднуються

Розглядайте кожен кидок як незалежний Бернуллі випробування з невідомою ймовірністю успіху p, і використовуйте розподіл Beta(α, β) як апріорну функцію для p. Розподіл Beta визначений на проміжку [0, 1], що відповідає ймовірності, а його щільність пропорційна p^(α-1)·(1-p)^(β-1) – алгебраїчно така ж форма, як і біноміальне правдоподібність для k успіхів у n випробувань, p^k·(1-p)^(n-k). Множення апріорного Beta на біноміальне правдоподібність просто додає показники, і результатом є інший розподіл Beta:

апріор: p ~ Beta(α, β) дані: k успіхів у n кидках постпіор: p ~ Beta(α + k, β + n - k) Це кон'югатний апріор – апостеріор залишається в тій же сім’ї, що й апріор, тому оновлення не потребує чисельного інтегрування – просто додайте успіхи до α та невдачі до β. Інтерпретуйте α та β як псевдо-рахунки: Beta(1, 1) апріор (однорідний по відношенню до [0,1], загальна вага 2) кодує повну невігластво, а після спостереження 7 орлів і 3 перетрав – апостеріор Beta(8, 4) поводиться так, ніби ви вже почали з 1 фіктивного орла та 1 фіктивної перетиви в руці.

prior:      p ~ Beta(α, β)
data:       k successes in n flips
posterior:  p ~ Beta(α + k, β + n - k)

Оцінки та довірчі інтервали

Розподіл Beta(α, β) має середнє значення α/(α+β) і межу (α-1)/(α+β-2) для α, β > 1, отже, після отримання k «орлів» у n підкидань з рівномірним початковим розподілом, апостеріорне середнє становить (k+1)/(n+2) — класичне правило Лапласа, яке розумно уникає повернення точно 0 або 1 навіть після безперервної серії. Довірчий інтервал на рівні 95% — прямий байесівський аналог довірчого інтервалу, але його можна інтерпретувати як «існує 95% ймовірність того, що справжнє p знаходиться в цьому діапазоні, враховуючи дані» — зчитується безпосередньо з квантилів апостеріорного розподілу Beta, і він помітно звужується зі збільшенням n, що відображає процес оновлення, який ви спостерігаєте в режимі реального часу в демонстрації.

Послідовне оновлення та властивість незалежності від порядку

Оскільки апостеріор після n підкидань залежить лише від загальної кількості орлів і решок, а не від їх послідовності, можна оновлювати одне підкидання за раз і отримати точно таку ж кінцеву апостеріорну площу, як і при одноразовому оновленні всього набору даних — сьогоднішня апостеріорна площа стає завтрашнім апріорним розподілом, безперервно. Це пояснює, чому байєсівське оновлення є природно послідовним: не потрібно зберігати необроблені дані, достатньо лише поточного (α, β) парного, що й є основою для алгоритмів багаторуких бандитів, фільтрів спаму та A/B тестів, які потребують постійного навчання з приходом нових спостережень.

Вибір початкового розподілу й чому він згодом перестає мати значення

Сильний початковий розподіл (велике α+β) потребує більше даних, щоб змінитися; слабкий або рівномірний початковий розподіл (α=β=1) майже миттєво піддається впливу перших кількох результатів. З ростом n показники ймовірності k та n−k домінують над фіксованими α і β, а висновки з дуже різних початкових розподілів сходяться до одного й того ж результату — версії теореми Бернштейна-фон Мізеса. Початковий розподіл має значення лише при недостатній кількості даних, що саме тоді найважливіше чесно кодувати ваші попередні переконання.

Frequently asked questions

Спробуйте наживо

Усе, що вище, працює прямо у вашому браузері — відкрийте Bayesian Updating і змінюйте параметри під час роботи. Нічого не встановлюється, нічого не завантажується на сервер, уся модель живе в одній вкладці.