Розширена теорія ймовірності

Вступ до розширеної теорії ймовірності

Розширена теорія ймовірності - це фундаментальна галузь математики, що вивчає випадкові явища, стохастичні процеси та невизначеність у складних системах. Вона відіграє ключову роль у фізиці, статистиці, машинному навчанні, фінансах та багатьох інших галузях науки.

У розширеній теорії ймовірності ми виходимо за рамки елементарної ймовірності та досліджуємо складні стохастичні процеси , марківські ланцюги, теорію міри, умовну ймовірність високого порядку та асимптотичні властивості випадкових величин.

Історичний контекст

Теорія ймовірності зародилася в XVII столітті з робіт Блеза Паскаля та П'єра де Ферма над задачами азартних ігор. Однак розширена теорія ймовірності почала активно розвиватися в XX столітті з роботами таких математиків як Андрій Колмогоров, який застосував теорію міри для формалізації ймовірності.

Важливий внесок зробили Пол Леві з теорією стохастичних процесів, Норберт Вінер з теорією броунівського руху, та Джозеф Дуб з теорією мартингалів. Сьогодні розширена теорія ймовірності є невід'ємною частиною сучасної математики та науки.

Математичні основи

Алгебри сигма та теорія міри

Розширена теорія ймовірності базується на формальному підході через теорію міри. Простір ймовірностей (Ω, ℱ, P) складається з:

Ω (простір елементарних подій): Множина всіх можливих результатів

ℱ (сигма-алгебра): Множина всіх подій, для яких визначена ймовірність

P (міра ймовірності): Функція, що приписує ймовірність кожній події

Умовна ймовірність та незалежність

Умовна ймовірність події A за умови події B визначається як:

Події A та B називаються незалежними, якщо P(A ∩ B) = P(A) × P(B). Це розширюється на множини подій та випадкові величини.

Випадкові величини та їх розподіли

Випадкова величина X - це вимірна функція X: Ω → ℝ. Функція розподілу Fₓ визначається як:

Математичне сподівання (очікуване значення) дискретної випадкової величини:

Для неперервної випадкової величини з щільністю f(x):

P: ℱ → [0,1] така, що: 1. P(Ω) = 1 2. P(∅) = 0 3. Для неспільних подій A₁, A₂, ...: P(∪ᵢAᵢ) = ΣᵢP(Aᵢ)

Стохастичні процеси

Визначення та основні поняття

Стохастичний процес {Xₜ : t ∈ T} - це сім'я випадкових величин, індексованих параметром t (зазвичай час). T може бути дискретним (T = {0, 1, 2, ...}) або неперервним (T = [0, ∞)).

Марківські процеси

Марківський процес має властивість відсутності пам'яті: майбутнє залежить лише від поточного стану, а не від історії:

Броунівський рух (вінерівський процес)

Броунівський рух W(t) - це неперервний марківський процес з такими властивостями:

W(0) = 0

Для 0 ≤ s < t, приріст W(t) - W(s) має нормальний розподіл N(0, t-s)

Прирости на непересічних інтервалах незалежні

Траєкторії майже скрізь неперервні

Приклад: Моделювання броунівського руху

Броунівський рух використовується для моделювання ціноутворення фінансових активів (модель Блек-Шоулза), дифузії частинок, та багатьох інших фізичних процесів.

Пуассонівський процес

Пуассонівський процес N(t) моделює випадкові події в часі:

N(0) = 0

Прирости на непересічних інтервалах незалежні

P(N(t+s) - N(t) = k) = (λs)ᵏe⁻λˢ / k!

P(Xₜ₊₁ = j | Xₜ = i, Xₜ₋₁ = iₙ₋₁, ..., X₀ = i₀) = P(Xₜ₊₁ = j | Xₜ = i)

Марківські ланцюги

Дискретні марківські ланцюги

Марківський ланцюг з дискретним часом - це послідовність випадкових величин {Xₙ : n = 0, 1, 2, ...} зі скінченною або зліченною множиною станів S, така що:

Матриця переходів P = [pᵢⱼ] описує всі ймовірності переходів між станами.

Класифікація станів

Досяжний стан: Стан j досяжний зі стану i, якщо існує n таке, що pᵢⱼ⁽ⁿ⁾ > 0

Повертаючий стан: P(повернення в стан i | початок з i) = 1

Тимчасовий стан: Стан, що не є повертаючим

Ергодичний стан: Повертаючий та аперіодичний

Стаціонарний розподіл

Для ірредукційного марківського ланцюга існує унікальний стаціонарний розподіл π, який задовольняє:

Приклад: Модель черги

Марківські ланцюги використовуються для моделювання черг обслуговування, де стан системи - кількість клієнтів в черзі, а переходи відбуваються при прибутті або обслуговуванні клієнта.

P(Xₙ₊₁ = j | Xₙ = i, Xₙ₋₁ = iₙ₋₁, ..., X₀ = i₀) = P(Xₙ₊₁ = j | Xₙ = i) = pᵢⱼ

Теорія мартингалів

Визначення мартингаля

Послідовність {Xₙ, ℱₙ} називається мартингалем, якщо:

E[|Xₙ|] < ∞ для всіх n

Xₙ вимірна відносно ℱₙ

E[Xₙ₊₁ | ℱₙ] = Xₙ (умовне сподівання)

Якщо E[Xₙ₊₁ | ℱₙ] ≥ Xₙ, то це субмартингаль; якщо E[Xₙ₊₁ | ℱₙ] ≤ Xₙ, то це супермартингаль.

Теорема зупинки

Якщо τ - момент зупинки (stopping time) для мартингаля {Xₙ}, і виконуються певні умови, то:

Це має важливі застосування в фінансовій математиці, зокрема для ціноутворення опціонів.

E[Xτ] = E[X₀]

Граничні теореми

Закон великих чисел

Нехай X₁, X₂, ... - незалежні однаково розподілені випадкові величини з E[Xᵢ] = μ. Тоді:

Центральна гранична теорема

Якщо X₁, X₂, ... - незалежні однаково розподілені випадкові величини з E[Xᵢ] = μ та Var(Xᵢ) = σ², то:

Функціональна центральна гранична теорема

Розширення ЦГТ на стохастичні процеси, що дозволяє вивчати асимптотичну поведінку траєкторій.

(X₁ + X₂ + ... + Xₙ) / n → μ при n → ∞ (збіжність майже скрізь)

Застосування у різних галузях

Фізика

Теорія ймовірності є фундаментом квантової механіки, статистичної механіки та теорії складних систем. Броунівський рух описує хаотичний рух частинок, а марківські процеси моделюють теплові флуктуації.

Фінанси

Стохастичне числення використовується для моделювання фінансових ринків. Модель Блек-Шоулза базується на броунівському русі для ціноутворення опціонів. Мартингалі використовуються для арбітражних стратегій.

Машинне навчання

Марківські ланцюги та приховані марківські моделі використовуються для обробки послідовностей даних. Байєсівські методи базується на теорії ймовірності для оновлення переконань на основі спостережень.

Біологія

Стохастичні процеси моделюють еволюцію популяцій, мутації в ДНК, та поширення хвороб. Марківські моделі використовуються для аналізу генетичних послідовностей.

Теорія черг

Марківські процеси обслуговування моделюють черги в комп'ютерних мережах, банках, та інших системах обслуговування.

Стохастичне числення

Інтеграл Іто

Для стохастичного процесу f(t) та броунівського руху W(t), інтеграл Іто визначається як границя суми Рімана-Стілтьєса з особливою структурою:

Лема Іто

Для функції F(t, Xₜ), де Xₜ задовольняє стохастичне диференціальне рівняння, лема Іто дає:

Ключова відмінність від звичайного числення - наявність додаткового члена (σ²/2)(∂²F/∂x²)dt.

Стохастичні диференціальні рівняння

СДР має вигляд:

де μ - дрейф, σ - волатильність, Wₜ - броунівський рух.

∫₀ᵗ f(s) dW(s) = lim Σ f(tᵢ) [W(tᵢ₊₁) - W(tᵢ)]

Асимптотична теорія

Великі відхилення

Теорія великих відхилень вивчає ймовірність рідкісних подій:

де I(A) - швидкісна функція (rate function).

Локальні граничні теореми

Вивчають локальну поведінку розподілів сум випадкових величин навколо центральної точки.

Розширена теорія ймовірності - фундамент сучасної науки

Вона відкриває нові можливості для розуміння випадковості та невизначеності

© 2024 Наукові симуляції. Всі права захищені.

P(Xₙ ∈ A) ≈ exp(-nI(A))

Часті запитання

Спробуйте наживо

Усе, що вище, працює прямо у вашому браузері — відкрийте Spirograph і змінюйте параметри під час роботи. Нічого не встановлюється, нічого не завантажується на сервер, уся модель живе в одній вкладці.