Оцінка π за допомогою випадкових точок
Класична демонстрація методу Монте-Карло починається з геометрії. Розгляньмо одиничне коло — радіус 1, з центром у початку координат — вписане в квадрат 2×2. Площа кола дорівнює π·r² = π. Площа квадрата дорівнює 4. Їхнє відношення точно дорівнює π/4.
Тепер згенеруймо N випадкових точок, рівномірно розподілених по квадрату, з координатами (x, y), де і x, і y змінюються від −1 до 1. Для кожної точки перевіримо, чи виконується x² + y² ≤ 1. Якщо так, точка потрапляє всередину кола; назвемо кількість таких точок M. Тоді:
π ≈ 4 × M / N
При 1000 точок можна отримати π ≈ 3.1 — грубо, але впізнавано. При 1 мільйоні точок зазвичай досягається приблизно 3.141 — точність до трьох десяткових знаків. Похибка оцінки Монте-Карло масштабується як 1/√N: щоб отримати ще один додатковий десятковий знак точності, потрібно у 100 разів більше вибірок. Ця повільна збіжність — плата за простоту.
Вражає в цьому не ефективність — існують значно швидші способи обчислити π — а сам принцип, який цей метод демонструє: випадкова вибірка може видобувати точну математичну інформацію з геометрії, ймовірності та фізики однаково.
Інтегрування у високих вимірностях
Традиційні методи чисельного інтегрування, такі як метод трапецій чи метод Сімпсона, працюють, розміщуючи сітку точок обчислення по всій області інтегрування. В одному вимірі N точок дають похибку, що зазвичай масштабується як 1/N² або краще. Але тут є фатальна проблема: у d вимірах сітка з N точками на вісь потребує Nd обчислень загалом.
Для d = 10 вимірів зі 100 точками на вісь це 1020 обчислень — далеко за межами можливостей будь-якого комп'ютера. Для d = 100 необхідна кількість вузлів сітки астрономічно перевищує кількість атомів у видимому Всесвіті. Це прокляття розмірності.
Інтегрування методом Монте-Карло не піддається цьому прокляттю. Ви просто вибираєте N випадкових точок у d-вимірній області й усереднюєте значення підінтегральної функції. Похибка завжди становить 1/√N, незалежно від кількості вимірів. Монте-Карло стає відносно ефективнішим за будь-який ґратковий метод у міру зростання розмірності, тому цей метод домінує в таких галузях, як:
- Квантова хімія (обчислення електронних енергій молекул у сотнях вимірів)
- Статистична фізика (статистичні суми над величезними просторами конфігурацій)
- Фінансові деривативи (ціноутворення опціонів за корельованими багатоактивними моделями)
- Транспорт випромінювання (відстеження мільйонів траєкторій фотонів чи нейтронів)
Витоки в Мангеттенському проєкті
Назву «Монте-Карло» запропонували Станіслав Улам і Джон фон Нейман у 1940-х роках на честь відомого казино-району в Монако — натяк на центральну роль випадковості. Приводом послужив Мангеттенський проєкт, а конкретна задача полягала в дифузії нейтронів у ділильному матеріалі.
Коли нейтрон проходить крізь уран чи плутоній, він проходить через складний ланцюг подій розсіювання, поглинання й поділу, ймовірності яких залежать від властивостей матеріалу та енергії нейтрона. Записати аналітичні рівняння, що відстежують усі можливі траєкторії, неможливо. Але симулювати випадковий шлях одного нейтрона просто — а симуляція мільйонів таких нейтронів статистично відтворює сукупну поведінку ланцюгової реакції.
Енріко Фермі насправді виконував ментальні розрахунки Монте-Карло навіть раніше, використовуючи свою знамениту здатність оцінювати перерізи нейтронних взаємодій за аналогією та подумковою рандомізацією. Але саме Улам формалізував метод, одужуючи від хвороби й граючи в пасьянс — розмірковуючи, яку частку партій можна виграти, не розігруючи їх до кінця.
Фон Нейман одразу побачив застосовність до нейтронних задач і, що вирішально, зрозумів, що щойно побудований комп'ютер ENIAC може механічно виконувати такі симуляції. Перші серйозні розрахунки Монте-Карло виконали на ENIAC у 1947 році, і з того часу метод є незамінним у ядерній фізиці, розробці озброєнь та реакторній інженерії.
Метод Монте-Карло на основі ланцюгів Маркова
Глибша проблема виникає, коли потрібно виконати вибірку з розподілу ймовірностей, який неможливо безпосередньо обернути чи нормалізувати. Це поширена ситуація в баєсівській статистиці, де апостеріорний розподіл параметрів моделі може бути ненормалізованою густиною високої розмірності, пропорційною добутку правдоподібності та апріорного розподілу.
Метод Монте-Карло на основі ланцюгів Маркова (MCMC) розв'язує цю проблему, будуючи ланцюг Маркова — послідовність випадкових станів, де кожен стан залежить лише від попереднього, — стаціонарний розподіл якого дорівнює цільовому розподілу. Після періоду «розігріву» (burn-in), протягом якого ланцюг досягає рівноваги, послідовні стани ланцюга є (корельованими) вибірками з цільового розподілу.
Основоположний алгоритм — Метрополіса-Гастінгса (1953, розширений у 1970):
- Почати зі стану x.
- Запропонувати новий стан x' із пропозиційного розподілу q(x'|x).
- Обчислити коефіцієнт прийняття α = [p(x') · q(x|x')] / [p(x) · q(x'|x)], де p — цільова густина.
- Прийняти x' з імовірністю min(1, α); інакше залишитися в стані x.
- Повторити.
Геніальність цього алгоритму в тому, що нормувальна константа p скорочується у відношенні α — потрібно оцінювати лише ненормалізовану густину. MCMC сьогодні є центральним для баєсівського висновування, передбачення структури білків та симуляції моделі Ізінга в статистичній фізиці, де пряма вибірка з розподілу Больцмана неможлива.
🚶 Подивіться на випадкові блукання в дії: Випадкове блукання — найпростіший процес MCMC — кожен крок є випадковим рухом у новому напрямку. Дослідіть симуляцію випадкового блукання, щоб побачити, як випадкові шляхи досліджують простір, — саме так семплери MCMC орієнтуються в ландшафтах ймовірностей високої розмірності.
Монте-Карло у фінансах
Модель Блека-Шоулза припускає, що ціни акцій рухаються за геометричним броунівським рухом — чистою аналітичною моделлю із замкненою формулою ціноутворення опціонів. Реальні фінансові портфелі набагато складніші: десятки корельованих активів, волатильність, що сама коливається (стохастична волатильність), стрибкоподібні процеси, виплати, залежні від траєкторії, і регуляторні обмеження.
Симуляція Монте-Карло природно справляється з усім цим. Симулюйте тисячі чи мільйони можливих траєкторій ринку протягом строку дії опціону, обчисліть виплату при закінченні терміну для кожного сценарію, дисконтуйте до сьогодення й усередніть. Результат — справедлива вартість опціону за припущеннями вашої моделі.
Цей підхід також живить розрахунки вартості під ризиком (Value at Risk, VaR): симулюйте вартість портфеля за тисячами можливих ринкових сценаріїв на горизонті в один чи десять днів і повідомте рівень збитку, який перевищується лише в 1% (або 5%) сценаріїв. Після фінансової кризи 2008 року більш складні системи стрес-тестування розширили цей підхід на сотні макроекономічних сценаріїв — по суті, масштабний Монте-Карло над просторами економічних станів.
Закон великих чисел і межі похибки
Збіжність методу Монте-Карло гарантується законом великих чисел: зі зростанням N вибіркове середнє майже напевно збігається до істинного середнього. Центральна гранична теорема дає більше інформації: розподіл вибіркового середнього наближено є нормальним, зі стандартним відхиленням σ/√N, де σ — стандартне відхилення величини, що вибирається.
Це дає точну, обчислювану межу похибки — на відміну від багатьох детермінованих чисельних методів, де аналіз похибки вимагає припущень про гладкість. Похибку методу Монте-Карло завжди можна оцінити, запустивши симуляцію кілька разів і виміривши мінливість результатів.
Для зменшення дисперсії й прискорення збіжності практики використовують такі техніки:
- Вибірка за важливістю (importance sampling): вибирати більше з областей, що найбільше внесять у значення інтеграла.
- Антитетичні змінні: для кожної випадкової вибірки також використовувати її «дзеркальне відображення», щоб скасувати корельовані похибки.
- Контрольні змінні: відняти корельовану величину, справжнє середнє якої відоме.
- Квазі-Монте-Карло: замінити псевдовипадкові послідовності послідовностями з низькою розбіжністю (Соболя, Хальтона), які рівномірніше заповнюють простір. На практиці збіжність QMC може наближатись до O(1/N) — драматично швидше за стандартне 1/√N — особливо в помірних розмірностях.
Тривала могутність методу Монте-Карло полягає не всупереч випадковості, а завдяки їй: випадковість забезпечує незміщений, незалежний від розмірності шлях до відповідей, недосяжних детермінованими методами.