Бутстреп (bootstrap) — потужний непараметричний метод оцінки невизначеності будь-якої статистики — середнього, медіани, кореляції, коефіцієнта регресії — без припущень про вигляд розподілу генеральної сукупності. Ідею запровадив Бредлі Ефрон у 1979 році: вважайте спостережувану вибірку замінником генеральної сукупності й багаторазово відбирайте з неї нові вибірки того ж розміру з поверненням (одне спостереження може з'явитись кілька разів). Обчислення статистики на кожній такій «бутстрепній вибірці» будує емпіричний розподіл вибіркової статистики, з якого безпосередньо отримують довірчі інтервали.
У симуляторі обирається розподіл генеральної сукупності (нормальний, скошений, бімодальний, рівномірний або з важким хвостом), розмір вибірки n, кількість бутстрепних вибірок B, рівень довіри і досліджувана статистика. Після натискання «Запустити» полотно відображає оригінальну вибірку, бутстрепний розподіл статистики і результуючий довірчий інтервал.
Що означає «відбір з поверненням»?
При побудові бутстрепної вибірки розміром n з n оригінальних спостережень кожне спостереження вибирається незалежно, фіксується і повертається до пулу перед наступним вибором. Це означає, що одне спостереження може потрапити 0, 1, 2 і більше разів у одну бутстрепну вибірку. В середньому кожна вибірка містить ~63,2% унікальних спостережень (1 − 1/e), решта — повтори.
Скільки бутстрепних вибірок B потрібно для точних довірчих інтервалів?
Для процентильного бутстрепу B = 1000 достатньо для 95%-ДІ у більшості випадків; B = 10000 рекомендується для 99%-ДІ або при вивченні хвостових квантилів. Стандартна похибка граничних точок ДІ масштабується як 1/√B. Для публікаційних результатів з екстремальними квантилями радять B = 100000.
Що таке процентильний бутстрепний довірчий інтервал?
Після обчислення статистики θ̂* на кожній з B вибірок відсортуйте B значень. Процентильний ДІ рівня 1 − α бере квантиль α/2 як нижню межу і 1 − α/2 як верхню. Для 95%-ДІ з B = 1000 межі — це 25-е і 975-е відсортовані значення. Обґрунтування: бутстрепний розподіл (θ̂* − θ̂) наближає справжній розподіл (θ̂ − θ).
Бутстрепний ДІ кращий, коли: (1) статистика не має простої аналітичної формули стандартної похибки (медіана, IQR, R²); (2) розподіл явно не нормальний або має важкий хвіст; (3) розмір вибірки малий, і асимптотична нормальність сумнівна; (4) потрібна «перевірка» параметричних результатів. Стандартний t-інтервал для середнього є надійним при n ≥ 30 і помірних відхиленнях від нормальності.
Процентильний бутстреп може мати зміщення або неправильне покриття при скошеному розподілі θ̂. Метод BCa (bias-corrected and accelerated) Ефрона коригує рівні квантилів за допомогою поправки на зміщення z₀ (частота θ̂* < θ̂) і константи прискорення a (з джекнайфу). BCa-ДІ мають кращі теоретичні гарантії покриття і рекомендуються для скошених статистик.
Стандартний i.i.d.-бутстреп руйнує часову структуру і не підходить для рядів. Натомість використовуються блоковий бутстреп (ковзний або кругловий блоковий), який вибирає послідовні блоки спостережень, зберігаючи автокореляцію. Стаціонарний бутстреп використовує блоки випадкової довжини з геометричним розподілом. Для просторових даних — просторовий бутстреп або субвибіркові методи.
Ширина ДІ масштабується як 1/√n для статистик з кінцевою дисперсією (наприклад, середнє). Подвоєння n зі 30 до 120 вдвічі зменшує ширину ДІ. Для розподілів з важким хвостом (розподіл Коші не має дисперсії) масштабування 1/√n порушується і бутстрепний ДІ може бути непослідовним. Спробуйте n = 10 проти n = 100 з «важким» розподілом у симуляторі.
Принцип підстановки: будь-яку величину генеральної сукупності оцінюйте, підставляючи замість справжнього розподілу F(x) емпіричну функцію розподілу F̂(x) — ступінчасту функцію з масою 1/n у кожному спостереженні. Бутстрепна вибірка з оригінальних даних — це рівносильно вибірці з F̂. Невизначеність будь-якої статистики характеризується варіацією між бутстрепними вибірками.
Так — це одне з найпопулярніших сучасних застосувань бутстрепу. Метод .632 оцінює помилку моделі, комбінуючи навчальну похибку з похибкою на «позавибіркових» спостереженнях (~37%, не включених у бутстрепну вибірку): error = 0,368 × навч_похибка + 0,632 × позавибіркова_похибка. Scikit-learn і R caret пропонують оцінку моделей на основі бутстрепу.
Бутстреп є непослідовним для статистик, що залежать від крайніх порядкових статистик (максимум, мінімум), оскільки максимум бутстрепної вибірки не може перевищити максимум оригінальної. Він також вимагає, щоб вибірка була репрезентативною: якщо є систематична вибіркова похибка, бутстрепний ДІ її успадковує. Нарешті, обчислювальна вартість зростає з B і n, що може бути суттєвим для повільних моделей або великих наборів даних.
Бутстрепна вибірка показує, наскільки може змінюватись статистика — середнє, медіана чи IQR — якби ви багато разів повторили збір даних, спираючись лише на ту вибірку, яку вже маєте. Замість припущення про дзвоноподібний розподіл генеральної сукупності, метод багаторазово формує нові вибірки з поверненням із наявних даних і щоразу обчислює статистику заново, будуючи емпіричний розподіл, з якого напряму зчитується довірчий інтервал. Метод запропонував Бредлі Ефрон у 1979 році.
Кожен запуск бере n точок із обраної форми розподілу — нормального, скошеного, бімодального, рівномірного або з важким хвостом — і формує з них B бутстреп-вибірок, будуючи гістограму статистики. Затінений процентильний інтервал порівнюється зі справжнім значенням генеральної сукупності, щоб показати, чи потрапляє воно в інтервал.
Оберіть Розподіл генеральної сукупності та Статистику (середнє, медіана, стандартне відхилення, перцентилі чи IQR), тоді налаштуйте Розмір вибірки n, Бутстреп-повтори B і Рівень довіри. Натисніть ▶ Запустити бутстреп, щоб перебудувати розподіл, або 🔀 Нова вибірка для нової оригінальної вибірки.
Ефрон назвав метод на честь виразу «підняти себе за шнурки власних чобіт» — використовуючи лише наявні дані, щоб дізнатись про невизначеність власної оцінки, без жодних припущень про форму генеральної сукупності.
Кожна бутстреп-вибірка формується з n значень оригінальної вибірки, які обираються по одному й повертаються в пул перед наступним вибором, тож одне спостереження може трапитись один раз, кілька разів або жодного — це імітує мінливість нової вибірки.
95-відсотковий інтервал очікувано не міститиме справжнього значення приблизно в одному запуску з двадцяти; натискайте «Нова вибірка», щоб побачити це на практиці — випадкові промахи є нормою методу, а не помилкою.
Кількох тисяч повторів зазвичай достатньо для стабільного процентильного інтервалу. Замало повторів робить межі інтервалу шумними; вищий рівень довіри або статистики на кшталт IQR потребують більшого B для гладшої гістограми.
Гладкі статистики, як середнє, збігаються швидко. Медіана, перцентилі та IQR спираються на впорядковані значення й часто дають більш ступінчасті гістограми та ширші інтервали, особливо при малих вибірках.
Більші вибірки точніше відображають генеральну сукупність, тож бутстреп-розподіл звужується, а інтервал зменшується зі зростанням n. У розподілі з важким хвостом це звуження значно слабше, оскільки статистику визначають екстремальні значення.