Як працює регресія до середнього

Коли ви відбираєте людей на основі екстремального значення одного вимірювання X, ви відбираєте суміш справжніх здібностей і вище-середнього везіння. При наступному вимірюванні Y везіння повертається до середнього, тому група ніби «погіршується», хоча нічого не змінилося. Це регресія до середнього — статистичний артефакт, а не реальний ефект.

E[Y | X = x] = μ_Y + ρ · (σ_Y / σ_X) · (x − μ_X)

Формула показує, що умовне сподівання Y при конкретному X лежить на прямій з нахилом ρ·(σY/σX). Коли ρ < 1, цей нахил менший за лінію під 45°, тобто екстремальні значення X передбачають значення Y, ближчі до середнього Y, ніж X до свого середнього.

Фрнсіс Ґалтон відкрив це у 1886 році, вивчаючи зріст батьків і дітей: у високих батьків були високі діти, але в середньому не такі високі відносно середнього, як їхні батьки. Він назвав це «регресією до посередності.» Розсіювальна діаграма вище демонструє це за допомогою двовимірного нормального розподілу, де можна налаштувати кореляцію ρ і побачити, як відбір екстремальних результатів призводить до регресії.

Приклади з реального життя: спортсмени, відібрані на піку форми, потім виступають ближче до свого середнього; пацієнти, які звертаються по лікування на піку симптомів і покращуються навіть на плацебо; студенти, відібрані для корекційних програм, покращуються через регресію, а не через програму.

Часті запитання

Про цю симуляцію

Ця симуляція генерує N пар корельованих показників (x, y) із двовимірного нормального розподілу з кореляцією ρ, використовуючи перетворення Бокса–Мюллера для отримання стандартних нормальних значень і формулу y = ρ·x + √(1−ρ²)·z. Потім вона відбирає найкращих за X (за порогом %) і показує, як їхнє середнє значення Y повертається назад до середнього по популяції — це і є справжній статистичний феномен, що стоїть за спортивними «спадами форми», ефектом плацебо в медицині та помилковими оцінками програм втручання.

🔬 Що демонструє

Діаграму розсіювання (або гістограму) показників 1-го проти 2-го періоду для до 600 змодельованих учасників, де топ-X% за показником X виділено жовтим. Фіолетова лінія показує справжнє умовне сподівання E[Y|X] = ρ·X, сіра пунктирна лінія позначає Y=X для порівняння, а червона стрілка показує розрив між середнім X відібраної групи та її фактичним середнім Y — це і є сам ефект регресії.

🎮 Як користуватися

Перетягуйте кореляцію ρ (−1 до 1), щоб змінити, наскільки сильно пов'язані показники 1-го і 2-го періоду, розмір вибірки N (30–600), щоб змінити кількість точок, і поріг відбору (5–50%), щоб змінити, наскільки екстремальною є виділена група. Перемикайтеся між виглядами «Розсіяння», «Гістограма» і «Обидва», натискайте «Нова вибірка» для нового випадкового набору даних, або завантажуйте пресети «Прокляття спортсмена», «Медицина» і «Без кореляції», щоб побачити готові приклади ефекту.

💡 Чи знали ви?

Фрнсіс Ґалтон вперше задокументував цей ефект у 1886 році, вивчаючи зріст батьків і дітей, назвавши його «регресією до посередності» — звідси й походить слово «регресія» у статистиці. Коли ρ = 0 (пресет «Без кореляції»), будь-яка група, відібрана за екстремальними показниками X, регресує повністю до середнього по популяції за Y, оскільки два вимірювання взагалі не мають спільної справжньої інформації.

Поширені запитання

Як симуляція насправді генерує корельовані дані?

Вона отримує два незалежних стандартних нормальних значення z1 і z2 за допомогою перетворення Бокса–Мюллера, встановлює x = z1 і встановлює y = ρ·z1 + √(1−ρ²)·z2. Це стандартна конструкція для пари з двовимірного нормального розподілу з кореляцією ρ: коли ρ близьке до 1, y майже точно повторює x, а коли ρ близьке до 0, y є фактично незалежним шумом.

Як обчислюється «відібрана» група та стрілка регресії?

Симуляція сортує всі N точок за значенням X у спадному порядку і бере верхній зріз, визначений повзунком порога відбору (5–50%). Потім вона обчислює середнє X і середнє Y цієї групи та малює червону стрілку від точки (avgX, avgX) на лінії тотожності Y=X донизу до фактичної точки (avgX, avgY) — наочно показуючи, наскільки реальне середнє Y групи не дотягує до її завищеного середнього X.

Чому нижча кореляція ρ дає сильнішу регресію до середнього?

Фіолетова лінія регресії на діаграмі розсіювання — це E[Y|X] = ρ·X, тож її нахил точно дорівнює ρ. При ρ = 1 ця лінія збігається з Y=X, і регресії немає взагалі; коли ρ зменшується до 0, лінія стає більш горизонтальною, тобто будь-яке екстремальне значення X передбачає значення Y, майже повністю притягнуте назад до загального середнього — нуля.

Що моделюють пресети «Прокляття спортсмена», «Медицина» і «Без кореляції»?

«Прокляття спортсмена» встановлює ρ = 0,5, N = 300 і жорсткий поріг відбору 10%, імітуючи те, як лише справді видатні виступи за один сезон привертають увагу медіа, а потім сильно регресують наступного сезону. «Медицина» використовує ρ = 0,7, N = 150 і поріг 30%, що ближче до того, як пацієнти, які звертаються по лікування на піку симптомів, природно покращуються згодом. «Без кореляції» встановлює ρ = 0, щоб показати крайній випадок, коли відібрані учасники повністю регресують до середнього по популяції.

Чи є показаний тут ефект регресії реальним причинним ефектом чи артефактом?

Це статистичний артефакт відбору за одним зашумленим вимірюванням, а не реальна сила, що тягне показники вниз. Будь-який екстремальний показник частково відображає справжні здібності, а частково — везіння, і оскільки везіння за визначенням не повторюється, наступне вимірювання природно виглядає більш середнім, навіть якщо нічого в базових здібностях не змінилося. Саме тому модель обчислює статистику «Ступінь регресії», а не приписує зміну якомусь реальному втручанню.