Про лінійну регресію — метод найменших квадратів (OLS)
Ця симуляція підбирає пряму лінію до хмари точок даних за допомогою звичайного методу найменших квадратів (OLS). Ви клікаєте по полотну, щоб додати точки, і лінія миттєво оновлюється, мінімізуючи суму квадратів вертикальних залишків. Нахил обчислюється як m = Σ(xᵢ−x̄)(yᵢ−ȳ) / Σ(xᵢ−x̄)², а вільний член як b = ȳ − m·x̄, що дає єдину найкращу лінію для будь-якого набору з двох або більше точок.
Кнопки режимів дозволяють додавати, перетягувати або видаляти точки, а «Показати залишки» вмикає пунктирні вертикальні лінії, які OLS мінімізує. Готові набори даних демонструють ідеальну лінійну відповідність, вплив одного викиду, відсутність кореляції та межі підбору прямої до квадратичних даних. Статистика в реальному часі показує нахил, вільний член, R², коефіцієнт Пірсона r, кількість точок і SSE. Регресія такого роду лежить в основі прогнозування, аналізу тенденцій і машинного навчання.
Поширені запитання
Що таке лінійна регресія?
Лінійна регресія знаходить пряму лінію y = m·x + b, яка найкраще описує зв'язок між двома змінними. Ця сторінка використовує звичайний метод найменших квадратів, який обирає нахил m і вільний член b так, щоб мінімізувати загальну квадратичну вертикальну відстань між кожною точкою даних і лінією.
Як працює звичайний метод найменших квадратів?
OLS вимірює вертикальний залишок для кожної точки, підносить його до квадрата і підсумовує квадрати. Потім він обирає єдину лінію, яка робить цю суму (SSE) якомога меншою. Мінімум має замкнуте аналітичне рішення, тож лінія обчислюється безпосередньо, а не методом проб і помилок.
Що роблять елементи керування на цій сторінці?
«Додати точки», «Перетягнути» і «Видалити» змінюють те, як кліки впливають на хмару точок; «Показати залишки» вмикає пунктирні вертикальні лінії похибок; «Скасувати» повертає останню зміну, а «Очистити все» спорожнює полотно. Кнопки готових наборів завантажують приклади даних, а картки статистики оновлюються в реальному часі: нахил, вільний член, R², коефіцієнт Пірсона r, n і SSE.
Яке рівняння використовується для обчислення лінії?
Нахил дорівнює m = Σ(xᵢ−x̄)(yᵢ−ȳ) / Σ(xᵢ−x̄)², тобто коваріація x і y, поділена на дисперсію x. Вільний член тоді випливає з b = ȳ − m·x̄, що змушує лінію проходити через середню точку (x̄, ȳ).
Що означає R²?
R² — це коефіцієнт детермінації, частка загальної дисперсії y, пояснена лінією: R² = 1 − SSE/SST. Значення 1 означає ідеальну відповідність без залишкової похибки, тоді як 0 означає, що лінія не пояснює нічого понад середнє значення y.
Як коефіцієнт Пірсона r пов'язаний з R²?
Коефіцієнт Пірсона r вимірює силу і напрямок лінійного зв'язку, набуваючи значень від −1 до +1. Для простої лінійної регресії він дорівнює знаковому квадратному кореню з R², тож симуляція бере знак від нахилу: r = sign(m)·√R².
Чому один викид так сильно змінює лінію?
Оскільки OLS підносить кожен залишок до квадрата, точки, далекі від лінії, непропорційно сильно впливають на загальну похибку. Один віддалений викид може помітно зсунути нахил і вільний член, як демонструє готовий набір «Вплив викиду». Саме через цю чутливість метод найменших квадратів нестійкий до екстремальних значень.
Що відбувається з квадратичним набором?
Готовий набір «Квадратичний» генерує криволінійні дані, які жодна пряма не може добре описати. OLS усе одно повертає свою найкращу лінійну відповідність, але залишки лишаються великими, а R² падає, ілюструючи, що лінійна регресія вловлює лише лінійні тенденції і систематично пропускатиме викривлення в даних.
Чи є симуляція математично точною?
Так. Вона використовує точні замкнуті аналітичні формули OLS для нахилу та вільного члена і обчислює SSE, SST, R² і r безпосередньо з точок. Єдині практичні обмеження — це округлення з рухомою комою та той факт, що значення обмежуються видимим діапазоном побудови від 0 до 10.
Де лінійна регресія застосовується в реальному світі?
Це один із найпоширеніших статистичних інструментів, що зустрічається в економіці, біології, інженерії та фінансах для оцінки тенденцій і прогнозування. Вона також слугує базовою моделлю в машинному навчанні, де та сама ідея найменших квадратів узагальнюється на багато змінних-предикторів.