Що таке лінійна регресія?

Лінійна регресія — це метод прогнозування, що знаходить лінійну залежність між незалежною змінною (X) та залежною змінною (Y). Модель має вигляд: Y = mX + b.

Алгоритм мінімізує суму квадратів відхилень між прогнозованими та реальними значеннями.

Градієнтний спуск

1. Ініціалізація: Випадкові значення параметрів m та b.

2. Обчислення градієнтів: Часткові похідні функції втрат.

3. Оновлення параметрів: Параметри оновлюються у напрямку антиградієнта.

4. Повторення: До збіжності або досягнення максимальної кількості епох.