🧭 Класифікатор Бізнес-Рішень — Логістична Регресія Наживо

Тому що межа рішення логістичної регресії — множина точок, де p = 0.5 — завжди є точно прямою лінією (w1·x + w2·y + b = 0), або гіперплощиною у вищих вимірах. Коли два класи результатів справді перетинаються (як у пресеті «Overlapping») або справжня роздільна закономірність вигнута чи нелінійна, жоден вибір w1, w2, b не зможе звести втрату до нуля. Навчання все одно збігається — воно знаходить єдину пряму лінію, що мінімізує сумарну крос-ентропію, — просто не може досягти ідеальної точності на даних, які не є лінійно роздільними.

Швидкість навчання η масштабує кожен крок градієнта: w ← w – η·∂L/∂w. Оскільки поверхня крос-ентропійної втрати для логістичної регресії є гладкою опуклою чашею, занадто велика η спричиняє перестрибування мінімуму оновленнями, через що крива втрати коливається або розходиться замість того, щоб усталитися. Занадто мала η робить кожен крок ледь помітним зрушенням ваг, тож навчання повзе до збіжності й марнує значно більше кроків, ніж потрібно — хоча, на відміну від глибоких мереж, воно врешті-решт туди дістанеться, оскільки мінімум лише один.

Для кожного навчального прикладу похибка e = p – y (передбачена ймовірність мінус істинна мітка). Градієнти: ∂L/∂w1 = e·x, ∂L/∂w2 = e·y та ∂L/∂b = e, усереднені по міні-пакету. Вони випливають безпосередньо із застосування ланцюгового правила через логарифмічну втрату та сигмоїду — та сама механіка, що й у зворотному поширенні, лише для мережі без прихованих шарів. Кожен крок оновлення віднімає η, помножене на ці усереднені градієнти, від w1, w2 і b.

Кожен піксель графіка відповідає гіпотетичній парі (оцінка залученості, кількість звернень у підтримку). Прямий прохід обчислює передбачену моделлю ймовірність p у цій точці; піксель забарвлюється в червоний, якщо p < 0.5 (передбачений високий ризик), або в синій, якщо p ≥ 0.5 (передбачений низький ризик), з непрозорістю, пропорційною |p – 0.5| × 2, тож впевнено класифіковані області виглядають яскравими, а зона біля межі згасає. Суцільна лінія проходить точно там, де p = 0.5 — сама лінійна межа рішення.

«Separable» розміщує два кластери далеко один від одного з низькою дисперсією, тож лінія може досягти майже 100% точності — зручно для спостереження за чистою, швидкою збіжністю. «Overlapping» зближує кластери з більшим розкидом, тож деякі точки завжди опиняться не з того боку будь-якої прямої лінії — це показує, що втрата виходить на плато вище нуля, і це очікувана та правильна поведінка, а не помилка. «Noisy» зберігає роздільне розташування, але випадково змінює приблизно 12% міток, імітуючи реальний шум міток і показуючи, як кілька неправильно позначених точок можуть назавжди обмежити досяжну точність.