Про Візуалізатор похідної
Похідна f'(x) — це миттєва швидкість зміни функції, яка визначається як границя різницевого відношення: f'(x) = lim(Δx→0) [f(x + Δx) − f(x)] / Δx. Геометрично, січна лінія через точки (x, f(x)) і (x + Δx, f(x + Δx)) має нахил [f(x + Δx) − f(x)] / Δx; коли Δx прямує до нуля, ця січна наближається до дотичної, нахил якої дорівнює f'(x). Диференціювання — це основа математичного аналізу, з застосуваннями всюди: від рівнянь руху Ньютона (F = ma = m·d²x/dt²) до градієнтного спуску в машинному навчанні.
Симулятор будує графік f(x) і анімує згортання січної лінії в дотичну зі зменшенням Δx. Друга панель показує f'(x), обчислену чисельно поряд з аналітичною похідною, дозволяючи порівнювати їх та досліджувати, як правила диференціювання — ланцюгове правило, правило добутку, правило частки — візуально трансформують графік.
Часті запитання
Яке формальне визначення похідної?
Похідна функції f у точці x — це f'(x) = lim(h→0) [f(x+h) − f(x)]/h, за умови, що ця границя існує. Функція називається диференційовною в точці x, якщо ця границя існує і є скінченною. Якщо границя існує зправа і зліва, але вони не рівні, функція має "кут" у точці x (як |x| при x = 0) і не є диференційовною там, хоча є неперервною. Диференційовність передбачає неперервність, але не навпаки — функція Вейєрштрасса неперервна всюди, але ніде не диференційовна.
Що знак похідної говорить про функцію?
Там, де f'(x) > 0, функція зростає; де f'(x) < 0, вона спадає; де f'(x) = 0, функція має стаціонарну точку (можливий максимум, мінімум або сідлову точку). Друга похідна f''(x) уточнює це: якщо f'(x) = 0 і f''(x) > 0, точка є локальним мінімумом; якщо f''(x) < 0 — локальним максимумом. Там, де f''(x) = 0 і f'' змінює знак, функція має точку перегину — де опуклість змінюється з висхідної на низхідну або навпаки.
Що таке ланцюгове правило і чому воно важливе?
Ланцюгове правило стверджує, що якщо y = f(g(x)), то dy/dx = f'(g(x)) · g'(x) — похідна зовнішньої функції, обчислена у внутрішній, помножена на похідну внутрішньої. Це, мабуть, найважливіше правило диференціювання, оскільки майже кожна реальна функція є композицією. У нейронних мережах алгоритм зворотного поширення помилки — це просто повторне застосування ланцюгового правила через кожен шар: градієнти течуть назад як добутки локальних якобіанів, що дозволяє градієнтному спуску навчати глибокі мережі.
Яка різниця між похідною та диференціалом?
Похідна f'(x) — це число (або функція), що представляє миттєву швидкість зміни. Диференціал dy = f'(x) dx — це нескінченно мала лінійна апроксимація зміни y, що відповідає нескінченно малій зміні dx в x. Диференціали корисні для поширення похибок (якщо x має невизначеність Δx, то Δy ≈ f'(x)·Δx), лінійної апроксимації (f(x+h) ≈ f(x) + f'(x)·h для малих h), та як основа диференціальної геометрії на многовидах.
Що таке чисельне диференціювання і які його підводні камені?
Чисельне диференціювання апроксимує f'(x) за допомогою скінченних різниць, наприклад, прямої різниці [f(x+h) − f(x)]/h або центральної різниці [f(x+h) − f(x−h)]/(2h). Центральна різниця має похибку зрізання O(h²) проти O(h) для прямої різниці. Однак використання надто малого h спричиняє катастрофічне скорочення в арифметиці з плаваючою комою: коли h = 10⁻¹⁵ на 64-бітному double, f(x+h) і f(x) збігаються до 15 знаків, і їхня різниця домінується похибкою округлення. Оптимальне h для центральної різниці приблизно дорівнює (ε_машини)^(1/3) ≈ 10⁻⁵ для double.
Що таке автоматичне диференціювання (AD)?
Автоматичне диференціювання обчислює точні похідні комп'ютерних програм (не лише математичних функцій), застосовуючи ланцюгове правило до кожної елементарної арифметичної операції. У прямому режимі AD кожна змінна несе "подвійну" частину, що відстежує її похідну; у зворотному режимі AD (це і є зворотне поширення помилки в ML) програма спершу обчислюється вперед, а потім похідні накопичуються назад через обчислювальний граф. AD уникає як символьної складності правил числення, так і чисельних похибок скінченних різниць, роблячи його стандартним підходом у сучасних фреймворках глибокого навчання, таких як PyTorch і JAX.
Як похідна пов'язана з дотичною лінією?
Дотична лінія до f в точці x₀ — це єдина пряма, що проходить через (x₀, f(x₀)) з нахилом f'(x₀): y = f(x₀) + f'(x₀)(x − x₀). Це найкраще лінійне наближення до f поблизу x₀ — формально, похибка |f(x) − [f(x₀) + f'(x₀)(x − x₀)]| = o(|x − x₀|) при x → x₀. Ця характеристика "маленького о" насправді є сучасним визначенням диференційовності на многовидах, що природно узагальнюється на поверхні та простори вищих вимірностей, де нахили не мають сенсу, але лінійні наближення мають.
Що таке правило Лопіталя?
Правило Лопіталя стверджує, що якщо lim(x→a) f(x) = lim(x→a) g(x) = 0 (або ±∞), то lim(x→a) f(x)/g(x) = lim(x→a) f'(x)/g'(x), за умови, що остання границя існує. Воно розв'язує невизначеності (0/0, ∞/∞). Класичний приклад: lim(x→0) sin(x)/x = lim(x→0) cos(x)/1 = 1. Правило опублікував Гійом де Лопіталь у 1696 році в першому підручнику з диференціального числення, хоча результат вивів Бернуллі і продав його Лопіталю за фінансовою угодою.
Що таке теорема про середнє значення?
Теорема про середнє значення (MVT) стверджує, що якщо f неперервна на [a, b] і диференційовна на (a, b), то існує c ∈ (a, b) таке, що f'(c) = [f(b) − f(a)]/(b − a) — миттєва швидкість зміни дорівнює середній швидкості зміни в деякій внутрішній точці. MVT лежить в основі багатьох фундаментальних результатів: вона доводить, що функція з f'(x) = 0 всюди є сталою, і є основою фундаментальної теореми числення. В інженерії вона обґрунтовує використання локальних вимірювань похідної для висновків про глобальну поведінку.