Головна▸
Теорія інформації та кодування▸
Ентропія Шеннона: вимірювання інформації
📶 Ентропія Шеннона: вимірювання інформації
Перетягуйте ймовірності символів і спостерігайте, як ентропія Шеннона H = -Σ p·log2(p) оновлюється наживо, а потім розіграйте бінарний пошук «20 запитань», що показує, чому ентропія — це справжній мінімум середньої кількості бітів на символ.
Теорія інформації та кодування2DСередній60 FPS
ПЕРЕТЯГУЙТЕ · ПРОКРУЧУЙТЕ · КЛІКАЙТЕ — керуйте безпосередньо у вікні симуляції.
Про цю симуляцію
Перетягуйте ймовірності символів і спостерігайте, як ентропія Шеннона H = -Σ p·log2(p) оновлюється наживо, а потім зіграйте в бінарний пошук «20 запитань», що показує, чому ентропія — це справжній мінімум середньої кількості бітів на символ.
Схожі симуляції
Кодування ХаффманаПобудуйте оптимальний префіксний код, повторно об'єднуючи два найрідкісніші символи. Спостерігайте…
Коди ХеммінгаЗмініть один біт у слові, закодованому кодом Хеммінга, і подивіться, як перевірки парності дають синдром, що…
Стиснення LZ77Спостерігайте, як алгоритм стиснення LZ77 з ковзним вікном кодує дані, знаходячи повторювані патерни.