🧠 Термодинаміка зустрічає теорію інформації: демон Максвелла та принцип Ландауера

Дві ентропії, одна формула

Ентропія Больцмана — S = k_B · ln(W), де W — кількість мікростанів, сумісних зі спостережуваним макростаном, а k_B = 1.38 × 10⁻²³ Дж/К — стала Больцмана. Для газу в коробці W підраховує кількість способів розташувати всі молекули, зберігаючи ту саму загальну енергію, об'єм і кількість частинок. Велике W (багато мікростанів) означає високу ентропію — система "розкидана" у фазовому просторі.

Інформаційна ентропія Шеннона — H = −Σ p_i · log₂(p_i), де p_i — ймовірності кожного можливого символу повідомлення. H максимальна, коли всі символи рівноймовірні (максимальна невизначеність щодо повідомлення), і дорівнює нулю, коли один символ має ймовірність 1 (повна визначеність). Шеннон показав, що H — єдина функція, що задовольняє природний набір аксіом для вимірювання невизначеності.

Обидві формули ідентичні з точністю до сталої: замініть log₂ на ln і помножте на k_B, щоб перетворити ентропію Шеннона на ентропію Больцмана. Це не просто формальна подібність — вони вимірюють одне й те саме: кількість мікростанів, сумісних із нашим знанням про макростан. Фізична ентропія Є інформаційною ентропією про положення й імпульси молекул.

Демон Максвелла: порушення другого закону?

У 1867 році Джеймс Клерк Максвелл запропонував уявний експеримент, щоб кинути виклик другому закону термодинаміки. Уявіть коробку з газом, розділену перегородкою з маленькими дверцятами. Крихітний "демон" керує дверцятами й може спостерігати за окремими молекулами, що наближаються до них. Демон дозволяє швидким молекулам проходити зліва направо, а повільним — справа наліво, систематично переміщуючи кінетичну енергію з правого відсіку в лівий. Із часом ліва сторона стане гарячою, а права — холодною — температурний градієнт, створений без виконання жодної роботи. Здається, це порушує другий закон.

Десятиліттями фізики пропонували різні розв'язки. Лео Сілард (1929) показав, що сам акт вимірювання демоном, які молекули швидкі, а які повільні, вимагає отримання інформації, і це набуття інформації має коштувати ентропії, еквівалентної зниженню ентропії, яке воно спричиняє. Але аргумент був розпливчастим щодо того, де саме з'являється ця вартість ентропії.

Принцип Ландауера: стирання біта коштує енергії

Стаття Рольфа Ландауера 1961 року дала точну відповідь. Саме вимірювання може бути термодинамічно оборотним — демон із необмеженою пам'яттю може спостерігати за молекулами, не розсіюючи тепло. Незворотний крок — це стирання пам'яті демона. Щоб повторювати процес циклічно, демон зрештою мусить скинути свої регістри пам'яті у відомий стан (стерти старі вимірювання). Це стирання логічно незворотне: багато вхідних станів відображаються в один вихідний стан (стан "стерто"). За теоремою Ліувілля (об'єм фазового простору зберігається в гамільтоновій механіці), логічно незворотні операції мусять десь збільшувати ентропію — і розсіяне тепло становить:

Q_стирання ≥ k_B · T · ln(2)  на кожен стертий біт

За кімнатної температури (T = 300 К) це приблизно 2.9 × 10⁻²¹ джоулів на біт — неймовірно мала величина, але фундаментальна. Демон, стираючи свою пам'ять для повторення процесу, розсіює принаймні стільки ж тепла, скільки становить зниження ентропії, яке він спричиняє. Другий закон врятований — але вартість покладена саме на стирання інформації, а не на вимірювання.

Принцип Ландауера, підтверджений експериментально

У 2012 році Антуан Берю та колеги з ENS Lyon експериментально підтвердили принцип Ландауера, використовуючи колоїдну частинку в оптичній пастці з двома ямами. Положення частинки кодувало один біт (ліва яма = 0, права яма = 1). Стирання біта (примусове переведення частинки в ліву яму незалежно від початкового стану) вивільняло тепло kT·ln(2) на кожне стирання — у межах 5% від межі Ландауера, підтверджуючи принцип за кімнатної температури з точністю до одного біта.

Це встановлює фундаментальну термодинамічну межу для обчислень. Стирання біта коштує щонайменше kT·ln(2) ≈ 0.017 еВ за кімнатної температури. Сучасні транзистори розсіюють ~у 1000 разів більше цього на операцію перемикання — ми ще далекі від межі Ландауера. Але коли чипи наближаються до наномасштабу й до архітектур оборотних обчислень, принцип Ландауера обмежуватиме дизайн чипів.

Оборотні обчислення та термодинаміка алгоритмів

Якщо стирання коштує енергії, а саме обчислення — ні, то логічно оборотне обчислення — де кожен вихід однозначно визначає входи — в принципі може бути термодинамічно безкоштовним. Чарльз Беннетт (1973) показав, що будь-яке обчислення можна зробити логічно оборотним, зберігаючи всі проміжні результати (щоб виходи однозначно визначали входи). Вентиль Тоффолі, вентиль CNOT та вентиль Фредкіна — універсальні оборотні логічні вентилі з нульовою термодинамічною вартістю на операцію (в принципі).

Термодинамічна вартість алгоритму пропорційна не часу виконання, а кількості стирань бітів, які він виконує — інформації, яку він відкидає. Алгоритми сортування, що відкидають інформацію (порівняння, результати яких не зберігаються), сплачують термодинамічну ціну. Повністю оборотні алгоритми сортування існують, але вимагають O(n log n) допоміжних бітів для збереження всіх порівнянь, які треба стерти наприкінці — вартість повертається під час прибирання.