Синаптична пластичність: Як нейрони вчаться (STDP)

Пам’ять не є фотографією

Пам’ять не зберігається у вигляді фіксованого шаблону будь-де в мозку — це колективна міцність мільярдів модифікованих зв’язків. Кожен синапс може бути посилений або ослаблений відповідно до правил, сформованих еволюцією, і найпростіший із цих правил датується 1949 роком, коли канадський психолог Дональд Хеб вважав: «Коли аксон клітини A знаходиться достатньо близько, щоб стимулювати клітину B і повторно або наполегливо бере участь у її активації, відбувається певний процес росту чи метаболічна зміна… така, що ефективність клітини A збільшується». Це постулат Хебба, зазвичай стиснутий до «нейрони, які спалахують разом, з’єднуються разом».

У безперервному вигляді: dwij/dt = η · yi · xj — але буквально цей принцип нестабільний: оскільки позитивна активність завжди збільшує позитивні ваги, це створює неконтрольований позитивний зворотний зв’язок без верхньої межі. Будь-яка практична реалізація навчання Хебба додає певну нормалізацію або занепад. Правило коваріантності Седжновського 1977 року — використання відхилень від середнього рівня активності замість прямих частот спалаху — було раннім виправленням, і воно концептуально передбачає основний компонент аналізу в нейронних мережах.

Довготривала потенціація (ДТП) та довготривале пригнічення (ДГП): експериментальне підтвердження

Ідея Хебба залишилася теоретичною до 1973 року, коли Таймер Бісс і Терье Льомо відкрили довготривалу потенціацію (ДТП) у гіппокампі кролика: короткий імпульс високої частоти спричиняв тривалий, іноді постійний, збільшення синаптичної ефективності. Доповнююче явище, довготривале пригнічення (ДГП), було підтверджено Масао Іто в 1982 році в мозковому сторожилі. Обидва процеси тепер розуміються через NMDA-рецептор, який є детектором випадків і відкривається лише тоді, коли відбувається одночасний постсинаптичний глутаматний вихід та пресинаптичне деполяризація, дозволяючи Ca²⁺ входити та активувати кінази, які вставляють AMPA-рецептори (ДТП) або фосфатази, які видаляють їх (ДГП). Напрямок зміни залежить від розміру та тривалості отриманого Ca²⁺ сигналу, а не лише від його присутності.

Стимулюваність у залежності від часу спайків (STDP)

Тетнанна стимуляція – це фармакологічна зручність, а не те, як поводяться нейрони під час звичайних активностей. Більш фізіологічно значущий запитання, відповідь на яке дали незалежно Маркрам та співавтворці (1997) і Бі & Поо (1998), полягає в тому, як точний мілісекундний порядок індивідуальних спайків визначає пластичність: стимулюваність у залежності від часу спайків (STDP). Якщо пресинаптичний спайк відбувається перед постсинаптичним спайком (Δt = tpost − tpre > 0), синапс потенціюється; якщо він відбувається після (Δt < 0), синапс депресується. Класичне асимметричне експоненційне вікно навчання виглядає так:

Δw(Δt) = A₊ · exp(−Δt/τ₊) якщо Δt > 0 (LTP) Δw(Δt) = −A₋ · exp(+Δt/τ₋) якщо Δt < 0 Ця часова асиметрія – синапс зміцнюється лише тоді, коли він міг правдоподібно викликати постсинаптичний спайк – часто називається часовою правилом Хебба. Ефективні реалізації уникають зберігання точних часу спайків за допомогою експоненційно розпадаючихся треків придатності для пре- та постсинаптичної активності, які оновлюються на кожному спайку, що є тим, як онлайн STDP працює в реальному часі у моделюваннях мереж нейронів, що спалахують.

Δw(Δt) =  A₊ · exp(−Δt/τ₊)   if Δt > 0   (LTP)
Δw(Δt) = −A₋ · exp(+Δt/τ₋)   if Δt < 0   (LTD)
// τ₊ ≈ τ₋ ≈ 20 ms · A₋ slightly exceeds A₊ (net depression bias)

Зсув порогової критерію BCM

Чисті правила Хебленя та STDP все ще потребують стабілізатора. У 1982 році Бієнстек, Купер і Монро запропонували правило BCM, яке вводить зсувний поріг модифікації θM, що розділяє LTP (тривале зміцнення) та LTD (тривале послаблення): dwi/dt = η·xi·y·(y − θM), де сам θM зростає надлінійно із середньою постсинаптичною активністю. Хронічно малоактивний нейрон бачить, як його поріг падає, полегшуючи потенціювання; гіперактивний — бачить, як він підіймається, схиляючи до депресії. Ця єдина механіка забезпечує стабільність, селективність для корельованих входів і конкуренцію між синапсами, а також правильно передбачає, як монокулярне позбавлення перефорковує колони домінуючих візуальних колін у зоровій кора.

Синаптична пластичність: Регулювання ваги

Синаптична пластичність, зокрема STDP (Spike-Timing Dependent Plasticity), забезпечує швидке навчання нейронів. У той час як STDP впливає на окремі синапси в режимі реального часу, механізм синаптичного масштабування (Turrigiano et al., 1998) діє повільніше, масштабуючи всі синапси нейрона протягом годин або днів. Це дозволяє зберегти відносний розподіл ваг (пам'ять), одночасно відновлюючи середній частоту спайків нейрона до заданого значення. Завдяки цьому, мережі, що розвиваються під впливом STDP на достатньо тривалий термін, схильні до формування бімодального розподілу ваг – синапси згруповані близько нуля або близько максимальної ваги (wmax), а не розподілені по continuum. Це максимізує ємність зберігання та відповідає спостережуваним у окремих дендричних спинлах випадкам одностороннього потенціювання. Таким чином, швидкий STDP і повільне синаптичне масштабування створюють систему з двома часовими шкалами, яка дозволяє навчатися специфічним шаблонам без втрати загальної стабільності.

Часті запитання

Спробуйте наживо

Усе, що вище, працює прямо у вашому браузері — відкрийте the simulation і змінюйте параметри під час роботи. Нічого не встановлюється, нічого не завантажується на сервер, уся модель живе в одній вкладці.