Sieci neuronowe z aktywacją: od jednego przepuszczalnego neurona do rysunku potrąceń

Jedna neurona: naczynie z otworem, które wystrzela

Rzeczywiste neurony komunikują się za pomocą krótkich impulsów elektrycznych o charakterze albo cało lub nic, zwanych potrąceniami (spikes), a nie za pomocą sygnału ciągłego i ciągle zmieniającego się. Najprostsza model, który uwzględnia to, jest neuronem z integrowaniem i wystrzępianiem (LIF): pojedyncza zmienna, potencjał membranowy V, akumuluje przychodzący przepływ elektryczny podobnie jak woda wypełnia naczynie, podczas gdy stały strumień uwalnia ciągle V powrotem do wartości spoczynkowej. Gdy V przekroczy próg, neurona wystrzeli potrącenie (spike), V jest zresetowane i cała proces ponownie się rozpoczęwa.

τ · dV/dt = −(V − V_rest) + R · I(t) jeśli V ≥ V_threshold: emit a spike V ← V_reset // silny reset, potem kontynuuje się strumień Termijnowy strumień jest to, co daje modelowi jego nazwę i charakter: bez niego każdy przepływ elektryczny, nawet najmniejszy, w końcu spowodowałby przekroczenie prógu V. Z nim neurona wystrzela tylko wtedy, gdy przychodzące potrącenia dotarły szybciej niż strumień mógłby je zmyć, co sprawia, że model jest naturalnie czuły na szybkość i czas przychodzących potrąceń, a nie tylko ich liczbę całkowitą — co bardzo podobne do zachowania rzeczywistych neuronów, o znacznie niższych kosztach obliczeniowych modelowania pojedynczych kanałów jonowych.

τ · dV/dt = −(V − V_rest) + R · I(t)

if V ≥ V_threshold:
    emit a spike
    V ← V_reset          // hard reset, then the leak resumes

Podłączenie neuronów

Sieć połączona jest wieloma neuronami LIF poprzez sinapsy: gdy neuron presynaptyczny wydaje sięcze, przekazuje mały impuls prądu lub skok w conductancji każdemu z neuronów postsynaptycznych, do których jest podłączony, po pewnym opóźnieniu kondukcji. Każda sinapsa ma wagę i znak — sinapse excitatory przesuwa potencjał neuronu postsynaptycznego w górę, ku próbie aktywacji, a sinapses inhibitory przesuwa go w dół, oddalając od próby aktywacji. Całkowity zachowanie sieci — cichy, szmerający, rytmicznie wybuchowy lub niekontrolowany — powstaje jedynie z tego, jak tysiące takich małych przesunięć i nacisków dodają się moment po momencie, bez żadnego neuronu w stanie kontrolować wynik.

Dlaczego sieć potrzebuje inhibicji

Połączenie plynne i jedynie podtrzymujące jest niestabilne z punktu widzenia konstrukcyjnego: jedna neuron, który aktywuje się, podtrzymuje swoich sąsiadów, którzy w turze aktywują swoje sąsiedzi, aż gdy aktywność przekroczy krytyczną gęstość, cała sieć może spowodować cascadejową aktywność, podobną do ataku epileptycznego. Przegłębne tkanki koróbowe unikają tego z dokładnie równowanym zestawieniem, w którym około cztery neuronów podtrzymujące są dla każdego inhibicyjnego, gdzie populacja inhibicyjna stosuje negatywną odwracającą się reakcję, która rośnie automatycznie wraz z ogólnej aktywnością sieci — więcej aktywacji przyciąga więcej inhibicji, co tłumia ranne przebiegi przed tym, jak mogą rozwinąć się. Ten równowagowy stosunek podtrzymującego do inhibicyjnego jest jednym z najbardziej odpornych zasad organizacyjnych znalezionych w połączeniach korowych, a symulacje dostosowujące proporcję podtrzymująca/inhibicyjna powtarzają tę samą kwalitatywną przejście od cicha do rannej aktywności, które jest widoczne w rzeczywistej tkance korowej i w modelach rozpoczęcia ataku epileptycznego.

Asynchroniczne szmerowanie wobec zespolew synchronicznych

Narysuj każdy czas ognia neuronu jako punkt na rastrowym wykresie — jedna linia dla każdego neurona, jeden punkt dla każdego ognia — i pojawia się dwa jakościowo różne rejimy w zależności od siły sprzężenia i statystyk wejściowych. W reji asynchronicznym, słabe lub rzadkie sprzężenia oraz szumowe wejście pozwalają neuronom ognieć głównie na podstawie własnej historii wejściowej, tworząc nieporząkany rozrzut punktów po całym rastrowym wykresie bez jasno widocznej struktury — to rejim najbardziej powiązany z efektywnym kodowaniem informacji, ponieważ zespół synchroniczny przekazuje znacznie mniej niezależnych informacji niż nieporząkany ogniejący się. W reji synchronicznym, silne sprzężenia rekurencyjne oraz krótkie opóźnienia pozwalają na to, aby ognie neuronu w jednym kroku czasowego spowodowały wiarygodne ognie sąsiednich neuronów, zmuszając duże grupy neuronów do zachowania tej samej faz ognia i tworząc pionowe pasma na rastrowym wykresie — bliższe kolektownemu szmerowaniu obserwowanemu w rozwoju tkanki nerwowej, w niektórych stanach chorobowych, oraz w generatorach wzorców centralnych, które zamiernie produkują rytmiczne, synchroniczne wyjście.

Dlaczego nie używać modelu prawa?

Prostsze modele przedstawiają każdy neuron jako pojedynczą ciągłą stawkę ogniskową zamiast dyskretnych potrzasków, co sprawia, że są tańsze do symulacji i łatwiejsze do analizy. Ale zmniejszanie potrzasków do stawki ogniskowej spowoduje stratę exactly informacji czasowych, na które zależne są zjawiska synchronizacji — dwa neurony o identycznej średniej stawkie mogą być idealnie synchronizowane lub całkowicie przesunięte, a tylko model potrzaskowy może rozróżnić te różnice. To cała parapecja symulowania pojedynczych potrzasków zamiast stawek: ciekawe fizyka tutaj, od oscylacji na szeroką skalę po ostrej przejściowość między szmerem a synchronizacją, żyje w stosunku czasowym potrzasków, a nie w ich średniej częstotliwości.

Często zadawane pytania

Wypróbuj na żywo

Wszystko powyżej działa bezpośrednio w Twojej przeglądarce — otwórz Leaky Integrate-and-Fire Neural Network Simulation i zmieniaj parametry podczas działania. Nic nie jest instalowane ani przesyłane na serwer, cały model działa w jednej karcie.