![Page 1: Rekenen met neuronen 2a: Balanced networksRekenen met neuronen 2a: Balanced networks Fleur Zeldenrust Van Perceptie tot Bewustzijn, 2017. ... Neuronmodellen • Binair neuron ... (Destexhe,](https://reader035.vdocuments.pub/reader035/viewer/2022071510/612f49c81ecc5158694358be/html5/thumbnails/1.jpg)
Rekenen met neuronen 2a: Balanced networks
Fleur Zeldenrust Van Perceptie tot Bewustzijn, 2017
![Page 2: Rekenen met neuronen 2a: Balanced networksRekenen met neuronen 2a: Balanced networks Fleur Zeldenrust Van Perceptie tot Bewustzijn, 2017. ... Neuronmodellen • Binair neuron ... (Destexhe,](https://reader035.vdocuments.pub/reader035/viewer/2022071510/612f49c81ecc5158694358be/html5/thumbnails/2.jpg)
Tot nu toeNetwerken • Feedforward netwerken
• Perceptron • Recurrente netwerken
• Hopfield netwerk • Attractor netwerken
Neuronmodellen • Binair neuron • Rate neuron
Coding • local • distributed
2
0
1
0
1
0
1
1
1
0
1
1
1
Oma Jennifer Aniston Scarlett Johannson
Oma Jennifer Aniston
Scarlett Johannson
![Page 3: Rekenen met neuronen 2a: Balanced networksRekenen met neuronen 2a: Balanced networks Fleur Zeldenrust Van Perceptie tot Bewustzijn, 2017. ... Neuronmodellen • Binair neuron ... (Destexhe,](https://reader035.vdocuments.pub/reader035/viewer/2022071510/612f49c81ecc5158694358be/html5/thumbnails/3.jpg)
(Neuron)modellen
Wat is een goed model?
3
![Page 4: Rekenen met neuronen 2a: Balanced networksRekenen met neuronen 2a: Balanced networks Fleur Zeldenrust Van Perceptie tot Bewustzijn, 2017. ... Neuronmodellen • Binair neuron ... (Destexhe,](https://reader035.vdocuments.pub/reader035/viewer/2022071510/612f49c81ecc5158694358be/html5/thumbnails/4.jpg)
(Neuron)modellenWat is een goed model?
• Zo eenvoudig mogelijk • inzicht: je kunt iets begrijpen wat je anders niet kunt • analytisch oplosbaar? (ipv simulaties) • Ockhams (1287–1347) razor: "among competing
hypotheses, the one with the fewest assumptions should be selected"
• Kwantificeerbaar (model evaluation)
• Maar niet té eenvoudig! • Een rate model kan intrinsic bursting niet verklaren
4
![Page 5: Rekenen met neuronen 2a: Balanced networksRekenen met neuronen 2a: Balanced networks Fleur Zeldenrust Van Perceptie tot Bewustzijn, 2017. ... Neuronmodellen • Binair neuron ... (Destexhe,](https://reader035.vdocuments.pub/reader035/viewer/2022071510/612f49c81ecc5158694358be/html5/thumbnails/5.jpg)
–Larry Abbot, 1994 (about networks of rate-based neurons)
“It should be emphasized that simplicity is one of the great virtues of these network models since it allows phenomena to be studied in
enough detail to provide new insights. People eager for more complexity can always study the
biological system itself”
5
![Page 6: Rekenen met neuronen 2a: Balanced networksRekenen met neuronen 2a: Balanced networks Fleur Zeldenrust Van Perceptie tot Bewustzijn, 2017. ... Neuronmodellen • Binair neuron ... (Destexhe,](https://reader035.vdocuments.pub/reader035/viewer/2022071510/612f49c81ecc5158694358be/html5/thumbnails/6.jpg)
Overzicht• Introductie neurale netwerken en neural coding
• Encoding modellen • college 1a: binair neuron & feed-forward perceptron • college 1b: rate neuron & recurrente ‘attractor'
netwerken • college 2a: integrate-and fire neuron & recurrente
‘balanced' netwerken
• Decoding • college 2b: wat is informatie?
6
![Page 7: Rekenen met neuronen 2a: Balanced networksRekenen met neuronen 2a: Balanced networks Fleur Zeldenrust Van Perceptie tot Bewustzijn, 2017. ... Neuronmodellen • Binair neuron ... (Destexhe,](https://reader035.vdocuments.pub/reader035/viewer/2022071510/612f49c81ecc5158694358be/html5/thumbnails/7.jpg)
College 2a/bIets complexer / biologisch realistischer:
2a: Waar komt onregelmatige hersenactiviteit vandaan?
• Leaky integrate-and-fire neuron-model • Temporal coding versus rate coding • Recurrente netwerken: Balanced networks
2b: Decoding: hoe interpreteer ik gemeten data?
7
![Page 8: Rekenen met neuronen 2a: Balanced networksRekenen met neuronen 2a: Balanced networks Fleur Zeldenrust Van Perceptie tot Bewustzijn, 2017. ... Neuronmodellen • Binair neuron ... (Destexhe,](https://reader035.vdocuments.pub/reader035/viewer/2022071510/612f49c81ecc5158694358be/html5/thumbnails/8.jpg)
Iets complexer / biologisch realistischer:
2a: Waar komt onregelmatige hersenactiviteit vandaan?
• Leaky integrate-and-fire neuron-model • Temporal coding versus rate coding • Recurrente netwerken: Balanced networks
2b: Decoding: hoe interpreteer ik gemeten data?
8
College 2a/b
![Page 9: Rekenen met neuronen 2a: Balanced networksRekenen met neuronen 2a: Balanced networks Fleur Zeldenrust Van Perceptie tot Bewustzijn, 2017. ... Neuronmodellen • Binair neuron ... (Destexhe,](https://reader035.vdocuments.pub/reader035/viewer/2022071510/612f49c81ecc5158694358be/html5/thumbnails/9.jpg)
In vitro
9Mainen & Sejnowski, 1995
In vitro: • (on)regelmatig vuurgedrag:
hangt van stimulus af • weinig trial-to-trial variability
![Page 10: Rekenen met neuronen 2a: Balanced networksRekenen met neuronen 2a: Balanced networks Fleur Zeldenrust Van Perceptie tot Bewustzijn, 2017. ... Neuronmodellen • Binair neuron ... (Destexhe,](https://reader035.vdocuments.pub/reader035/viewer/2022071510/612f49c81ecc5158694358be/html5/thumbnails/10.jpg)
In vivo
10Reich et al, 1997
In vivo: • onregelmatig vuurgedrag • trial-to-trial variability
![Page 11: Rekenen met neuronen 2a: Balanced networksRekenen met neuronen 2a: Balanced networks Fleur Zeldenrust Van Perceptie tot Bewustzijn, 2017. ... Neuronmodellen • Binair neuron ... (Destexhe,](https://reader035.vdocuments.pub/reader035/viewer/2022071510/612f49c81ecc5158694358be/html5/thumbnails/11.jpg)
Trial-to-trial variability
11
1) Fano factor F• Geef een neuron (in vivo) een
constante stimulus • Tel het aantal actiepotentialen
in een interval • herhaal verschillende keren
(trials) • F = variance / mean • Poisson proces (stochastisch
proces): F = 1
Hoe meet je ‘variability’? Verandering gedrag over metingen
![Page 12: Rekenen met neuronen 2a: Balanced networksRekenen met neuronen 2a: Balanced networks Fleur Zeldenrust Van Perceptie tot Bewustzijn, 2017. ... Neuronmodellen • Binair neuron ... (Destexhe,](https://reader035.vdocuments.pub/reader035/viewer/2022071510/612f49c81ecc5158694358be/html5/thumbnails/12.jpg)
Irregular firing
12
2) Coefficient of variation Cv• Kijk naar de Inter-Spike
Interval (ISI) distributie • Cv = standaarddeviatie /
gemiddelde • Poisson proces
(stochastisch proces): Cv = 1
Hoe meet je ‘onregelmatig vuurgedrag’ (irregular firing)? Regelmaat spike train binnen 1 meting
![Page 13: Rekenen met neuronen 2a: Balanced networksRekenen met neuronen 2a: Balanced networks Fleur Zeldenrust Van Perceptie tot Bewustzijn, 2017. ... Neuronmodellen • Binair neuron ... (Destexhe,](https://reader035.vdocuments.pub/reader035/viewer/2022071510/612f49c81ecc5158694358be/html5/thumbnails/13.jpg)
Conclusie in vivo gedragConclusie: in in vivo awake states, vertonen veel corticale neuronen onregelmatig vuurgedrag en trial-to-trial variability:
• Fano factor aantal spikes over trials F ≈ 1 • Coëfficient of variation inter-spike interval Cv ≈ 1
Hoe komt dat? Om dit te onderzoeken hebben we een neuron-model nodig dat actiepotentialen maakt.
13
![Page 14: Rekenen met neuronen 2a: Balanced networksRekenen met neuronen 2a: Balanced networks Fleur Zeldenrust Van Perceptie tot Bewustzijn, 2017. ... Neuronmodellen • Binair neuron ... (Destexhe,](https://reader035.vdocuments.pub/reader035/viewer/2022071510/612f49c81ecc5158694358be/html5/thumbnails/14.jpg)
Iets complexer / biologisch realistischer:
2a: Waar komt onregelmatige hersenactiviteit vandaan?
• Leaky integrate-and-fire neuron-model • Temporal coding versus rate coding • Recurrente netwerken: Balanced networks
2b: Decoding: hoe interpreteer ik gemeten data?
14
College 2a/b
![Page 15: Rekenen met neuronen 2a: Balanced networksRekenen met neuronen 2a: Balanced networks Fleur Zeldenrust Van Perceptie tot Bewustzijn, 2017. ... Neuronmodellen • Binair neuron ... (Destexhe,](https://reader035.vdocuments.pub/reader035/viewer/2022071510/612f49c81ecc5158694358be/html5/thumbnails/15.jpg)
Neuronmodellen: Leaky integrate-and-fire
Tot nu toe: geen membraanpotentiaal, geen actiepotentialen
Modelleren van sub-threshold membraanpotentiaal: leaky integrate-and-fire (LIF) neuron
15
CdV
dt= �g(V � EL) + I
als V > VT :
actiepotentiaal!
V ! Vr
![Page 16: Rekenen met neuronen 2a: Balanced networksRekenen met neuronen 2a: Balanced networks Fleur Zeldenrust Van Perceptie tot Bewustzijn, 2017. ... Neuronmodellen • Binair neuron ... (Destexhe,](https://reader035.vdocuments.pub/reader035/viewer/2022071510/612f49c81ecc5158694358be/html5/thumbnails/16.jpg)
Neuronmodellen: Leaky integrate-and-fire
1. Een neuron wordt beschreven door zijn membraanpotentiaal V
2. Deze gaat omhoog door input, anders terug naar EL
3. Als V voorbij drempelwaarde VT: actiepotentiaal
4. Deze wordt verder niet beschreven, wel reset erna Vr
5. Aanname: lineair neuron (relatie input en membraanpotentiaal)
6. Equivalent elektrisch circuit 16
CdV
dt= �g(V � EL) + I
als V > VT :
actiepotentiaal!
V ! Vr
![Page 17: Rekenen met neuronen 2a: Balanced networksRekenen met neuronen 2a: Balanced networks Fleur Zeldenrust Van Perceptie tot Bewustzijn, 2017. ... Neuronmodellen • Binair neuron ... (Destexhe,](https://reader035.vdocuments.pub/reader035/viewer/2022071510/612f49c81ecc5158694358be/html5/thumbnails/17.jpg)
Equivalent circuit• g = geleidbaarheid (of conductantie) =(1/weerstand)
• g = ‘hoeveel ionkanalen staan er open’
• EL =omkeerpotentiaal (Nernst, neurofysiologie)
• C = capaciteit (membraaneigenschap)
17
CdV
dt= �g(V � EL) + I
als V > VT :
actiepotentiaal!
V ! Vr
![Page 18: Rekenen met neuronen 2a: Balanced networksRekenen met neuronen 2a: Balanced networks Fleur Zeldenrust Van Perceptie tot Bewustzijn, 2017. ... Neuronmodellen • Binair neuron ... (Destexhe,](https://reader035.vdocuments.pub/reader035/viewer/2022071510/612f49c81ecc5158694358be/html5/thumbnails/18.jpg)
Eigenschappen LIFTijdsconstante / integratietijd (τm= C/g)
• dus: hoe kleiner de geleidbaarheid, hoe ‘langzamer' het neuron
18time
mem
bran
e po
tent
ial
langzaam neuronsnel neuron
![Page 19: Rekenen met neuronen 2a: Balanced networksRekenen met neuronen 2a: Balanced networks Fleur Zeldenrust Van Perceptie tot Bewustzijn, 2017. ... Neuronmodellen • Binair neuron ... (Destexhe,](https://reader035.vdocuments.pub/reader035/viewer/2022071510/612f49c81ecc5158694358be/html5/thumbnails/19.jpg)
time
mem
bran
e po
tent
ial
time
mem
bran
e po
tent
ial
langzaam neuronsnel neuron
Eigenschappen LIFTijdsconstante / integratietijd (τm= g/C)
• dus: hoe kleiner de geleidbaarheid, hoe ‘langzamer' het neuron
• Maar ook: hoe belangrijker optelling is • ‘coincidence detector’ versus 'integrator'
19
![Page 20: Rekenen met neuronen 2a: Balanced networksRekenen met neuronen 2a: Balanced networks Fleur Zeldenrust Van Perceptie tot Bewustzijn, 2017. ... Neuronmodellen • Binair neuron ... (Destexhe,](https://reader035.vdocuments.pub/reader035/viewer/2022071510/612f49c81ecc5158694358be/html5/thumbnails/20.jpg)
Eigenschappen LIFVuurfrequentie
• rood: zonder achtergrondinput
• groen: gevolg stochasticiteit (‘gain modulation’)
• blauw: gevolg grotere geleidbaarheid
(Destexhe 2007)20
![Page 21: Rekenen met neuronen 2a: Balanced networksRekenen met neuronen 2a: Balanced networks Fleur Zeldenrust Van Perceptie tot Bewustzijn, 2017. ... Neuronmodellen • Binair neuron ... (Destexhe,](https://reader035.vdocuments.pub/reader035/viewer/2022071510/612f49c81ecc5158694358be/html5/thumbnails/21.jpg)
De ‘high conductance state’ (Destexhe, Rudolph, Paré. 2003)In vivo krijgt een neuron een continu ‘bombardement’ aan synaptische input, met als gevolg:
• Respons wordt stochastisch, ipv deterministisch
• hoge geleidbaarheid, kleine tijdconstante: gevoeliger voor synchrone input, minder voor niet synchroon
• grotere responsiveness voor kleine inputs, minder voor grote (‘gain modulation’)
• lichte verhoging membraanpotentiaal • spontaan actief
21
![Page 22: Rekenen met neuronen 2a: Balanced networksRekenen met neuronen 2a: Balanced networks Fleur Zeldenrust Van Perceptie tot Bewustzijn, 2017. ... Neuronmodellen • Binair neuron ... (Destexhe,](https://reader035.vdocuments.pub/reader035/viewer/2022071510/612f49c81ecc5158694358be/html5/thumbnails/22.jpg)
Iets complexer / biologisch realistischer:
2a: Waar komt onregelmatige hersenactiviteit vandaan?
• Leaky integrate-and-fire neuron-model • Temporal coding versus rate coding • Recurrente netwerken: Balanced networks
2b: Decoding: hoe interpreteer ik gemeten data?
22
College 2a/b
![Page 23: Rekenen met neuronen 2a: Balanced networksRekenen met neuronen 2a: Balanced networks Fleur Zeldenrust Van Perceptie tot Bewustzijn, 2017. ... Neuronmodellen • Binair neuron ... (Destexhe,](https://reader035.vdocuments.pub/reader035/viewer/2022071510/612f49c81ecc5158694358be/html5/thumbnails/23.jpg)
Irregular firingWaarom vertonen corticale neuronen onregelmatig vuurgedrag?
• Softky & Koch (1993, 1995): • Als neuronen heel veel zeer zwakke input
zouden krijgen, dan zouden ze juist heel regelmatig moeten vuren: middelt uit!
• Dus: • óf er moeten pieken van synchrone
activiteit in achtergrondactiviteit zitten • óf dendrieten moeten heel sterk niet-lineair
zijn23
![Page 24: Rekenen met neuronen 2a: Balanced networksRekenen met neuronen 2a: Balanced networks Fleur Zeldenrust Van Perceptie tot Bewustzijn, 2017. ... Neuronmodellen • Binair neuron ... (Destexhe,](https://reader035.vdocuments.pub/reader035/viewer/2022071510/612f49c81ecc5158694358be/html5/thumbnails/24.jpg)
Irregular firingWaarom vertonen corticale neuronen onregelmatig vuurgedrag?
• Shadlen & Newsome (1994, 1998): • Als er een sterke balans is tussen excitatie en
inhibitie, dan reageren neuronen vooral op afwijkingen van het gemiddelde
• Dit geeft onregelmatig vuurgedrag zonder dat er synchronisaties in de input zitten
24
![Page 25: Rekenen met neuronen 2a: Balanced networksRekenen met neuronen 2a: Balanced networks Fleur Zeldenrust Van Perceptie tot Bewustzijn, 2017. ... Neuronmodellen • Binair neuron ... (Destexhe,](https://reader035.vdocuments.pub/reader035/viewer/2022071510/612f49c81ecc5158694358be/html5/thumbnails/25.jpg)
Irregular firingWaarom vertonen corticale neuronen onregelmatig vuurgedrag?
Twee tegengestelde verklaringen
• Softky en Koch: gesynchroniseerde input → de timing van elke actiepotentiaal telt!
• Shadlen en Newsome: balance excitation & inhibition → de timing van actiepotentialen is stochastisch, alleen de vuurfrequentie telt
• ‘Temporal coding’ versus ‘Rate coding'25
![Page 26: Rekenen met neuronen 2a: Balanced networksRekenen met neuronen 2a: Balanced networks Fleur Zeldenrust Van Perceptie tot Bewustzijn, 2017. ... Neuronmodellen • Binair neuron ... (Destexhe,](https://reader035.vdocuments.pub/reader035/viewer/2022071510/612f49c81ecc5158694358be/html5/thumbnails/26.jpg)
Iets complexer / biologisch realistischer:
2a: Waar komt onregelmatige hersenactiviteit vandaan?
• Leaky integrate-and-fire neuron-model • Temporal coding versus rate coding • Recurrente netwerken: Balanced networks
2b: Decoding: hoe interpreteer ik gemeten data?
26
College 2a/b
![Page 27: Rekenen met neuronen 2a: Balanced networksRekenen met neuronen 2a: Balanced networks Fleur Zeldenrust Van Perceptie tot Bewustzijn, 2017. ... Neuronmodellen • Binair neuron ... (Destexhe,](https://reader035.vdocuments.pub/reader035/viewer/2022071510/612f49c81ecc5158694358be/html5/thumbnails/27.jpg)
Balanced networksCorticale neuronen in awake in vivo states vertonen onregelmatig vuurgedrag • Waardoor? • Wat voor eigenschappen heeft de
achtergrondactiviteit?
• Hoe gedraagt een groot netwerk (10.000 neuronen) zich?
• van Vreeswijk & Sompolinsky 1996, Amit & Brunel 1997, Brunel 2000
27
![Page 28: Rekenen met neuronen 2a: Balanced networksRekenen met neuronen 2a: Balanced networks Fleur Zeldenrust Van Perceptie tot Bewustzijn, 2017. ... Neuronmodellen • Binair neuron ... (Destexhe,](https://reader035.vdocuments.pub/reader035/viewer/2022071510/612f49c81ecc5158694358be/html5/thumbnails/28.jpg)
Balanced networks• Zeer groot netwerk van neuronen
(~10000)
• 2 populaties: excitatoir en inhibitoir
• verbindingen: willekeurig en sparse (zoals in cortex)
• w = synapssterkte • g = relatieve sterkte
inhibitoire synaps
• Gevolg: gedrag netwerk hangt af van sterkte verbindingen w, externe input (en delay synaps)
28
Excitatoir Nex = 4 Ninh
Inhibitoir
w
gw
externe input
externe input
![Page 29: Rekenen met neuronen 2a: Balanced networksRekenen met neuronen 2a: Balanced networks Fleur Zeldenrust Van Perceptie tot Bewustzijn, 2017. ... Neuronmodellen • Binair neuron ... (Destexhe,](https://reader035.vdocuments.pub/reader035/viewer/2022071510/612f49c81ecc5158694358be/html5/thumbnails/29.jpg)
Balanced networks
29
Brunel, 2000sterkte inhibitoire synapsen
ster
kte
exte
rne
inpu
t
![Page 30: Rekenen met neuronen 2a: Balanced networksRekenen met neuronen 2a: Balanced networks Fleur Zeldenrust Van Perceptie tot Bewustzijn, 2017. ... Neuronmodellen • Binair neuron ... (Destexhe,](https://reader035.vdocuments.pub/reader035/viewer/2022071510/612f49c81ecc5158694358be/html5/thumbnails/30.jpg)
naam netwerk activiteit
individueel neuron
SR synchroon (oscillaties) regelmatig
SI synchroon (oscillaties) onregelmatig
AR asynchroon (constant) regelmatig
AI asynchroon (constant) onregelmatig
Balanced networks
30
SR SI
AR AI
![Page 31: Rekenen met neuronen 2a: Balanced networksRekenen met neuronen 2a: Balanced networks Fleur Zeldenrust Van Perceptie tot Bewustzijn, 2017. ... Neuronmodellen • Binair neuron ... (Destexhe,](https://reader035.vdocuments.pub/reader035/viewer/2022071510/612f49c81ecc5158694358be/html5/thumbnails/31.jpg)
Dus wie heeft er gelijk?• Theorie van balanced networks lijkt conclusie van
Shadlen & Newsome te onderschrijven: onregelmatig vuren door balans excitatie / inhibitie
• Echter, zij geven zelf ook toe dat synchronisaties en betrouwbare patronen in de tijd wel degelijk bestaan
• De jury is er nog niet over uit!
• Hangt waarschijnlijk af van hersengebied, toestand, etc
• Bovendien: kwestie van tijdschaal!
31
![Page 32: Rekenen met neuronen 2a: Balanced networksRekenen met neuronen 2a: Balanced networks Fleur Zeldenrust Van Perceptie tot Bewustzijn, 2017. ... Neuronmodellen • Binair neuron ... (Destexhe,](https://reader035.vdocuments.pub/reader035/viewer/2022071510/612f49c81ecc5158694358be/html5/thumbnails/32.jpg)
Wat kun je met een balanced netwerk?
• Hoe sla je er geheugen in op / herken je er objecten mee?
• Selective amplification
32
![Page 33: Rekenen met neuronen 2a: Balanced networksRekenen met neuronen 2a: Balanced networks Fleur Zeldenrust Van Perceptie tot Bewustzijn, 2017. ... Neuronmodellen • Binair neuron ... (Destexhe,](https://reader035.vdocuments.pub/reader035/viewer/2022071510/612f49c81ecc5158694358be/html5/thumbnails/33.jpg)
Selective amplification• Door recurrente excitaties kan sommige input versterkt
worden, andere verzwakt
• Sommige zeer zwakke inputs worden zo versterkt, andere sterke juist verzwakt
• Zo kun je ook patronen opslaan
33
externe input
ei
![Page 34: Rekenen met neuronen 2a: Balanced networksRekenen met neuronen 2a: Balanced networks Fleur Zeldenrust Van Perceptie tot Bewustzijn, 2017. ... Neuronmodellen • Binair neuron ... (Destexhe,](https://reader035.vdocuments.pub/reader035/viewer/2022071510/612f49c81ecc5158694358be/html5/thumbnails/34.jpg)
Transient amplification• Patronen van selective amplification verdwijnen
langzaam als input stopt (versterken zichzelf)
34
externe input
ei
![Page 35: Rekenen met neuronen 2a: Balanced networksRekenen met neuronen 2a: Balanced networks Fleur Zeldenrust Van Perceptie tot Bewustzijn, 2017. ... Neuronmodellen • Binair neuron ... (Destexhe,](https://reader035.vdocuments.pub/reader035/viewer/2022071510/612f49c81ecc5158694358be/html5/thumbnails/35.jpg)
Transient amplification• Patronen van selective amplification verdwijnen
langzaam als input stopt (versterken zichzelf)
• Murphy&Miller, 2009: In balanced networks heb je transient amplificatie: tijdelijke versterking
• Zo gedraagt een balanced netwerk zich een beetje als een feedforward netwerk:
activiteit verdwijnt en verschijnt met input
35
![Page 36: Rekenen met neuronen 2a: Balanced networksRekenen met neuronen 2a: Balanced networks Fleur Zeldenrust Van Perceptie tot Bewustzijn, 2017. ... Neuronmodellen • Binair neuron ... (Destexhe,](https://reader035.vdocuments.pub/reader035/viewer/2022071510/612f49c81ecc5158694358be/html5/thumbnails/36.jpg)
• Hoe bereken je welke activiteitspatronen versterkt of verzwakt worden?
• Hoe vind ik attractors?
• Intermezzo: gewichtsmatrix
36
![Page 37: Rekenen met neuronen 2a: Balanced networksRekenen met neuronen 2a: Balanced networks Fleur Zeldenrust Van Perceptie tot Bewustzijn, 2017. ... Neuronmodellen • Binair neuron ... (Destexhe,](https://reader035.vdocuments.pub/reader035/viewer/2022071510/612f49c81ecc5158694358be/html5/thumbnails/37.jpg)
Intermezzo - Gewichtsmatrix
neuron 1 2 … n
1 2 3.1 … -0.65
2 0.3 -5.1 … 1.6
… … … … …
n 0.73 2.4 … 6.3
Wat is de sterkte van de verbinding van neuron 1 naar neuron 2? En andersom?
Hoe ziet de gewichtsmatrix van een Hopfield netwerk eruit?
En van een feedforward netwerk?
37
![Page 38: Rekenen met neuronen 2a: Balanced networksRekenen met neuronen 2a: Balanced networks Fleur Zeldenrust Van Perceptie tot Bewustzijn, 2017. ... Neuronmodellen • Binair neuron ... (Destexhe,](https://reader035.vdocuments.pub/reader035/viewer/2022071510/612f49c81ecc5158694358be/html5/thumbnails/38.jpg)
38
• Je kunt de activiteit van alle neuronen in een netwerk beschrijven door een vector r = (r1, r2, …, rn), de input naar alle neuronen als vector I = (I1, I2, …, In)
• de verbindingen door een matrix W, Wij is verbinding tussen neuron i en j
• Je kunt dan de activiteit van het hele netwerk beschrijven door de volgende vergelijking
• Eigenschappen gewichtsmatrix belangrijk voor bepalen gedrag netwerk (eigenwaarden en eigenvectoren)
Intermezzo - Gewichtsmatrix
⌧dr
dt= �r+ f(Wr+ I)
![Page 39: Rekenen met neuronen 2a: Balanced networksRekenen met neuronen 2a: Balanced networks Fleur Zeldenrust Van Perceptie tot Bewustzijn, 2017. ... Neuronmodellen • Binair neuron ... (Destexhe,](https://reader035.vdocuments.pub/reader035/viewer/2022071510/612f49c81ecc5158694358be/html5/thumbnails/39.jpg)
Samenvatting Balanced networks
Netwerken met • recurrente • sparse • random • balanced (excitatie en inhibitie)
verbindingen hebben bijzondere eigenschappen: • irregular firing (chaotic attractor) • selective transient amplification (lijkt op
feedforward netwerk)
Dus: zowel biologisch realistisch als computationeel krachtig!
39
![Page 40: Rekenen met neuronen 2a: Balanced networksRekenen met neuronen 2a: Balanced networks Fleur Zeldenrust Van Perceptie tot Bewustzijn, 2017. ... Neuronmodellen • Binair neuron ... (Destexhe,](https://reader035.vdocuments.pub/reader035/viewer/2022071510/612f49c81ecc5158694358be/html5/thumbnails/40.jpg)
Experimenteel bewijs balans?Cafaro en Rieke 2010: sterke correlatie in tijd
40
excitatie inhibitie
simultaneous non-simultaneous
![Page 41: Rekenen met neuronen 2a: Balanced networksRekenen met neuronen 2a: Balanced networks Fleur Zeldenrust Van Perceptie tot Bewustzijn, 2017. ... Neuronmodellen • Binair neuron ... (Destexhe,](https://reader035.vdocuments.pub/reader035/viewer/2022071510/612f49c81ecc5158694358be/html5/thumbnails/41.jpg)
Experimenteel bewijs balans?Graupner en Reyes 2013: sterke correlatie in tijd, tussen neuronen
41
![Page 42: Rekenen met neuronen 2a: Balanced networksRekenen met neuronen 2a: Balanced networks Fleur Zeldenrust Van Perceptie tot Bewustzijn, 2017. ... Neuronmodellen • Binair neuron ... (Destexhe,](https://reader035.vdocuments.pub/reader035/viewer/2022071510/612f49c81ecc5158694358be/html5/thumbnails/42.jpg)
42
De dynamiek van activiteit in (grote) neurale netwerken wordt vooral bepaald door de verbindingen
• Balanced networks: willekeurige en 'sparse' verbindingen, balans excitatie&inhibitie
• Hopfield: symmetrische verbindingen
Gedrag netwerk (attractors) kan geanalyseerd worden met behulp van de gewichtsmatrix
Samenvatting recurrente netwerken
![Page 43: Rekenen met neuronen 2a: Balanced networksRekenen met neuronen 2a: Balanced networks Fleur Zeldenrust Van Perceptie tot Bewustzijn, 2017. ... Neuronmodellen • Binair neuron ... (Destexhe,](https://reader035.vdocuments.pub/reader035/viewer/2022071510/612f49c81ecc5158694358be/html5/thumbnails/43.jpg)
Einde van ‘encoding modellen'
• Encoding: hoe reageert een neuron / netwerk op stimuli?
• Welke modellen hebben we besproken / moet je (her)kennen?
43
![Page 44: Rekenen met neuronen 2a: Balanced networksRekenen met neuronen 2a: Balanced networks Fleur Zeldenrust Van Perceptie tot Bewustzijn, 2017. ... Neuronmodellen • Binair neuron ... (Destexhe,](https://reader035.vdocuments.pub/reader035/viewer/2022071510/612f49c81ecc5158694358be/html5/thumbnails/44.jpg)
Neuronmodellen (volgorde van complexiteit)
1. Binair neuron (McCulloch & Pitts)
2. Rate model
3. Leaky Integrate-and-fire
4. (‘nonlinear simplified models’ (quadratic IF, exponential IF, Izhikevich neuron, Fitzhugh-Nagumo, Morris-Lecar))
5. Hodgkin&Huxley (en andere ‘conductance based’ modellen) - Neurophysiologie
6. Multicompartment model - niet behandeld (neuron met dendrieten, axonen, etc)
44
![Page 45: Rekenen met neuronen 2a: Balanced networksRekenen met neuronen 2a: Balanced networks Fleur Zeldenrust Van Perceptie tot Bewustzijn, 2017. ... Neuronmodellen • Binair neuron ... (Destexhe,](https://reader035.vdocuments.pub/reader035/viewer/2022071510/612f49c81ecc5158694358be/html5/thumbnails/45.jpg)
Netwerk modellen• Feedforward
• enkellaags Perceptron
• meerlaags Perceptron
• Recurrent
• Hopfield network
• Attractor network
• Balanced network
• Gewichtsmatrix en selective amplification 45
![Page 46: Rekenen met neuronen 2a: Balanced networksRekenen met neuronen 2a: Balanced networks Fleur Zeldenrust Van Perceptie tot Bewustzijn, 2017. ... Neuronmodellen • Binair neuron ... (Destexhe,](https://reader035.vdocuments.pub/reader035/viewer/2022071510/612f49c81ecc5158694358be/html5/thumbnails/46.jpg)
Coding modellen
• Verschil tussen local en distributed coding
• Verschil tussen temporal en rate coding
46
![Page 47: Rekenen met neuronen 2a: Balanced networksRekenen met neuronen 2a: Balanced networks Fleur Zeldenrust Van Perceptie tot Bewustzijn, 2017. ... Neuronmodellen • Binair neuron ... (Destexhe,](https://reader035.vdocuments.pub/reader035/viewer/2022071510/612f49c81ecc5158694358be/html5/thumbnails/47.jpg)
Iets complexer / biologisch realistischer:
2a: Waar komt onregelmatige hersenactiviteit vandaan?
• Leaky integrate-and-fire neuron-model • Temporal coding versus rate coding • Recurrente netwerken: Balanced networks
2b: Decoding: hoe interpreteer ik gemeten data?
47
College 2a/b
![Page 48: Rekenen met neuronen 2a: Balanced networksRekenen met neuronen 2a: Balanced networks Fleur Zeldenrust Van Perceptie tot Bewustzijn, 2017. ... Neuronmodellen • Binair neuron ... (Destexhe,](https://reader035.vdocuments.pub/reader035/viewer/2022071510/612f49c81ecc5158694358be/html5/thumbnails/48.jpg)
Pauze
48