Az idegrendszeri memória modelljei

Átírás

1 Az idegrendszeri memória modelljei

2 A memória típusai Rövidtávú Working memory - az aktuális feladat Vizuális, auditórikus,... Prefrontális cortex, szenzorikus területek Kapacitás: minta Hosszútávú Epizodikus, szemantikus Technikailag: asszociatív Temporális lebeny, hippokampusz Interakció a rendszerek között

3 H. M. Súlyos epilepsziája volt, amit a hippokampusz egy részének eltávolításával orvosoltak 1953-ban. Ettől kezdve elvesztette az epizodikus memóriaformáció képességét a korábbi emlékei megmaradtak. A rövidtávú memóriája ép maradt, valamint a motoros tanulási képessége is. Megtanult pl. tükörben rajzolni. A térbeli memóriája erősen sérült. Bizonyítékot szolgáltatott a különböző memóriarendszerek létezésére.

4 Munkamemória modelljei Rekurrens hálózati modellek, serkentő-gátló populációkkal Perzisztens aktivitás A kódoló populáció a jel beírása után magasabb rátával tüzel Előfeszített állapot A sejtek a beíráskor facilitált állapotba kerülnek, a kiolvasáskor szinkron tüzelés valósul meg Oszcillációs modell (később) Disztrakció: kis zavaró jelet ignorálni szeretnénk, nagyra viszont elromlik a memória

5 Perzisztens aktivitás A majom prefrontális kérgében egyes sejtek megnövekedett aktivitást mutatnak bizonos stimulusok után a késleltetési szakaszban, ami meghatározza az adott választ is.

6 Szinaptikus modell Szinaptikus facilitáció és depresszió dinamikája integrate and fire neuronokban u j t = U u j t F x j t = 1 x j t D U [1 u j t ] k u j t x j t k t t k j t t k j Fixpont vagy oszcillációs dinamika m V i = V i I rec i t I ext i t I i rec t = j j J ij t t t k D ij k J ij t =J ij u j t D ij x j t D ij Több elem tárolása

7 Asszociatív memória Heteroasszociatív pl. hely-objektum Autoasszociatív Töredékes jelből az eredetit Különbség a számítógép memóriája és az AM között: címzés módja Kapacitás: hány mintát tudunk eltárolni úgy, hogy azok visszahívhatók legyenek (többféle definíció) Stabilitás: minden mintára a legközelebbi tárolt mintát szeretnénk visszakapni

8 Attraktorhálózatok Attraktorok típusai Pont Periodikus Kaotikus Vonzási tartományok Realizáció: rekurrens neurális hálózatok Attraktorok tárolása: szinaptikus súlyokon Offline tanulás Online tanulás One-shot learning Előhívás: konvergencia tetszőleges pontból egy fix pontba

9 Hopfield-hálózat Offline learning tanulandó minták: szabály {s 1 s N } W ij = 1 N n Asszociatív memória Bináris MCP-neuronok Minták tárolása: bináris vektorok Szimmetrikus súlymátrix Dale's law: egy sejt nem lehet egyszerre serkentő és gátló ezt most megsértjük Rekurrens (dominánsan) hálózatok az agyban: hippokampusz CA3 régió,... N si n s j n Hebbi x t 1 =sgn Wx t t Léptetési szabályok: szinkron és x 1 K k szekvenciális =sgn i W ik x t i k

10 A HN dinamikája Nemlineáris rendszerek stabilitás-analízise: Lyapunovfüggvény segítségével definiáljuk az állapotokhoz rendelhető energiát. Ha a függvény: Korlátos Belátható, hogy a léptetési dinamika mindig csökkenti (növeli) Akkor a rendszer minden bemenetre stabil fix pontba konvergál. Hopfield-hálózat Lyapunov-függvénye: E = 1 2 xt W x x Attraktorok az eltárolt mintáknál, de más helyeken is A HN használható kvadratikus alakra hozható problémák optimalizációjára is

11 A HN kapacitása Információelméleti kapacitás A tárolandó mintákat tekintsük Bernoulli-eloszlású változók halmazának P s i n =1 =P s i n =0 =0.5 Követeljük meg az egy valószínűségű konvergenciát lim n P s a =sgn Ws a =1 a=1 M Ekkor (sok közelítő lépéssel) megmutatható, hogy M N 2log Összehasonlítás a CA3-mal 2 N Kb sejt, kb minta tárolható Más becslések figyelembevéve a minták ritkaságát P s i n =1 = M N 1 log 2 1

12 Reprezentációs tanulás Valószínűségi leírás 3féle dolgot tanulhatunk: csak predikció, kimenetek valószínűsége, underlying rejtett változók/dinamika Explicit rejtett változós modellek Implicit rejtett változós modellek Modellösszehasonlítás Becslési algoritmusok: EM

13 Rejtett változós modellek ẋ= f (x,u,θ u )+ϵ ϵ=ρ (0, Σ ϵ ) y=g (x,θ x )+ν ν=ρ (0,Σ ν ) posterior likelihood p (θ y, M )= p( y θ, M ) p (θ M ) p( y M ) prior Evidence (marginal likelihood) Predictive distribution: p (y ' θ, y, M )

14 A Boltzmann-gép architektúrája P(s i =1)= 1 1+e b i j s j w ij P(v, h)= v ',h ',h) e E(v E (v ',h ' ) e P(v )= h v ',h' E(v,h) e E(v ',h ') e E(v,h)= i s i v b i + j> i + m >n s v i s v j w + ij k s m v s n h w mn s k h b k + l >k s k h s l h w kl + Geoffrey Hinton, Terry Sejnowski

15 Mintavételezés A normalizációs tagok kiszámolása exponenciális komplexitású Markov Chain Monte Carlo mintavételezés Elindítjuk a gépet véletlenszerű állapotból, és megvárjuk, hogy beálljon a hőmérsékleti egyensúly Mintavételezés csak a rejtett egységekből: a látható egységeket az adatvektorhoz rögzítjük A rejtett egységek az adatvektor magyarázatát adják, a jobb magyarázatokhoz alacsonyabb energia tartozik

16 Tanulás Bolzmann-géppel Maximum Likelihood tanulás argmax W p(v W )= v V Gradiens-módszer p (v W )= v V log p (v W ) Pozitív fázis p(v) = s s s s w i j v i j rand ij A látható egységeket fixálva várjuk meg az egyensúlyt, minden tanulóvektorra átlagoljuk a statisztikát A Boltzmann-valószínűség számlálóját növeli Negatív fázis Véletlen kiindulópontból várjuk meg az egyensúlyt jó sokszor, aztán átlagoljunk A Boltzmann-valószínűség nevezőjét csökkenti

17 Restricted Boltzmann Machine Egy látható és egy rejtett réteg Rétegen belül nincsenek kacsolatok független rejtett egységek A rejtett rétegben egylépéssel elérjük az egyensúlyt A negatív statisztikához indítsuk a hálózatot ebből az állapotból

18 Contrastive divergence Δw ij s i s j 0 s i s j 1 Az adattól távolabbi minimumokat nem látja Miután valamennyire rátanult a hálózat az adatra, többlépéses CD-re térünk át: CD3, CD6,...

19 DBM létrehozása előre tanított RBM-ekből Az első RBM a bemenet feature-eit tanulja A második a feature-ök feature-eit Öszzeillesztjük a rétegeket, és együtt finomítjuk a tanult reprezentációt Ruslan Salakhutdinov

20 Absztrakciós hierarchia a látórendszerben James DiCarlo Rufin VanRullen