Véletlen szám generálás

Átírás

1 2. elıadás Véletlen szám generálás LCG: (0 < m, 0 <a< m, 0 <c< m, 0 <X 0 < m) Jól bevált paraméterválasztások:. Borland C/C ++ m=2 32, a=664525, c= Delphi, Pascal m=2 32, a= , c=

2 Véletlen szám generálás inverz módszerrel Tétel: Legyen X val. vált., F eloszlásfüggvénnyel, amely monoton növekedı és folytonos. Ekkor i. F(X) egyenletes eloszlású [0,] en ii. Ha U ~ U(0,) akkor F - (U) eloszlásfüggvénye F. Pl.: Ha X ~ exp(λ) F(x)=-exp(-λx) F - (x)= -ln(-x)/ λ -ln(-u)/ λ ~ exp(λ) Kiterjesztése: általánosított inverz: F - (x)= inf{x F(x)=y} Exponenciális minta (λ=5) 2

3 Exponenciális minta (λ=5) Neumann módszer Legyen f(x) tetszıleges sőrőségfüggvény,g(x) pedig olyan sőrőségfüggvény, amelyre f(x) < Mg(x), valamely M> esetén és g(x)-bıl könnyen tudunk mintát venni (tipikus példa az egyenletes eloszlás). Algoritmus:. Vegyünk mintát: u=>u(0,) -bıl, x=>g(x) - bıl 2. Ha u<f(x)/mg(x), akkor x-et elfogadjuk 3. Különben elutasítjuk, és -be lépünk. 3

4 Normális eloszlású véletlen szám Box-Müller módszer Legyen U,V független, E[0;] eloszlású. Ekkor 2lnU sin(2πv ), 2lnU cos(2πv ) két független standard normális eloszlású változó lesz. Véletlen bolyongás S n = X +X 2 + +X n a bolyongást végzı részecske helyzete n lépés után. A lépések egymástól függetlenek. + p valószínőséggel X i = -p valószínőséggel Tipikusan p=/2 (szimmetrikus bolyongás) Stein tétele értelmében minden korlátos intervallumból kilép a bolyongás. Példa: X i az i-dik érmedobásnál a nyereményünk ( Ft-ot nyerünk, ha fej, Ft-ot vesztünk, ha írás), S n pedig az össznyereményünk n játék után. 4

5 A tükrözési elv Elıbb: szimuláció A,B egész koordinátájú pontok az x 0 félsíkon. A-ból B-be vezetı út: olyan trajektória, melyet a véletlen bolyongás be tud járni. Tükrözési elv: legyen A és B az x tengely azonos oldalán levı két pont. Jelölje A az A tükörképét az x tengelyre. Ekkor az A- ból B-be vezetı azon utak száma, amelyeknek az x tengellyel van közös pontjuk, megegyezik az A -bıl B-be vezetı utak számával. Bizonyítás. Az A B tengelyt metszı útnál tükrözzük az x tengelyre az elsı metszéspontig terjedı szakaszt. Így egy A B utat kapunk. A megfeleltetés kölcsönösen egyértelmő, tehát a két típusú utak száma azonos. 5

6 Elemi valószínőségek Legyen q 2n,2k =P(S 2n =2k). Megállapodás szerint S 0 =0, így q 0,0 =. 2n 2n q2 n,2k = 2 k = 0,,2,... n n + k Ballot lemma. Ha két jelölt közül az egyik (A) a db, míg a másik (B) b db szavazatot kapott (a>b) akkor annak a valószínősége, hogy az A végig vezetett, (a-b)/(a+b). A szimmetrikus bolyongás jelöléseivel ez a b P( S > 0, S2 > 0,... Sa+ b = a b) = a + b + b a Az (,) pontból az (a+b,a-b) szimuláció a pontba vezetı jó utak száma: a b a + b + a a Az origóba való visszatérés u 2k : annak valószínősége, hogy a részecske 2k lépés után az origóban van. 2k k 2 u2k = 2k Legyen t az origóba való elsı visszatérés idıpontja: t min{ k : 0 < k, S = 0} = k f 2k annak a valószínősége, hogy elıször a 2k idıpontban tér vissza az origóba (k>0): f 2k =P(t=2k). Ezek egymást kizáró események, így f 2 +f 4 +f

7 Az elsı visszatérés eloszlása Állítás. P(S 0,..., S 2n 0)=P(S 2n =0) Biz. ötlet: bontsuk fel a pozitív utakat a végpont szerint és alkalmazzuk a Ballot lemmánál látott leszámlálást. Ebbıl f 2n = u 2n-2 -u 2n = u 2n /(2n-), amibıl adódik, hogy a bolyongás valószínőséggel visszatér. f 2n nagyságrendje: cn -3/2, ami miatt az origóba való visszatérés idıpontjának nem véges a várható értéke. Utolsó visszatérés A bolyongást 2n-ig vizsgálva, annak valószínősége, hogy a részecske a 2k-dik idıpontban tér vissza utoljára az origóba: 2k 2n 2k k n k u2u k 2n 2k = 2n 2 π k( n k) ha k és n is nagy. Ennek a függvénynek az n/2 ben minimuma van és szimmetrikus is n/2-re. szimuláció 7

8 A vezetés aránya Állítás. Annak a valószínősége, hogy a [0,2n] idıintervallumból 2k egységnyi a pozitív oldalon és 2n-2k egységnyi a negatív oldalon van: u 2k u 2n-2k.(S 2k =0 pontosan akkor pozitív, ha S 2k- >0.) Bizonyítás. Teljes indukcióval. n= triviális. Ha 0<2k<2n lépést tölt a pozitív oldalon, akkor az elsı visszatérés 2r<2n lépés után következett be. Ha eddig a pozitív oldalon volt, akkor a hátralévı idıbıl 2k-2r, míg egyébként 2k egységnyit tölt a pozitív oldalon. Ebbıl a keresett valószínőségre b 2k,2n = 2 r= ahonnan az indukciós feltevés értelmében b 2k,2n = 2 k r= f 2r u k f 2k 2ru2n 2k + 2rb2k 2r,2n 2r + 2 n k r= f 2r u 2k 2 u n k r= f 2n 2r 2k b 2r 2k,2n 2r Többdimenziós véletlen bolyongás Kétdimenzióban: Lehetséges lépések a tengelyek irányában: ¼-¼ valószínőséggel. Itt is valószínőségő a visszatérés. Három dimenzióban: Lehetséges lépések a tengelyek irányában: /6-/6 valószínőséggel. Itt már -nél kisebb valószínőségő a visszatérés (Pólya tétele). 8

9 Markov láncok Legyen X =(X, X 2,..., X n ): Ω I n diszkrét valószínőségi vektorváltozó. Eddig a független esetet vizsgáltuk. Most eltekintünk ettıl. Q X (k):=p {ω: X(ω)= k} az X eloszlása I d elemein.reális, de a függetlenségnél gyengébb feltételt keresünk. Tegyük fel, hogy P(X m = k m ) valószínőségeket megadásához elegendı az X m- értéket ismerni. Azaz P(X m = k m X i = k i minden i m--re)= P(X m = k m X m- = k m- ) (Markov tulajdonság). Azaz a Markov lánc következı értékének eloszlását meghatározza a lánc jelenlegi állapota. Példák Ha az X =(X, X 2,..., X n ): Ω I n diszkrét valószínőségi vektorváltozó koordinátái függetlenek, akkor a sorozat Markov lánc. Ha X n =X n- + Y n ahol Y n és X n- független, akkor X n Markov lánc. További egyszerősítés: tegyük fel, hogy a P(X m = k m X m- = k m- ) átmenetvalószínőségek nem függnek m-tıl (homogén Markov lánc). Jelölés: p ij :=P(X m = j X m- = i) átmenetvalószínőség-mátrix. A hımérséklet napi értéke feltehetıen nem homogén Markov lánc, mert ha ma 0 fok volt, akkor ha nyár van, akkor holnap inkább melegebb lesz, míg télen inkább hidegebb. 9

10 Többlépéses átmenetvalószínőségek P(X m = j X m-2 = i) kiszámítása: P( X = j Xm = i) = P( Xm = j Xm = k) P( Xm = k Xm 2 m 2 = i k I (elnevezés: Chapman-Kolmogorov egyenlet). azaz a P (2) kétlépéses átmenetvalószínőség-mátrixra P (2) = P 2 (mátrix-hatvány). Ugyanígy a k-lépésesre P (k) = P k. Példa: a szimmetrikus bolyongásnál p i,i+ = p i,i- =/2, a többi j-re p i,j =0. Ebbıl a kétlépéses átmenetvalószínőségek: p i,i+2 = p i,i-2 =/4, p i,i =/2, a többi j-re p i,j =0 ) Tulajdonságok P minden elemére p i,j 0. pk, j = P( Xm = j Xm = k) = j I j I A fenti tulajdonságok P k -ra is igazak. Az i-bıl a j elérhetı (i j), ha van olyan k, melyre p (k) i,j >0. Az i-és a j állapotok érintkezıek, ha i j és j i. Az állapotok (I elemei) osztályozhatóak aszerint, hogy érintkezıek-e. 0

11 Példák A szimmetrikus bolyongásnál bármely két állapot érintkezı. Az elnyelı falas bolyongásnál (addig játszunk, míg vagy a a pontba vagy a b pontba nem jutunk), a két végállapot csak önmagával érintkezik. A populációs modelleknél (I a populáció egyedszáma) a 0 csak önmagával érintkezik. További definíciók A Markov lánc irreducibilis, ha csak egy osztályból áll. f i (k) :=P(X k =i, X k- i, X k-2 i,, X i X 0 =i) az i-be való elsı visszatérés valószínősége. p i (k) :=P(X k =i X 0 =i) az i-be való, k-lépésben történı visszatérés valószínősége. Az i állapot visszatérı, ha ( k ) f i = Az i állapot periódusa d, ha d=lnko{k: p i (k) >0}. A visszatérıség és a periódus is osztálytulajdonság. k

12 Stacionér eloszlás Ha megadható olyan π eloszlás az állapottéren, melyre teljesül, hogy πp=π, akkor ezt a Markov lánc stacionér eloszlásának nevezzük. Lineáris egyenletrendszer megoldásaként kaphatjuk meg. Nem irreducibilis esetben nem egyértelmő. Ha teljesül, hogy tetszıleges X 0 kiinduló eloszlás esetén az X n eloszlása konvergál a stacionér eloszláshoz, akkor azt mondjuk, hogy a Markov-lánc ergodikus. Ergodikus láncok Tétel. Ha a Markov-lánc aperiodikus (d=), irreducibilis és van olyan n, hogy P n -nek van csupa pozitív elembıl álló oszlopa, akkor a Markov-lánc ergodikus. A konvergencia általában meglehetısen gyors, bár függ a kiinduló eloszlástól. Ergodikus esetben a π funkcionáljai (pl. Eπ) közelíthetıek a tapasztalati értékeivel: f (π ) n i= f ( X i ) / n 2