Sztochasztikus folyamatok alapfogalmak

Átírás

1 Matematikai Modellalkotás Szeminárium szeptember 4.

2 1 Folytonos idejű Markov láncok 2 3 4

4 Folytonos idejű Markov láncok I Adott egy G = (V, E) gráf

5 Folytonos idejű Markov láncok I Adott egy G = (V, E) gráf Egy X t ; t [0, ) folyamat folytonos idejű Markov lánc, ha t-re X t V, és egy α(x, y) rátafüggvénnyel P(X t+dt = x X t = x) = 1 α(x)dt + o(dt) P(X t+dt = y X t = x) = α(x, y)dt + o(dt) α(x) = y x α(x, y).

6 Folytonos idejű Markov láncok II Az előzőekből, ha p x (t) = P(X t = x), p(t) = (p 1 (t), p 2 (t),..., p V (t)),

7 Folytonos idejű Markov láncok II Az előzőekből, ha p x (t) = P(X t = x), p(t) = (p 1 (t), p 2 (t),..., p V (t)), kapjuk ṗ x (t) = α(x)p x (t) + y x α(y, x)p y (t),

8 Folytonos idejű Markov láncok II Az előzőekből, ha p x (t) = P(X t = x), p(t) = (p 1 (t), p 2 (t),..., p V (t)), kapjuk azaz ṗ x (t) = α(x)p x (t) + y x α(y, x)p y (t), ṗ(t) = p(t)a, (1)

9 Folytonos idejű Markov láncok II Az előzőekből, ha p x (t) = P(X t = x), p(t) = (p 1 (t), p 2 (t),..., p V (t)), kapjuk ṗ x (t) = α(x)p x (t) + y x α(y, x)p y (t), azaz ṗ(t) = p(t)a, (1) ahol A x,y = α(x, y), ha x y, és α(x), ha x = y.

10 Mátrixexponenciális függvény Az (1) egyenlet megoldása: p(t) = p(0)e ta.

11 Mátrixexponenciális függvény Az (1) egyenlet megoldása: p(t) = p(0)e ta. De mit is jelent egy mátrix exponenciális függvénye?

12 Mátrixexponenciális függvény Az (1) egyenlet megoldása: p(t) = p(0)e ta. De mit is jelent egy mátrix exponenciális függvénye? e ta (ta) n =. n! n=0

13 Mátrixexponenciális függvény Az (1) egyenlet megoldása: p(t) = p(0)e ta. De mit is jelent egy mátrix exponenciális függvénye? e ta (ta) n =. n! n=0 Például legyen A = ( ).

14 Mátrixexponenciális függvény - példa Ekkor A = QDQ 1, ahol ( ) ( Q =, D = ) (, Q 1 2/3 1/3 = 1/3 1/3 ).

15 Mátrixexponenciális függvény - példa Ekkor A = QDQ 1, ahol ( ) ( Q =, D = ) (, Q 1 2/3 1/3 = 1/3 1/3 ). Tehát e ta = Q(tD) n Q 1 n=0 n! ( 1 0 = Q 0 e 3t ( 2/3 1/3 = 2/3 1/3 ) Q 1 ) + e 3t ( 1/3 1/3 2/3 2/3 ).

17 béta-eloszlás I ξ legyen 7 db [0, 1]-en egyenletes eloszlású független véletlen szám közül a 5. legnagyobb:

20 béta-eloszlás I ξ legyen 7 db [0, 1]-en egyenletes eloszlású független véletlen szám közül a 5. legnagyobb: x

21 béta-eloszlás I ξ legyen 7 db [0, 1]-en egyenletes eloszlású független véletlen szám közül a 5. legnagyobb: x P(ξ [x, x + dx]) = 7! 2!4! x 2 dx(1 x dx) 4 + o(dx),

22 béta-eloszlás I ξ legyen 7 db [0, 1]-en egyenletes eloszlású független véletlen szám közül a 5. legnagyobb: x P(ξ [x, x + dx]) = 7! 2!4! x 2 dx(1 x dx) 4 + o(dx), így ξ sűrűsége az x [0, 1] helyen: f (x) = 7! 2!4! x 2 (1 x) 4

23 béta-eloszlás II Általában β(a, b) eloszlás sűrűsége a [0, 1] intervallumon: f (x) = Γ(a + b) Γ(a)Γ(b) x a 1 (1 x) b 1.

24 béta-eloszlás II Általában β(a, b) eloszlás sűrűsége a [0, 1] intervallumon: f (x) = Γ(a + b) Γ(a)Γ(b) x a 1 (1 x) b 1. Itt a, b pozitív, nem feltétlenül egész számok, és Γ(a) = 0 t a 1 e t dt Γ(n) = (n 1)!, n N

26 - szemléletes definíció Egy M 1, M 2,... valószínűségi változó sorozat martingál, ha E( M k ) < és M k feltételes várható értéke "M 1,..., M k 1 ismeretében" épp M k 1 minden k-ra.

27 - szemléletes definíció Egy M 1, M 2,... valószínűségi változó sorozat martingál, ha E( M k ) < és M k feltételes várható értéke "M 1,..., M k 1 ismeretében" épp M k 1 minden k-ra. 1. Példa: Érmedobás játékban addig duplázom a tétet, míg először nem nyerek, utána kiszállok.

28 - szemléletes definíció Egy M 1, M 2,... valószínűségi változó sorozat martingál, ha E( M k ) < és M k feltételes várható értéke "M 1,..., M k 1 ismeretében" épp M k 1 minden k-ra. 1. Példa: Érmedobás játékban addig duplázom a tétet, míg először nem nyerek, utána kiszállok. A nyereményem: M 0 = 0, ha M k 1 = ( k 2 ) = 2 k 1 + 1, akkor P(M k = 1) = P(M k = 2 k + 1) = 1/2.

29 - szemléletes definíció Egy M 1, M 2,... valószínűségi változó sorozat martingál, ha E( M k ) < és M k feltételes várható értéke "M 1,..., M k 1 ismeretében" épp M k 1 minden k-ra. 1. Példa: Érmedobás játékban addig duplázom a tétet, míg először nem nyerek, utána kiszállok. A nyereményem: M 0 = 0, ha M k 1 = ( k 2 ) = 2 k 1 + 1, akkor P(M k = 1) = P(M k = 2 k + 1) = 1/2. Ha pedig M k 1 = 1, akkor M k = 1.

30 - szemléletes definíció Egy M 1, M 2,... valószínűségi változó sorozat martingál, ha E( M k ) < és M k feltételes várható értéke "M 1,..., M k 1 ismeretében" épp M k 1 minden k-ra. 1. Példa: Érmedobás játékban addig duplázom a tétet, míg először nem nyerek, utána kiszállok. A nyereményem: M 0 = 0, ha M k 1 = ( k 2 ) = 2 k 1 + 1, akkor P(M k = 1) = P(M k = 2 k + 1) = 1/2. Ha pedig M k 1 = 1, akkor M k = 1. Tehát E(M k M 1,..., M k 1 ) = M k.

31 Pólya féle urnamodell 2. Példa: Egy urnában kezdetben 3 piros és 5 zöld golyó van.

32 Pólya féle urnamodell 2. Példa: Egy urnában kezdetben 3 piros és 5 zöld golyó van. Egy lépésben kiveszek egy golyót, majd azt visszateszem egy másik, ugyanolyan színű golyóval együtt.

33 Pólya féle urnamodell 2. Példa: Egy urnában kezdetben 3 piros és 5 zöld golyó van. Egy lépésben kiveszek egy golyót, majd azt visszateszem egy másik, ugyanolyan színű golyóval együtt. Be lehet látni, hogy a piros golyók aránya martingál.

34 Pólya féle urnamodell 2. Példa: Egy urnában kezdetben 3 piros és 5 zöld golyó van. Egy lépésben kiveszek egy golyót, majd azt visszateszem egy másik, ugyanolyan színű golyóval együtt. Be lehet látni, hogy a piros golyók aránya martingál. Kérdés: Sok lépés után vajon konvergens-e a piros golyók aránya? Ha igen, mihez tart? Függ a limesz a véletlentől?

35 Pólya féle urnamodell 2. Példa: Egy urnában kezdetben 3 piros és 5 zöld golyó van. Egy lépésben kiveszek egy golyót, majd azt visszateszem egy másik, ugyanolyan színű golyóval együtt. Be lehet látni, hogy a piros golyók aránya martingál. Kérdés: Sok lépés után vajon konvergens-e a piros golyók aránya? Ha igen, mihez tart? Függ a limesz a véletlentől? A választ (egyelőre) nem tudjuk, ezért szimulálunk!

40 Monte Carlo szimuláció I ábra: 1000 szimuláció, 50 lépés

41 Monte Carlo szimuláció II ábra: szimuláció, 70 lépés

42 Monte Carlo szimuláció II ábra: szimuláció, 70 lépés A tényleges limesz a β(3, 5) eloszlás!

43 Brown mozgás 3. Példa: Brown mozgás ábra: Véletlen bolyongás, 100 lépés

44 Brown mozgás 3. Példa: Brown mozgás ábra: Véletlen bolyongás, 1000 lépés

45 Brown mozgás 3. Példa: Brown mozgás ábra: Véletlen bolyongás, lépés

46 Brown mozgás II A limeszben kapott folyamat a Brown mozgás.

47 Brown mozgás II A limeszben kapott folyamat a Brown mozgás. Definíció: X t Brown mozgás, ha X 0 = 0 minden s 1 t 1 s 2 t 2... t n esetén X t1 X s1,... X tn X sn függetlenek minden s t esetén X t X s N ( 0, σ 2 = t s ) t X t majdnem biztosan folytonos.

48 Orstein-Uhlenbeck folyamat I. Brown mozgás alkalmazása: SDE

49 Orstein-Uhlenbeck folyamat I. Brown mozgás alkalmazása: SDE Formálisan legyen dx t = θ(µ X t )dt + σdw t, ahol W t Brown mozgás. Ekkor X t Orstein-Uhlenbeck folyamat.

50 Orstein-Uhlenbeck folyamat I. Brown mozgás alkalmazása: SDE Formálisan legyen dx t = θ(µ X t )dt + σdw t, ahol W t Brown mozgás. Ekkor X t Orstein-Uhlenbeck folyamat. Ekkor d(x t e θt ) dt Végül t szerint integrálva = θx t e θt + e θt dx t dt = e θt θµ + σe θt dw t dt. X t = X 0 e θt + µ(1 e θt ) + t 0 σe θ(s t) dw s

51 Orstein-Uhlenbeck folyamat II. Az Orstein-Uhlenbeck folyamat további tulajdonságai:

52 Orstein-Uhlenbeck folyamat II. Az Orstein-Uhlenbeck folyamat további tulajdonságai: Nem martingál, de stacionárius, Gauss, Markov folyamat. Stacionárius eloszlás: N (µ, σ 2 /(2θ))

53 Orstein-Uhlenbeck folyamat II. Az Orstein-Uhlenbeck folyamat további tulajdonságai: Nem martingál, de stacionárius, Gauss, Markov folyamat. Stacionárius eloszlás: N (µ, σ 2 /(2θ)) Urna modell: Legyen egy urnában n zöld és n piros golyó. Egy lépésben kiveszünk egy véletlen golyót, és azt ellenkezö színűre cseréljük. Ha Y k a piros golyók száma k lépés után. Ekkor ( ) Y[nt] n (X t ) 0 t 1 n 0 t 1

54 Orstein-Uhlenbeck folyamat III. ábra: Orstein-Uhlenbeck folyamat realizációi (forrás: Wikipedia)

56 Poisson folyamat Legyenek T 1, T 2,... iid Exp(λ) valószínűségi változók.

57 Poisson folyamat Legyenek T 1, T 2,... iid Exp(λ) valószínűségi változók. 0

58 Poisson folyamat Legyenek T 1, T 2,... iid Exp(λ) valószínűségi változók. 0 T 1

59 Poisson folyamat Legyenek T 1, T 2,... iid Exp(λ) valószínűségi változók. 0 T 1 T 1 + T 2

60 Poisson folyamat Legyenek T 1, T 2,... iid Exp(λ) valószínűségi változók. 0 T 1 T 1 + T 2 T 1 + T 2 + T 3

61 Poisson folyamat Legyenek T 1, T 2,... iid Exp(λ) valószínűségi változók. 0 T 1 T 1 + T 2 T 1 + T 2 + T 3 A félegyenesen kapott pontok: homogén 1 dimenziós Poisson folyamat

62 Poisson folyamat Legyenek T 1, T 2,... iid Exp(λ) valószínűségi változók. 0 A félegyenesen kapott pontok: homogén 1 dimenziós Poisson folyamat Egy I intervallumba eső pontok száma: POI (λ I ) eloszlású.

63 Többdimenziós Poisson folyamat Az előző észrevétel alapján több dimenzióban is definiálhatjuk: Poisson folyamat: Olyan véletlen térbeli pontok, hogy minden halmazba Poisson eloszlású pont esik, és diszjunkt halmazokra ezek függetlenek.

66 M/M/1 sorbanállási modell I Egy üzletbe a vásárlók λ paraméterű Poisson folyamat szerint érkeznek.

67 M/M/1 sorbanállási modell I Egy üzletbe a vásárlók λ paraméterű Poisson folyamat szerint érkeznek. Az egyetlen eladó µ paraméterű exponenciális eloszlású idő alatt szolgál ki egy vevőt.

68 M/M/1 sorbanállási modell I Egy üzletbe a vásárlók λ paraméterű Poisson folyamat szerint érkeznek. Az egyetlen eladó µ paraméterű exponenciális eloszlású idő alatt szolgál ki egy vevőt. érkezés kiszolgálás

69 M/M/1 sorbanállási modell I Egy üzletbe a vásárlók λ paraméterű Poisson folyamat szerint érkeznek. Az egyetlen eladó µ paraméterű exponenciális eloszlású idő alatt szolgál ki egy vevőt. érkezés kiszolgálás 0

70 M/M/1 sorbanállási modell I Egy üzletbe a vásárlók λ paraméterű Poisson folyamat szerint érkeznek. Az egyetlen eladó µ paraméterű exponenciális eloszlású idő alatt szolgál ki egy vevőt. érkezés kiszolgálás 0 1

71 M/M/1 sorbanállási modell I Egy üzletbe a vásárlók λ paraméterű Poisson folyamat szerint érkeznek. Az egyetlen eladó µ paraméterű exponenciális eloszlású idő alatt szolgál ki egy vevőt. érkezés kiszolgálás 0 1 2

75 M/M/1 sorbanállási modell II Belátható, hogy ha λ > µ, akkor "túl sok vevő érkezik", a várakozók száma tart a végtelenhez.

76 M/M/1 sorbanállási modell II Belátható, hogy ha λ > µ, akkor "túl sok vevő érkezik", a várakozók száma tart a végtelenhez. Ha λ < µ, akkor a sorhossz nem tart a végtelenhez, és sok idő múlva kb. geometriai eloszlású.

77 M/M/1 sorbanállási modell II Belátható, hogy ha λ > µ, akkor "túl sok vevő érkezik", a várakozók száma tart a végtelenhez. Ha λ < µ, akkor a sorhossz nem tart a végtelenhez, és sok idő múlva kb. geometriai eloszlású. Általánosítási lehetőségek: nem csak egy kiszolgáló (könnyű), nem Poisson folyamat az érkezési idő (nehéz).

78 Köszönöm a figyelmet!