Valószín ségelmélet Pap Gyula Szegedi Tudományegyetem, Bolyai Intézet, Sztochasztika Tanszék papgy@math.u-szeged.hu 1 Mértékelméleti el készítés 1.1 Deníció. Legyen Ω nemüres halmaz. Az Ω bizonyos részhalmazaiból álló H halmazrendszert halmazalgebrának nevezzük, ha i Ω H, ii zárt az unióképzésre, azaz tetsz leges A, B H esetén A B H, iii zárt a komplementerképzésre, azaz tetsz leges A H esetén A := Ω \ A H. Az A halmazalgebrát σ-algebrának nevezzük, ha ii következ er sebb változata teljesül: ii' zárt a megszámlálható unióképzésre, azaz ha Ekkor az Ω, A párt mérhet ségi térnek nevezzük. A 1, A 2, A, akkor A n A. 1.2 Deníció. Legyen Ω nemüres halmaz és H az Ω bizonyos részhalmazaiból álló halmazalgebra. Azt mondjuk, hogy a µ : H [0, ] halmazfüggvény végesen additív, ha tetsz leges A, B H diszjunkt halmazok esetén µa B = µa + µb; mérték, ha ν = 0 és σ-additív, azaz ν A n = νa n, ha A 1, A 2, H páronként diszjunktak és Azt mondjuk, hogy a ν : H [0, ] mérték A n H. véges, ha νω < ; valószín ségi mérték, ha νω = 1; σ-véges, ha léteznek olyan Ω 1, Ω 2, H halmazok úgy, hogy Ω = k=1 Ω k, és νω k <. 1
Azt mondjuk, hogy a ν : H [, ] halmazfüggvény el jeles mérték, ha el áll ν = ν 1 ν 2 alakban, ahol ν 1, ν 2 mértékek, és legalább az egyik véges. Ha µ : H [0, ] végesen additív, akkor persze teljes indukcióval következik, hogy tetsz leges n N és tetsz leges A 1,..., A n H páronként diszjunkt halmazok esetén µ n k=1 A k = n k=1 µa k. 1.3 Deníció. Legyen Ω nemüres halmaz. Legyen minden n N esetén A n Ω. Ha A 1 A 2... és A := A n, akkor azt írjuk, hogy A n A ha n. Ha A 1 A 2... és A := A n, akkor azt írjuk, hogy A n A ha n. 1.4 Állítás. Legyen Ω nemüres halmaz és H az Ω bizonyos részhalmazaiból álló halmazalgebra. Legyen P : H [0, ] olyan végesen additív halmazfüggvény, melyre PΩ = 1. Ekkor i P = 0; ii tetsz leges A H esetén 0 PA 1; iii P monoton, azaz tetsz leges A, B H, A B esetén PA PB, továbbá PB \ A = PB PA; iv tetsz leges A H esetén PA = 1 PA; v a következ állítások ekvivalensek: a P σ-additív. b P alulról folytonos, azaz tetsz leges A 1, A 2, H, A n A és A H esetén lim PA n = PA. c P felülr l folytonos, azaz tetsz leges A 1, A 2, H, A n A és A H esetén lim PA n = PA. d P felülr l folytonos az üres halmazon, azaz tetsz leges A 1, A 2, H és A n esetén lim PA n = 0. 1.5 Állítás. Legyen Ω, A mérhet tér és P : A [0, 1] valószín ségi mérték. Ekkor i P végesen additív; ii P σ-szubadditív, azaz tetsz leges A 1, A 2, A esetén P A n PA n. 1.6 Tétel. Carathéodory kiterjesztési tétele Legyen Ω nemüres halmaz és H az Ω bizonyos részhalmazaiból álló halmazalgebra. Legyen µ : H [0, ] σ-véges mérték. Ekkor létezik egy egyértelm en meghatározott tetsz leges A H esetén νa = µa. ν : σh [0, ] σ-véges mérték úgy, hogy 2
Nyilván σ-algebrák tetsz leges halmazának metszete σ-algebra. 1.7 Deníció. Legyen Ω nemüres halmaz. Legyen Γ nemüres halmaz és minden γ Γ esetén A γ Ω. Az {A γ : γ Γ} halmazokat tartalmazó σ-algebrák metszetét az {A γ : γ Γ} halmazrendszer által generált σ-algebrának nevezzük. Jelölése: σa γ : γ Γ. Tulajdonképpen σa γ : γ Γ az a legsz kebb σ-algebra, mely tartalmazza az {A γ : γ Γ} halmazokat. 1.8 Deníció. Legyenek Ω és Γ nemüres halmazok, és minden γ Γ esetén g γ : Ω R d tetsz leges függvény. A {g γ : γ Γ} függvényrendszer által generált σ-algebra: σg γ : γ Γ := σg 1 γ B : γ Γ, B BR d. Legyenek Ω nemüres halmaz. Ekkor a g : Ω R d nyilván σg = g 1 BR d := {g 1 B : B BR d }, függvény által generált σ-algebra hiszen egyrészt {g 1 B : B BR d } σg, másrészt a {g 1 B : B BR d } halmazok σ-algebrát alkotnak. Ez a σ-algebra Ω éppen azon A részhalmazaiból áll, melyek esetén gω meggyelésével eldönthet, hogy ω A teljesül-e, vagy sem. 1.9 Deníció. Legyen Ω, A mérhet ségi tér. Azt mondjuk, hogy a g : Ω R d függvény mérhet, ha tetsz leges B BR d esetén vagyis σg A. g 1 B := {g B} := {ω Ω : gω B} A, Legyen továbbá F A rész-σ-algebra. Azt mondjuk, hogy a g : Ω R d függvény F-mérhet, ha tetsz leges B BR d esetén vagyis σg F. g 1 B F, Nyilván σg az a legsz kebb σ-algebra, melyre nézve a g függvény mérhet. Hasonlóan, ha Ω és Γ nemüres halmazok, minden γ Γ esetén g γ : Ω R d tetsz leges függvény, akkor σg γ : γ Γ az a legsz kebb σ-algebra, melyre nézve az összes {g γ : γ Γ} leképezés mérhet. Ha a, b R d, akkor a b illetve a < b azt jelenti, hogy minden j = 1,..., d esetén a j b j illetve a j < b j teljesül, és jelölje a, b] := {x R d : a < x b}. A g = g 1,..., g d : Ω R d függvény akkor és csak akkor mérhet, ha tetsz leges x R d esetén {ω Ω : gω x} A, hiszen {ω Ω : gω x} = {ω Ω : g 1 ω x 1,..., g d ω x d } = g 1 d, x j ], 3
és a { d, x j ] : x R d } téglák generálják a BR d σ-algebrát, ezért ha ennek a generátorrendszernek az sképe benne van az A σ-algebrában, akkor az egész BR d σ-algebra sképe benne van A-ban. Ekkor ugyanis a jó halmazok módszerével: ha tekintjük azon B BR d halmazokat, melyekre teljesül g 1 B A, akkor ezek σ- algebrát alkotnak, másrészt tartalmazzák a generátorrendszert, így tartalmazzák BR d -t is. 1.10 Deníció. Valószín ségi mez alatt olyan Ω, A, P hármast értünk, ahol Ω, A mérhet ségi tér, P : A [0, 1] valószín ségi mérték. 1.11 Deníció. Legyen Ω, A, P valószín ségi mez. Azt mondjuk, hogy az X : Ω R függvény véletlen változó vagy valószín ségi változó, ha mérhet. Azt mondjuk, hogy az X : Ω R d függvény véletlen vektor vagy valószín ségi vektorváltozó, ha mérhet. Az X : Ω R d véletlen vektor eloszlása a P X : BR d R, P X B := PX B = PX 1 B, B BR d halmazfüggvény, mely nyilván valószín ségi mérték az X, BR d mérhet ségi téren. Azt mondjuk, hogy az X : Ω R d véletlen vektor diszkrét, ha értékkészlete, a XΩ halmaz megszámlálható. Azt mondjuk, hogy az X : Ω R d véletlen elem egyszer, ha értékkészlete véges halmaz. X = Y akkor Ha X : Ω R d, Y : Ω R d P-m.b. egyenl ek P-majdnem biztosan. véletlen elemek és PX = Y = 1, akkor azt írjuk, hogy Ha X : Ω R d egyszer véletlen vektor melynek értékkészlete XΩ = {x 1,..., x l }, X = l x j 1 Aj, ahol A j := {ω Ω : Xω = x j } A, j = 1,..., l diszjunkt halmazok, és l A j = Ω. 1.12 Lemma. Tetsz leges Y : Ω R nemnegatív véletlen változó esetén létezik nemnegatív egyszer véletlen változókból álló Y 1, Y 2,... sorozat úgy, hogy tetsz leges ω Ω esetén Y n ω Y ω ha n. Például az sorozat megfelel. n2 n Y n = j 12 n 1 {j 12 n Y <j2 n }, n N 1.13 Következmény. Tetsz leges X : Ω R d véletlen vektor esetén léteznek olyan X 1, X 2,... egyszer véletlen vektorok, hogy tetsz leges ω Ω esetén lim X n ω = Xω. 4
1.14 Állítás. Legyen X : Ω R d véletlen vektor. i Ha g : R d R r mérhet függvény, akkor a g X : Ω R r összetett függvény σx-mérhet véletlen vektor, azaz σg X σx. ii Ha Y : Ω R r σx-mérhet véletlen vektor, azaz σy σx, akkor létezik olyan g : R d R r mérhet függvény, hogy Y = g X. Bizonyítás. i abból következik, hogy tetsz leges D BR r esetén g X 1 D = X 1 g 1 D σx, hiszen g 1 D BR d. ii. Nyilván elegend r = 1 esetén bizonyítani. Ha Y : Ω R egyszer véletlen változó, akkor alakú, ahol y 1,..., y k R, és Y Y = k y j 1 Aj σx-mérhet sége miatt A j σx = {X 1 B : B BR d }, így léteznek olyan B 1,..., B k BR d halmazok, hogy A j = X 1 B j. Nyilván 1 Aj ω = 1 X 1 B j ω = 1 Bj Xω, azaz 1 Aj = 1 Bj X. Ezért Y = g X teljesül a g := k y j1 Bj : R d R mérhet függvénnyel. Itt B 1,..., B k nem feltétlenül diszjunktak. Tetsz leges Y : Ω R véletlen változó esetén az 1.13 Lemma alapján létezik egyszer véletlen változókból álló {Y n } sorozat úgy, hogy tetsz leges ω Ω esetén lim Y n ω = Y ω. Az el z rész alapján minden n N esetén létezik olyan g n : R d R mérhet függvény, hogy Y n = g n X. Tekintsük a H := {x R d : lim g n x létezik} BR d mérhet halmazt és a g : R d R, lim gx := g nx ha x H, 0 ha x / H mérhet függvényt. Tetsz leges ω Ω esetén Xω H, ugyanis g n Xω = Y n ω Y ω, ezért gxω = lim g n Xω = lim Y n ω = Y ω. 1.15 Deníció. Az X = X 1,..., X d : Ω R d véletlen vektor eloszlásfüggvénye F X = F X1,...,X d : R d [0, 1], F X x := PX x = PX 1 x 1,..., X d x d, x = x 1,..., x d R d. 5
Jelölje g : R d R, u, v R, u < v és x R d esetén j u,vgx := gx 1,..., x j 1, v, x j+1,..., x d gx 1,..., x j 1, u, x j+1,..., x d. 1.16 Állítás. Az F : R d R függvény akkor és csak akkor eloszlásfüggvénye valamely X : Ω R d véletlen vektornak, ha i F ii F minden változójában monoton növekv, minden változójában jobbról folytonos, iii lim F x = 0, lim min{x 1,...,x d } F x = 1, min{x 1,...,x d } iv tetsz leges a, b R d, a < b esetén 1 a 1,b 1... d a d,b d F 0. Ha k = 1, akkor iv következik i-b l. Ha X : Ω R d véletlen vektor, akkor tetsz leges a, b R d, a < b esetén PX a, b] = 1 a 1,b 1... d a d,b d F X 0, tehát P X az F X függvény által generált LebesgueStieltjes mérték. 1.17 Állítás. Legyenek X, Y : Ω R d véletlen vektorok. Ekkor P X = P Y F X = F Y. 6
2 Függetlenség, Kolmogorov 0 vagy 1 törvénye 2.1 Deníció. Legyen Ω, A, P valószín ségi mez, Γ nemüres halmaz. Legyen minden γ Γ esetén F γ A rész-σ-algebra. Azt mondjuk, hogy az {F γ : γ Γ} rész-σ-algebrák függetlenek, ha a Γ különböz elemeib l álló minden {γ 1,..., γ n } véges részhalmaz esetén és minden A γ1 F γ1,..., A γn F γn PA γ1... A γn = PA γ1 PA γn. választással teljesül Legyen minden γ Γ esetén A γ A. Azt mondjuk, hogy az {A γ : γ Γ} események függetlenek, ha a hozzájuk rendelt { {, A γ, Ω\A γ, Ω} : γ Γ } rész-σ-algebrák függetlenek. Legyen minden γ Γ esetén X γ : Ω R d véletlen vektor. Azt mondjuk, hogy az { {X γ : γ Γ} véletlen vektorok függetlenek, ha a hozzájuk rendelt σxγ : γ Γ } rész-σ-algebrák függetlenek. 2.2 Lemma. Legyen Ω, A, P valószín ségi mez. Ha az X : Ω R k és Y : Ω R l véletlen vektorok függetlenek, akkor tetsz leges g : R k R r, h : R l R p mérhet függvények esetén a g X : Ω R r és h Y : Ω R p véletlen vektorok is függetlenek. Valóban, az 1.14 Lemma alapján σg X σx és σh Y σy. 2.3 Lemma. Legyen Ω, A, P valószín ségi mez. Ha az F 0 A és G 0 A részhalmazalgebrák függetlenek abban az értelemben, hogy tetsz leges A F 0 és B G 0 esetén PA B = PA PB, akkor a generált F := σf 0 és G := σg 0 rész-σ-algebrák is függetlenek. Bizonyítás. Rögzítsünk egy B G 0 eseményt. Tekintsük az Ω, F mérhet ségi téren a µa := PA B, A F és a νa := PA PB, A F nemnegatív halmazfüggvényeket. Ezek a P σ-additivitása miatt σ-additívak lesznek, és µω = νω = PB, továbbá µ és ν megegyezik az F 0 halmazalgebrán, mely generálja F-et, ezért a mértékek 1.6 kiterjesztési tétele alapján µ és ν megegyezik F-en: PA B = PA PB, A F. Rögzítsünk most egy A F eseményt; az el z höz hasonló gondolatmenettel teljesül PA B = PA PB minden A F és B G esetén. 2.4 Lemma. Legyen Ω, A, P valószín ségi mez. Ha az F 1,..., F k, G 1,..., G l részσ-algebrák függetlenek, akkor az k l F := σ F i, G := σ G j rész-σ-algebrák is függetlenek. i=1 7
Bizonyítás. A F rész-σ-algebrát generálja az az F 0 halmazalgebra, mely a k i=1 A i metszetek véges, diszjunkt unióiból áll, ahol A i F i ha i {1,..., k}. Ugyanis ekkor nyilván k i=1 A i F miatt ezeknek a metszeteknek a véges uniói is benne vannak F-ben, másrészt ez a halmazrendszer megegyezik az ilyen metszetek nem feltétlenül diszjunkt, véges unióiból álló halmazrendszerrel, ezért halmazalgebrát alkotnak, hiszen a véges metszet- és unióképzésre nyilván zárt, minden i {1,..., k} esetén Ω F i, így Ω is benne van, és Ω \ k i=1 A i = k i=1 Ω \ A i miatt a komplementerképzésre is zárt. Hasonlóan, a G részσ-algebrát generálja az a G 0 halmazalgebra, mely a l B j metszetek véges, diszjunkt unióiból áll, ahol B j G j ha j {1,..., l}. Tetsz leges k i=1 A i és l B j alakú metszetre ahol A i F i ha i {1,..., k} és B j G j ha j {1,..., l} teljesül k k l k l P B j = PA i PB j = P A i P B j. i=1 A i l i=1 A valószín ség additivitása miatt ez teljesül k i=1 A i és l B j helyett ilyen metszetek véges diszjunkt unióira is, vagyis teljesül PA B = PA PB minden A F 0 és B G 0 esetén. Tehát az állítás következik az 2.3 Lemma alapján. Hasonlóan bizonyítható a következ állítás is. 2.5 Lemma. Legyen Ω, A, P valószín ségi mez. Ha az F 1,..., F k, G 1, G 2..., részσ-algebrák függetlenek, akkor az k F := σ F i, G := σ G j rész-σ-algebrák is függetlenek. i=1 2.6 Deníció. Legyen Ω, A mérhet ségi tér. Legyen minden n N esetén F n A rész-σ-algebra. Azt mondjuk, hogy az {F n : n N} rész-σ-algebrákhoz tartozó farok-σ-algebra: i=1 2.7 Példák. i Nyilván T := σf k : k n. σf k : k n T ha n. ii Ha Ω, A, P valószín ségi mez, X 1, X 2,... véletlen változók, akkor a következ események benne vannak a σx 1, σx 2,... rész-σ-algebrákhoz rendelt farok-σ-al- 8
gebrában: { } ω Ω : lim X n ω létezik, { } ω Ω : lim sup X n ω x, x R, { } ω Ω : lim X n ω létezik és lim X n ω x, x R, { } X 1 ω + + X n ω ω Ω : lim létezik. n Éppen azok az események vannak benne ebben a farok-σ-algebrában, melyek bekövetkezését nem befolyásolja véges sok X n értékének megváltoztatása. 2.8 Tétel. Kolmogorov 0 vagy 1 törvénye Legyen Ω, A, P valószín ségi mez. Legyen minden n N esetén F n A rész-σ-algebra, és jelölje T a hozzájuk tartozó farok-σalgebrát. Ha az {F n : n N} rész-σ-algebrák függetlenek, akkor tetsz leges A T PA = 0 vagy PA = 1. esetén Bizonyítás. A 2.5 Lemma alapján tetsz leges n, k N esetén a σf i : n i n + k 1 és σf j : j n + k rész-σ-algebrák függetlenek. Mivel T σf j : j n + k, így a σf i : n i n + k 1 és T rész-σ-algebrák is függetlenek. Mivel az k=1 σf i : n i n + k 1 halmazalgebra generálja a σf i : i n σ-algebrát, így a 2.3 Lemma alapján a σf i : i n és T rész-σ-algebrák is függetlenek. Megint használva azt, hogy T σf i : i n, így a T σ-algebra független önmagától: PA B = PA PB minden A, B T esetén. Tehát minden A T esetén PA = PA A = PA 2, amib l PA {0, 1}. 2.9 Példa. Ha X 1, X 2,... független véletlen változók és akkor X n := X 1 + + X n, n P {X n } konvergens {0, 1}, hiszen az { ω Ω : {X n ω} konvergens } esemény benne van a σx 1, σx 2,... részσ-algebrákhoz rendelt farok-σ-algebrában, ezért alkalmazhatjuk Kolmogorov 0 vagy 1 törvényét. Továbbá tetsz leges x R esetén az { ω Ω : lim sup X n ω x } események is benne vannak ebben a farok-σ-algebrában, ezért Kolmogorov 0 vagy 1 törvénye alapján Plim sup X n x {0, 1}. Mivel az x Plim sup X n x függvény monoton növekv és jobbról folytonos, így létezik b [, ] úgy, hogy Plim sup X n x = 0 ha x < b és Plim X n x = 1 ha x b, amib l következik, hogy P lim sup X n = b = 1. 9
Hasonlóan, létezik a [, ] úgy, hogy P lim inf X n = a = 1. Ezért ha P {X n } konvergens = 1, akkor létezik c R úgy, hogy P lim X n = c = 1. 2.10 Deníció. Ha Ω nemüres halmaz, és minden n N esetén A n Ω, akkor jelölje lim sup A n := lim inf A n := k=n k=n A k = {ω Ω : ω A n A k = {ω Ω : ω A n végtelen sok n N esetén}, véges sok n N kivételével}. Ha Ω, A, P valószín ségi mez és A 1, A 2, A független események, akkor Plim sup A n {0, 1}, azaz vagy 1 valószín séggel végtelen sok esemény bekövetkezik ezek közül, vagy pedig 1 valószín séggel legfeljebb csak véges sok. Azt, hogy melyik eset áll fenn, a következ lemma alapján lehet eldönteni. 2.11 Lemma. BorelCantelli lemma Legyen Ω, A, P valószín ségi mez, A 1, A 2, A események. i Ha PA n <, akkor P lim sup A n = 0 vagyis ezen események közül 1 valószín séggel legfeljebb csak véges sok következik be. ii Ha az {A n } események függetlenek és PA n =, akkor P lim sup A n = 1 vagyis ezen események közül 1 valószín séggel végtelen sok következik be. Bizonyítás. i. A P folytonossága és szub-σ-additivitása alapján P lim sup A n = P A k = lim P A k lim k=n ii. Nyilván P lim sup A n = P k=n A k = P 10 k=n k=n PA k = 0. k=n A k = lim P A k. k=n
Továbbá N P A k = lim P A k = lim N k=n k=n N k=n N 1 PA k lim inf N exp hiszen tetsz leges x R esetén 1 x e x. Ezért P lim sup A n = 1 P lim sup A n = 1. { } N PA k = 0, k=n 11
3 Várható érték Ha X : Ω R egyszer véletlen változó, és XΩ = {x 1,..., x l }, akkor X = l x j 1 Aj, ahol A j := {ω Ω : Xω = x j } A, j = 1,..., l diszjunkt halmazok, és l A j = Ω. 3.1 Deníció. Legyen X : Ω R egyszer véletlen változó, és XΩ = {x 1,..., x l }. Ekkor az l EX := Xω Pdω := x j PX = x j mennyiséget a X Ω várható értékének nevezzük. Nyilván a várható érték végesen additív és monoton az egyszer véletlen változókon. 3.2 Állítás. Legyen X : Ω R nemnegatív véletlen változó. i Ha Z és Y 1, Y 2,... nemnegatív egyszer véletlen változók, és tetsz leges ω Ω esetén Y n ω Xω Zω, akkor lim EY n EZ. ii Ha Y 1, Y 2,... és Z 1, Z 2,... nemnegatív egyszer véletlen változók, és tetsz leges ω Ω esetén Y n ω Xω és Z n ω Xω, akkor lim EY n = lim EZ n. Bizonyítás. i. Nyilván a lim EY n határérték létezik, hiszen az EY 1, EY 2,... sorozat monoton növekv. Tetsz leges ε > 0 esetén A n := {ω Ω : Y n ω Zω ε} Ω, ezért PA n 1 ha n, amib l PA n 0 ha n. Mivel Y n Y n 1 An Z ε1 An, így EY n E [Z ε1 An ] = EZ E [ ] Z1 An ε PAn EZ PA n max Zω ε, ω Ω amib l lim EY n EZ ε. ii. Az i alapján minden m N esetén lim EY n EZ m, ezért lim EZ m. Hasonlóan lim EZ n lim EY m m. m lim EY n 3.3 Deníció. Legyen X : Ω R nemnegatív véletlen változó. Legyen {X n } nemnegatív egyszer véletlen változókból álló sorozat úgy, hogy tetsz leges ω Ω esetén X n ω Xω ha n. mennyiséget a X Ilyen az 1.12 tétel szerint létezik. Ekkor az EX := Xω Pdω := lim EX n várható értékének nevezzük. Ω 12
A 3.2 Állítás alapján EX [0, ] egyértelm en van deniálva. Továbbá EX = sup {EY : Y egyszer véletlen változó melyre 0 Y X}. Ha X : Ω R véletlen változó, akkor X + := max{x, 0} és X := min{x, 0} is véletlen változók, és X = X + X. 3.4 Deníció. Legyen X : Ω R véletlen változó. Azt mondjuk, hogy X-nek létezik várható értéke integrálja, ha az EX + és EX várható értékek közül legalább az egyik véges, és ekkor EX := Ω Xω Pdω := EX + EX. Azt mondjuk, hogy X-nek véges a várható értéke integrálható, ha az EX + és EX várható értékek végesek. Mivel X = X + + X, így X-nek akkor és csak akkor véges a várható értéke, ha E X <, azaz X L 1 Ω, A, P. 3.5 Tétel. Transzformációtétel Ha X : Ω R d véletlen vektor és g : R d R mérhet függvény, akkor E[gX] = gxω Pdω = Ω gx P X dx = R d gx df X x R d abban az értelemben, hogy az integrálok ugyanakkor léteznek, és ha léteznek, egyenl ek. 3.6 Állítás. A várható érték tulajdonságai: i X akkor és csak akkor integrálható, ha X integrálható. ii Ha létezik EX és c R, akkor létezik EcX, és EcX = c EX. iii Ha létezik EX > és X Y P-m.b., akkor létezik EY és EX EY. iv Ha létezik EX, akkor EX E X. v Ha létezik EX, akkor tetsz leges A A esetén létezik EX1 A ; ha X integrálható, akkor tetsz leges A A esetén X1 A is integrálható. vi Ha EX, EY léteznek, és az EX + EY kifejezés értelmes azaz nem vagy + alakú, akkor EX + Y létezik és EX + Y = EX + EY. vii Ha X = 0 P-m.b., akkor EX = 0. viii Ha X = Y P-m.b. és EX létezik, akkor EY is létezik, és EX = EY. ix Ha X 0 P-m.b. és EX = 0, akkor X = 0 P-m.b. 13
x Ha X integrálható és tetsz leges A A esetén EX1 A 0, akkor X 0 P-m.b. xi Ha X és Y integrálhatóak és tetsz leges A A esetén EX1 A EY 1 A, akkor X Y P-m.b. xii Ha X és Y integrálhatóak és tetsz leges A A esetén EX1 A = EY 1 A, akkor X = Y P-m.b. xiii Ha X és Y integrálhatóak és X, Y függetlenek, akkor XY is integrálható és EXY = EX EY. xiv Monoton konvergenciatétel: Ha X 1, X 2,... integrálhatók, tetsz leges n N esetén X n Y P-m.b., EY >, és X n X P-m.b., akkor EX n EX ha n. xv Ha X 1, X 2,... nemnegatívak, akkor E X n = EX n. xvi Fatou-lemma: Ha tetsz leges n N esetén X n Y P-m.b. és EY >, akkor E lim inf X n lim inf EX n. xvii Majoráns konvergenciatétel: Ha tetsz leges n N esetén X n Y P-m.b., EY < és X n X X 0 ha n. P-m.b., akkor E X <, EX n EX és E X n xviii CauchySchwartz-egyenl tlenség: Ha EX 2, EY 2 <, akkor E XY EX2 EY 2. xix Jensen-egyenl tlenség: Ha E X <, I R olyan nyitott nem feltétlenül korlátos intervallum, hogy PX I = 1, és g : I R konvex, akkor EX I és gex EgX. xx Hölder-egyenl tlenség: Legyenek p, q 1, olyanok, hogy p 1 + q 1 = 1. E X p < és E Y q <, akkor E XY E X p 1/p E Y q 1/q. Ha xxi Ljapunov-egyenl tlenség: Ha 0 < s < t, akkor E X s 1/s E X t 1/t. xxii Minkowski-egyenl tlenség: Legyen p [1,. Ha E X p < és E Y p <, akkor E X + Y p 1/p E X p 1/p + E Y p 1/p. 3.7 Deníció. Legyen X, X mérhet ségi tér. Azt mondjuk, hogy a µ : X [, ] halmazfüggvény abszolút folytonos a ν : X [, ] halmazfüggvényre nézve, ha minden B X, νb = 0 esetén µb = 0. Jelölése: µ ν. Legyen ν : X [0, ] mérték. Azt mondjuk, hogy a X : Ω X véletlen változó abszolút folytonos eloszlású a ν mértékre nézve, ha P X ν. Azt mondjuk, hogy a X : Ω R d a λ d véletlen vektor abszolút folytonos eloszlású, ha abszolút folytonos eloszlású Lebesgue-mértékre nézve. 14
3.8 Tétel. S r ségtétel Legyen X, X mérhet ségi tér, ν : X [0, ] mérték, g : X R + nemnegatív mérhet függvény. Ekkor a µ : X [0, ], µb := gx νdx B halmazfüggvény mérték, amely pontosan akkor véges, ha g integrálható, µ ν, és tetsz leges h : X R mérhet függvény esetén hxµdx = X X hxgx νdx abban az értelemben, hogy a két oldal ugyanakkor létezik, és ha léteznek, egyenl ek. 3.9 Tétel. RadonNikodym tétel Legyen X, X mérhet ségi tér és ν : X [0, ] σ-véges mérték. A µ : X [, ] el jeles mérték akkor és csak akkor abszolút folytonos a ν mértékre nézve, ha létezik olyan g : X [, ] mérhet függvény, hogy tetsz leges B X esetén µb = B gx νdx. A g függvény ν-m.m. egyértelm en meg van határozva, azaz ha egy h : X [, ] mérhet függvényre is teljesül µb = B hx νdx minden B X esetén, akkor ν{x X : gx hx} = 0. A RadonNikodym tételben létez ν-m.m. egyértelm en meghatározott g függvényt a µ mértéknek a ν mértékre vonatkozó RadonNikodym deriváltjának nevezzük, melynek jelölése dµ dν. 3.10 Deníció. Legyen Ω, A, P valószín ségi mez, X : Ω R d abszolút folytonos eloszlású véletlen vektor. Ekkor a P X mértéknek a λ Lebesgue-mértékre vonatkozó f X := d P X dλ d RadonNikodym deriváltját s r ségfüggvénynek nevezzük. 3.11 Állítás. A X : Ω R véletlen változó akkor és csak akkor abszolút folytonos, ha az F X eloszlásfüggvény abszolút folytonos, azaz bármely ε > 0 esetén létezik δ > 0 úgy, hogy ha k N, a 1 < b 1 a 2 < b 2... a k < b k és k b j a j < δ, akkor k F Xb j F X a j < ε. A s r ségfüggvény és eloszlásfüggvény kapcsolatát írja le a következ állítás. 3.12 Állítás. Ha a X : Ω R d véletlen vektor abszolút folytonos, akkor f X x = 1... d F X x λ d -m.m. Abszolút folytonos véletlen vektor függvényének várható értékét a következ módon számolhatjuk. 15
3.13 Állítás. Ha X : Ω R d abszolút folytonos véletlen vektor és g : R d R mérhet függvény, akkor E[gX] = gxf X x dx R d abban az értelemben, hogy a két oldal ugyanakkor létezik, és ha léteznek, egyenl ek. Abszolút folytonos véletlen változó szigorúan monoton transzformáltja újra abszolút folytonos, melynek s r ségfüggvényét a következ módon számolhatjuk. 3.14 Állítás. Ha X : Ω R abszolút folytonos véletlen változó, I R olyan nem feltétlenül korlátos intervallum, hogy PX I = 1, h : I R szigorúan monoton növekv vagy csökken folytonosan dierenciálható, és minden x I esetén h x 0, akkor a hx véletlen vektor is abszolút folytonos, és s r ségfüggvénye fh 1 y, ha y hi, h f hx y = h 1 y 0, egyébként, ahol h 1 a h inverzét jelöli. Független, abszolút folytonos eloszlású véletlen változók összegének, szorzatának és hányadosának s r ségfüggvényét a következ módon számolhatjuk. 3.15 Állítás. Ha X és Y független, abszolút folytonos eloszlású véletlen változók, akkor a X + Y véletlen vektor is abszolút folytonos eloszlású, és f X+Y z = f X xf Y z x dx = f X z yf Y y dy. a XY véletlen vektor is abszolút folytonos eloszlású, és f XY z = f X xf Y z x dx x = f X z y f Y y dy y. a X véletlen vektor is abszolút folytonos eloszlású, és Y f X z = 1 x f Y z 2 X xf Y x dx = f X zyf Y y y dy. z 3.16 Deníció. Legyen X, X mérhet ségi tér, µ : X [, ] mérték. Azt mondjuk, hogy a µ mérték a B X halmazba koncentrálódik, ha µx \ B = 0. Ez a halmaz nem egyértelm en deniált. 3.17 Deníció. Azt mondjuk, hogy a X : Ω R d véletlen vektor diszkrét eloszlású, ha létezik B R d megszámlálható halmaz úgy, hogy P X a B halmazba koncentrálódik, azaz PX B = 1. Az ilyen tulajdonságú halmazok metszetét azaz a legsz kebb ilyen halmazt a P X mérték tartójának nevezzük. Jelölése: suppx. 16
3.18 Állítás. A X : Ω R d diszkrét véletlen vektor tartója a P X mérték atomjaiból áll, azaz suppx = { x R d : P X {x} > 0 } = { x R d : PX = x > 0 }. 3.19 Állítás. A X : Ω R d diszkrét véletlen vektor eloszlásfüggvénye F X x = {y suppx : y x} PX = y, x R d. 3.20 Állítás. Legyen X : Ω R d diszkrét véletlen vektor és g : R d R mérhet függvény. A gx véletlen változó akkor és csak akkor integrálható, ha E[ gx ] = x suppx gx PX = x <, és ekkor E[gX] = gx PX = x. x suppx 3.21 Deníció. Legyen X, X mérhet ségi tér. Azt mondjuk, hogy a µ : X [0, ] és ν : X [0, ] mértékek szingulárisak egymásra nézve, ha léteznek olyan diszjunkt A, B X halmazok, hogy µ az A halmazba, ν pedig a B halmazba koncentrálódik. Jelölése: µ ν. 3.22 Deníció. Azt mondjuk, hogy a X : Ω R d véletlen vektor szinguláris, ha P X λ, azaz B BR d úgy, hogy λb = 0 és PX B = 1. A diszkrét véletlen vektorok nyilván szingulárisak. 3.23 Állítás. A X : Ω R véletlen változó akkor és csak akkor szinguláris, ha F X x = 0 m.m. 3.24 Tétel. Tetsz leges F : R [0, 1] eloszlásfüggvény egyértelm en felbontható F = p 1 F d + p 2 F af + p 3 F fs alakban, ahol p 1, p 2, p 3 0, p 1 + p 2 + p 3 = 1, F d diszkrét, F af abszolút folytonos, F fs folytonos szinguláris eloszlásfüggvény. 3.25 Deníció. Legyen X : Ω R véletlen változó. Legyen α R +. A X α-adik abszolút momentuma: E X α. Ha k N, és X X k-adik momentuma: EX k, k-adik abszolút momentuma véges, akkor X k-adik centrális momentuma: E [ X EX k]. 17
Ha X második abszolút momentuma véges, akkor X második centrális momentumát X varianciájának szórásnégyzetének nevezzük. Jelölése: VarX := D 2 X := E [ X EX 2]. 3.26 Deníció. Legyen X = X 1,..., X d : Ω R d véletlen vektor. Ha E X 1 <,... E X d <, akkor X várható érték vektora EX := EX 1,..., EX d R d. 3.27 Deníció. Legyen X = X 1,..., X d : Ω R d véletlen vektor. Ha E X 2 <, azaz EX1 2 <,... EXd 2 <, akkor X kovarianciamátrixa CovX := E [ X EXX EX ] R d d, melynek elemei CovX i, X j := E [X i EX i X j EX j ], 1 i, j d. A kovarianciamátrix tulajdonságait írja le a következ állítás. 3.28 Állítás. Legyen X = X 1,..., X d : Ω R d véletlen vektor, E X 2 <. CovX szimmetrikus: CovX = CovX. CovX pozitív szemidenit, azaz x R d x CovXx = CovXx, x = esetén d d CovX i, X j x i x j 0. i=1 Ha A R r d és b R r, akkor EAX + b = A EX + b és CovAX + b = A CovXA. 18
4 Karakterisztikus függvény, generátorfüggvény 4.1 Deníció. A X : Ω C, X = Re X + i Im X komplex érték véletlen változónak véges a várható értéke integrálható, ha az ERe X és EIm X várható értékek végesek, és ekkor EX := ERe X + i EIm X. Nyilván a X : Ω C komplex érték véletlen változónak akkor és csak akkor véges a várható értéke, ha E X <. 4.2 Állítás. Ha X : Ω C komplex érték véletlen változó és E X <, akkor EX E X. Bizonyítás. Nyilván EX = ERe X + i EIm X = [ERe X] 2 + [EIm X] 2 E Re X2 + Im X 2 = E X, hiszen a g : R 2 R, gx, y := x 2 + y 2 függvény konvex, így alkalmazhatjuk a Jensenegyenl tlenséget. 4.3 Deníció. Legyen Γ nemüres halmaz, és minden γ Γ esetén X γ : Ω C komplex érték véletlen változó. Azt mondjuk, hogy a {X γ : γ Γ} komplex érték véletlen változók függetlenek, ha a {Re X γ, Im X γ : γ Γ} véletlen vektorok függetlenek. Nyilván ha X : Ω C és Y : Ω C független komplex érték véletlen változók és E X <, E Y <, akkor E XY < és EXY = EX EY. 4.4 Deníció. A X : Ω R d véletlen vektor karakterisztikus függvénye ϕ X : R d C, ϕ X t := Ee i t,x, t R d. 4.5 Állítás. A karakterisztikus függvény tulajdonságai: i ϕ X 1, és ϕ X 0 = 1. ii ϕ X egyenletesen folytonos. iii Tetsz leges t R d esetén ϕ X t = ϕ X t. iv Bochner-tétel: A ϕ : R d C függvény akkor és csak akkor karakterisztikus függvénye valamely véletlen vektornak, ha folytonos és pozitív szemidenit, azaz tetsz leges n N és tetsz leges t 1,..., t n R d esetén a ϕt j t l mátrix j,,...,n pozitív szemidenit, azaz tetsz leges z 1,..., z n C esetén ϕt j t l z j z l 0. 19
v Tetsz leges A R d d, b R d és t R d esetén ϕ AX+b t = e i t,b ϕ X A t. vi P X = P Y akkor és csak akkor, ha ϕ X = ϕ Y. vii X 1,..., X l : Ω R d akkor és csak akkor függetlenek, ha tetsz leges t 1,..., t l R d esetén ϕ X1,...,X l t 1,..., t l = l ϕ Xj t j. viii Ha E X n < valamely n N esetén, akkor ϕ X n-szer folytonosan dierenciálható, és tetsz leges r 1,..., r d, r 1 + + r d n nemnegatív egészek esetén r 1 1... r d d ϕ Xt = i r 1+ +r d EX r 1 1 X r d EX r 1 1 X r d d = r 1 1... r d d ϕ X0, i r 1+ +r d i r 1+ +r d t r 1 1 t r d ϕ X t = d EX r 1 1 X r d d r 1! r d! + R nt, r 1 + +r d n d ei t,x, ahol R n t = O t n és R n t = o t n ha t 0, mégpedig R n t 3 t n n! E X n, R n t lim t 0 t = 0. n ix Ha X : Ω R véletlen változó és ϕ 2n 0 létezik és véges valamely n N esetén, akkor EX 2n <. x Ha tetsz leges n N esetén E X n <, és X R := lim sup 1 E X n /n!. n akkor tetsz leges t R d, t < R esetén ϕ X t =... r 1 =0 r d =0 i r 1+ +r d EX r 1 1 X r d r 1! r d! d t r 1 1 t r d d. xi Inverziós formula s r ségfüggvényre: Ha ϕ X L 1 R d, azaz R d ϕ X t dt <, akkor X eloszlása abszolút folytonos, és a s r ségfüggvénye f X x = 1 e i t,x ϕ 2π d X t dt, x R d. R d Bizonyítás. i. Nyilván ϕ X t = Ee i t,x E e i t,x = 1. ii. Tetsz leges t, h R d esetén ϕ X t + h ϕ X t = Ee i t+h,x e i t,x = Ee i t,x e i h,x 1 E e i h,x 1. A majoráns konvergencia-tétel alapján lim h 0 E e i h,x 1 = 0. 20
iii. ϕ X t = Ee i t,x = Ee i t,x = ϕ X t. iv. Ha X : Ω R d R d, és tetsz leges z 1,..., z n C esetén véletlen változó, akkor tetsz leges n N, tetsz leges t 1,..., t n ϕt j t l z j z l = = E e i tj,x z j A másik irányt nem bizonyítjuk. v. Ee i t j t l,x z j z l e i t l,x z l = E 2 e i tj,x z j 0. ϕ AX+b t = Ee i t,ax+b = e i t,b Ee i A t,x = e i t,b ϕ X A t. vi. Csak k = 1 esetén bizonyítjuk. Ha P X = P Y, akkor a deníció alapján nyilván ϕ X = ϕ Y. Most tegyük fel, hogy ϕ X = ϕ Y. Legyen [a, b] R, ε > 0 és t R esetén 0 ha t < a ε vagy t > b + ε, t a/ε + 1 ha a ε t < a, f ε t := 1 ha a t b, b t/ε + 1 ha b < t b + ε. Megmutatjuk, hogy Ef ε X = Ef ε Y. Legyen n N olyan nagy, hogy [a ε, b + ε] [ n, n]. Mivel f ε : R R folytonos, így a StoneWeierstrass-tétel szerint létezik f n ε : R R trigonometrikus polinom azaz f n ε t = k a n,ke iπtk/n, ahol a szumma véges sok tagot tartalmaz és a n,k C úgy, hogy sup f ε t f n ε t 2 n. t n Mivel tetsz leges t R esetén f ε t [0, 1], így tetsz leges t R esetén f n ε t f n ε t f ε t + f ε t 2 n + 1 2. A ϕ X = ϕ Y feltétel alapján Ef n ε X = k a n,k Ee iπxk/n = k a n,k ϕ X πk/n = k a n,k ϕ Y πk/n = Ef ε n Y. Ezért Ef ε X Ef ε Y = Ef ε X1 { X n} Ef ε Y 1 { Y n} Ef ε X1 { X n} Ef ε n X1 { X n} + Ef ε n + Ef ε n Y 1 { Y n} Ef ε Y 1 { Y n} 2 n + Ef ε n + Ef ε n X1 { X n} Ef ε Y 1 { Y n} X1 { X n} Ef ε X + Ef ε X Ef ε Y Y Ef ε Y 1 { Y n} + 2 n 2 n+1 + 2 P X > n + 2 P Y > n, n n amib l n esetén azt kapjuk, hogy Ef ε X = Ef ε Y. Tetsz leges t R esetén f ε t 1 [a,b] t ha ε 0, ezért a monoton konvergencia-tétellel lim ε 0 Ef ε X = 21 n n n
E1 [a,b] X = PX [a, b], és hasonlóan lim ε 0 Ef ε Y = PY [a, b], így végül is tetsz leges [a, b] R esetén PX [a, b] = PY [a, b], amib l következik, hogy P X = P Y. vii. Ha X 1,..., X l : Ω R d függetlenek, akkor tetsz leges t 1,..., t l R d esetén { } l l l l ϕ X1,...,X l t 1,..., t l = E exp i t j, X j = E e i t j,x j = Ee i t j,x j = ϕ Xj t j. Ha X 1,..., X l : Ω R d véletlen vektorok, és tetsz leges t 1,..., t l R d esetén l ϕ X1,...,X l t 1,..., t l = ϕ Xj t j, akkor legyenek Y 1,..., Y l : Ω R d olyan független véletlen vektorok, hogy P Yj = P Xj, j = 1,..., l. Ekkor tetsz leges t 1,..., t l R d esetén l l ϕ Y1,...,Y l t 1,..., t l = ϕ Yj t j = ϕ Xj t j = ϕ X1,...,X l t 1,..., t l, így P X1,...,X l = P Y1,...,Y l, ezért tetsz leges x 1,..., x l R d esetén F X1,...,X l x 1,..., x l = F Y1,...,Y l x 1,..., x l = amib l következik, hogy X 1,..., X l : Ω R d l F Yj x j = függetlenek. l F Xj x j, viii. Ha k = n = 1, akkor tetsz leges t R esetén a majoráns konvergencia-tétellel [ ] ϕ X t + h ϕ X t e = E e itx ihx 1 E ixe itx ha h 0, h h hiszen tetsz leges u R esetén e iu 1 u, így tetsz leges ω Ω esetén e ihxω 1 eitxω Xω. h Ezért ϕ X t = EiXeitX. Tetsz leges y R esetén Az általános eset teljes indukcióval bizonyítható. e iy = cos y + i sin y = n 1 r=0 iy r r! + iyn cosϑ 1 yy + i sinϑ 2 yy, n! ahol ϑ 1 y, ϑ 2 y 0, 1. Így tetsz leges t R d esetén n 1 i t, X Ee i t,x r = E r! r=0 i t, X n + E cos ϑ 1 t, X + i sin ϑ 2 t, X, n! ahol ϑj : Ω R, ϑj ω := ϑ j t, Xω 0, 1 ha j = 1, 2, ezért i t, X r ϕ X t = E + R n t, r! r=0 22
ahol i t, X n R n t := E cos ϑ 1 t, X + i sin ϑ 2 t, X 1. n! Nyilván R n t 3 t n E X n /n!, és R n t X n t E cos ϑ n 1 t, X + i sin ϑ 2 t, X 1 0 ha t 0, n! a majoráns konvergencia-tétel alapján. ix. Teljes indukcióval bizonyítunk. Ha n = 1, akkor alapján ϕ 1 X0 = lim h 0 2 így a L'Hospital-szabállyal ezért ϕ X0 = lim h 0 ϕ X 2h ϕ X 0 2h = lim h 0 ϕ X 0 ϕ X 2h 2h ϕ X 2h ϕ X 0 + ϕ X 0 ϕ X 2h ϕ X = lim 2h ϕ X 2h, 2h 2h h 0 4h ϕ X0 = lim h 0 Ee 2ihX 2 + Ee 2ihX 4h 2 ϕ ϕ X 2h 2ϕ X 0 + ϕ X 2h X0 = lim, h 0 4h 2 [ e ihx e ihx 2 ] = lim E h 0 2h = lim h 0 E [ sinhx ] 2. h A Fatou-lemmával: ϕ X0 E [ lim inf h 0 ] 2 sinhx = EX 2, h tehát EX 2 ϕ 0 <. Tegyük fel, hogy az állítás igaz n-re, és ϕ 2n+2 X 0 létezik és véges. Ekkor az indukciós feltevés miatt EX 2n <. Ha EX 2n = 0, akkor X = 0 P-m.b., így EX 2n+2 = 0. Legyen most EX 2n > 0. Legyen y R esetén F y := EX2n 1 {X y}. EX 2n Ekkor F : R R egy eloszlásfüggvény. Legyen Y : Ω R olyan valószín ségi változó, melynek eloszlásfüggvénye F Y = F. P Y, y] = F Y y = Nyilván tetsz leges y R esetén 1 EX 2n y x 2n P X dx, ezért a mérték kiterjesztési tételével tetsz leges B BR esetén 1 P Y B = x 2n P EX 2n X dx, 23 B
d P tehát P Y P X és Y d P X x = 1 EX 2n x2n, x R. Mivel viii alapján tetsz leges t R esetén ϕ 2n X t = E [ ix 2n e itx], ezért a s r ségtétellel 1 n ϕ 2n X t EX 2n = EX2n e itx EX 2n = x2n e itx P X dx EX 2n = e itx P Y dx = Ee ity = ϕ Y t. Alkalmazva az állítást n = 1 esetén az Y valószín ségi változóra: EY 2 <. Mivel EY 2 = x 2 df Y x = x2 x 2n df X x EX 2n = EX2n+2 EX 2n, így EX 2n+2 <. x. Csak k = 1 esetén bizonyítjuk. Egyrészt viii alapján ϕ X t = r=0 i r EX r t r + R n t, r! ahol R n t 3 t n n! E X n. Másrészt tetsz leges ε > 0 esetén létezik n 0 N úgy, hogy bármely n n 0 esetén ezért ekkor így amennyiben t < R ε. t R, t < R esetén. 1/n n! R ε, E X n E X n n! R ε n, n t R n t 3 0 ha n, R ε Mivel ε > 0 tetsz leges lehet, így lim R n t = 0 bármely Továbbá a hatványsor konvergenciasugara r=0 i r EX r t r r! R = lim sup 1 n EXn /n! R. 4.6 Deníció. Legyenek X n : Ω R d, n N, és X : Ω R d véletlen vektorok. Azt mondjuk, hogy a X n n 1 sorozat eloszlásban konvergál X-hez, ha F Xn x F X x az F X minden x folytonossági pontjában. Jelölése: X n D X. 4.7 Tétel. Folytonossági tétel Legyenek X n : Ω R d, n N véletlen vektorok. 24
i Ha létezik olyan X : Ω R d véletlen vektor, hogy X n D X, akkor ϕ Xn ϕ X minden korlátos intervallumon egyenletesen. ii Ha tetsz leges t R d esetén létezik lim ϕ Xn t =: ϕt, és ϕ folytonos a 0 R d pontban, akkor létezik olyan X : Ω R d véletlen vektor, hogy ϕ X = ϕ, és D X. X n 4.8 Deníció. Ha a X : Ω R d véletlen vektor koordinátái nemnegatív egész értékeket vesznek fel, azaz X a Z d + halmazba koncentrálódik, vagyis PX Z d + = 1, akkor X = X 1,..., X d generátorfüggvénye a G X z := G X1,...,X d z 1,..., z d := Ez X := Ez X 1 1 z X d = PX 1 = k 1,..., X d = k d z k 1 1 z k d d k 1 =0 k d =0 d-változós komplex hatványsor összegfüggvénye. Ez a hatványsor abszolút konvergens a {z 1,..., z d C d : z 1 1,..., z d 1} halmazon, és X karakterisztikus függvénye a d ϕ X t = ϕ X t 1,..., t d = G X e it 1,..., e it d, t = t 1,..., t d R d periodikus függvény. A generátorfüggvény tulajdonságait foglalja össze a következ állítás. 4.9 Tétel. i G X 1,..., 1 = 1 ii G X analitikus a {z 1,..., z d C d : z 1 < 1,..., z d < 1} halmazon iii Tetsz leges k 1,..., k d nemnegatív egészek esetén PX 1 = k 1,..., X d = k d = k 1 1... k d d G X0,..., 0 r 1! r d! iv P X = P Y x [ 1, 1] d esetén G X x = G Y x v Ha X és Y függetlenek, akkor G X+Y z = G X zg Y z a {z 1,..., z d C d : z 1 1,..., z d 1} halmazon vi Tetsz leges r 1,..., r d és nemnegatív egészek esetén EX r 1 1 X r d d < r 1 1... r d d G X1,..., 1 <, r 1 1... r d d G X1,..., 1 = EX 1 X 1 1 X 1 r 1 + 1 X d X d 1 X d r d + 1 25
5 Nevezetes eloszlások 26
6 Többdimenziós normális eloszlás 6.1 Deníció. Azt mondjuk, hogy az Y : Ω R d véletlen vektor standard normális eloszlású, ha Y = Y 1,..., Y k, ahol Y 1,..., Y d : Ω R független, standard normális eloszlású valószín ségi változók. Azt mondjuk, hogy a X : Ω R d véletlen vektor normális eloszlású, ha X eloszlása megegyezik AY +m eloszlásával, ahol Y : Ω R d standard normális eloszlású, A R d d, és m R d. 6.2 Tétel. Egy X : Ω R d véletlen vektor akkor és csak akkor normális eloszlású, ha karakterisztikus függvénye ϕ X t = exp {i m, t 12 } Dt, t, t R d alakú, ahol m R d, és D R d d szimmetrikus, pozitív szemidenit mátrix, azaz D = D, valamint tetsz leges t R d esetén Dt, t 0. Továbbá m = EX, D = CovX. Ha D invertálható, akkor X abszolút folytonos, és s r ségfüggvénye 1 f X x = { 2πd detd exp 1 } 2 D 1 x m, x m, x R d. Bizonyítás. Ha Y : Ω R d standard normális eloszlású, akkor tetsz leges t R d esetén d d ϕ Y t = Ee it 1Y 1 + +t d Y d = Ee it jy j = e t2 j /2 = e t 2 /2. Ezért ha X : Ω R d normális eloszlású, akkor tetsz leges t R d esetén ϕ X t = Ee i t,x = Ee i t,ay +m = e i t,m Ee i A t,y { = e i t,m ϕ Y A t = e i t,m e A t 2 /2 = exp i t, m 1 } 2 AA t, t, tehát ϕ X valóban a tételben szerepl alakú, ahol D := AA valóban szimmetrikus: D = AA = AA = D, és pozitív szemidenit: tetsz leges t R d Dt, t = AA t, t = A t, A t = A t 2 0. Továbbá EX = EAY + m = A EY + m = m, és CovX = E[X EXX EX ] = E[AY AY ] = EAY Y A = A EY Y A = AA = D. esetén Ha X : Ω R d olyan valószín ségi változó, melynek karakterisztikus függvénye a tételben megadott alakban áll el, akkor el ször is létezik olyan O R d d ortogonális mátrix azaz O 1 = O, hogy O 1 DO = diagλ 1,..., λ d, ahol diagλ 1,..., λ d olyan diagonális mátrix, melynek f átlójában a λ 1,..., λ d 0 számok állnak. Ezért D = 27
O diagλ 1,..., λ d O 1 = OBB O, ahol B := diag λ 1,..., λ d, így D = AA alakú, ahol A := OB. Az els rész alapján ha Y : Ω R d standard normális eloszlású, akkor AY +m karakterisztikus függvénye is a tételben megadott, és így a karakterisztikus függvény egyértelm sége miatt X normális eloszlású. Végül ha x = x 1,..., x d R d, H := {y R d : y 1 x 1,..., y d x d }, X eloszlásfüggvényét F X jelöli, Y s r ségfüggvényét pedig f Y, akkor F X x = PX 1 x 1,..., X d x d = PX H = PAY + m H = PY A 1 H m 1 = f Y u du = /2 A 1 H m A 1 H m 2π d/2 e u 2 du 1 = 2π d/2 deta e A 1 v m 2/2 dv, H ahol az u = A 1 v m helyettesítést hajtottuk végre, melynek Jacobi-mátrixa A 1. Nyilván detd = deta deta = deta 2, és A 1 v m 2 = A 1 v m, A 1 v m = A 1 A 1 v m, v m = AA 1 v m, v m = D 1 v m, v m, így le lehet olvasni, hogy X-nek létezik s r ségfüggvénye, mely a tételben adott alakú. 6.3 Deníció. Azt mondjuk, hogy a X : Ω R d véletlen vektor normális eloszlású m, D paraméterekkel, ha X karakterisztikus függvénye a 6.2 Tételben adott alakú. Jelölése: X D = N m, D. Az alábbi következmény szerint tetsz leges normális eloszlású véletlen vektor lineáris transzformáltjai is normális eloszlású véletlen vektorok. 6.4 Következmény. Ha X D = N m, D d-dimenziós normális eloszlású véletlen vektor, a R l és B R l d, akkor a+bx D = N a+bm, BDB l-dimenziós normális eloszlású véletlen vektor. Bizonyítás. Minden t R l esetén ϕ a+bx t = Ee i t,a+bx = e i t,a Ee i B t,x = e i t,a ϕ X B t { = exp i t, a + i m, B t 1 } { 2 DB t, B t = exp i a + Bm, t 1 } 2 BDB t, t, amib l következik az állítás. Az alábbi következmény karakterizálja a többdimenziós normális eloszlásokat. 6.5 Következmény. Egy X : Ω R d véletlen vektor akkor és csak akkor normális eloszlású, ha minden c R d vektor esetén a c X véletlen változó normális eloszlású. Bizonyítás. Ha a X véletlen vektor normális eloszlású, akkor az el z következmény szerint tetsz leges c R d vektor esetén c X D = N c m, c Dc normális eloszlású véletlen változó. 28
Fordítva: ha valamely c R d akkor karakterisztikus függvénye ϕ c Xs = exp vektor esetén a c X véletlen változó normális eloszlású, {im c s 12 σ2c s 2 }, s R, ahol m c = Ec X = c EX és σ 2 c = Varc X = c CovXc, ezért a X véletlen vektor karakterisztikus függvénye { ϕ X t = Ee i t,x = Ee it X = ϕ t X1 = exp it EX 1 } 2 t CovXt = exp {i EX, t 12 } CovXt, t, amib l következik, hogy a X véletlen vektor normális eloszlású. 6.6 Következmény. Legyen X 1,..., X d, Y 1,..., Y l d + l-dimenziós normális eloszlású véletlen vektor, és tegyük fel, hogy bármely i {1,..., d} és j {1,..., l} esetén CovX i, Y j = 0. Ekkor X 1,..., X d és Y 1,..., Y l függetlenek. Bizonyítás. A feltételek szerint Z := X 1,..., X d, Y 1,..., Y l szórásmátrixa [ ] Σ X 0 Σ Z = 0 Σ Y alakú, ahol Σ X és Σ Y a X := X 1,..., X d, illetve Y := Y 1,..., Y l szórásmátrixa. A Z várható érték vektora m Z = m X, m Y alakú, ahol m X és m Y a X 1,..., X d, illetve Y 1,..., Y l várható érték vektora. Így Z karakterisztikus függvénye tetsz leges t = u, v u R d, v R l pontban { ϕ Z t = exp i m Z, t 1 } 2 Σ Zt, t { = exp i m X, u + i m Y, v 1 2 Σ Xu, u 1 } 2 Σ Y v, v = ϕ X uϕ Y v, ezért X és Y függetlenek. 6.7 Következmény. Legyenek X 1,..., X d független, standard normális eloszlású véletlen változók. Az a 1 X 1 + + a d X d és b 1 X 1 + + b d X d lineáris kombinációk akkor és csak akkor függetlenek, ha az a 1,..., a d és b 1,..., b d vektorok mer legesek egymásra. Bizonyítás. A a 1 X 1 + + a d X d, b 1 X 1 + + b d X d kétdimenziós véletlen vektor normális eloszlású, hiszen a X := X 1,..., X d standard d-dimenziós véletlen vektor lineáris traszformáltja. Az el z következmény szerint az a 1 X 1 + + a d X d és b 1 X 1 + + b d X d véletlen változók akkor és csak akkor függetlenek, ha korrelálatlanok. Az a := a 1,..., a d, b := b 1,..., b d jelöléssel Cova X, b X = E [ a X Ea Xb X Eb X ] = Ea XX b = a EXX b = a CovXb = a b = a, b, hiszen CovX az egységmátrix. 29
7 Véletlen vektorok sorozatának konvergenciafajtái 7.1 Deníció. Legyenek X : Ω R d és X n : Ω R d, n N, véletlen vektorok. Azt mondjuk, hogy az X 1, X 2,... sorozat X-hez konvergál m.b. majdnem biztosan jelölése X n X vagy X n X P-m.b., ha P lim X n = X = P {ω Ω : lim X n ω = Xω} = 1; sztochasztikusan jelölése X n eloszlásban jelölése X n P X, ha bármely ε > 0 esetén lim P X n X ε = 0; D X, ha lim F X n x = F X x minden olyan x R pontban, ahol F X folytonos; r r-edik momentumban, ahol r > 0 jelölése X n X, ha E X r <, E X n r <, n N, és lim E X n X r = 0. A majdnem biztos, sztochasztikus és r-edik momentumbeli konvergenciák kapcsolatáról szól a következ tétel. 7.2 Tétel. Legyenek X : Ω R d és X n : Ω R d, n N, véletlen vektorok. m.b. r P i Ha X n X, vagy valamely r > 0 esetén X n X, akkor Xn X. r s ii Ha X n X valamely r > 0 esetén, akkor tetsz leges s 0, r esetén Xn X. Bizonyítás. i. Nyilván X n m.b. X ε > 0 P X k X > ε végtelen sok k N esetén = 0. Tetsz leges ε > 0 esetén { } { X n X > ε} A n ε := sup X k X > ε k n = Mivel A n, ezért P X n X > ε PA n ε P m=1 A m ε = P { X k X > ε}. k=n m=1 k=m { X k X > ε} = P X k X > ε végtelen sok k N esetén 7.3 30
m.b. P amint n, tehát ha X n X, akkor X n X. A Markov-egyenl tlenség szerint tetsz leges ε > 0 esetén 0 P X n X > ε = P X n X r > ε r E X n X r ε r, r P tehát ha X n X, akkor Xn X. ii. A Ljapunov-egyenl tlenség szerint tetsz leges s 0, r esetén 0 E X n X s [E X n X r ] s r, r s tehát ha X n X, akkor Xn X. A határérték egyértelm ségér l szól a következ tétel. 7.4 Tétel. Ha X : Ω R d, Y : Ω R d, X n : Ω R d és Y n : Ω R d, n N, P P véletlen vektorok úgy, hogy X n X, Y n Y, és X n = Y n P-m.b. minden n N esetén, akkor X = Y P-m.b. Bizonyítás. Tetsz leges ε > 0 és n N esetén { X n X ε} { Y n Y ε} {X n = Y n } { X Y 2ε}, ezért { X Y > 2ε} { X n X > ε} { Y n Y > ε} {X n Y n }. Mivel PX n Y n = 0, így P X Y > 2ε P X n X > ε + P Y n Y > ε 0 amint n, tehát tetsz leges ε > 0 esetén P X Y > 2ε = 0. vagyis P X Y = 0 = 1. tétel. P X Y > 0 = lim P X Y > 1 n A mérték folytonossága szerint = 0, A majdnem biztos és sztochasztikus konvergencia további kapcsolatairól szól a következ 7.5 Tétel. Legyenek X : Ω R d és X n : Ω R d, n N, véletlen vektorok. i X n m.b. X akkor és csak akkor, ha ε > 0 esetén lim P sup X k X ε = 0, k n azaz sup X k X P 0, amint n. k n 31
ii PX n n 1 konvergens = 1 akkor és csak akkor, ha ε > 0 esetén lim P sup X k X n ε k n = 0, azaz sup X k X n P 0, amint n. k n iii Ha tetsz leges ε > 0 esetén k=1 P X k X ε <, akkor X n m.b. X. P iv X n X akkor és csak akkor, ha pozitív egészek bármely n 1 < n 2 <... sorozatának m.b. van olyan n k1 < n k2 <... részsorozatata, hogy X nki X, amint i. Bizonyítás. i. A 7.2 Tétel i részének bizonyítása során beláttuk, hogy tetsz leges ε > 0 esetén P sup X k X ε k n P X k X > ε végtelen sok k N esetén, amib l 7.3 alapján következik az i állítás. ii. Hasonlóan bizonyítható, mint i. iii. Megint 7.3 alapján iii következik az els BorelCantelli-lemmából. P iv. Tegyük fel, hogy X n X, és tekintsük pozitív egészek tetsz leges n 1 < n 2 <... sorozát. A sztochasztikus konvergencia deníciója szerint tetsz leges ε > 0 és δ > 0 számokhoz van olyan n 0 N, hogy P X n X ε δ bármely n n 0 tetsz leges i N számhoz van olyan k i N, hogy P X nk X 1 1 bármely k k i 2 i i esetén. Tehát az n k1 < n k2 <... részsorozatra teljesül, hogy i=1 P X nki X 1 i i=1 1 2 i <, esetén. Ezért így az els BorelCantelli-lemma szerint a { X nki X 1 i }, i N, események közül 1 valószín séggel csak véges sok következik be, azaz 1 valószín séggel véges sok i N index kivételével X nki X < 1, ezért X i n ki X m.b. m.b. 0, amint i, amib l X nki X, amint i. Megfordítva, tegyük fel, hogy X P n X. Ekkor van olyan ε > 0, hogy P X n X ε 0, azaz megadható olyan ε 0 > 0 és pozitív egészek olyan n 1 < n 2 <... sorozata, hogy P X nk X ε 0 ε 0 minden k N esetén. Ezért tetsz leges n k1 < n k2 <... részsorozatat esetén X P m.b. nki X amint i, így X nki X amint i. Véletlen vektorok folytonos függvényének konvergenciájáról szól a következ tétel. 7.6 Tétel. Legyenek X : Ω R d, Y : Ω R d, X n : Ω R d, és Y n : Ω R d, n N, véletlen vektorok és g : R d R d R s folytonos függvény. 32
i Ha X n m.b. X és Y n m.b. Y, akkor gx n, Y n m.b. gx, Y. ii Ha X n P P P X és Y n Y, akkor gx n, Y n gx, Y. Bizonyítás. i. Tekintsük az Ω 1 := {ω Ω : X n ω Xω} A, Ω 2 := {ω Ω : Y n ω Y ω} A eseményeket. A g függvény folytonossága miatt Ω 1 Ω 2 {ω Ω : gx n ω, Y n ω gxω, Y ω} A. A feltétel szerint PΩ 1 = 1 = PΩ 2, amib l PΩ 1 Ω 2 = 1, ezért PgX n, Y n gx, Y = 1. ii. Legyen n 1 < n 2 <... pozitív egészek tetsz leges sorozata. Az X n P X konvergencia alapján a 7.5 Tétel iii pontja szerint van olyan n k1 < n k2 <... részsorozat, m.b. P hogy X nki X amint i. Az Y n Y konvergencia alapján megint a 7.5 Tétel iii pontja szerint ennek a részsorozatnak van olyan n ki1 < n ki2 <... részsorozata, hogy Y nkij m.b. Y amint j. Az i pont szerint ebb l gx nkij, Y nkij m.b. gx, Y amint j. Összefoglalva: pozitív egészek tetsz leges n 1 < n 2 <... sorozatának van olyan n ki1 < n ki2 <... részsorozata, hogy gx nkij, Y nkij m.b. gx, Y amint j, ezért újra a 7.5 Tétel iii pontja szerint gx n, Y n P gx, Y. A konvergencia és m veletek kapcsolatáról szól a következ tétel. 7.7 Tétel. Legyenek X : Ω R d, Y : Ω R d, X n : Ω R d, és Y n : Ω R d, n N, véletlen vektorok. i Ha X n m.b. X és Y n m.b. Y, akkor X n + Y n m.b. X + Y és X n, Y n m.b. X, Y. ii Ha X n P P X és Y n Y, akkor X n + Y n P X + Y és X n, Y n P X, Y. r iii Ha X n X r és Yn Y r valamely r 1 esetén, akkor Xn + Y n X + Y. Bizonyítás. Mivel az R d R d x, y x + y R d és R d R d x, y x, y R függvények folytonosak, így i és ii következik a 7.6 Tétel i és ii állításából. iii. A Minkowski-egyenl tlenséggel E X n + Y n X + Y r = E X n X + Y n Y r r E X n X r 1 r + E Yn Y r 1 r 0, amint n. 7.8 Deníció. Legyen Ω, A, P valószín ségi mez, Γ nemüres halmaz, és minden γ Γ esetén X γ : Ω R d véletlen vektor. Azt mondjuk, hogy az {X γ : γ Γ} véletlen vektorok egyenletesen integrálhatók, ha lim sup E X γ 1 K { Xγ >K} = 0. γ Γ 33
Ha X : Ω R d integrálható véletlen vektor, akkor a majoráns konvergenciatétel alapján lim K E X 1 { X >K} = 0, tehát az X vektor egyenletesen integrálható. Fordítva, ha az X : Ω R d vektor egyenletesen integrálható, akkor lim K E X 1 { X >K} = 0 alapján van olyan K 0 > 0, hogy E X 1 { X >K0 } <, ezért E X = E X 1 { X K0 } + E X 1{ X >K0 } K0 + E X 1 { X >K0 } <, tehát az X vektor integrálható. Hasonlóan bizonyítható, hogy ha Γ nemüres véges halmaz, és minden γ Γ esetén X γ : Ω R d véletlen vektor, akkor az {X γ : γ Γ} véletlen vektorok egyenletes integrálhatósága azzal ekvivalens, hogy sup γ Γ E X γ <. Végtelen számosságú Γ halmaz esetén a következ tétel szolgáltat szükséges és elégséges feltételt. 7.9 Tétel. Legyen Ω, A, P valószín ségi mez, Γ nemüres halmaz, és minden γ Γ esetén X γ : Ω R d véletlen vektor. Az {X γ : γ Γ} véletlen vektorok akkor és csak akkor egyenletesen integrálhatók, ha és sup E X γ < 7.10 γ Γ lim sup E X γ 1 A = 0 7.11 PA 0 γ Γ azaz tetsz leges ε > 0 esetén van olyan δ > 0, hogy E X γ 1 A < ε minden γ Γ és minden olyan A A esemény esetén, melyre PA < δ. Bizonyítás. Ha {X γ : γ Γ} egyenletesen integrálhatók, akkor van olyan K 0 > 0, hogy sup γ Γ E X γ 1 { Xγ >K 0 } <, ezért sup γ Γ E X γ = sup E Xγ 1 { Xγ K0 } + E Xγ 1 { Xγ >K0 } γ Γ K 0 + sup E X γ 1 { Xγ >K0 } <, γ Γ tehát teljesül 7.10. Továbbá tetsz leges γ Γ, A A és K > 0 esetén E X γ 1 A = E X γ 1 A { Xγ >K} + E Xγ 1 A { Xγ K} E X γ 1 { Xγ >K} + K PA. A {X γ : γ Γ} véletlen vektorok egyenletesen integrálhatósága miatt tetsz leges ε > 0 esetén van olyan K 0 > 0, hogy sup γ Γ E X γ 1 { Xγ >K0 } < ε, így ha A A olyan esemény, hogy PA < ε 2K 0, akkor E X γ 1 A < ε, tehát teljesül 7.11. Fordítva: tegyük fel, hogy teljesülnek a 7.10 és 7.11 feltételek. A 7.11 feltétel szerint tetsz leges ε > 0 esetén van olyan δ > 0, hogy E X γ 1 A < ε minden γ Γ és minden olyan A A esemény esetén, melyre PA < δ. Ezt { X γ > K}, K > 0 alakú eseményekre szeretnénk alkalmazni. A Markov-egyenl tlenséggel P X γ > K E X γ K 34 sup γ Γ E X γ, K 2
tehát ha K > sup γ Γ E Xγ δ, akkor P X γ > K < δ, így E X γ 1 { Xγ >K} < ε minden γ Γ esetén, tehát lim K sup γ Γ E X γ 1 { Xγ >K} = 0. A következ tétel elégséges feltételeket tartalmaz az egyenletes integrálhatóságra. 7.12 Tétel. Legyen Ω, A, P valószín ségi mez, Γ nemüres halmaz, és minden γ Γ esetén X γ : Ω R d, Y γ : Ω R d véletlen vektorok. i Ha létezik olyan r > 1, hogy sup γ Γ E X γ r <, akkor az {X γ : γ Γ} véletlen vektorok egyenletesen integrálhatók. ii Ha az {X γ : γ Γ} és {Y γ : γ Γ} véletlen vektorok egyenletesen integrálhatók, akkor az {X γ + Y γ : γ Γ} véletlen vektorok is egyenletesen integrálhatók. iii Ha az {Y γ : γ Γ} véletlen vektorok egyenletesen integrálhatók és minden γ Γ esetén X γ Y γ P-m.b., akkor az {X γ : γ Γ} véletlen vektorok is egyenletesen integrálhatók. Bizonyítás. i. Tetsz leges γ Γ, K > 0 és ω Ω esetén így r 1 Xγ ω X γ ω 1 { Xγ >K}ω X γ ω 1 { Xγ >K}ω X γω r, K K r 1 sup E X γ 1 { Xγ >K} γ Γ 1 K r 1 sup γ Γ E X γ r 0, amint K, tehát az {X γ : γ Γ} véletlen vektorok egyenletesen integrálhatók. ii. Elegend megmutatni, hogy a 7.9 Tétel 7.10 és 7.11 feltételei teljesülnek az {X γ + Y γ : γ Γ} véletlen vektorokra. A 7.9 Tétel szerint sup γ Γ E X γ < és sup γ Γ E Y γ <, így sup γ Γ E X γ + Y γ sup γ Γ E X γ + sup E Y γ <, γ Γ tehát a 7.9 Tétel 7.10 feltétele teljesül az {X γ + Y γ : γ Γ} véletlen vektorokra. Tetsz leges ε > 0 esetén újra a 7.9 Tételt alkalmazva vannak olyan δ 1 > 0 és δ 2 > 0 számok, hogy E X γ 1 A < ε/2 minden γ Γ és minden olyan A A esemény esetén, melyre PA < δ 1, és E Y γ 1 A < ε/2 minden γ Γ és minden olyan A A esemény esetén, melyre PA < δ 2. Ezért E X γ + Y γ 1 A E X γ 1 A +E Y γ 1 A < ε minden γ Γ és minden olyan A A esemény esetén, melyre PA < min{δ 1, δ 2 }, tehát a 7.9 Tétel 7.11 feltétele is teljesül az {X γ + Y γ : γ Γ} véletlen vektorokra. ezért iii. Tetsz leges γ Γ és K > 0 esetén X γ 1 { Xγ >K} Y γ 1 { Yγ >K} P-m.b., sup γ Γ E X γ 1 { Xγ >K} sup E Y γ 1 { Yγ >K} 0 γ Γ amint K, tehát az {X γ : γ Γ} véletlen vektorok egyenletesen integrálhatók. A következ tétel szükséges és elégséges feltételt ad az r-edik momentumbeli konvergenciára. 35