A Vaószínűségszámítás II. eőadássorozat hetedik eőadása. 2002. október 29. Határeoszástéteek függeten vektor értékű vaószínűségi vátozókra. Hangsúyoztuk, hogy a Lindeberg fée centráis határeoszástéte nemcsak azt áította, hogy függeten vaószínűségi vátozóknak a Lindeberg fetétet tejesítő sorozatának normaizátjai eoszásban a normáis eoszáshoz konvergának, hanem azt is, hogy a normáis határeoszástéte a,,heyes szórássa rendekezik. Tanuságos ehet átni oyan pédát, meyben a Lindeberg fetétet nem tejesítő, de egyenetesen kicsi függeten vaószínűségi vátozók normaizát részetösszegei a normáis eoszáshoz konvergának, de a határeoszás szórásnégyzete kisebb, mint a szabáyos esetekben. A péda heyességének bizonyítása érdekében eőször beátunk egy önmagában is érdekes és hasznos emmát, meyet az irodaomban Sutsky emmának is szokás hívni. Sutsky emma. Legyen adva vaószínűségi vátozók két S n és T n, n =, 2,..., sorozata, meyekre az S n, n =, 2,..., sorozat eoszásban konvergá vaamiyen F eoszáshoz, és a T n, n =, 2,..., sorozat sztochasztikusan konvergá nuához, azaz P ( T n > ε) 0 minden ε > 0 számra, ha n. Ekkor az S n + T n, n =, 2,..., sorozat szintén konvergá eoszásban az F eoszáshoz. A Sutsky emma szeméetes tartama viágos. Azt mondja ki, hogy ha egy eoszásban konvergens sorozat eemeit nagyon kicsit vátozatatjuk meg, akkor a konvergencia továbbra is érvényben marad. A Sutsky emma bizonyítása: Tekintsük az F ( ) határeoszásfüggvény egy x foytonossági pontját. Azt ke beátnuk, hogy a im P (S n + T n < x) = F (x) reáció is tejesü. Ennek érdekében vegyünk tetszőes ε > 0 számhoz oyan δ = δ(ε, x) > 0 számot, meyre F (x) ε 2 < F (x δ) < F (x) < F (x + δ) < F (x + δ) + ε 2. Mive az F ( ) monoton függvénynek csak megszámáhatóan sok szakadási pontja van, az átaánosság megszorítása nékü azt is fetehetjük, hogy az x±δ pontok foytonossági pontjai az F ( ) függvénynek. A fetéteek tejesüése esetén étezik oyan n 0 = n 0 (x, δ, ε) index, meyre P (S n < x + δ) < F (x + δ) + ε 4, P (S n > x δ) < F (x δ) + ε 4, és P ( T n δ) < ε 4, ha n n 0. Ekkor P (S n + T n < x) P (S n < x + δ) + P ( T n δ) < F (x + δ) + ε 2 < F (x) + ε, ha n n 0 (ε, δ), mert {ω : S n (ω)+t n (ω) < x} {ω : S n (ω) < x+δ} {ω : T n (ω) δ}. Hasonóan kapjuk, hogy P (S n + T n x) < P (S n x δ) + P ( T n δ) < F (x) + ε, ha n n 0 (ε, δ), mert {ω : S n (ω) x} {ω : S n (ω)+t n (ω) x δ} {ω : T n (ω) δ}. Az eső egyenőteségbő következik, hogy im sup P (S n + T n < x) < F (x) + ε, a második egyenőtenségbő pedig az, hogy im inf P (S n + T n < x) > F (x) ε. Mive
ezek az egyenőtenségek tetszőeges ε > 0 számra igazak, innen következik a Sutsky emma. Most rátérünk a kívánt tuajdonságú péda ismertetésére.. Péda: Legyen ξ n, n =, 2,..., függeten vaószínűségi vátozókbó áó sorozatot, meyek eemeinek eoszása a következő: P (ξ n = n) = P (ξ n = n) = 4n 2, P (ξ n = ) = P (ξ n = ) = 4, és P (ξ n = 0) = 2, n =, 2,.... 2n2 Ekkor Eξ n = 0, Eξ 2 n =. Azt áítjuk, hogy az S n = ξ k, n =, 2,..., részetösszegek n S n, n =, 2,..., normaizátjai eoszásban konvergának egy nua várható értékű, 2 szórásnégyzetű normáis vaószínűségi vátozóhoz. Az. Péda igazoása: Vezessük be az X n = ξ n I( ξ n 2), és Y n = ξ n I( ξ n > 2) vaószínűségi vátozókat, aho I(A) jeöi az A hamaz indikátorfüggvényét, és vezessük be az S n = X k és T n = eoszásban konvergá a nua várható értékű és 2 mert EX n = 0, EX 2 n = 2, s2 n = Y k, n =, 2,..., részetösszegeket. Ekkor n Sn sorozat vátozók tejesítik a Lindeberg fetétet, hiszen szórásnégyzetű normáis eoszáshoz, EX 2 k = n 2, és az X n, n =, 2,..., vaószínűségi EX 2 k I( X k εs n ) = 0, ha n n 0 (ε). Másrészt a n T n kifejezések sztochasztikusan konvergának nuához, ha n. Ez átható, ha észrevesszük, hogy P (Y k 0) <, ezért a Bore Cantei emma aapján egy vaószínűségge csak véges sok Y k (ω) nem egyenő nuáva, és ezért Y k (ω) K(ω). Innen következik, hogy majdnem minden ω Ω pontban T n (ω) K(ω) minden n =, 2,... számra, aho a jobbodaon szerepő becsés függhet az ω eemi eseménytő, de nem függ az n indextő. A Sutsky emmábó, az n S n = Sn n + n T n azonosságbó és a következik, hogy az n S n és a n T n sorozat sztochasztikus konvergeniájábó nuához következik, hogy a n S n és n Sn sorozatoknak ugyanaz a határeoszásuk, ezért igaz a pédában megfogamazott áítás. Jegyezzük meg azt is, hogy a pédában szerepő ξ k vaószínűségi vátozók tejesítik az egyenetes kicsiség fetéteét, de nem tejesítik a Lindeberg fetétet. Vaóban, Eξk 2 =, s 2 n = n = n, ezért im sup = 0, azaz az egyenetes kicsiség fetétee Eξk 2 tejesü. Másrészt im k n fetéte ebben a pédában nem tejesü. Eξ 2 k s 2 n Eξk 2I( ξ k > εs n ) = im n EY 2 k = 2, tehát a Lindeberg Az egyforma eoszású függeten vaószínűségi vátozók normáizát összegeirő szóó centráis határeoszástéteben fetettük, hogy az összeadandóknak van véges második 2
momentumuk. Ez természetes fetéte, mégis érdekes ehet megmutatni, hogy ehetséges oyan eset is, amikor végteen szórásnégyzetű függeten, egyforma eoszású vaószínűségi váttozók akamasan normaizát részetösszegei is konvergának eoszásban a normáis eoszáshoz. Ennek ehetőségét mutatjuk meg a következő pédában, ameyik mögött hasonó gondoat van, mint az eső pédában. 2. Péda: Legyen ξ, ξ 2,... függeten egyforma eoszású vaószínűségi vátozók sorozata, mey sorozat tagjainak étezik sűrűségfüggvénye, és azt az f(x) = x, ha x, 3 f(x) = 0, ha < x < képet adja meg. Ekkor Eξ = 0, Eξ 2 = x : x x2 x dx = 3. Továbbá az S n = n ξ k, n =, 2,..., részetösszegek S n normaizátjai n og n eoszásban konvergának a standard normáis eoszáshoz. Az 2. Péda igazoása: Definiájuk minden n =, 2,... számra az η k,n = ξ k I( ξ k n og og n) és az ζk,n = ξ k I( ξ k > n og og n), k n vaószínűségi vátozókat, vamint ezek S n = η k,n és T n = n og n S n = ζ k,n összegeit. Ekkor n og n Sn + n og n T n ezért a Sutsky emma aapján eegendő beátni, hogy a Sn vaószínűségi vátozók n og n eoszásban konvergának a standard normáis eoszáshoz, és a T n vaószínűsé- n og n gi vátózók sztochasztikusan konvergának nuához. Az eső áítás igazoásához azt ke megmutatni, hogy a ξ k,n = ξ k,n, k n, szériasorozatra akamazhatjuk a n og n centráis határeoszástétet. Ehhez vegyük észre, hogy E ξ k,n = 0, E ξ k,n 2 = ahonnan x : x n og og n E ξ 2 k,n = og n+og og og n og n x 2 2 og (n og og n) dx = n og n x 3 n og n = og(n og og n), n og n, ha n. Ezért eég eenőrizni, hogy a ξ k,n vaószínűségi vátozók tejesítik a Lindeberg fetétet, azaz minden ε > 0 számra E ξ k,ni( ξ 2 k,n > ε) = n x : ε n og n< x < n og og n x 2 dx 0 ha x. n og n x 3 Ez az áítás viszont igaz, mive eég nagy n-re az {x: ε n og n < x < n og og n} integráási tartomány az üres hamaz, ezért a tekintett integrá nua. Be ke még átnunk, hogy a T n vaószínűségi vátozók sorozata sztochasztikusan nuához tart, azaz im P n ( og n ) T n > ε = 0 minden ε > 0 számra. n og n 3
Beátjuk, hogy az erősebb im P (T n 0) = 0 reáció is tejesü. Vaóban, P (T n 0) k=0 P (ζ k,n 0) = n x : x > n og og n dx x 3 = og og n 0 ha n. Láttuk, hogy a határeoszás szórásnégyzete ehet kisebb, mint az eoszások szórásnégyzetének a imesze. Femerü a kérdés, hogy ehet-e nagyobb. A váasz erre a kérdésre nemeges, és ezt mondja ki az aábbi emma. Lemma. Konvergájon F n eoszásfüggvények egy sorozata egy F eoszásfüggvényhez. Ekkor im inf x 2 F n ( dx) x 2 F ( dx). Átaánosabban, ha g(x) tetszőeges foytonos, nem negatív (de nem fetétenü korátos függvény), akkor im inf g(x)f n ( dx) g(x)f ( dx). A emma bizonyítása. Eőször tekintsük azt az esetet, amikor g(x)f ( dx) <. Ekkor tetszőeges ε > 0 számhoz étezik oyan K = K(ε) > 0 szám, meyre a g K (x) = min(k, g(x)) korátos és foytonos függvény tejesíti az g K (x)f ( dx) g(x)f ( dx) ε reációt. Ezért az F n eoszásfüggvények gyenge konvergenciájábó az F eoszásfüggvényhez következik, hogy im inf g(x)f n ( dx) im g K (x)f n ( dx) = g K (x)f ( dx) g(x)f ( dx) ε, és mive ez az egyenőtenség minden ε > 0 számra érvényes, innen következik a Lemma áítása ebben az esetben. Ha g(x)f ( dx) = akkor tetszőeges L > 0 számhoz étezik oyan K = K(L) > 0 szám, meyre a g K (x) = min(k, g(x)) korátos és foytonos függvény tejesíti az gk (x)f ( dx) L reációt. Ezért az F n eoszásfüggvények gyenge konvergenciájábó az F eoszásfügggvényhez következik, hogy im inf g(x)f n ( dx) im g K (x)f n ( dx) = g K (x)f ( dx) L, és mive ez az áítás minden L > 0 számra érvényes, a Lemma áítása ebben az esetben is érvényes. Megjegyzés: Az eőző Lemma mutat némi hasonóságot a mértékeméetben tanut Fatou emmáva, meyet ismertettem az ötödik eőadás kiegészítésében. A két áítás bizonyítása is nagyon hasonó. A fenti pédák mutatják, hogy a centráis határeoszástéte megfogamazásában szerepő fetéteek fontosak. Ezek nem tejesüése esetén másfajta jeenségek is feéphetnek. Természetes módon femerüt az az igény az eméetben, hogy adjunk tejes képet 4
arró, hogy mikor ehetséges az, hogy függeten vaószínűségi vátozók normaizát részetösszegei eoszásban normáis eoszáshoz konvergának, de a normáás ehet szokatan is. Errő a probémáró sok érdekes és tartamas eredményt bizonyítottak, de ezze mi nem fogunk fogakozni. Gyakorati szempontbó ugyanis csak a korábban tárgyat eredmények fontosak, az itt tárgyat eredmények csak nagyon speciáis esetekben jeennek meg. Érdemes megemíteni, hogy az emített pédákban a váratan jeenségek oka az vot, hogy egy kis hamazon a vaószínűségi vátozók nagyon nagy értéket vettek fe, ami aig befoyásota összegeik eoszását. Ezt a tényt a Sutsky emma segítségéve tudtuk megmutatni. Viszont egy kis hamazon fevett nagy értékek nagyon megvátoztatták a momentumokat. Minden szokatan normáássa érvényes határeoszástéte hátterében iyen jeenség van. Sőt, mint átni fogjuk a vaószínűségszámítás egyéb probémáiban, mint pédáu a később tárgyaandó nagy számok törvényének probémájában is hasonó probémák jeennek meg. Határeoszástéteek vizsgáata vektorértékű függeten vaószínűségi vátozók normaizát összegeire. Tekintsük a következő két probémát a.) Egy pénzdarabró e akarjuk dönteni, hogy szabáyos-e. Ennek érdekében a pénzdarabot sokszor egymástó függetenü fedobjuk, és fejegyezzük a kiséretek eredményét. Miyen eredménysorozat esetén tekinthetjük a pénzdarabot szabáyosnak? b.) Egy dobókockáró e akarjuk dönteni, hogy szabáyos-e. Ennek érdekében a dobókockát sokszor egymástó függetenü fedobjuk, és fejegyezzük a kiséretek eredményét. Miyen eredménysorozat esetén tekinthetjük a dobókockát szabáyosnak? Természetes úgy dönteni, hogy a pénzdarabot akkor tekintjük szabáyosnak, ha a dobások körübeü fee feje körübeü fee pedig írásdobás. Hasonóan, a dobókockát akkor tekintjük szabáyosnak, ha mindegyik dobáseredmény az összes dobás körübeü egyhatodában következik be. De mit jeent a,,körübeü szó ezekben az áításokban? Az a) probéma esetében a centráis határeoszástéte segítségéve adhatunk pontosabb váaszt erre a kérdésre. Végezzünk összesen n kiséretet, és egyen S n a fedobások számát, akkor S n n 2 n 2 a centráis határeoszástéte következtében köze normáis vaószínűségi vátozó. Vaóban vezessük be a következő ξ k, k n, vaószínűségi vátozókat: ξ k =, ha a k-ik dobás eredménye fej, ξ k = 0, ha a k-ik dobás eredménye írás. Ekkor S n = ξ k, Eξ k = 2, Var ξ k = 4, továbbá a ξ k vaószínűségi vátozók függetenek. Ezért a centráis határeoszástétebő következik a megfogamazott eredmény. Ennek segítségéve kidogozhatunk egy természetes stratégiát. Természetesen nem adhatunk oyan ejárást, ameyik biztosan heyes döntést ad. Próbájunk oyan döntést hozni, ameyik egy szabáyos pénzdarabot 0.9 vaószínűségge szabáyosnak minősít. Természetes ejárás a következő: Keressük ki egy nomáis eoszástábázat 5
segítségéve azt az x számot, meyre Φ(x) Φ( x) = 0.9, aho Φ(x) jeöi a standard normáis eoszást. Ezután tekintsük a pénzdarabot szabáyosnak, ha 2 nx S n n 2 2 nx, eenkező esetben pedig tekintsük a pénzdarabot szabáytaannak. Lehet-e hasonó módszet megadni a b) feadat megodására? A váasz erre a kérdésre igenő, de ennek kidogozásához be ke bizonyítani a centráis határeoszástéte több-dimenziós vátozatát. Legyen ugyanis S n = (S n (), S n (2), S n (3), S n (4), S n (5), S n (6) ) az - es, 2-es, 3-as, 4-es, 5-ös és 6-os eredményű dobások száma, akkor ha n dobást hajtunk végre. A később tárgyaandó több-dimenziós centráis határeoszástéteben ezen véeten vektor akamas normaizátjának az aszimptotikus eoszására kivánunk eredményt kapni. Vezessük be ξ (k) = (ξ (k), ξ(k) 2, ξ(k) 3, ξ(k) 4, ξ(k) 5, ξ(k) 6 ) vaószínűségi vátozót, ameyiknek a j-ik koordinátája, ha a k-ik dobás eredménye j, és ebben az esetben az összes többi koordináta nua. A ξ (k) vektor azt méri, hogy a k-ik dobásnak mennyi a hozadéka küönböző dobáseredmények számához, ezért S n = ξ (k). Ez azt jeenti, hogy a vizsgáandó S n véeten vektor eőáítható, mint függeten véeten vektorok összege. Ezért természetes azt vizsgáni, hogy a kasszikus centráis határeoszástétet hogyan ehet átaánosítani véeten vektorokra. Mint a b) péda mutatja, egy iyen eredmény hasznos ehet természetes gyakorati probémák megodásában is. Megjegyezzük, hogy a b) probémához hasonóan tárgyaható az aábbi c) probéma: c) Legyen adva k urna, és ezekbe egymástó függetenü bedobunk n goyót egymástó függetenü, ameyek ugyanoyan vaószínűségge esnek az egyes urnákba. Próbájuk meg eenőrízni azt, hogy igaz-e, hogy a goyók az egyes urnákba p,..., p k vaószínűségge esnek. (Fetesszük, hogy az evégzett kiséretek n száma nagyon nagy.) Annak érdekében, hogy a több-dimenziós centráis határeoszástétet bebizonyítsuk bizonyos eredményeknek és fogamaknak ki ke dogozni a több-dimenziós megfeeőjét, így definiánunk ke több-dimenziós eoszások konvergenciáját es a karakterisztikus függvények több-dimenziós megfeeőjét. Ezután be ehet bizonyítani azt, hogy a többdimenziós eoszásokat is meghatározza azok karakterisztikus függvénye, és igaz az eoszások konvergenciájank eaptéteeként enevezett eredmény több-dimenziós vátozata. Ezeket az eredményeket meg fogjuk fogamazni, de a bizonyítások részeteit, meyek ényegében az egy-dimenziós esetben tárgyat bizonyítások természetes módosításábó ának, ehagyjuk. Ezek az eredméyek ehetővé teszik, hogy a több-dimenziós centráis határeoszástétet annak egy-dimenziós vátozatához hasonóan bizonyítsuk be. Sőt, vaójában a heyzet még enné is egyszerúbb. Meg ehet mutatni, hogy a több-dimenziós centráis-határeoszástéte közveten módon visszavezethető az egy-dimenziós esetre. A fenti áítások részetesebb megtárgyaása esz a következő programunk. De mieőtt ehhez hozzákezdenénk, megtárgyajuk az egy-dimenziós vaószínűségi vátozók vizsgáatában fontos szerepet játszó várható érték és szórásnégyzet fogamának a többdimenziós megfeeőit, a több-dimenziós várható érték és a kovarianciamátrix fogamát. Ez utóbbi vizsgáatában fontos szerepet játszanak bizonyos aapvető ineáris agebrai ismeretek, mindenekeőtt a szimmetrikus mátrixok tuajdonságai, és azok úgynevezett főtengey transzformációja. 6
Több-dimenziós vaószínűségi vátozók várható értéke és kovariancia mátrixa vaamint azok egfontosabb tuajdonságai. Eőszöris ismertetem a tárgyaandó fogamak definicióját. Több-dimenziós vaószínűségi vátozó várható értékének és kovariancia mátrixának a definiciója. Legyen Z = (Z,..., Z k ) k-dimenziós véeten vektor. E véeten vektor várható értéke az EZ = (EZ,..., EZ k ) k-dimenziós vektor, fetéve, hogy mindegyik EZ j, j k várható érték étezik. Tegyük fe továbbá, hogy a Z = (Z,..., Z k ) véeten vektor minden koordinátája tejesíti az EZj 2 <, j k, fetétet. Ekkor definiájuk e véeten vektor kovariancia mátrixát is, és az a D = (d j, ), j, k, k k méretű mátrix, mey mátrix j-ik sorában és -ik oszopában évő eem a d j, = Cov (Z j, Z ) = EZ j Z EZ j EZ szám. Megfogamazom meg a vektorértékű vaószínűségi vátozók várható értékének és kovariancia mátrixának néhány fontos tuajdonságát. ( ). Téte. Legyenek Z (j) = Z (j),..., Z(j) k, j n, véeten k-dimenziós vektorok ugyanazon az (Ω, A, P ) vaószínűségi mezőn. Ekkor a Z () + + Z (n) összeg várható értéke megegyezik a Z (j) vektorok várható értékeinek az összegéve, azaz E ( Z () + + Z (n)) = EZ () + + EZ (n). Ha egy Z = (Z,..., Z k ), véeten vektor várható értéke M = (M,..., M k ), a tetszőeges vaós szám, x = (x,..., x k ) tetszőeges k-dimenziós vektor, akkor E(Z + x) = EZ + x, a Z + x akkor az = (az,..., az k ), véeten vektor várható értéke am, és E(Z + x) = EZ + x. Ez az áítás következménye az egy-dimenziós vaószínűségi vátozók várható értékérő tanut eredményeknek. 2. Téte. Ha az. Téteben szerepő Z (j), j n, véeten vektorok függetenek, vagy átaánosabban a küönböző vektorok koordinátái korreáatanok, ami azt jeenti, hogy Cov (Z (i) Z (i ) ) = 0, ha i i, j, k, akkor a kovariancia mátrix is additív. Részetesebben megfogamazva: Ha a Z (j) mátrix kovariancia mátrixa a D j mátrix, j n, akkor a Z () + + Z (n) véeten összeg kovariancia mátrixa a D + + D n mátrix. Ha egy Z = (Z,..., Z k ), véeten vektor kovariancia mátrixa a D k k méretű mátrix, a tetszőeges vaós szám, akkor az az = (az,..., az k ), kovariancia mátrixa az a 2 D kovariancia mátrix. Továbbá, ha x = (x,..., x k ) tetszőeges k-dimenziós vektor, akkor a Z +x vektor kovariancia mátrixa megegyezik a Z vektor kovariancia mátrixáva. A 2. Téte is egyszerű következménye az egy-dimenziós vaószínűségi vátozók várható értékének számításaró szóó áításoknak. Lássuk pédáu azt, hogyan ehet 7
kiszámítanai az összeg kovarianciamátrixának egy eemét Cov (Z () j = i= + + Z (n) j, Z () + + Z (n) ) = Cov (Z (i) j Z (i) ) + i= i = Cov (Z (i) j Z (i ) ). i,i n, i i EZ (i) j Z (i ) i= i = EZ (i) j EZ (i ) Viszont a jobbodaon szerepő második tag nua a Cov (Z (i) Z (i ) ) = 0, ha i i, j, k, fetéte miatt, az eső tag pedig megegyezik a D + + D n mátrix j- ik sorában és -ik oszopában szerepő tagga. A Téte többi áításának a bizonyítása egyszerűbb. Meg akarjuk adni, hogy miyen mátrixok jeenhetnek meg, mint akamas véeten vektor kovariancia mátrixa. Ennek a kérdésnek a vizsgáatában fe ke hasznánunk a ineáris agebra néhány aapvető fogamát és eredményét. Eőször idézzük fe a következő ineáris agebrai fogamat. Szimmetrikus és pozitív (szemi)definit mátrixok definiciója. Legyen D = (d j, ) egy k k méretű mátrix. Azt mondjuk, hogy a D mátrix szimmetrikus, ha minden j, k indexre d j, = d,j. (Pontosabban azt követejük meg, ha nemcsak vaós, hanem átaános kompex értékű eemekke rendekező mátrixokat is tekintünk, ami ebben az eőadásban nem fog eőforduni), hogy d j, = d,j, aho z a z kompex szám konjugátja, azaz, ha z = a + ib, akkor z = a ib.) Egy k k méretű szimmetrikus D = (d j, ) mátrix pozitív szemidefinit, ha minden x = (x,..., x k ) k-dimenziós vektorra xdx = x j d j, x 0 és (szigorúan) pozitív definit, ha a xdx = k x j d j, x > 0 j= = j= = szigorú egyenőtenség is tejesü minden (x,..., x k ) (0,..., 0) vektorra. (Ebben a formuában x jeöi az x vektor transzponátját, azaz azt az oszopvektort, meynek föürő számíva -ik eeme megegyezik az x vektor baró számított -ik eeméve. Ekkor xdx a szokásos vektor és mátrix szorzást jeöi.) Szükséges esz a szimmetrikus mátrixok egyszerű reprezentációját és a pozitív szemidefinit mátrixok jeemzését. Ez az eredmény mártixok úgynevezett főtengeytranszformációinak megadása. Ennek az enevezésnek az okáró a téte után egy megjegyzésben írok. A téte kimondása eőtt idézzük fe az unitér mátrixok definicióját és egfontosabb fogamait. Egy U k k méretű négyzetes mátrixot unitérnek nevezünk, ha tejesü az UU = I azonosság, aho I az identitás mátrix. Ez az azonosság akkor és csak akkor tejesü, ha érvényes az U U = I azonosság. Az unitér mátrixok más ekviveens jeemzése az, hogy sorai (és egyben az oszopai is) ortonormát vektorok. Érdemes feidézni az unitér mátrixok geometriai tartamát is. Egy U mátrix akkor és csak akkor unitér, ha az átaa meghatározott transzformáció távoság (és ezért egyben szögtartó) transzformáció. Szimmetrikus mátrixok főtengeytranszformációjáró szóó téte. Egy A szimmetrikus mátrix feírható A = UΛU aakban, aho U unitér, Λ pedig diagonáis mátrix. 8
Egy k k méretű szimmetrikus A mátrix A = UΛU eőáítását meg ehet adni a következő módon: Létezik az A mátrixnak k ortonormát u,..., u k sajátvektora λ,..., λ k sajátértékekke, azaz oyan vektorok és számok meyekre tejesü az u j A = λ j u j, j k, azonosság. Ekkor az U mátrixot megadhatjuk, mint azt a mátrixot, meynek j-ik oszopa az u j oszopvektor, a Λ mátrix pedig ebben az esetben az a diagonáis mátrix, meynek j-ik sorában és j-ik oszopában a λ j szám á. Egy A mátrix akkor és csak akkor pozitív szemidefinit, ha minden sajátértéke nem negatív, és akkor (szigorúan) pozitív definit, ha összes sajátértéke pozitív. Megjegyzés: A főtengeytranszformációnak szeméetes tartama a következő. Egy A mátrixnak (egy rögzített ortonormát bázis esetén) megfee egy ineáris transzformáció. Ha a mátrix szimmetrikus, (ameyik tuajdonság megfogamazható a neki megfeeő A ineáris transzformáció segítségéve is, mint az (xa, y) = (ya, x) azonosság), akkor étezik oyan ortonormát bázis, meyben az A mátrixnak megfeeő transzfomáció diagonáis. Az erre a koordinátarendszerre vaó áttérést nevezik főtengeytranszformációnak. A téteben megfogamazott eredmény tuajdonképpen azt írja e, hogy a transzformációnak ez a,,szép koordinátarendszerben megadott diagonáis aakja hogyan átszik az eredeti koordinátarendszerben. Ezután a ineáris agebrai eőkészíts után meg tudjuk fogamazni és be tudjuk bizonyítani a kovarianciamátrixok jeemzését kimondó tétet. Téte a kovariancia mátrixok jeemzésérő. Legyen Z = (Z,..., Z k ) egy k- dimenziós véeten vektor. Ekkor a Z vektor kovariancia mátrixa szimmetrikus és pozitív szemidefinit mátrix. Megfordítva, tetszőeges D szimmetrikus, pozitív szemidefinit mátrixhoz étezik oyan Z = (Z,..., Z k ) véeten vektor, meynek ez a D mátrix a kovariancia mátrixa. Sőt igaz a következő tartamasabb áítás is: Legyen Y = (Y,..., Y k ) oyan véeten vektor, meynek a kovariancia mátrixa az identitás mátrix, azaz Var Y j =, j k, Cov (Y j, Y ) = 0, ha j, k, és j. (Ez a heyzet pédáu akkor, ha az Y j, j k vaószínűségi vátozók függetenek, és Var Y j =.) Ekkor étezik oyan ( A = (a j, ) k k méretű mátrix, ) meyre igaz, hogy a Z = (Z,..., Z k ) = (Y,..., Y k )A = a,p Y p,..., a k,p Y p véeten vektor kovariancia mátrixa a D mátrix. p= p= A bizonyítás fehasznája a következő ineáris agebrai eredményt. Téte a ineáris agebrábó. Legyen D pozitív szemidefinit mátrix. Ekkor étezik oyan A mátrix, meyre érvényes a D = A A azonosság, aho A az A mátrix transzponátját jeöi. Sőt, azt is fetehetjük, hogy az A mátrix önadjungát és pozitív szemidefinit. A téte bizonyítása a ineáris agebráró kimondott téte segítségéve. Tekintsünk eőször egy Z = (Z,..., Z k ) egy k-dimenziós véeten vektort és annak D = (d j, ), d j, = Cov (Z j, Z ), j, k, kovariancia mátrixát. Ekkor D szimmetrikus mátrix, mert d j, = d,j, azaz Cov (Z j, Z ) = Cov (Z, Z j ). Másrészt tetszőeges x = (x,..., x k ) 9
k-dimenziós vektorra Var Var x j Z j = j= = ( ) x j Z j 0. Ezenkívü j= j= = j= = E (x j x (Z j Z EZ j EZ )) = x j x d j, = xdx. j= = x j x Cov (Z j, Z ) Innen következik, hogy xdx 0 tetszőeges x = (x,..., x k ) k-dimenziós vektorra, azaz D szimmetrikus pozitív szemidefinit mátrix. Megfordítva, egyen D pozitív szemidefinit mátrix, és Y = (Y,..., Y k ) oyan véeten vektor, meynek a kovariancia mátrixa az identitás mátrix, azaz Var Y j =, j k, Cov (Y j, Y ) = 0, ha j, k, és j. A kimondott ineáris agebrai eredmény szerint étezik oyan A = (a j, ), j, k k k méretű mátrix, meyre D = A A. Azt áítom, hogy a Z = (Z,..., Z k ) = Y A, azaz a Z = (Z,..., Z k ), Z j = a p,j Y p, j k, véeten vektor kovariancia mátrixa a D mátrix. Innen következik p= a feadat második áítása is. Ennek az azonosságnak a bizonyítása érdekében számojuk ki a ( Cov (Z j, Z ), j, ) k, kovarianciákat. Azt kapjuk, hogy Cov (Z j, Z ) = Cov a p,j Y p, a q, Y q, ezért Cov (Z j, Z ) = k a p,j a q, Cov (Y p, Y q ), ahonnan p= q= p= q= mive Cov (Y p, Y q ) = 0, ha p q, és Cov (Y p, Y p ) =, Cov (Z j, Z ) = k p= a p,j a p, = d j,, aho d j, a D = A A mátrix j-ik sorában és -ik oszopában szerepő konstans. keett bebizonyítanunk A fehasznát ineáris agebrai téte bizonyítása. Írjuk fe az D mátrixot D = UΛU aakban, aho U unitér, Λ pedig diagonáis mátrix. Az, hogy az D mátrix pozitív szemidefinit azt jeenti, hogy a Λ diagonáis mátrix λ j, j k, eemei nem negatívak. Ezért étezik az Λ diagonáis mátrix, meynek j-ik sorának j-ik oszopában a λ j eem á. Definiájuk az A = U ΛU mátrixot. Ekkor A szimmetrikus mátrix, mert A = (U ΛU ) = U ΛU = A, vaamint A A = A 2 = U ΛU U ΛU = UΛU = D. Az A mátrix pozitív szemidefinit is egyben, ha a λ j számok pozitív négyzetgyökeit vesszük.) Megjegyzés a ineáris agebrai tétehez: A nem negatív számoknak a pozitív szemidefinit mátrixok feenek meg magasabb dimenzióban. A megfogamazott eredmény azt mondja ki, hogy pozitív szemidefinit mátrixokbó, hasonóan a nem negatív számokhoz ehet négyzetgyököt vonni. Ez a négyzetgyökvonás nem egyértemű. Pédáu egy megodás ismeretében a következő módon ehet új megodásokat kapnin. Ha D = A A és U unitér transzformáció, akkor az Ā = UA mátrixra is tejesü, hogy Ā Ā = A U UA = A A = D, tehát A is megodása a tekintett egyenetnek. Jegyezzük meg, hogy vaós számok között is csak akkor egyértemű a gyökvonás, ha csak a pozitív gyököt tekintjük. 0 Ezt
Ennek az áításnak érvényes a következő több-dimenziós átaánosítása: A D = A A egyenetnek pontosan egy szimmetrikus pozitív szemidefinit megodása van. Ennek bizonyítása nem nehéz, de mive erre nem esz szükségünk, ezért a bizonyítást ehagyon. Vaós értékű vaószínűségi vátozók szórásnégyzete nem-negatív, tehát nem zártuk ki annnak a ehtőségét sem, hogy nua. De ez csak abban az efajut esetben ehetséges, ha a tekintett vaószínűségi vátozó konstans, azaz vaószínűségge ugyanazt az értéket veszi fe. Hasonóan, a több-dimenziós esetben csak azt követetük meg, hogy a véeten vektor kovarianciamátrixa pozitív szemidefefinit egyen, de megendedtük, hogy ne egyen (szigorúan) pozitív definit. De ha a kovarianciamátrix nem pozitív definit az bizonyos efajutságot jeent, és akkor a véeten vektozoknak van oyan nem triviáis ineáris kombinációja, ameyik egy vaószínűségge konstans. Ezt a tényt fogamazzuk meg az aábbi Lemmában. Lemma. Egy ξ = (ξ,..., ξ k ) véeten vektor D = (d i,j ) kovariancimátrixa akkor és csak akkor nem (szigorúan) pozitív definit, ha éteznak oyan a j, j k, számok, meyek nem mindegyike nua, és a j ξ j = K vaamiyen K (determinisztikus) konstanssa egy vaószínűségge. j= Bizonyítás: Ha éteznek oyan a,..., a k számok, meyek nem mindegyike nua, és a j ξ j = K egy vaószínűségge, akkor j= 0 = Var a j ξ j = j= i= j= a i a j Cov (ξ i, ξ j ) = i= j= a i a j d i,j, ami azt jeenti, hogy a D = (d i,j ) mátrix nem (szigorúan) pozitív definit. Megfordítva, ha a D = (d i,j ) mátrix nem (szigorúan) pozitív definit, akkor éteznek oyan a,..., a k számok, meyek nem mindegyike nua és a i a j d i,j = 0. Ekkor a a i ξ k vaószínűségi vátozóra i= Var a j ξ j = j= i= j= a i a j Cov (ξ i, ξ j ) = i= j= i= j= a i a j d i,j = 0, ahonnan k i= a i ξ k = K vaamiyen K konstansra egy vaószínűségge.