Segédnyg z Id sorok és többdimenziós sttisztik gykorlt (mtemtik BSc, mtemtiki elemz szkirány) tntárgyhoz 08 december Riemnn-Stieltjes integrál és várhtó érték A Riemnn-Stieltjes (vgy néh csk Stieltjes-) integrál Riemnn-integrál kiterjesztése, mikor egy függvény htározott integrálját egy másik függvény megváltozás szerint számítjuk ki Felépítése ngyon hsonlón történhet, mint Riemnn-integrálé, és tuljdonságik is ngyon hsonlók Segítségével áltlánosbb deníciót lehet dni vlószín ségi változók várhtó értékére Deníció Függvény teljes vriációj Legyen f : [; b] R, F n = x 0, x,, x n } z [; b] intervllum egy tetsz leges feloszlás Jelölje felosztás nomságát δ(f n ) := mx (x i x i ) i n n f teljes vriációj [; b]-n: V b (f) = lim f(x i ) f(x i ) δ(f n) 0 Deníció Korlátos változású függvény Az f : [; b] R függvény korlátos változású, h V b (f) < Jel: f BV [; b] Tétel Korlátos változású függvények reprezentációj f BV [; b] g, h : [; b] R monoton növ függvények, hogy f = g h Jel: f Riemnn-integrálhtó [; b]-n f R[; b] Deníció Riemnn-Stieltjes integrál Legyenek f, g : [; b] R, F n = x 0, x,, x n } z [; b] intervllum egy tetsz leges feloszlás, µ k [x k, x k ] tetsz leges pontok, µ = µ,, µ n } Riemnn-Stieltjes integrálközelít összeg: R(f, g, µ) := n f(µ i )[g(x i ) g(x i )] f Riemnn-Stieltjes integrálhtó g-re nézve, h R(f, g, µ) minden δ(f n ) 0 felosztássorozt esetén konvergens Jel: b b f dg = f(x) dg(x) = f dg [;b] Jel: f Riemnn-Stieltjes integrálhtó [; b]-n f RS[; b] egjegyzés Az f neve integrndus, g neve integrátor egjegyzés A Riemnn-Stieltjes integrál hsonlón kiterjeszthet improprius értelemben, mint Riemnn-integrál Tétel H f C[; b] és g BV [; b], kkor f RS([; b], g) Állítás A R-S integrál nem létezik, h f és g ugynbbn pontbn ugrnk Állítás A R-S integrál tuljdonsági Tegyük fel, hogy f i RS([; b], g i ), i =,, < b < c R Ekkor ) b (cf + f ) dg = c b) b f d(cg + g ) = c c) c f dg = b f dg + b b c b f dg + f dg + b b f dg f dg f dg, mennyiben z itt szerepl mindhárom integrál létezik A következ két tétel Riemnn-Stieltjes integrál kiszámítását bbn két széls séges esetben muttj be, mikor g integrátor tiszt ugrófüggvény, illetve folytonosn dierenciálhtó ivel minden (nem szinguláris) g(x) vlós függvény felbonthtó egy g tiszt ugrófüggvény és egy g folytonosn dierenciálhtó függvény g = g + g összegére, így g szerinti integrálás fenti állítás b) része lpján szétbontássl könnyedén elvégezhet Tétel Legyen f R[; b] H ) g tiszt ugrófüggvény z i pontokbn c i ngyságút ugrik, zz g(x) = n c i I(x i ), kkor b f dg = n f( i ) c i b) g C [; b], kkor b f dg = b f(x)g (x) dx Végül deniálhtjuk vlószín ségi változók várhtó értékét Deníció Legyen X vlószín ségi változó F eloszlásfüggvénnyel Ekkor X várhtó értéke EX = x df (x) Állítás Legyen X vlószín ségi változó, g : R R "szép" függvény ("szép"=borelmérhet ) Ekkor E(g(X)) = g(x) df (x) egjegyzés A stndrd vlószín ségelméletben várhtó érték legáltlánosbb de- níciój z lábbi: EX = X dp = X(ω) dp (ω), hol X vlószín ségi változó Ω ω Ω z (Ω, A, P ) Kolmogorov-féle vlószín ségi téren vn értelmezve, P vlószín ségi mérték Ebben z értelemben tehát várhtó érték P vlószín ségi mérték szerinti integrál A mérték szerinti integrál felépítését és fontosbb tuljdonságit mértékelmélet tnkönyvekben lehet megtlálni Ajánlott irodlom: Richrdson: Advnced Clculus, 7 fejezet Deníció X vlváltozó eloszlásfüggvénye: Állítás Az eloszlásfüggvény tuljdonsági: lim F (x) = 0, lim F (x) = ; x x blról folytonos; monoton növ F X (x) = P (X < x)
Poisson Poi() P (X = k) = k k! e mm k = 0,, Nevezetes bszolút folytonos eloszlások: Eloszlás neve Jelölése Eloszlásfüggvény S r ségfüggvény EX D X 0 h x x h < x b b +b (b ) Egyenletes E(, b) h < x b b h b < x e x h x 0 e x h x 0 Exponenciális Exp() Stndrd norm N(0, ) Φ(x) = Normális N(m, σ ) π e x x R 0 πσ e (x m) σ x R m σ További nevezetes bszolút folytonos eloszlások: Eloszlás Jelölése Eloszlásfüggvény S r ségfüggvény EX D X neve Cuchy Cuchy(, b) π rctg ( ) x b + [ πb +( R, b > 0 x b ) ] x R Preto ( ) β α h x β α ( β ) α+ h x β x β x αβ P reto(α, β) α, b > 0 0 h x < β 0 h x < β A Preto-eloszlásnk kkor vn véges várhtó értéke képletnek megfelel en, h α >, szórásnégyzete pedig kkor, h α > β α (α ) (α ) Gmm Γ(α, ) α, > 0 Bét Bet(α, β) α, β > 0 Nevezetes diszkrét eloszlások: Eloszlás neve Jelölése Eloszlás EX D X Krkterisztikus (indikátorvált) Ind(p) P (X = ) = p mmmmmm P (X = 0) = p p p( p) Geometrii Geo(p) P (X = k) = p( p) k p m p p (Pscl) k =,, Hipergeometrii Hipgeo(N,,n) P (X = k) = ( k )( N n k ) ( ) ( ) m n n ( N N N n N N n) k = 0,,, n Binomiális Bin(n, p) ( n P (X = k) = p k) ( p) n k mm np np( p) k = 0,,, n ( ) Negtív binomiális k = n, n +, NegBin(n, p) k P (X = k) = p n ( p) k n n n( p) p p Jelölése Eloszlásfüggvény S r ségfüggvény EX D X χ k k N k/ Γ(k/) xk/ e x/ x R k k Eloszlás neve Khínégyzet Lognormális LN(m, σ ) mm m R, σ > 0 Γ(α) α e x x α h x 0 0 h x < 0 Γ(α+β) Γ(α)Γ(β) xα ( x) β x [0; ] (log x m) x πσ e σ h x 0 0 hx < 0 α α α+β e m+σ / α αβ (α+β) (α+β+) (e σ )e m+σ Többváltozós vlószín ségszámítás Deníció Vlószín ségi vektorváltozó: X: Ω R d (Borel-)mérhet függvény, zz mire ω : X(ω) B} A minden B R d nyílt (Borel-)hlmzr Deníció X vlószín ségi vektorváltozó eloszlásfüggvénye: F X (x) = P (X < x) = P (X < x,, X d < x d ) Deníció X vlószín ségi vektorváltozó bszolút folytonos, h létezik olyn f X (x,, x d ) függvény, melyre x x d F X (x,, x d ) = f X (t,, t d ) dt dt d Ilyenkor f X (x)-et s r ségfüggvénynek hívjuk d = esetén vezessük be következ jelöléseket és elnevezéseket: F X,Y (x, y) = P (X < x, Y < y) együttes eloszlásfüggvény F X(x) = P (X < x) peremeloszlásfüggvények F Y (y) = P (Y < y) f X,Y (x, y) együttes s r ségfüggvény f X (x), f Y (y) perems r ségfüggvények F X (x) = lim F X,Y (x, y) és F Y (y) = lim F X,Y (x, y) y x Állítás n F X,Y (x, y) = y x f X,Y (u, v) dudv f X,Y (x, y) = y x F X,Y (x, y) = x y F X,Y (x, y) f X,Y (x, y) dxdy = f X (x) = f X,Y (x, y) dy és f Y (y) = f X,Y (x, y) dx Állítás Legyen (X, Y ) bszolút folytonos, A R, B R mérhet hlmzok P (X A) = df X (x) = f X (x) dx x A x A P ((X, Y ) B) = df X,Y (x, y) = f X,Y (x, y) d(x, y) Állítás n (x,y) A (x,y) A X, Y függetlenek F X,Y (x, y) = F X (x) F Y (y) X, Y függetlenek f X,Y (x, y) = f X (x) f Y (y) X, Y függetlenek P (X = x, Y = y) = P (X = x) P (Y = y) X, Y függetlenek E(XY ) = EX EY Deníció X és Y kovrinciáj: Cov(X, Y ) = E [(X EX)(Y EY )] Köv: Cov(X, Y ) = E(XY ) EXEY Elnevezés: h Cov(X, Y ) = 0, kkor zt mondjuk, hogy X és Y korreláltlnok Állítás X és Y függetlenek = X és Y korreláltlnok X és Y korreláltlnok = X és Y függetlenek!!!!!
Cov(X,Y ) Deníció X ésy lineáris korrelációj:cor(x,y)= DXDY h DX, DY >0 0 h DX=0 v DY =0 Ez Person-féle lineáris korreláció két vlószín ségi változó közti lineáris kpcsolt irányát és er sségét méri Deníció Kovrincimátrix Legyen X vlószín ségi vektorváltozó Ekkor Σ(X) := E(X X T ) E(X)E(X) T A többdimenziós dtelemzés lényeges eszköze korrelációs mátrix, minek (i, j)-edik eleme z R(X i, X j ) lineáris korrelációs együtthtó A korrelációs mátrix átlójábn csup -ek szerepelnek A többdimenziós normális és z egyenletes gykorltbn legtöbbször el forduló bszolút folytonos többdimenziós vlószín ségi változók H X d dimenziós nem-elfjuló normális eloszlást követ m várhtó érték vektorrl és Σ > 0 kovrincimátrixszl (jel: X N d (m, Σ)), kkor s r ségfüggvénye: f X (x) = (π) d det(σ) exp (x m)t Σ (x m) } X egyenletes eloszlást követ d dimenziós tér B R d mérhet részhlmzán (jel: X E(B)), h s r ségfüggvénye: t(b) h x B f X (x) = hol t( ) függvény d dimenziós térfogtot jelöli 0 egyébként Tétel Vlószín ségi vektorváltozó trnszformáltjánk s r ségfüggvénye Legyen X = (X,, X n ) bszolút folytonos vlószín ségi vektorváltozó f X s r ségfüggvénnyel, A R n összefügg és nyílt hlmz Legyen g : A A függvény, mely invertálhtó és inverze folytonosn dierenciálhtó Legyen Y = g(x), J = y g (y) Jcobi-mátrix Ekkor f g(x) (y) = det(j) f X (g (y)) Ajánlott irodlom: árkus L el dásfóliái többdimenziós normális eloszlásról: http: //webcseltehu/probbility/mrkus/elemzots/tobbdim_normlis_elopdf Feltételes várhtó érték Legyen vlószín ségi mez szokásos (Ω, A, P ) hárms, F A σ-lgebr Deníció F-mérhet ség Az X: Ω R vlószín ségi változó F-mérhet, h minden B R Borel-hlmzr X (B) F Deníció X feltételes várhtó értéke F-re nézve Legyen X integrálhtó Az Y := E(X F) z vlószín ségi változó, melyre egyrészt Y F-mérhet, másrészt B F hlmzr X dp = Y dp B B Speciálisn, h F = σ(y ), zz F-et z Y vlószín ségi változó generálj, kkor E(X F) helyett E(X Y )-t írunk Tehát E(X Y )-r úgy gondolunk, mint egy vlószín ségi változór, konkrétbbn z Y vlószín ségi változó egy mérhet h(y ) függvényére; és h Y egy dott értéket vesz fel, zz h E(X Y = y), kkor mint konkrét számr Abszolút folytonos eloszlások esetén következ képlettel számíthtó: E(g(X) Y ) = g(x)f X Y (x y)dx hol f X Y (x y) = y=y fx,y (x,y) f Y (y) h f Y (y) > 0 feltételes s r ségfüggvény Deníció σ-lgebrától vló függetlenség X vlószín ségi változó független z F σ-lgebrától, h A σ(x) és B F eseményekre P (A B) = P (A)P (B) Állítás Tuljdonságok Legyen g F-mérhet függvény E(X F) vlószín séggel egyértelm en létezik E(E(X F)) = EX teljes várhtó érték tétel (TVÉT) X F-mérhet E[g(X) F] = g(x) X független F-t l E(X F) = EX X F-mérhet E(XY F) = XE(Y F) Állítás H X független F-t l, Y mérhet F-re nézve, g(x, Y ) integrálhtó, kkor E(g(X, Y ) F) = E(g(X, y)) y=y Állítás Teljes vlószín ség tétele folytonos esetben Legyen A tetsz leges esemény, Y bszolút folytonos vlószín ségi változó P (A) = P (A Y = y)f Y (y) dy Feldt: Y -t szeretnénk közelíteni X tetsz leges függvénye segítségével: E[Y h(x)] min h egoldás: h opt = E(Y X) Ekkor Ajánlott irodlom: árkus L el dásfóliái feltételes várhtó értékr l: http://web cseltehu/probbility/mrkus/elemzots/feltvrhertpdf Sztochsztikus folymtok lpji Deníció Sztochsztikus folymt: (X t ) t T, hol T prmétertér és minden t-re X t vlószín ségi változó A sztochsztikus folymt diszkrét prméter (vgy diszkrét idej ), h T számosság legfeljebb megszámlálhtón végtelen, tipikusn T = Z vgy T = Z + A sztochsztikus folymt folytonos prméter (vgy folytonos idej ), h T kontinuum számosságú, jellemz en T = [0; ], T = R vgy T = R + A félév során el forduló sztochsztikus folymtok: 3
Poisson-folymt: folytonos prméter rkov-folymt: diszkrét vgy folytonos idej, gykorlton csk diszkrét idej ekkel fogllkozunk Wiener-folymt: folytonos prméter id sormodellek (utoregresszív, mozgóátlg folymtok): diszkrét idej Deníció Guss-folymt: olyn sztochsztikus folymt, melynek bármely véges számú peremeloszlás együttesen normális eloszlású, zz minden n Z +, t T,, t n T esetén (X t,, X tn ) együttesen normális eloszlású Id sor: Olyn sztochsztikus folymt, mikor T prmétertrtományr 'id '-ként gondolunk Deníció Er s stcionritás (X t ) t T er sen stcionárius, h minden n Z +, t T,, t n T és h T esetén (X t,, X tn ) együttesen ugynolyn eloszlású, mint h-vl vló eltoltj, (X t+h,, X tn+h) Deníció Autokovrinci függvény: R(t, s) = cov(x t, X s ) Deníció Gyenge stcionritás (X t ) t T gyengén stcionárius, h EX t nem függ t-t l (zz konstns), illetve z utokovrinci függvény R(t, s) értéke csk t s eltérést l függ Gyengén stcionárius sztochsztikus folymt utokovrinci függvénye tehát tuljdonképpen egyváltozós, ezt z egyváltozós függvényt is R-rel fogjuk jelölni: R(t, s) = R(t s) Tehát gyengén stcionárius sztochsztikus folymt utokovrinci függvénye R(h) = cov(x t+h, X t ) módon számolhtó egjegyzés A gyenge stcionritásból nem következik z er s, de z er s stcionritásból se gyenge (nem biztos, hogy léteznek momentumi) egjegyzés A stcionritás szó bizonyos szempontból id beli állndóságot, stbilitást jelent Szeretjük, h egy id sor stcionárius, és igyekszünk dtinkt úgy trnszformálni, hogy zok "közel", illetve "látszólg" stcionáriusk legyenek Állítás R(0) = D X t minden t-re Deníció Autokorreláció függvény (ACF): r(h) = Cor(X t, X t+h ), h T Állítás r(h) = R(h) R(0) Deníció Független érték zj folymt: ε t iid(0, σ ), h Eε t = 0, D ε t = σ, vlmint ε t és ε s minden t s esetén független egymástól Deníció Fehér zj folymt (white noise): ε t W N(0, σ ), h Eε t = 0, D ε t = σ és cov(ε t, ε s ) = 0, h t s egjegyzés gykrn kényelmes feltenni fehér zjról, hogy Guss-folymt, ilyenkor Guss-féle fehér zjról beszélünk (GWN) Ajánlott irodlom: árkus L el dásfóliái id sorelméletr l: http://webcselte hu/probbility/mrkus/elemzots/idosorok Slides_07 07pdf A Poisson-folymt Deníció Az X t sztochsztikus folymt független növekmény, h tetsz leges t < t t 3 < t 4 esetén X t X t és X t4 X t3 növekmények függetlenek egymástól Deníció Az X t sztochsztikus folymt stcionárius növekmény, h tetsz leges t < t és h esetén X t X t X t+h X t+h, zz tetsz leges növekmények tetsz leges eltoltji ugynolyn eloszlásúk egjegyzés Az el z két deníció során feltesszük, tetsz legesen válsztott id pontok olynok, hogy zok nem vezetnek ki T prmétertrtományból Deníció Poisson-folymt X t, t 0 Poisson-folymt > 0 intenzitássl, h X 0 = 0, független növekmény, stcionárius növekmény, P (X t = ) = t + o(t) és P (X t ) = o(t), h t 0 Tétel A Poisson-folymt tuljdonsági Legyen X t Poisson-folymt intenzitássl Jelöje τ i z i esemény bekövetkezésének id pontját, i =,, Ekkor ) X t Poi(t) b) z utokovrinci függvénye Cov(X t, X s ) = min(t, s); c) τ, τ τ, τ 3 τ, függetlenek és zonos, Exp() eloszlásúk d) h t > s, kkor X s X t Bin ( ) X t, s t e) h t < s, kkor X s X t X t +Poi((s t)) Következmény τ n Γ(n, ), n =,, Állítás Poisson-folymtok egyesítése Legyenek Xt,, Xt m független Poisson-folymtok,, m intenzitásokkl Ekkor X t = Xt + + Xt m is Poisson-folymt, + + m intenzitássl Tétel Poisson-folymt ritkítás Legyen X t Poisson-folymtok intenzitássl inden egyes esemény bekövetkezésekor egymástól függetlenül feldobunk egy érmét, fejdobás vlószín sége p [0; ] Legyen X t t id pontig kpott fejek szám, X t pedig t id pontig kpott írások szám Ekkor X t és X t egymástól független Poisson-folymtok p és ( p) intenzitásokkl Ajánlott irodlom: árkus L el dásfóliái Poisson-folymtról: http://webcs eltehu/probbility/mrkus/elemzots/egyszeru_poissonpdf 4
Diszkrét idej rkov-folymtok (rkov-láncok) Legyen S megszámlálhtó hlmz, neve: állpottér; X 0, X, X, vlószín ségi változó sorozt, P (X i S) = minde-re Az állpottér elemeire sokszor egyszer bb z,, számokként gondolni Deníció rkov-tuljdonság inden 0 n Z és i j S, j =,, esetén P (X n+ = i n+ X n = i n,, X 0 = i 0 ) = P (X n+ = i n+ X n = i n ) Deníció rkov-folymt/lánc A rkov-tuljdonsággl rendelkez diszkrét idej sztochsztikus folymtokt rkov-folymtoknk vgy rkov-láncoknk hívjuk Deníció Homogén rkov-lánc A rkov-lánc homogén (vgy stcionárius), h P (X n+ = j X n = i) feltételes vlószín ség nem függ n-t l, zz minden n-re ugynz Jel kezdeti eloszlást q T = (q, q, ) T, hol q k = P (X 0 = i), i S Jel homogén rkov-lánc esetén p i,j := P (X n+ = j X n = i), i, j S Ezek neve: egylépéses átmenetvlószín ségek vgy röviden átmenetvlószín ségek Jel P = (p i,j ) i,j S, neve: átmenetvlószín ség mátrix Jel homogén rkov-lánc esetén p (n) i,j := P (X n = j X 0 = i), i, j S Ezek neve: n lépéses átmenetvlószín ségek ( ) Jel P (n) =, neve: n lépéses átmenetvlószín ség mátrix p (n) i,j i,j S Tétel Chpmn-Kolmogorov egyenletek H m < k < n, kkor P (X n = i n X m = i m ) = P (X n = i n X k = i k ) P (X k = i k X m = i m ) i k S Következmény P (n) = P n Állítás A P mátrix minden sorösszege Állítás P (X n = j) = q i (P n ) i,j = q T P n, j S i S Deníció i állpotból j állpot elérhet, h n : p (n) i,j > 0 Jel: i j Deníció i és j érintkeznek, h vgy i = j, vgy (i j és j i) Jel: i j Állítás Az elérhet ség trnzitív, z érintkezés pedig ekvivlencireláció Deníció Pontosn n lépésben vissztérés vlószín sége f n (i, i) := P (X n = i, X n i,, X i X 0 = i), i S Deníció Vissztérés vlószín sége f(i, i) := f n (i, i), i S Állítás p (n) (i, i) = f n (i, i) + n k= f k (i, i)p (n k) (i, i) Deníció Vissztér állpot Az i állpot vissztér, h j S-re i j j i egjegyzés Ekvivlens elnevezések: vissztér =lényeges=perzisztens állpot n= Deníció Átmeneti állpot Az i állpot átmeneti, h nem vissztér egjegyzés Ekvivlens elnevezések: átmeneti=lényegtelen=trnziens állpot Tétel Az i állpot vissztér f(i, i) = p (n) (i, i) = Következmény Az i állpot átmeneti f(i, i) < p (n) (i, i) < n=0 Deníció Elnyel állpot Az i állpot elnyel, h p i,i = Deníció Az i állpot periódus: d(i) := lnkon 0 : p (n) (i, i) > 0} Deníció Periodikus állpot Az i állpot periodikus, h d(i) > Deníció Aperiodikus állpot Az i állpot periodikus, h d(i) = Deníció Irreducibilis L: z állpoti érintkeznek egymássl egjegyzés Az irreducibilis rkov-lánc gráfj összefügg Deníció Ergodikus L: irreducibilis, minden állpot vissztér és periodikus Tétel Legyen P egy ergodikus rkov-lánc átmenetvlószín ség mátrix Ekkor i, j S-re p (n) (i, j) n nf n(j,j) n= Vegyük észre, hogy z el z tétel lpján mihez konvergál, már nem függ kiinduló π π i állpottól Jelölje π j := j =,,, ezzel lim nf n(j,j) n Pn = n= π π Jel π T = (π, π, ) T, elnevezése: stcionárius vgy egyensúlyi eloszlás A stcionárius eloszlás muttj meg, hogy "hosszú id után" milyen vlószín séggel leszünk rkov-lánc egyes állpotibn A gykorltbn stcionárius eloszlást z lábbi egyenletrendszer megoldásávl szokás kiszámolni: π T = π T P, hol π i = Ennek értelmében tehát π vektor P i mátrix bloldli, -re normált sjátvektor rkov-láncoknál egy lényeges kérdés, hogy átlgosn mennyi id be (lépésbe) telik, míg z egyik állpotból egy másik állpotb eljutunk Jelölje m i,j : h jelenleg z i állpotbn vgyunk, kkor várhtón ennyi lépésre vn szükség, hogy j állpotb kerüljünk Áltlánosn ezeket z értékeket nem lehet közvetlenül egyszer en kiszámolni, de teljes várhtó érték tétel lpján felírhtó rájuk következ egyenlet: m i,j = p i,j + p i,j ( + m k,j ), mit m i,j = + p i,j m k,j -r lehet egyszer síteni k j k j Állítás Ergodikus rkov-lánc esetén m i,i = π i Elnyel rkov-láncok: vn s trnziens állpot: t,, t s n=0 5
vn m elnyel állpot:,, m ( ) Q R Prticionáljuk ezek lpján z átmenetvlószín ség mátrixot: P =, hol 0 I m Q R s s, R R s m, I m z m dimenziós egységmátrix Néhány lényeges mennyiség kiszámítás: h t i -ben vgyunk, kkor zon periódusok várhtó szám, mit t j -ben töltünk, miel tt egy elnyel állpotb lépnénk: ( (I s Q) ) i,j ( h t i -ben vgyunk, kkor nnk vlószín sége, hogy j -be kerülünk: (Is Q) R ) i,j Elnyel láncok esetén nem beszélhetünk olyn értelemben stcionritásról, mint z ergodikus láncoknál, egyfjt egyensúly csk kkor érhet el, h minded szkbn vn(nk) új belép (k) rendszerbe Tekintsük z n-edik id periódust z n -edik és z n-edik id pont között eltelt id nek, n =,, Vezessünk be jelöléseket: H i : z egyes id periódusok elején z i-edik állpotb belép egyedek szám N i (n): z n-edik id periódus elején z i-edik állpotbn lév egyedek szám r i = m r i,j, mi z i-edik állpotból egy elnyel állpotb lépés vlószín sége j= Q := Q r r s Kérdés, hogy léteznek-e lim n N i(n) htárértékek H léteznek, kkor jelöljük ket N i - vel, mikb l képezzük z N = (N,, N s ) T egyensúlyi egyedszám vektort Amennyiben létezik ilyen egyensúlyi helyzet, kkor minded periódusbn z i-edik állpotb belép egyedek számánk ( lenti egyenletben bloldl) meg kell egyeznie z onnn kilép egyedek számávl (jobboldl): H i + k i N k q k,i = N i ( q i,i ) i =,, s Ajánlott irodlom: Wyne L Winston: Operációkuttás, 7 fejezet Lineáris modell (regressziószámítás) Legyenek Y, X,, X p véges szórású vlószín ségi változók, mik egy véletlen jelenség egy-egy jellemz i A regresszióelemzés célj bennünket különösen érdekl Y vlószín ségi változó "minél jobb" közelítése z X,, X p vlószín ségi változók segítségével Y elnevezései: eredményváltozó, függ változó, endogén változó X i -k elnevezései: mgyrázó változók, független változók, exogén változók Áltlábn meggyeléseink vnnk, mik z (Y, X,, X p ) T vlószín ségi vektorváltozó relizációink tekinthet k: (y i, x i,,, x i,p ) T i =,,, n áltlábn n >> p Feltehetjük, hogy z y i meggyelések rendszerint mérési eredmények, mik sjnos ponttlnok A mérési hibát ε i -vel fogjuk jelölni, mir l természetes feltétel, hogy legyen 0 várhtó érték és egy véges σ szórású vlószín ségi változó A lineáris modell: y = Xb + ε, hol y = (y,, y n ) T x, x,p X = x n, x n,p b = (b,, b p ) T ε = (ε,, ε n ) T Prméterbecslés: b = (X T X) X T y Projekció z F := ImX ltérre: P F = X(X T X) X T Becsült értékek: ŷ := X b Reziduálisok: ε = y ŷ Reziduális négyzetösszeg: RNÖ := ε = n ε i = n (y i ŷ i ) Teljes négyzetösszeg: NÖ = n (y i y) Determinációs együtthtó: R = RNÖ = NÖ RNÖ z eredményváltozó változékonyságánk hány %-át mgyrázz regressziós modell Értéke 0 és között lehet NÖ NÖ inél ngyobb, nnál jobb Gykori modellválsztási kritériumok: Korrigált determinációs együtthtó: R n SSR dj = n r N minél ngyobb, nnál jobb Akike-féle információs kritérium: AIC = k log L, hol k: becsülend prméterek szám, regressziós modellben k = p + L likelihood-függvény értéke kkor, h z L-becslést hsználjuk (normális eloszlású hibáknál ez megegyezik legkisebb négyzetes becsléssel) inél kisebb, nnál jobb Byes-féle információs kritérium: BIC = log n k log L minél kisebb, nnál jobb A regresszióelemzés lépései: z eredményváltozó(k) és lehetséges mgyrázóváltozók kiválsztás dtgy jtés dttisztítás, dthibák korrekciój pontdigrmml potenciális modellek kiválsztás (lineáris, négyzetes, logisztikus stb) prméterbecslés modelldignosztik z együtthtók szigniknciáj, modell együttes jóság legjobb modell kiválsztás, "modellépítés" több módszer/muttó közül válszthtunk: korrigált R, cross-vlidtion, AIC/BIC információs kritériumok stb 6
el rejelzés Attól függ en, hogy z eredmény-, illetve mgyrázóváltozó diszkrét-e vgy folytonos, z lábbi sttisztiki módszerek hsználndók kpcsolt vizsgáltár: Az eredményváltozó diszkrét bszolút folytonos A diszkrét sszociáció vegyes kpcsolt mgy- χ -prób t-prób, ANOVA rázó- bsz folyt osztályozási eljárások, korreláció változó diszkriminnci nlízis regresszió Ajánlott irodlom: árkus L el dásfóliái regresszióról: http://webcseltehu/ probbility/mrkus/elemzots/regressionslidespdf Szóráselemzés (ANOVA) / vegyes kpcsolt elemzése A szóráselemzés lineáris modell egyik legfontosbb lklmzás Az eljárásnk több elnevezése vn: szóráselemzés = vrinci-nlízis = ANOVA (nlysis of vrince) Vegyes kpcsolt: egy diszkrét és egy folytonos ismérv közti kpcsolt A modell: x i,j = µ i + ε i,j, hol i =,, k csoportok vgy osztályok szám j =,, mintelemszám egy osztályon belül N = k teljes mintelemszám ε i,j N(0, τ ) függetlenek, hol τ > 0 Feldt: nnk eldöntése, hogy µ = = µ k, zz csoporthoz trtozás nem befolyásolj z ismérv értékét Vezessünk be jelöléseket: x i = n j x i,j j= részátlgok vgy csoportátlgok k k x = x N i,j = n N ix i teljes átlg j= σ i = (x i,j x i) részszórások σ = n j N j= k (x i,j x) teljes szórás j= SS w = k (x i,j x i) = k σi j= SS b = k (x i x) csoportokon belüli eltérés-négyzetösszeg csoportok közötti teljes eltérés-négyzetösszeg SS = k (x i,j x) teljes eltérés-négyzetösszeg j= H = 0 esetén két ismérv között nincs kpcsolt, DE (!!) ekkor nem feltétlen függetlenek egymástól (nlógi: korreláltlnságból nem következik függetlenség) H = esetén két ismérv között függvényszer kpcsolt vn 0 < H < esetén két ismérv között sztochsztikus kpcsolt vn er s kpcsolt, h H = H közel vn -hez és gyenge kpcsolt, h 0-hoz egjegyzés: ez nem más, mint regressziónál z R Tekintsük z lábbi hipotézisvizsgálti feldtot: H 0 : µ = = µ k H : nem igz H 0 A hipotézisekr l egy F -próbávl döntünk, F próbsttisztik kiszámításához z ún ANO- VA tábláztot szokás elkészíteni: Szóródás Szbdság- Négyzet- Tpsztlti forrás fok összegek szórásnégyzetek Küls (between group) k SS b S b = SS b k Bels (within group) N k SS w S w = SSw N k Teljes N SS F = S b S w = SS b k SSw N k Tétel H teljesülnek modell feltételei és H 0 nullhipotézis, kkor F F k,n k, zz próbsttisztik F -eloszlást követ Ajánlott irodlom: árkus L el dásfóliái ANOVA-ról: http://webcseltehu/ probbility/mrkus/elemzots/anova_anova_sjtpdf Állítás SS = SS w + SS b A kpcsolt er sségét mér muttó szórásnégyzet-hánydos: Tuljdonsági: H = SSw SS = SS b SS 7