Matematiai statisztia Programozó Matematius sza részére Pa Gyula KLTE Matematiai és Iformatiai Itézet 4 Debrece, Pf. agy@math.lte.hu. Bevezetés.. A matematiai statisztia célit}uzései Adott egy mita, amelyalajá öveteztetéseet szereté levoi bizoyos valósz }uségeel, eloszlás illetve s}ur}uségfüggvéyeel, aramétereel acsolatba. Például: Becsléselmélet: ismeretle aramétere özel tése otbecslés: a mitába megálla tott selejtaráy alajá szereté megbecsüli az egész soaságba lev}o selejtaráyt itervallumbecslés: ofidecia itervallum azaz megb zhatósági itervallum) eresése, vagyis éldául olya itervallum meghatározása a mitaátlagörül, melybe a várható érté agy valósz }uséggel beleesi Hiotézisvizsgálat: dötés bizoyos hiotézise feltevése) elfogadásáról vagy elvetésér}ol; éldául amitaátlaga a várható értét}ol való eltérése belefér e még a szabváyel}o rásoba? illeszedésvizsgálat: a mita milye eloszlásból származi, azaz milye eloszlással özel thet}o jól? Vagyis dötés arról, hogy az adott mita illeszedi e az adott eloszláshoz?) homogeitásvizsgálat: dötés arról, hogy vajo ét adott mita ugyaabból az eloszlásból származi e? függetleségvizsgálat: dötés arról, hogy vajo ét adott mita függetle e?.. Statisztiai alafogalma... Defi ció. Statisztiai) mita alatt valamely Ω; A; P) valósz }uségi mez}o értelmezett függetle, azoos eloszlású valósz }uségi változó ο ;ο ;:::;ο véges sorozatát értjü. A mita elemszáma, a mita alaeloszlása edig a ο ;ο ;:::;ο változó özös eloszlása. valósz }uségi
... Defi ció. Statisztia otosabba statisztiai függvéy) alatt a mitaeleme valamely T ο ;ο ;:::;ο ) függvéyét értjü, ahol T : R! R olya függvéy, hogy T ο ;ο ;:::;ο ) valósz }uségi változó. Megjegyezzü, hogy ehhez eleged}o éldául az, hogy T folytoos legye, hisze eor tetsz}oleges c R eseté f! Ω:T ο!);:::;ο!)) <cg = f! Ω:ο!);:::;ο!)) T ;c)g A; azaz eseméy, ugyais T folytoossága miatt T ;c) = fx R : T x) ;c)g y lt halmaz, ezért el}oáll y lt itervallumo megszámlálható uiójaét...3. Defi ció. Mitaátlag: vagyis a mitaeleme számtai özee. ο := ο + ο + + ο ; A mitaátlag yilvá statistia, hisze ο = T ο ;ο ;:::;ο ), ahol folytoos függvéy. T x ;x ;:::;x )= x + x + + x..4. Defi ció. Taasztalati emirius) szóráségyzet: s := ο ο ) +ο ο ) + +ο ο ) = ψ i= ο i j= ο j! ; vagyis a mitaeleme átlagtól való égyzetes eltéréseie átlaga. A taasztalati szóráségyzet is statisztia, hisze s = T ο ;ο ;:::;ο ), ahol folytoos függvéy. T x ;x ;:::;x )= ψ i= x i..5. Lemma. Steier formula) Tetsz}oleges c R eseté s = i= ο i c) ψ j= x j! ο i c)! : i= Seciálisa c = választással) s = ο i ο : i=
Bizoy tás. ahol s = = i= i= ο c) οi ο = i= ο i c) ο c) i= οi c) ο c) i= ο i c) =ο c) = ο i c)+ο c) ; ψ i= ο i c)! Λ..6. Defi ció. A ο ;ο ;:::;ο mitából éezett redezett mita: ο Λ : 6 ο Λ : 6 ::: 6 ο Λ : : A redezett mita elemei statisztiá, ugyais éldául ο Λ : = T ο ;ο ;:::;ο ), ahol T x ;x ;:::;x ) = mifx ;x ;:::;x g folytoos függvéy. Megjegyezzü, hogy a ο Λ : ;ολ : ;:::;ολ : valósz }uségi változó em függetlee és em azoos eloszlásúa...7. Defi ció. A ο ;ο ;:::;ο mitából éezett taasztalati mediá: A ο ;ο ;:::;ο mita terjedelme: ο Λ m+: ; ha =m + áratla, ο Λ m: + ολ m+: )=; ha =m áros. ο Λ : ο Λ : :..8. Defi ció. A ο ;ο ;:::;ο mitából éezett taasztalati emirius) eloszlásfüggvéy: F : R Ω! R, F x) =F x;!) := X i: ο i!)<x = 8 >< >: ; ha x 6 ο Λ :, ; ha ολ : <x6 ολ +:, ; ha x>ο Λ :. Vagyis mide rögz tett x R eseté F x; ) : Ω! R valósz }uségi változó, ezért statisztia, mégedig a f! Ω : ο i!) < xg A eseméy relat v gyaorisága. Továbbá mide rögz tett! Ω eseté F ;!):R! R eloszlásfüggvéy, mégedig aa a diszrét eloszlása az eloszlásfüggvéye, melye a lehetséges értéei a mitaeleme ο!);ο!);:::;ο!) realizációi, és eze értéeet egyarát = valósz }uséggel veheti fel. 3
..9. Tétel. Gliveo) A matematiai statisztia alatétele) Legyee ο ;ο ;::: függetle, azoos eloszlású valósz }uségi változó özös F eloszlásfüggvéyel. Eor P lim su jf x) F x)j =! xr Tehát a taasztalati eloszlásfüggvéy egyeletese özel ti az elméleti) alaeloszlást, mid}o az mitaelemszám tart végtelebe. Megjegyezzü, hogy mide rögz tett x R eseté a agy számo er}os törvéye alajá valósz }uséggel teljesül F x)! Pο <x)= F x) ha!, ezért P lim jf x) F x)j =!... Defi ció. Legye r N. A ο ;ο ;:::;ο mitából éezett taasztalati r edi mometum: m r; := i= ο r i : =. =: Nyilvá ο = m ;, és a Steier formula alajá s = m ; m ;. Továbbá m r; ée az F véletlet}ol függ}o) eloszlásfüggvéyhez tartozó r edi mometum. Hisztogram oszlodiagram) úgy aható, hogy vesszü a valós számegyeese egy < x < x < < x < beosztását, és az egyes részitervallumora olya magasságú téglalaoat rajzolu, aháy mitalem az illet}o részitervallumba esi; vagyis egy olya lécs}osfüggvéyr}ol va szó, amelye értée az egyes részitervallumoo az illet}o részitervallumba esés gyaorisága. S}ur}uségi hisztogram úgy aható, hogy a relat v gyaoriságoat ábrázolju. Ha a mitaelemszám végtelebe tart és a beosztássorozat fiomodi, aor a s}ur}uségi hisztogram jól özel ti a s}ur}uségf}uggvéyt.. A statisztiába haszálatos éháy fotos eloszlás.. χ eloszlás... Defi ció. Ha ; ;:::; függetle, stadard ormális eloszlású valósz }uségi változó, aor χ := + + + eloszlását χ eloszlása evezzü, melye szabadsági foa.... Defi ció. Szemifatoriális: ) 4) :::; ha áratla,!! := ) 4) :::; ha áros. 4
..3. Lemma. A χ eloszlás abszolút folytoos, és s}ur}uségfüggvéye ahol Seciálisa f χ x) = 8 >< >: f χ x) = c = 8 >< >: ; ha x 6, c x = e x= ; ha x>, ; ha áratla, ß )!! )!! ; ha x 6, e x= ; ßx ha x>, ; ha áros. f χ x) = 8 >< >: ; ha x 6, e x= ; ha x>. Tehát a χ eloszlás megegyezi az = araméter}u exoeciális eloszlással. Bizoy tás. Nyilvá χ Ha x>, aor eloszlásfüggvéye F χ x) =Pχ <x)=p <x)= ; ha x 6, Pj j < x)=p x< < x)= ß Z x ahol x Gy) = ß Z y Pj j < x); ha x>. Z e u = du = x e u = du = G x); ß e u = du: Nyilvá G y) = =ße y =, ezért F χ deriválható ; ) e: r F χx) =G x) x = ß e x= x ; ezért χ Továbbá χ abszolút folytoos és s}ur}uségfüggvéye eloszlásfüggvéye f χ x) = 8 >< >: ; ha x 6, e x= ; ßx f χ x) =f + x) = f y)f x y)dy = f χ y)f χ x y)dy = 8 >< >: ha x>. ; ha x 6, Z x ßy e y= ßx y) e x y)= dy; ha x>. 5
Tehát ha x>, aor f χ x) = ß e x= Z x Z dy = yx y) ß e x= dz = c e x= ; z z) ahol y = xz helyettes tést hajtottu végre. A c ostas abból határozható meg, hogy Tehát végülis = f χ x)dx = c f χ x) = 8 >< >: e x= dx =c: ; ha x 6, e x= ; ha x>. Az általáos eset teljes iducióval bizoy tható. Ha feltesszü, hogy az áll tás igaz aor f χ + x) =f χ + + x) = = 8 >< >: f χ y)f x y)dy = + ; ha x 6, Z x c y = e y= c x y) = e x y)= dy; f χ y)f χ x y)dy ha x>, ra, gy ha x>, aor f χ Z x x) =c c + e x= y = x y) = dy = c c e x= xz) = [x z)] = x dz = ec + x +)= e x= ; ahol ec + abból határozható meg, hogy Mivel gy I + := = x +)= e x= dx f χ x)dx = ec + x +)= e x= dx: + = x +)= )e x= dx Λ x= ec + = I + = + ) x )= e x= dx = )I x= ; )I = ec ; amib}ol c == ß és c == figyelembevételével aju az áll tást. Λ 6
.. t eloszlás Studet eloszlás)... Defi ció. Ha és χ függetle valósz }uségi változó stadard ormális, illetve χ eloszlással, aor t := eloszlását. χ = t eloszlása Studet eloszlása) evezzü, melye szabadsági foa A t eloszlás s}ur}uségfüggvéyée meghatározásához szüségü va a övetez}o lemmára.... Lemma. Legyee ο és abszolút folytoos, függetle valósz }uségi változó f ο, illetve f s}ur}uségfüggvéyel. Eor ο= abszolút folytoos, és s}ur}uségfüggvéye f ο= x) = jvjf ο xv)f v)dv: Bizoy tás. Nyilvá ο= F ο= x) =Pο= <x)= = Z eloszlásfüggvéye xv ZZ u=v<x f ο u)f v)du f ο; u; v)du dv dv + Z xv f ο u)f v)du dv; ezért f ο= x) =F ο= x) = Z v)f ο xv)f v)dv + vf ο xv)f v)dv: Λ..3. Lemma. A t eloszlás abszolút folytoos, és s}ur}uségfüggvéye ahol ec = 8 >< >: f t x) = x ec + +)= )!! ; ha áratla, ß )!! )!! )!! ; ha áros. ; Seciálisa f t x) = ßx +) ; f x) = t x +) : 3= Tehát a t eloszlás megegyezi a Cauchy eloszlással. 7
Bizoy tás. El}oször meghatározzu χ = eloszlásfüggvéyét: F χ =x) =P q χ = < x) = ; ha x 6, Pχ <x ); ha x>. Tehát ha x>, aor F χ =x) =F χ x ), ami deriválható: F χ =x) =xf χ x ), ezért χ = abszolút folytoos, és s}ur}uségfüggvéye f χ =x) = ; ha x 6, xc x ) = e x = ; ha x>, gy ha x >, aor f χ =x) = = c x e x =. Ebb}ol a... Lemma felhaszálásával ahol f t x) = jvjf xv)f χ =v)dv = Z = = c ß = ec x + ) +)= ; Z v e x +)v = dv = = c ß v e x v = = c v e v = dv ß y x + ) = e y = dy x + ) = Z ec = = c y e y = dy: ß R h i y= Ha =, aor c == ß és ye y = dy = e y = =, gy ec ==ß, ezért f t x) ==[ßx + )]. y e y = dy = Ha =, aor c == és y e y = dy = y= ß y= y ß e y = dy = ß ; gy ec =, ezért f t x) = =x +) 3=. Továbbá > eseté arciális itegrálással y ye y = felbotással e y = = ye y = alajá) h i y= y e y = + ) y e y = dy = ) y e y = dy; ugyais L'Hosital szabállyal bebizoy tható, hogy aor y e y = dy = ) 3) ::: amib}ol ec = = ß lim y e y = =. Ha y! > 3 áratla, ye y = dy = )!!; )!! = = )!! : ß )!! ß )!! 8
Ha > 4 áros, aor y e y = dy = ) 3) :::3 y e y = dy = )!! ß=; amib}ol ec = = )!! ß= ß )!! = = )!! : )!! Λ.3. F;` eloszlás.3.. Defi ció. Ha χ és χ ` függetle valósz }uségi változó χ, illetve χ eloszlással, aor F ;` := χ = χ `=` eloszlását F;` eloszlása evezzü, melye szabadsági foai és `..3.. Lemma. Az F ;` eloszlás abszolút folytoos, és s}ur}uségfüggvéye ahol c ;` = f F;`x) = 8 >< >: 8 >< >: ; ha x 6, = ` x c ;` + ` )!! ß` )!!` )!! + ` )!! ` )!!` )!! + ` )!! 4` )!!` )!! ; ; ha x>, + +`)= ` x ; ha és ` áratla, ; ha és ` áros, egyébét. Bizoy tás. El}oször meghatározzu χ = eloszlásfüggvéyét: F χ =x) =Pχ = < x) =Pχ <x)=f χ x); ami deriválható: F χ =x) =f χ x), ezért χ = abszolút folytoos, és s}ur}uségfüggvéye f χ =x) = ; ha x 6, c x) = e x= ; ha x>. 9
Ebb}ol a... Lemma felhaszálásával f F;`x) = jvjf χ = xv)f χ =`v)dv = vc ` = xv) = e xv= c```= v`= e `v= dv = c c` =``= x = v +`)= e x+`)v= dv Z x = = c c` =``= y +`)= e y dy: x + `) +`)= Ha + ` áratla, aor arciális itegrálással + ` + ` y +`)= e y dy = ::: 3 ye y dy; ahol ye y dy = Ha + ` ahol R u e u = u du = ß áros, aor arciális itegrálással + ` + ` y +`)= e y dy = ß e u = u du = ::: e y dy; ß : e y dy =. Λ.4. Normális eloszlású mita vizsgálata.4.. Tétel. Ha ο ;ο ;:::;ο függetle, N m; ff ) eloszlású valósz }uségi változó, aor i) ο eloszlása N m; ff =), ii) ο és s függetlee, iii) s =ff eloszlása χ eloszlás. Ee a tétele a bizoy tásához felhaszálju a araterisztius függvéyeet..4.. Defi ció. A ο :Ω! R valósz }uségi változó araterisztius függvéye ' ο : R! C, ' ο t) :=Ee itο := E costο)+ie sitο): A ο = ο ;:::;ο ) : Ω! R valósz }uségi vetorváltozó araterisztius függvéye másée: a ο ;:::;ο valósz }uségi változó együttes araterisztius függvéye) ' ο = ' ο ;:::;ο : R! C, ' ο t) =' ο ;:::;ο t ;:::;t ):=Ee iht;οi = E ex i X j= t j ο j ) :
.4.3. Áll tás. i) Ha a ο = ο ;:::;ο ) : Ω! R és az = ;:::; ) : Ω! R valósz }uségi vetorváltozó függetlee, aor ' ο+ t) =' ο t)' t); t R : ii) Ha a ο = ο ;:::;ο ) : Ω! R és az = ;:::; ) : Ω! R valósz }uségi vetorváltozó araterisztius függvéyei megegyeze, azaz ' ο t) = ' t) bármely t R eseté, aor megegyeze az eloszlásai, azaz F ο x) =F x) bármely x R eseté. iii) A ο = ο ;:::;ο ) : Ω! R és az = ;:::; `) : Ω! R` vetorváltozó aor és csa aor függetlee, ha valósz }uségi ' ο; u; v) =' ο u)' v); u R ; v R`: iv) Ha ο =ο ;:::;ο ):Ω! R valósz }uségi vetorváltozó, A egy ` mátrix, és b R`, aor ' Aο+b t) =e iht;bi ' ο A > t); t R`: Seciálisa: ha ο :Ω! R valósz }uségi változó és a; b R, aor ' aο+b t) =e itb ' ο at); t R: Bizoy tás. i). A függetleség alajá ' ο+ t) =Ee iht;ο+ i = E e iht;οi e iht; i = Ee iht;οi Ee iht; i = ' ο t)' t): ii). Nehéz. Azt lehet felhaszáli, hogy zárt itervallumo értelmezett folytoos függvéye egyeletese özel thet}oe trigoometrius oliomoal.) iii). Ha ο és függetlee, aor ' ο; u; v) =Ee ihu;οi+hv; i) = E e ihu;οi e ihv; i = Ee ihu;οi Ee ihv; i = ' ο u)' v): Ha edig teljesül ' ο; u; v) =' ο u)' v); u R ; v R`; aor teitsü olya e ο és e függetle valósz }uségi vetorváltozóat, hogy ο és e ο, valamit és e eloszlásai megegyeze. Eor yilvá ' eο = ' ο és ' e = ', valamit ' eο;e u; v) =' eο u)' e v) u R ; v R`; amib}ol övetezi, hogy ' ο; u; v) =' eο;e u; v) u R ; v R`; ezért a ο; ) : Ω! R +` és e ο;e ) : Ω! R +` valósz }uségi vetorváltozó eloszlásai megegyeze. Így a e ο és e függetleségéb}ol aju, hogy ο és is függetlee, ugyais F ο; x; y) =F eο;e x; y) =F eο x)f e y) =F ο x)f y); x R ; y R`:
iv). Nyilvá ' Aο+b t) =Ee iht;aο+bi =e iht;bi Ee iha> t;οi =e iht;bi 'ο A > t); ugyais ht; Aοi = t > Aο) =A > t) > ο = ha > t; οi, hisze u; v R eseté hu; vi = u > v. Λ Példá: ffl Ha stadard ormális eloszlású, aor ' t) =e t =, ugyais ' t) =Ee it = Z e itx e x = dx = ß ß és belátható, hogy R e x it) = dx = R e y = dy = ß. e t = x it) = dx; Ha edig ο ormális eloszlású m; ff ) aramétereel, aor := ο m)=ff stadard ormális eloszlású, tehát ο = ff + m alajá ' ο t) =e itm e fft) = =e itm ff t =. ffl Ha ο exoeciális eloszlású araméterrel, aor ' ο t) == it= ), hisze ' ο t) = e itx e x dx = e it )x dx = it ) e it )x Λ x= x= = it : ffl Mivel a χ eloszlás megegyezi az = araméter}u exoeciális eloszlással, gy aa aaraterisztius függvéye ' χ t) == it). A χ eloszlás defi ciója alajá ' χ t) =' P t) = = Y = ' t) = ' t) ; ezért = it) = ' χ t) = ' t) ' χ t) = it) =. alajá ' t) = = it, gy végülis.4.4. Defi ció. Az = ;:::; ):Ω! R valósz }uségi vetorváltozót dimeziós stadard ormális eloszlásúa evezzü, ha ;:::; függetle, stadard ormális eloszlásúa..4.5. Defi ció. A ο =ο ;:::;ο ):Ω! R valósz }uségi vetorváltozót dimeziós ormális eloszlásúa evezü, ha létezi olya A mátrix és b R vetor úgy, hogy ο és A + b eloszlása megegyezi, ahol = ;:::; ) : Ω! R dimeziós stadard ormális eloszlású..4.6. Tétel. A ο =ο ;:::;ο ):Ω! R valósz }uségi vetorváltozó aor és csa aor ormális eloszlású, ha araterisztius függvéye ' ο t) =e ihm;ti hdt;ti= ; t R alaú, ahol m R, D edig egy valós, szimmetrius, ozit v szemidefiit mátrix azaz tetsz}oleges t = t ;:::;t ) R eseté hdt; ti = P j= P `= d j;`t j t` > ). Továbbá Eο =Eο ;:::;Eο d )=m és covο) =E ο Eο)ο Eο) > Λ = D.
Ha D ivertálható, aor ο abszolút folytoos, és s}ur}uségfüggvéye f ο x) = e hd x m);x mi= : ß) = detd).4.7. Tétel. Ha ο ;:::;ο m ; ;:::; ):Ω! R m+ ormális eloszlású, és covο ; `) = teljesül mide = ;:::;m és ` = ;:::; eseté, aor ο := ο ;:::;ο m ) és := ;:::; ) függetlee. Bizoy tás. A ο; ) := ο ;:::;ο m ; ;:::; ) várható érté vetora és ovariaciamátrixa E ο ; E Dο ; D ahol D ο := covο), D := cov ). Ezért aaraterisztius függvéye ρ fi fl fi Eο u ' ο; u; v) =ex i ; D ο u u ; E v D v v =ex ρ iheο; ui + he ; vi) hd οu; ui + hd v; vi) flff ff = ' ο u)' v) tetsz}oleges u R m, v R eseté. Ebb}ol edig övetezi a.4.3. Áll tás iii) otja alajá ο és függetlesége. Λ.4.8. Tétel. A ο =ο ;:::;ο ):Ω! R valósz }uségi P vetorváltozó aor és csa aor ormális eloszlású, ha tetsz}oleges c ;:::;c R eseté c j= jο j egydimeziós) ormális eloszlású. Bizoy tás. Ha ο =ο ;:::;ο ) ormális eloszlású, aor tetsz}oleges c =c ;:::;c ) R eseté := hc; οi = P j= c jο j araterisztius függvéye tehát ' t) =Ee it = Ee ithc;οi = Ee ihtc;οi = ' ο tc) =e ihm;tci hdct);cti= =e ihm;cit hdc;cit = ; valóba ormális eloszlású hm; ci; hdc; ci) aramétereel. Ha edig tetsz}oleges c ;:::;c R eseté := hc; οi = c > ο ormális eloszlású, aor yilvá aaraméterei E = c > Eο és D = E E ) E ) > Λ = E = c > E ο Eο)ο Eο) > Λ c = c > covο) c: Így ο =ο ;:::;ο ) araterisztius függvéye hc > ο Eο) c > ο Eο) > i ' ο t) =Ee iht;οi = ' ht;οi ) = e it> Eο t > covο)t= =e iheο;ti hcovο)t;ti= tetsz}oleges t R eseté, tehát ο valóba ormális eloszlású. Λ 3
A.4.. Tétel bizoy tása. i). Nyilvá ο := ο ;:::;ο ) ormális eloszlású, hisze := ο m)=ff, =;:::; függetle, stadard ormális eloszlásúa, és ο = ff + m, = ;:::; alajá a ο vetor el}oáll tható, mit az := ;:::; ) stadard ormális eloszlású vetor lieáris traszformáltja. Továbbá ο a ο ;:::;ο lieáris ombiációja, ezért a.4.8. Tétel alajá ο valóba ormális eloszlású. Továbbá yilvá Eο = P j= Eο j= = m= = m és D ο = P j= D ο j = = ff = = ff =. ii). El}oször a.4.8. Tétel alajá belátható, hogy a ο ο ;ο ο ;:::;ο ο ; ο ) vetor ormális eloszlású, hisze a oordiátáia lieáris ombiációi egyúttal a ormális eloszlású ο ;ο ;:::;ο ) vetor oordiátáiból éezett lieáris ombiációa is teithet}o. Továbbá mide =;:::; eseté teljesül covο ο ; ο )=, hisze ψ! ψ covο ο ; ο )=covο ; ο ) covο ; ο )=cov ο ; ο i cov ο i ; = i= covο ;ο i ) i= j= i= covο i ;ο j )= ff ff =; i= j= ο j! ugyais a ο ;ο ;:::;ο változó függetlesége miatt ff ; ha i = j, covο i ;ο j )= ; ha i 6= j. Ezért a.4.7. Tétel alajá ο ο ;ο ο ;:::;ο ο ) és ο függetlee, amib}ol már övetezi és ο függetlesége. s = = iii). A Steier formula alalmazásával ff s = ο m ο ff ο ) = ff = = ahol := ο m)=ff, =;:::; := ο ο ) ψ X =! ο m = ff = ; függetle, stadard ormális eloszlásúa, és = ο m ff = ο m ff= is stadard ormális eloszlású. Tehát ff s + = = ; 4
ahol a baloldalo álló összeadadó ii) alajá függetlee. Ezért a baloldal araterisztius függvéye egyrészt másrészt edig ' s =ff + t) =' s =fft)' t); ' s =ff + t) ='P t) = = Y = ' t) =' t)) : Mivel tetsz}oleges t R eseté ' t) == it 6=, ezért lehet vele osztai, gy ' s =ff t) =' t)) = Y = ' t) =' P t); = tehát s =ff valóba χ eloszlású. Λ 3. Becsléselmélet Feladat: a mita alaeloszlásához redelt valamely meyiség becslése, azaz özel tése a mitaeleme felhaszálásával, vagyis statisztiáal. 3.. A várható érté és a szóráségyzet becslése Jelölje az alaeloszlás vagyis a ο ;ο ;:::;ο mitaeleme özös eloszlásáa) várható értéét m, szóráségyzetét ff. Nyilvá Eο = Eο + + Eο )=m; vagyis a mitaátlag várható értée megegyezi az alaeloszlás várható értéével. Ezért azt modju, hogy a mitaátlag torz tatla becslése a várható értée. Továbbá D ο = D ο + + D ο )= ff! ha!. A agy számo er}os törvéye értelmébe P lim ο = m) =, amit úgy fejezü i, hogy! amitaátlag er}ose ozisztes becslése a várható értée. hisze Acetrális határeloszlátétel alajá ο m)=ff!n; ) eloszlásba ha!, ο m lim! P ff= <x ahol S = ο + + ο, ES = m, D S = ff. S Z ES = lim P <x = x e! D u = du; S ß 5
A taasztalati szóráségyzet várható értée hisze Es = = D ο ο )=D 4 Eο ο ) = ο + X fj:j6=g = D ο ο )= ff ; ο j 3 5 = ) D ο + X fj:j6=g D ο j = ff : Ezért a taasztalati szóráségyzet em tor tatla becslése a szóráségyete. orrigált taasztalati szóráségyzet: s Λ := i= ο i ο ) = s Viszot a yilvá torz tatla becslése a szóráségyete: D s Λ = Es Λ = ff. Be lehet láti, hogy μ 4 3 ff4 ; ahol μ 4 := E [ο m) 4 ] az alaeloszlás egyedi cetrális mometuma. Azt is be lehet láti, hogy a orrigált taasztalati szóráségyzet er}ose ozisztes becslése a szóráségyete: P lim! sλ = ff =. 3.. Potbecslése Feltesszü, hogy az alaeloszlás, melyb}ol a mita származi, valamely araméterese megadott ff fl) : fl g eloszláscsaládból való, ahol ρ R. Feladat: az ismeretle fl araméter becslése. A maximum lielihood módszer szerit azzal a araméterértéel özel tü, mely eseté alegvalósz }ubb az az eseméy, hogy ée az adott mitaelemeet aju. Példá: i) Tegyü fel, hogy az alaeloszlás > araméter}upoisso eloszlás, ahol ismeretle araméter, azaz ο ;ο ;:::;ο függetle valósz }uségi változó, és P ο i = ) =! e ; =; ;:::; és a feladat: becslése a ο ;ο ;:::;ο mita alajá. Jelölje ; ;:::; a megfigyelt értéeet. A araméter b maximum lielihood becslése olya szám, ahol az L ;:::; ; ) :=P ο = ;:::;ο = ) 6
lielihood függvéye globális maximumhelye va. Nyilvá L ;:::; ; ) = Y i= P ο i = i )= Y i= i i! e =e és a logaritmusfüggvéy mootoitása miatt eleged}o megeresi a log lielihood függvéy: log L ;:::; ; ) = + globális maximumhelyét. Mivel a i= @ log L ;:::; ; ) = + @ egyelet egyetle megoldása = P i= i=, és @ log L ;:::; ; ) @ = i log i= i= i= i = i < Y i= log i!) ha a ; ;:::; megfigyelt értée em midegyie, gy eor a araméter maximum lielihood becslése b = ο. ii) Legye az alaeloszlás > araméter}u exoeciális eloszlás, ahol ismeretle araméter, azaz ο ;ο ;:::;ο függetle valósz }uségi változó melyee a s}ur}uségfüggvéye f ) e x ; ha x>, ο i x) = ; ha x 6, és a feladat: becslése a ο ;ο ;:::;ο mita alajá. Jelölje x ;x ;:::;x a megfigyelt értéeet. A araméter b maximum lielihood becslése olya x szám, ahol az L x ;:::;x ; ) :=f ) ο ;:::;ο x ;:::;x ) lielihood függvéye globális maximumhelye va. Nyilvá L x ;:::;x ; ) = Y i= f ) ο i x i )= i i! ; e x + +x ) ; ha x > ;:::;x > ; ; egyébét, és a logaritmusfüggvéy mootoitása miatt eleged}o megeresi a log lielihood függvéy: globális maximumhelyét. Mivel a log L x ;:::;x ; ) = log @ log L x ;:::;x ; ) @ 7 = i= i= x i x i =
egyelet egyetle megoldása = = P i= x i, és @ log L ;:::; ; ) @ = < ; ezért a araméter maximum lielihood becslése b ==ο. iii) Legye az alaeloszlás egyeletes a [;ff] itervallumo, ahol ff > az ismeretle araméter, azaz ο ;ο ;:::;ο függetle valósz }uségi változó melyee a s}ur}uségfüggvéye f ff) =ff; ha x [;ff], ο i x) = ; egyébét, és a feladat: ff becslése a ο ;ο ;:::;ο mita alajá. Az ff araméter bff maximum lielihood becslése olya x szám, ahol az L x ;:::;x ; ff) :=f ff) ο ;:::;ο x ;:::;x ) lielihood függvéye globális maximumhelye va. Nyilvá Y L x ;:::;x ; ff) = f ff) =ff ; ha x [;ff];:::;x [;ff], ο i x i )= ; egyébét, i= és x [;ff];:::;x [;ff] azzal evivales, hogy ff > max x i 6i6 maximumhely ff = max 6i6 bff = max ο i = ο Λ :. 6i6 3.3. Itervallumbecslése ezért a globális x i, gy az ff araméter maximum lielihood becslése Megit feltesszü, hogy az alaeloszlás, melyb}ol a mita származi, valamely araméterese megadott ff fl) : fl g eloszláscsaládból való, ahol ρ R. Feladat: el}ore megadott " ; ) számhoz olya Sο ;:::;ο ) és T ο ;:::;ο ) statisztiáat találi, hogy P fl Sο ;:::;ο ) 6 fl 6 T ο ;:::;ο ) = " teljesüljö. Eor azt modju, hogy Sο ;:::;ο );Tο ;:::;ο ) Λ egy " szit}u ofidecia itervallum. 3.3.. Kofidecia itervallum a ormális eloszlás várható értéére, ha ismert a szóráségyzet Tegyü fel, hogy amita N m; ff ) eloszlásból származi. Ebbe az esetbe a.4.. Tétel alajá ο οnm; ff =), ezért ο m ff= οn; ): 8
Válasszu meg az u "= ; ) számot úgy, hogyha οn; ), aor P >u "= )="=, azaz P <u "= )= "=, vagyis Φu "= )= "=, ahol Φx) :=F x) =P <x)= ß Z x Eor ersze a szimmetria miatt P < u "= )="=, ezért e u = du: P [ u "= ;u "= ]) = P >u "= ) P < u "= )= " gy vagyis ο m P m ff= [ u "=;u "= ] = "; P m m ο u "= ff= ; ο + u "= ff= Λ = ": Tehát ο u "= ff= ; ο + u "= ff= Λ egy " szit}u ofidecia itervallum az m araméterre. 3.3.. Kofidecia itervallum a ormális eloszlás várható értéére, ha em ismert a szóráségyzet Tegyü fel, hogy amita N m; ff ) eloszlásból származi. Ebbe az esetbe a.4.. Tétel alajá ο m s Λ = = ο m ff= s Λ =ff ο t ; azaz t eloszlású. Válasszu most a t "= ; ) számot úgy, hogy Pt >t "= )="= teljesüljö. Eor ersze a szimmetria miatt Pt < u "= )="=, ezért Pt [ t "= ;t "= ]) = Pt >t "= ) Pt < t "= )= "; gy vagyis P m;ff P m;ff ο m s Λ = [ t "=;t "= ] = "; m ο t "= s Λ = ; ο + t "= s Λ = Λ = ": Tehát ο t "= s Λ = ; ο + t "= s Λ = Λ egy " araméterre. szit}u ofidecia itervallum az m 9
3.3.3. Kofidecia itervallum a ormális eloszlás szóráségyzetére Tegyü fel, hogy amita N m; ff ) eloszlásból származi. Ebbe az esetbe a.4.. Tétel alajá s =ff egy χ eloszlású valósz }uségi változó. Válasszu most olya <c < c számoat, hogy Pχ <c )=Pχ >c )="= teljesüljö. Eor P m;ff s =ff [c ;c ] = "; vagyis P m;ff Λ ff s =c ; s =c = ": Tehát [s =c ; s =c ] egy " szit}u ofidecia itervallum a ff araméterre. 4. Statisztiai hiotézise vizsgálata 4.. Egymitás u róba Tegyü fel, hogy ο ;ο ;:::;ο függetle, N m; ff ) eloszlású valósz }uségi változó, ahol ff ismert, m ismeretle. Legye m R egy rögz tett szám. Feladat: dötsü el, hogy a mita alajá elfogadható e az a ullhiotézis azaz feltevés), hogy m = m, vagy iább az m 6= m ellehiotézis alterat va) fogadható el?tehát: H : m = m ullhiotézis, H : m 6= m alterat va: Ha a H ullhiotézis igaz, aor a.4.. Tétel alajá u := ο m ff= οn; ): Legye " ; ) rögz tett. Válasszu meg az u "= ; ) számot úgy, hogy ha οn; ), aor P >u "= )="=. Eor P m u [ u "= ;u "= ] = "; azaz " valósz }uséggel az u statisztia a [ u "= ;u "= ] itervallumba esi. Dötsü aövetez}o módo: ffl Ha az u statisztia értée a [ u "= ;u "= ] itervallumba esi, aor elfogadju a H ullhiotézist, azaz a [ u "= ;u "= ] itervallum az elfogadási tartomáy. ffl Ha az u statisztiaértée em esi bele a [ u "= ;u "= ] itervallumba, aor elvetjü a H ullhiotézist, azaz a [ u "= ;u "= ] itervallum omlemetere a ritius tartomáy.
4... Defi ció. Els}ofajú hiba: aa a valósz }usége, hogy a H ullhiotézist elvetjü, edig H igaz. Ezt szoás a róba terjedelmée is evezi.) H H Másodfajú hiba: aa a valósz }usége, hogy a H ullhiotézist elfogadju, edig em igaz. Er}ofüggvéy: aa a valósz }usége, hogy em övetü el másodfajú hibát, azaz a ullhiotézist elfogadju, amior az igaz. A róbát ozisztese evezzü, ha a másodfajú hiba hoz overgál vagyis az er}ofüggvéy értée hez tart), amior a mita elemszáma végtelehez tart. A feti dötési módszer eseté az els}ofajú hibaée ", hisze ha H igaz, aor Nyilvá ahol P m u 6 [ u "= ;u "= ] = " u = ο m ff= ο m ff= ezért a másodfajú hiba valósz }usége P m u [ u "= ;u "= ] ο m = P m =Φ = ο m ff= + m m ff= ; οn; );» ff= u "= m m ff= ;u "= m m ff= u "= m m ff= Φ ahol Φ a stadard ormális eloszlás eloszlásfüggvéye, azaz Ezért az er}ofüggvéy: E m) = Φ Φx) = ß Z x u "= m m ff= e v = dv: +Φ u "= m m ff= u "= m m ff= A róba ozisztes, azaz rögz tett m eseté lim E m) = ezért! eseté! a másodfajú hiba hoz overgál), ugyais lim Φx) =, lim Φx) =. Továbbá x! x! rögz tett mitaelemszám eseté lim E m) = és lim E m) = tehát m! m! m! vagy m! eseté a másodfajú hiba hoz overgál). Az E függvéye miimuma : ; va az m otba, melye értée ", ezért amásodfajú hiba agy lesz mégedig " özeli), ha m özel va m hoz. Nyilvá " csöetése eseté az els}ofajú hiba valósz }usége csöe, viszot u "= öveszi, ezért a másodfajú hiba öveszi. Tehát a étféle hiba valósz }usége elletétes iráyba mozog!)
4.. Egymitás t róba Tegyü fel, hogy ο ;ο ;:::;ο függetle, N m; ff ) eloszlású valósz }uségi változó, ahol ff és m is ismeretlee. Legye m R egy rögz tett szám. Legye H : m = m ullhiotézis, H : m 6= m alterat va. Teitsü a statisztiát. Ha a H t := ο m s Λ = ullhiotézis igaz, aor a.4.. Tétel alajá a statisztiá függetlee, ezért ο m ff= οn; ); ff s = ff s Λ ο χ t = s ff ο m ff= s Λ ffi ) ο t ; azaz t eloszlású. Legye " ; ) rögz tett. Válasszu meg a t "= ; ) számot úgy, hogy Pt >t "= )="=. Eor P m t [ t "= ;t "= ] = "; azaz " valósz }uséggel a t statisztia a [ t "= ;t "= ] itervallumba esi. Dötsü aövetez}o módo: ffl Ha a t statisztia értée a [ t "= ;t "= ] itervallumba esi, aor elfogadju a H ullhiotézist, azaz a [ t "= ;t "= ] itervallum az elfogadási tartomáy. ffl Ha az t H statisztia értée em esi bele a [ t "= ;t "= ] itervallumba, aor elvetjü a ullhiotézist, azaz a [ t "= ;t "= ] itervallum omlemetere a ritius tartomáy. Nyilvá az els}ofajú hiba ée ", hisze ha H igaz, aor P m t 6 [ t "= ;t "= ] = ": 4.3. Kétmitás u róba Tegyü fel, hogy a ο ;ο ;:::;ο N m ο ;ff ο ) eloszlású, és az ; ;:::; ` N m ;ff ) eloszlású valósz }uségi változó függetlee, ahol ff ο és ff ismerte, m ο és m ismeretlee. Legye H : m ο = m ullhiotézis, H : m ο 6= m alterat va.
Ha a H ullhiotézis igaz, aor a.4.. Tétel alajá u := ο ` s ffο + ff ` οn; ): Legye " ; ) rögz tett. Válasszu meg az u "= ; ) számot úgy, hogy ha οn; ), aor P >u "= )="=. Eor megit vehetjü elfogadási tartomáya a [ u "= ;u "= ] itervallumot, ritius tartomáya edig ee aomlemeterét. 4.4. Kétmitás t róba Tegyü fel, hogy a ο ;ο ;:::;ο N m ο ;ff ο ) eloszlású, és az ; ;:::; ` N m ;ff ) eloszlású valósz }uségi változó függetlee, ahol ff ο, ff, m ο és m is ismeretlee. Legye H : m ο = m ullhiotézis, Ha a H H : m ο 6= m alterat va. ullhiotézis igaz, aor a.4.. Tétel alajá t := s ο ` + ` )s Λ ο; +` )sλ ;` + ` ο t +` : Legye " ; ) rögz tett. Válasszu meg a t "= ; ) számot úgy, hogy Pt +` > t "= )="=. Eor megit vehetjü elfogadási tartomáya a [ t "= ;t "= ] itervallumot, ritius tartomáya edig ee a omlemeterét. 4.5. F róba Tegyü fel, hogy a ο ;ο ;:::;ο N m ο ;ff ο ) eloszlású, és az ; ;:::; ` N m ;ff ) eloszlású valósz }uségi változó függetlee, ahol ff ο, ff, m ο és m is ismeretlee. Legye H : ff ο = ff ullhiotézis, Teitsü az statisztiát. Ha a H H : ff ο 6= ff alterat va. F := sλ ;` s Λ ο; ullhiotézis igaz, aor a.4.. Tétel alajá ffi ` ` ) F = ψ ff ff ο s Λ ;` s Λ ο;!ffi ) ο F` ; ; 3
azaz F` ; eloszlású. Legye " ; ) rögz tett. Válasszu olya < c < c számoat, hogy PF` ; <c )=PF` ; >c )="=. Eor vehetjü elfogadási tartomáya a [c ;c ] itervallumot, ritius tartomáya edig ee a omlemeterét. 4