Komputer statisztika

Átírás

1 Eszterházy Károly Főiskola Matematikai és Iformatikai Itézet Tómács Tibor Komputer statisztika Eger, 010. október 6.

2 Tartalomjegyzék Előszó 4 Jelölések 5 1. Valószíűségszámítás Valószíűségi mező Véletle eseméy Valószíűség Valószíűségi változó Eloszlás- és sűrűségfüggvéy Várható érték, szóráségyzet Valószíűségi vektorváltozók Feltételes várható érték Függetle valószíűségi változók Kovariacia és korrelációs együttható Nevezetes eloszlások Diszkrét egyeletes eloszlás Karakterisztikus eloszlás Biomiális eloszlás Poisso-eloszlás Egyeletes eloszlás Expoeciális eloszlás Gamma-eloszlás Normális eloszlás Többdimeziós ormális eloszlás Khi-égyzet eloszlás t-eloszlás Cauchy-eloszlás F-eloszlás Nagy számok törvéyei Cetrális határeloszlási tétel A matematikai statisztika alapfogalmai 9.1. Mita és mitarealizáció Tapasztalati eloszlásfüggvéy Tapasztalati eloszlás, sűrűséghisztogram

3 .4. Statisztikák Potbecslések A potbecslés feladata és jellemzői Várható érték becslése Valószíűség becslése Szóráségyzet becslése Iformációs határ Potbecslési módszerek Mometumok módszere Maximum likelihood becslés Itervallumbecslések Az itervallumbecslés feladata Kofideciaitervallum a ormális eloszlás paramétereire Kofideciaitervallum az expoeciális eloszlás paraméterére Kofideciaitervallum valószíűségre Általáos módszer kofideciaitervallum készítésére Hipotézisvizsgálatok A hipotézisvizsgálat feladata és jellemzői Null- illetve ellehipotézis Statisztikai próba terjedelme és torzítatlasága Próbastatisztika A statisztikai próba meete A ullhipotézis és az ellehipotézis megválasztása A próba erőfüggvéye és koziszteciája Paraméteres hipotézisvizsgálatok Egymitás u-próba Kétmitás u-próba Egymitás t-próba Kétmitás t-próba, Scheffé-módszer F-próba Khi-égyzet próba ormális eloszlás szórására Statisztikai próba expoeciális eloszlás paraméterére Statisztikai próba valószíűségre Nemparaméteres hipotézisvizsgálatok

4 Tiszta illeszkedésvizsgálat Becsléses illeszkedésvizsgálat Függetleségvizsgálat Homogeitásvizsgálat Kétmitás előjelpróba Kolmogorov Szmirov-féle kétmitás próba Kolmogorov Szmirov-féle egymitás próba Regressziószámítás Regressziós görbe és regressziós felület Lieáris regresszió A lieáris regresszió együtthatóiak becslése Nemlieáris regresszió Poliomos regresszió Hatváykitevős regresszió Expoeciális regresszió Logaritmikus regresszió Hiperbolikus regresszió Irodalomjegyzék 118 3

5 Előszó Ez a taayag az egri Eszterházy Károly Főiskola komputer statisztika előadásaiból készült, melyet elsősorba programtervező iformatikus hallgatókak száuk. Az első fejezet em kerül ismertetésre a kurzus idejé. Célja a valószíűségszámítás olya fotos fogalmaiak összefoglalása, melyekre szükségük lesz a matematikai statisztika megértéséhez. Eek átismétlését az Olvasóra bízzuk. Az első fejezet másik célja, hogy a valószíűségszámítás és a statisztika szóhaszálatát és jelöléseit összehagoljuk. A jelöléseket külö is összegyűjtöttük. Ehhez a taayaghoz kapcsolódik Tómács Tibor: Komputer statisztika gyakorlatok című jegyzete, amely az előadáshoz kapcsolódó gyakorlati órák témáit dolgozza fel. Itt számítógéppel megoldható gyakorlatokat találuk. Ezt a széles körbe elterjedt Microsoft Office Excel 007 program magyar yelvű változatával végezzük. A statisztikába szokásos táblázatokat em mellékeljük, mert az ezekebe található értékeket a gyakorlato szité Excel segítségével fogjuk kiszámoli. 4

6 Jelölések Általáos N R R R + a, b [x] f 1 lim fx x a+0 A, A 1, det A a pozitív egész számok halmaza a valós számok halmaza R-ek ömagával vett -szeres Descartes-szorzata a pozitív valós számok halmaza redezett elempár vagy yílt itervallum közelítőleg egyelő az x valós szám egész része az f függvéy iverze az f függvéy a-beli jobb oldali határértéke az A mátrix traszpoáltja, iverze és determiása Valószíűségszámítás Ω, F, P PA E ξ Eξ η Eξ η = y D ξ, D ξ covξ, η corrξ, η ϕ Φ Γ I A Bir; p Expλ Normm; σ Norm d m; A valószíűségi mező az A eseméy valószíűsége ξ várható értéke feltételes várható érték feltételes várható érték ξ szórása illetve szóráségyzete kovariacia korrelációs együttható a stadard ormális eloszlás sűrűségfüggvéye a stadard ormális eloszlás eloszlásfüggvéye Gamma-függvéy az A eseméy idikátorváltozója az r-edredű p paraméterű biomiális eloszlású valószíűségi változók halmaza a λ paraméterű expoeciális eloszlású valószíűségi változók halmaza az m várható értékű és σ szórású ormális eloszlású valószíűségi változók halmaza az m és A paraméterű d-dimeziós ormális eloszlású valószíűségi változók halmaza 5

7 Gammar; λ Khis ts Fs 1 ; s F V az r-edredű λ paraméterű gamma-eloszlású valószíűségi változók halmaza az s szabadsági fokú khi-égyzet eloszlású valószíűségi változók halmaza az s szabadsági fokú t-eloszlású valószíűségi változók halmaza az s 1 és s szabadsági fokú F-eloszlású valószíűségi változók halmaza Ha ξ valószíűségi változó, és V a ξ-vel azoos eloszlású valószíűségi változók halmaza, akkor ez azt jelöli, hogy F a V-beli valószíűségi változók közös eloszlásfüggvéye. Például Φ Norm0; 1. Matematikai statisztika Ω, F, P F ξ S, S S ξ,, Sξ, S, S Sξ,, S ξ, ξ1,..., ξ Cov ξ, η Corr ξ, η Θ P ϑ E ϑ D ϑ, D ϑ f ϑ, F ϑ I l L ϑ H 0 H 1 P H0 P H1 statisztikai mező tapasztalati eloszlásfüggvéy a ξ-re voatkozó mita átlaga mitaátlag tapasztalati szórás illetve szóráségyzet ξ-re voatkozó tapasztalati szórás illetve szóráségyzet korrigált tapasztalati szórás illetve szóráségyzet ξ-re voatkozó korrigált tapasztalati szórás illetve szóráségyzet redezett mita tapasztalati kovariacia tapasztalati korrelációs együttható paramétertér a ϑ paraméterhez tartozó valószíűség a ϑ paraméterhez tartozó várható érték a ϑ paraméterhez tartozó szórás illetve szóráségyzet a ϑ paraméterhez tartozó sűrűség- illetve eloszlásfüggvéy Fisher-féle iformációmeyiség likelihood függvéy loglikelihood függvéy a ϑ paraméter becslése ullhipotézis ellehipotézis H 0 eseté lehetséges valószíűségek halmaza H 1 eseté lehetséges valószíűségek halmaza 6

8 1. Valószíűségszámítás 1.1. Valószíűségi mező Véletle eseméy Egy véletle kimeetelű kísérlet matematikai modellezésekor azt tekitjük eseméyek, amelyről egyértelműe eldöthető a kísérlet elvégzése utá, hogy bekövetkezette vagy sem. Így az, hogy egy eseméy bekövetkezett, logikai ítélet. Ebből a logika és a halmazelmélet ismert kapcsolata alapjá az eseméyeket halmazokkal modellezhetjük. Ha egy kísérletbe az A és B halmazok eseméyeket modellezek, akkor az A B bekövetkezése azt jeleti, hogy A és B közül legalább az egyik bekövetkezik. Erről egyértelműe eldöthető a kísérlet elvégzése utá, hogy bekövetkezett-e, ezért ez is eseméyt modellez. Másrészt, ha A eseméy, akkor az A ellekezője is az. Jelöljük ezt A-val. Az A A biztosa bekövetkezik, ezért ezt biztos eseméyek evezzük és Ω-val jelöljük. Ebből látható, hogy A az A-ak Ω-ra voatkozó komplemetere, továbbá mide eseméy az Ω egy részhalmaza. Az adott kísérletre voatkozó eseméyek redszerét jelöljük F-fel, mely tehát az Ω hatváyhalmazáak egy részhalmaza. Ahhoz, hogy az eseméyeket megfelelőe tudjuk modellezi, em elég véges sok eseméy uiójáról feltételezi, hogy az is eseméy. Megszámlálhatóa végtele sok eseméy uiójáak is eseméyek kell leie. Tehát a következő defiíciót modhatjuk ki: 1.1. Defiíció. Legye Ω egy em üres halmaz és F részhalmaza az Ω hatváyhalmazáak. Tegyük fel, hogy teljesülek a következők: 1 Ω F; Ha A F, akkor A F, ahol A = Ω \ A; 3 Ha A i F i N, akkor A i F. Ekkor F-fet σ-algebráak, elemeit eseméyekek, illetve Ω-t biztos eseméyek evezzük Valószíűség A modellalkotás következő lépéséhez szükség va egy tapasztalati törvéyre az eseméyekkel kapcsolatosa, melyet Jacob Beroulli svájci matematikus publikált. Egy dobókockát dobott fel többször egymásutá. A hatos dobások számáak és az összdobások számáak aráyát, azaz a hatos dobás relatív gyakoriságát ábrázolta a dobások számáak függvéyébe: 7

9 Beroulli azt tapasztalta, hogy a hatos dobás relatív gyakorisága a dobások számáak övelésével egyre kisebb mértékbe igadozik 1 körül. Más véletle kimeetelű kísérlet eseméyeire is hasoló a tapasztalat, azaz a kísérletek számáak 6 övelésével a figyelt eseméy bekövetkezéséek relatív gyakorisága egyre kisebb mértékbe igadozik egy kostas körül. Ezt a kostast a figyelt eseméy valószíűségéek fogjuk evezi. A továbbiakba PA jelölje az A eseméy bekövetkezéséek valószíűségét. Köye látható, hogy PA 0 mide esetbe, a biztos eseméy valószíűsége 1, illetve egyszerre be em következő eseméyek uiójáak valószíűsége az eseméyek valószíűségeiek összege. Midezeket a következő defiícióba foglaljuk össze: 1.. Defiíció. Legye Ω, F mérhető tér és P: R [0, olya függvéy, melyre teljesülek a következők: 1 PΩ = 1; P A i = PA i, ha A i F párokét diszjuktak. Ekkor a P függvéyt valószíűségek, a PA számot az A eseméy valószíűségéek, illetve az Ω, F, P redezett hármast valószíűségi mezőek evezzük. Ha egy A F eseté PA = 1 teljesül, akkor azt modjuk, hogy A majdem biztosa teljesül. Ha Ω, F, P valószíűségi mező, akkor P = Valószíűségi változó 1.3. Defiíció. Legye Ω, F mérhető tér és ξ : Ω R olya függvéy, melyre teljesül, hogy { ω Ω : ξω < x } F mide x R eseté. Ekkor a ξ függvéyt valószíűségi változóak evezzük. A továbbiakba az { ω Ω : ξω < x } halmazt a mértékelméletből megszokottak szerit Ωξ < x vagy rövidebbe ξ < x módo fogjuk jelöli. Az ilye alakú halmazokat ξ ívóhalmazaiak is szokás evezi. Hasoló jelölést alkalmazuk < 8

10 helyett más relációk eseté is. A valószíűségi változó ekvivales a mértékelméletbeli mérhető függvéy fogalmával Eloszlás- és sűrűségfüggvéy A valószíűségi változó jellemzésére általáos esetbe jól haszálható az úgyevezett eloszlásfüggvéy: 1.4. Defiíció. Legye Ω, F, P valószíűségi mező és ξ : Ω R egy valószíűségi változó. Ekkor a ξ eloszlásfüggvéye F : R R, F x := Pξ < x Tétel. Legye F egy tetszőleges valószíűségi változó eloszlásfüggvéye. Ekkor teljesülek a következők: a F mooto övekvő; b F mide potba balról folytoos; c lim x F x = 1; d lim x F x = Tétel. Ha egy tetszőleges F : R R függvéyre teljesülek az a d tulajdoságok, akkor létezik olya valószíűségi változó, melyek F az eloszlásfüggvéye. Eze két tétel alapjá jogos a következő elevezés: 1.7. Defiíció. Az F : R R függvéyt eloszlásfüggvéyek evezzük, ha teljesülek rá az a d tulajdoságok Tétel. Ha F a ξ valószíűségi változó eloszlásfüggvéye, akkor teljesülek a következők: 1 Pa ξ < b = F b F a mide a, b R, a < b eseté; lim x a+0 F x = F a + Pξ = a mide a R eseté; 3 Pξ = a = 0 potosa akkor, ha F az a R potba folytoos. Ha ξ diszkrét valószíűségi változó, azaz ha R ξ ξ értékkészlete megszámlálható, akkor az előző tétel potja alapjá a ξ eloszlásfüggvéye egyértelműe meghatározott a Pξ = k, k R ξ értékekkel. A k Pξ = k, k R ξ hozzáredelést ξ eloszlásáak evezzük. Az eloszlás elevezés más jeletésbe is előfordul: Két tetszőleges em feltétleül diszkrét valószíűségi változót azoos eloszlásúak evezzük, ha az eloszlásfüggvéyeik megegyezek. 9

11 Gyakorlati szempotból a diszkrét valószíűségi változók mellett az úgyevezett abszolút folytoos valószíűségi változók osztálya is agyo fotos Defiíció. A ξ valószíűségi változót abszolút folytoosak evezzük, ha létezik olya f : R [0, függvéy, melyre F x = x ft dt teljesül mide x R eseté, ahol F a ξ eloszlásfüggvéye. Ekkor f-fet a ξ sűrűségfüggvéyéek evezzük Tétel. Ha a ξ abszolút folytoos valószíűségi változó eloszlásfüggvéye F és sűrűségfüggvéye f, akkor F folytoos következésképpe Pξ = x = 0, x R és Lebesgue-mérték szerit majdem mideütt differeciálható evezetese, ahol f folytoos, továbbá a differeciálható potokba F x = fx Tétel. Ha a ξ abszolút folytoos valószíűségi változó sűrűségfüggvéye f, akkor 1 Pa < ξ < b = b fx dx mide a, b R, a < b eseté; a fx dx = Tétel. Ha f : R [0, és fx dx = 1, akkor va olya abszolút folytoos valószíűségi változó, melyek f a sűrűségfüggvéye. Eze két tétel alapjá jogos a következő elevezés: Defiíció. Az f : R [0, függvéyt sűrűségfüggvéyek evezzük, ha fx dx = Várható érték, szóráségyzet Defiíció. Ha a ξ valószíűségi változó értékkészlete { x 1,..., x }, akkor a várható értéke legye E ξ := x i Pξ = x i. Tehát a várható érték a ξ lehetséges értékeiek az eloszlás szeriti súlyozott átlagát jeleti. A későbbiekbe tárgyalt Kolmogorov-féle agy számok erős törvéye mutatja, hogy bizoyos feltételekkel egy kísérletsorozatba egy ξ valószíűségi változó értékeiek számtai közepe várhatóa potosabba 1 valószíűséggel E ξ-hez kovergál. 10

12 1.15. Defiíció. Legye { x i R : i N } a ξ valószíűségi változó értékkészlete. ξ-ek létezik várható értéke, ha x i Pξ = x i <, továbbá ekkor E ξ := x i Pξ = x i Defiíció. Legye ξ abszolút folytoos valószíűségi változó, melyek f a sűrűségfüggvéye. ξ-ek létezik várható értéke, ha x fx dx <, továbbá ekkor E ξ = xfx dx Tétel. Ha ξ-ek létezik várható értéke és ξ = η majdem biztosa teljesül, akkor η-ak is létezik a várható értéke, továbbá megegyezik a ξ várható értékével Tétel. Ha ξ és η véges várható értékkel redelkező valószíűségi változók, akkor aξ + bη a, b R is az, továbbá Eaξ + bη = a E ξ + b E η. A valószíűségi változó értékeiek igadozását az átlag potosabba a várható érték körül, az úgyevezett szóráségyzettel jellemezzük, amely em más, mit az átlagtól való égyzetes eltérés átlaga Defiíció. A ξ valószíűségi változó szóráségyzete illetve szórása D ξ := Eξ E ξ, D ξ = Eξ E ξ. feltéve, hogy ezek a várható értékek létezek Tétel. Ha ξ-ek létezik a szóráségyzete, akkor 1 D ξ = E ξ E ξ; Daξ + b = a D ξ, ahol a, b R Valószíűségi vektorváltozók 1.1. Defiíció. Legyeek ξ 1,..., ξ d tetszőleges valószíűségi változók. Ekkor a ξ 1,..., ξ d redezett elem d-est d-dimeziós valószíűségi vektorváltozóak evezzük. 1.. Defiíció. A ξ := ξ 1,..., ξ d valószíűségi vektorváltozó eloszlásfüggvéye F : R d R, F x 1,..., x d := Pξ 1 < x 1,..., ξ d < x d. 11

13 ξ abszolút folytoos, ha létezik olya f : R d [0, függvéy, melyre F x 1,..., x d = x 1 x d ft 1,..., t d dt 1 dt d teljesül mide x 1,..., x d R eseté. Ekkor f-fet a ξ sűrűségfüggvéyéek evezzük Feltételes várható érték A feltételes várható értéket az egyszerűség kedvéért csak két speciális esetbe defiiáljuk. Az általáos defiíciót lásd például Mogyoródi J., Somogyi Á.: Valószíűségszámítás, Taköyvkiadó, Budapest, Defiíció. Legyeek az η, ξ 1,..., ξ k diszkrét valószíűségi változók értékkészletei redre R η, R ξ1,..., R ξk, tegyük fel, hogy E η véges, továbbá legye g : R ξ1 R ξk R, gx 1,..., x k := Pη = y i, ξ 1 = x 1,..., ξ k = x k y i. Pξ 1 = x 1,..., ξ k = x k y i R η Ekkor a gξ 1,..., ξ k valószíűségi változót η-ak ξ 1,..., ξ k -ra voatkozó feltételes várható értékéek evezzük, és Eη ξ 1,..., ξ k módo jelöljük. A gx 1,..., x k x i R ξi, i = 1,..., k értéket Eη ξ 1 = x 1,..., ξ k = x k módo jelöljük Defiíció. Legye az η, ξ 1,..., ξ k abszolút folytoos valószíűségi vektorváltozó sűrűségfüggvéye f, a ξ 1,..., ξ k sűrűségfüggvéye h, tegyük fel, hogy E η véges, továbbá legye g : R k R, gx 1,..., x k := y fy, x 1,..., x k hx 1,..., x k Ekkor a gξ 1,..., ξ k valószíűségi változót η-ak ξ 1,..., ξ k -ra voatkozó feltételes várható értékéek evezzük, és Eη ξ 1,..., ξ k módo jelöljük. A gx 1,..., x k x i R ξi, i = 1,..., k értéket Eη ξ 1 = x 1,..., ξ k = x k módo jelöljük. A feltételes várható értékre teljesülek a következők: E η = E Eη ξ 1,..., ξ k ; Eaξ + bη ξ 1,..., ξ k = a Eξ ξ 1,..., ξ k + b Eη ξ 1,..., ξ k majdem biztosa, mide a, b R eseté; E Eη ξ 1,..., ξ k ξ 1,..., ξ k = Eη ξ1,..., ξ k majdem biztosa; Eξη ξ 1,..., ξ k = ξ Eη ξ 1,..., ξ k majdem biztosa. 1 dy.

14 1.7. Függetle valószíűségi változók Az A és B eseméyek függetleek, ha PA B = PA PB. Valószíűségi változók függetleségét ívóhalmazaik függetleségével defiiáljuk Defiíció. A ξ 1,..., ξ valószíűségi változókat függetleekek evezzük, ha Pξ 1 < x 1,..., ξ < x = Pξ k < x k mide x 1,..., x R eseté teljesül. A ξ 1,..., ξ valószíűségi változók párokét függetleek, ha közülük bármely kettő függetle. Végtele sok valószíűségi változót függetleekek evezzük, ha bármely véges részredszere függetle. Szükségük lesz a valószíűségi vektorváltozók függetleségéek fogalmára is. Ehhez bevezetük egy jelölést. Legye ξ = ξ 1,..., ξ d egy valószíűségi vektorváltozó és x = x 1,..., x d R d. Ekkor a ξ < x eseméy alatt azt értjük, hogy a ξ k < x k eseméyek mide k = 1,..., d eseté teljesülek Defiíció. A ζ 1,..., ζ d-dimeziós valószíűségi vektorváltozókat függetleekek evezzük, ha mide x 1,..., x R d eseté Pζ 1 < x 1,..., ζ < x = Pζ k < x k teljesül. A ζ 1,..., ζ d valószíűségi vektorváltozók párokét függetleek, ha közülük bármely kettő függetle. Végtele sok valószíűségi vektorváltozót függetleekek evezzük, ha bármely véges részredszere függetle Tétel. Ha a ξ 1,..., ξ diszkrét valószíűségi változók függetleek, akkor Pξ 1 = x 1,..., ξ = x = Pξ k = x k k=1 k=1 k=1 teljesül mide x 1 R ξ1,..., x R ξ eseté Tétel. Legye ξ 1,..., ξ abszolút folytoos valószíűségi vektorváltozó. Ha a ξ 1,..., ξ valószíűségi változók függetleek, akkor fx 1,..., x = f k x k k=1 13

15 teljesül mide x 1,..., x R eseté, ahol f k a ξ k sűrűségfüggvéye, továbbá f a ξ 1,..., ξ sűrűségfüggvéye Tétel Kovolúció. Ha ξ és η függetle abszolút folytoos valószíűségi változók f illetve g sűrűségfüggvéyel, akkor ξ + η is abszolút folytoos, továbbá a sűrűségfüggvéye x R helye hx = ftgx t dt Tétel. Ha ξ és η függetle abszolút folytoos valószíűségi változók f illetve g sűrűségfüggvéyel, akkor ξη is abszolút folytoos, továbbá a sűrűségfüggvéye x R helye hx = x gtf t 1 t dt Tétel. Ha ξ és η függetle abszolút folytoos valószíűségi változók f illetve g sűrűségfüggvéyel, akkor ξ is abszolút folytoos, továbbá a sűrűségfüggvéye x R η helye hx = t gtfxt dt Kovariacia és korrelációs együttható 1.3. Defiíció. A ξ és η valószíűségi változók kovariaciája covξ, η := E ξ E ξη E η, feltéve, hogy ezek a várható értékek létezek. Köye belátható, hogy covξ, η = E ξη E ξ E η Tétel. Ha a ξ és η függetle valószíűségi változókak létezik a várható értékeik, akkor létezik a kovariaciájuk is és covξ, η = 0, azaz E ξη = E ξ E η Defiíció. A ξ 1,..., ξ valószíűségi változókat korrelálatlaokak evezzük, ha covξ i, ξ j = 0 mide i, j { 1,..., }, i j eseté Tétel. Ha a ξ 1,..., ξ valószíűségi változók eseté létezik covξ i, ξ j mide 14

16 i, j { 1,..., } eseté, akkor ξ i-ek létezik a szóráségyzete, továbbá D ξ i = 1 D ξ i + covξ i, ξ j. j=i Tétel. Ha a ξ 1,..., ξ párokét függetle valószíűségi változókak létezek a szóráségyzeteik, akkor a ξ i valószíűségi változóak is va szóráségyzete, továbbá D ξ i = D ξ i Defiíció. Ha ξ és η pozitív szórású valószíűségi változók, akkor a korrelációs együtthatójuk corrξ, η := covξ, η D ξ D η Tétel. Legye ξ pozitív szórású valószíűségi változó, továbbá η := aξ + b, ahol a, b R, a 0. Ekkor létezik ξ és η korrelációs együtthatója, és 1, ha a > 0, corrξ, η = -1, ha a < Tétel. Ha corrξ, η = 1, akkor létezek olya a, b R, a 0 kostasok, melyekre Pη = aξ + b = 1 teljesül Nevezetes eloszlások Diszkrét egyeletes eloszlás Defiíció. Legye { x 1,..., x r } a ξ valószíűségi változó értékkészlete és Pξ = x i = 1 r i = 1,..., r. Ekkor ξ-t diszkrét egyeletes eloszlásúak evezzük az { x 1,..., x r } halmazo Karakterisztikus eloszlás Defiíció. Az A eseméy idikátorváltozójáak az 1, ha ω A, I A : Ω R, I A ω := 0, ha ω A, 15

17 valószíűségi változót evezzük, továbbá az I A -t PA paraméterű karakterisztikus eloszlásúak evezzük Biomiális eloszlás 1.4. Defiíció. Legye { 0,1,..., r } a ξ valószíűségi változó értékkészlete és p 0,1. Ha mide k { 0,1,..., r } eseté Pξ = k = r p k 1 p r k, k akkor ξ-t r-edredű p paraméterű biomiális eloszlású valószíűségi változóak evezzük. Az ilye eloszlású valószíűségi változók halmazát Bir; p módo jelöljük. Egy tetszőleges A eseméy gyakorisága r kísérlet utá r-edredű PA paraméterű biomiális eloszlású valószíűségi változó. Az r = 1 redű p paraméterű biomiális eloszlás megegyezik a p paraméterű karakterisztikus eloszlással, vagyis a p paraméterű karakterisztikus eloszlású valószíűségi változók halmaza Bi1; p. Másrészt r darab függetle p paraméterű karakterisztikus eloszlású valószíűségi változó összege r-edredű p paraméterű biomiális eloszlású Tétel. ξ Bir; p eseté E ξ = rp és D ξ = rp1 p. r = 0 redű p = 0,5 paraméterű biomiális eloszlás voaldiagramja Poisso-eloszlás Defiíció. Legye { 0,1,,... } a ξ valószíűségi változó értékkészlete, λ R + és Pξ = k = λk k! e λ, k = 0,1,,

18 Ekkor ξ-t λ paraméterű Poisso-eloszlású valószíűségi változóak evezzük. λ = 3 paraméterű Poisso-eloszlás voaldiagramja Tétel. Ha ξ egy λ R + paraméterű Poisso-eloszlású valószíűségi változó, akkor E ξ = D ξ = λ Egyeletes eloszlás Defiíció. Legye ξ abszolút folytoos valószíűségi változó, a, b R és a < b. Ha ξ sűrűségfüggvéye 1, ha a x b, b a f : R R, fx = 0 egyébkét, akkor ξ-t egyeletes eloszlású valószíűségi változóak evezzük az [a, b] itervallumo Tétel. Ha ξ egyeletes eloszlású valószíűségi változó az [a, b] itervallumo, akkor ξ eloszlásfüggvéye továbbá E ξ = a+b és D ξ = b a 1. 0, ha x < a, F : R R, F x = x a, ha a x b, b a 1, ha x > b, 17

19 Expoeciális eloszlás Defiíció. Legye ξ abszolút folytoos valószíűségi változó, és λ R +. Ha ξ sűrűségfüggvéye 0, ha x 0, f : R R, fx = λe λx, ha x > 0, akkor ξ-t λ paraméterű expoeciális eloszlású valószíűségi változóak evezzük. Az ilye valószíűségi változók halmazát Expλ módo jelöljük Tétel. ξ Expλ eseté E ξ = D ξ = 1, továbbá ξ eloszlásfüggvéye λ 0, ha x 0, F : R R, F x = 1 e λx, ha x > 0. λ = 1 paraméterű expoeciális eloszlású valószíűségi változó sűrűségfüggvéye λ = 1 paraméterű expoeciális eloszlású valószíűségi változó eloszlásfüggvéye 18

20 1.50. Defiíció. A ξ valószíűségi változót örökifjú tulajdoságúak evezzük, ha Pξ x + y = Pξ x Pξ y mide x, y R + eseté Tétel. Egy abszolút folytoos valószíűségi változó potosa akkor örökifjú tulajdoságú, ha expoeciális eloszlású Gamma-eloszlás A következőkbe szükségük lesz az úgyevezett gamma-függvéyre: Γ: R + R, Γx := Γ 1 = π illetve ha N, akkor Γ = 1!. 0 u x 1 e u du Defiíció. Legye r, λ R + és a ξ valószíűségi változó sűrűségfüggvéye 0, ha x 0, f : R R, fx := λ r x r 1 e λx, ha x > 0. Γr Ekkor ξ-t r-edredű λ paraméterű gamma-eloszlásúak evezzük. Az ilye valószíűségi változók halmazát Gammar; λ módo jelöljük. A defiíció következméye, hogy Expλ = Gamma1; λ Tétel. ξ Gammar; λ eseté E ξ = r λ és D ξ = r λ Tétel. Ha r N és ξ 1,..., ξ r azoos λ > 0 paraméterű expoeciális eloszlású függetle valószíűségi változók, akkor ξ ξ r Gammar; λ Normális eloszlás Defiíció. A ξ abszolút folytoos valószíűségi változót stadard ormális eloszlásúak evezzük, ha a sűrűségfüggvéye ϕ: R R, ϕx := 1 π e x. 19

21 Stadard ormális eloszlású valószíűségi változó sűrűségfüggvéye A stadard ormális eloszlású valószíűségi változó eloszlásfüggvéyét Φ-vel jelöljük, mely a sűrűségfüggvéy defiíciója szerit Φ: R R, Φx = 1 π x e t dt. Stadard ormális eloszlású valószíűségi változó eloszlásfüggvéye Φ-re ics zárt formula, közelítő értékeiek kiszámítására például a Taylor-sora haszálható: Φx = k π k k + 1k! xk+1. k=0 Megemlítjük még a Φx egy egyszerű közelítő formuláját. Johso és Kotz 1970-be bizoyították, hogy az 1 0,51 + ax + bx + cx 3 + dx 4 4 0

22 kifejezéssel x 0 eseté, él kisebb hibával közelíthető Φx, ahol a = 0,196854, b = 0,115194, c = 0,000344, d = 0, Mivel ϕ páros függvéy, ezért mide x R eseté Φ x = 1 Φx Tétel. Ha ξ stadard ormális eloszlású valószíűségi változó, akkor E ξ = 0 és D ξ = Defiíció. Legye η stadard ormális eloszlású valószíűségi változó, m R és σ R +. Ekkor a ση + m valószíűségi változót m és σ paraméterű ormális eloszlásúak evezzük. Az ilye valószíűségi változók halmazát Normm; σ módo jelöljük. Defiíció alapjá a stadard ormális eloszlású valószíűségi változók halmaza Norm0; Tétel. ξ Normm; σ eseté E ξ = m, D ξ = σ, továbbá ξ eloszlásfüggvéye F : R R, x m F x = Φ, σ illetve sűrűségfüggvéye f : R R, fx = 1 x m σ ϕ. σ Tétel. Ha ξ 1,..., ξ függetle, ormális eloszlású valószíűségi változók, akkor ξ ξ is ormális eloszlású Tétel. Ha ξ 1,..., ξ ormális eloszlású valószíűségi változók és mide i, j { 1,..., }, i j eseté covξ i, ξ j = 0, akkor ξ 1,..., ξ függetleek Többdimeziós ormális eloszlás Defiíció. Legyeek η 1,..., η d függetle stadard ormális eloszlású valószíűségi változók. Ekkor az η 1,..., η d valószíűségi vektorváltozót d-dimeziós stadard ormális eloszlásúak evezzük Defiíció. Ha η = η 1,..., η d d-dimeziós stadard ormális eloszlású valószíűségi vektorváltozó, A egy d d típusú valós mátrix és m = m 1,..., m d R d, akkor a ξ := ηa + m 1

23 valószíűségi vektorváltozót d-dimeziós ormális eloszlásúak evezzük. A ξ-vel azoos eloszlású valószíűségi vektorváltozók halmazát Norm d m; A módo jelöljük Tétel. Ha ξ = ξ 1,..., ξ d Norm d m; A, akkor m = E ξ 1,..., E ξ d, D := A A = covξ i, ξ j d d, továbbá ha det D 0, akkor ξ sűrűségfüggvéye f : R d R, fx = 1 πd det D exp 1 x md 1 x m Tétel. Legye ξ 1,..., ξ d Norm d m; A. Ekkor ξ 1,..., ξ d potosa akkor korrelálatlaok, ha függetleek Tétel. Ha ξ 1,..., ξ d Norm d m; A, akkor létezik a,..., a d R, hogy Eξ 1 ξ,..., ξ d = a ξ + + a d ξ d Khi-égyzet eloszlás Defiíció. Legyeek ξ 1,..., ξ s függetle stadard ormális eloszlású valószíűségi változók. Ekkor a ξ1 + + ξs valószíűségi változót s szabadsági fokú khiégyzet eloszlásúak evezzük. Az ilye eloszlású valószíűségi változók halmazát Khis módo jelöljük Tétel. Ha ξ Khis 1 és η Khis függetleek, akkor ξ + η Khis 1 + s Tétel. Khis = Gamma s ; 1, azaz ξ Khis sűrűségfüggvéye 0, ha x 0, f : R R, fx = s x s 1 e Γ x s, ha x > Következméy. ξ Khis eseté E ξ = s és D ξ = s Tétel. Legye A 1,..., A r egy teljes eseméyredszer azaz uiójuk a biztos eseméy és párokét diszjuktak. Jelölje ϱ i az A i eseméy gyakoriságát kísérlet

24 utá. Tegyük fel, hogy p i := PA i > 0 mide i { 1,..., r } eseté. Ekkor χ := r ϱ i p i p i eloszlása r 1 szabadsági fokú khi-égyzet eloszláshoz kovergál eseté. A gyakorlatba a tétel azt jeleti, hogy F Khir 1 jelöléssel Pχ < x F x. A közelítés már jóak tekithető, ha mi{ ϱ 1,..., ϱ r } t-eloszlás Defiíció. Ha ξ Norm0,1 és η Khis függetleek, akkor a ξ s η valószíűségi változót s szabadsági fokú t-eloszlásúak evezzük. Az ilye eloszlású valószíűségi változók halmazát ts módo jelöljük Tétel. Ha ξ ts, akkor a sűrűségfüggvéye f : R R, fx = Γ s+1 sπ Γ s 1 + x s Következméy. f x = fx és F x = 1 F x mide x R eseté, ahol f illetve F a ξ ts sűrűség- illetve eloszlásfüggvéye. s Cauchy-eloszlás Defiíció. Egy valószíűségi változót Cauchy-eloszlásúak evezük, ha a sűrűségfüggvéye f : R R, fx := 1 π1 + x Tétel. Cauchy-eloszlású valószíűségi változó eloszlásfüggvéye F : R R, F x = 1 π arctg x Tétel. A Cauchy-eloszlás megegyezik az 1 szabadsági fokú t-eloszlással Következméy. Cauchy-eloszlású valószíűségi változóak em létezik várható értéke illetve szórása. 3

25 F-eloszlás Defiíció. Ha ξ 1 Khis 1 és ξ Khis függetleek, akkor az s ξ 1 s 1 ξ valószíűségi változót s 1 és s szabadsági fokú F-eloszlásúak evezzük. Az ilye eloszlású valószíűségi változók halmazát Fs 1 ; s módo jelöljük Tétel. Ha ξ Fs 1 ; s, akkor a sűrűségfüggvéye 0, ha x 0, f : R R, fx = Γ s 1 +s s s 1 1 s s x s 1 Γ s 1 Γ s s 1 x+s, ha x > 0. s 1 +s Tétel. Ha ξ Fs 1 ; s, akkor 1 ξ Fs ; s Tétel. Ha ξ ts, akkor ξ F1; s Nagy számok törvéyei 1.8. Tétel Csebisev-egyelőtleség. Ha ξ véges szórással redelkező valószíűségi változó, akkor mide ε R + tételt. eseté P ξ E ξ ε D ξ ε. Speciálisa, ha ξ relatív gyakoriságot jelet, akkor kapjuk a következő fotos Tétel Beroulli-féle agy számok törvéye. Legye ϱ gyakorisága kísérlet utá. Ekkor az A eseméy relatív ϱ P PA ε PA PA ε mide ε R + eseté. Tehát aak a valószíűsége, hogy az A eseméy relatív gyakorisága PA-ak az ε sugarú köryezeté kívül legye, az övelésével egyre kisebb, határértékbe 0. Ez potosa ráillik a Beroulli-féle tapasztalatra. A következő ábrá a hatos dobás relatív gyakoriságát láthatjuk szabályos kockával 10 dobássorozat utá, 3000-től 3500 dobásig. 4

26 A kék voal jelzi a hatos dobás valószíűségét, míg a zöld voalak aak ε = 0,01 sugarú köryezetét. Az ábrá láthatjuk, hogy a 10 dobássorozatból 8 eseté a relatív gyakoriság 0,01 potossággal megközelítette a valószíűséget a 3000-től 3500-ig terjedő itervallumo. A következő videóba az előző kísérletsorozatot vizsgáljuk többféle paraméterezéssel.../video/elm01.avi Az előző videóba haszált program elidítható ie:../valdem/valdem.exe A Beroulli-féle agy számok törvéye megfogalmazható valószíűségi változókkal is. Hajtsuk végre egy kísérletet -szer egymástól függetleül. Ha egy A eseméy az i-edik kísérletbe bekövetkezik, akkor a ξ i valószíűségi változó értéke legye 1, külöbe pedig 0. A ξ 1, ξ,..., ξ valószíűségi változók ekkor PA paraméterű karakterisztikus eloszlású párokét függetle valószíűségi változók, melyekek a számtai közepe az A relatív gyakorisága, másrészt ekkor E ξ 1 = PA és D ξ 1 = = PA PA. Így tehát bármely ε R + eseté 1 P ξ i E ξ 1 ε D ξ 1 ε. Más eloszlású valószíűségi változók számtai közepe is hasoló tulajdoságot mutat Tétel Nagy számok gyege törvéye. Legyeek ξ 1, ξ,..., ξ véges várható értékű és szórású, azoos eloszlású, párokét függetle valószíűségi változók. Ekkor 1 P ξ i E ξ 1 ε 5 D ξ 1 ε,

27 mide ε R + eseté. Tehát aak a valószíűsége, hogy a valószíűségi változók számtai közepe a várható érték ε sugarú köryezeté kívül legye, az övelésével egyre kisebb, határértékbe 0. A következő ábrá darab stadard ormális eloszlású párokét függetle valószíűségi változó számtai közepét láthatjuk függvéyébe = tól = = ig, 0 kísérletsorozat utá. A kék voal jelzi a várható értéket ez most 0, míg a zöld voalak aak ε = = 0,01 sugarú köryezetét. Az ábrá láthatjuk, hogy a 0 kísérletsorozatból 17 eseté a számtai közép 0,01 potossággal megközelítette a várható értéket a tól ig terjedő itervallumo. A következő videóba az előző kísérletsorozatot vizsgáljuk többféle eloszlás eseté.../video/elm0.avi Két függetle stadard ormális eloszlású valószíűségi változó háyadosa Cauchyeloszlású. Erről ismert, hogy ics várható értéke. Így erre em teljesül a agy számok gyege törvéye. Ezt szemlélteti a következő videó.../video/elm03.avi Tétel Nagy számok Kolmogorov-féle erős törvéye. ξ 1, ξ,... legyeek függetle, azoos eloszlású valószíűségi változók és E ξ 1 R. Ekkor P lim 1 ξ i = E ξ 1 = 1. Ez a tétel az előzőél erősebb állítást fogalmaz meg. Etemadi 1981 és Petrov 1987 eredméyeiből kiderült, hogy a agy számok Kolmogorov-féle erős törvéyéek állítása párokéti függetleség eseté is igaz marad. 6

28 1.11. Cetrális határeloszlási tétel A valószíűségszámításba és a matematikai statisztikába közpoti szerepe va a stadard ormális eloszlásak. Eek okát mutatja a következő tétel Tétel Cetrális határeloszlási tétel. Legyeek ξ 1, ξ,... függetle, azoos eloszlású, pozitív véges szórású valószíűségi változók. Ekkor η := ξ i E ξ i D ξ i határeloszlása stadard ormális, azaz mide x R eseté. lim P η < x = Φx Speciálisa, ha ξ 1, ξ,... függetleek és p paraméterű karakterisztikus eloszlásúak, akkor ξ i egy -edredű p paraméterű biomiális eloszlású valószíűségi változó. Eek várható értéke p és szóráségyzete p1 p. Erre alkalmazva a cetrális határeloszlás tételét, kapjuk, hogy mide x R eseté lim P ξ i p < x = Φx. p1 p Ez az ú. Moivre Laplace-tétel. Ez ekvivales azzal, hogy x R és x > 0 eseté lim P x ξ i p < x + x = 1 x+ x p1 p π x e t dt. Így agy és kicsiy x eseté 1 x P x ξ i p < x + x 1 e x. p1 p π Legye k m egy p valószíűségű eseméy gyakorisága m kísérlet utá. Ábrázoljuk m függvéyébe a k m mp mp1 p mutatja p = 0,5 és = 1000 eseté. értékeket, ahol m = 1,,...,. A következő ábra ezt 7

29 A kísérletsorozatot megismételjük N-szer. A kék voalo ábrázoljuk a becsapódások számát voaldiagrammal. A következő ábrá ez látható N = 3000 eseté. Végül a voaldiagramot ormáljuk N-el és x-szel, mely már összehasolítható a stadard ormális eloszlás sűrűségfüggvéyével. A következő videóba az előző kísérletsorozatot folyamatába vizsgáljuk.../video/elm04.avi 8

30 . A matematikai statisztika alapfogalmai A valószíűségszámítás óráko tárgyalt feladatokba midig szerepel valamilye iformáció bizoyos típusú véletle eseméyek valószíűségére voatkozóa. Például: Mi a valószíűsége aak, hogy két szabályos kockával dobva a kapott számok összege 7? Itt a szabályosság azt jeleti, hogy a kocka bármely oldalára 1 valószíűséggel 6 eshet. Egy boltba az átlagos várakozási idő perc. Mi a valószíűsége, hogy 3 perce belül em kerülük sorra, ha a várakozási idő expoeciális eloszlású? Itt az adott iformációk alapjá 1 e x aak a valószíűsége, hogy a várakozási idő kevesebb mit x perc. Ha egy hasoló feladatba a megoldáshoz szükséges iformációk em midegyike ismert, akkor azokat ekük kell tapasztalati úto meghatározi. A matematikai statisztika ilye jellegű problémákkal foglalkozik. A statisztikai feladatokba tehát az eseméyek redszere, potosabba az Ω, F adott, de a valószíűség em. Legye P azo P: F R függvéyek halmaza, melyekre Ω, F, P valószíűségi mező. Ekkor az Ω, F, P redezett hármast statisztikai mezőek evezzük. Az ideális az lee, ha P-ből ki tudák választai az igazi P-t. Sok esetbe azoba erre ics is szükség. Például ha az A és B eseméyek függetleségét kell kimutatuk, akkor csak azt kell megvizsgáli, hogy az igazi P-re teljesül-e az a tulajdoság, hogy PA B = PA PB..1. Mita és mitarealizáció A statisztikába valószíűségi vektorváltozóra kell iformációkat gyűjtei. Jelöljük ezt ξ-vel. Az adatgyűjtések a statisztikába egyetle módja va, a ξ-t meg kell figyeli méri többször, egymástól függetleül. Az i-edik megfigyelés eredméyét jelölje ξ i, amely egy véletle érték, vagyis valószíűségi vektorváltozó..1. Defiíció. A ξ valószíűségi vektorváltozóra voatkozó elemű mita alatt a ξ-vel azoos eloszlású ξ 1,..., ξ függetle, valószíűségi vektorváltozókat értük. A ξ k -t k-adik mitaelemek, -et pedig a mitaelemek számáak evezzük. Természetese, ha több valószíűségi vektorváltozóra is szükségük va, akkor midegyikre kell megfigyeléseket végezi, így több miták is lesz. 9

31 A gyakorlatba em mitával dolgozuk, haem kokrét értékekkel, melyek a mitaelemek lehetséges értékei... Defiíció. Ha ξ 1,..., ξ a ξ valószíűségi vektorváltozóra voatkozó mita és ω Ω, akkor a ξ 1 ω,..., ξ ω értékeket ξ-re voatkozó mitarealizációak evezzük. Az olya x 1,..., x elem -esek halmazát, melyekre teljesül, hogy az x i bee va a ξ értékkészletébe i = 1,...,, mitatérek evezzük. Statisztikai feladatokba mitarealizáció alapjá számoluk. Az így meghozott dötés em biztos, hogy megfelel a valóságak, csak ayit modhatuk róla, hogy em mod ellet a mitarealizációak. Azaz az ilye dötés hibás is lehet, így a válaszukba azt is meg kell adi, hogy mi a valószíűsége eek a hibáak... Tapasztalati eloszlásfüggvéy Ebbe a részbe feltételezzük, hogy egy ξ valószíűségi változó tehát em vektorváltozó tulajdoságait kell megfigyeli. A legjobb az lee, ha az F eloszlásfüggvéyét sikerüle meghatározi. Valójába az előbb elmodottak miatt F -fet meghatározi a mitarealizáció alapjá em tudjuk, de becsüli ige. Egy rögzített x R eseté F x = Pξ < x. Tehát egy eseméy valószíűségét kell megbecsüli. A valószíűség defiícióját a relatív gyakoriság tulajdoságai sugallták, így az a sejtésük, hogy egy eseméy valószíűségét a relatív gyakoriságával lee érdemes becsüli. A ξ < x eseméy relatív gyakorisága a ξ-re voatkozó ξ 1,..., ξ mita alapjá köye megadható idikátorváltozókkal: 1 I ξ i <x. Itt I ξ i <x azo mitaelemek számát jeleti, melyek kisebbek x-él. A későbbiekbe láti fogjuk, hogy ez a becslés valóba megfelelő lesz számukra..3. Defiíció. Legye ξ 1,..., ξ egy ξ valószíűségi változóra voatkozó mita. Ekkor az x F x := 1 I ξi <x x R függvéyt a ξ-re voatkozó elemű mitához tartozó tapasztalati eloszlásfüggvéyéek evezzük. Az F x mide rögzített x R eseté egy valószíűségi változó. Ha a kísérletsorozatba az ω Ω elemi eseméy következett be, azaz a mitarealizáció ξ 1 ω,..., ξ ω, akkor az x F x ω = 1 I ξi <xω = 1 30 I ξi ω<x x R

32 hozzáredelés egy valós függvéy. Ezt a függvéyt a tapasztalati eloszlásfüggvéy egy realizációjáak evezzük, de a továbbiakba a rövidség kedvéért ezt is csak tapasztalati eloszlásfüggvéykét emlegetjük és F módo jelöljük. Példakét legye ξ egy dobókockával dobott szám, és a mitarealizáció 3, 4, 5, 3, 6,, 3, 3, 5,. Ekkor 0 ha x, 0, ha < x 3, 0,6 ha 3 < x 4, F10x = 0,7 ha 4 < x 5, 0,9 ha 5 < x 6, 1 ha x > 6. A következő ábrá egy Bi5; 0,-beli valószíűségi változóra voatkozó 0 elemű mitához tartozó tapasztalati eloszlásfüggvéyt láthatuk. A kék grafiko a valódi eloszlásfüggvéyt jeleti, a piros a tapasztalatit. Vegyük észre, hogy a tapasztalati eloszlásfüggvéy midig lépcsős függvéy, azaz az értékkészlete véges. Nevezetese elemű mita eseté az F maximálisa + 1 féle értéket vehet fel. Így felmerül a kérdés, hogy a lépcsős tapasztalati eloszlásfüggvéy hogya éz ki folytoos eloszlásfüggvéyű valószíűségi változó eseté. A következő ábrá egy Exp1-beli valószíűségi változóra voatkozó 10 elemű mitához tartozó tapasztalati eloszlásfüggvéyt láthatuk. 31

33 A kék grafiko itt is a valódi eloszlásfüggvéyt jeleti, a piros a tapasztalatit. A tapasztalati eloszlásfüggvéy megfelelő becslése-e a valódi eloszlásfüggvéyek? Az előző példákba, ahol a megfigyelések száma viszoylag kevés, elég agy eltéréseket láthatuk. De az övelésével javul-e ez a helyzet? A következő Glivekotól és Catellitől származó tétel erről ad iformációt..4. Tétel A matematikai statisztika alaptétele. Legye a ξ valószíűségi változó valódi eloszlásfüggvéye F és a ξ-re voatkozó elemű mitához tartozó tapasztalati eloszlásfüggvéy F. Ekkor P lim sup x R Fx F x = 0 = 1, azaz F egyeletese kovergál R-e F -hez majdem biztosa. Bizoyítás. Legye ε R + rögzített és m N olya, hogy 1 m < ε. Ha k { 1,..., m 1 }, akkor az F balról való folytoossága miatt az { x R : F x k m } halmazak létezik maximuma. Ezt a maximumot jelöljük x k -val. Legye továbbá x 0 := és x m :=. Ekkor Pξ < x k = F x k k m lim F x = Pξ x k x x k +0 k = 0,..., m. Így Pξ < x k k 1 m + 1 m Pξ x k m. Jeletse A k azt az eseméyt, hogy lim 1 I ξ i <x k = Pξ < x k, illetve B k azt, hogy lim 1 I ξ i x k = Pξ x k. A agy számok erős törvéye miatt 3

34 PA k = PB k = 1 k = 0,..., m. Ebből m m A := A k B l k=0 l=0 jelöléssel PA = 1 teljesül. Emiatt létezik N N, hogy mide > N egész szám és k = 0,..., m eseté az A- teljesül, hogy 1 I ξi <x k Pξ < x k < ε 1 és Legye x R rögzített. Ekkor létezik t { 1,..., m }, hogy I ξi x k Pξ x k < ε. x t 1 < x x t. Midezek alapjá mide > N egész eseté az A- teljesül, hogy F x F x = Pξ < x 1 Pξ < x t 1 I ξi <x I ξi <x 1 m + Pξ x t m + Pξ x t 1 1 I ξi <x Hasolóa teljesül mide > N egész eseté az A-, hogy F x F x = Pξ < x 1 I ξi x t 1 < 1 m + ε < ε. I ξi <x Pξ x t 1 1 I ξi <x 1 m + Pξ < x t 1 1 m + Pξ < x t 1 I ξi <x I ξi <x t > 1 m ε > ε. Így F x F x < ε teljesül az A-, ha > N. Ebből már következik a tétel. 33

35 Ebbe a tételbe fotos az egyeletes kovergecia. Ugyais ha csak potokéti lee, akkor a számegyees külöböző helyei más és más sebességű lehete. Így ebbe az esetbe a tapasztalati eloszlásfüggvéy alakjából a valódira em lehete következteti. A következő két ábrá egy Cauchy-eloszlású valószíűségi változóra voatkozó 00 illetve elemű mitáak a tapasztalati eloszlásfüggvéyét látjuk. Két függetle stadard ormális eloszlású valószíűségi változó háyadosát evezzük Cauchy-eloszlásúak. A kék grafiko a valódi eloszlásfüggvéyt jeleti, míg a piros a tapasztalatit. F 00 grafikoja F grafikoja Látható, hogy es mitaelemszám eseté már gyakorlatilag megegyezik a tapasztalati és a valódi eloszlásfüggvéy. Az utóbbi ábrá úgy tűhet, hogy a tapasztalati eloszlásfüggvéy em lépcsős. Természetese ez em igaz, pusztá arról va 34

36 szó, hogy egy lépcsőfok hossza olya kicsi, hogy az a rajz felbotása miatt csak egy potak látszik. A következő videóba többféle eloszlással vizsgáljuk a tapasztalati eloszlásfüggvéy kovergeciáját.../video/elm05.avi Az előző videóba haszált program elidítható ie:../valdem/valdem.exe.3. Tapasztalati eloszlás, sűrűséghisztogram Tapasztalati eloszlásfüggvéy helyett más lehetőség is va valószíűségi változók eloszlásáak vizsgálatára. Diszkrét valószíűségi változó eseté vizsgálhatjuk az úgyevezett tapasztalati eloszlást is, mely a valószíűségi változó egy lehetséges értékéhez hozzáredeli a kísérletsorozatbeli relatív gyakoriságát. Azaz, ha a ξ valószíűségi változó értékkészlete { x 1,..., x k } és a ξ-re voatkozó mita ξ 1,..., ξ, akkor a tapasztalati eloszlás az x t r t := 1 I ξi =x t t = 1,..., k hozzáredelés. Tehát r t a mitába az x t -vel egyelő elemek számát jeleti. Ha a kísérletsorozatba az ω Ω elemi eseméy következett be, azaz a mitarealizáció ξ 1 ω,..., ξ ω, akkor az x t r t ω := 1 I ξi =x t ω = 1 I ξi ω=x t t = 1,..., k hozzáredelést a tapasztalati eloszlás egy realizációjáak evezzük, de a továbbiakba a rövidség kedvéért ezt is csak tapasztalati eloszláskét emlegetjük. Ezt célszerű voaldiagrammal ábrázoli. Ez azt jeleti, hogy az x t,0 koordiátájú potot összekötjük az x t, r t ω pottal mide t-re. A következő képe egy Bi30; 0,3-beli valószíűségi változóra voatkozó 1000 elemű mitarealizációból számolt tapasztalati eloszlást láthatuk voaldiagrammal ábrázolva. 35

37 Ugyaeze az ábrá kékkel felrajzoljuk a valódi eloszlást is, mely jól mutatja a hasolóságot. Abszolút folytoos ξ valószíűségi változó eseté a sűrűséghisztogram vizsgálata is célravezető lehet a tapasztalati eloszlásfüggvéy mellett. Legye r N, x 0, x 1,..., x r R és x 0 < x 1 < < x r. Tegyük fel, hogy a ξ-re voatkozó ξ 1 ω,..., ξ ω mitarealizáció mide eleme bee va az x 0, x r itervallumba. Jelölje ϱ j a mita azo elemeiek a számát, amelyek az [x j 1, x j itervallumba esek, azaz ϱ j := I xj 1 ξ i <x j = Fx j Fx j 1, ahol j = 1,..., r. Ezutá mide [x j 1, x j itervallum fölé rajzoljuk egy ϱ j ω-val aráyos magasságú téglalapot úgy, hogy a téglalapok összterülete 1 legye, azaz a j-edik téglalap magassága ϱ j ω x j x j 1 = F x j Fx j 1 fx j. x j x j 1 Az így kapott oszlopdiagramot sűrűséghisztogramak evezzük, mert a valódi f sűrűségfüggvéyt közelíti. A sűrűséghisztogram megadása a mitarealizáció alapjá em egyértelmű, függ az osztópotok választásától. Az osztópotok felvételéhez csak ayi általáos iráyelv modható, hogy függetleek kell leie a mita értékeitől. 36

38 Az is fotos, hogy az osztópotok e helyezkedjeek el túl sűrű a mitarealizáció elemeihez képest, mert ekkor egy részitervallumba túl kevés mitaelem fog esi, s így agyo potatla lesz a becslés. Azaz ebbe az esetbe a sűrűséghisztogramból em lehet következteti a valódi sűrűségfüggvéy alakjára. Másrészt, ha az osztópotok túl ritkák, azaz a részitervallumok száma kevés, akkor a sűrűségfüggvéy becsült potjaiak száma túl kevés ahhoz, hogy a sűrűséghisztogramból következteti lehesse a valódi sűrűségfüggvéy alakjára. A következő ábrá stadard ormális eloszlású 1000 elemű mitára voatkozó sűrűséghisztogramot láthatuk r = 0, x 0 = 4, x 0 = 4 választással, továbbá a részitervallumok egyelő hosszúságúak. Összehasolításképpe a következő ábrá a stadard ormális eloszlás sűrűségfüggvéyét láthatjuk a [ 4,4] itervallumo..4. Statisztikák Tegyük fel, hogy egy ismeretle eloszlású ξ valószíűségi változó várható értékét kell meghatározi. Mivel az eloszlást em ismerjük, ezért a mita alapjá kell becslést adi. A későbbiekbe láti fogjuk, hogy bizoyos szempotból jó becslése a várható értékek a ξ-re voatkozó ξ 1,..., ξ mita elemeiek a számtai közepe, azaz 1 ξ ξ. Általáosa fogalmazva itt egy olya függvéyt defiiáltuk, amely egy valószíűségi változókból álló redezett -eshez egy valószíűségi változót redel. Az ilye függvéyeket statisztikáak evezzük, és a következőkbe kiemelt szerepük lesz. 37

39 .5. Defiíció. Legye ξ 1,..., ξ egy ξ valószíűségi változóra voatkozó mita, továbbá T : R R olya függvéy, melyre T ξ 1,..., ξ valószíűségi változó. Ekkor ezt a valószíűségi változót a mita egy statisztikájáak evezzük. Ha ξ 1 ω,..., ξ ω egy a ξ-re voatkozó mitarealizáció, akkor a T ξ 1 ω,..., ξ ω számot az előbbi statisztika egy realizációjáak evezzük..6. Defiíció. Legye ξ 1,..., ξ egy ξ valószíűségi változóra voatkozó mita. A következő evezetes statisztikákat defiiáljuk: mitaátlag ξ := 1 tapasztalati szóráségyzet S := 1 ξ i ξ tapasztalati szórás S := 1 ξ i ξ korrigált tapasztalati szóráségyzet S := 1 1 korrigált tapasztalati szórás S := k-adik tapasztalati mometum k N k-adik tapasztalati cetrált mometum k N tapasztalati ferdeség tapasztalati lapultság ξ i ξ i ξ 1 1 ξ k i ξ i ξ ξ i ξ k ξ i ξ 3 S 3 ξ i ξ 4 3 Ha több valószíűségi változót is vizsgáluk és hagsúlyozi szereték, hogy a tapasztalati illetve korrigált tapasztalati szórás a ξ-re voatkozik, akkor azokat S ξ, illetve Sξ, módo fogjuk jelöli. S 4 38

40 .7. Tétel Steier-formula. Bármely c R eseté S = 1 ξ i c ξ c. Bizoyítás. Legye c R tetszőlegese rögzített. Ekkor S = 1 = 1 = 1 ξ i ξ = 1 ξi c ξ c = ξ i c 1 ξ cξ i c + 1 ξ c = ξ i c ξ c + ξ c = 1 ξ i c ξ c..8. Defiíció. Legye ξ 1,..., ξ egy ξ valószíűségi változóra voatkozó mita, továbbá x 1,..., x R eseté jelölje r 1,..., r az 1,..., számok egy olya permutációját, melyre teljesül, hogy x r1 x r... x r. Legye T i : R R, T i x 1,..., x := x ri i = 1,...,. Ekkor a ξ i := T i ξ 1,..., ξ i = 1,..., valószíűségi változókat redezett mitáak evezzük. Vegyük észre, hogy ξ 1 = mi{ ξ 1,..., ξ } és ξ = max{ ξ 1,..., ξ }. A ξ ξ 1 statisztikát mitaterjedelemek evezzük. A ξ 1 +ξ az úgyevezett terjedelemközép. páros. A tapasztalati mediá legye ξ +1, ha páratla, illetve 1 ξ + ξ +1, ha Legye 0 t 1. A 100t%-os tapasztalati kvatilis legye ξ[t]+1, ha t N, illetve tξt+1 tξ t+1, ha t N. Vegyük észre, hogy az 50%-os tapasztalati kvatilis a tapasztalati mediáal egyelő. A 5%-os tapasztalati kvatilist tapasztalati alsó kvartilisek, illetve a 75%-os tapasztalati kvatilist tapasztalati felső kvartilisek evezzük. A tapasztalati módusz a mitaelemek között a leggyakrabba előforduló. Ha több ilye is va, akkor azok között a legkisebb. Ha a kísérletsorozatba az ω Ω elemi eseméy következett be, azaz a mi- 39

41 tarealizáció ξ 1 ω,..., ξ ω, akkor a ξω = 1 ξ iω számot is mitaátlagak evezzük. Hasolóa állapoduk meg mide evezetes statisztika eseté. Azaz például S ω-t is tapasztalati szórásak evezzük. A következőbe a statisztika fogalmát kiterjesztjük arra az esetre, amikor a mita elemei valószíűségi vektorváltozók..9. Defiíció. Legye ξ 1,..., ξ egy d-dimeziós ξ valószíűségi vektorváltozóra voatkozó mita, továbbá T : R d R olya függvéy, melyre T ξ 1,..., ξ valószíűségi változó. Ekkor ezt a valószíűségi változót a mita egy statisztikájáak evezzük. Ha ξ 1 ω,..., ξ ω egy a ξ-re voatkozó mitarealizáció, akkor a T ξ 1 ω,..., ξ ω számot az előbbi statisztika egy realizációjáak evezzük..10. Defiíció. Legye ξ = η, ζ kétdimeziós valószíűségi vektorváltozó, továbbá a rávoatkozó mita η 1, ζ 1,..., η, ζ. Eek a mitáak a tapasztalati kovariaciája Cov η, ζ := 1 η i ζ i 1 illetve tapasztalati korrelációs együtthatója η i 1 Corr η, ζ := Cov η, ζ S η, S ζ,. ζ i, 40

42 3. Potbecslések 3.1. A potbecslés feladata és jellemzői Tegyük fel, hogy a vizsgált ξ valószíűségi változóról tudjuk, hogy egyeletes eloszlású az [a, b] itervallumo, de az a és b paramétereket em ismerjük. Ekkor a vizsgáladó statisztikai mező leszűkül az Ω, F, P, P = { P ϑ : ϑ Θ } mezőre, ahol Θ = { a, b R : a < b } és P ϑ olya valószíűség az Ω, F tére, melyre P ϑ ξ < x = x a teljesül mide ϑ = a, b Θ és a < x < b eseté. b a A potbecslés feladata ebbe az esetbe az a illetve b valódi értékéek becslése. De em midig va szükség az összes ismeretle paraméterre. Például előfordulhat, hogy csak a ξ várható értékére vagyuk kívácsiak. Ekkor a feti esetbe az a+b valódi értékét kell megbecsüli. Az eljárás a ξ-re voatkozó ξ 1 ω,..., ξ ω mitarealizáció alapjá úgy fog törtéi, hogy bizoyos kritériumokat figyelembe véve megaduk egy statisztikát, melyek az ω helye vett realizációja adja a becslést. Most általáosítjuk az előzőeket. Legye v N, Θ R v az úgyevezett paramétertér. Feltesszük, hogy Θ. Jelöljö F ϑ eloszlásfüggvéyt mide ϑ = = ϑ 1,..., ϑ v Θ eseté. Feltesszük, hogy ϑ ϑ eseté F ϑ F ϑ. Ez az úgyevezett idetifikálható tulajdoság. Tegyük fel, hogy a vizsgált ξ valószíűségi változóról tudjuk, hogy az eloszlásfüggvéye az { F ϑ : ϑ = ϑ 1,..., ϑ v Θ } halmaz eloszláscsalád eleme, de a ϑ 1,..., ϑ v paraméterek valódi értékei ismeretleek. Ekkor a vizsgált statisztikai mező leszűkül az Ω, F, P, P = { P ϑ : ϑ Θ } mezőre, ahol P ϑ olya valószíűség az Ω, F tére, melyre P ϑ ξ < x = F ϑ x teljesül mide x R és ϑ Θ eseté. A továbbiakba midezt úgy fogalmazzuk meg, hogy legye ξ a vizsgáladó valószíűségi változó az Ω, F, P, P = { P ϑ : ϑ 41

43 Θ } statisztikai mező. Legye g : Θ R egy tetszőleges függvéy. A potbecslés feladata a gϑ valódi értékéek becslése egy statisztikával. Ezt a statisztikát és aak realizációját is a gϑ potbecsléséek evezzük. Fotos kérdés, hogy milye szempotok szerit válasszuk ki a potbecslést megadó statisztikát. A következő természetesek tűő feltételeket adjuk: igadozzo a gϑ valódi értéke körül; szórása a lehető legkisebb legye; a mita elemszámáak végtelebe divergálása eseté kovergáljo a gϑ valódi értékéhez. A következőkbe ezeket a feltételeket fogalmazzuk meg potosabba. Legye ξ 1, ξ,... az előbbi ξ valószíűségi változóra voatkozó végtele elemszámú mita azaz ξ 1, ξ,... függetle ξ-vel azoos eloszlású valószíűségi változók, továbbá jelölje E ϑ, D ϑ illetve cov ϑ a P ϑ -ból származtatott várható értéket, szórást illetve kovariaciát Defiíció. A T ξ 1,..., ξ statisztika gϑ torzítatla becslése, ha E ϑ T ξ 1,..., ξ = gϑ mide ϑ Θ eseté. Ha ez em teljesül, akkor T ξ 1,..., ξ a gϑ torzított becslése. 3.. Tétel. F x torzítatla becslése a F x-ek bármely x R eseté, ahol F a ξ eloszlásfüggvéye és F a tapasztalati eloszlásfüggvéy. Bizoyítás. F x egy -edredű p = F x paraméterű biomiális eloszlású valószíűségi változó. Így E p Fx = 1 E p F x = 1 p = p = F x Defiíció. A T ξ 1,..., ξ N statisztikasorozat gϑ asszimptotikusa torzítatla becsléssorozata, ha mide ϑ Θ eseté teljesül, hogy lim E ϑ T ξ 1,..., ξ = gϑ Defiíció. Legyeek T 1 ξ 1,..., ξ és T ξ 1,..., ξ véges szórású torzítatla becslései gϑ-ak. A T 1 ξ 1,..., ξ hatásosabb becslése gϑ-ak mit T ξ 1,..., ξ, ha mide ϑ Θ eseté teljesül, hogy D ϑ T 1 ξ 1,..., ξ D ϑ T ξ 1,..., ξ. 4

44 3.5. Defiíció. A gϑ összes véges szórású torzítatla becslése közül a leghatásosabbat a gϑ hatásos becsléséek evezzük. Általáosságba semmi sem garatálja, hogy gϑ-ak létezik hatásos becslése, hisze egy alulról korlátos számhalmazak em biztos, hogy létezik miimuma. Másrészt, ha létezik hatásos becslés, akkor az majdem biztosa egyértelmű. Ezt fogalmazza meg a következő tétel Tétel. A hatásos becslés 1 valószíűséggel egyértelmű, azaz, ha gϑ-ak hatásos becslései T 1 ξ 1,..., ξ és T ξ 1,..., ξ, akkor mide ϑ Θ eseté teljesül, hogy P ϑ T1 ξ 1,..., ξ = T ξ 1,..., ξ = 1. Bizoyítás. Legye τ 1 := T 1 ξ 1,..., ξ, τ := T ξ 1,..., ξ, τ := τ 1+τ és ϑ Θ. Ekkor E ϑ τ = 1 E ϑ τ 1 + E ϑ τ = 1 gϑ + gϑ = gϑ, azaz τ torzítatla becslése gϑ-ak. Így τ 1 hatásossága miatt D ϑ τ 1 D ϑ τ = D τ 1 + τ ϑ = = 1 D 4 ϑ τ 1 + D ϑ τ + cov ϑ τ 1, τ = 1 D 4 ϑ τ 1 + cov ϑ τ 1, τ. Ebből kapjuk, hogy 0 D ϑτ 1 τ = D ϑ τ 1 cov ϑ τ 1, τ 0, azaz D ϑτ 1 τ = 0. De ez csak úgy lehetséges, ha P ϑ τ1 τ = E ϑ τ 1 τ = 1. Ebből már következik az állítás, hisze E ϑ τ 1 τ = Defiíció. A T ξ 1,..., ξ N statisztikasorozat gϑ-ak kozisztes becsléssorozata, ha bármely ε > 0 és ϑ Θ eseté lim P ϑ T ξ 1,..., ξ gϑ ε = Tétel. Ha T ξ 1,..., ξ torzítatla becslése gϑ-ak mide N eseté, és lim D ϑ T ξ 1,..., ξ = 0 mide ϑ Θ eseté, akkor T ξ 1,..., ξ a gϑ kozisztes becsléssorozata. Bizoyítás. Legye τ := T ξ 1,..., ξ, ε > 0 és ϑ Θ. Ekkor τ torzítatlasága, 43

45 a Csebisev-egyelőtleség és lim D ϑ τ = 0 miatt lim P ϑ τ gϑ ε = lim P ϑ τ E ϑ τ ε D ϑ τ lim = 0. ε Ebből már következik, hogy τ a gϑ kozisztes becsléssorozata Defiíció. A T ξ 1,..., ξ N statisztikasorozat gϑ-ak erőse kozisztes becsléssorozata, ha mide ϑ Θ eseté P ϑ lim T ξ 1,..., ξ = gϑ = Megjegyzés. Mivel a majdem mideütti kovergeciából következik a mértékbe való kovergecia, ezért az erőse kozisztes becsléssorozat egyúttal kozisztes becsléssorozat is Várható érték becslése Tétel. Ha c 1,..., c R és c c = 1, akkor c iξ i torzítatla becslése ξ várható értékéek. Bizoyítás. E ϑ c iξ i = c i E ϑ ξ i = c i E ϑ ξ = E ϑ ξ c i = E ϑ ξ Tétel. A mitaátlag torzítatla becslése a várható értékek. Bizoyítás. Az előző következméye c i = 1 i = 1,..., választással Tétel. A mitaátlag kozisztes becsléssorozata a várható értékek. Bizoyítás. Az állítás a agy számok gyege törvéyével ekvivales. De belátható a kozisztecia elégséges feltételéek vizsgálatával is, hisze melyből következik az állítás. 1 lim D ϑ ξ = lim D ϑ ξ = 0, Tétel. A mitaátlag erőse kozisztes becsléssorozata a várható értékek. Bizoyítás. Az állítás a Kolmogorov-féle agy számok erős törvéyével ekvivales Tétel. ξ hatásosabb becslése a várható értékek, mit c iξ i, bármely c 1,..., c R, c c = 1 eseté. 44

46 Bizoyítás. D ϑ c iξ i = c i D ϑ ξ = D ϑ ξ c i D ϑ ξ 1 c c = = 1 D ϑ ξ = D ϑ ξ. Itt felhaszáltuk a számtai és a égyzetes közép közötti relációt, a 1 + +a. Ez a Cauchy- mely szerit tetszőleges a 1,..., a R eseté a 1+ +a egyelőtleségből következik Valószíűség becslése Tétel. Egy eseméy relatív gyakorisága torzítatla becslése az eseméy valószíűségéek. Bizoyítás. Legye ξ a vizsgált eseméy idikátorváltozója. Ekkor az eseméy relatív gyakorisága ξ-vel egyelő, másrészt ξ várható értéke a vizsgált eseméy valószíűsége. Így az állítás aak a speciális esete, hogy a mitaátlag torzítatla becslése a várható értékek Tétel. Egy eseméy relatív gyakorisága erőse kozisztes becsléssorozata az eseméy valószíűségéek. Bizoyítás. Az állítás aak a speciális esete, hogy a mitaátlag erőse kozisztes becsléssorozata a várható értékek Tétel. Egy ismeretle 0 < p < 1 valószíűségű eseméy relatív gyakorisága hatásos becslése p-ek. Azaz karakterisztikus eloszlású valószíűségi változóra voatkozó mitából számolt mitaátlag hatásos becslése a várható értékek. Bizoyítás. Legye ξ a vizsgált eseméy idikátorváltozója és ξ 1,..., ξ egy ξ-re voatkozó mita. Ekkor az eseméy relatív gyakorisága ξ, továbbá az eddigiek alapjá ξ a p torzítatla becslése. Legye T ξ 1,..., ξ tetszőleges torzítatla becslése p-ek, K := { i = i 1,..., i : i 1,..., i az 1,..., permutációja } és Sξ 1,..., ξ := 1 T ξ i1,..., ξ i.! Sξ 1,..., ξ szimmetrikus és torzítatla becslése p-ek. Ha a ξ 1 ω,..., ξ ω mitarealizációba potosa k darab 1 va, akkor függetleül attól, hogy potosa melyek azok, a szimmetria miatt az S ξ 1 ω,..., ξ ω értéke midig ugyaaz. Ezt a közös értéket jelöljük S k -val. Aak a valószíűsége, hogy a mitarealizációba potosa k darab 1 va i K p k 1 p k > 0. k 45

47 Midezekből a torzítatlaság miatt 0 = E p Sξ1,..., ξ ξ = k=0 S k k p k 1 p k, k azaz k=0 S k k k p = 0 k 1 p mide p 0,1 eseté. Ez pedig csak úgy lehetséges, ha S k = k mide k = = 0,..., eseté. Ebből az következik, hogy Sξ 1,..., ξ = ξ. Így azt kell beláti, hogy D p Sξ 1,..., ξ D p T ξ 1,..., ξ, amely azzal ekvivales a torzítatlaság miatt, hogy E p S ξ 1,..., ξ E p T ξ 1,..., ξ. Legye G k := { x = x 1,..., x : x i {0,1}, i = 1,...,, x x = k }. Ekkor az előzőekhez hasolóa látható, hogy E p S ξ 1,..., ξ = = = = = S xp k 1 p k = x G k 1 T x i1,..., x i p k 1 p k =! x G k i K 1 T x i1,..., x i p k 1 p k = k! x G k,i K k! k! T x p k 1 p k = k! x G k 1 T x p k k 1 p k. x G k k=0 k=0 k=0 k=0 k=0 Másrészt így elég azt beláti, hogy E p T ξ 1,..., ξ = k=0 x G k T xp k 1 p k, 1 T x k T x. x G k x G k 46

48 Ez viszot teljesül a számtai és a égyzetes közép relációja miatt, hisze G k -ak k darab eleme va Szóráségyzet becslése Tétel. A tapasztalati szóráségyzet torzított becslése a szóráségyzetek. Bizoyítás. A Steier-formula és E ϑ ξ = D ϑ ξ + E ϑ ξ miatt E ϑ S 1 = E ϑ ξi ξ = 1 E ϑ ξi E ϑ ξ = = 1 E ϑ ξ D ϑ ξ E ϑ ξ = E ϑ ξ D ϑ ξ E ϑ ξ = = D ϑ ξ + E ϑ ξ D ϑ ξ E ϑ ξ = D ϑ ξ + E ϑ ξ D ϑ ξ E ϑ ξ = = D ϑ ξ D ϑ ξ = D ϑ ξ 1 D ϑ ξ i = D ϑ ξ 1 D ϑ ξ = = D ϑ ξ 1 D ϑ ξ = 1 D ϑ ξ D ϑ ξ Tétel. A tapasztalati szóráségyzet aszimptotikusa torzítatla becsléssorozata a szóráségyzetek. Bizoyítás. Láttuk, hogy E ϑ S = 1 D ϑ ξ, így lim E ϑ S = D ϑ ξ Tétel. A tapasztalati szóráségyzet erőse kozisztes becsléssorozata a szóráségyzetek. Bizoyítás. A Kolmogorov-féle agy számok törvéye miatt P ϑ lim 1 ξi = E ϑ ξ = 1 és P ϑ Így a Steier-formulából kapjuk az állítást. lim 1 ξ i = E ϑ ξ = Tétel. A korrigált tapasztalati szóráségyzet torzítatla becslése a szóráségyzetek. Bizoyítás. Láttuk, hogy E ϑ S = 1 D ϑ ξ, így E ϑ S = E ϑ 1 S = D ϑ ξ Tétel. A korrigált tapasztalati szóráségyzet erőse kozisztes becsléssorozata a szóráségyzetek. 47

49 Bizoyítás. Az állítás a tapasztalati szóráségyzet erős koziszteciájából következik, hisze S = 1 S. 3.. Iformációs határ Legye ξ egy ismeretle 0 < p < 1 paraméterű karakterisztikus eloszlású valószíűségi változó, továbbá a rávoatkozó mita ξ 1,..., ξ. Korábba bizoyítottuk, hogy ξ hatásos becslése p-ek. Mivel D p ξ = 1 D p ξ = p1 p, ezért azt kapjuk, hogy a p összes véges szórású torzítatla becsléséek szórása agyobb vagy egyelő, mit p1 p. Általáosságba, ha gϑ összes véges szórású T ξ 1,..., ξ torzítatla becsléséek szórása agyobb vagy egyelő, mit egy T -től függetle érték, akkor ezt iformációs határak evezzük. Eek a szakaszak a célja az iformációs határ meghatározása azzal a feltevéssel, hogy ξ abszolút folytoos vagy diszkrét, illetve Θ R, azaz csak egy paraméter ismeretle v = 1. Feltesszük még, hogy Θ yílt halmaz. Ameyibe ξ abszolút folytoos, akkor f ϑ jelölje ξ-ek a P ϑ -ból származó sűrűségfüggvéyét. A ξ-re voatkozó mita legye ξ 1,..., ξ, továbbá a ξ értékkészlete legye X, azaz a mitatér X Defiíció. A ξ 1,..., ξ mita likelihood függvéye f ϑ x i, ha ξ absz. folyt., l : X Θ R, l x 1,..., x, ϑ := P ϑ ξ i = x i, ha ξ diszkrét. A ξ 1,..., ξ mita loglikelihood függvéye L := l l Defiíció. A ξ 1,..., ξ mita Fisher-féle iformációmeyisége I : Θ R, I ϑ := E ϑ ϑ L ξ 1,..., ξ, ϑ, feltéve, hogy ez a függvéy értelmezhető. Ellekező esetbe azt modjuk, hogy a Fisher-féle iformációmeyiség em létezik Defiíció. Legye T : R R egy tetszőleges függvéy. Azt modjuk, hogy T l -re teljesül a bederiválási feltétel, ha T x 1,..., x l x 1,..., x, ϑ dx 1 dx = ϑ R 48

50 = T x 1,..., x ϑ l x 1,..., x, ϑ dx 1 dx R vagy T x 1,..., x l x 1,..., x, ϑ = ϑ x i X = T x 1,..., x ϑ l x 1,..., x, ϑ x i X aszerit, hogy ξ abszolút folytoos vagy diszkrét Megjegyzés. Ha X véges, akkor T l -re triviálisa teljesül a bederiválási feltétel Lemma. l 1 -re potosa akkor teljesül a bederiválási feltétel, ha ϑ f ϑx dx = 0 vagy x X ϑ P ϑξ = x = 0 aszerit, hogy ξ abszolút folytoos vagy diszkrét. Bizoyítás. Csak abszolút folytoos esetbe bizoyítuk, de diszkrét esetbe aalóg módo járhatuk el, melyet az Olvasóra bízuk. A bizoyításhoz vegyük észre, hogy l 1 x, ϑ = f ϑ x és l 1 x, ϑ dx = 1. Most tegyük fel, hogy f ϑ ϑx dx = 0. Ebből kapjuk, hogy ϑ l 1 x, ϑ dx = 0 = ϑ f ϑx dx = ϑ l 1x, ϑ dx, azaz ekkor l 1 -re teljesül a bederiválási feltétel. Megfordítva, ha feltesszük, hogy l 1 -re teljesül a bederiválási feltétel, akkor Ezzel teljes a bizoyítás. ϑ l 1x, ϑ dx = ϑ l 1 x, ϑ dx = Tétel. Ha l 1 -re teljesül a bederiválási feltétel és I 1 létezik, akkor I is létezik és I = I 1. 49

51 Bizoyítás. Csak abszolút folytoos esetbe bizoyítuk, de diszkrét esetbe aalóg módo járhatuk el, melyet az Olvasóra bízuk. Az l 1 x, ϑ = f ϑ x, így Ebből E ϑ ϑ L 1 ξ1, ϑ = ϑ l l 1x, ϑ f ϑ x dx = ϑ f ϑx dx = 0. I 1 ϑ = E ϑ ϑ L 1 ξ1, ϑ = D ϑ ϑ L 1 ξ1, ϑ = D ϑ ϑ l f ϑξ 1. Másrészt E ϑ ϑ L ξ 1,..., ξ, ϑ = E ϑ ϑ = = E ϑ ϑ l f ϑξ i = ϑ f ϑx dx = 0. l f ϑ ξ i = ϑ l f ϑx f ϑ x dx = Ebből I ϑ = E ϑ ϑ L ξ 1,..., ξ, ϑ = D ϑ ϑ L ξ 1,..., ξ, ϑ = = D ϑ l f ϑ ξ i = D ϑ ϑ ϑ l f ϑξ i = = D ϑ ϑ l f ϑξ 1 = I 1 ϑ = I 1 ϑ Feladat. Karakterisztikus eloszlás eseté határozza meg a Fisher-féle iformációmeyiséget. Megoldás. Legye tehát ξ egy 0 < p < 1 paraméterű karakterisztikus eloszlású valószíűségi változó, és a rávoatkozó mita ξ 1,..., ξ. Ekkor X = { 0,1 }, l 1 0, p = = P p ξ 1 = 0 = 1 p és l 1 1, p = P p ξ 1 = 1 = p. Így I 1 p = E p p L 1ξ 1, p = E p p l l 1ξ 1, p = 50

52 = p l P pξ 1 = 0 P p ξ 1 = 0 + p l P pξ 1 = 1 P p ξ 1 = 1 = = l1 p 1 p + p p l p 1 p = p1 p. Másrészt X végessége miatt l 1 -re teljesül a bederiválási feltétel, melyből I p = I 1 p = p1 p Feladat. Legye ξ Normm; σ, ahol σ > 0 rögzített. Határozza meg a Fisher-féle iformációmeyiséget. Megoldás. f m mx dx = 1 m ϕ x m σ σ dx = x mf σ m x dx = E ξ m m σ = = 0, azaz l 1 -re teljesül a bederiválási feltétel. Korábba láttuk, hogy ekkor I 1 m = D m 1 = D m m l f mξ f m ξ ξ m f σ m ξ Ebből kapjuk, hogy I m = I 1 m = σ. 1 = D m f m ξ m f mξ = ξ m = D m = 1 σ Feladat. Legye ξ ismeretle λ paraméterű Poisso-eloszlású. Határozza meg a Fisher-féle iformációmeyiséget. Megoldás. I 1 λ = E λ λ l l 1ξ 1, λ = k=0 λk λ k = l λ k! e λ k! e λ = k=0 kk 1 1 = λ λ λ k=0 = = k= λ k k! + e λ + e λ + k=0 1 λ σ λ l P λξ 1 = k P λ ξ 1 = k = k λ 1 λ k k! e λ = k=0 λ k k k! e λ = λ k 1 k! + λ λ k 1 e λ = k 1! k=1 e λ e λ = 1 λ. 51

53 Másrészt λ k=0 = k=1 λ k k! e λ = k=0 λ k 1 k 1! 1 kλ k 1 e λ λ k e λ = k! k=0 λ k e λ = e λ e λ e λ = 0, k! azaz l 1 -re teljesül a bederiválási feltétel. Ebből kapjuk, hogy I λ = λ Feladat. Legye ξ Expλ. Határozza meg a Fisher-féle iformációmeyiséget. Megoldás. I 1 λ = E λ λ l l 1ξ 1, λ = = 0 l λe λx λe λx dx = λ = E λ 1 λ ξ = D λ ξ = 1 λ. λ l l 1x, λ l 1 x, λ dx = 0 1 λ x λe λx dx = Másrészt λ f λx dx = 0 λ λe λx dx = 0 1 1λ λ x λe λx dx = E λ ξ azaz l 1 -re teljesül a bederiválási feltétel. Ebből kapjuk, hogy I λ = λ. = 0, Feladat. Legye ξ egyeletes eloszlású a [0, b] itervallumo b R +. Mutassa meg, hogy ekkor em teljesül l 1 -re a bederiválási feltétel, továbbá az I 1 b és I b meghatározásával bizoyítsa be, hogy I I 1, ha > 1. Megoldás. f b 1 b bx dx = dx = b 1 dx = 1 0, így l b b b b 1-re valóba em teljesül a bederiválási feltétel. I 1 b = E b b l f bξ 1 = = b b l 1 1 b b b dx = 0 5 b l f bx f b x dx = 1 b 1 b b dx = 0 1 b 3 dx = 1 b.

54 I b = E b b = E b l f b ξ i = E b b l f bξ i = b l 1 1 = E b = E b = b b b b. Tehát ekkor I b = I 1 b, azaz > 1 eseté I b I 1 b Tétel Rao Cramér-egyelőtleség. Legye T ξ 1,..., ξ véges szórású torzítatla becslése gϑ-ak, ahol g : Θ R differeciálható függvéy. Tegyük fel, hogy l 1 -re és T l -re teljesül a bederiválási feltétel, továbbá, hogy I 1 létezik és pozitív. Ekkor D ϑ T ξ 1,..., ξ g ϑ I 1 ϑ mide ϑ Θ eseté. A g ϑ I 1 ϑ kifejezés az úgyevezett iformációs határ. Bizoyítás. Csak abszolút folytoos esetbe bizoyítuk, de diszkrét esetbe aalóg módo járhatuk el, melyet az Olvasóra bízuk. Korábba már láttuk, hogy az adott feltételekkel I létezik és I = I 1 > 0. Legye ϱ := g ϑ I ϑ ϑ l l ξ 1,..., ξ, ϑ. Ekkor másrészt E ϑ ϱ = g ϑ E ϑ I ϑ ϑ l l ξ 1,..., ξ, ϑ = E ϑ ϱ = g ϑ I ϑ E ϑ ϑ l l ξ 1,..., ξ, ϑ = = g ϑ I ϑ E ϑ l f ϑ ξ i = ϑ = g ϑ I ϑ = g ϑ I ϑ = g ϑ I ϑ E ϑ ϑ l f ϑξ i = ϑ l f ϑx f ϑ x dx = ϑ f ϑx dx = 0. g ϑ I ϑ, 53

55 Ezekből D ϑϱ = E ϑ ϱ = g ϑ I ϑ, másrészt τ := T ξ 1,..., ξ jelöléssel cov ϑ τ, ϱ = E ϑ τϱ = g ϑ I ϑ E ϑ τ ϑ l l ξ 1,..., ξ, ϑ = = g ϑ T x 1,..., x I ϑ ϑ l x 1,..., x, ϑ dx 1 dx = R = g ϑ T x 1,..., x l x 1,..., x, ϑ dx 1 dx = I ϑ ϑ R = g ϑ I ϑ ϑ E ϑτ = g ϑ g I ϑ ϑ gϑ = ϑ I ϑ. Így 0 D ϑτ ϱ = D ϑτ + D ϑϱ cov ϑ τ, ϱ = D ϑτ g ϑ I ϑ, melyből következik az állítás Lemma Bederiválhatósági lemma. Ha T ξ 1,..., ξ véges szórású statisztika, I 1 létezik, pozitív és folytoos, továbbá l 1 x, ϑ a ϑ változóba folytoosa differeciálható mide x X eseté, akkor l 1 -re és T l -re teljesül a bederiválási feltétel. A bizoyítást em közöljük, mert terjedelmes és boyolult. Lásd A. A. Borovkov, Matematikai statisztika, Lemma, 164. oldal, VI. Tétel bizoyítása, 470. oldal. A bederiválhatósági lemma I 1 -re és l 1 -re voatkozó feltételeit gyege regularitási feltételekek is evezzük Feladat. A Rao Cramér-egyelőtleséggel bizoyítsa be, hogy egy 0 < p < 1 valószíűségű eseméy relatív gyakorisága hatásos becslése p-ek. Megoldás. Legye ξ egy 0 < p < 1 paraméterű karakterisztikus eloszlású valószíűségi változó, és a rávoatkozó mita ξ 1,..., ξ. Korábba láttuk, hogy ξ véges szórású torzítatla becslése p-ek és I p =. Másrészt p1 p g p = p = 1 miatt az iformációs határ p1 p = D pξ. Most legye T ξ 1,..., ξ tetszőleges véges szórású torzítatla becslése p-ek. Mivel X véges, ezért l 1 -re és T l -re teljesül a bederiválási feltétel. Így a Rao Cramér-egyelőtleség miatt D p T ξ 1,..., ξ D pξ. Ebből következik az állítás Feladat. Legye ξ Normm; σ, ahol σ > 0 rögzített. Bizoyítsa be, hogy a mitaátlag hatásos becslése m-ek. Megoldás. Korábba láttuk, hogy ξ véges szórású torzítatla becslése m-ek és I m = σ. Másrészt g m = m = 1 miatt az iformációs határ σ 54 = D mξ.

56 Most legye T ξ 1,..., ξ tetszőleges véges szórású torzítatla becslése m-ek. Mivel a bederiválhatósági lemma mide feltétele teljesül, ezért l 1 -re és T l -re teljesül a bederiválási feltétel. Így a Rao Cramér-egyelőtleség miatt D m T ξ 1,..., ξ D mξ. Ebből következik az állítás Feladat. Legye ξ ismeretle λ paraméterű Poisso-eloszlású. Bizoyítsa be, hogy a mitaátlag hatásos becslése λ-ak. Megoldás. Láttuk, hogy ξ véges szórású torzítatla becslése λ-ak és I λ = λ. Másrészt g λ = λ = 1 miatt az iformációs határ λ = D λξ. Most legye T ξ 1,..., ξ tetszőleges véges szórású torzítatla becslése λ-ak. Mivel a bederiválhatósági lemma mide feltétele teljesül, ezért l 1 -re és T l -re teljesül a bederiválási feltétel. Így a Rao Cramér-egyelőtleség miatt D λ T ξ 1,..., ξ D λξ. Ebből következik az állítás Feladat. Legye ξ Expλ. Bizoyítsa be, hogy a mitaátlag hatásos becslése 1 λ -ak. Megoldás. Korábba láttuk, hogy ξ véges szórású torzítatla becslése 1 -ak és λ I λ =. Másrészt g λ = 1 λ λ = 1 1 miatt az iformációs határ = D λ λ λξ. Most legye T ξ 1,..., ξ tetszőleges véges szórású torzítatla becslése 1 -ak. Mivel λ a bederiválhatósági lemma mide feltétele teljesül, ezért l 1 -re és T l -re teljesül a bederiválási feltétel. Így a Rao Cramér-egyelőtleség miatt D λ T ξ 1,..., ξ D λξ. Ebből következik az állítás Potbecslési módszerek A fejezet hátralévő részébe két általáos módszert ismertetük potbecslések kostruálására Mometumok módszere Ez volt az első általáos eljárás potbecslések készítésére. A módszer K. Pearso evéhez fűződik. Az elve az, hogy r darab ismeretle paraméter eseté a k-adik mometumot a k-adik tapasztalati mometummal becsüljük k = 1,..., r. A következő tétel szerit, bizoyos feltételek eseté az így kapott becslései az ismeretle paraméterekek erőse kozisztesek Tétel. Legye a vizsgált valószíűségi változó ξ és a paramétertér Θ R r yílt halmaz. Tegyük fel, hogy E ϑ ξ r létezik és véges mide ϑ = ϑ 1,..., ϑ r Θ 55

57 eseté, ϑ j E ϑ ξ i létezik és folytoos Θ- mide i, j { 1,..., r } eseté, továbbá az úgyevezett Jacobi-determiás det E ϑ ξ i 0 ϑ j mide ϑ = ϑ 1,..., ϑ r Θ eseté. Ha az 1 ξi k = E ϑ ξ k, k = 1,..., r egyeletredszerek 1-hez tartó valószíűséggel létezik ϑ = ϑ 1,..., ϑ r egyértelmű megoldása, amit, akkor ϑ k erőse kozisztes becsléssorozata ϑ k -ak k = 1,..., r. Bizoyítás. Legye G: Θ R r, Gϑ := E ϑ ξ 1,..., E ϑ ξ r. Az adott feltételekkel G folytoos, így Θ yíltsága miatt GΘ is yílt. Ebből létezik rögzített ϑ Θ eseté Gϑ-ak olya ε > 0 sugarú köryezete, mely részhalmaza GΘ-ak. A agy számok erős törvéye miatt 1 ξk i erőse kozisztes becsléssorozata E ϑ ξ k -ak k = 1,..., r, melyből a kozisztecia is következik. Így bármely δ > 0 eseté va olya N N, hogy > N eseté Ie kapjuk, hogy P ϑ 1 ξi k E ϑ ξ k ε < δ, k = 1,..., r. r r r 1 P ϑ ξi k E ϑ ξ k ε k=1 r { 1 } P ϑ ξi k E ϑ ξ k ε r k=1 r 1 P ϑ ξi k E ϑ ξ k ε < δ, r k=1 azaz 1 ξ1 i,..., 1 ξr i GΘ legalább 1 δ valószíűséggel, ameyibe 56

58 > N. Ebből következik, hogy lim P ϑ 1 ξ1 i,..., 1 ξr i GΘ = 1. Tehát 1-hez tartó valószíűséggel ϑ = G 1 1 ξ1 i,..., 1 ξr i, ahol G 1 a G iverzét jeleti. Az iverzfüggvéy-tétel miatt lásd Walter Rudi: A matematikai aalízis alapjai, 1978, 30. oldal az adott feltételekkel G 1 létezik és folytoos. 1 ξk i erőse kozisztes becsléssorozata E ϑ ξ k -ak k = 1,..., r, melyből a G 1 folytoossága miatt 1 valószíűséggel teljesül, hogy Midezekből lim G 1 1 ξ1 i,..., 1 ξr i = G 1 Gϑ = ϑ. P ϑ lim ϑ = ϑ = 1. Az utóbbi két határérték koordiátákét értedő. Ezzel az állítás bizoyított Feladat. Bizoyítsa be, hogy ha ξ Expλ, akkor λ = ξ i kozisztes becsléssorozata λ-ak. erőse Megoldás. Az előző tétel feltételei teljesülek, így az 1 ξ i = E λ ξ = 1 λ megoldása erőse kozisztes becsléssorozata λ-ak Feladat. ξ Normm; σ eseté számolja ki az m és σ becslését a mometumok módszerével. Megoldás. A következő egyeletredszert kapjuk: 1 1 ξ i = m ξi = m + σ Eek a megoldása m = ξ és σ = S. Ezekről már korábba is láttuk, hogy erőse kozisztes becsléssorozatok, de az előző tétel is ezt mutatja, hisze a feltételek teljesülek. 57

59 3.44. Feladat. Legye ξ egyeletes eloszlású az ismeretle [a, b] itervallumo. Számolja ki az a és b becslését a mometumok módszerével. Bizoyítsa be, hogy ezek erőse kozisztes becsléssorozatok. Megoldás. A következő egyeletredszert kapjuk: 1 1 ξ i = a + b ξi = a b 1 a + b + Eek a megoldása â = ξ 3S és b = ξ + 3S. Egyszerű számolással kapjuk, hogy a Jacobi-determiás b a, így az előző tétel miatt teljesül, hogy ezek a 6 becsléssorozatok erőse kozisztesek Maximum likelihood becslés A maximum likelihood szószeriti fordítása: legagyobb valószíűség becslés elve az, hogy adott mitarealizációhoz az ismeretle paraméterekek olya becslését adjuk meg, amely mellett az adott mitarealizáció a legagyobb valószíűséggel következik be. Eek az elvek a vizsgálatába feltesszük, hogy a vizsgált ξ valószíűségi változó abszolút folytoos vagy diszkrét, Θ R r, a ξ-re voatkozó mita ξ 1,..., ξ, továbbá a ξ értékkészlete X, azaz a mitatér X. Ha ξ abszolút folytoos, akkor f ϑ jelölje ξ-ek a P ϑ -ból származó sűrűségfüggvéyét, ahol ϑ = ϑ 1,..., ϑ r Θ. Először a már korábba defiiált likelihood függvéyt terjesztjük ki Θ R r esetre Defiíció. A ξ 1,..., ξ mita likelihood függvéye l : X Θ R, f ϑ x i, l x 1,..., x, ϑ 1,..., ϑ r := P ϑ ξ i = x i, ha ξ absz. folyt., ha ξ diszkrét Defiíció. A ϑ k = T k ξ 1,..., ξ statisztika a ϑ k maximum likelihood becslése k = 1,..., r, ha l ξ 1 ω,..., ξ ω, ϑ 1 ω,..., ϑ r ω l ξ 1 ω,..., ξ ω, ϑ 1,..., ϑ r 58

60 mide ϑ 1,..., ϑ r Θ és ω Ω eseté. Tehát a becslés kiszámítása em más, mit szélsőértékhely keresés. Praktikus okból em a likelihood függvéyek fogjuk a maximumhelyét keresi, haem a természetes alapú logaritmusáak. Ezzel a szélsőértékhely em változik, hisze l szigorúa mooto övekvő függvéy. Az ok az, hogy ekkor em szorzatot, haem összeget kell vizsgáli Defiíció. A ξ 1,..., ξ mita loglikelihood függvéye L := l l Feladat. Legye ξ egyeletes eloszlású az [a, b] itervallumo. Számolja ki a és b maximum likelihood becslését. Megoldás. A loglikelihood függvéy lb a, ha ξ1 a és ξ b, L ξ 1,..., ξ, a, b = 0, külöbe. Eek maximumhelye â = ξ 1 és b = ξ, így a maximum likelihood becslése a-ak â = ξ 1 és b-ek b = ξ Feladat. Legye ξ Poisso-eloszlású λ paraméterrel. Számolja ki λ maximum likelihood becslését azzal a feltevéssel, hogy a mitarealizációak va ullától külöböző eleme. Megoldás. L ξ 1,..., ξ, λ = l λξ i szerit differeciálható függvéy az R + halmazo. Mivel ξ i! e λ = ξ i l λ l ξ i! λ, ami λ változó λ L ξ 1,..., ξ, λ = ξ λ = 0 megoldása ξ, és λ L ξ 1,..., ξ, ξ = /ξ < 0, ezért ξ lokális maximumhely. Mivel R + összefüggő halmaz, és csak egy lokális szélsőértékhely va, ezért ξ globális maximumhely. Tehát a maximum likelihood becslése λ-ak λ = ξ Feladat. Legye ξ Expλ. Számolja ki λ maximum likelihood becslését. Megoldás. L ξ 1,..., ξ, λ = l λe λξ i = l λ λξ i = l λ λξ, ami λ változó szerit differeciálható függvéy az R + halmazo. Mivel λ L ξ 1,..., ξ, λ = λ ξ = 0 59

61 megoldása 1/ξ, és λ L ξ 1,..., ξ,1/ξ = ξ < 0, ezért 1/ξ lokális maximumhely. Mivel R + összefüggő halmaz, és csak egy lokális szélsőértékhely va, ezért 1/ξ globális maximumhely. Tehát a maximum likelihood becslése λ-ak λ = 1/ξ Feladat. Legye ξ Normm; σ. Számolja ki m és σ maximum likelihood becslését. Megoldás. A loglikelihood függvéy L ξ 1,..., ξ, m, σ = = ξ i m = 1 l σ π exp σ l σ l π ξ i m ami m és σ változók szerit parciálisa differeciálható függvéy az R R + halmazo. Tekitsük a következő egyeletredszert: σ m L ξ 1,..., ξ, m, σ = ξ m = 0 σ σ L ξ 1,..., ξ, m, σ = σ + 1 ξ σ 3 i m = 0 Eek egyetle megoldása: m = ξ és σ = S. Másrészt, A := m L ξ 1,..., ξ, m, σ = S B := σ L ξ 1,..., ξ, m, σ = S C := m σ L ξ 1,..., ξ, m, σ = 0 < 0 továbbá AB C = > 0, így ξ, S S 4 lokális maximumhely. Mivel R R + összefüggő halmaz, és csak egy lokális szélsőértékhely va, ezért ξ, S globális maximumhely. Tehát a maximum likelihood becslése m-ek m = ξ, illetve σ-ak σ = S. Az utóbbi három példába láttuk, hogy a maximum likelihood becslés meghatározásáál kulcsszerepe lehet a ϑ k L ξ 1,..., ξ, ϑ 1,..., ϑ r = 0 k = 1,..., r egyeletredszerek. Ezt az egyeletredszert likelihood egyeletredszerek evezzük. Természetese r = 1 eseté egyeletredszer helyett egyeletetet kapuk. Sok- 60

62 szor a likelihood egyeletredszer megoldása és a maximum likelihood becslés egybeesik, de ez em midig va így. Ilye példa kostruálása ige boyolult, most eltekitük tőle. A likelihood egyelet megoldásáak a jó tulajdoságát, bizoyos feltételek eseté, a következő tétel fogalmazza meg Tétel Wald-tétel. Ha Θ R, az L 1 differeciálható a valódi ϑ paraméter egy U Θ köryezetébe, továbbá E ϑ L 1 ξ, ϑ létezik és véges mide ϑ U eseté, akkor a likelihood egyeletek va olya ϑ megoldása, amelyre teljesül, hogy P ϑ ahol a mita elemszámát jeleti. lim ϑ = ϑ = 1, Bizoyítás. Csak abszolút folytoos esetbe bizoyítuk, de diszkrét esetbe aalóg módo járhatuk el, melyet az Olvasóra bízuk. Mivel l kovex függvéy, ezért a Jese-egyelőtleség alapjá mide ϑ U eseté E ϑ L 1 ξ, ϑ E ϑ L 1 ξ, ϑ = E ϑ l l 1ξ, ϑ l 1 ξ, ϑ l 1 ξ, ϑ l E ϑ l 1 ξ, ϑ = l f ϑ x dx = l 1 = 0, azaz az idetifikálhatóság miatt mide ϑ U, ϑ ϑ eseté E ϑ L 1 ξ, ϑ < E ϑ L 1 ξ, ϑ. A Kolmogorov-féle agy számok erős törvéye és L ξ 1,..., ξ, ϑ = l f ϑ ξ i miatt P ϑ lim 1 L ξ 1,..., ξ, ϑ = E ϑ L 1 ξ, ϑ = 1 mide ϑ U eseté. Midezekből kapjuk, hogy P ϑ lim 1 L 1 ξ 1,..., ξ, ϑ < lim L ξ 1,..., ξ, ϑ = 1 61

63 mide ϑ U, ϑ ϑ eseté. Ebből elég agy -ekre kapjuk, hogy P ϑ L ξ 1,..., ξ, ϑ < L ξ 1,..., ξ, ϑ = 1 mide ϑ U, ϑ ϑ eseté. Most legye δ > 0 olya, hogy ϑ ± δ U. Ekkor elég agy -ekre P ϑ L ξ 1,..., ξ, ϑ ± δ < L ξ 1,..., ξ, ϑ = 1, melyből következik az állítás, hisze δ tetszőlegese kicsi lehet. A likelihood egyelet egy megoldásáak további jó tulajdoságait állítja Cramér tétele, melyet boyolultsága miatt itt em taglaluk lásd például Fazekas Istvá: Bevezetés a matematikai statisztikába, 90. oldal. 6

64 4. Itervallumbecslések 4.1. Az itervallumbecslés feladata Legye ξ a vizsgált valószíűségi változó az Ω, F, P, P = { P ϑ : ϑ Θ } statisztikai mező, ahol Θ R v yílt halmaz. A feladat ϑ 1,..., ϑ v Θ, k { 1,..., v } jelöléssel ϑ k valódi értékéek becslése. Amit korábba láttuk a potbecslés ϑ k valódi értékét egy számmal becsli. Midezt egy statisztika realizációjával tettük meg. Itervallumbecslésél egy olya itervallumot aduk meg, amelybe a ϑ k valódi értéke agy valószíűséggel beleesik. Eze itervallum alsó és felső végpotját egy-egy statisztika realizációjával adjuk meg. Magát a becslő itervallumot kofideciaitervallumak fogjuk evezi Defiíció. Legye a ξ-re voatkozó mita ξ 1,..., ξ, továbbá τ 1 := T 1 ξ 1,..., ξ és τ := T ξ 1,..., ξ statisztikák. Azt modjuk, hogy [τ 1, τ ] 1 α biztosági szitű kofideciaitervallum a ϑ k paraméterre, ha P ϑ τ 1 ϑ k τ 1 α mide ϑ = ϑ 1,..., ϑ v Θ eseté, ahol 0 < α < 1. A [τ 1, τ ] itervallumot cetrált kofideciaitervallumak evezzük ϑ k -ra, ha P ϑ ϑ k < τ 1 = P ϑ ϑ k > τ mide ϑ = ϑ 1,..., ϑ v Θ eseté. Az if P ϑτ 1 ϑ k τ ϑ Θ értéket a ϑ k -ra voatkozó [τ 1, τ ] kofideciaitervallum potos biztosági szitjéek evezzük. Ha ξ diszkrét, akkor adott α-hoz em feltétleül található olya kofideciaitervallum, melyek 1 α a potos biztosági szitje. Ezért defiiáltuk a biztosági szitet az előző módo. 63

65 4.. Kofideciaitervallum a ormális eloszlás paramétereire 4.. Feladat. Legye ξ Normm; σ és ξ 1,..., ξ egy ξ-re voatkozó mita. Tegyük fel, hogy m ismeretle, de σ ismert. Adjo m-re olya cetrált kofideciaitervallumot, melyek 1 α a potos biztosági szitje. A megoldáshoz szükségük lesz a következő tételre Tétel. Ha ξ Normm; σ és ξ 1,..., ξ egy ξ-re voatkozó mita, akkor ξ m Norm0; 1. σ Bizoyítás. Tudjuk, hogy ξ ormális eloszálú, E ξ = E ξ = m és D ξ = 1 D ξ = = 1 σ, azaz ξ Norm σ m;. Így, ha F jelöli a ξ m eloszlásfüggvéyét, akkor x R eseté F x = P ξ < σ σ x + m = Φ σ x + m m = Φx. σ Ezzel bizoyított az állítás. Most térjük vissza a feladatra. Megoldás. Legye u α/ R +. Ekkor az előző tétel szerit P m u α/ ξ m uα/ = Φu α/ Φ u α/ = Φu α/ 1. σ Mivel Φu α/ 1 = 1 α potosa akkor teljesül, ha u α/ = Φ 1 1 α, ezért ilye u α/ -re átredezéssel azt kapjuk, hogy P m ξ σ u α/ m ξ + σ u α/ = 1 α. Köyű láti, hogy ez cetrált kofideciaitervallum, hisze P m m > ξ + σ ξ m u α/ = P m < uα/ = σ = Φ u α/ = 1 Φu α/ = 1 1 α = α. Összefoglalva tehát a megoldás: u α/ := Φ 1 1 α 64

66 τ 1 := ξ σ u α/ τ := ξ + σ u α/ jelölésekkel [τ 1, τ ] olya cetrált kofideciaitervallum m-re, melyek 1 α a potos biztosági szitje Feladat. Legye ξ Normm; σ és ξ 1,..., ξ egy ξ-re voatkozó mita. Tegyük fel, hogy m ismert és σ ismeretle. Adjo σ-ra olya cetrált kofideciaitervallumot, melyek 1 α a potos biztosági szitje. A megoldáshoz szükségük lesz a következő tételre Tétel. Ha ξ Normm; σ és ξ 1,..., ξ egy ξ-re voatkozó mita, akkor ξ i m σ Khi. Bizoyítás. Mivel ξ i m i = 1,..., függetle stadard ormális eloszlású valószíűségi változók, ezért a égyzetösszegük szabadsági fokú khi-égyzet σ eloszlású valószíűségi változó. A feladat megoldása előtt bevezetük egy jelölést, melyet a továbbiakba gyakra foguk alkalmazi. Legye η egy tetszőleges valószíűségi változó, és V az η-val azoos eloszlású valószíűségi változók halmaza. Ekkor F V jelölje azt, hogy F a V-beli valószíűségi változók közös eloszlásfüggvéye. Például Φ Norm0; 1. Megoldás. Legye χ α1, χ α R + és F Khi. Ekkor az előző tétel szerit P σ P σ ξ i m σ ξ i m σ < χ α1 > χ α = F χ α1, = 1 F χ α. Mivel F χ α1 = 1 F χ α = α potosa akkor teljesül, ha χ α1 = F 1 α és χ α = F 1 1 α, ezért ebbe az esetbe ξ i m P σ χ α1 χ α = 1 α, σ 65

67 azaz átredezve P σ ξ i m χ α σ ξ i m χ α1 = 1 α. Vegyük észre, hogy α < 1 α miatt χ α1 < χ α. Összefoglalva tehát a megoldás: F Khi α χ α1 := F 1 χ α := F 1 1 α τ 1 := τ := ξ i m χ α ξ i m χ α1 jelölésekkel [τ 1, τ ] olya cetrált kofideciaitervallum σ-ra, melyek 1 α a potos biztosági szitje Feladat. Legye ξ Normm; σ és ξ 1,..., ξ egy ξ-re voatkozó mita. Tegyük fel, hogy m és σ ismeretleek. Adjo σ-ra cetrált kofideciaitervallumot, melyek 1 α a potos biztosági szitje. A megoldáshoz szükségük lesz a következő tételre Tétel. Ha ξ Normm; σ és ξ 1,..., ξ egy ξ-re voatkozó mita, akkor ξ és S függetleek, továbbá S Khi 1. σ Bizoyítás. Legye X := ξ 1 m,..., ξ m, az U olya -es ortoormált mátrix azaz U U egységmátrix, melyek első sorába mide elem 1, továbbá Y := η 1,..., η := UX. Ekkor η 1 = 1 ξ i m, azaz 1 η 1 = ξ m, továbbá ξ i m = X X = X U UX = Y Y = ηi. 66

68 Midezekből a Steier-formula alapjá S = 1 ξ i m ξ m = 1 ηi 1 η 1 = 1 ηi, i= azaz S σ = i= ηi. σ Jelölje u ij az U mátrix i-edik sorába és j-edik oszlopába álló elemét. Ekkor η i = = j=1 u ijξ j m, amiből következik, hogy η i ormális eloszlású, E η i = u ij E ξ j m = 0 j=1 és az U ortoormáltsága miatt D η i = u ij D ξ j m = σ u ij = σ. j=1 j=1 Így η i Norm0; σ. Másrészt i j eseté cov η i, η j = E η i η j = u il u jt covξ l, ξ t = l=1 t=1 u il u jl = 0. l=1 Ezekből következik, hogy η 1,..., η függetleek. Mivel ξ csak η 1 -től függ, illetve S csak η,..., η -től függ, ezért ξ és S függetleek. Másrészt azt is kaptuk, hogy η σ,..., η σ olya függetle stadard ormális eloszlású valószíűségi változók, melyekek a égyzetösszege S σ. Ebből már következik, hogy S σ Khi 1. Most rátérük a feladat megoldására. Megoldás. Legye χ α1, χ α R + és F Khi 1. Ekkor az előző tétel szerit S P m,σ σ < χ α1 = F χ α1, S P m,σ σ > χ α = 1 F χ α. Mivel F χ α1 = 1 F χ α = α potosa akkor teljesül, ha χ α1 = F 1 α és 67

69 χ α = F 1 1 α, ezért ebbe az esetbe P m,σ χ α1 S σ χ α = 1 α, azaz átredezve P m,σ S χ α σ S χ α1 = 1 α. Vegyük észre, hogy α < 1 α miatt χ α1 < χ α. Összefoglalva tehát a megoldás: F Khi 1 α χ α1 := F 1 χ α := F 1 1 α τ 1 := S χ α τ := S χ α1 jelölésekkel [τ 1, τ ] olya cetrált kofideciaitervallum σ-ra, melyek 1 α a potos biztosági szitje Megjegyzés. Az előző megoldásba τ 1 és τ függetle m-től, ezért ez akkor is jó megoldást ad, ha a feladat feltételébe m ismert Feladat. Legye ξ Normm; σ és ξ 1,..., ξ egy ξ-re voatkozó mita. Tegyük fel, hogy m és σ ismeretleek. Adjo m-re cetrált kofideciaitervallumot, melyek 1 α a potos biztosági szitje. A megoldáshoz szükségük lesz a következő tételre Tétel. Ha ξ Normm; σ és ξ 1,..., ξ egy ξ-re voatkozó mita, akkor Bizoyítás. Korábba láttuk, hogy ξ m σ ξ m t 1. S S Norm0; 1 és Khi 1, σ 68

70 továbbá ezek függetleek. Így 1 ξ m S σ σ = ξ m S ξ m 1 = t 1. S Rátérük a feladat megoldására. Megoldás. Legye t α/ R + és F t 1. Ekkor az előző tétel szerit P m,σ t α/ ξ m tα/ = F t α/ F t α/ = F t α/ 1. S Mivel F t α/ 1 = 1 α potosa akkor teljesül, ha t α/ = F 1 1 α, ezért ilye t α/ -ra átredezéssel azt kapjuk, hogy P m,σ ξ S t α/ m ξ + S t α/ = 1 α. Köyű láti, hogy ez cetrált kofideciaitervallum, hisze P m,σ m > ξ + S ξ m t α/ = P m,σ < tα/ = S = F t α/ = 1 F t α/ = 1 1 α = α. Összefoglalva tehát a megoldás: F t 1 t := F 1 1 α τ 1 := ξ S t α/ τ := ξ + S t α/ jelölésekkel [τ 1, τ ] olya cetrált kofideciaitervallum m-re, melyek 1 α a potos biztosági szitje Megjegyzés. Az előző megoldásba τ 1 és τ függetle σ-tól, ezért ez akkor is jó megoldást ad, ha a feladat feltételébe σ ismert. 69

71 4.3. Kofideciaitervallum az expoeciális eloszlás paraméterére 4.1. Feladat. Legye ξ Expλ és ξ 1,..., ξ egy ξ-re voatkozó mita. Tegyük fel, hogy λ ismeretle. Adjo λ-ra cetrált kofideciaitervallumot, melyek 1 α a potos biztosági szitje. Megoldás. Mivel x > 0 eseté P λ λξ < x = P λ ξ < x = 1 e λ x λ = 1 e x, λ ezért λξ Exp1, következésképpe λξ λξ = λξ Gamma; 1. Így γ α1, γ α R + és F Gamma; 1 eseté P λ λξ < γα1 = F γα1, P λ λξ > γα = 1 F γα. Mivel F γ α1 = 1 F γ α = α potosa akkor teljesül, ha γ α1 = F 1 α és γ α = = F 1 1 α, ezért ebbe az esetbe P λ γα1 λξ γ α = 1 α, azaz átredezve γα1 P λ ξ λ γ α = 1 α. ξ Vegyük észre, hogy α < 1 α miatt γ α1 < γ α. Összefoglalva tehát a megoldás: F Gamma; 1 α γ α1 := F 1 γ α := F 1 1 α τ 1 := γ α1 ξ τ := γ α ξ jelölésekkel [τ 1, τ ] olya cetrált kofideciaitervallum σ-ra, melyek 1 α a potos 70

72 biztosági szitje Kofideciaitervallum valószíűségre Feladat. Legye ξ Bi1; p és ξ 1,..., ξ egy ξ-re voatkozó mita. Tegyük fel, hogy p ismeretle. Adjo p-re cetrált kofideciaitervallumot, melyek 1 α a biztosági szitje. Vegyük észre, hogy ξ egy p valószíűségű eseméy idikátorváltozója, így a feladat úgy is megfogalmazható, hogy egy eseméy valószíűségére adjo kofideciaitervallumot. Ekkor ξ az eseméy relatív gyakoriságát jeleti kísérlet utá. Megoldás. Bizoyítható, hogy τ 1 := 1 max { c N : τ := 1 mi { c N : c i i=0 c i i=0 ξ i 1 ξ i < α } ξ i 1 ξ i 1 α jelölésekkel [τ 1, τ ] 1 α biztosági szitű kofideciaitervallum p-re. Eek bizoyítása azo múlik, hogy ξ Bi; p, de itt em részletezzük lásd Kedall, Stuart: The theory of advaced statistics, oldal. Az előző megoldás kiszámítása agy -re komplikált. Eek kikerülésére ebbe az esetbe lehetőség va egy másik kofideciaitervallum szerkesztésére is a Moivre Laplace-tétel segítségével. Ugyais ξ Bi; p miatt u α/ R + eseté P p u α/ ξ p u α/ Φu α/ Φ u α/ = Φu α/ 1. p1 p } Mivel Φu α/ 1 = 1 α potosa akkor teljesül, ha u α/ = Φ 1 1 α, ezért ilye u α/ -re átredezéssel azt kapjuk, hogy P p 1 + u α/ p ξ + u α/ p + ξ 0 1 α. A p-be másodfokú 1 + u α/ p ξ + u α/ p + ξ 71

73 poliom gyökei így ξ + u α/ ± u α/ ξ1 ξ + u α/ u α/ u α/ := Φ 1 1 α, τ 1 := ξ + u α/ u α/ ξ1 ξ + u α/ u α/ τ := ξ + u α/ + u α/ ξ1 ξ + u α/ u α/ jelölésekkel [τ 1, τ ] 1 α biztosági szitű kofideciaitervallum p-re. Ha olya agy, hogy 1 elhayagolhatóa kicsi 1 -hez képest, akkor a megoldás tovább egyszerűsíthető: τ 1 = ξ u α/ ξ1 ξ τ = ξ + u α/ ξ1 ξ Általáos módszer kofideciaitervallum készítésére Legye ξ a vizsgált valószíűségi változó az Ω, F, P, P = { P ϑ : ϑ Θ } statisztikai mező, ahol Θ R yílt halmaz, és a ξ valószíűségi változó F ϑ eloszlásfüggvéye folytoos mide ϑ Θ eseté. Mivel x > 0 eseté P ϑ l F ϑ ξ < x = P ϑ ξ > F 1 ϑ e x = 1 F ϑ F 1 ϑ e x = 1 e x, ezért l F ϑ ξ Exp1, következésképpe l F ϑ ξ i Gamma; 1. Így γ α1, γ α R + és F Gamma; 1 eseté P ϑ l F ϑ ξ i < γ α1 = F γ α1, 7

74 P ϑ l F ϑ ξ i > γ α = 1 F γ α. Mivel F γ α1 = 1 F γ α = α potosa akkor teljesül, ha γ α1 = F 1 α és γ α = = F 1 1 α, ezért ebbe az esetbe P ϑ γ α1 l F ϑ ξ i γ α = 1 α. Ie a kokrét eloszlás ismeretébe a kofideciaitervallum szerecsés esetbe már megadható. Tulajdoképpe ezt alkalmaztuk az expoeciális eloszlás paraméteréek itervallumbecsléséél Feladat. Legye ξ az [a, b] itervallumo egyeletes eloszlású, ahol a ismert, b ismeretle, és ξ 1,..., ξ a ξ-re voatkozó mita. Adjo b-re cetrált kofideciaitervallumot, melyek 1 α a biztosági szitje. Megoldás. Mivel F b ξ i = ξ i a, így az előzőek miatt a b a γ α1 l ξ i a b a γ α egyelőtleséget kell b-re redezi. Azt kapjuk, hogy a + e γ α1 így a feladat megoldása: ξ i a 1 b a + e γ α ξ i a 1, F Gamma; 1 α γ α1 := F 1 γ α := F 1 1 α τ 1 := a + e γ α1 ξ i a τ := a + e γ α ξ i a jelölésekkel [τ 1, τ ] cetrált kofideciaitervallum b-re, 1 α biztosági szittel

75 5. Hipotézisvizsgálatok 5.1. A hipotézisvizsgálat feladata és jellemzői Ebbe a fejezetbe azt vizsgáljuk, hogya lehet dötei a mitarealizáció alapjá arról, hogy egy a statisztikai mezőre voatkozó feltételezést, más szóval hipotézist elfogadjuk-e igazak vagy sem. Ez a hipotézis lehet például az, hogy a vizsgált valószíűségi változó ormális eloszlású, vagy a valószíűségi változó várható értéke megfelel az előírásak, vagy két valószíűségi változó függetle, vagy várható értékeik megegyezek stb Null- illetve ellehipotézis Azt a feltételezést, amelyről dötést akaruk hozi, ullhipotézisek evezzük és H 0 - val jelöljük. Legye P H0 P azo valószíűségek halmaza, melyek a H 0 teljesülése eseté lehetségesek. Feltételezzük, hogy ez em üreshalmaz. Ha H 0 -t elutasítjuk, akkor egy azzal elletétes állítást fogaduk el, melyet ellehipotézisek evezük, és H 1 -gyel jelölük. Általába H 0 és H 1 közül az egyik midig bekövetkezik, de ez em midig va így lásd például az úgyevezett egyoldali ellehipotéziseket. Eek okát később taglaljuk. Legye P H1 P azo valószíűségek halmaza, melyek a H 1 teljesülése eseté lehetségesek. Feltételezzük, hogy ez em üreshalmaz Statisztikai próba terjedelme és torzítatlasága Tegyük fel, hogy a ξ 1,..., ξ k valószíűségi vektorváltozóra voatkozik H 0, melyek redre d 1,..., d k dimeziósak. ξ i -re voatkozzo a ξ i 1,..., ξ i i mita i = 1,..., k. Legye C 0 R d 1 1 R d k k. Ha a kísérletbe az ω Ω elemi eseméy következett be, és ξ 1 1 ω,..., ξ 1 1 ω,..., ξ k 1 ω,..., ξ k k ω C 0, akkor H 0 -t elfogadjuk, ellekező esetbe pedig elutasítjuk. Ezt az eljárást statisztikai próbáak vagy hipotézisvizsgálatak evezzük. C 0 az úgyevezett elfogadási tartomáy. C 0 komplemeterét C 1 -gyel jelöljük, és kritikus tartomáyak evezzük. 74

76 Dötésük lehet helyes, vagy helytele az alábbiak szerit: H 0 -t elfogadjuk H 0 -t elutasítjuk H 0 igaz helyes dötés elsőfajú hiba H 1 igaz másodfajú hiba helyes dötés Legye 0 < α < 1. Az α számot a próba terjedelméek evezzük, ha mide P P H 0 eseté P ξ 1 1,..., ξ 1 1,..., ξ k 1,..., ξ k k C 1 α teljesül, azaz az elsőfajú hiba valószíűsége legfeljebb α. Ekkor az 1 α számot a próba szitjéek evezzük. Ez azt az értéket jeleti, amelyél agyobb vagy egyelő valószíűséggel elfogadjuk H 0 -t, ha az igaz. A próba potos terjedelme α, ha sup P ξ 1 1,..., ξ 1 1,..., ξ k 1,..., ξ k k C 1 = α. P P H0 Ha a vizsgált valószíűségi vektorváltozók diszkrétek, akkor adott α-hoz em biztosa található olya elfogadási tartomáy, mellyel a próba potos terjedelme α. Ezért defiiáltuk a próba terjedelmét az előző módo. Ha egy α terjedelmű próba eseté mide P P H1 -re P ξ 1 1,..., ξ 1 1,..., ξ k 1,..., ξ k k C 1 α teljesül, akkor a próbát torzítatlaak evezzük. Ez azt jeleti, hogy H 0 -t agyobb valószíűséggel utasítjuk el, ha H 1 igaz, mit amikor H 0 igaz Próbastatisztika Elfogadási tartomáy kostruálásához H 0 eseté ismert eloszlású τ := T ξ 1 1,..., ξ 1 1,..., ξ k 1,..., ξ k k statisztikára lesz szükségük, mely léyegese másképp viselkedik H 0 illetve H 1 teljesülése eseté. Az ilye statisztikát próbastatisztikáak evezzük. Ekkor rögzített α eseté meg tuduk adi egy olya I τ R itervallumot, melyre mide P P H0 eseté teljesül, hogy Pτ I τ 1 α. 75

77 Célszerűbb a Pτ I τ = 1 α feltétel, mert ekkor α a potos terjedelem lesz, de ez em midig teljesíthető. Az I τ végpotjait kritikus értékekek evezzük. Ezutá legye C 0 := { x R d 1 1 R d k k : T x I τ }. Mivel a ξ 1 1,..., ξ 1 1,..., ξ k 1,..., ξ k k C 0 eseméy potosa akkor következik be, amikor τ I τ, ezért ekkor α terjedelmű próbát kapuk. A gyakorlatba sokkal egyszerűbb a τ I τ eseméy megadása, mit a C 0 felírása, ezért az előbbit választjuk. Szokás a τ I τ eseméyt is elfogadási tartomáyak evezi, míg a τ I τ eseméyt kritikus tartomáyak bár helyesebb lee az elfogadási illetve kritikus eseméy elevezés A statisztikai próba meete Amikor a rögzített α próbaterjedelemhez és a választott τ próbastatisztikához megválasztjuk az I τ itervallumot, akkor ügyeli kell arra, hogy a másodfajú hiba valószíűsége azaz aak a valószíűsége, hogy H 1 teljesülése eseté H 0 -t elfogadjuk kicsi legye. Ehhez I τ megadásáál em csak H 0 -t, haem H 1 -t is figyelembe kell vei. A gyakorlatba a meetred a következő: 1 H 0 ismeretébe kiválasztjuk a τ próbastatisztikát. H 1 és τ ismeretébe kiválasztjuk R \ I τ jellegét:, a, b,, c, d stb. Ez fotos pot, mert ha itt rosszul választuk, akkor a másodfajú hiba valószíűsége túl agy lesz. 3 A τ próbastatisztika H 0 eseté teljesülő eloszlásáak, I τ jellegéek és α-ak az ismeretébe meghatározzuk a kritikus értékeket. 4 A próbastatisztika, a mitarealizáció és I τ ismeretébe dötést hozuk. Ha a próbastatisztika realizációja I τ -ba esik, akkor H 0 -t elfogadjuk H 1 elleébe α terjedelemmel. Ha a próbastatisztika realizációja em esik I τ -ba, akkor H 0 -t elutasítjuk H 1 elleébe α terjedelemmel, vagyis ilyekor H 1 -gyet fogadjuk el A ullhipotézis és az ellehipotézis megválasztása A gyakorlatba em mide esetbe érdemes a sejtésüket, vagy az elvárásukat megválasztai ullhipotézisek, mert em találák hozzá próbastatisztikát. Ilyekor ezt ellehipotéziskét kezeljük, és egy olya ezzel elletétes állítást fogaduk el 76

78 ullhipotézisek, amelyhez már találuk megfelelő próbastatisztikát. Midez érthetőbbé válik a következő példá: A tejiparba haszos lehete egy olya eljárás, melyek révé agyobb aráyba születe üszőborjú, mit bikaborjú, hisze ekkor több fejőteheet evelhetéek fel azoos születésszám mellett. Egy kutató javasol egy ilye eljárást. Hogya lehete elleőrizi az állítását? Jelölje p aak a valószíűségét, hogy az eljárás alkalmazásával üszőborjú születik. Ekkor a kutató állítása az, hogy p > 1. Ezt viszot em célszerű H 0 -ak választai, ugyais ekkor em találuk próbastatisztikát. Ehelyett legye ez az ellehipotézis, míg p = 1 a ullhipotézis. Ebbe az esetbe már köyű próbastatisztikát megadi. Ugyais ha ξ jeleti az eljárás révé üszőborjú születéséek az idikátorváltozóját, és a ξ-re voatkozó mita ξ 1,..., ξ, akkor ξ azt jeleti, hogy -szer alkalmazva az eljárást háy darab üszőborjú született. Az ξ meg is felel próbastatisztikáak, hisze H 0 eseté -edredű 1 paraméterű biomiális eloszlású. Ebből a példából láthatóa em feltétleül kell teljesülie, hogy H 0 és H 1 közül az egyik midig bekövetkezik. Nézzük erre egy másik példát is: Egy kereskedő egy malomtól agytételbe lisztet redel 1 kg-os kiszerelésbe. Jeletse ξ a leszállított tételből egy véletleszerűe kiválasztott zacskó liszt tömegéek eltérését az elvárt 1 kg-tól. Ekkor az a ullhipotézis, hogy E ξ = 0. Ha ξ jó közelítéssel ormális eloszlásúak tekithető, akkor a későbbiekbe tárgyalt úgyevezett egymitás t-próbáál láti fogjuk, hogy ehhez találhatuk próbastatisztikát. Most az a kérdés, hogy mi legye az ellehipotézis. Ha E ξ 0 lee, akkor H 0 elutasítása eseté csak az derüle ki, hogy a zacskók tömege em felel meg a redelések. Ez azoba em biztosa jelet rosszat a kereskedőek. Hisze, ha valójába E ξ > 0 teljesül, akkor a kereskedőtől vásárlók csak ritká reklamáláak. Ezért célszerűbb E ξ < 0 megválasztása H 1 -ek. Ekkor ugyais H 0 elutasítása eseté érdemes megfotolia a kereskedőek a leszállított tétel visszautasítását. Vagyis most a kereskedő számára rossz esetet tekitjük ellehipotézisek, azt remélvé, hogy a módszer agy valószíűséggel megvédi őt az előytele vételtől. Ehhez persze az kell, hogy a másodfajú hiba valószíűsége kicsi legye A próba erőfüggvéye és koziszteciája Ha ξ a vizsgált valószíűségi változó az Ω, F, P, P = { P ϑ : ϑ Θ } statisztikai mező, ahol Θ R, és a ξ-re voatkozó mita ξ 1,..., ξ, továbbá ha ϑ 0 Θ rögzített és C 1 kritikus tartomáy mellett dötük a H 0 : ϑ = ϑ 0 ullhipotézisről, akkor a γ : Θ R, γϑ := P ϑ ξ1,..., ξ C 1 77

79 függvéyt a próba erőfüggvéyéek evezzük. Ha H 1 : ϑ Θ 1 Θ\{ ϑ 0 } és mide ϑ Θ 1 eseté lim P ϑ ξ1,..., ξ C 1 = 1, akkor azt modjuk, hogy a próba kozisztes. Az erőfüggvéy a másodfajú hiba vizsgálatába haszos. Ez az úgyevezett egymitás u-próba kapcsá válik majd világossá. A kozisztecia tulajdoképpe azt jeleti, hogy a másodfajú hiba valószíűsége a mitaelemek számáak övelésével 0 hoz tart. 5.. Paraméteres hipotézisvizsgálatok Ha a ullhipotézis ismert eloszláscsaládból származó valószíűségi változók eloszlásaiak paramétereire voatkozik, akkor paraméteres hipotézisvizsgálatról beszélük Egymitás u-próba 5.1. Feladat. Legye ξ Normm; σ, ahol m ismeretle és σ ismert, továbbá legye ξ 1,..., ξ a ξ-re voatkozó mita. A H 0 : m = m 0 H 1 : m m 0 kétoldali ellehipotézis hipotézisekre adjo adott α terjedelmű próbát, ahol m 0 R rögzített. Megoldás. Először próbastatisztikát aduk. Korábba már bizoyítottuk, hogy H 0 teljesülése eseté u := ξ m 0 Norm0; 1. σ A kritikus tartomáy megadásáál vegyük figyelembe, hogy ξ az m torzítatla becslése, így H 1 teljesülése eseté ξ m 0 várhatóa kritikus értékbe eltávolodik 0-tól. Következésképpe a stadard ormális eloszlás szimmetriája miatt célszerűek tűik, ha az elfogadási tartomáy u a a > 0 alakú. Ha P P H0, akkor P u a = Φa 1, így P u a = 1 α eseté a = Φ 1 1 α > 0. Tehát u Φ 1 1 α 78

80 elfogadási tartomáyal olya próbát kapuk, melyek a potos terjedelme α. Ezt a statisztikai próbát evezzük egymitás u-próbáak. 5.. Feladat. Az előző feladatot oldja meg H 1 : m < m 0 illetve H 1 : m > m 0 úgyevezett egyoldali ellehipotézisekre is. Megoldás. Itt is az előbbi u próbastatisztikát fogjuk haszáli. Először legye az ellehipotézis H 1 : m < m 0. Eek teljesülése eseté ξ m 0 várhatóa kritikus értékbe 0 alatt va. Így az elfogadási tartomáy u b b < 0 jellegű. Ha P P H0, akkor Pu b = 1 Φb, így Pu b = 1 α eseté b = Φ 1 α < 0. Tehát u Φ 1 α elfogadási tartomáyal olya próbát kapuk, melyek potos terjedelme α. Ezutá legye az ellehipotézis H 1 : m > m 0. Eek teljesülése eseté ξ m 0 várhatóa kritikus értékbe 0 fölött va. Így az elfogadási tartomáy u c c > 0 jellegű. Ha P P H0, akkor Pu c = Φc, így Pu c = 1 α eseté c = Φ 1 1 α > 0. Tehát u Φ 1 1 α elfogadási tartomáyal olya próbát kapuk, melyek potos terjedelme α Feladat. Vizsgálja meg az egymitás u-próbába a másodfajú hiba valószíűségét. Bizoyítsa be, hogy a próba torzítatla és kozisztes. Megoldás. Először számoljuk ki az u várható értékét és szórását: E m u = E m ξ m 0 m m 0 = σ σ 1 D m u = σ D m ξ = σ σ = 1. Mivel u az m bármely értéke eseté ormális eloszlású, ezért azt kapjuk, hogy m m0 u Norm ; 1. σ 79

81 Most tekitsük a kétoldali ellehipotézis esetét. Ekkor u α/ = Φ 1 1 α jelöléssel γm = P m ξ1,..., ξ C 1 = = P m u > u α/ = 1 P m u α/ u u α/ = = 1 Φ u α/ m m 0 + Φ u α/ m m 0. σ σ Deriváljuk γ-t, melyből azt kapjuk, hogy γ szigorúa mooto csökke a, m 0 ] itervallumo, illetve szigorúa mooto ő az [m 0, itervallumo, továbbá miimum helye va m 0 -ba, és a miimum értéke α. Az is köye látható, hogy lim γm = lim γm = 1. A következő ábrá γ grafikoját láthatjuk σ = m m = 1, m 0 = 0,5, α = 0,1, = 10 paraméterekkel. Midezek alapjá tehát, ha H 1 : m m 0 teljesül, akkor γm > α, melyből következik, hogy a próba torzítatla. Ha γ-t mit függvéyét tekitjük, akkor köye láthatjuk, hogy mide m m 0 eseté lim γm = 1, melyből már következik, hogy a próba kozisztes, azaz a mitaelemek számáak övelésével a másodfajú hiba valószíűsége 0-hoz tart. Érdekes még azt is megvizsgáli, hogy mikét változik a másodfajú hiba valószíűsége, ha az első fajú hiba valószíűségét, azaz α-t csökketjük. Ha α csökke, akkor u α/ = Φ 1 1 α ő, hisze Φ 1 övekvő függvéy. Másrészt, ha γ-t mit u α/ függvéyét tekitjük, akkor köye elleőrizhető, hogy < 0, azaz γ csökkeő. dγ du α/ Midezekből tehát kapjuk, hogy α csökketésével γ is csökke, azaz a másodfajú hiba valószíűsége ő. Ezutá tekitsük a H 1 : m < m 0 egyoldali ellehipotézist. Ekkor az erőfüggvéy u α = Φ 1 α jelöléssel γm = P m ξ1,..., ξ C 1 = Pm u < u α = Φ 80 u α m m 0 σ.

82 Φ szigorúa mooto övekvő, ezért γ szigorúa mooto csökkeő. Az is köye látható, hogy γm 0 = α, lim γm = 0 és lim γm = 1. A következő ábrá γ m m grafikoját láthatjuk σ = 1, m 0 = 0,5, α = 0,1, = 10 paraméterekkel. Midezek alapjá, ha H 1 : m < m 0 teljesül, akkor γm > α, melyből következik, hogy a próba torzítatla. Ha γ-t mit függvéyét tekitjük, akkor mide m < m 0 eseté lim γm = 1, melyből már következik, hogy a próba kozisztes. Ha α csökke, akkor u α = Φ 1 α is csökke, másrészt ekkor Φ övekedése miatt γ csökke. Midezekből tehát kapjuk, hogy α csökketésével γ is csökke, azaz a másodfajú hiba valószíűsége ő. A H 1 : m > m 0 eset tárgyalását az Olvasóra bízzuk Megjegyzés. A kritikus értékek kiszámolásáál az eddigiek alapjá szükség va a Φ 1 ismeretére. Valójába azoba elég csak a Φ haszálata. Ugyais H 1 : m m 0 ellehipotézisre voatkozó dötés eseté az u Φ 1 1 α elfogadási tartomáy ekvivales azzal, hogy α Φ u. Hasolóa, H 1 : m < m 0 illetve H 1 : m > m 0 ellehipotézisre voatkozó dötés eseté az elfogadási tartomáy ekvivales azzal, hogy α Φu illetve α 1 Φu Kétmitás u-próba 5.5. Feladat. Legye ξ Normm 1 ; σ 1, η Normm ; σ függetle valószíűségi változók, ahol m 1, m ismeretleek és σ 1, σ ismertek. Legye ξ 1,..., ξ 1 a ξ-re voatkozó, illetve η 1,..., η az η-ra voatkozó mita. A H 0 : m 1 = m 81

83 H 1 : m 1 m kétoldali ellehipotézis hipotézisekre adjo adott α terjedelmű próbát. A feladatot oldja meg H 1 : m 1 < m illetve H 1 : m 1 > m egyoldali ellehipotézisekre is. Megoldás. Ha H 0 igaz, akkor köye látható, hogy u := ξ η σ σ Norm0; 1. Először vizsgáljuk a kétoldali ellehipotézist. Ha ez teljesül, akkor ξ η várhatóa kritikus értékbe messze va 0-tól. Következésképpe a stadard ormális eloszlás szimmetriája miatt célszerűek tűik, ha az elfogadási tartomáy u a a > 0 alakú. Ebből az egymitás u-próbával megegyező módo bizoyítható, hogy u Φ 1 1 α α Φ u elfogadási tartomáyal olya próbát kapuk, melyek potos terjedelme α. Most legye H 1 : m 1 < m. Ha ez teljesül, akkor ξ η várhatóa kritikus értékbe 0 alatt va. Így az elfogadási tartomáy u b b < 0 jellegű. Ebből az egymitás esettel megegyező módo bizoyítható, hogy u Φ 1 α α Φu elfogadási tartomáyal olya próbát kapuk, melyek potos terjedelme α. Hasolóa, H 1 : m 1 > m eseté u Φ 1 1 α α 1 Φu elfogadási tartomáyal olya próbát kapuk, melyek potos terjedelme α. Ezt a statisztikai próbát evezzük kétmitás u-próbáak Feladat. Bizoyítsuk be, hogy a kétmitás u-próba eseté 1 a próba torzítatla; a két mita elemszámaiak övelésével a másodfajú hiba valószíűsége 0-hoz tart; 3 az elsőfajú hiba valószíűségéek csökketésével a másodfajú hiba valószíűsége ő. Megoldás. Csak kétoldali ellehipotézisre bizoyítuk, az egyoldaliakat az Olvasóra 8

84 bízzuk. Köye látható, hogy az m 1, m bármely értékei eseté így u α/ = Φ 1 1 α jelöléssel u Norm m 1 m ; 1, σ1 1 + σ γm 1, m := P m1,m ξ1,..., ξ 1, η 1,..., η C 1 = = P m1,m u > u α/ = 1 P m1,m u α/ u u α/ = = 1 Φ u α/ m 1 m σ σ + Φ u α/ m 1 m σ σ Tekitsük ezt, mit m 1, m szeriti kétváltozós függvéyt. Ekkor a szokásos eljárással kapjuk, hogy potosa H 0 eseté va miimuma a függvéyek és ott α az értéke. Ebből már adódik, hogy a próba torzítatla. Másrészt, ha γ-t, mit 1, szeriti kétváltozós függvéyt tekitjük, akkor 1, eseté a határértéke 1. Ebből adódik a állítás. Végül a 3 állítást hasolóa kell beláti, mit az egymitás u-próbáál Egymitás t-próba 5.7. Feladat. Legye ξ Normm; σ, ahol m és σ ismeretleek, továbbá legye ξ 1,..., ξ a ξ-re voatkozó mita. A H 0 : m = m 0 H 1 : m m 0 hipotézisekre adjo adott α terjedelmű próbát, ahol m 0 R rögzített. A feladatot oldja meg H 1 : m < m 0 illetve H 1 : m > m 0 egyoldali ellehipotézisekre is. Megoldás. Korábba bizoyítottuk, hogy H 0 teljesülése eseté t := ξ m 0 t 1. S A kétoldali ellehipotézis teljesülése eseté ξ m 0 várhatóa kritikus értékbe messze va 0-tól. Következésképpe a t-eloszlás szimmetriája miatt célszerűek tűik, ha az elfogadási tartomáy t a a > 0 alakú. A továbbiakba legye 83

85 F t 1. Ha P P H0, akkor P t a = F a 1, így P t a = 1 α eseté a = F 1 1 α > 0. Tehát t F 1 1 α α F t elfogadási tartomáyal olya próbát kapuk, melyek potos terjedelme α. Most legye H 1 : m < m 0. Eek teljesülésekor ξ m 0 várhatóa kritikus értékbe 0 alatt va. Így az elfogadási tartomáy t b b < 0 jellegű. Ha P P H0, akkor Pt b = 1 F b, így Pt b = 1 α eseté b = F 1 α < 0. Tehát t F 1 α α F t elfogadási tartomáyal olya próbát kapuk, melyek potos terjedelme α. Hasolóa, H 1 : m > m 0 eseté t F 1 1 α α 1 F t elfogadási tartomáyal olya próbát kapuk, melyek α a potos terjedelme. Ezt a statisztikai próbát evezzük egymitás t-próbáak Megjegyzés. Az egymitás u-próbával vett aalógia miatt erre a próbára is teljesül, hogy torzítatla, kozisztes és az elsőfajú hiba valószíűségéek csökketésével a másodfajú hiba valószíűsége ő. Eek bizoyításába az egymitás u-próbáál leírtakhoz képest csak ayit kell még felhaszáli, hogy S kozisztes becsléssorozata σ-ak Kétmitás t-próba, Scheffé-módszer 5.9. Feladat. Legyeek ξ Normm 1 ; σ 1, η Normm ; σ függetle valószíűségi változók, ahol m 1, m, σ 1, σ ismeretleek és σ 1 = σ. Legye ξ 1,..., ξ 1 a ξ-re voatkozó, illetve η 1,..., η az η-ra voatkozó mita 1,. A H 0 : m 1 = m H 1 : m 1 m hipotézisekre adjo adott α terjedelmű próbát. A feladatot oldja meg H 1 : m 1 < m illetve H 1 : m 1 > m egyoldali ellehipotézisekre is. 84

86 A feladat megoldásához szükségük lesz a következő tételre Tétel. Legyeek ξ, η Normm; σ függetleek, ξ 1,..., ξ 1 a ξ-re, illetve η 1,..., η az η-ra voatkozó mita 1,. Ekkor ξ η t Sξ, 1 + Sη, 1 + Bizoyítás. Korábba már bizoyítottuk, hogy ξ, η, S ξ,1, S η, függetleek, továbbá X := ξ η σ 1 + σ Norm0; 1 Y := S ξ, 1 σ 1 Khi 1 1 Z := S η, σ Khi 1. Ezekből kapjuk, hogy W := Y + Z Khi 1 +, továbbá X 1 + W t Köye látható, hogy X 1 + W = melyből kapjuk a tételt. ξ η 1 Sξ, 1 + Sη, Most térjük vissza a feladat megoldásához. Megoldás. Az előző tételbe bizoyítottuk, hogy H 0 eseté t := , ξ η t Sξ, 1 + Sη, 1 + Speciálisa := 1 = eseté t = ξ η 1 t. Sξ, + S η, A kétoldali ellehipotézis teljesülésekor ξ η várhatóa kritikus értékbe messze va 0-tól. Következésképpe a t-eloszlás szimmetriája miatt célszerűek tűik, ha 85

87 az elfogadási tartomáy t a a > 0 alakú. A továbbiakba legye F t Ha P P H0, akkor P t a = F a 1, így P t a = 1 α eseté a = F 1 1 α > 0. Tehát t F 1 1 α α F t elfogadási tartomáyal olya próbát kapuk, melyek potos terjedelme α. Hasolóa az egymitás t-próbához kapjuk, hogy H 1 : m 1 < m eseté t F 1 α α F t elfogadási tartomáyal, míg H 1 : m 1 > m eseté t F 1 1 α α 1 F t elfogadási tartomáyal olya próbát kapuk, melyek potos terjedelme α. Ezt a statisztikai próbát evezzük kétmitás t-próbáak Feladat. Oldjuk meg az előző feladatot akkor is, ha az ismeretle szórások viszoyát em ismerjük. Szükségük lesz a következő tételre Tétel. Legyeek ξ Normm 1 ; σ 1, η Normm ; σ függetle valószíűségi változók és ξ 1,..., ξ 1 a ξ-re voatkozó, illetve η 1,..., η az η-ra voatkozó mita 1. Ekkor m := m 1 m és σ := σ1 + 1 σ jelölésekkel 1 ξ i η i η k η Normm; σ i = 1,..., 1 1 függetle valószíűségi változók. k=1 Bizoyítás. Az állítás 1 = eseté triviális. Legye 1 < és Ekkor 1 ζ i := ξ i η i η k η i = 1,..., 1. 1 E ζ i = m 1 k=1 1 m m m = m 1 m = m, másrészt K i := {1,..., 1 } \ {i} és K := { 1 + 1,..., } jelölésekkel 1 ζ i = ξ i η k 1 η k η i, k K i k K 86

88 így D ζ i = σ σ, melyből kapjuk, hogy D ζ i = σ σ = σ. Mivel ζ i = ξ i + k=1 ai k η k alakú, azaz függetle ormális eloszlású valószíűségi változók lieáris kombiációja, ezért ζ i Normm; σ. Még a függetleséget kell beláti. Ehhez elég a covζ i, ζ j = = 0 i, j = 1,..., 1, i j megmutatása. k=1 a i k aj k = = 0, ezért i, j = 1,..., 1, i j eseté covζ i, ζ j = cov k=1 = k=1 Ezzel a bizoyítást befejeztük. l=1 k η k, a j k η k a i Most térjük rá a feladat megoldására. k=1 a i k aj l covη k, η l = = k=1 a i k aj k σ = 0. Megoldás. Az általáosság megszorítása élkül feltehetjük, hogy 1. Az előző tétel szerit va olya ormális eloszlású m = m 1 m várható értékű ζ valószíűségi változó, hogy 1 ζ i := ξ i η i η k η i = 1,..., 1 1 ζ-ra voatkozó mita. Vegyük észre, hogy 1 = eseté ζ i = ξ i η i. Végezzük el erre a mitára az egymitás t-próbát m 0 = 0 választással. Ekkor k=1 m = 0 m 1 = m m 0 m 1 m m < 0 m 1 < m m > 0 m 1 > m 87

89 miatt eek a próbáak a hipotézisei egybeesek a feladat hipotéziseivel. Tehát legye t := ζ S ζ, 1 1 és F t 1 1. Ekkor H 1 : m 1 m eseté t F 1 1 α α F t elfogadási tartomáyal a próba potosa α terjedelmű. Másrészt H 1 : m 1 < m eseté t F 1 α α F t elfogadási tartomáyal, míg H 1 : m 1 > m eseté t F 1 1 α α 1 F t elfogadási tartomáyal olya próbát kapuk, melyek potos terjedelme α. Ezt az eljárást Scheffé-módszerek evezzük, amely tehát em egy öálló próba, haem egy eljárás, melyek révé úgy traszformáljuk a mitát, hogy azo az egymitás t-próba végrahajtható legye, és ebből dötei tudjuk a hipotézisekre voatkozóa Megjegyzés. Tegyük fel, hogy a ξ-re és η-ra voatkozó miták em függetleek, haem úgyevezett párosított miták, azaz valójába a ξ, η kétdimeziós vektorváltozóra voatkozik. A feladat potosa az, mit a Scheffé-módszerél volt, azaz a várható értékeket kell összehasolítai. Ha teljesül, hogy ξ η ormális eloszlású, akkor köye láthatóa, a Scheffé-módszer 1 = eset itt is alkalmazható, azaz a külöbség mitára kell végrehajtai az egymitás t-próbát m 0 = 0 választással F-próba A kétmitás t-próbát azzal a feltétellel tudjuk alkalmazi, hogy az ismeretle szórások megegyezek. Eek a feltételek a teljesülését vizsgáljuk ebbe az alszakaszba Feladat. Legyeek ξ Normm 1 ; σ 1, η Normm ; σ függetle valószíűségi változók, ahol m 1, m, σ 1, σ ismeretleek. Legye ξ 1,..., ξ 1 a ξ-re voatkozó, illetve η 1,..., η az η-ra voatkozó mita 1,. A H 0 : σ 1 = σ H 1 : σ 1 σ hipotézisekre adjo adott α terjedelmű próbát. A feladatot oldja meg H 1 : σ 1 < σ illetve H 1 : σ 1 > σ egyoldali ellehipotézisekre is. Szükség lesz a következő tételre. 88

90 5.15. Tétel. Legyeek ξ Normm 1 ; σ, η Normm ; σ függetle valószíűségi változók, ξ 1,..., ξ 1 a ξ-re voatkozó, illetve η 1,..., η az η-ra voatkozó mita 1,. Ekkor S ξ, 1 S η, F 1 1; 1. Bizoyítás. Korábba bizoyítottuk, hogy S ξ, 1 σ 1 Khi 1 1 és S η, σ Khi 1, így ezek függetlesége miatt 1 S ξ, 1 σ S η, σ = S ξ, 1 1 S η, = S ξ, 1 S η, F 1 1; 1. Most térjük vissza a feladat megoldására. Megoldás. Az előző tétel szerit, ha H 0 : σ 1 = σ igaz, akkor F := S ξ, 1 S η, F 1 1; 1. A H 1 : σ 1 σ ellehipotézis teljesülésekor F várhatóa kritikus értékbe messze va 1-től, hisze a korrigált tapasztalati szórás torzítatla becslése a szórásak. Ezért az elfogadási tartomáy a F b alakú, ahol 0 < a < 1 < b. A továbbiakba legye F F 1 1; 1. Tegyük fel, hogy P P H0 PF < a = F a = α, eseté PF > b = 1 F b = α, azaz a = F 1 α > 0 és b = F 1 1 α. Mivel 0,3 < F 1 < 0,7 lásd az F-eloszlás leírásáál található lemmát, így α < F 1 < 1 α biztosa teljesül. Ezért az ezzel ekvivales a < 1 < b is teljesül. Mivel P P H0 eseté Pa F b = F b F a = 1 α α = 1 α, így F 1 α F F 1 1 α α mi{ F F,1 F F } elfogadási tartomáyal α terjedelmű próbát kapuk. 89

91 A H 1 : σ 1 < σ teljesülésekor F várhatóa kritikus értékbe kisebb 1-től. Ezért az elfogadási tartomáy F c alakú, ahol 0 < c < 1. Mivel P P H0 -ra PF c = 1 F c, így PF c = 1 α eseté c = F 1 α > 0. Az α < F 1 biztosa teljesül 0 < α 0,3 eseté, így c < 1 is teljesül. Tehát F F 1 α α F F elfogadási tartomáyal α terjedelmű próbát kapuk. Végül H 1 : σ 1 > σ ellehipotézis teljesülése eseté F várhatóa kritikus értékbe agyobb 1-től. Ezért az elfogadási tartomáy F d alakú, ahol d > 1. Ekkor P P H0 -ra PF d = F d, így PF d = 1 α eseté d = F 1 1 α. Mivel 1 α > F 1 biztosa teljesül, ha 0 < α 0,3, ezért d > 1 is teljesül. Tehát F F 1 1 α α 1 F F elfogadási tartomáyal α terjedelmű próbát kapuk. Ezt a statisztikai próbát F-próbáak evezzük Megjegyzés. Legye F 1 F 1 1; 1 és F F 1; 1 1. Kétoldali ellehipotézis eseté láttuk, hogy α F1 1 F F1 1 1 α elfogadási tartomáyal α terjedelmű próbát kapuk. Mivel H 0 teljesülése eseté 1 F F 1; 1 1, ezért α F 1 1 F F 1 1 α elfogadási tartomáyal szité α terjedelmű próbát kapuk. Ha F 1, akkor válasszuk az első elfogadási tartomáyt. De ebbe az esetbe α < 0,3 < F 11 miatt F1 1 α < 1 F biztosa teljesül. Tehát ekkor az elfogadási tartomáy F F1 1 1 α. Ha F < 1, azaz 1 > 1, akkor válasszuk a második elfogadási tartomáyt. De F ebbe az esetbe α < 0,3 < F 1 miatt F 1 α < 1 < 1 biztosa teljesül. Tehát F 1 α. ekkor az elfogadási tartomáy 1 F 1 F Ezzel bizoyítottuk a következőt. Legye F := max{ F, 1 }, továbbá G F F 1 1; 1, ha F = F illetve G F 1; 1 1, ha F = 1 F. Ekkor F G 1 1 α α GF 90

92 elfogadási tartomáyal α terjedelmű próbát kapuk. Ezzel a módszerrel tehát em két, haem csak egy kritikus értéket kell számoli. A gyakorlatba ezért ikább ezt szokták haszáli Khi-égyzet próba ormális eloszlás szórására Feladat. Legye ξ Normm; σ, ahol m és σ ismeretleek. Legye σ 0 R + rögzített és ξ 1,..., ξ a ξ-re voatkozó mita. A H 0 : σ = σ 0 H 1 : σ σ 0 hipotézisekre adjo adott α terjedelmű próbát. A feladatot oldja meg H 1 : σ < σ 0 illetve H 1 : σ > σ 0 egyoldali ellehipotézisekre is. Megoldás. Tudjuk, hogy H 0 eseté χ := S Khi 1. σ0 De S = S σ0 1 és S σ0 a szóráségyzet torzítatla becslése, így a H 1 : σ = σ 0 teljesülése eseté χ várhatóa kritikus mértékbe messze va 1-től. Így az elfogadási tartomáyt válasszuk a χ b alakúak, ahol 0 < a < 1 < b. A továbbiakba legye F Khi 1. Tegyük fel, hogy P P H0 Pχ < a = F a = α, Pχ > b = 1 F b = α, eseté azaz a = F 1 α > 0 és b = F 1 1 α. Mivel 0,5 < F 1 < 0,7 lásd a khi-égyzet eloszlás leírásáál található lemmát, így α < F 1 < 1 α biztosa teljesül. Ezért az ezzel ekvivales a < 1 < b is teljesül. Mivel P P H0 Pa χ b = F b F a = 1 α α = 1 α, eseté így F 1 α χ F 1 1 α α mi{ F χ,1 F χ } elfogadási tartomáyal α terjedelmű próbát kapuk. 91

93 A H 1 : σ < σ 0 ellehipotézis teljesülésekor χ várhatóa kritikus mértékbe kisebb 1-től. Azaz az elfogadási tartomáy χ c alakú, ahol 0 < c < 1. Mivel P P H0 -ra Pχ c = 1 F c, így Pχ c = 1 α eseté c = F 1 α > 0. Erre teljesül, hogy c < 1, mert 0,5 < F 1. Tehát így χ F 1 α α F χ elfogadási tartomáyal α terjedelmű próbát kapuk. Ha H 1 : σ > σ 0 teljesül, akkor χ várhatóa kritikus mértékbe agyobb 1-től, azaz az elfogadási tartomáy χ d alakú, ahol d > 1. Mivel P P H0 -ra Pχ d = F d, így Pχ d = 1 α eseté d = F 1 1 α. Másrészt ekkor F 1 < 0,7 miatt 0 < α 0,3 eseté d > 1. Tehát így χ F 1 1 α α 1 F χ elfogadási tartomáyal α terjedelmű próbát kapuk. Ez az úgyevezett khi-égyzet próba Statisztikai próba expoeciális eloszlás paraméterére Feladat. Legye ξ Expλ, ahol λ ismeretle. Legye λ 0 R + rögzített és ξ 1,..., ξ a ξ-re voatkozó mita. A H 0 : λ = λ 0 H 1 : λ λ 0 hipotézisekre adjo adott α terjedelmű próbát. A feladatot oldja meg H 1 : λ < λ 0 illetve H 1 : λ > λ 0 egyoldali ellehipotézisekre is. Megoldás. A λ itervallumbecsléséél láttuk, hogy H 0 eseté γ := λ 0 ξ Gamma; 1. Mivel ξ az E λ = 1 torzítatla becslése, így a H 1 λ 1 : λ λ 0 λ 0 ellehipotézis teljesülésekor γ várhatóa kritikus mértékbe messze va -től. Azaz λ az elfogadási tartomáy a γ b alakú, ahol 0 < a < < b. A továbbiakba legye 9

94 F Gamma; 1. Tegyük fel, hogy P P H0 eseté Pγ < a = F a = α, Pγ > b = 1 F b = α, azaz a = F 1 α > 0 és b = F 1 1 α. Mivel 0,5 < F < 0,7 lásd a gammaeloszlás leírásáál található lemmát, így α < F < 1 α biztosa teljesül. Ezért az ezzel ekvivales a < < b is teljesül. Mivel P P H0 eseté Pa γ b = F b F a = 1 α α = 1 α, így F 1 α γ F 1 1 α α mi{ F γ,1 F γ } elfogadási tartomáyal α terjedelmű próbát kapuk. 1 A H 1 : λ < λ 0 < λ 0 ellehipotézis teljesülésekor γ elletétbe a λ korábbi próbákkal várhatóa kritikus mértékbe agyobb -től. Azaz az elfogadási tartomáy γ c alakú, ahol c >. Mivel P P H0 -ra Pγ c = F c, így Pγ c = 1 α eseté c = F 1 1 α. Másrészt ekkor F < 0,7 miatt 0 < α 0,3 eseté c >. Tehát így γ F 1 1 α α 1 F γ elfogadási tartomáyal α terjedelmű próbát kapuk. 1 A H 1 : λ > λ 0 > λ 0 ellehipotézis teljesülésekor γ elletétbe a λ korábbi próbákkal várhatóa kritikus mértékbe kisebb -től. Azaz az elfogadási tartomáy γ d alakú, ahol 0 < d <. Mivel P P H0 -ra Pγ d = 1 F d, így Pγ d = 1 α eseté d = F 1 α > 0. Erre teljesül, hogy d <, mert 0,5 < F. Tehát így γ F 1 α α F γ elfogadási tartomáyal α terjedelmű próbát kapuk Statisztikai próba valószíűségre Feladat. Legye ξ Bi1; p, ahol p ismeretle. Legye 0 < p 0 < 1 rögzített és ξ 1,..., ξ a ξ-re voatkozó mita. A H 0 : p = p 0 93

95 H 1 : p p 0 hipotézisekre adjo adott α terjedelmű próbát. A feladatot oldja meg H 1 : p < p 0 illetve H 1 : p > p 0 egyoldali ellehipotézisekre is Megjegyzés. Ha A egy eseméy és ξ = I A, akkor ξ Bi1; p, ahol p az A valószíűsége. Ezért a feladat úgy is megfogalmazható, hogy adjo az előző hipotézisekre α terjedelmű próbát, ahol p egy eseméy valószíűsége. Megoldás. Ismert, hogy ha H 0 igaz, akkor ξ Bi; p 0. Ha ξ egy eseméy idikátorváltozója, akkor ξ az eseméy bekövetkezéseiek a számát jeleti kísérlet utá. Mivel ξ a p torzítatla becslése, ezért H 1 : p p 0 eseté ξ várhatóa kritikus mértékbe eltávolodik p 0 -tól. Így ekkor az elfogadási tartomáy a ξ b alakú, ahol a, b N és 1 a < p 0 < b 1. Az 1 a és b 1 feltételek azért kelleek, hogy a kritikus tartomáyba ξ < a illetve ξ > b e legyeek lehetetle eseméyek. Keressük meg a legkisebb a illetve b pozitív egész számokat, melyekre P P H0 Pξ a = a i=0 Pξ b = b i=0 eseté teljesül, hogy i p i 0 1 p 0 i α, Az így defiiált a és b eseté, ha P P H0, akkor Pa ξ b = b i=a = b i p i 0 1 p 0 i a 1 i=0 i p i 0 1 p 0 i 1 α. i p i 0 1 p 0 i = i=0 i p i 0 1 p 0 i } {{ } < α > 1 α, így ilyekor a ξ b elfogadási tartomáyal α terjedelmű próbát kapuk. Az 1 a < p 0 < b 1 feltétel midig teljesíthető α és alkalmas megválasztásával. H 1 : p < p 0 eseté ξ várhatóa kritikus mértékbe p 0 alatt va, azaz az elfogadási tartomáy ξ c alakú, ahol c N és 1 c < p 0. Legye c a legkisebb pozitív 94

96 egész, melyre P P H0 eseté teljesül, hogy Pξ c = c i=0 Az így defiiált c eseté, ha P P H0, akkor Pξ c = i=c i p i 0 1 p 0 i α. i p i 0 1 p 0 i = 1 c 1 i=0 i p i 0 1 p 0 i } {{ } <α > 1 α, azaz ξ c elfogadási tartomáyal α terjedelmű próbát kapuk. Az 1 c < p 0 feltétel itt is midig teljesíthető α és alkalmas megválasztásával. H 1 : p > p 0 eseté ξ várhatóa kritikus mértékbe p 0 felett va, azaz az elfogadási tartomáy ξ d alakú, ahol d N és p 0 < d 1. Legye d a legkisebb pozitív egész, melyre P P H0 eseté teljesül, hogy Pξ d = d i=0 i p i 0 1 p 0 i 1 α. Ekkor tehát ξ d elfogadási tartomáyal α terjedelmű próbát kapuk. Az p 0 < < d 1 feltétel itt is midig teljesíthető α és alkalmas megválasztásával. Az első két ellehipotézisél azért em úgy választottuk a kritikus értékeket, hogy az elfogadási tartomáy valószíűsége H 0 eseté 1 α-val egyelő is lehesse, mert egyrészt ez csak ritká érhető el az eloszlás diszkrétsége miatt, másrészt ekkor Excellel ehezebbe tudák számoli. Ha elég agy, akkor az előbbi kritikus értékek kiszámolásához haszálhatuk egyszerűbb közelítő formulát is. Ehhez szükségük lesz az úgyevezett folytoossági korrekcióra. Folytoossági korrekció. Ha a mi{ p, 1 p } 10 feltétel teljesül, akkor F Bi; p és G Norm p; p1 p jelöléssel F z értékét agyo jól közelíti Gz. Legye z N. Ekkor a következő ábráról látható, hogy az F lépcsőssége és a G folytoossága miatt Gz 1 még potosabba megközelíti F z értékét. 95

97 G Gz F Gz 1 F z z 1 z 1 z z + 1 Tehát ϱ Bi; p és z N eseté Pϱ < z Φ z 1 p, illetve p1 p Pϱ z = Pϱ < z + 1 Φ z p z + 1 = Φ p p1 p p1 p közelítések már agyo jóak tekithetők. Például, ha = 100, p = 0,4, akkor 10 < p = 40 < 1 p = 60 teljesül, ezért haszálhatjuk a közelítést. Például Pϱ 30 értéke közelítőleg Φ , 40 0,6 ami öt tizedesjegyre kerekítve 0,064. Ha em haszáljuk a folytoossági korrekciót, akkor a Φ, 40 0,6 értéket kell haszáli közelítések, amely öt tizedesjegyre kerekítve 0, Összehasolításkét Pϱ 30 igazi értéke 0,0478 öt tizedesjegyre kerekítve. Ebből jól látható, hogy a folytoossági korrekcióval potosabb közelítést kaptuk Feladat. Az előző megoldásba felírt kritikus értékekre adjuk közelítő képletet mi{ p 0, 1 p 0 } 10 eseté, a folytoossági korrekciót alkalmazva. Megoldás. Az előző megoldás jelöléseit fogjuk haszáli. Az előbbiek miatt Pξ a Φ a + 1 p 0 = α p0 1 p 0, 96

98 melyből figyelembe véve, hogy a N és alsó kritikus értéket jelet kapjuk, hogy hx := p p 0 1 p 0 Φ 1 x jelöléssel a [ h α ]. Hasolóa kapjuk, hogy b [ h1 α ] + 1, c [hα] és d [h1 α] Nemparaméteres hipotézisvizsgálatok A következőkbe, ha em írjuk ki külö az ellehipotézist, akkor az midig a ullhipotézis egáltját jeleti. Az itt taglalt illeszkedés-, függetleség- és homogeitásvizsgálatokat khi-égyzet próbákak is evezik, mert a próbastatisztika midegyik esetbe hasoló szerkezetű asszimptotikusa khi-égyzet eloszlású Tiszta illeszkedésvizsgálat 5.. Feladat. Legye A 1,..., A r egy teljes eseméyredszer és p 1,..., p r R +, ahol p p r = 1. Készítsük a H 0 : PA i = p i i = 1,..., r ullhipotézisre α terjedelmű próbát, ahol P a valódi valószíűséget jeleti. Megoldás. Jelölje ϱ i az A i eseméy gyakoriságát kísérlet utá, és legye χ := r ϱ i p i p i. H 0 teljesülése eseté χ várhatóa em távolodik el kritikus mértékbe 0-tól, így az elfogadási tartomáy χ a alakú, ahol a > 0. Határozzuk meg az a kritikus értéket. Ismert, hogy mi{ ϱ 1,..., ϱ r } 10 teljesülése eseté P H0 χ a F a, ahol F Khir 1. A bizoyítást lásd például Fazekas I. szerk.: Bevezetés a matematikai statisztikába, oldal. Így P H0 χ a = 1 α eseté a F 1 1 α. Tehát χ F 1 1 α α 1 F χ elfogadási tartomáyal közelítőleg α terjedelmű próbát kapuk. 97

99 5.3. Feladat. Legye ξ egy ismeretle eloszlású valószíűségi változó és F 0 egy rögzített eloszlásfüggvéy. Készítsük a H 0 : Pξ < x = F 0 x x R ullhipotézisre α terjedelmű próbát, ahol P a valódi valószíűséget jeleti. Megoldás. Ha ξ diszkrét valószíűségi változó { x 1, x,... } értékkészlettel, ahol x 1 < < x <..., akkor válasszuk meg a k 0 := 0 < k 1 < k < < k r egész számokat úgy, hogy az A i := { x ki 1 +1 ξ x ki } eseméyek ϱ i gyakorisága a ξ-re voatkozó elemű mitarealizáció alapjá legalább 10 legye mide i = = 1,..., r eseté. Ha ξ em diszkrét valószíűségi változó, akkor válasszuk meg az a 0 := < a 1 < a < < a r 1 < a r := valós számokat úgy, hogy az A i := { a i 1 ξ < a i } eseméyek ϱ i gyakorisága a ξ-re voatkozó elemű mitarealizáció alapjá legalább 10 legye mide i = = 1,..., r eseté. Ügyeljük arra, hogy az a i osztópotok függetleek legyeek a mitarealizáció elemeitől. Ezutá p i := PA i P P H0 jelöléssel legye H 0 : PA i = p i i = 1,..., r. Ha H 0 igaz, akkor H 0 is az. Így az előző feladat megoldásából látható, hogy H 0 teljesülése eseté r χ ϱ i p i := p i asszimptotikusa r 1 szabadsági fokú khi-égyzet eloszlású. Ebből kapjuk, hogy F Khir 1 jelöléssel és χ F 1 1 α α 1 F χ elfogadási tartomáyal, H 0 -ra közelítőleg α terjedelmű próbát kapuk Becsléses illeszkedésvizsgálat A tiszta illeszkedésvizsgálatba azt vizsgáltuk, hogy egy valószíűségi változóak mi lehet az eloszlása. Azoba legtöbb esetbe elég csak azt megmodai, hogy melyik 98

100 eloszláscsaládba tartozik egyeletes, ormális, Poisso, stb.. Ilyekor haszáljuk a becsléses illeszkedésvizsgálatot Feladat. Legye v N, Θ R v, Θ. Jelöljö F ϑ eloszlásfüggvéyt mide ϑ = ϑ 1,..., ϑ v Θ eseté. Legye az a ullhipotézis, hogy az ismeretle eloszlású ξ valószíűségi változó az { F ϑ : ϑ Θ } eloszláscsaládba tartozik, azaz H 0 : Pξ < x = F ϑ x x R valamely ϑ Θ eseté. Készítsük erre a ullhipotézisre α terjedelmű próbát, ahol P a valódi valószíűséget jeleti. Megoldás. Először kostruáljuk meg az A 1,..., A r teljes eseméyredszert a tiszta illeszkedésvizsgálatba leírtak szerit, és jelölje ϱ i az A i eseméy gyakoriságát kísérlet utá. Ezutá H 0 feltételezésével számoljuk ki ϑ i maximum likelihood becslését, melyet jelöljö ϑ i. Legye ϑ := ϑ 1,..., ϑ v, p i := P ϑa i, továbbá χ := r ϱ i p i p i. Bizoyítható, hogy ha H 0 igaz, akkor χ eloszlása r 1 v szabadsági fokú khiégyzet eloszláshoz kovergál eseté. A bizoyítás az úgyevezett likelihood háyados határeloszlásával hozható kapcsolatba, mi em végezzük el. Lásd például Terdik Gy.: Előadások a matematikai statisztikából, oldal. A gyakorlatba ez azt jeleti, hogy F Khir 1 v jelöléssel Pχ < x F x. A közelítés már jóak tekithető, ha mi{ ϱ 1,..., ϱ r } 10. Így hasolóa a tiszta illeszkedésvizsgálathoz kapjuk, hogy H 0 ullhipotézisre χ F 1 1 α α 1 F χ elfogadási tartomáyal közelítőleg α terjedelmű próbát kapuk Függetleségvizsgálat A következő feladatba két teljes eseméyredszer függetleségét vizsgáljuk Feladat. Legye A 1,..., A r és B 1,..., B s két teljes eseméyredszer. Készítsük a H 0 : PA i B j = PA i PB j i = 1,..., r, j = 1,..., s 99

101 ullhipotézisre α terjedelmű próbát, ahol P a valódi valószíűséget jeleti. Megoldás. Legye k i illetve l j az A i illetve B j gyakorisága kísérlet utá. Ekkor PA i illetve PB j maximum likelihood becslése k i illetve l j. Ez összese r s 1 darab függetle becslést jelet a k k r = és l l s = feltételek miatt. Legye p ij := k i lj és χ := r s ϱ ij p ij j=1 p ij = 1 r s j=1 ϱ ij k i l j k i l j, ahol ϱ ij az A i B j eseméy gyakorisága kísérlet utá. A gyakoriságokat a következő úgyevezett kotigecia táblázatba szokták összefoglali. B 1 B... B s A 1 ϱ 11 ϱ 1... ϱ 1s k 1 A ϱ 1 ϱ... ϱ s k A r ϱ r1 ϱ r... ϱ rs k r l 1 l... l s A becsléses illeszkedésvizsgálatál elmodottak szerit, ha H 0 igaz, akkor χ eloszlása rs 1 r 1 s 1 = r 1s 1 szabadsági fokú khi-égyzet eloszláshoz kovergál eseté. Ie az eddigiekhez hasolóa, ha ϱ ij 10 mide i, j eseté és F Khir 1s 1, akkor a H 0 ullhipotézisre χ F 1 1 α α 1 F χ elfogadási tartomáyal közelítőleg α terjedelmű próbát kapuk Feladat. Legye ξ, η kétdimeziós valószíűségi vektorváltozó. Az erre voatkozó ξ 1, η 1,..., ξ, η mita alapjá készítsük a H 0 : ξ és η függetle ullhipotézisre α terjedelmű próbát. Megoldás. Kostruáljuk meg a ξ 1,..., ξ illetve az η 1,..., η mitákra az A 1,..., A r illetve B 1,..., B s teljes eseméyredszereket a tiszta illeszkedésvizsgálatba leírtak szerit. Ezutá legye H 0 : PA i B j = PA i PB j i = 1,..., r, j = 1,..., s. Ha H 0 igaz, akkor H 0 is az. Így az előző feladat megoldásából kapjuk, hogy H 0 100

102 teljesülése eseté χ := 1 r s ϱ ij k i l j j=1 eloszlása r 1s 1 szabadsági fokú khi-égyzet eloszláshoz kovergál, ha. Ie F Khir 1s 1 jelöléssel, a H 0 ullhipotézisre χ F 1 1 α α 1 F χ elfogadási tartomáyal közelítőleg α terjedelmű próbát kapuk. k i l j Homogeitásvizsgálat 5.7. Feladat. Legyeek ξ és η függetle valószíűségi változók. Az ezekre voatkozó ξ 1,..., ξ 1 illetve η 1,..., η miták alapjá készítsük a H 0 : ξ és η azoos eloszlású ullhipotézisre α terjedelmű próbát. Megoldás. Válasszuk meg az c 0 := < c 1 < c < < c r 1 < c r := valós számokat úgy, hogy a ξ C i := [c i 1, c i eseméy k i gyakorisága illetve az η C i eseméy l i gyakorisága a mitarealizációk alapjá legalább 10 legye mide i = 1,..., r eseté. Most tegyük fel, hogy H 0 teljesül. Ekkor va olya ζ valószíűségi változó, amelyre voatkozólag ξ 1,..., ξ 1, η 1,..., η egy 1 + elemű mita. Jeletse A i azt az eseméyt, hogy ζ C i. A B 1 illetve B jeletse azt, hogy a mitavétel ξ-re illetve η-ra voatkozik. De H 0 eseté az, hogy ζ C i teljesül-e, függetle attól, hogy a mitavétel valójába ξ-re vagy η-ra törtét. Így ekkor H 0 : PA i B j = PA i PB j i = 1,..., r, j = 1, is teljesül. Erre alkalmazhatjuk a függetleségvizsgálatba leírtakat a következő ko- 101

103 tigecia táblázattal: B 1 B A 1 k 1 l 1 k 1 + l 1 A k l k + l.... A r k r l r k r + l r Ekkor tehát χ := r 1 + k i k i +l i 1 k i +l i l i k i +l i k i +l i = k i 1 l i = 1 r k i + l i asszimptotikusa r 1 1 = r 1 szabadsági fokú khi-égyzet eloszlású. Tehát F Khir 1 jelöléssel, a H 0 ullhipotézisre χ F 1 1 α α 1 F χ elfogadási tartomáyal közelítőleg α terjedelmű próbát kapuk Kétmitás előjelpróba 5.8. Feladat. Legye ξ, η kétdimeziós valószíűségi vektorváltozó. Az erre voatkozó ξ 1, η 1,..., ξ, η mita alapjá készítsük a H 0 : Pξ > η = 1 H 1 : Pξ > η 1 hipotézisekre α terjedelmű próbát, ahol P a valódi valószíűséget jeleti. A feladatot oldja meg H 1 : Pξ > η < 1 illetve H 1 : Pξ > η > 1 egyoldali ellehipotézisekre is. Megoldás. Bár a feladatot a emparaméteres hipotézisvizsgálatokba tárgyaljuk, egyértelmű a kapcsolata a valószíűségre voatkozó statisztikai próbával, A := { ξ > > η } és p 0 = 1 választással. Legye B := I ξi >η i, 10

104 azaz az A eseméy gyakorisága, vagy ha úgy tetszik, azo esetek száma, amikor ξ i η i előjele pozitív ie a próba eve. Ha H 0 teljesül, akkor B Bi; 1. Legyeek az a, b, c, d számok a legkisebb olya pozitív egészek, amelyekre teljesülek, hogy a 1 i α b 1 i 1 α c 1 i α d 1 i 1 α. i=0 i=0 i=0 i=0 Ekkor a valószíűségre voatkozó statisztikai próbáál leírtak szerit H 1 : Pξ > η 1 H 1 : Pξ > η < 1 eseté a B b, eseté B c és H 1 : Pξ > η > 1 eseté B d elfogadási tartomáyal α terjedelmű próbát kapuk. A kritikus értékek kiszámolásáál itt is alkalmazható 0 eseté a folytoossági korrekcióval megadott közelítő számítás. Eszerit hx := Φ 1 x jelöléssel a [ h α ], b [ h1 α ] + 1, c [hα] és d [h1 α] Kolmogorov Szmirov-féle kétmitás próba 5.9. Tétel Szmirov-tétel. Legyeek ξ és η függetle valószíűségi változók, a rájuk voatkozó miták ξ 1,..., ξ és η 1,..., η, illetve a ekik megfelelő tapasztalati eloszlásfüggvéyek F folytoos, akkor mide z R + és G. Ha ξ-ek és η-ak azoos az eloszlásfüggvéye és az x R eseté lim P sup F x G x < z = i e i z. 103

105 A bizoyítást lásd például Fazekas I. szerk.: Bevezetés a matematikai statisztikába 194. oldal Megjegyzés. A Szmirov-tétel feltételeivel P sup F x G x < z 1 + x R közelítés már jóak tekithető, ha > i e i z A sup x R F x G x potos eloszlása is ismert lásd például az előbb említett köyv 191. oldal, melyből 30 eseté is tuduk próbát kostruáli. Mi ezzel az esettel em foglalkozuk Feladat. Legyeek ξ és η folytoos eloszlásfüggvéyű függetle valószíűségi változók. Az ezekre voatkozó ξ 1,..., ξ illetve η 1,..., η > 30 miták alapjá készítsük a ullhipotézisre α terjedelmű próbát. H 0 : ξ és η azoos eloszlású Megoldás. Legyeek a ξ-re illetve η-ra voatkozó mitákhoz tartozó tapasztalati eloszlásfüggvéyek F illetve G, továbbá legye D := sup F x G x. x R Ha H 0 em teljesül, akkor D várhatóa kritikus mértékbe eltávolodik 0-tól. Ezért az elfogadási tartomáy legye D < z alakú, ahol z R +. A Szmirov-tétel szerit P P H0 és > 30 eseté PD < z Kz z R +, ahol Kz = i e i z. Így PD < z = 1 α eseté z K 1 1 α. Tehát D < K 1 1 α KD < 1 α elfogadási tartomáyal körülbelül α terjedelmű próbát kapuk. 104

106 Kolmogorov Szmirov-féle egymitás próba A matematikai statisztika alaptétele a tapasztalati eloszlásfüggvéy kovergeciájáról szól, de a kovergecia sebességéről em ad iformációt. A következő Kolmogorovtól származó tétel ezt a hiáyt pótolja, melyet itt bizoyítás élkül közlük Tétel Kolmogorov-tétel. Legye a ξ valószíűségi változó F eloszlásfüggvéye folytoos. A ξ-re voatkozó mita legye ξ 1,..., ξ és a eki megfelelő tapasztalati eloszlásfüggvéy F. Ekkor mide z R + x R eseté lim P sup Fx F x < z = Megjegyzés. A Kolmogorov-tétel feltételeivel P sup Fx F x < z 1 + x R közelítés már jóak tekithető, ha > i e i z. 1 i e i z Feladat. Legye ξ folytoos eloszlásfüggvéyű valószíűségi változó. Az erre voatkozó ξ 1,..., ξ > 30 mita alapjá készítsük a H 0 : ξ eloszlásfüggvéye F ullhipotézisre α terjedelmű próbát. Megoldás. Legye a tapasztalati eloszlásfüggvéy F, továbbá legye D := sup Fx F x. x R Ha H 0 em teljesül, akkor D várhatóa kritikus mértékbe eltávolodik 0-tól. Így a kétmitás esethez hasolóa kapjuk, hogy D < K 1 1 α KD < 1 α elfogadási tartomáyal körülbelül α terjedelmű a próba, ahol Kz = i e i z. 105

107 6. Regressziószámítás 6.1. Regressziós görbe és regressziós felület Jeletse η a Dua egy árhullámáak tetőző vízállását Budapeste cm-be, ξ 1 az árhullámot kiváltó csapadék meyiségét mm-be és ξ a Dua vízállását Budapestél az esőzés kezdetekor cm-be. Joggal godolhatjuk, hogy ξ 1 és ξ értéke erőse behatárolja az η értékét. Keressük olya g függvéyt, melyre teljesül, hogy η gξ 1, ξ. Az eltérés mértéke legye E η gξ 1, ξ, hasolóa a D ξ = Eξ E ξ szóráségyzethez, ami a ξ és E ξ eltéréséek mértéke. Ha sikerüle olya g függvéyt találi, amelyre E η gξ 1, ξ a lehető legkisebb, akkor ξ 1 és ξ mérésével közelítőleg meg lehete jósoli η, azaz az árhullám tetőzéséek mértékét. Általáosítva, ha az η, ξ 1,..., ξ k valószíűségi változók eseté az a feladat, hogy adjuk meg a lehető legjobb η gξ 1,..., ξ k közelítést adó g függvéyt, akkor az úgy értedő, hogy az E η gξ 1,..., ξ k értékét kell miimalizáli. Ez az úgyevezett legkisebb égyzetek elve. Az így kapott g továbbá ξ 1,..., ξ k ismeretébe megbecsülhető lesz η Tétel. Legyeek η, ξ 1,..., ξ k valószíűségi változók és E η <. Az összes g : R k R Borel-mérhető függvéyt figyelembe véve E η gξ 1,..., ξ k akkor a legkisebb, ha gξ 1,..., ξ k = Eη ξ 1,..., ξ k. Bizoyítás. Legye µ := η Eη ξ 1,..., ξ k és ν := Eη ξ 1,..., ξ k gξ 1,..., ξ k. Ekkor E η gξ 1,..., ξ k = Eµ + ν = E µ + Eµν + E ν E µ + Eµν = E µ + E Eµν ξ 1,..., ξ k = = E µ + E ν Eµ ξ 1,..., ξ k, 106

108 másrészt Eµ ξ 1,..., ξ k = E η Eη ξ 1,..., ξ k ξ 1,..., ξ k = = Eη ξ 1,..., ξ k E Eη ξ 1,..., ξ k ξ 1,..., ξ k = = Eη ξ 1,..., ξ k Eη ξ 1,..., ξ k = 0. Így kapjuk, hogy E η gξ 1,..., ξ k E µ = E η Eη ξ 1,..., ξ k, melyből adódik az állítás. 6.. Defiíció. Legyeek η, ξ 1,..., ξ k valószíűségi változók. A gx 1,..., x k := Eη ξ 1 = x 1,..., ξ k = x k függvéyt az η valószíűségi változó ξ 1,..., ξ k -ra voatkozó regressziós felületéek, illetve eek meghatározását regressziószámításak evezzük. Speciálisa k = 1 eseté regressziós görbéről beszélük. Ha a regressziós felület lieáris függvéyel írható le, akkor azt k = 1 eseté elsőfajú regressziós egyeesek, míg k = eseté elsőfajú regressziós síkak evezzük Megjegyzés. η, ξ 1,..., ξ k Norm k+1 m; A eseté létezik a 1,..., a k R, hogy Eη ξ 1,..., ξ k = a 1 ξ a k ξ k. Tehát ha η, ξ 1,..., ξ k valószíűségi vektorváltozó ormális eloszlású, akkor a regressziós felület lieáris függvéyel írható le. 6.. Lieáris regresszió Ha η, ξ 1,..., ξ k em ormális eloszlású, akkor a legtöbb esetbe a regressziós felület meghatározása ige boyolult probléma. Ilye esetekbe azzal egyszerűsíthetjük a feladatot, hogy E η gξ 1,..., ξ k miimumát csak a gx 1,..., x k = a 0 + a 1 x a k x k a 0, a 1,..., a k R alakú azaz lieáris függvéyek között keressük. Ezt a típusú regressziószámítást lieáris regresszióak evezzük. A feladat megoldásába szereplő a 0,..., a k kostasokat a lieáris regresszió együtthatóiak evezzük. A lieáris regresszióval kapott g függvéyt k = 1 illetve k = eseté másodfajú regressziós egyeesek illetve másodfajú regressziós síkak evezzük. 107

109 Kérdés, hogy egyáltalá va-e megoldása a lieáris regressziós feladatak. Erre ad feleletet a következő tétel Tétel. Legye ξ 0 1, E η R, Eηξ i R, Eξ i ξ j R i, j = 0,..., k, továbbá az Eξ 0 ξ 0 Eξ 0 ξ 1... Eξ 0 ξ k Eξ R := 1 ξ 0 Eξ 1 ξ 1... Eξ 1 ξ k Eξ k ξ 0 Eξ k ξ 1... Eξ k ξ k mátrix pozitív defiit, azaz mide bal felső sarokdetermiása pozitív. Ekkor a lieáris regresszióak potosa egy megoldása va, evezetese azo gx 1,..., x k = = a 0 + a 1 x a k x k függvéy, melyre a i = det R i det R i = 0,..., k, ahol az R i mátrixot úgy kapjuk, hogy az R mátrix i-edik oszlopát kicseréljük az r := = Eηξ 0,..., Eηξ k -ra. Bizoyítás. A feladat azo a 0,..., a k R paraméterek meghatározása, amelyek mellett Eη a 0 a 1 ξ 1 a k ξ k miimális. Mivel ezért Eη a 0 a 1 ξ 1 a k ξ k = Eη a 0 ξ 0 a k ξ k = k k k 1 k = E η + a i E ξi a i Eηξ i + a i a j Eξ i ξ j, i=0 i=0 i=0 j=i+1 a l Eη a 0 a 1 ξ 1 a k ξ k = = a l E ξ l Eηξ l + i l a i Eξ i ξ l = k = a i Eξ i ξ l Eηξ l i=0 l = 0,..., k. Így azt kapjuk, hogy az a l Eη a 0 a 1 ξ 1 a k ξ k = 0 l = 0,..., k 108

110 egyeletredszer ekvivales az Ra 0,..., a k = r egyelettel. Mivel R pozitív defiit, ezért det R > 0, így a Cramer-szabály alapjá eek potosa egy megoldása va, evezetese az, amely a tételbe fel lett írva. Legye Mivel K := Eη a 0 a 1 ξ 1 a k ξ k a l a t. k+1 k+1 a l a t Eη a 0 a 1 ξ 1 a k ξ k = Eξ l ξ t, ezért K = R. Ebből adódik, hogy K pozitív defiit, azaz a kapott megoldás valóba miimumhely. Ezzel bizoyítottuk a tételt Megjegyzés. Köye látható, hogy k = 1 eseté az előző tétel feltételei teljesülek, ha E η R, 0 < D ξ 1 < és covη, ξ 1 R. Másrészt ekkor Ra 0, a 1 = r ekvivales a következő egyeletredszerrel: Eek a megoldása Így a regressziós egyees egyelete a 0 + a 1 E ξ 1 = E η, a 0 E ξ 1 + a 1 E ξ 1 = Eηξ 1. a 0 = E η covη, ξ 1 D ξ 1 E ξ 1, a 1 = covη, ξ 1 D ξ 1. gx = E η covη, ξ 1 D ξ 1 E ξ 1 + covη, ξ 1 D ξ 1 x, azaz eek eredméyeképpe a továbbiakba az lieáris közelítést lehet haszáli. η E η covη, ξ 1 D ξ 1 E ξ 1 + covη, ξ 1 D ξ 1 ξ Feladat. Az E η gξ 1,..., ξ k miimumát keresse meg azo g lieáris függ- 109

111 véyek között, melyek átmeek az origó, azaz a gx 1,..., x k = a 1 x a k x k a 1,..., a k R alakú függvéyek között. Megoldás. Az előző tétel bizoyításához hasolóa kapjuk a következő állítást. Legye E η R, Eηξ i R, Eξ i ξ j R i, j = 1,..., k, továbbá az Eξ 1 ξ 1 Eξ 1 ξ... Eξ 1 ξ k Eξ R := ξ 1 Eξ ξ... Eξ ξ k Eξ k ξ 1 Eξ k ξ... Eξ k ξ k mátrix pozitív defiit, azaz mide bal felső sarokdetermiása pozitív. Ekkor a feladatak potosa egy megoldása va, evezetese azo gx 1,..., x k = a 1 x a k x k függvéy, melyre a i = det R i det R i = 1,..., k, ahol az R i mátrixot úgy kapjuk, hogy az R mátrix i-edik oszlopát kicseréljük az r := Eηξ 1,..., Eηξ k -ra. Speciálisa k = 1 eseté a1 = Eηξ 1 Eξ Feladat. Legyeek t 0,..., t k R rögzített kostasok. Az E η gξ 1,..., ξ k miimumát keresse meg azo lieáris g függvéyek között, melyekre teljesül, hogy gt 1,..., t k = t 0. Ez az úgyevezett fixpotos lieáris regresszió. A megoldást adó g függvéyt k = 1 illetve k = eseté fixpotos regressziós egyeesek illetve fixpotos regressziós síkak evezzük. Megoldás. Köye látható, hogy gx 1,..., x k = a 0 + a 1 x a k x k a 0,..., a k R és gt 1,..., t k = t 0 potosa akkor teljesülek egyszerre, ha gx 1,..., x k t 0 = a 1 x 1 t a k x k t k a 1,..., a k R. Vegyük észre, hogy t 0 = = t k = 0 eseté az előző feladatot kapjuk vissza. Így az előző feladat megoldásába η, ξ 1,..., ξ k helyébe η t 0, ξ 1 t 1,..., ξ k t k írva, adódak a feltételek eleget tevő a 1,..., a k együtthatók. 110

112 6.3. A lieáris regresszió együtthatóiak becslése Az előzőekbe a lieáris regresszió együtthatóit az η, ξ 1,..., ξ k valószíűségi változók és azok kapcsolatáak ismeretébe határoztuk meg. Ezekről viszot a gyakorlatba csak agyo ritká va elegedő iformációk. Így ekkor az η, ξ 1,..., ξ k -ra voatkozó mita alapjá kell ezeket az együtthatókat megbecsüli. Legye ez a mita η i, ξ i1,..., ξ ik i = 1,...,. Bevezetjük a következő jelöléseket: a := a 0,..., a k Y := η 1,..., η 1 ξ ξ 1k 1 ξ X := 1... ξ k ξ 1... ξ k A becslés alapja az, hogy az Eη a 0 a 1 ξ 1 a k ξ k várható értéket az 1 η i a 0 a 1 ξ i1 a k ξ ik átlaggal becsüljük. Vegyük észre, hogy ez az átlag 1 Y Xa alakba is írható, ahol v 1,..., v = v v a v 1,..., v oszlopvektor hossza. Így a feladat azo a-ak a megtalálása, amely mellett Y Xa miimális. Jelölje L az Xa lieáris leképezés képterét, amely a { v : v R } vektortér egy altere. Mivel Y Xa az Y és az Xa távolsága, ezért ez akkor lesz miimális, ha Xa az Y merőleges vetülete L-re, azaz Y Xa merőleges L-re. Ez potosa azt jeleti, hogy Y Xa merőleges Xb-re, mide b 0,..., b k R, b = b 0,..., b k eseté. Tehát Xb Y Xa = 0 b X Y Xa = 0 b X Y = b X Xa X Y = X Xa 111

113 Az utolsó lépésbe azért hagyható el b, mert az egyelet bármely b-re teljesül. Az a-ra voatkozó X Y = X Xa egyelet az úgyevezett ormálegyelet, melyek â = = â 0,..., â k -val jelölt megoldása szolgáltatja a lieáris regresszió együtthatóiak becslését. Nyilvá, ha X X ivertálható mátrix, akkor â = X X 1 X Y Példa. Számolja ki k = 1 eseté a lieáris regresszió együtthatóiak becslését. Megoldás. Az η, ξ 1 -re voatkozó mita η i, ξ i1 i = 1,...,, a = a 0, a 1 Y = η 1,..., η 1 ξ 11 1 ξ X = ξ 1 Némi számolással kapjuk, hogy az X Y = X Xa ormálegyelet ekvivales a következő egyeletredszerrel: ξ ξ 1 a 0 + ξ ξ 1a 1 = ξ 11 η ξ 1 η, Eek megoldása, és így az a becslése a 0 + ξ ξ 1 a 1 = η η. â 0 = η Cov η, ξ 1 ξ Sξ 1, 1, â 1 = Cov η, ξ 1. Sξ 1, Eek alapjá a továbbiakba az η â 0 + â 1 ξ 1 közelítést fogjuk haszáli Megjegyzés. Összehasolítva az előbb kapott â 0 és â 1 becsléseket a korábba kapott elméleti értékekkel, azt láthatjuk, hogy tulajdoképpe a várható értéket mitaátlaggal, a szóráségyzetet tapasztalati szóráségyzettel és a kovariaciát a tapasztalati kovariaciával becsültük Feladat. Becsülje a fixpotos lieáris regresszió együtthatóit az η, ξ 1,..., ξ k valószíűségi vektorváltozóra voatkozó η i, ξ i1,..., ξ ik, i = 1,..., mita alapjá. 11

114 Megoldás. A feladat tehát rögzített t 0,..., t k R eseté olya gx 1,..., x k = t 0 + a 1 x 1 t a k x k t k a 1,..., a k R függvéyt találi, melyre ηi gξ i1,..., ξ ik miimális. Legye először t 0 = = t k = 0. Ekkor gx 1,..., x k = a 1 x 1 + +a k x k, így a lieáris regresszió együtthatóiak becsléséhez hasolóa kapjuk, hogy Y := η 1,..., η ξ ξ 1k ξ X := 1... ξ k..... ξ 1... ξ k jelölésekkel, ha X X ivertálható mátrix, akkor â 1,..., â k = X X 1 X Y. Speciálisa k = 1 eseté â 1 = ξ i1η i ξ i1 = Cov η, ξ 1 + ξ 1 η S ξ1, + ξ 1, így ekkor az η â 1 ξ 1 közelítést fogjuk haszáli. Tetszőleges t 0,..., t k R eseté a fixpotot traszformáljuk az origóra, így az előző megoldásba csak ayit kell változtati, hogy Y := η 1 t 0,..., η t 0 ξ 11 t 1... ξ 1k t k ξ X := 1 t 1... ξ k t k..... ξ 1 t 1... ξ k t k jelöléseket haszáluk. 113

115 6.4. Nemlieáris regresszió A lieáris regressziós közelítés sokszor agyo durva becslést adhat. k = 1 eseté a mitarealizációt jelető potok ábrázolásával jól szemléltethető ez a probléma. Itt jól látszik, hogy ebbe az esetbe hiba lee lieáris regressziót alkalmazi. Ilyekor érdemes megtippeli, hogy milye típusú függvéy közelíti jobba a kapcsolatot a lieárisál hatváy, expoeciális, logaritmus, stb., majd a regressziós függvéy keresését le kell szűkítei erre a csoportra. Néháy esetbe valamilye traszformációval ez a keresés visszavezethető a lieáris esetre. Most csak ilye eseteket vizsgáluk, és azt is csak a k = 1 egyváltozós esetbe Poliomos regresszió Ebbe az esetbe a regressziós függvéyt y = a 0 + a 1 x + a x + + a r x r a 0,..., a r R + alakba keressük. Ekkor az a 0,..., a r együtthatókat az η, ξ 1, ξ 1,..., ξ r 1 között végrehajtott lieáris regresszió adja Hatváykitevős regresszió Ebbe az esetbe a regressziós függvéyt y = ax b a R +, b R 114

116 alakba keressük. Ez azzal ekvivales, hogy l y = l a + b l x, így ekkor l η és l ξ 1 között lieáris regressziót végrehajtva, a kapott a 0, a 1 együtthatókra teljesül, hogy a 0 = l a, a 1 = b, azaz a = e a 0, b = a 1. Ebből a korábbiak alapjá a = exp El η covl η, l ξ 1 D El ξ 1, l ξ 1 b = covl η, l ξ 1 D. l ξ 1 Eze paraméterek becslése, szité a korábbiak alapjá â = exp l η Cov l η, l ξ 1 l ξ Sl 1, ξ 1, Cov l η, l ξ 1 b =. Sl ξ 1, Expoeciális regresszió Ebbe az esetbe a regressziós függvéyt y = ab x a, b R + alakba keressük. Ez azzal ekvivales, hogy l y = l a + l bx, így ekkor l η és ξ 1 között lieáris regressziót végrehajtva, a kapott a 0, a 1 együtthatókra teljesül, hogy a 0 = l a, a 1 = l b, azaz a = e a 0, b = e a

117 Ebből a korábbiak alapjá a = exp El η covl η, ξ 1 D E ξ 1, ξ 1 covl η, ξ1 b = exp D. ξ 1 Eze paraméterek becslése, szité a korábbiak alapjá â = exp b = exp Logaritmikus regresszió l η Cov l η, ξ 1 ξ 1, S ξ 1, Cov l η, ξ 1 S ξ 1, Ebbe az esetbe a regressziós függvéyt. y = a + b l x a, b R alakba keressük. Így ekkor η és l ξ 1 között lieáris regressziót végrehajtva, a korábbiak alapjá a = E η covη, l ξ 1 D l ξ 1 b = covη, l ξ 1 D l ξ 1. El ξ 1, Eze paraméterek becslése, szité a korábbiak alapjá Hiperbolikus regresszió Ebbe az esetbe a regressziós függvéyt â = η Cov η, l ξ 1 l ξ Sl 1, ξ 1, Cov η, l ξ 1 b =. Sl ξ 1, y = 1 a + bx a, b R 116

118 alakba keressük. Ez azzal ekvivales, hogy y 1 = a + bx, így ekkor η 1 és ξ 1 között lieáris regressziót végrehajtva, a korábbiak alapjá a = Eη 1 covη 1, ξ 1 D ξ 1 E ξ 1, b = covη 1, ξ 1 D ξ 1. Eze paraméterek becslése, szité a korábbiak alapjá â = η 1 Cov η 1, ξ 1 ξ Sξ 1, 1, Cov η b 1, ξ 1 =. Sξ 1, 117

119 Irodalomjegyzék [1] Borovkov, A. A.: Matematikai statisztika, Typotex Kiadó, [] Fazekas I. szerk.: Bevezetés a matematikai statisztikába, Kossuth Egyetemi Kiadó, Debrece, 000. [3] Fazekas I.: Valószíűségszámítás, Kossuth Egyetemi Kiadó, Debrece, 000. [4] Halmos, P. R., Mértékelmélet, Godolat, Budapest, [5] Huyadi L., Mudruczó Gy., Vita L.: Statisztika, Aula Kiadó, Budapesti Közgazdaságtudomáyi Egyetem, [6] Johso, N. L., Kotz, S.: Distributios i statistics, Cotiuous uivariate distributios, Houghto Miffi, Bosto, [7] Kedall, M. G., Stuart, A.: The theory of advaced statistics I III, Griffi, Lodo, [8] Lukács O.: Matematikai statisztika példatár, Műszaki Köyvkiadó, Budapest, [9] Meszéa Gy., Zierma M.: Valószíűségelmélet és matematikai statisztika, Közgazdasági és Jogi Köyvkiadó, Budapest, [10] Mogyoródi J., Michaletzky Gy. szerk.: Matematikai statisztika, Nemzeti Taköyvkiadó, Budapest, [11] Mogyoródi J., Somogyi Á.: Valószíűségszámítás, Taköyvkiadó, Budapest, 198. [1] Réyi A.: Valószíűségszámítás, Taköyvkiadó, Budapest, [13] Rudi, W.: A matematikai aalízis alapjai, Műszaki Köyvkiadó, Budapest, [14] Shiryayev, A. N.: Probability, Spriger-Verlag, New York, [15] Terdik Gy.: Előadások a matematikai statisztikából, mobidiák köyvtár, Debrecei Egyetem, [16] Vicze I.: Matematikai statisztika, Taköyvkiadó, Budapest,