Eloszlások jellemzése. Momentumok. Medián és kvantilis. Karakterisztikus függvény

Átírás

1 Karakterisztikus függvény Eloszlások jellemzése Momentumok Karakterisztikus függvény Medián és kvantilis Medián Kvantilis Módusz Hogyan lehetne általánosítani a generátorfüggvényt folytonos okra?

2 Karakterisztikus függvény Eloszlások jellemzése Momentumok Karakterisztikus függvény Medián és kvantilis Medián Kvantilis Módusz Karakterisztikus függvény Definíció: egy X folytonos valószínűségi változó karakterisztikus függvénye: ϕ(t) = e itx = e itx = e itx ρ(x)dx. A generátorfüggvény általánosításának felel meg: Ha X diszkrét és nem negatív egészeken fut végig, akkor ρ(x) = ϕ(t) = k=0 P(X = k)δ(x k) = p kδ(x k), k=0 e itx p kδ(x k)dx = k=0 p ke itk = G(z = e it ). k=0

3 Karakterisztikus függvény Eloszlások jellemzése Momentumok Karakterisztikus függvény Medián és kvantilis Medián Kvantilis Módusz Karakterisztikus függvény Definíció: egy X folytonos valószínűségi változó karakterisztikus függvénye: ϕ(t) = e itx = e itx = e itx ρ(x)dx. A generátorfüggvény általánosításának felel meg: Ha X diszkrét és nem negatív egészeken fut végig, akkor ρ(x) = ϕ(t) = k=0 P(X = k)δ(x k) = p kδ(x k), k=0 e itx p kδ(x k)dx = k=0 p ke itk = G(z = e it ). k=0

4 Karakterisztikus függvény és momentumok Eloszlások jellemzése Momentumok Karakterisztikus függvény Medián és kvantilis Medián Kvantilis Módusz Karakterisztikus függvény és momentumok A ρ(x) sűrűségfüggvény és az összes momentum meghatározható a karakterisztikus függvény segítségével: ρ(x) = 1 2π e itx ϕ(t)dt, X n = x n = 1 n ϕ i n t = [ 1 n n t=0 i t ] ϕ(t). t=0 A ρ(x) egyenleténél kihasználtuk, hogy 1 2π e itx ϕ(t)dt = 1 2π e itx 1 2π e itx ρ(x )dx dt = e it(x x) dt ρ(x )dx = ρ(x). δ(x x)

5 Karakterisztikus függvény és momentumok Eloszlások jellemzése Momentumok Karakterisztikus függvény Medián és kvantilis Medián Kvantilis Módusz a a momentumok karakterisztikus függvény Az összes momentum ismerete egyenlő az ismeretével!

6 Összeg karakterisztikus függvénye Eloszlások jellemzése Momentumok Karakterisztikus függvény Ha X és Y függetlenek, akkor mi lesz a Z = X + Y változó karakterisztikus függvénye? Medián és kvantilis Medián Kvantilis Módusz Összeg a

7 Összeg karakterisztikus függvénye Eloszlások jellemzése Momentumok Karakterisztikus függvény Ha X és Y függetlenek, akkor mi lesz a Z = X + Y változó karakterisztikus függvénye? Medián és kvantilis Medián Kvantilis Módusz ρ Z(x) = ρ X(x y)ρ Y(y)dy ϕ Z(t) = dx dyρ X(x y)ρ Y(y)e itx = ϕ Z(t) = dx dyρ X(x y)ρ Y(y)e it(x y) e ity = ϕ Z(t) = dzρ X(z)e itz dyρ Y(y)e ity = ϕ X(t)ϕ Y(t). Összeg a

8 Összeg karakterisztikus függvénye Eloszlások jellemzése Momentumok Karakterisztikus függvény Medián és kvantilis Medián Kvantilis Módusz Összeg karakterisztikus függvénye Összeg karakterisztikus függvénye a karakterisztikus függvények szorzata: Ha X 1, X 2,..., X n független valószínűségi változók és Y = X 1 + X X n, akkor Y karakterisztikus függvénye: ϕ Y(t) = Z X1 +X 2 + +X n (t) = e it(x 1+X 2 + +X n) = e itx 1 e itx 2 e itxn = e itx 1 e itx 2 e itxn = ϕ X1 (t)ϕ X2 (t) ϕ Xn (t). χ 2 -

9 Összeg karakterisztikus függvénye Eloszlások jellemzése Momentumok Karakterisztikus függvény Medián és kvantilis Medián Kvantilis Módusz Összeg karakterisztikus függvénye Összeg karakterisztikus függvénye a karakterisztikus függvények szorzata: Ha X 1, X 2,..., X n független valószínűségi változók és Y = X 1 + X X n, akkor Y karakterisztikus függvénye: ϕ Y(t) = Z X1 +X 2 + +X n (t) = e it(x 1+X 2 + +X n) = e itx 1 e itx 2 e itxn = e itx 1 e itx 2 e itxn = ϕ X1 (t)ϕ X2 (t) ϕ Xn (t). χ 2 -

10 Eloszlások jellemzése Momentumok Karakterisztikus függvény Medián és kvantilis Medián Kvantilis Módusz MEDIÁN ÉS KVANTILIS

11 Hol van egy közepe? Eloszlások jellemzése Momentumok Karakterisztikus függvény Medián és kvantilis Medián Kvantilis Módusz Általában a várható értéket szoktuk az közepének gondolni... Ez a x -re szimmetrikus ρ(x) esetén teljesen OK, pl. normális : µ =2, σ =1 µ =7, σ =2 ρ( x) x

12 Hol van egy közepe? Eloszlások jellemzése Momentumok Karakterisztikus függvény Medián és kvantilis Medián Kvantilis Módusz Előfordulnak azonban olyan ok is, ahol ρ(x) erősen aszimmetrikus. Pl. Tegyük fel, hogy egy előadó 200 csokit oszt ki 50 hallgató közt különböző módokon: mindenkinek 4-et, teljesen véletlenszerűen, (minden egyes csokinál véletlenszerűen kiválaszt egy hallgatót, függetlenül az előző választásoktól), a ZH pontszám alapján elért helyezés szerint -az első 5 hallgató 20 csokit kap fejenként, -a 6. helyezéstől a 10.-ig 10-et fejenként, -a 11. helyezéstől a 20.-ig 4-et fejenként, -a 21. helyezéstől a 31.-ig 1-et fejenként. A 4 legstréberebb hallgatónak ad csokit (Az egy hallgatónak adott csokik számának várható értéke minden esetben 200/50=4).

13 Hol van egy közepe? Eloszlások jellemzése Momentumok Karakterisztikus függvény Medián és kvantilis Medián Kvantilis Módusz ρ( x) Az első két esetben az (közel) szimmetrikus és a várható érték tényleg az közepén van : <x> x

14 Hol van egy közepe? Eloszlások jellemzése Momentumok Karakterisztikus függvény Medián és kvantilis Medián Kvantilis Módusz ρ( x) A másik két esetben viszont egy tipikus hallgató kevesebb csokival rendelkezik mint az átlag: <x> x

15 Medián Eloszlások jellemzése Momentumok Karakterisztikus függvény Medián és kvantilis Medián Kvantilis Módusz Az erősen aszimmetrikus ok esetén ahol nagy kiugró értékek fordulnak elő, a várható érték helyett sokszor szemléletesebb az mediánja. Medián Definíció: egy mediánja az az m érték, ahol az függvény F(x = m) = 1 2. Szemléletes jelentése: - az közepén van abból a szempontból, hogy annak valószínűsége, hogy X < m illetve, hogy X > m egyaránt ha elég nagy számú mintát veszünk az ból, akkor nagyjából ugyanannyi lesz alatta mint felette.

16 Medián Eloszlások jellemzése Momentumok Karakterisztikus függvény Medián és kvantilis Medián Kvantilis Módusz Előfordulhatnak olyan esetek, amikor pontosítani kell a definíción: Ha F(x) = 1 teljesül egy egész [x1, x2] szakaszon keresztül, akkor 2 m = (x 1 + x 2)/2 a szakasz közepén van. F(x) m x

17 Medián Eloszlások jellemzése Momentumok Karakterisztikus függvény Medián és kvantilis Medián Kvantilis Módusz Előfordulhatnak olyan esetek, amikor pontosítani kell a definíción: Ha F(x) átugorja az 1 értéket, azaz F(x) = 1 -nek nincs 2 2 megoldása, akkor van egy x 0, melyre P(X < x 0) < 1 és 2 P(X > x 0) < 1. Ilyenkor m = x0. 2 F(x) m x

18 Medián Példák Eloszlások jellemzése Momentumok Karakterisztikus függvény Medián és kvantilis Medián Kvantilis Módusz Példa A csokoládé osztogatós példánál a medián: ρ( x) <x> x

19 Medián Példák Eloszlások jellemzése Momentumok Karakterisztikus függvény Medián és kvantilis Medián Kvantilis Módusz Példa Mi az exponenciális mediánja? F(x) = 1 e λx, ρ(x) = λe λx

20 Medián Példák Eloszlások jellemzése Momentumok Karakterisztikus függvény Medián és kvantilis Medián Példa Mi az exponenciális mediánja? F(x) = 1 e λx, Sűrűségfüggvény alapján: ρ(x) = λe λx Kvantilis Módusz m m ρ(x)dx = ρ(x)dx = λe λx dx = 0 m 0 m λe λx dx = 1 2 [ e λx ] m 0 = [ e λx ] m = 1 e λm = e λm = 1 2 m = 1 λ ln 2 Eloszlásfüggvény alapján: F(x = m) = 1 e λm = 1 2 e λm = 1 2 m = 1 λ ln 2

21 Medián Példák Eloszlások jellemzése Momentumok Karakterisztikus függvény Medián és kvantilis Medián Kvantilis Módusz Példa A lognormális nál: µ=0, σ=0.3 µ=0, σ=1.5 ρ( x) m 0.4 <x> 0.2 m <x> x

22 Medián és várható érték Eloszlások jellemzése Momentumok Karakterisztikus függvény Ha a sűrűségfüggvény szimmetrikus X -re, akkor m = X. Miért? Medián és kvantilis Medián Kvantilis Módusz

23 Medián és várható érték Eloszlások jellemzése Momentumok Karakterisztikus függvény Medián és kvantilis Medián Kvantilis Módusz Ha a sűrűségfüggvény szimmetrikus X -re, akkor m = X. Ilyenkor a szimmetria miatt x ρ(x)dx = x ρ(x)dx = 1 2.

24 Kvantilis Eloszlások jellemzése Momentumok Karakterisztikus függvény Medián és kvantilis Medián Kvantilis Módusz A medián definícióját általánosíthatjuk úgy, hogy az függvény, F(x) értékkészletét két nem egyforma nagyságú tartományra osztjuk szét: Kvantilis Definíció: egy p-ed rendű kvantilise az az Q p érték, melyre F(x = Q p) = p. Fontos kvantilisek: - a Q 1 2 a medián, - a Q 1 4 az alsó kvartilis, a Q 3 4 a felső kvartilis. A Q 3 Q 1 az interkvartilis terjedelem ami pl. a szóráshoz hasonlóan 4 4 azt jellemzi, hogy milyen széles egy.

25 Kvantilis Eloszlások jellemzése Momentumok Karakterisztikus függvény Medián és kvantilis Medián Kvantilis Módusz A medián definícióját általánosíthatjuk úgy, hogy az függvény, F(x) értékkészletét két nem egyforma nagyságú tartományra osztjuk szét: Kvantilis Definíció: egy p-ed rendű kvantilise az az Q p érték, melyre F(x = Q p) = p. Fontos kvantilisek: - a Q 1 2 a medián, - a Q 1 4 az alsó kvartilis, a Q 3 4 a felső kvartilis. A Q 3 Q 1 az interkvartilis terjedelem ami pl. a szóráshoz hasonlóan 4 4 azt jellemzi, hogy milyen széles egy.

26 Kvantilis Eloszlások jellemzése Momentumok Karakterisztikus függvény Medián és kvantilis Medián Kvantilis Módusz A medián definícióját általánosíthatjuk úgy, hogy az függvény, F(x) értékkészletét két nem egyforma nagyságú tartományra osztjuk szét: Kvantilis Definíció: egy p-ed rendű kvantilise az az Q p érték, melyre F(x = Q p) = p. Fontos kvantilisek: - a Q 1 2 a medián, - a Q 1 4 az alsó kvartilis, a Q 3 4 a felső kvartilis. A Q 3 Q 1 az interkvartilis terjedelem ami pl. a szóráshoz hasonlóan 4 4 azt jellemzi, hogy milyen széles egy.

27 Kvantilis Eloszlások jellemzése Momentumok Karakterisztikus függvény Medián és kvantilis Medián Kvantilis Módusz A medián definícióját általánosíthatjuk úgy, hogy az függvény, F(x) értékkészletét két nem egyforma nagyságú tartományra osztjuk szét: Kvantilis Definíció: egy p-ed rendű kvantilise az az Q p érték, melyre F(x = Q p) = p. Fontos kvantilisek: - a Q 1 2 a medián, - a Q 1 4 az alsó kvartilis, a Q 3 4 a felső kvartilis. A Q 3 Q 1 az interkvartilis terjedelem ami pl. a szóráshoz hasonlóan 4 4 azt jellemzi, hogy milyen széles egy.

28 Módusz Eloszlások jellemzése Momentumok Karakterisztikus függvény Medián és kvantilis Medián Kvantilis Módusz Módusz Definíció: az egy módusza a sűrűségfüggvény, ρ(x), egy lokális maximumhelyének felel meg. Unimodális : ρ(x)-nek csak egy maximumhelye van. (Pl. normális-). Bimodális, trimodális, stb. : ρ(x)-nek két, három, stb. lokális maximumhelye van.

29 Módusz Eloszlások jellemzése Momentumok Karakterisztikus függvény Medián és kvantilis Medián Kvantilis Módusz Módusz Definíció: az egy módusza a sűrűségfüggvény, ρ(x), egy lokális maximumhelyének felel meg. Unimodális : ρ(x)-nek csak egy maximumhelye van. (Pl. normális-). Bimodális, trimodális, stb. : ρ(x)-nek két, három, stb. lokális maximumhelye van.

30 Korreláció Bevezetés Kovariancia Korrelációs együttható A C = ±1 eset A C = 0 eset Koszinusz hasonlóság Empirikus kovariancia és korreláciő Több dimenziós eset KORRELÁCIÓ

31 Korreláció Bevezetés Korreláció Bevezetés Kovariancia Korrelációs együttható A C = ±1 eset Mit jelenthet két valószínűségi változó közti korreláció? Pl. X mint a valszám ZH-ra készülés intenzitása, Y meg a kapott pontszám. A C = 0 eset Koszinusz hasonlóság Empirikus kovariancia és korreláciő Több dimenziós eset

32 Korreláció Bevezetés Korreláció Bevezetés Kovariancia Korrelációs együttható A C = ±1 eset Mit jelenthet két valószínűségi változó közti korreláció? Pl. X mint a valszám ZH-ra készülés intenzitása, Y meg a kapott pontszám. A C = 0 eset Koszinusz hasonlóság Empirikus kovariancia és korreláciő Több dimenziós eset

33 Korreláció Bevezetés Korreláció Bevezetés Kovariancia Korrelációs együttható A C = ±1 eset A C = 0 eset Koszinusz hasonlóság Empirikus kovariancia és korreláciő Több dimenziós eset Mit jelenthet két valószínűségi változó közti korreláció? Pl. X mint a valszám ZH-ra készülés intenzitása, Y meg a kapott pontszám. Ha a kettő független, akkor nincs korreláció és a tanulás mennyisége semmilyen hatással nincs a kapott pontszámra. Ha nem függetlenek és van némi korreláció akkor több pontra számítunk sok tanulás esetén, kevesebbre kevés tanulás esetén, legalábbis az átlagos esethez viszonyítva. Jó ötletnek tűnik a (X X )(Y Y ) szorzatot vizsgálni, hiszen ha X és Y egyforma irányban térnek el az átlaghoz képest, akkor ez a szorzat mindig pozitív lesz.

34 Korreláció Bevezetés Korreláció Bevezetés Kovariancia Korrelációs együttható A C = ±1 eset A C = 0 eset Koszinusz hasonlóság Empirikus kovariancia és korreláciő Több dimenziós eset Mit jelenthet két valószínűségi változó közti korreláció? Pl. X mint a valszám ZH-ra készülés intenzitása, Y meg a kapott pontszám. Ha a kettő független, akkor nincs korreláció és a tanulás mennyisége semmilyen hatással nincs a kapott pontszámra. Ha nem függetlenek és van némi korreláció akkor több pontra számítunk sok tanulás esetén, kevesebbre kevés tanulás esetén, legalábbis az átlagos esethez viszonyítva. Jó ötletnek tűnik a (X X )(Y Y ) szorzatot vizsgálni, hiszen ha X és Y egyforma irányban térnek el az átlaghoz képest, akkor ez a szorzat mindig pozitív lesz.

35 Korreláció Bevezetés Korreláció Bevezetés Kovariancia Korrelációs együttható A C = ±1 eset A C = 0 eset Koszinusz hasonlóság Empirikus kovariancia és korreláciő Több dimenziós eset Mit jelenthet két valószínűségi változó közti korreláció? Pl. X mint a valszám ZH-ra készülés intenzitása, Y meg a kapott pontszám. Ha a kettő független, akkor nincs korreláció és a tanulás mennyisége semmilyen hatással nincs a kapott pontszámra. Ha nem függetlenek és van némi korreláció akkor több pontra számítunk sok tanulás esetén, kevesebbre kevés tanulás esetén, legalábbis az átlagos esethez viszonyítva. Jó ötletnek tűnik a (X X )(Y Y ) szorzatot vizsgálni, hiszen ha X és Y egyforma irányban térnek el az átlaghoz képest, akkor ez a szorzat mindig pozitív lesz.

36 Kovariancia Korreláció Bevezetés Kovariancia Korrelációs együttható A C = ±1 eset A C = 0 eset Koszinusz hasonlóság Empirikus kovariancia és korreláciő Több dimenziós eset Korreláció és kovariancia Definíció: A X és Y valószínűségi változók kovarianciája: Cov(X, Y) = (X X )(Y Y ) = (x x ) (y y ) ρ(x, y)dxdy, ahol ρ(x, y) a X és Y együttes sűrűségfüggvénye. Alternatív ekvivalens formulája: Cov(X, Y) = (X X )(Y Y ) = XY X Y Y X + X Y = XY X Y Y X + X Y = XY X Y. Tulajdonságai: Ha X és Y független, akkor XY = X Y, emiatt Cov(X, Y) = 0. A X saját magával vett kovarianciája a variancia, más néven a szórásnégyzet: Cov(X, X) =Var(X) = σ 2 (X). Szorzat várható értéke

37 Kovariancia Korreláció Bevezetés Kovariancia Korrelációs együttható A C = ±1 eset A C = 0 eset Koszinusz hasonlóság Empirikus kovariancia és korreláciő Több dimenziós eset Korreláció és kovariancia Definíció: A X és Y valószínűségi változók kovarianciája: Cov(X, Y) = (X X )(Y Y ) = (x x ) (y y ) ρ(x, y)dxdy, ahol ρ(x, y) a X és Y együttes sűrűségfüggvénye. Alternatív ekvivalens formulája: Cov(X, Y) = (X X )(Y Y ) = XY X Y Y X + X Y = XY X Y Y X + X Y = XY X Y. Tulajdonságai: Ha X és Y független, akkor XY = X Y, emiatt Cov(X, Y) = 0. A X saját magával vett kovarianciája a variancia, más néven a szórásnégyzet: Cov(X, X) =Var(X) = σ 2 (X). Szorzat várható értéke

38 Kovariancia Korreláció Bevezetés Kovariancia Korrelációs együttható A C = ±1 eset A C = 0 eset Koszinusz hasonlóság Empirikus kovariancia és korreláciő Több dimenziós eset Korreláció és kovariancia Definíció: A X és Y valószínűségi változók kovarianciája: Cov(X, Y) = (X X )(Y Y ) = (x x ) (y y ) ρ(x, y)dxdy, ahol ρ(x, y) a X és Y együttes sűrűségfüggvénye. Alternatív ekvivalens formulája: Cov(X, Y) = (X X )(Y Y ) = XY X Y Y X + X Y = XY X Y Y X + X Y = XY X Y. Tulajdonságai: Ha X és Y független, akkor XY = X Y, emiatt Cov(X, Y) = 0. A X saját magával vett kovarianciája a variancia, más néven a szórásnégyzet: Cov(X, X) =Var(X) = σ 2 (X). Szorzat várható értéke

39 Kovariancia Korreláció Bevezetés Kovariancia Korrelációs együttható A C = ±1 eset A C = 0 eset Koszinusz hasonlóság Empirikus kovariancia és korreláciő Több dimenziós eset Max. mekkora lehet a kovariancia abszolút értéke? Bizonyítás: Először azt látjuk be, hogy Cov(X, Y) σ(x)σ(y). XY X 2 Y 2. Tetszőleges a számra (Y ax) 2 0, ezért 0 (Y ax) 2 = Y 2 2aYX + a 2 X 2 = Y 2 2a YX + a 2 X 2. Helyettesítsünk be a = XY X 2 értéket: 0 Y 2 XY 2 X 2 0 Y 2 X 2 XY 2

40 Kovariancia Korreláció Bevezetés Kovariancia Korrelációs együttható A C = ±1 eset A C = 0 eset Koszinusz hasonlóság Empirikus kovariancia és korreláciő Több dimenziós eset Max. mekkora lehet a kovariancia abszolút értéke? Bizonyítás: Először azt látjuk be, hogy Cov(X, Y) σ(x)σ(y). XY X 2 Y 2. Tetszőleges a számra (Y ax) 2 0, ezért 0 (Y ax) 2 = Y 2 2aYX + a 2 X 2 = Y 2 2a YX + a 2 X 2. Helyettesítsünk be a = XY X 2 értéket: 0 Y 2 XY 2 X 2 0 Y 2 X 2 XY 2

41 Kovariancia Korreláció Bevezetés Kovariancia Korrelációs együttható A C = ±1 eset A C = 0 eset Koszinusz hasonlóság Empirikus kovariancia és korreláciő Több dimenziós eset Max. mekkora lehet a kovariancia abszolút értéke? Bizonyítás: Először azt látjuk be, hogy Cov(X, Y) σ(x)σ(y). XY X 2 Y 2. Tetszőleges a számra (Y ax) 2 0, ezért 0 (Y ax) 2 = Y 2 2aYX + a 2 X 2 = Y 2 2a YX + a 2 X 2. Helyettesítsünk be a = XY X 2 értéket: 0 Y 2 XY 2 X 2 0 Y 2 X 2 XY 2

42 Kovariancia Korreláció Bevezetés Kovariancia Korrelációs együttható A C = ±1 eset A C = 0 eset Koszinusz hasonlóság Empirikus kovariancia és korreláciő Több dimenziós eset Max. mekkora lehet a kovariancia abszolút értéke? Bizonyítás: Először azt látjuk be, hogy Cov(X, Y) σ(x)σ(y). XY X 2 Y 2. Tetszőleges a számra (Y ax) 2 0, ezért 0 (Y ax) 2 = Y 2 2aYX + a 2 X 2 = Y 2 2a YX + a 2 X 2. Helyettesítsünk be a = XY X 2 értéket: 0 Y 2 XY 2 X 2 0 Y 2 X 2 XY 2

43 Kovariancia Korreláció Bevezetés Kovariancia Korrelációs együttható A C = ±1 eset A C = 0 eset Koszinusz hasonlóság Empirikus kovariancia és korreláciő A XY X 2 Y 2 tételt használjuk a X X és Y Y változókra: (X X ) (Y Y ) = Cov(X, Y) (X X ) 2 (Y Y ) 2 = σ(x)σ(y). Több dimenziós eset Ha a kovarianciát leosztjuk a szorások szorzatával, egy 1 és 1 közé eső számot kapunk!

44 Kovariancia Korreláció Bevezetés Kovariancia Korrelációs együttható A C = ±1 eset A C = 0 eset Koszinusz hasonlóság Empirikus kovariancia és korreláciő A XY X 2 Y 2 tételt használjuk a X X és Y Y változókra: (X X ) (Y Y ) = Cov(X, Y) (X X ) 2 (Y Y ) 2 = σ(x)σ(y). Több dimenziós eset Ha a kovarianciát leosztjuk a szorások szorzatával, egy 1 és 1 közé eső számot kapunk!

45 Korrelációs együttható Korreláció Bevezetés Kovariancia Korrelációs együttható A C = ±1 eset A C = 0 eset Koszinusz hasonlóság Empirikus kovariancia és korreláciő Több dimenziós eset Korrelációs együttható Definíció: A X és Y korrelációs együtthatója: C(X, Y) = Cov(X, Y) (X X )(Y Y ) σ(x)σ(y) = = σ(x)σ(y) (Ezt szokták Pearson-korrelációnak hívni). Tulajdonságai: Legfeljebb 1 abszolútértékű: 1 C(X, Y) 1 Ha X és Y független, akkor C(X, Y) = 0. XY X Y. σ(x)σ(y) Egy X valószínűségi változó önmagával vett korrelációs együtthatója C(X, X) = Cov(X,X) σ 2 (X) = 1.

46 Korrelációs együttható Korreláció Bevezetés Kovariancia Korrelációs együttható A C = ±1 eset A C = 0 eset Koszinusz hasonlóság Empirikus kovariancia és korreláciő Több dimenziós eset Korrelációs együttható Definíció: A X és Y korrelációs együtthatója: C(X, Y) = Cov(X, Y) (X X )(Y Y ) σ(x)σ(y) = = σ(x)σ(y) (Ezt szokták Pearson-korrelációnak hívni). Tulajdonságai: Legfeljebb 1 abszolútértékű: 1 C(X, Y) 1 Ha X és Y független, akkor C(X, Y) = 0. XY X Y. σ(x)σ(y) Egy X valószínűségi változó önmagával vett korrelációs együtthatója C(X, X) = Cov(X,X) σ 2 (X) = 1.

47 Korrelációs együttható Korreláció Bevezetés Kovariancia Korrelációs együttható A C = ±1 eset A C = 0 eset Koszinusz hasonlóság Empirikus kovariancia és korreláciő Több dimenziós eset Korrelációs együttható Definíció: A X és Y korrelációs együtthatója: C(X, Y) = Cov(X, Y) (X X )(Y Y ) σ(x)σ(y) = = σ(x)σ(y) (Ezt szokták Pearson-korrelációnak hívni). Tulajdonságai: Legfeljebb 1 abszolútértékű: 1 C(X, Y) 1 Ha X és Y független, akkor C(X, Y) = 0. XY X Y. σ(x)σ(y) Egy X valószínűségi változó önmagával vett korrelációs együtthatója C(X, X) = Cov(X,X) σ 2 (X) = 1.

48 Korrelációs együttható Korreláció Bevezetés Kovariancia Korrelációs együttható A C = ±1 eset A C = 0 eset Koszinusz hasonlóság Empirikus kovariancia és korreláciő Több dimenziós eset Korrelációs együttható Definíció: A X és Y korrelációs együtthatója: C(X, Y) = Cov(X, Y) (X X )(Y Y ) σ(x)σ(y) = = σ(x)σ(y) (Ezt szokták Pearson-korrelációnak hívni). Tulajdonságai: Legfeljebb 1 abszolútértékű: 1 C(X, Y) 1 Ha X és Y független, akkor C(X, Y) = 0. XY X Y. σ(x)σ(y) Egy X valószínűségi változó önmagával vett korrelációs együtthatója C(X, X) = Cov(X,X) σ 2 (X) = 1.

49 Korrelációs együttható Korreláció Bevezetés Kovariancia Korrelációs együttható A C = ±1 eset A C = 0 eset Koszinusz hasonlóság Empirikus kovariancia és korreláciő Több dimenziós eset Korrelációs együttható Definíció: A X és Y korrelációs együtthatója: C(X, Y) = Cov(X, Y) (X X )(Y Y ) σ(x)σ(y) = = σ(x)σ(y) (Ezt szokták Pearson-korrelációnak hívni). Tulajdonságai: Legfeljebb 1 abszolútértékű: 1 C(X, Y) 1 Ha X és Y független, akkor C(X, Y) = 0. XY X Y. σ(x)σ(y) Egy X valószínűségi változó önmagával vett korrelációs együtthatója C(X, X) = Cov(X,X) σ 2 (X) = 1.

50 Korrelációs együttható Példák Korreláció Bevezetés Kovariancia Korrelációs együttható A C = ±1 eset Példák Nézzük meg a korrelációs együttható értékét különböző pontfelhők esetén, ahol X és Y a pontok vízszintes és függőleges koordinátáinak felelnek meg: A C = 0 eset Koszinusz hasonlóság Empirikus kovariancia és korreláciő Több dimenziós eset

51 Korrelációs együttható A C = ±1 eset Korreláció Bevezetés Kovariancia Korrelációs együttható A C = ±1 eset A C = 0 eset Koszinusz hasonlóság Empirikus kovariancia és korreláciő A C(X, Y) = ±1 eset Ha Y = a + bx, (ahol b 0), akkor C(X, Y) = ±1, (b előjelétől függően). Ha C(X, Y) = ±1, akkor a, b melyekre Y = a + bx. Bizonyítás, odafelé: ha Y = a + bx, akkor Több dimenziós eset C(X, Y) = (a + bx)x a + bx X ax + bx 2 (a + b X ) X σ(a + bx)σ(x) = bσ(x)σ(x) = a X + b X 2 a X b X 2 bσ 2 (X) = b ( X2 X 2 ) bσ 2 (X) = 1.

52 Korrelációs együttható A C = ±1 eset Korreláció Bevezetés Kovariancia Korrelációs együttható A C = ±1 eset A C = 0 eset Koszinusz hasonlóság Empirikus kovariancia és korreláciő A C(X, Y) = ±1 eset Ha Y = a + bx, (ahol b 0), akkor C(X, Y) = ±1, (b előjelétől függően). Ha C(X, Y) = ±1, akkor a, b melyekre Y = a + bx. Bizonyítás, odafelé: ha Y = a + bx, akkor Több dimenziós eset C(X, Y) = (a + bx)x a + bx X ax + bx 2 (a + b X ) X σ(a + bx)σ(x) = bσ(x)σ(x) = a X + b X 2 a X b X 2 bσ 2 (X) = b ( X2 X 2 ) bσ 2 (X) = 1.

53 Korrelációs együttható A C = ±1 eset Korreláció Bevezetés Kovariancia Korrelációs együttható A C = ±1 eset A C = 0 eset Koszinusz hasonlóság Empirikus kovariancia és korreláciő Több dimenziós eset Bizonyítás, visszafelé: tegyük fel, hogy C(X, Y) = 1. Ilyenkor vizsgáljuk meg az várható értéket. Egyfelől R = ( X X σ(x) Y Y 2 σ(y) ) (X X )2 (X X )(Y Y ) R = 2 + σ 2 (X) σ(x)σ(y) (Y Y )2 = σ 2 (Y) (X X ) 2 σ 2 (X) 1 2 (X X )(Y Y ) σ(x)σ(y) C(X,Y) + (Y Y ) 2 σ 2 (Y) 1 = 2 2C(X, Y) = 0.

54 Korrelációs együttható A C = ±1 eset Korreláció Bevezetés Kovariancia Korrelációs együttható A C = ±1 eset A C = 0 eset Koszinusz hasonlóság Empirikus kovariancia és korreláciő Több dimenziós eset Bizonyítás, visszafelé: tegyük fel, hogy C(X, Y) = 1. Ilyenkor vizsgáljuk meg az várható értéket. Egyfelől R = ( X X σ(x) Y Y 2 σ(y) ) (X X )2 (X X )(Y Y ) R = 2 + σ 2 (X) σ(x)σ(y) (Y Y )2 = σ 2 (Y) (X X ) 2 σ 2 (X) 1 2 (X X )(Y Y ) σ(x)σ(y) C(X,Y) + (Y Y ) 2 σ 2 (Y) 1 = 2 2C(X, Y) = 0.

55 Korrelációs együttható A C = ±1 eset Korreláció Bevezetés Kovariancia Korrelációs együttható A C = ±1 eset A C = 0 eset Koszinusz hasonlóság Empirikus kovariancia és korreláciő Több dimenziós eset Másfelől ha jobban megnézzük, R = ( X X σ(x) Y Y 2 σ(y) ) 0, azaz R egy olyan valószínűségi változó, ami sosem negatív és a várható értéke 0. Általánosan, ha egy Z 0 valószínűségi változóra Z = 0, akkor P(Z = 0) = 1: - Tegyük fel, hogy P(Z = 0) < 1. Ilyenkor létezik egy A mérhető halmaz, melyre 0 A és P(Z A) = A ρ Z(x)dx = 1 P(Z = 0) > 0 - Viszont ekkor Z = zρ(z)dz A zρ(z)dz > 0 azaz ellentmondásra jutottunk, (amivel beláttuk, hogy P(Z = 0) = 1).

56 Korrelációs együttható A C = ±1 eset Korreláció Bevezetés Kovariancia Korrelációs együttható A C = ±1 eset A C = 0 eset Koszinusz hasonlóság Empirikus kovariancia és korreláciő Több dimenziós eset Másfelől ha jobban megnézzük, R = ( X X σ(x) Y Y 2 σ(y) ) 0, azaz R egy olyan valószínűségi változó, ami sosem negatív és a várható értéke 0. Általánosan, ha egy Z 0 valószínűségi változóra Z = 0, akkor P(Z = 0) = 1: - Tegyük fel, hogy P(Z = 0) < 1. Ilyenkor létezik egy A mérhető halmaz, melyre 0 A és P(Z A) = A ρ Z(x)dx = 1 P(Z = 0) > 0 - Viszont ekkor Z = zρ(z)dz A zρ(z)dz > 0 azaz ellentmondásra jutottunk, (amivel beláttuk, hogy P(Z = 0) = 1).

57 Korrelációs együttható A C = ±1 eset Korreláció Bevezetés Kovariancia Korrelációs együttható A C = ±1 eset A C = 0 eset Koszinusz hasonlóság Empirikus kovariancia és korreláciő Több dimenziós eset Másfelől ha jobban megnézzük, R = ( X X σ(x) Y Y 2 σ(y) ) 0, azaz R egy olyan valószínűségi változó, ami sosem negatív és a várható értéke 0. Általánosan, ha egy Z 0 valószínűségi változóra Z = 0, akkor P(Z = 0) = 1: - Tegyük fel, hogy P(Z = 0) < 1. Ilyenkor létezik egy A mérhető halmaz, melyre 0 A és P(Z A) = A ρ Z(x)dx = 1 P(Z = 0) > 0 - Viszont ekkor Z = zρ(z)dz A zρ(z)dz > 0 azaz ellentmondásra jutottunk, (amivel beláttuk, hogy P(Z = 0) = 1).

58 Korrelációs együttható A C = ±1 eset Korreláció Bevezetés Kovariancia Korrelációs együttható A C = ±1 eset A C = 0 eset Koszinusz hasonlóság Empirikus kovariancia és korreláciő Több dimenziós eset Másfelől ha jobban megnézzük, R = ( X X σ(x) Y Y 2 σ(y) ) 0, azaz R egy olyan valószínűségi változó, ami sosem negatív és a várható értéke 0. Általánosan, ha egy Z 0 valószínűségi változóra Z = 0, akkor P(Z = 0) = 1: - Tegyük fel, hogy P(Z = 0) < 1. Ilyenkor létezik egy A mérhető halmaz, melyre 0 A és P(Z A) = A ρ Z(x)dx = 1 P(Z = 0) > 0 - Viszont ekkor Z = zρ(z)dz A zρ(z)dz > 0 azaz ellentmondásra jutottunk, (amivel beláttuk, hogy P(Z = 0) = 1).

59 Korrelációs együttható A C = ±1 eset Korreláció Bevezetés Kovariancia Korrelációs együttható A C = ±1 eset A C = 0 eset Koszinusz hasonlóság Empirikus kovariancia és korreláciő Több dimenziós eset Alkalmazva az iménti tételt R-re azt kapjuk, hogy a X X σ(x) = Y Y σ(y) azonosság teljesül 1 valószínűséggel. Innen egyenesen következik, hogy P(Y = a + bx) = 1, ahol b = σ(y) σ(x), σ(y) a = Y σ(x) X.

60 Korrelációs együttható A C = ±1 eset Korreláció Bevezetés Kovariancia Korrelációs együttható A C = ±1 eset A C = 0 eset Koszinusz hasonlóság Empirikus kovariancia és korreláciő Több dimenziós eset Alkalmazva az iménti tételt R-re azt kapjuk, hogy a X X σ(x) = Y Y σ(y) azonosság teljesül 1 valószínűséggel. Innen egyenesen következik, hogy P(Y = a + bx) = 1, ahol b = σ(y) σ(x), σ(y) a = Y σ(x) X.

61 Korrelációs együttható A C = ±1 eset Korreláció Bevezetés Kovariancia Korrelációs együttható A C = ±1 eset A C = 0 eset Koszinusz hasonlóság Példa VIGYÁZAT! Az iménti tétel kifejezetten az egzaktul C = ±1 esetekre vonatkozott. Általánosan egy magas abszolút értékű C még nem feltétlen jelent közel lineáris kapcsolatot a két változó között. Az alábbi esetek mind C = értéket produkálnak: Empirikus kovariancia és korreláciő Több dimenziós eset

62 Korrelációs együttható A C = 0 eset Korreláció Bevezetés Kovariancia Korrelációs együttható A C = ±1 eset A C = 0 eset Koszinusz hasonlóság Empirikus kovariancia és korreláciő Több dimenziós eset Ha X és Y függetlenek, akkor C(X, Y) = 0, hiszen ilyenkor XY = X Y. És visszafelé? Visszafelé nem igaz, hogy ha C(X, Y) = 0, akkor X és Y automatikusan független is egyben. Egy ellenpélda: - Tfh. a 2d síkon az ábrán látható négy pontot egyformán P = 1 4 valószínűséggel választhatjuk. - A választott pont x és y koordinátái mint valószínűségi változók korrelálatlanok: x = y = 0 és mivel xy = 0 mindig teljesül, xy = 0. - Viszont nem függetlenek: P(x = 1, y = 1) = 0 P(x = 1)P(y = 1). P=0.25 ( 1,0) (0,1) (0, 1) P=0.25 P=0.25 (1,0) P=0.25

63 Korrelációs együttható A C = 0 eset Korreláció Bevezetés Kovariancia Korrelációs együttható A C = ±1 eset A C = 0 eset Koszinusz hasonlóság Empirikus kovariancia és korreláciő Több dimenziós eset Ha X és Y függetlenek, akkor C(X, Y) = 0, hiszen ilyenkor XY = X Y. És visszafelé? Visszafelé nem igaz, hogy ha C(X, Y) = 0, akkor X és Y automatikusan független is egyben. Egy ellenpélda: - Tfh. a 2d síkon az ábrán látható négy pontot egyformán P = 1 4 valószínűséggel választhatjuk. - A választott pont x és y koordinátái mint valószínűségi változók korrelálatlanok: x = y = 0 és mivel xy = 0 mindig teljesül, xy = 0. - Viszont nem függetlenek: P(x = 1, y = 1) = 0 P(x = 1)P(y = 1). P=0.25 ( 1,0) (0,1) (0, 1) P=0.25 P=0.25 (1,0) P=0.25

64 Korrelációs együttható A C = 0 eset Korreláció Bevezetés Kovariancia Korrelációs együttható A C = ±1 eset A C = 0 eset Koszinusz hasonlóság Empirikus kovariancia és korreláciő Több dimenziós eset Ha X és Y függetlenek, akkor C(X, Y) = 0, hiszen ilyenkor XY = X Y. És visszafelé? Visszafelé nem igaz, hogy ha C(X, Y) = 0, akkor X és Y automatikusan független is egyben. Egy ellenpélda: - Tfh. a 2d síkon az ábrán látható négy pontot egyformán P = 1 4 valószínűséggel választhatjuk. - A választott pont x és y koordinátái mint valószínűségi változók korrelálatlanok: x = y = 0 és mivel xy = 0 mindig teljesül, xy = 0. - Viszont nem függetlenek: P(x = 1, y = 1) = 0 P(x = 1)P(y = 1). P=0.25 ( 1,0) (0,1) (0, 1) P=0.25 P=0.25 (1,0) P=0.25

65 Korrelációs együttható A C = 0 eset Korreláció Bevezetés Kovariancia Korrelációs együttható A C = ±1 eset A C = 0 eset Koszinusz hasonlóság Empirikus kovariancia és korreláciő Több dimenziós eset Ha X és Y függetlenek, akkor C(X, Y) = 0, hiszen ilyenkor XY = X Y. És visszafelé? Visszafelé nem igaz, hogy ha C(X, Y) = 0, akkor X és Y automatikusan független is egyben. Egy ellenpélda: - Tfh. a 2d síkon az ábrán látható négy pontot egyformán P = 1 4 valószínűséggel választhatjuk. - A választott pont x és y koordinátái mint valószínűségi változók korrelálatlanok: x = y = 0 és mivel xy = 0 mindig teljesül, xy = 0. - Viszont nem függetlenek: P(x = 1, y = 1) = 0 P(x = 1)P(y = 1). P=0.25 ( 1,0) (0,1) (0, 1) P=0.25 P=0.25 (1,0) P=0.25

66 Korrelációs együttható A C = 0 eset Korreláció Bevezetés Kovariancia Korrelációs együttható A C = ±1 eset A C = 0 eset Koszinusz hasonlóság Empirikus kovariancia és korreláciő Több dimenziós eset Ha X és Y függetlenek, akkor C(X, Y) = 0, hiszen ilyenkor XY = X Y. És visszafelé? Visszafelé nem igaz, hogy ha C(X, Y) = 0, akkor X és Y automatikusan független is egyben. Egy ellenpélda: - Tfh. a 2d síkon az ábrán látható négy pontot egyformán P = 1 4 valószínűséggel választhatjuk. - A választott pont x és y koordinátái mint valószínűségi változók korrelálatlanok: x = y = 0 és mivel xy = 0 mindig teljesül, xy = 0. - Viszont nem függetlenek: P(x = 1, y = 1) = 0 P(x = 1)P(y = 1). P=0.25 ( 1,0) (0,1) (0, 1) P=0.25 P=0.25 (1,0) P=0.25

67 Korrelációs együttható A C = 0 eset Korreláció Bevezetés Kovariancia Korrelációs együttható A C = ±1 eset A C = 0 eset Koszinusz hasonlóság Empirikus kovariancia és korreláciő Több dimenziós eset Ha X és Y függetlenek, akkor C(X, Y) = 0, hiszen ilyenkor XY = X Y. És visszafelé? Visszafelé nem igaz, hogy ha C(X, Y) = 0, akkor X és Y automatikusan független is egyben. Egy ellenpélda: - Tfh. a 2d síkon az ábrán látható négy pontot egyformán P = 1 4 valószínűséggel választhatjuk. - A választott pont x és y koordinátái mint valószínűségi változók korrelálatlanok: x = y = 0 és mivel xy = 0 mindig teljesül, xy = 0. - Viszont nem függetlenek: P(x = 1, y = 1) = 0 P(x = 1)P(y = 1). P=0.25 ( 1,0) (0,1) (0, 1) P=0.25 P=0.25 (1,0) P=0.25

68 Koszinusz hasonlóság Korreláció Bevezetés Kovariancia Korrelációs együttható A C = ±1 eset A C = 0 eset Koszinusz hasonlóság Két vektor, x és y hasonlóságát mérhetjük a közbezárt φ szög koszinuszával: x y Sim( x, y) = cos φ = x y = i x iy i i xi 2 i y 2 i Empirikus kovariancia és korreláciő Több dimenziós eset

69 Koszinusz hasonlóság Korreláció Bevezetés Kovariancia Korrelációs együttható A C = ±1 eset A C = 0 eset Koszinusz hasonlóság Empirikus kovariancia és korreláciő Két vektor, x és y hasonlóságát mérhetjük a közbezárt φ szög koszinuszával: x y Sim( x, y) = cos φ = x y = i x iy i i xi 2 i y 2 i Ha pl. mérési adataink vannak két változóról, akkor ezt a mennyiséget is használhatjuk a két változó összehasonlítására: a mérési adatokkal töltjük fel az x és y vektort, kiszámoljuk a koszinusz hasonlóságot a fenti módon. Több dimenziós eset

70 Koszinusz hasonlóság Korreláció Bevezetés Kovariancia Korrelációs együttható A C = ±1 eset A C = 0 eset Koszinusz hasonlóság Empirikus kovariancia és korreláciő Két vektor, x és y hasonlóságát mérhetjük a közbezárt φ szög koszinuszával: x y Sim( x, y) = cos φ = x y = i x iy i i xi 2 i y 2 i Tegyük fel, hogy a változók centráltak, azaz x = 1 n n i=1 x i = 0, (ahol n a mérési adatok száma). y = 1 n n i=1 y i = 0, Több dimenziós eset

71 Koszinusz hasonlóság Korreláció Bevezetés Kovariancia Korrelációs együttható A C = ±1 eset A C = 0 eset Koszinusz hasonlóság Empirikus kovariancia és korreláciő Több dimenziós eset Két vektor, x és y hasonlóságát mérhetjük a közbezárt φ szög koszinuszával: x y Sim( x, y) = cos φ = x y = i x iy i i xi 2 i y 2 i Tegyük fel, hogy a változók centráltak, azaz x = 1 n n i=1 x i = 0, (ahol n a mérési adatok száma). Mi lesz a korrelációs együttható? y = 1 n n i=1 y i = 0,

72 Koszinusz hasonlóság Korreláció Bevezetés Kovariancia Korrelációs együttható A C = ±1 eset A C = 0 eset Koszinusz hasonlóság Empirikus kovariancia és korreláciő Több dimenziós eset Két vektor, x és y hasonlóságát mérhetjük a közbezárt φ szög koszinuszával: x y Sim( x, y) = cos φ = x y = i x iy i i xi 2 i y 2 i Tegyük fel, hogy a változók centráltak, azaz x = 1 n n i=1 x i = 0, y = 1 n n i=1 y i = 0, (ahol n a mérési adatok száma). Mi lesz a korrelációs együttható? 1 Cov(x, y) = n x iy i x y = 1 x y, i n 0 σ 2 (x) = 1 n i x 2 i x 2 0 = 1 n x 2

73 Koszinusz hasonlóság Korreláció Bevezetés Kovariancia Korrelációs együttható A C = ±1 eset A C = 0 eset Koszinusz hasonlóság Empirikus kovariancia és korreláciő Több dimenziós eset Két vektor, x és y hasonlóságát mérhetjük a közbezárt φ szög koszinuszával: x y Sim( x, y) = cos φ = x y = i x iy i i xi 2 i y 2 i Tegyük fel, hogy a változók centráltak, azaz x = 1 n n i=1 x i = 0, (ahol n a mérési adatok száma). Mi lesz a korrelációs együttható? 1 y = 1 n n i=1 y i = 0, n C = i x iy i = i x iy i = Sim( x, y). 1 n i xi 2 1 n i y 2 i x 2 i i i y 2 i

74 Koszinusz hasonlóság Korreláció Bevezetés Kovariancia Korrelációs együttható A C = ±1 eset A C = 0 eset Koszinusz hasonlóság Két vektor, x és y hasonlóságát mérhetjük a közbezárt φ szög koszinuszával: x y Sim( x, y) = cos φ = x y = i x iy i i xi 2 i y 2 i És ha nem centráltak? Empirikus kovariancia és korreláciő Több dimenziós eset

75 Koszinusz hasonlóság Korreláció Bevezetés Kovariancia Korrelációs együttható A C = ±1 eset A C = 0 eset Koszinusz hasonlóság Empirikus kovariancia és korreláciő Több dimenziós eset Két vektor, x és y hasonlóságát mérhetjük a közbezárt φ szög koszinuszával: x y Sim( x, y) = cos φ = x y = i x iy i i xi 2 i y 2 i És ha nem centráltak? Akkor centráljuk őket: x c i = x i x, y c i = y i y, és a centrált változókra: Cov(x c, y c ) = 1 n (x i x )(y i y ) x c y c = 1 x i n c y c 0 σ 2 (x c ) = 1 n i (x i x ) 2 x c 2 0 = 1 n x c 2, C(x c, y c ) = Cov(xc, y c 1 ) σ(x c )σ(y c ) = x n c y c 1 n x c 1 n y c = Sim( x c, y c ).

76 Empirikus kovariancia és korreláció Korreláció Bevezetés Kovariancia Korrelációs együttható A C = ±1 eset A C = 0 eset Koszinusz hasonlóság Empirikus kovariancia és korreláciő Több dimenziós eset Ahogy már az előző részben láttuk, ha empirikus adatpárok állnak rendelkezésre egy X és Y mennyiségről úgy mint pl. - betegek vérnyomása és testsúlya, - egy kísérletben a becsapódó részecske x és y koordinátája, - stb. akkor a két mennyiség kovariancájának természetes becslése a Cov(x, y) = 1 n n i=1(x i x)(y i y) vagy Cov(x, y) = 1 n n i=1 x iy i x y.

77 Empirikus kovariancia és korreláció Korreláció Bevezetés Kovariancia Korrelációs együttható A C = ±1 eset A C = 0 eset Koszinusz hasonlóság Empirikus kovariancia és korreláciő Több dimenziós eset Ahogy már az előző részben láttuk, ha empirikus adatpárok állnak rendelkezésre egy X és Y mennyiségről úgy mint pl. - betegek vérnyomása és testsúlya, - egy kísérletben a becsapódó részecske x és y koordinátája, - stb. akkor a két mennyiség kovariancájának természetes becslése a Cov(x, y) = 1 n n i=1(x i x)(y i y) vagy Cov(x, y) = 1 n n i=1 x iy i x y. Mi az empirikus kovarianca várható értéke?

78 Empirikus kovariancia és korreláció Korreláció Bevezetés Kovariancia Korrelációs együttható A C = ±1 eset A C = 0 eset Koszinusz hasonlóság Empirikus kovariancia és korreláciő Több dimenziós eset Ahogy már az előző részben láttuk, ha empirikus adatpárok állnak rendelkezésre egy X és Y mennyiségről úgy mint pl. - betegek vérnyomása és testsúlya, - egy kísérletben a becsapódó részecske x és y koordinátája, - stb. akkor a két mennyiség kovariancájának természetes becslése a Cov(x, y) = 1 n n i=1(x i x)(y i y) vagy Cov(x, y) = 1 n n i=1 x iy i x y. Mi az empirikus kovarianca várható értéke? n Cov(x, y) = 1 i x)(y i y) = n i=1(x 1 n 1 n n i=1 xy 1 n n i=1 [ x iy i x iy y ix + x y ] = n i=1 x iy 1 n n i=1 x iy i x iy y ix + x y = y ix + x y.

79 Empirikus kovariancia és korreláció Korreláció Bevezetés Kovariancia Cov(x, y) = xy 1 n n i=1 x iy 1 n n i=1 y ix + x y. Korrelációs együttható A C = ±1 eset A C = 0 eset Koszinusz hasonlóság Empirikus kovariancia és korreláciő Több dimenziós eset

80 Empirikus kovariancia és korreláció Korreláció Bevezetés Kovariancia Korrelációs együttható A C = ±1 eset A C = 0 eset Koszinusz hasonlóság Empirikus kovariancia és korreláciő Több dimenziós eset Cov(x, y) = xy 1 n n i=1 x iy 1 n n i=1 y ix + x y. A második és harmadik tagok a minták függetlensége miatt x iy = x i 1 n y ix = y i 1 n n j=1 n j=1 y j = 1 n x j = 1 n n j=1 n j=1 x iy j = 1 [ xy + (n 1) x y ], n y ix j = 1 [ yx + (n 1) y x ], n

81 Empirikus kovariancia és korreláció Korreláció Bevezetés Kovariancia Korrelációs együttható A C = ±1 eset A C = 0 eset Koszinusz hasonlóság Empirikus kovariancia és korreláciő Több dimenziós eset Cov(x, y) = xy 1 n n i=1 x iy 1 n n i=1 y ix + x y. A második és harmadik tagok a minták függetlensége miatt x iy = x i 1 n y ix = y i 1 n A negyedik tag: n j=1 n j=1 y j = 1 n x j = 1 n n j=1 n j=1 x y = [ 1 n n x i] 1 n y j = i=1 n j=1 1 n n 2 i=1 1 n n 2 x iy i + 2 x iy j i=1 i<j x iy j = 1 [ xy + (n 1) x y ], n y ix j = 1 [ yx + (n 1) y x ], n x iy i + 2 x iy j i<j = = 1 n xy + 2 n 2 x i y j = i<j 1 n(n 1) [n xy + 2 x y ] = 1 n2 2 n xy + (1 1 ) x y n

82 Empirikus kovariancia és korreláció Korreláció Bevezetés Kovariancia Korrelációs együttható A C = ±1 eset A C = 0 eset Koszinusz hasonlóság Empirikus kovariancia és korreláciő Több dimenziós eset Visszahelyettesítve: Cov(x, y) = xy 1 n n i=1 x iy 1 n n i=1 y ix + x y = xy 2 n n 1 n [ xy + (n 1) x y ] + 1 n xy + (1 1 ) x y = n (1 1 n ) xy (1 1 n ) x y = (1 1 ) [ xy x y ] = n n 1 n [ xy x y ] = n 1 Cov(X, Y) n

83 Empirikus kovariancia és korreláció Korreláció Bevezetés Kovariancia Korrelációs együttható A C = ±1 eset A C = 0 eset Koszinusz hasonlóság Empirikus kovariancia és korreláciő Több dimenziós eset Visszahelyettesítve: Cov(x, y) = xy 1 n n i=1 x iy 1 n n i=1 y ix + x y = xy 2 n n 1 n [ xy + (n 1) x y ] + 1 n xy + (1 1 ) x y = n (1 1 n ) xy (1 1 n ) x y = (1 1 ) [ xy x y ] = n n 1 [ xy x y ] = n 1 Cov(X, Y) n n Mit kapunk, ha a másik alakból indulunk ki?

84 Empirikus kovariancia és korreláció Korreláció Bevezetés Kovariancia Korrelációs együttható A C = ±1 eset A C = 0 eset Koszinusz hasonlóság Empirikus kovariancia és korreláciő Több dimenziós eset Visszahelyettesítve: Cov(x, y) = xy 1 n n i=1 x iy 1 n n i=1 y ix + x y = xy 2 n n 1 n [ xy + (n 1) x y ] + 1 n xy + (1 1 ) x y = n (1 1 n ) xy (1 1 n ) x y = (1 1 ) [ xy x y ] = n n 1 [ xy x y ] = n 1 Cov(X, Y) n n Mit kapunk, ha a másik alakból indulunk ki? n 1 Cov(x, y) = x iy i x y, n Cov(x, y) = 1 n i=1 n i=1 x iy i x y = 1 n n i=1 x iy i x y = xy [ 1 n xy + (1 1 ) x y ] = n n 1 [ xy x y ] = n 1 n n Cov(X, Y)

85 Empirikus kovariancia és korreláció Korreláció Bevezetés Kovariancia Korrelációs együttható A C = ±1 eset A C = 0 eset Koszinusz hasonlóság Empirikus kovariancia és korreláciő A kovariancia és a korreláció becslése Ha n mérési adatpárunk van az X és Y mennyiségre (változóra) vonatkozóan, akkor ezek alapján a kovarianciát a Cov(x, y) = 1 n 1 n i=1 összefüggés segítségével becsülhetjük meg. (x i x)(y i y) Több dimenziós eset

86 Empirikus kovariancia és korreláció Korreláció Bevezetés Kovariancia Korrelációs együttható A C = ±1 eset A C = 0 eset Koszinusz hasonlóság Empirikus kovariancia és korreláciő Több dimenziós eset A kovariancia és a korreláció becslése Ha n mérési adatpárunk van az X és Y mennyiségre (változóra) vonatkozóan, akkor ezek alapján a kovarianciát a Cov(x, y) = 1 n 1 n i=1 (x i x)(y i y) összefüggés segítségével becsülhetjük meg. A fentiek alapján Cov(x, y) = Cov(X, Y).

87 Empirikus kovariancia és korreláció Korreláció Bevezetés Kovariancia Korrelációs együttható A C = ±1 eset A C = 0 eset Koszinusz hasonlóság Empirikus kovariancia és korreláciő Több dimenziós eset A kovariancia és a korreláció becslése Ha n mérési adatpárunk van az X és Y mennyiségre (változóra) vonatkozóan, akkor ezek alapján a kovarianciát a Cov(x, y) = 1 n 1 n i=1 (x i x)(y i y) összefüggés segítségével becsülhetjük meg. A fentiek alapján Cov(x, y) = Cov(X, Y). A korrelációs együttható becslésére a kifejezést használhatjuk. c(x, y) = Cov(x, y) S x S y

88 Kovariancia- és korrelációs mátrixok Korreláció Bevezetés Kovariancia Korrelációs együttható A C = ±1 eset A C = 0 eset Koszinusz hasonlóság Empirikus kovariancia és korreláciő Több dimenziós eset Kovariancia- és korrelációs mátrixok Definíció: a X 1, X 2,..., X n valószínűségi változók kovariancia mátrixa: Σ ij = Cov(X i, X j). A diagonális elemek a szórásnégyzeteknek felelnek meg, Σ ii = σ 2 (X i). Definíció: a X 1, X 2,..., X n valószínűségi változók korrelációs mátrixa: C ij = C(X i, X j) = Cov(Xi, Xj) σ(x i)σ(x j) XiXj Xi Xj =. σ(x i)σ(x j) A diagonális elemek C ii = 1.

89 Kovariancia- és korrelációs mátrixok Korreláció Bevezetés Kovariancia Korrelációs együttható A C = ±1 eset A C = 0 eset Koszinusz hasonlóság Empirikus kovariancia és korreláciő Több dimenziós eset Kovariancia- és korrelációs mátrixok Definíció: a X 1, X 2,..., X n valószínűségi változók kovariancia mátrixa: Σ ij = Cov(X i, X j). A diagonális elemek a szórásnégyzeteknek felelnek meg, Σ ii = σ 2 (X i). Definíció: a X 1, X 2,..., X n valószínűségi változók korrelációs mátrixa: C ij = C(X i, X j) = Cov(Xi, Xj) σ(x i)σ(x j) XiXj Xi Xj =. σ(x i)σ(x j) A diagonális elemek C ii = 1.

90 Nevezetes ok Egyenletes Binomiális Urna modellek Geometriai Hipergeometrikus Negatív binomiális Nevezetes ok Multinomiális

91 Nevezetes ok Egyenletes Binomiális Urna modellek Geometriai Hipergeometrikus Negatív binomiális Multinomiális EGYENLETES ELOSZLÁS

92 Egyenletes Nevezetes ok Egyenletes Binomiális Urna modellek Geometriai Hipergeometrikus Negatív binomiális Multinomiális Egyenletes Definíció: egy x 1, x 2,..., x n számokon végigfutó diszkrét X valószínűségi változó egyenletes ú, ha P(X = x i) = 1 n. Definíció: egy [x 1, x 2] intervallumon értelmezett X folytonos valószínűségi változó egyenletes ú, ha ρ X(x) = 1 x 2 x 1 ha x 1 x x 2 0 egyébként F X(x) = 0 ha x < x 1 x x 1 x 2 x 1 ha x 1 x x 2 1 ha x > x 2

93 Egyenletes Nevezetes ok Egyenletes Binomiális Urna modellek Geometriai Hipergeometrikus Negatív binomiális Multinomiális Egyenletes Definíció: egy x 1, x 2,..., x n számokon végigfutó diszkrét X valószínűségi változó egyenletes ú, ha P(X = x i) = 1 n. Definíció: egy [x 1, x 2] intervallumon értelmezett X folytonos valószínűségi változó egyenletes ú, ha ρ X(x) = 1 x 2 x 1 ha x 1 x x 2 0 egyébként F X(x) = 0 ha x < x 1 x x 1 x 2 x 1 ha x 1 x x 2 1 ha x > x 2

94 Egyenletes Példák Nevezetes ok A sűrűség- és függvény: Egyenletes Binomiális Urna modellek Geometriai Hipergeometrikus Negatív binomiális Multinomiális 1 1 ρ(x) x 2 x 1 F(x) x 1 x 2 x Hol fordul elő? Kockadobás, mintavételezés, null hipotézis.

95 Egyenletes Példák Nevezetes ok A sűrűség- és függvény: Egyenletes Binomiális Urna modellek Geometriai Hipergeometrikus Negatív binomiális Multinomiális 1 1 ρ(x) x 2 x 1 F(x) x 1 x 2 x Hol fordul elő? Kockadobás, mintavételezés, null hipotézis.

96 Egyenletes Példák Nevezetes ok A sűrűség- és függvény: Egyenletes Binomiális Urna modellek Geometriai Hipergeometrikus Negatív binomiális Multinomiális 1 1 ρ(x) x 2 x 1 F(x) x 1 x 2 x Hol fordul elő? Kockadobás, mintavételezés, null hipotézis.

97 Egyenletes Példák Nevezetes ok A sűrűség- és függvény: Egyenletes Binomiális Urna modellek Geometriai Hipergeometrikus Negatív binomiális Multinomiális 1 1 ρ(x) x 2 x 1 F(x) x 1 x 2 x Hol fordul elő? Kockadobás, mintavételezés, null hipotézis.

98 Egyenletes Jellemzők Nevezetes ok Egyenletes Binomiális Urna modellek Geometriai Hipergeometrikus Negatív binomiális Multinomiális Az egyenletes jellemzői A várható érték és szórás diszkrét esetben: x1 + x2 + + xn X = x kp(x = x k) = k n σ 2 (X) = X 2 X 2 = 1 n n i=1 x 2 i ( 1 n n i=1 2 x i).

99 Egyenletes Jellemzők Nevezetes ok Egyenletes Binomiális Az egyenletes jellemzői A várható érték és szórás folytonos esetben: Urna modellek Geometriai Hipergeometrikus Negatív binomiális X = x 1 x 2 x 1 dx = [ x2 2 x 2 x 1 x 2 x 1 2 x2 1 2 x1 + x2 ] =, 2 Multinomiális σ 2 (X) = X 2 X 2 = x 1 x x x1 + x2 dx ( ) = x 2 x x 2 x 1 [ x3 2 3 x3 1 3 x x x 1x x1 + x2 ] ( ) = 2 x x 1x 2 + x = (x2 x1)2 12

100 Nevezetes ok Egyenletes Binomiális Urna modellek Geometriai Hipergeometrikus Negatív binomiális Multinomiális BINOMIÁLIS ELOSZLÁS

101 Binomiális Nevezetes ok Egyenletes Binomiális Urna modellek Geometriai Hipergeometrikus Negatív binomiális Multinomiális Binomiális Egy kísérletnek két lehetséges kimenetele van, p és q = 1 p valószínűséggel; N-szer hajtjuk végre, egymástól függetlenül. Valószínűségi változó az egyik fajta kimenetelek száma az N kísérlet során. Az : P(X = k) = p k = ( N k )pk (1 p) N k = ( N k )pk q N k. Hol fordul elő? Bernoulli problémája, sorozatos pénzfeldobás, valszám vizsgán megbukottak száma, véletlen gráf fokszáma, stb. Bernoulli problémája Binomiális I. Várható érték Szórás Generátorfgv.

102 Binomiális Nevezetes ok Egyenletes Binomiális Urna modellek Geometriai Hipergeometrikus Negatív binomiális Multinomiális Binomiális Egy kísérletnek két lehetséges kimenetele van, p és q = 1 p valószínűséggel; N-szer hajtjuk végre, egymástól függetlenül. Valószínűségi változó az egyik fajta kimenetelek száma az N kísérlet során. Az : P(X = k) = p k = ( N k )pk (1 p) N k = ( N k )pk q N k. Hol fordul elő? Bernoulli problémája, sorozatos pénzfeldobás, valszám vizsgán megbukottak száma, véletlen gráf fokszáma, stb. Bernoulli problémája Binomiális I. Várható érték Szórás Generátorfgv.

103 Binomiális Nevezetes ok Egyenletes Binomiális Urna modellek Geometriai Hipergeometrikus Negatív binomiális Multinomiális Binomiális Egy kísérletnek két lehetséges kimenetele van, p és q = 1 p valószínűséggel; N-szer hajtjuk végre, egymástól függetlenül. Valószínűségi változó az egyik fajta kimenetelek száma az N kísérlet során. Az : P(X = k) = p k = ( N k )pk (1 p) N k = ( N k )pk q N k. Hol fordul elő? Bernoulli problémája, sorozatos pénzfeldobás, valszám vizsgán megbukottak száma, véletlen gráf fokszáma, stb. Bernoulli problémája Binomiális I. Várható érték Szórás Generátorfgv.

104 Binomiális Nevezetes ok Egyenletes Binomiális Urna modellek Geometriai Hipergeometrikus Negatív binomiális Multinomiális Binomiális Egy kísérletnek két lehetséges kimenetele van, p és q = 1 p valószínűséggel; N-szer hajtjuk végre, egymástól függetlenül. Valószínűségi változó az egyik fajta kimenetelek száma az N kísérlet során. Az : P(X = k) = p k = ( N k )pk (1 p) N k = ( N k )pk q N k. Hol fordul elő? Bernoulli problémája, sorozatos pénzfeldobás, valszám vizsgán megbukottak száma, véletlen gráf fokszáma, stb. Bernoulli problémája Binomiális I. Várható érték Szórás Generátorfgv.

105 Binomiális Hisztogram Nevezetes ok Egyenletes A binomiális hisztogramja: Binomiális Urna modellek Geometriai Hipergeometrikus N=20, p=0.25 Negatív binomiális Multinomiális p k k 15 20

106 Binomiális Jellemzők Nevezetes ok Egyenletes Binomiális Urna modellek Geometriai Hipergeometrikus Negatív binomiális Multinomiális A binomiális jellemzői A binomiális generátorfüggvénye: N G(z) = ( N k )pk q N k z k = (pz + q) N = (1 (1 p)z) N. k=0 A várható érték és szórás: X = z z G(z) = G (1) = Np(pz + q) N 1 z=1 = Np z=1 X 2 = z z z z G(z) = G (1) + G (1) = z=1 N(N 1)p 2 (pz q) N 2 z=1 + Np = N(N 1)p 2 + Np σ 2 (X) = X 2 X 2 = N 2 p 2 Np 2 + Np N 2 p 2 = Np(1 p) = Npq Várható érték Szórás Generátorfgv.

107 Binomiális Jellemzők Nevezetes ok Egyenletes Binomiális Urna modellek Geometriai Hipergeometrikus Negatív binomiális Multinomiális A binomiális jellemzői A binomiális generátorfüggvénye: N G(z) = ( N k )pk q N k z k = (pz + q) N = (1 (1 p)z) N. k=0 A várható érték és szórás: X = z z G(z) = G (1) = Np(pz + q) N 1 z=1 = Np z=1 X 2 = z z z z G(z) = G (1) + G (1) = z=1 N(N 1)p 2 (pz q) N 2 z=1 + Np = N(N 1)p 2 + Np σ 2 (X) = X 2 X 2 = N 2 p 2 Np 2 + Np N 2 p 2 = Np(1 p) = Npq Várható érték Szórás Generátorfgv.

108 Nevezetes ok Egyenletes Binomiális Urna modellek Geometriai Hipergeometrikus Negatív binomiális Multinomiális URNA MODELLEK

109 Urna modellek Nevezetes ok Egyenletes Binomiális Urna modellek Geometriai Hipergeometrikus Negatív binomiális Multinomiális Sok probléma ekvivalens a következő urna modell valamelyik speciális verziójával: Van egy urnánk, amiben két-, vagy akár több színű golyók vannak, egyforma vagy eltérő arányban, véges vagy végtelen sokan. Ebből az urnából golyókat húzunk, visszatevéssel vagy visszatevés nélkül. Példa: binomiális Pl. A binomiális t is elképzelhetjük urna modellként: Két színű golyóból van végtelen sok, arányuk p és q = 1 p. N-szer húzunk, a X valószínűségi változó a p valószínűségű színnel rendelkező golyók számával egyenlő.