LOGIT-REGRESSZIÓ a függő változó: névleges vagy sorrendi skála

Átírás

1 LOGIT-REGRESSZIÓ a függő változó: névleges vagy sorrendi skála a független változó: névleges vagy sorrendi vagy folytonos skála BIOMETRIA2_NEMPARAMÉTERES_5 1

2 Y: visszafizeti-e a hitelt x: fizetés (életkor) (igen-nem típusú változó) (folytonos változó) Y f 0 1 Bevezetés Mit jelent a logit regresszió? Legyen a szakmai kérdés: Mi a valószínűsége, hogy adott életkorú (adott fizetéssel rendelkező) ember visszafizeti a hitlét? x π: visszafizetés valószínűsége általában nem lineáris fv. Creditability good Transzformáljuk! bad Age in years BIOMETRIA2_NEMPARAMÉTERES_5 2

3 Transzformáció célja: linearizáljuk a függvényt Y tr x Logit(Creditability) π esély ln(esély)=logit (0,1) (0, ), esély = π 1 π logit ln 1 logit az esély logaritmusa logit ln x 1 lineáris függvény Age in years BIOMETRIA2_NEMPARAMÉTERES_5 3

4 logit ln x 1 összefüggés regressziós módszerekkel kiszámítható: azaz megadható, hogy hogyan függ a hitel visszafizetésének esélyének logaritmusa az életkortól e 1 e x x az így becsült logit értékből visszaszámolható a hitel visszafizetésének valószínűsége BIOMETRIA2_NEMPARAMÉTERES_5 4

5 Ahogy a szokásos regressziónál, itt is a következő feladataink vannak: a függvény paramétereinek ( és ) becslése a függvény alkalmasságának vizsgálata statisztikai próbák a függvényre vagy paramétereire konfidencia-tartományok számítása a paraméterekre BIOMETRIA2_NEMPARAMÉTERES_5 5

6 T 3 y Dichotom (bináris) függő változó, folytonos független változó 1. példa A. Agresti: Categorical data analysis, J. Wiley, 2002, p. 199 A Challenger űrrepülőgép katasztrófája (1986) után megvizsgálták, hogy a korábbi 23 repülés során mely esetekben károsodott a kritikusnak bizonyult O-gyűrű (1, ha igen, 0, ha nem), és ekkor milyen volt a külső hőmérséklet ( 0 F). BIOMETRIA2_NEMPARAMÉTERES_5 6

7 1.2 Scatterplot of y against T challenger 10v*23c y T BIOMETRIA2_NEMPARAMÉTERES_5 7

8 1,2 1,0 0,8 0,6 ln x 1 0,4 0,2 0,0 Szignifikáns a hőmérséklet hatása? H 0 : β = 0-0, T y Pred. Intercept T Scale y - Parameter estimates (challenger) Distribution : BINOMIAL, Link function: LOGIT Modeled probability that y = 1 Level of Column Estimate Standard Wald p Error Stat BIOMETRIA2_NEMPARAMÉTERES_5 8

9 Számítsuk ki a károsodás valószínűségét a baleset környezeti hőmérsékletére (31 0 F)! ln x exp logit 1 exp logit exp exp Intercept T Scale y - Parameter estimates (challenger) Distribution : BINOMIAL, Link function: LOGIT Modeled probability that y = 1 Level of Column Estimate Standard Wald p Error Stat BIOMETRIA2_NEMPARAMÉTERES_5 9

10 Pearson-reziduum: Illeszkedés jósága Pearson reziduum y i Yˆ i általában Vary ˆ 1 ˆ i esetünkre: y i i ˆ i i Négyzetösszege (ha az illesztett egyenes adekvát) közelítőleg 2 -eloszlást követ, n-paraméterek száma (egyenes esetén n-2) szabadsági fokkal. A próbastatisztika: 2 0 n i1 y i ˆ i ˆ 1 ˆ y - Statistics of goodness of fit (challen Distribution : BINOMIAL, Link function: Modeled probability that y = 1 Stat. Df Stat. Stat/Df Deviance Scaled Deviance Pearson Chi² Scaled P. Chi² i 2 i 11

11 L D L L max 2ln 2 ln max ln Lmodell modell 1 y ln y ln L max yi ln yi i 1 i i abx o ln L y a bx ln 1 e modell Illeszkedés jósága - deviancia i i i A deviancia is közelítőleg 2 -eloszlást követ, egyenes esetén n-2 szabadsági fokkal y - Statistics of goodness of fit (challen Distribution : BINOMIAL, Link function: Modeled probability that y = 1 Stat. Df Stat. Stat/Df Deviance Scaled Deviance Pearson Chi² Scaled P. Chi²

12 Szenzitivitás: annak valószínűsége, hogy a modell az esemény bekövetkezését jósolja és tényleg bekövetkezik 1,2 ROC Curve Area: ,0 0,8 Sensitivity 0,6 0,4 0,2 0,0 (Receiver Operating Characteristic) -0,2-0,2 0,0 0,2 0,4 0,6 0,8 1,0 1,2 1-Specificity Specificitás: annak valószínűsége, hogy a modell az esemény be nem következését jósolja és valóban nem következik be

13 Kell-e másodfokú függvény? Intercept T T^2 y - Likelihood Type 1 Test (challenger) Distribution : BINOMIAL Link function: LOGIT Degr. of Log- Chi- p Freedom Likelihd Square Döntés? BIOMETRIA2_NEMPARAMÉTERES_5 13

14 2. példa StatSoft példa, source: Credit scoring: a törlesztési hajlandóság függése az életkortól 1 Creditability 2 Age in years az adatfile részlete bad 24 good 48 bad 26 good 44 good 25 good 39 bad 31 BIOMETRIA2_NEMPARAMÉTERES_5 14

15 Statistics >Advanced Linear/Nonlinear Models > > Generalized Linear/Nonlinear Models BIOMETRIA2_NEMPARAMÉTERES_5 15

16 Estimates Intercept Age in years Scale Creditability - Parameter estimates (creditscoring) Distribution : BINOMIAL Link function: LOGIT Level of Column Estimate Standard Wald p Error Stat logit ln 1 x BIOMETRIA2_NEMPARAMÉTERES_5 16

17 Dichotom függő változó, névleges skálán mért független változó A függő és a független változó is csak kétféle értéket vehet föl pl. x kétféle értéket vehet föl (van-e telefonja vagy sem), azaz x=0 vagy x=1 ln 1 x A paraméter jelentése: ennyivel változik az esély logaritmusa, ha x 0-ról 1-re változik BIOMETRIA2_NEMPARAMÉTERES_5 17

18 3. példa StatSoft példája source: Credit scoring: a törlesztési hajlandóság függ-e attól, hogy van-e telefonja 1 Creditability 2 Telephone bad good bad good good good bad yes yes yes yes yes no no az adatfile részlete BIOMETRIA2_NEMPARAMÉTERES_5 18

19 Intercept Telephone Telephone Scale Creditability - Parameter estimates (creditscoring) Distribution : BINOMIAL Link function: LOGIT Level of Column Estimate Standard Wald p Error Stat yes no logit ln 1 x ˆ Y ha nincs telefonja Yˆ val változik az ln esélyhányados, ha x 0 1 re változik (nincs van) ha van e 1 e x x e 1 e e 1 e logit ˆ logit e 1 e ˆ ha nincs telefonja ha van BIOMETRIA2_NEMPARAMÉTERES_5 19

20 Dichotom függő változó, több független változó Y x x x x i 0 0i 1 1i 2 2i r ri Mindegyik x lehet folytonos vagy diszkrét, vegyesen is lehet BIOMETRIA2_NEMPARAMÉTERES_5 20

21 4.1. példa A tumor-átmérő (x) és az 5 éves túlélés kimenetele (y) közötti összefüggést vizsgálták 181 beteg adataiból. Intercept TUATM Scale Intercept TUATM tul5evm - Parameter estimates (DRPETE3f) Distribution : BINOMIAL Link function: LOGIT Level of Column Estimate Standard Wald p Error Stat Konfidencia-intervallum a paraméterekre: tul5evm - Confidence Intervals of Estimates (DRPETE3 Distribution : BINOMIAL Link function: LOGIT Level of Column Lower CL Upper CL 95. % 95. % ln x 1 azaz ha a tumor átmérője egy egységgel nő, az 5 éves túlélés esélyének logaritmusa kb dal csökken BIOMETRIA2_NEMPARAMÉTERES_5 21

22 ln x 1 Kérdések: e 1 e x x Mennyi az 5 éves túlélés valószínűsége, ha a tumorátmérő 0 mm? Mennyi az 5 éves túlélés valószínűsége, ha a tumorátmérő 38 mm? Mekkora tumorátmérőnél lesz az 5 éves túlélés valószínűsége 40%? Hányszor nagyobb az 5 éves túlélés valószínűsége, ha a tumorátmérő 40 mm? BIOMETRIA2_NEMPARAMÉTERES_5 22

23 Modell jósáságának vizsgálata: A tapasztalati és becsült esélyhányados: Observed 1 0 Classification of cases (DRPETE3f Odds ratio: Log odds ratio: infinity Predicted Predicted Percent 1 0 correct π > 0.5 túléltnek becsüljük főátlóbeli elemeknek kell nagynak lennie, azaz ennek a modellnek a magyarázó ereje csekély tul5pre becsült túlélési valószínűség TUATM tul5evm tapasztalt túlélés TUATM (0,2] (2,4] (4,6] (6,8] (8,10] (10,12] (12,14] (14,16] (16,18] (18,20] (20,22] > 22

24 Modell jósáságának vizsgálata: 1,2 ROC Curve Area: ,0 0,8 Sensitivity 0,6 0,4 0,2 0,0-0,2-0,2 0,0 0,2 0,4 0,6 0,8 1,0 1,2 1-Specificity BIOMETRIA2_NEMPARAMÉTERES_5 24

25 4.2. példa Vizsgáljuk most azt a modellt, mely a tumor-átmérő (x 1 ), az ér-nyirokér-áttét léte (x 2 ) és az 5 éves túlélés kimenetele (y) közötti összefüggést írja le (x 2 =0, ha nem volt ilyen áttét, x 2 =1, ha volt). Intercept TUATM ernyirokm Scale tul5evm - Parameter estimates (DRPETE3f) Distribution : BINOMIAL Link function: LOGIT Level of Column Estimate Standard Wald p Error Stat Observed 0 1 Classification of cases (DRPETE3f.sta Odds ratio: Log odds ratio: Include condition: exit1<>6 Predicted Predicted Percent 0 1 correct BIOMETRIA2_NEMPARAMÉTERES_5 25

26 4.3. példa Vegyük bele az előbbi modellbe a tumor-átmérő (x 1 ), az érnyirokér-áttét léte (x 2 ) közti kölcsönhatást is! Intercept ernyirokm TUATM ernyirokm*tuatm Scale tul5evm - Parameter estimates (DRPETE3f.sta) Distribution : BINOMIAL, Link function: LOGIT Modeled probability that tul5evm = 0 Include condition: exit1<>6 Level of Column Estimate Standard Wald Lower CL Upper CL p Error Stat. 95. % 95. % Observed 0 1 Classification of cases (DRPETE3f.sta Odds ratio: Log odds ratio: Include condition: exit1<>6 Predicted Predicted Percent 0 1 correct BIOMETRIA2_NEMPARAMÉTERES_5 26