ÖSSZEFÜGGÉSEK A LINEÁRIS REGRESSZIÓS MODELLBEN

Átírás

1 MÓDSETANI TANULMÁNOK ÖSSEFÜGGÉSEK A LINEÁIS EGESSIÓS MODELLBEN D HAJDU OTTÓ A tanulmány a lineáis egessziós modell alavető mutatóit tágyala E mutatókat egymásból vezeti le olymódon hogy azok statisztikai tatalma a levezetés gondolatmenetétől megvilágítást nye A tanulmány mindazokat a módszetani következtetéseket melyek a klasszikus megközelítésben a mintavétel szintén keletkeznek ezúttal az elméleti modell tuladonságai között helyezi el A cikk hangsúlyt helyez aa a ténye hogy a többváltozós modellt ellemző mutatók miként vezethetők vissza az egyszeű kétváltozós modell megfelelő mutatóia A dolgozatban szeelő levezetések saátos menete két évtized oktatási taasztalataia éülve a szezőtől számazik melynek didaktikáa a egesszió oktatását is segíteni kívána A TÁGSÓ: Lineáis egessziós modell Modelltuladonságok Becslőfüggvények egessziós modell egy sztochasztikus elenséget hivatott leíni az azt alakító tényezők függvényében elemzési illetve előeelzési céllal A vizsgált elenséget eezentáló eedményváltozó és az ok szeeét átszó magyaázó változók kielölése a modell secifikálásának első léése A modell stuktúáát az fomula ía le ahol maadék ellegű változó a modell által nem magyaázott véletlen hatást feezi ki A véletlen változó nyúta tehát a modell sztochasztikus ellegét és ata keesztül ítélhető meg a modell és a valóság viszonya A véletlen változó minden egessziós modell eleme ezét a (+) változós modelle elegendő az fomában hivatkozni A egessziószámítás módszetana kimunkált eszköztáa közismet Alavetőnek mondható mutatói esetében azonban azok tatalmának és fomuláának az összekacsolása koántsem magától étetődő a szakiodalom edig adós az indoklásukkal Jelen tanulmány céla hogy a lineáis egessziós modell nevezetes összefüggéseit bemutassa esetenként ú megvilágításba helyezze azokat A szakiodalomban megszokott tágyalásmódtól eltéően a lineáis egesszió szokásos oututához tatozó egessziós aaméteeket aciális koelációkat és az illeszkedés vizsgálatát segítő mutatókat nem a minta szintén hanem a modellellemzők között definiáluk mivel tatalmuk má itt ételmezhető Az éintett fogalmakat a tanulmány A tankönyvek és szakkönyvek egymása hivatkozva indoklás nélkül öökítik tovább az egyes fomulákat az olvasóa bízva azok belátását Statisztikai Szemle 79 évfolyam 00 0 szám

2 886 D HAJDU OTTÓ olyan didaktikai keetben tágyala melyben a mutatók definícióukból illetve egymásból következve ételemszeűen fomálódnak így összefüggéseik lasztikusan láthatóvá válnak A magyaázó változók szemontából egymásba ágyazott modelleket így a kétváltozós modellt nemcsak seciális esetként hanem a többváltozós modell szeves észeként is kezelük Mindezek ételmében elen tanulmány első észe a kétváltozós modellt vizsgála abból a követelményből kiindulva miszeint a véletlen változó koelálatlan a magyaázó változóval E acionális megszoítás nem engedi hogy a véletlen változó előeelezhető legyen a magyaázó változó étékének az ismeetében Ezt követően a kétváltozós modell eedményeit háom változó áonkénti kacsolatainak a vizsgálatáa teesztük ki A második ész általánosíta a modellt kettőnél több változó egyideű kezelésée ideétve a háomváltozós modellt is Ebben a észben a többváltozós modell némely esetben háomváltozóssá atícionálva elenik meg lehetővé téve az általános modell ellemzőinek a kétváltozós modell eedményeie való visszavezetését E két ész eedményei mind modellszintűek függetlenek a mintavétel oblémáitól és a véletlen változóval szemben támasztott kiinduló követelmény telesülésén alaulnak Ezét a hamadik észben azt vizsgáluk hogy a aamétebecslés tükében (tehát a minta szintén) a kiinduló koelálatlansági követelmény milyen köülmények között konfom a legkisebb négyzetek kitéiumával A KÉTVÁLTOÓS MODELL Kétváltozós azaz modellt definiálva az eedményváltozó alakulását csak egyetlen magyaázó változó felhasználásával közelítük A kacsolat sztochasztikus ellegű hiszen a magyaázó változó ögzített szinte mellett az eedményváltozó étéke szóódik E{ } feltételes váható étékkel és Va { } feltételes vaianciával 3 A egessziós modell feltevése szeint az eedményváltozó feltételes váható étéke a magyaázó változó lineáis függvénye: 0 ahol 0 és a egessziós aaméteek E aaméteek a modell szeint ögzített de ismeetlen étékek Tatalmilag a 0 tengelymetszet az eedményváltozó =0 feltétel mellett váható étékét elenti míg a meedekség a magyaázó változóban bekövetkezett egységnyi abszolút változásnak az eedményváltozóa gyakoolt váható hatását számszeűsíti A tengelymetszet szeeeltetését a modellben az indokola hogy a magyaázó változó zéus szinte mellett az eedményváltozó váható étéke nem föltétlenül zéus A egessziós függvény Ŷ étékét a későbbiekben tömöen egessziónak nevezzük A egesszió étékének az ismeetében egy adott feltétel melletti étéktől való eltéés: Mint látuk a tanulmányban a háom változó vizsgálatán és a háomváltozós modellen mást étünk 3 E{} az agumentumban szeelő véletlen változó váható étékét Va{} edig a vaianciáát elöli

3 ÖSSEFÜGGÉSEK A LINEÁIS EGESSIÓS MODELLBEN 887 Az véletlen (maadék) változó feltételes váható étéke (lévén váható étéktől vett eltéés) definíció szeint zéus: E{ε } = 0 Ebből következően a véletlen változó váható étéke mindenféle ételemben tehát feltétele való tekintet nélkül is zéus Mivel a magyaázó változó ismeetében a egesszió hivatott leválasztani az eedményváltozó váható étékét a maadék ellegű véletlen hatás a magyaázó változóval definíció szeint koelálatlan Ezt a kovaiancia zéus étéke feezi ki: ov { } 0 // A egessziós modellben tehát az eedményváltozó kétféle komonens eedőe Egy a magyaázó változóval függvényszeű kacsolatban levő és a magyaázó változóval koelálatlan hatás összege A koelálatlanságnak valamint a lineaitásnak a feltevése maga után vona az alábbiak telesülését Az eedményváltozónak a magyaázó változóval való kovaianciáa a kovaiancia lineáis dekomozícióa alaán 4 megegyezik saát egesszióával vett kovaianciáával: ( ) // E kovaiancia étékét a meedekség és a magyaázó változó vaianciáa együttesen alakíta: ( 0 ) A egesszió a véletlen változóval koelálatlan: 5 /3/ 0 /4/ ( 0 ) Az eedményváltozó feltétel nélküli vaianciáának egessziós dekomozícióa ezek után /4/ alaán: /5/ ( ) ( ) /6/ ahol a egessziónak Ŷ edig a véletlen változónak a feltétel nélküli vaianciáa Mivel vaiancia nem lehet negatív ezét az eedményváltozó sem a saát egesszióával sem a véletlen változóval nem koelálhat negatív iányban hiszen /5/ és /6/ alaán 0 és 0 4 A tanulmány intenzíven támaszkodik a kovaiancia lineáis dekomozícióáa melyet a Függelék ismetet 5 A kovaiancia invaiáns a 0 konstanssal való eltolása

4 888 D HAJDU OTTÓ Az előbbiek alaán lehetőségünk nyílik egyészt a meedekség meghatáozásáa másészt a modell és a valóság illeszkedésének a ellemzésée A meedekség étéke /3/ alaán /7/ Az illeszkedést ellemző deteminációs együttható az eedményváltozó vaianciáából a egesszió által megmagyaázott hányad edig /5/ és /6/ alaán 0 /8/ E vaianciahányados ellegű mutató egyben az eedményváltozó és a magyaázó változó közötti lineáis koeláció négyzete hiszen ( 0 ) /9/ Ugyanakko a deteminációs együttható ozitív gyöke a szóáshányados tatalmilag az eedményváltozó és a egesszió közötti lineáis koeláció mivel: /0/ A változók szeeének megcseélésével a deteminációs együttható fölbontható az és modellek és meedekségeinek a szozatáa: Lévén 0 ezét a kétféle meedekség előele meg kell hogy egyezzen továbbá ha egyikük nagyobb mint akko a másik szükségszeűen kisebb egynél A tengelymetszet meghatáozása édekében tekintsük az eedményváltozó modellezett étékét: 0 Ebből az eedményváltozó feltétel nélküli eloszlásának váható étéke E 0 ) 0 ahol a magyaázó változó átlagos szinte { } E(

5 ÖSSEFÜGGÉSEK A LINEÁIS EGESSIÓS MODELLBEN 889 Mivel a meedekség adott ezét a tengelymetszet kivonással: { 0 E } Végül a véletlen változó feltétel nélküli vaianciáa a deteminációs együttható függvényében kifeezve: ( ) ( ) // Édeklődésünket most háom ende változóa kiteesztve a áonkénti koelációs kacsolat kétváltozós modellek használatával háomféle áosításban vizsgálható 6 Tekintsük előbb az és az változót külön-külön az és kétváltozós modellekben ende mint eedményváltozót egyaánt a változóval magyaázva: 0 0 ahol a definíció szeint ov ( ) ov( ) 0 és ebből következően ov( ) ov ( ) 0 is telesül Ezt kihasználva az és változók közötti kovaiancia totális étéke ételemszeűen kétféle koelációs kacsolat eedőe Egyészt a változó lineáis hatását eezentáló váható étékek közötti másészt e lineáis hatástól tisztított és véletlen változók közötti kacsolata vezethető vissza: // A kovaiancia // felbontását a kovaiancia egessziós dekomozícióának nevezzük 7 Ebből az és véletlen változók közötti kovaiancia tatalmilag az ún aciális kovaiancia melynek étékét számíthatuk az eedeti változók közötti nem tisztított áonkénti kovaianciák felhasználásával az alábbiak szeint: = /3/ Ha valamennyi változó standadizált akko a aciális kovaiancia a lineáis koelációk felhasználásával is kalkulálható: 6 A későbbiekben ha ontosan háom változót szeeeltetünk akko a könnyebb hivatkozás kedvéét mindhámukat külön ende betűvel illetük 7 Vegyük észe hogy ez a vaiancia /6/ felbontásának kiteesztése

6 D HAJDU OTTÓ 890 A aciális kovaiancia étékét osztva a két véletlen változó // fomában kifeezett szóásainak szozatával definíció szeint az és változók közötti aciális koelációt kauk melynek szokásos elölése étéke edig: /4/ A TÖBBVÁLTOÓS MODELL Az (+) változós modell szeint a egesszió számú magyaázó változó lineáis kombinációa: 0 ahol a (=) koefficiensek a aciális egessziós meedekségek E meedekségeket úgy secifikáluk hogy a véletlen változó valamennyi (=) magyaázó változóval koelálatlan legyen: } { ov 0 ) ( /5/ vagy átendezve /6/ E követelmény mátix fomában c c /7/ ahol c és c az egyes magyaázó változóknak az eedményváltozóval illetve annak egesszióával vett kovaianciáit tatalmazó vektook A többváltozós modelle is évényes tuladonság tehát hogy a véletlen változó a egesszióval nem koelál: 0 A aaméteek ételmezése A aaméte azt az abszolút ellegű változást számszeűsíti mely az eedményváltozó feltételes váható étékében ceteis aibus az változó egységnyi abszolút vál

7 ÖSSEFÜGGÉSEK A LINEÁIS EGESSIÓS MODELLBEN 89 tozásának a hatásáa következik be A aaméteek aciális ételmét megvilágítandó a modellt az és az fomában háomváltozósa mad kétváltozósa edukáluk és kacsolatot teemtünk a megfelelő egessziós aaméteek között Feezzük ki az modell meedekségét az bővített modell és aciális meedekségeivel A zéó kovaianciák elhagyásával ( 0 ) /8/ ahol a modell meedeksége Tehát egységnyi változásának az eedményváltozó váható étékée gyakoolt totális hatása egyészt aciális közvetlen hatásáa másészt a változón keesztül gyakoolt közvetett hatásáa vezethető vissza A közvetett hatást számszeűsíti hiszen egységnyi változásának totális hatása a változóa míg egységnyi változásának aciális közvetlen hatása az eedményváltozóa Az ilyen ellegű elemzést útelemzésnek nevezzük A fentiek analógiááa az útelemzés kiteeszthető az általános modelle is Például és kacsolatát tekintve: ahol ( 0 ) /9/ A egessziós aaméteek tuladonságai A aciális egessziós meedekségek étéke a kétváltozós modell analógiááa az eedményváltozónak a magyaázó változókkal való koelációs kacsolataia továbbá a magyaázó változók egymás közötti koelációs stuktúááa vezethető vissza Tekintsük ugyanis a egessziós meedekségek függvényében a ( ) 0 kovaianciát melyet valamennyi (=) változóa meghatáozva mad a /7/ követelményből kiindulva és mátixelölést alkalmazva c c β /0/ ahol a aciális meedekség vektoa: β

8 89 D HAJDU OTTÓ a magyaázó változók () endű szimmetikus kovaiancia mátixa edig: Ekko a /0/ azonosságból (feltéve hogy invetálható): β c // A aciális egessziós aaméteek ismeetében a tengelymetszet étéke (a véletlen változó zéus váható étéke mellett): E { // 0 } Látható hogy a változókat az E{ } és módon centálva a tengelymetszet zéussá válik viszont a aciális meedekségek nem változnak A kovaiancia invaiáns ugyanis aa hogy az eedeti változóka vagy azok centált változatáa vonatkozóan hatáozzuk-e meg: c c c c c Ha viszont a változókat az * c / és * * / akko a aciális egessziós meedekségek megváltoznak: módon standadizáluk * * * / ahol az ún standadizált egessziós meedekség E aaméte elentősége az hogy az adott magyaázó változó fontosságát a többi magyaázó változó viszonylatában (métékegységtől függetlenül) tüközi A aciális egessziós meedekségek standadizált változatának mátix fomában való (// szeinti) meghatáozása ételemszeűen a kovaianciák helyett a lineáis koelációkat igényli A modell magyaázó eee α /3/ Mivel a centált és a standadizált modell csak egy konstans szozóban té el egymástól ezét a modell magyaázó eeét ellemző többszöös deteminációs együttható invaiáns a változók (valamennyi változó egyideű) standadizálásáa Étékét tehát kife

9 ÖSSEFÜGGÉSEK A LINEÁIS EGESSIÓS MODELLBEN 893 ezhetük mind az eedeti métékegységben ételmezett mind edig a standadizált egessziós aaméteek függvényében Definíció szeint ugyanis (hivatkozva a /6/ azonossága): ) ( 0 /4/ A modell illeszkedését a magyaázó változók elatív súlyai és az eedményváltozóval való koelációik együttesen hatáozzák meg Az háomváltozós modellben közvetlen kacsolat teemthető a többszöös deteminációs együttható valamint a kétváltozós totális és a aciális deteminációs együtthatók között Alkalmazzuk a seciális /8/ háomváltozós útelemzést a standadizált változóka az alábbi módokon (kihasználva hogy standadizált változók esetén a kétváltozós modell meedeksége a lineáis koelációval egyezik meg): /5/ /6/ amely mátix fomában felíva: vagy általánosságban α ahol az vekto a magyaázó változóknak az eedményváltozóval vett koelációit az mátix a magyaázó változók egymás közötti áonkénti koelációit az α vekto edig a magyaázó változók standadizált meedekségeit tatalmazza A fenti egyenletendszet a standadizált meedekségeke átendezve (lásd a () endű mátix invetálásáa vonatkozó nevezetes szabályt): α = - melyből a standadizált meedekségeke az megoldás adódik

10 D HAJDU OTTÓ 894 E aaméteekkel a többszöös deteminációs együttható (a /3/ és /4/ fomulákat használva): 8 T α = T - = ) ( = ) ( ) ( /7/ ahol a /4/ fomulának megfelelően a és változók közötti aciális koeláció négyzete Analóg módon az ) ( /8/ felbontás is telesül A /7/ és /8/-ból a aciális deteminációs együttható más alakokban /9/ /30/ Látható hogy a aciális deteminációs együttható azt számszeűsíti hogy a magyaázó változónak az magyaázó változó után való bevonása a modellbe (a kétváltozós modell háomváltozóssá bővítése) milyen aányban csökkenti az eedményváltozó vaianciáából az változó által meg nem magyaázott hányadot Vegyük észe továbbá hogy mivel a aciális deteminációs együttható (lévén négyzetszám) nem lehet negatív ezét a modell további magyaázó változóval való bővítéseko a többszöös deteminációs együttható sohasem csökkenhet A koábbi szinten csak akko maad ha az úonnan bevonandó magyaázó változónak az eedményváltozóval való aciális koelációa zéus A aciális deteminációs együttható étéke alaán a aciális koeláció iányáa előelée vonatkozóan még nincs infomációnk A háomváltozós modellben definiált /4/ aciális koeláció azonban lehetővé teszi bámilyen többváltozós modell esetén is a aciális koeláció meghatáozását ha kielölük a kédéses eedmény- és magyaázó változót miközben az összes többi változó együttesét elöli A változók standadizált fomáát használva tekintsük az q q q q modelleket 8 A T felső index az illető mátix (vekto) tanszonáltát elöli

11 ÖSSEFÜGGÉSEK A LINEÁIS EGESSIÓS MODELLBEN 895 E modelleke (lásd a Függeléket valamint a aciális meedekségek /3/ alatti meghatáozását): α T α T T ahol az vekto az változónak valamennyi változóval az vekto az változónak valamennyi változóval az mátix edig a változók egymással vett áonkénti koelációit tatalmazza Ekko a aciális koeláció /4/ definícióa szeint: q T /3/ ahol és az q és q modellek többszöös deteminációs együtthatói Amennyiben csak egyetlen változót definiálunk úgy a fenti fomula a /4/ kélete egyszeűsödik A aciális koeláció a változók számától függetlenül mindig számolható a klaszszikus háomváltozós /4/ fomulával egy lééssoozat eedményekéen Például négy változó (ende U) esetén az U aciális koeláció meghatáozása az alábbiak szeint is végehatható Szűük ki előbb U lineáis hatását az összes többi változóból mad az eedményül kaott háom aciális koelációt tisztítsuk meg lineáis hatásától: U U U U /3/ U U Mivel /7/ és /8/ ételmében a aciális deteminációs együttható a többszöös deteminációs együttható elatív növekményét ellemzi a vonatkozó változóval töténő bővítés hatásáa ezét a aciális koeláció /3/ fomuláának az alkalmazásával bámilyen modell többszöös deteminációs együtthatóa föléíthető a kétváltozós modelléből kiindulva EIDUÁLIS KÖVETELMÉNEK A PAAMÉTEBESLÉS TÜKÉBEN Végezzünk i= n számú megfigyelést az eedményváltozóa vonatkozóan a magyaázó változók ögzített x i =[ i i i ] T étékei mellett Az így nyet y=[y y i y n ] T minta alaán becsülük a aciális meedekségeket és a becsléseket a b =[b b b ] T vektoba foglaluk 9 Ha szeeel a modellben tengelymetszet akko ennek becsült étéke b 0 9 A mintavétel módáa egyáltalán nem a becslési módszee edig egyelőe nem teszünk megszoítást

12 896 D HAJDU OTTÓ A modell által a mintából meg nem magyaázott e=[e e i e n ] T eziduális (maadék) észek figyelembe vételével: y b e /33/ ahol az mátix i-edik soa [ i i i ] és b=[b 0 b b b ] T lesz 0 A lineáis egesszió a változók mintán belüli átlagos étékeie is fennáll: y b0 b e /34/ n ahol y i y n i és e étéke a aaméteek bitokában kivonással adódik A b aaméteek becslési módszeét annak függvényében választuk meg hogy az e i eziduumokkal szemben milyen követelményeket támasztunk A koelálatlansági kitéium Amennyiben a magyaázó változók bámelyikével koelálatlan eziduum az elváásunk ez független attól hogy becsülünk-e tengelymetszetet vagy sem A koelálatlansági követelménynek mindig eleget teszünk ha a aciális meedekségeket // analógiááa a b 0 c /35/ y fomulával becsülük ahol y c y y Ez esetben a tengelymetszet becsült étéke annak függvénye hogy a eziduumok átlagáa milyen megkötést teszünk Ha elváás hogy a eziduumok átlaga zéus legyen akko a /34/ összefüggésből a tengelymetszete b 00 y b b adódik Amennyiben a tengelymetszet étékét máské választuk meg úgy e 0 A legkisebb négyzetek kitéium Ha viszont célunk a eziduális négyzetösszeg minimálása akko ez a célfüggvény mint az közismet az T e=0 nomálegyenletendsze telesülése esetén minimált Ennek 0 Ha a modell nem tatalmaz tengelymetszetet akko b b és az mátix oszloaiból elhagyuk az összegző vektot

13 ÖSSEFÜGGÉSEK A LINEÁIS EGESSIÓS MODELLBEN 897 tudatában a /33/ azonosság mindkét oldalát balól szoozva az T mátixszal mad átendezve az egyenletet az T ( ) becslőfüggvényt kauk melynek eedménye b ha a modell tatalmaz tengelymetszetet és b ha nem Látható hogy a nomálegyenletendsze kizáólag akko ekvivalens a koelálatlansági követelménnyel ha a modell tatalmaz tengelymetszetet Ekko ugyanis e 0 és ebből következően: T e = nc e = 0 Ebben az esetben temészetesen [b 00 b 0 ] = b egyébként viszont b 0 b Ha tehát nem indokolt a tengelymetszet elhagyása úgy szeeeltetésével egyideűleg minimáluk a eziduális négyzetösszeget és a magyaázó változókkal koelálatlan eziduumokat biztosítunk T y FÜGGELÉK A KOVAIANIA LINEÁIS DEKOMPOÍIÓJA Tekintsük az centált (átlagtól vett eltééssel helyettesített) változók a súlyokkal definiált és az t változók bt súlyokkal kézett a q b t t lineáis kombinációit Ekko az és változók közötti (i= N megfigyelés alaán számított) kovaiancia felíható mint az és t változók közötti kovaianciák lineáis kombinációa az alábbi módon: t N q ii a bt N t i t vagy mátix elöléssel bi-kvadatikus fomában: = a T b ahol a és b a súlyokat tatalmazó vektook edig az és t változók közötti kovaianciákat tatalmazó (q) endű tehát nem föltétlenül szimmetikus mátix IODALOM GEEN H (993): Econometic analysis Macmillan New ok HAJDU O HEMAN S PINTÉ APPAI G ÉDE K (994): Statisztika I-II Janus Pannonius Tudományegyetem Pécs Temészetesen a tengelymetszetet tatalmazó modell minimált eziduális négyzetösszege kisebb (nem nagyobb) mint a tengelymetszet nélkül secifikált modell minimált eziduális négyzetösszege

14 898 D HAJDU OTTÓ HAJDU O HUNADI L VITA L (00): Statisztikai elemzések Egyetemi egyzet Aula Budaest HUNADI L (00): Statisztikai következtetéselmélet közgazdászoknak Közonti Statisztikai Hivatal Budaest HUNADI L MUNDUÓ G VITA L (996): Statisztika Aula Budaest KEÉKGÁTÓ G-NÉ MUNDUÓ G SUGÁ A (00): Statisztikai módszeek és alkalmazásuk a gazdasági üzleti elemzésekben Aula Budaest KÖVES P PÁNIK G (98): Általános Statisztika I-II (3 átdolgozott kiadás) Közgazdasági és Jogi Könyvkiadó Budaest MUNDUÓ G (98): Alkalmazott egessziószámítás Akadémiai Kiadó Budaest MES (990): lassical and moden egession with alications nd PWS-KENT Boston WEISBEG S (985): Alied linea egession Wiley New ok SUMMA The ae discusses the stuctue of the linea egession model The focus is on the initial assumtion of an eo tem uncoelated with the exlanatoy vaiables The main question is what futhe model oeties can be deived assuming meely an eo tem that meets the initial equiement The ae shows that seveal basic model aametes such as egession coefficients multile and atial coelation coefficients can also be defined as model comonents analogous to those calculated fom the samle Futhe the study highlightes the meaning of the aametes Finally the ae investigates the similaities and diffeences between the estimatos of the egession coefficients based on the one hand on an uncoelated eo tem and on the othe hand on a least squaes esidual tem