A modern bayesi elemzések eszközára és alkalmazása* Kehl Dániel PhD, a Pécsi Tudományegyeem adjunkusa E-mail: kehld@kk.pe.hu Várpaloai Vikor PhD, a Nemzegazdasági Miniszérium főoszályvezeőhelyeese, a Pécsi Tudományegyeem udományos főmunkaársa E-mail: vikor.varpaloai@ngm.gov.hu A anulmány a modern bayesi elemzések eszközárának egyik leggyakrabban alkalmazo elemé, a Gibbs-minavéel muaja be. Az elmélei alapok, majd az algorimus bemuaása uán rövid számszerű példa illuszrálja az eljárás, valamin a konvergencia gyorsaságá. A gyakorlai felhasználás egy klasszikus, jól ismer felada bayesi eszközár segíségével örénő megoldása muaja be, amely egyben leheősége erem a klasszikus szemléleel közös és aól elérő eredmények, illeve előnyök és hárányok bemuaására is. TÁRGYSZÓ: Bayes. Ökonomeria. MCMC. * A anulmány a TÁMOP 4...C-//KONV--5 sz. ( Jól-lé az információs ársadalomban című) pályáza ámogaásával készül. Írásunk korábbi válozaaihoz fűzö számos érékes észrevéeléér köszönee mondunk Hunyadi László professzornak és a Saiszikai Szemle lekorának.
97 Kehl Dániel Várpaloai Vikor A bayesi saiszika és ökonomeria az uóbbi évizedekben széles körben elerjed, egyre inenzívebben alkalmazo, haékony elemzési eszközárrá gyarapodo. A bayesi saiszika és ökonomeria növekvő alkalmazásának öbb oka van. Az elmélei egyszerűség melle egyfelől számos kiváló kézikönyv jelen meg az uóbbi évizedben, amelyek a bayesi elemzések gyakorlai alkalmazásához szükséges ismereke gyűjik össze, másfelől a számíógépes vélelenszám-generálás erüleén bekövekeze módszerani fejlődés ledönöe a bayesi eszközár gyakorlai alkalmazhaóságának korláai. A bayesi elemzések egyre növekvő száma, valamin az ezzel járó ismereerjesző haás azzal is párosul, hogy a hagyományos (más néven frekvenisa vagy klasszikus) és bayesi saiszika szembenállása napjainkra enyhül. A legöbb kuaó véleménye, hogy vannak problémák, melyek eseén a klasszikus vagy a bayesi megközelíés célravezeőbb, így opimális az lenne, ha a saiszikával foglalkozó kuaók mindké megközelíéssel iszában lennének (Casella [7], Hunyadi []). Sajnos egyelőre kevés olyan szakember van, aki mindké módszeranban elmélyül ismereekkel rendelkezik, cikkünk ezen is próbál válozani, a bayesi szemléle népszerűsíésével. A bayesi elemzések egy rendkívül egyszerű összefüggésen, a Bayes-éelen alapulnak, a megközelíés filozófiájáról, alapfogalmairól a émakörben nem elmélyül Olvasó Hunyadi [] művében és az irodalomjegyzék éeleiben alál ovábbi érékes információ. A bayesi módszeranban a prior és a likelihood segíségével a (kvázi) poszerior előállíása nem okoz problémá, hiszen ehhez csupán egy szorzás kell elvégezni. Az igazi problémá a poszeriorban (sokválozós együes sűrűségfüggvényben) rejlő (marginális) információ kinyerése jeleni. Ezzel el is érkezünk a módszer egyik fő sajáosságához, annak számíásigényességéhez, hisz az ehhez szükséges inegrálás gyakran analiikusan nem, csak numerikusan végezheő el. A felhasznál numerikus módszerek ugyan ismerek volak, legalábbis alapjaikban már korábban is (Meropolis e al. [953]), nagy lendülee azonban a számíógépek, valamin az egyszerűbb programozási nyelvek elerjedése ado a erülenek a 8-as évek második felében és a 9-es évek elején. 3 Jelen cikkünk első részében A bayesi saiszika növekvő népszerűségé a bayesi anulmányok számának növekedése is jól muaja a nemzeközi szakirodalomban (Várpaloai [8]). A kézikönyvek közül kiemelünk néhánya, melyeke jelen anulmány elkészíése és egyéb bayesi köődésű munkáink során felhasználunk (Alber [9], Congdon [5], Gelman e al. [4], Geweke [5], Koop [3], Koop e al. [7], Rober Casella [4]). 3 Ma a leggyakrabban alkalmazo, bayesi saisziká (is) ámogaó szofverek a MATLAB, az R, valamin a BUGS (Bayesian inference Using Gibbs Sampling) különböző verziói, min a WinBUGS és az OpenBUGS.
A modern bayesi elemzések eszközára és alkalmazása 973 az ún. Markov-lánc Mone-Carlo (Markov Chain Mone Carlo MCMC) forradalom egyik zászlóshajójá, a Gibbs-minavéel, valamin konvergenciájának inuíciójá muajuk be röviden, majd a második részben egy olyan példá, amelynél a klasszikus és bayesi ökonomeriai elemzés jellegé ekinve hasonlí egymásra, ugyanakkor míg a klasszikus elemzéssel a paraméerbecslés egzak bizonyalansága csak körülményesen haározhaó meg, addig a bayesi elemzésben ez egyszerűen kiszámíhaó.. Markov-lánc Mone-Carlo-módszerek Az MCMC-módszerek napjainkra a legfonosabb, leggyakrabban használ algorimusok közé kerülek (Hunyadi []), sikeröréneükről, fejlődésükről rövid öszszefoglaló ad Casella és Berger [], 4 illeve megemlíjük Meropolis e al. [953], Hasings [97], Geman és Geman [984], valamin Gelfand és Smih [99] alapveő jelenőségű anulmányai. A MCMC-módszerek célja, hogy miná udjunk venni egy (jellemzően összee, öbbdimenziós) sűrűségfüggvénnyel ado, akár ismerelen valószínűség-eloszlásból. Szakíva a függelen azonos eloszlású vélelen érékeke generáló algorimusokkal, az MCMC-echnikák közös jellemzője, hogy olyan Markov-lánco(ka) állíanak fel, melyek egyensúlyi eloszlása megegyezik a kíván eloszlással. Ezuán minden lépés uáni állapoo a céleloszlásból származó minaelemnek ekinünk, amik azonban a Markov-ulajdonság mia nem lesznek függelenek. A Markov-lánc konsruálása jellemzően nem okoz különösebb nehézsége, a gyakorlai alkalmazások eseén a probléma inkább a konvergencia megállapíásában rejlik. A Gibbs-algorimus leheővé eszi a bonyolul, sokdimenziós problémák lebonásá kisebb, egyszerűbb feladaokra, Markov-láncok felhasználásával. A megoldandó probléma egy együes eloszlás (a poszerior) marginális eloszlásainak (az egyes paraméerek), jellemzőinek meghaározása. A legkézenfekvőbb eljárás az együes eloszlás inegrálása lenne, ez azonban sok eseben analiikusan nem oldhaó meg. Szinén leheséges numerikus inegrálási módszereke alkalmazni, magas dimenziószámban, ez azonban nehézkes és lassú. Ilyen eseekben nyújha segísége a Gibbs minavéeli echnika, ami leheősége ad a kíván együes eloszlásból való minavéelre, méghozzá indirek módon, a feléeles eloszlások segíségével. A módszer leggyakrabban a bayesi megközelíés használja, de összee likelihoodokkal kapcsolaos számíások eseén a klasszikus saiszikában is alkalmazhaó. 4 Magyar nyelvű ismereésé lásd a Saiszikai Szemle hasábjain (Kehl []).
974 Kehl Dániel Várpaloai Vikor.. Markov-láncok néhány fonos ulajdonsága, jelölések Elsőkén röviden ekinsük á a Markov-láncok azon jellemzői, melyek az MCMC-módszerek szemponjából jelenőséggel bírnak. A véges ( k ) állapoerű diszkré Markov-lánc egy speciális szochaszikus folyama indexszel, amely X indulási érék, kezdei állapo uán X, X,, X, állapookba kerül, ha ( + = X= b ) = ( + = = ) P X a P X a X b X a megelőző és a jelen ál- minden ( a, b ) párra és -ra, ahol = ( X X X ) lapook vekora és = ( b b b ) b. Mindez az jeleni, hogy a kövekező állapo alakulása csak a jelenlegi állapoon múlik, a múlbeli állapook nem befolyásolják az. Ha ezek a feléeles valószínűségek időben állandók, azoka gyakran jelöljük a pba = P( X+ = a X = b) módon, melyeke kézenfekvő egy ún. ámenemárixba rendezni: P p p p k p p p. pk pk pkk k = Az ámenemárix definíciójából kövekezik néhány ulajdonsága: négyzees, minden eleme nemnegaív, illeve minden sora egy feléeles eloszlás, azaz sorösszegei egye adnak, 5 a b. sor a. oszlopa a b állapoból a állapoba kerülés valószínűségé muaja meg. Az ámenemárix segíségével meghaározhaó az egylépéses ámeneek melle a öbblépéses ámeneek valószínűsége is, méghozzá m lépés eseén P m módon, amely márix sorai X + mfeléeles eloszlásai adják meg ado X állapook melle. Az ámeneek valószínűségei melle szólnunk kell a kezdei állapook valószínűségé leíró vekorról ( v ), kezdei eloszlásról is, hiszen a Markov-lánc együes eloszlásának meghaározásához az ámenemárixon kívül erre is szükségünk van. Az együes eloszlásból pedig meghaározhaó a. időpon marginális eloszlása, méghozzá vp módon. Markov-láncok eseén léezik olyan speciális kezdei eloszlás, mely eljesíi a vp = v egyenlősége, az ilyen vekoroka a Markov-lánc egyensúlyi eloszlásának hívjuk. 5 Az ilyen márixoka szochaszikus márixoknak nevezzük.
A modern bayesi elemzések eszközára és alkalmazása 975 Bizonyos eseekben ez a speciális kezdei eloszlás egyedi és fonos ulajdonságokkal rendelkezik (DeGroo Schervish []): ha léezik olyan m, melyre P va- m lamennyi eleme szigorúan poziív, 6 akkor a Markov-lánc egyelen v egyensúlyi eloszlással rendelkezik, lim P egy olyan márix, melynek minden sora v, és függelenül aól, hogy a Markov-lánc milyen kezdei eloszlásból indul, lépés uán az eloszlása v -hez ar, ahogy. A harmadik pon különösen fonos, hiszen az mondja, hogy bárhonnan indíva a lánco, az elegendően hosszú ideig fuava a. lépésben kapo érék ulajdonképp egy v -ből származó vélelen válozó. Mindezek végelen állapoérrel rendelkező Markov-láncokra is igazak, a Gibbs-minavéel pedig ulajdonképp ez használja ki úgy, hogy olyan Markov-lánco állí fel, melynek egyensúlyi eloszlása épp a generálni kíván eloszlás. A módszer és a konvergencia inuíciójá előbb egy könnyen áláhaó diszkré példán muajuk be, majd ezuán az álalános algorimus adjuk meg... Kéválozós Gibbs-minavéel Tekinsünk elsőkén egy egyszerű, kéválozós esee, az ( XY, ) együes eloszlás. A Gibbs-minavéel X marginális eloszlásból úgy vesz miná, hogy magá a marginális eloszlás nem, csupán az XY és az YX feléeles eloszlásoka használja, méghozzá a kövekező módon. Ado y kezdei érék segíségével válakozva generálunk az ( = ), ( = ) X f x Y y i i i Y f y X x i+ i i eloszlásokból, ahol f (). és f (.) a megfelelő feléeles eloszlások sűrűségfüggvényei. Ebben a vélelen számokból álló Gibbs-sorozaban elég nagy k eseén Xk = xk egy f ( x) -ből származó minaelemnek ekinheő. A legegyszerűbb eseben X és Y is bináris valószínűségi válozók a kövekező együes eloszlással (a példa Casella George [99] anulmánya alapján készül): // 6 Amennyiben a Markov-lánc irreducibilis (az állapook egymásból kölcsönösen elérheők, azaz kommunikálnak egymással), aperiodikus, véges állapoerű, akkor léezik ilyen m. Az ilyen Markov-láncoka gyakran ergodikusnak nevezik.
976 Kehl Dániel Várpaloai Vikor XY p p p p ahol a valószínűségek egyre összegződnek. Természeesen a marginális eloszlások ebben az egyszerű eseben riviálisan adódnak, az kívánjuk illuszrálni, hogy csak a feléeles eloszlások segíségével is generálhaók olyan vélelen érékek, melyek eloszlása ponosan a kíván peremeloszlás. A feléeles eloszlásoka szochaszikus márixokkal írhajuk le: A yx p p p p p + p p + p p + p p + p =, illeve A =. xy p p p p p + p p + p p + p p + p // A ké márix egy-egy Markov-lánc ámenemárixa, melyek az muaják meg, hogy ado x állapoból milyen valószínűséggel juunk ado y állapoba. Jellemzően azonban nem ezekre a valószínűségekre, hanem ado x állapoból egy újabb x állapoba kerülés valószínűségére vagyunk kíváncsiak vagy épp ugyanerre az y -ra vonakozóan. Ezek a lépések nem közvelenül, hanem a másik válozón kereszül örénnek meg, de könnyen meghaározhajuk az egylépéses ámene-valószínűségeke, méghozzá A = A A, illeve A = A A /3/ x x y x x y y y x y y x formában. A öbblépéses ámenemárixok pedig a /3/-ban meghaározo márixok megfelelő haványaikén állíhaók elő. A Markov-láncok ulajdonságainál emlíe éel szerin pedig ahogy k a k. állapo eloszlása épp a marginális eloszlás lesz. Könnyen beláhaóan a marginális eloszlás kielégíi a vp = v ( f x A fxa A fx) xx yx xy = = feléel, azaz a Markov-lánc egyensúlyi eloszlása: p + p p + p p + p p + p p p p p p + p p + p p + p p + p [ p p p p ] p p p p + + = [ p p p p ] = + +.
A modern bayesi elemzések eszközára és alkalmazása 977 A -es márixhoz hasonlóan írhaó fel az álalánosabb, de ovábbra is csupán ké válozó aralmazó, n m-es ese, ahol egy rövid számpéldán kereszül a konvergenciá muajuk be. Legyen az együes eloszlás például: A egylépéses ámenemá- x x amiből a // és /3/ képleel analóg módon képezheő az rix: A xx,,5, 5,,,,,,, 7, /4/,,, 4,5,5,3, 54, 3, 87,7,433,399,37,3 =., 39, 336, 37, 8,548,,4,3 Az ámenemárix haványainak elemei az. ábra muaja be k függvényében, a vízszines vonalak a marginális valószínűségeke reprezenálják, a különböző jelzések a különböző induló állapookból ado állapoba juás valószínűségei muaják.. ábra. Az egyes állapookba kerülés valószínűsége k lépés uán az egyes kezdei állapookból k k k k
978 Kehl Dániel Várpaloai Vikor Az ábra alapján az láhaó, hogy néhány lépés uán, bárhonnan is indíjuk újára a Markov-lánco, annak a valószínűsége, hogy egy ado állapoba juunk, éppen az ado állapo marginális valószínűsége, illeve az, hogy ebben az egyszerű példában a konvergencia rendkívül gyors. Természeesen ez a példa csupán az inuíció kívánja bemuani. Bizonyíani nem kívánjuk, csupán megemlíjük, hogy folyonos állapoér eseén a Markov-láncok maemaikája sokkal összeeebb, de hasonlóan kell elképzelni a folyamao egy végelen ámenemárixszal (Casella George [99])..3. Többválozós Gibbs-minavéel Tegyük fel, hogy = ( X, X,, X p ) X vélelen vekorválozó, ahol az X j -k egyvagy öbbdimenziós komponensek (blokkok), valamin az is, hogy képesek vagyunk a kövekező f, f,, fp feléeles sűrűségfüggvényekkel ado eloszlásokból vélelen számo(ka) generálni, ismerjük, azaz ismer eloszláskén azonosíani udjuk a (,,,,,, + ) f x x x x x x, /5/ j j j j p ún. eljes feléeles (full condiional) eloszlásoka minden j =,,, p -re. Ekkor a Gibbs-algorimus: 7 X x kezdőérékeke. Válasszunk = m =.. Isméeljük a kövekező lépéseke, amíg a lánc az egyensúlyi eloszlásához nem konvergál: ( m+ ) ( m) ( m) ( m) a) X f x x, x3,, x p. b) (,,, ) (,,, ) ( m+ ) ( m+ ) ( m) ( m) 3 X f x x x x p. ( m+ ) ( m+ ) ( m+ ) ( m) 3 3 3 c) X f x x x x p. d) ( m+ ) e) X f x ( m+ ) ( m+ ) ( m+ ) x, x,, x. ( ) p p p p f) Növeljük m éréké. 3. A konvergencia elői érékeke (burn in period) levágva a lánc elejéről megkapjuk a kíván eloszlásból származó vélelen miná. 7 Érdemes megjegyezni, hogy az algorimus nagyon hasonlí az egyenlerendszerek megoldására alkalmas Gauss Siedel ierációs eljáráshoz.
A modern bayesi elemzések eszközára és alkalmazása 979 Az áláhaóság érdekében m felsőindexkén szerepel, azaz ( m) j x a j. komponens m. lépésben (ierációban) felve éréké jelöli. Az algorimus jelenősége rögön szembeűnő, amennyiben az az f ( θ, θ,, θp y) poszerior sűrűségfüggvényre írjuk fel. Bár első láásra az összes feléeles eloszlás ismeree erős feléelezésnek űnik, de megfelelő (konjugál) priorok válaszása eseén a gyakorlaban használ ökonomeriai modellek úlnyomó részénél (például lineáris regresszió, vekor auoregresszív modellek, láens válozós modellek) az összes feléeles eloszlás beazonosíhaó, azok könnyen generálhaók. Miuán a lánc konvergál (az ehhez szükséges gyenge feléeleke lásd Gelfand Smih [99]) az m lépésben, egy újabb lépés a kíván együes eloszlásból származó vélelen érékkén ekinheő. A szükséges számú ( M ) vélelen érék generálására öbb eljárás léezik. Az első leheőség, hogy az algorimus m +. lépésig fuajuk M alkalommal, minden eseben megarva az uolsó éréke. Sokkal gyakrabban alkalmazo echnika, hogy a lánco hagyjuk funi m + M lépésig, majd a konvergenciáig szükséges ierációk eredményei elhagyva kapjuk a szükséges számú minaeleme. Az első eljárás háránya, hogy lassú, hiszen az összes ieráció száma magas, a másodiké pedig az, hogy a vélelen érékek auokorrelálak lesznek. Ennek kivédésére szokás a lánc csak minden r. éréké megarani, ezzel csökkenve ez a negaív haás, ekkor m + rm ieráció szükséges. Ezen eljárás szakirodalmi elnevezése hinning vagy rikíás. A konvergencia megállapíása nem egyszerű felada. Geweke [99] egyelen Markov-láncon alapuló, idősor-elemzési eszközárra ámaszkodó diagnoszikai módszer javasol. Alapölee, hogy a soroza elejének (például az érékek első százalékának) és végének (például az érékek 5 százalékának) álagai hasonlíja össze. Gelman és Rubin [99] módszere öbb lánc különböző kezdő érékekről való indíásával, majd láncokon belüli és láncok közöi varianciák összehasonlíásával dolgozik. Szinén gyakori a láncok egymás uáni érékeinek ábrázolása (race), kumulaív módon számol álagok állandóságának, valamin a generál vélelen érékek alapján becsül sűrűségfüggvények vizuális vizsgálaa. Cowles és Carlin [996] a 9-es évek nagy MCMC hullámának 3 diagnoszikai eszközé elemzi jellegük, az igényel láncok száma, elmélei háerük, alkalmazhaóságuk és összeeségük szerin, kövekezeésükben pedig arra junak, hogy minden eszköznek vannak hárányai, így érdemes öbb diagnoszikai eljárás alkalmazni. Mivel ezek a diagnoszikai eszközök nem évedheelenek, így soha nem leheünk bizosak benne, hogy a lánc énylegesen konvergál-e a kíván eloszláshoz, a gyakran használ ökonomeriai modellek eseén azonban ez nem szoko problémá okozni, főkén, ha a konvergenciá vizsgáló eszközök nem jeleznek problémá.
98 Kehl Dániel Várpaloai Vikor. Szívkoszorúér-megbeegedések miai halálozás modellezése klasszikus és bayesi MCMC-eljáráson alapuló ökonomeriai eszközökkel Ebben a részben bemuajuk, hogy az előző fejezeben ismeree MCMCmódszer mikén használhaó az empirikus elemzésekben. A kövekező példa elsősorban a Gibbs minageneráló algorimus illuszrálására szolgál, de emelle arra is rámua, hogy ado eseben a klasszikus ökonomeria elemzési eszköze igen hasonló a bayesi elemzéseknél használ Gibbs minavéeli eljáráshoz. Míg azonban a klasszikus ökonomeriai elemzés elsődlegesen ponbecsléseke szolgála, addig a bayesi ökonomeriai eszközárral a paraméerbecslés bizonyalansága is közvelenül meghaározhaó. 8 Válaszo példánk Ramanahan [3] könyvének 4-7 számmal jelöl adaállományá használja, mely a szívkoszorúér-megbeegedések miai halálozási ráá és annak leheséges magyarázóválozói aralmazza az 947 98 időszakra (34 megfigyelés). 9 Azér válaszouk ez az adaállomány, mer a klasszikus és ökonomeriai eszközök álal szolgálao eredmények összeveésekor hivakozni udunk Ramanahan klasszikus ökonomeriai számíásaira. Az adaállomány válozói (lásd Ramanahan [3] 664. old.): CHD: főre juó szívkoszorúér-megbeegedés mia elhunyak száma, CAL: egy főre juó napi kálciumfogyaszás grammban, UNEMP: munkanélküliek a 6 éves és idősebb munkavállalók százalékában, CIG: egy főre juó cigareafogyaszás a 8 évesek és idősebbek körében (fon), EDFAT: egy főre juó ékezési zsír- és olajfogyaszás (fon), MEAT: egy főre juó húsfogyaszás (fon), SPIRITS: egy főre juó égeeszesz-fogyaszás a 8 évesek és idősebbek körében (gallon), BEER: egy főre juó sörfogyaszás a 8 évesek és idősebbek körében (gallon), WINE: egy főre juó borfogyaszás a 8 évesek és idősebbek körében (gallon). 8 A bayesi elemzéshez felhasznál MATLAB-kódoka megkeresés eseén szívesen rendelkezésre bocsájuk. 9 Az adaok leölheők a hp://econweb.ucsd.edu/~rramanahan/xldata/data4-7.xls címről.
A modern bayesi elemzések eszközára és alkalmazása 98.. Auokorrelál hibaagú lineáris regressziós modell elemzése klasszikus ökonomeriai eszközökkel A rendelkezésre álló összes válozó felhasználásával felír lineáris regressziós modellből a nem szignifikáns válozók elhagyása uán a kövekező, az információs kriériumok álal is preferál modellváloza adódo (Ramanahan [3]. old.): CHD = β + β CIG + β EDFAT + β SPIRITS + β BEER + u, /6/ 3 4 ahol β a konsans, β i az egyes magyarázóválozókhoz arozó együhaó, u a modell hibaagja. A becslés eredményei a áblázaban alálhaók. A lineáris regressziós modellben az elérésválozók a Lagrange muliplikáor próba alapján auokorrelálnak bizonyulak (Ramanahan [3] 48. old.). A hibaagok auokorrelálságának kövekezménye (lásd például Ramanahan [3] 44. old.), hogy a legkisebb négyzeek módszerével becsül együhaók bár ovábbra is orzíalanok és konziszensek, de nem lesznek haásosak. Továbbá az együhaók becsül varianciái orzíoak és inkonziszensek lesznek, így a hipoézisvizsgálaok is érvényüke veszik. Ezek a kövekezmények egyrész az jelenik, hogy a /6/ regresszió alapján e megállapíás a becsül együhaók nulláól szignifikánsan különböző volára önmagában érvényelen. Másrész célszerű olyan becslési eljárás alkalmaznunk, min a Cochrane Orcu-féle ieraív eljárás, amely a hibaagok auokorrelálságának megfelelő figyelembe véelével a korábbi negaív kövekezményeke kiküszöböli. Így a példában szereplő lineáris regresszió a hibaagok auokorrelálságá is szem elő arva a kövekezőképpen írhaó fel: CHD = β + β CIG + β EDFAT + β SPIRITS + β BEER + u, /7/ 3 4 u = ρ u + ε, /8/ ahol ε hibaagról már feleheő, hogy auokorrelálalan. A /7/ /8/ modell becslése a Cochrane Orcu-féle ieraív eljárással a kövekező:. Becsüljük meg a /7/ modell a legkisebb négyzeek módszerével.. A becsül ˆi β együhaók segíségével számísuk ki az u ˆ reziduumoka az A módszer leírásá lásd például Dufour e al. [98] vagy Ramanahan [3] 469. old. A hibaag auokorrelálságának figyelembe véeléhez elegendő egy késleleés szerepeleni, mivel a eszek szerin a becsül ε hibaag már auokorrelálalan (Ramanahan [3] 43. old.)
98 Kehl Dániel Várpaloai Vikor u ˆ ˆ ˆ ˆ ˆ ˆ = CHD β β CIG β EDFAT β 3 SPIRITS β 4 BEER kifejezés felhasználásával. 3. Az u ˆ reziduumokra legkisebb négyzeek módszerével illesszük a /8/ modell. 4. Az előző lépésben becsül ˆρ együhaó segíségével definiáljuk CHD ˆ = CHD ρ CHD válozó, illeve ezzel analóg módon a CIG, EDFAT, SPIRITS és BEER idősoroka. Ez köveően, a ˆρ együhaó adonak véve, a legkisebb négyzeek módszerével becsüljük meg /7/ modell, de az eredei válozók helye mindenü a csillagozo válozóka használva: * * * CHD = β ( ρ) + β CIG + β EDFAT + * * + β3 SPIRITS + β4 BEER + u. 5. Menjünk vissza a második lépéshez mindaddig, amíg a becsül együhaók nem konvergálnak. Az ieráció eredményekén kapo ˆi β és ˆρ együhaók becslése ovábbra is orzíalan és konziszens, illeve az együhaók varianciái is konziszensen meghaározhaók. A Cochrane Orcu-féle együhaóbecslés eredményei a ábláza második blokkja muaja. Min láhaó, a reziduumok auokorrelálságának figyelembe véele érdemben megválozaa a ponbecsléseke miközben a sandard hibák lényegesen nem módosulak. Az eredmények alapján a korábban szignifikánsnak űnő együhaók egy kivéellel (BEER) inszignifikánssá válak... Auokorrelál hibaagú lineáris regressziós modell elemzése bayesi ökonomeriai eszközökkel A klasszikus ökonomeria eredményei köveően a bayesi ökonomeria MCMC családjába arózó Gibbs minavéeli eljárással becsüljük meg a /7/ /8/ egyenleekkel ado modellspecifikáció együhaói. 3 A anulmány első részében bemuao Gibbs-minavéel alkalmazásához a priorok, a modell likelihoodja és a poszerior felírásá köveően meg kell haároznunk az együhaók feléeles poszerior eloszlásai. Amennyiben a klasszikus ökonomeriai megközelíéshez hasonlóan feléelezzük, hogy az ε hibaagok normális eloszlásúak, akkor az ismerelen együhaók konjugál prior eloszlásai a kövekezők. 4 A közöl eredmények megegyeznek Ramanahan [3] 43. oldalon leír eredményével. 3 Auoregresszív hibaagú lineáris modellek bayesi becsléséről lásd Chib [993]. 4 Lásd például Koop [3] 34. old.
A modern bayesi elemzések eszközára és alkalmazása 983 β ~ N B, V, /9/ ρ ~ N R, W, // ( T ) σ ~ IG S,, // ahol β = [ β β β β3 β 4], σ = Var ( u ). Továbbá (, ) N( B, V ) ) jelöli az R ( B ) várhaó érékű és (öbbválozós) normális, (, ) N R W (illeve W V variancia-kovarianciamárixú IG S T pedig az S lokációs paraméerű és T szabadságfokú inverz gamma eloszlás. A /7/ /8/ egyenleekkel ado modell likelihoodja, feléelezve, hogy ε függelen azonos normális eloszlású: T * * * * (, β, ρσ, ) = ( σ π) exp ( ( ρ) ( ρβ ) ) ( ( ρ) ( ρβ ) ) f y X y X y X σ CHD ρ = CHD ρ CHD megfi- ahol T a megfigyelések száma, 5 * * y ( ρ ) a * gyelésekből képze oszlopvekor. y EDFAT * ( ρ ), SPIRITS és SPIRITS * ( ρ ) és, // ρ -vel analóg módon definiáljuk BEER * ( ρ ) oszlopvekoroka a CIG, CIG * ( ρ ), EDFAT, ρ a BEER idősorokból. Ezek felhasználásával legyen X * * * * * X ( ρ) = CIG ( ρ) EDFAT ( ρ) SPIRITS ( ρ) BEER ( ρ) megfigyelésekből képze T 4 -es márix. Bayes éelé használva a poszerior a /9/ // priorok és a // likelihood felhasználásával a kövekező: (,,, ) (,,, ) ( ) f β ρ σ y X f y X β ρ σ f β f ρ f σ. /3/ A anulmány függeléke alapján meghaározhaók a Gibbs minavéelhez szükséges feléeles poszerior eloszlások β ρ, σ, y, X~ N( B, V), ρ β, σ, y, X~ N( R, W), σ β, ρ, y, X~ IG( S, T), ahol B, V, R, W, S és T érékei a Függelék /F8/, /F9/, /F/, /F3/, /F5/ és /F6/ képleei haározzák meg. 6 5 Eseünkben a késleleések szerepeleése mia szükséges minakorreció uán T = 33. 6 Vegyük észre, hogy a feléeles poszerior eloszlások azonos ípusúak a megfelelő prior eloszlásokkal, azaz énylegesen konjugál priorokkal dolgozunk.
984 Kehl Dániel Várpaloai Vikor A Gibbs-algorimus alkalmazása során a kezdei érékek megadása uán a bemuao feléeles eloszlásokból kell isméelen vélelen miná generálnunk. 7 Az algorimus lépései eseünkben a kövekezők:. A kezdei érékek legyenek ρ = és σ =. Legyen m =.. Legyenek * ( m) * ( m) * ( m) ( m) ( ρ ) = ρ y ρ és X ρ elemei a kövekezők: CHD CHD CHD ρ ( m) ( m) CIG ρ CIG * ( m) ( m) ( ρ ) = ρ ( m) SPIRITS ρ SPIRITS ( m) BEER ρ BEER X EDFAT EDFAT ( m ) 3. Generáljunk egy β + vélelen vekor a ( m) ( m) βρ, σ ~ N B, V feléeles eloszlásból, ahol:. ( m) ( m) ( m) m = + ( m) ( ρ ) ( ρ ) + ρ ρ ( m) ( m) ( ρ ) ( m) = + ρ ( m) B V X X V B X y, σ σ V V X X σ m 4. Legyenek u β + m és U β + elemei a kövekezők:. ( m+ ) ( m+ ) ( m+ ) ( m+ ) ( β ) = β β β u CHD CIG U ( m+ ) ( m+ ) EDFAT β3 SPIRITS β4 BEER ( m+ ) ( m+ ) ( β ) = u ( β ).,, 5. Generáljunk egy ( m+ ) ( m) σ β, ρ ~ IG( S, T) ( m ) σ + vélelen számo a feléeles eloszlásból, ahol: 7 A normális és inverz gamma eloszlásokból örénő minavéel a Függelék. ponjában ismerejük.
A modern bayesi elemzések eszközára és alkalmazása 985 S = S + u U u U T = T + T. ( m+ ) ( m+ ) ( m) ( m+ ) ( m+ ) ( m) ( ( β ) ( β ) ρ ) ( ( β ) ( β ) ρ ) m 6. Generáljunk egy ρ + vélelen vekor a ( m + ) ( m+ ) ρβ, σ N R, W feléeles eloszlásból, ahol: ( m+ ) ( m+ ) ( m+ ) ( m+ ) = + ( m ) ( β ) ( β ) + ( m ) ( β ) β + +, R W U U W R U u, σ σ ( m+ ) ( m+ ) W = W + U ( ) ( β ) U( β ). m+ σ m 7. Tároljuk el a generál β + m, ρ + m és σ + vélelen vekor és számoka, legyen m= m+ és menjünk vissza a 3. lépéshez. A bayesi becslés megvalósíásához az eredményeke alig vagy egyálalán nem befolyásoló (nem informaív) prioroka válaszounk: 8 [ ] B =, V = I, R =, W =, S = és T =. 5 Az ieráció a rendelkezésünkre álló adaokon -szer isméelük, eredményeink az első mina elhagyásával kapo -es minán alapulnak. Az együhaók poszerior eloszlásá a. ábra hiszogramjai szemléleik, illeve a poszerior eloszlás jellemző érékeiről a ábláza harmadik blokkja aralmaz ovábbi információ. Az eredmények érékelése elő a klasszikus és bayesi elemzés módszeraná vejük össze. A Cochrane Orcu-féle ieraív eljárás és a Gibbs-algorimus jellegé ekinve igen hasonló egymáshoz. Mindké eljárás az együhaók egy halmazá adonak feléelezve haározza meg a öbbi együhaó úgy, hogy folyamaosan felcseréli az adonak feléeleze és a meghaározandó együhaóka. A jellegében hasonló eljárásokban ugyanakkor lényeges különbségek is vannak. A Cochrane Orcu-féle eljárás lineáris modellek eseén ulajdonképpen a feléeles poszerior móduszoka adja becslésül és egyelen ponbecsléshez konvergál, addig a Gibbs-eljárás a feléeles poszerior módusz körül válasz megfelelő érékeke úgy, hogy az ismélések révén a paraméerek együes poszerior eloszlása bonakozzon ki. A Gibbs-eljárásnak ezen felül az is előnye, hogy nem egyelen fixpon érékeke keres meg, amelynek 8 Ez β paraméerre vonakozó prior eseén úgy érheő el, hogy a V és W kovarianciák főálóiban szereplő érékeke kellően nagynak válaszjuk.
986 Kehl Dániel Várpaloai Vikor meghaározása főleg sok együhaós, nemlineáris modellek eseén okozha numerikus problémá. 9 A poszerior eloszlásoka szemlélve felűnő, hogy a bayesi megközelíés a /7/ egyenleben szereplő késlelee endogén válozóhoz arozó együhaóra ferde poszerior peremeloszlás eredményeze. Ez első láásra meglepő lehe, hiszen a Gibbs minavéeli eljárásban a /7/ egyenleben szereplő együhaók feléeles eloszlása szimmerikus. Ugyanakkor udjuk, hogy a klasszikus ökonomeria némileg hosszadalmas levezeés igénylő eredménye is hasonló: a késlelee endogén válozóhoz arozó együhaó legkisebb négyzeek elvével örénő becslése nem a szokásos -eloszlás kövei. Valójában a bayesi becslés során ez az eredmény lájuk viszon a levezeések bonyodalmai nélkül. Becslési eredmények: klasszikus és bayesi ökonomeriai eszközökkel Módszer Ponbecslés OLS /6/ CI 95 százalék Ponbecslés Cochrane Orcu /7/ /8/ CI 95 százalék Ponbecslés Bayes /7/ /8/ HPD 95 százalék β (konsans) 39,678 8,548 (a) 34, 7,8 (a) 39,95 4,45 (a) (77,944) 97,94 (f) (84,6) 5,59 (f) (85,65) 474,54 (f) β (CIG),76,388 (a),9 6,74 (a) 4,53 4,7736 (a) (4,59),4 (f) (4,74),59 (f) (4,759) 3,973 (f) β (EDFAT) 3,38,47 (a),37,748 (a),73,339 (a) (,967) 5,343 (f) (,44),49 (f) (,79),9 (f) β 3 (SPIRITS) 6,749,464 (a),5 4,8 (a),837 3,77 (a) (7,37) 4,34 (f) (7,94) 8,9 (f) (8,895) 3,33 (f) β 4 (BEER) 4,3 5,884 (a), 4,43 (a),89 4,468 (a) (,863),38 (f) (,956),6 (f) (,8), (f) ρ ( u ),64,333 (a),59,97 (a) (,38),895 (f) (,7),876 (f) Megjegyzés. A klasszikus becsléseknél a CI a konfidencia inervallumo, a bayesi becsléseknél a ponbecslés a poszerior várhaó éréke, a HPD (highes poserior densiy) pedig a legnagyobb valószínűségi inervallumo jelöli, vagyis az a legszűkebb inervallumo, ahová a poszerior eloszlás ado százaléka esik. Az (a) és (f) az inervallumok alsó és felső érékeire ual. A ponbecslés ala zárójelben az együhaó szórása szerepel. 9 Az MCMC-módszereknek ez álalános előnye minden ponbecslési, így például a maximum likelihood eljárással szemben: egyelen maximumhely megkeresése helye, mely összee, nemlineáris ökonomeriai modellek eseén numerikusan igen nehéz felada lehe, a eljes poszerior eloszlás szimulálja, amiből a paraméerek jellemző érékei már könnyen meghaározhaók.
A modern bayesi elemzések eszközára és alkalmazása 987 A /7/ /8/ egyenleek együhaóinak becsül érékei ekinve elmondhaó, hogy a klasszikus és a bayesi becslés numerikusan hasonló eredményekhez vezee, ami ermészees, hiszen a bayesi becsléshez alacsony információ aralmú (prakikusan nem informaívnak is ekinheő) prioroka használunk. A numerikus különbségeke alapveően az okozza, hogy a bayesi becslésben a poszerior álago számíouk ki, ami ferde eloszlások eseén különbözik a klasszikus megközelíés módusz becsléséől.. ábra. A /7/ /8/ egyenleekkel ado modell együhaóinak poszerior hiszogramja β 5 β β β β 3 5 5 5 5 5 5 5-5 5-3 -4-4 6-4 5 β ρ β 4 4 ρ 5 5 σ 5 5 5-6 -4 -.5 5 5 3. Összefoglalás A anulmányban bemuauk a modern bayesi ökonomeriai elemzések egyik gyakran alkalmazo MCMC-módszeré, a Gibbs-minavéel, mely leheővé eszi, hogy a bayesi elemzés során a poszerior együes sűrűségfüggvényben levő információka a megszoko saiszikai fogalmakba (várhaó érék, módusz, szórás sb.) ömörísük. Az MCMC-eljárások forradalmasíoák a bayesi elemzések eszközárá, segíségükkel napjainkra olyan problémák is megoldhaóvá válak, melyek klasszikus módszerekkel egyálalán nem, vagy csak körülményesen kezelheők. A anulmány empirikus része olyan példá mua be, ahol a klasszikus és a bayesi elemzés módszeranilag igen hasonló. Amelle, hogy a ké megközelíés numerikusan hasonló becsléseke eredményeze, a bayesi becslés azzal az előnnyel jár, hogy a késlelee endogén válozóhoz arozó becsül együhaó nem sandard (ferde) eloszlására auomaikusan rámuao. A bemuao példa anulsága álalánosíhaó:
988 Kehl Dániel Várpaloai Vikor míg a klasszikus megközelíésben a becslési módszerek elsődlegesen ponbecsléseke eredményeznek, amelyek bizonyalansága álalában csak mély valószínűségelméleisaiszikai udás alapján vezeheő le, addig a bayesi elemzés minden eseben az ismerelen együhaók együes eloszlásá haározza meg, melyből az elemző eszőleges, az eloszlás jellemző muaóka haározha meg. Függelék. Feléeles poszerior eloszlások meghaározása a Gibbs-minavéelhez A.. alfejezeben szereplő /9/ // priorok sűrűségfüggvényei: k β f ( β ) = ( π) V exp ( B β) V ( B β ), /F/ k ρ f ( ρ ) = ( π) W exp ( R ρ) W ( R ρ ), /F/ f T S = exp S T, /F3/ σ Γ ( T ) ( σ + ) σ ahol k β és k ρ a /7/ és /8/ egyenleben szereplő együhaók száma, azaz a példában k β = 5 és k ρ =. A főszövegben a /3/ képleel ado poszerior az /F/ /F3/ sűrűségfüggvények és a // likelihood felhasználásával a kövekező: k ( β ) β, ρ, σ, π exp β ( β) f y X V B V B k ρ ( π) W exp ( R ρ) W ( R ρ) T S ( T + ) σ exp S T σ Γ T * * * * ( σ π ) exp ( y ( ρ) X ( ρ) β) ( y ( ρ) X ( ρ) β). σ /F4/
A modern bayesi elemzések eszközára és alkalmazása 989 A Gibbs-minavéel alkalmazásához az ismerelen együhaók feléeles poszerior eloszlásai a kövekezőkben vezejük le. β ρ, σ, yx, feléeles poszerior sűrűségfüggvénye /F4/ alapján: ( ) β ρσ,,, exp β ( β) ( * ( ρ) * ( ρ) β) ( * ( ρ) * ( ρ) β) f y X B V B y X y X σ, /F5/ ahol kihasználuk, hogy ρ és σ érékei a feléeles eloszlásban rögzíeek. Cholesky-felbonás segíségével ( B β) V ( B ) alakra, ahol V = V V. Bevezeve a ömörebb formára: β áírhaó V B V β V B V β * y ( ρ) * X ( ρ) z = és Z = jelöléseke, /F5/ áírhaó σv B σv ( β ρσ,,, ) exp ( β) ( β) f y X z Z z Z σ A dekompozíciós szabály segíségével /F6/ így is írhaó: f y X ZZ σ ( β ρσ,,, ) exp ( β ˆ β) ( β ˆ β). /F6/, /F7/ ami egy konsans ényezőől elekinve egy öbbválozós normális eloszlás sűrűségfüggvénye, azaz ˆ β ρ, σ, yx, ~ N( β, σ ( ZZ ) ). Tehá β feléeles eloszlása normális B várhaó érék vekorral és V kovarianciamárixszal, ahol: * * * * = + + B V X ( ρ) X ( ρ) V B X ( ρ) y ( ρ), σ σ V V X y σ ( ρ) ( ρ) * * = +. /F8 F9/ Hasonlóképpen ρ β, σ, yx, feléeles sűrűségfüggvénye /F4/ alapján: Dekompozíciós szabálynak hívjuk a kövekező azonosságo: z Z z Z = z Z ˆ z Z ˆ + ˆ ZZ ˆ β β β β β β β β, ahol β legkisebb négyzeek (vagy maximum likelihood) becslőfüggvény. ˆ = Z Z Zz, ami nem más min a
99 Kehl Dániel Várpaloai Vikor ( ) ρ βσ,,, exp ρ ( ρ) exp ( * ( ρ) * ( ρ) β) ( * ( ρ) * ( ρ) β) f y X R W R y X y X, /F/ σ ahol kihasználuk, hogy β és σ érékei a feléeles eloszlásban rögzíeek. Használva u = CHD β β CIG β EDFAT β3 SPIRITS β 4 BEER definíciójá, legyen u( β ) az u -ből álló oszlopvekor, U ( β ) pedig az u megfigyelésekből álló T méreű márix (vekor). Ekkor * * y ρ X ( ρ) β = u( β) U( β) ρ. Ez uóbbi segíségével ρ β, σ, yx, feléeles sűrűségfüggvénye: (,,, ) exp exp f ρ βσ y X ( ) ( ) R ρ W R ρ u β U β ρ u β U β ρ. /F/ σ Az /F/ feléeles sűrűségfüggvény formájá ekinve megegyezik az /F5/ feléeles sűrűségfüggvénnyel, így megisméelve az előzőkben leír lépéseke kapjuk, hogy ρ β, σ, yx, feléeles sűrűségfüggvénye normális eloszlású R várhaó érék vekorral és W kovarianciamárixszal, ahol: = + + R W U( β) U( β) W R U( β) u( β), σ σ W = W + U U σ ( β) ( β). /F 3/ Végül σ β, ρ, yx, feléeles sűrűségfüggvénye /F4/ alapján: ( T+ T + ) * * * * f ( σ β, ρ, y, X) σ exp S exp ( y ( ρ) X ( ρ) β) ( y ( ρ) X ( ρ) β) = σ σ ( T+ T + ) * * * * = σ exp S ( y ( ρ) X ( ρ) β) ( y ( ρ) X ( ρ) β) σ + = ( T+ T + ) = σ exp S ( u( β) U( β) ρ) ( u( β) U( β) ρ + ). σ /F4/ ahol kihasználuk, hogy β és ρ érékei a feléeles eloszlásban rögzíeek. Az /F3/ kifejezés egy konsansól elekinve egy IG( S, T ) eloszlás sűrűségfüggvénye, ahol: S = S + u U u U T = T + T. ( ( β ) ( β) ρ) ( ( β) ( β) ρ), /F5 F6/
A modern bayesi elemzések eszközára és alkalmazása 99. Vélelen vekorok generálása ado paraméerű normál és inverz gamma eloszlásokból a) Vélelen vekor generálása N( B, V ) paraméerű normális eloszlásból A maemaikai-saiszikai programcsomagok álalában rendelkeznek olyan vélelenszámgeneráorral, amely képes függelen, sandard normális eloszlás köveő vélelen számoka előállíani. Jelölje B az előállíani kíván normális eloszlás várhaó érékének oszlopvekorá (sorainak száma k ), V pedig a kovarianciamárixá. Állísunk elő egy k sorú függelen, sandard normális eloszlás köveő vélelen u vekor. Ekkor z = B+ V u módon definiál z vélelen vekor B várhaó érék vekorú, V kovarianciájú normális eloszlás fog köveni. b) Vélelen vekor generálása IG( S, T ) paraméerű inverz gamma eloszlásból S skála paraméer és T szabadságfokú inverz gamma eloszlás köveő vélelen szám előállíásához generáljunk egy T sorú vélelen u oszlopvekor a sandard normális eloszlásból. Ekkor S z = módon definiál z vélelen válozó S skála paraméerű és T szabadságfokú inverz uu gamma eloszlás fog köveni. Irodalom ALBERT, J. H. [9]: Bayesian Compuaion wih R. nd Ediion. Springer. New York. CASELLA, G. [7]: Why (No) Frequenis Inference (Too)? Bolein de Esadísica e Invesigación Operaiva. Vol. 3. No.. pp. 5 6. CASELLA, G. BERGER, R. L. []: A Shor Hisory of Markov Chain Mone Carlo: Subjecive Recollecions from Incomplee Daa. Saisical Science. Vol. 6. No.. pp. 5. CASELLA, G. GEORGE, E. I. [99]: Explaining he Gibbs Sampler. The American Saisician. Vol. 46. No. 3. pp. 67 74. CHIB, S. [993]: Bayes Regression wih Auoregressive Errors: A Gibbs Sampling Approach. Journal of Economerics. Vol. 58. Issue 3. pp. 75 94. CHIB, S. GREENBERG, E. [995]: Undersanding he Meropolis-Hasings Algorihm. The American Saisician. Vol. 49. No. 4. pp. 37 335. CONGDON, P. [5]: Bayesian Models for Caegorical Daa. Wiley. New York. COWLES, M. K. CARLIN, B. P. [996]: Markov Chain Mone Carlo Convergence Diagnosics: A Comparaive Review. Journal of he American Saisical Associaion. Vol. 9. No. 434. pp. 883 94. DEGROOT, M. H. SCHERVIS, M. J. []: Probabiliy and Saisics. Fourh ediion. Pearson. Boson. DUFOUR, J. M. GAUDRY, M. LIEM, T. C. [98]: The Cochrane-Orcu Procedure Numerical Example of Mulipe Admissible Minima. Economics Leers. Vol. 6. No.. pp. 43 48.
99 Kehl Várpaloai: A modern bayesi elemzések eszközára és alkalmazása GELFAND, A. E. SMITH, A. F. M. [99]: Sampling-Based Approaches o Calculaing Marginal Densiies. Journal of he American Saisical Associaion. Vol. 85. Issue 4. pp. 398 49. GELMAN, A. CARLIN, J. B. STERN, H. S. RUBIN, D. B. [4]: Bayesian Daa Analysis. Chapman & Hall/CRC. Boca Raon. GELMAN, A. RUBIN, D. B. [99]: Inference from Ieraive Simulaion Using Muliple Sequences. Saisical Science. Vol. 7. No. 4. pp. 457 47. GEMAN, S. GEMAN, D. [984]: Sochasic Relaxaion, Gibbs Disribuions and he Bayesian Resoraion of Images. IEEE Transacions on Paern Analysis and Machine Inelligence. Vol. 6. Issue 6. pp. 7 74. GEWEKE, J. [99]: Evaluaing he Accuracy of Sampling-Based Approaches o he Calculaion of Poserior Momens. In: Bernardo, J. M. Berger, J. O. Dawid, A. P. Smih, A. F. M. (eds.): Bayesian Saisics 4. Clarendon Press. Oxford. GEWEKE, J. [5]: Conemporary Bayesian Economerics and Saisics. Wiley. New York. HASTINGS, W. K. [97]: Mone Carlo Sampling Mehods Using Markov Chains and Their Applicaion. Biomerika. Vol. 57. Issue. pp. 97 9. HUNYADI L. []: Bayesi gondolkodás a saiszikában. Saiszikai Szemle. 89. évf.. sz. 5 7. old. KEHL D. []: Rober, C. Casella, G.: Szemelvények a Markov-lánc Mone-Carlo módszerek öréneéből. Saiszikai Szemle. 9. évf. 4. sz. 35 354. old. KOOP, G. [3]: Bayesian Economerics. Wiley. New York. KOOP, G. POIRIER, D. J. TOBIAS, J. L. [7]: Bayesian Economeric Mehods. Economeric Exercises 7. Cambridge Universiy Press. Cambridge. METROPOLIS, N. ROSENBLUTH, A. ROSENBLUTH, M. TELLER, A. TELLER, E. [953]: Equaions of Sae Calculaions by Fas Compuing Machines. Journal of Chemical Physics. Vol.. No. 6. pp. 87 9. RAMANATHAN, R. [3]: Bevezeés az ökonomeriába alkalmazásokkal. Panem Kiadó. Budapes. ROBERT, C. P. CASELLA, G. [4]: Mone Carlo Saisical Mehods. nd Ediion. Springer. New York. ROBERT, C. P. CASELLA, G. []: A Shor Hisory of Markov Chain Mone Carlo: Subjecive Recollecions from Incomplee Daa. Saisical Science. Vol. 6. No.. pp. 5. VÁRPALOTAI V. [8]: Modern Bayes-i ökonomeriai elemzések. Simasági priorok alkalmazása az üzlei ciklusok szinkronizációjának mérésére és az infláció előrejelzése. PhD-érekezés. Budapesi Corvinus Egyeem. Budapes. Summary This sudy demonsraes one of he mos widely used members of modern bayesian compuaions, Gibbs sampling. Afer inroducing he heoreical background and he algorihm iself, a shor numerical example illusraes he procedure and he speed of convergence. The pracical usefulness is proven hrough he soluion of a well-known problem wih bayesian mehods. This also enables he auhors o show similariies and differences of he classical frequenis heory and he bayesian framework.