Sztochasztikus modellek vizsgálata. Baran Sándor

Átírás

1 Sztochasztikus modellek vizsgálata Habilitációs értekezés tézisei Baran Sándor Debreceni Egyetem Debrecen, 2005

2

3 Tartalomjegyzék Bevezetés 1 1. Regressziós modellek paraméterbecslései Klasszikus regressziós modellek Lineáris modell Nemlineáris modell A lineáris hiba a változóban modell Folytonos sztochasztikus modellek O-U folyamatok eltolásparaméterének becslése Ornstein-Uhlenbeck folyamatok Ornstein-Uhlenbeck mezők Diszkrét approximáció A Wiener mező eltolásparaméterének becslése Véges minták Radon Nikodym deriváltjai A folytonos megfigyelésekből származó becslés Térbeli AR folyamatok paraméterbecslése 21 Bevezetés Térbeli egyparaméteres autoregresszív modell Kovarianciastruktúra A becslés aszimptotikája Térbeli AR modellek közel instabil sorozata Kovarianciastruktúra A becslés aszimptotikája Térbeli kétparaméteres autoregresszív modell Kovarianciastruktúra A becslés aszimptotikája Alkalmazott statisztikai munkák Sztochasztikus optimalizáció egy alkalmazása Hiányosan megfigyelt Markov láncok Szimulált hőkezelés Diszkrét geológiai struktúrák Markov mezős modellezése A Down-szindróma valószínűsége A vizsgált modell A paraméterek becslése iii

4 iv TARTALOMJEGYZÉK Eredmények Irodalomjegyzék 39

5 Jelölések g regressziós görbe y a regresszió függő változója x a regresszió magyarázó változója ε a regresszió hibája Θ paraméter halmaz β 0 a β ismeretlen paraméter valódi értéke 2 g(x,β) a g függvény β szerinti Jacobi mátrixa β β N természetes számok halmaza Z egész számok halmaza R valós számok halmaza R d d-dimenziós euklideszi tér S egy Markov lánc vagy Markov mező állapottere B(A) az A R d halmazon definiált Borel σ-algebra R d euklideszi normája C(A B) az A halmazból a B halmazba ható folytonos függvények tere L 2 (A) az A halmazon értelmezett négyzetesen integrálható függvények tere G a G halmaz határa I egység mátrix 1 csupa egyesből álló mátrix 0 csupa nullából álló mátrix Ā az A mátrix adjungáltja A az A mátrix transzponáltja (Ω, F, P) valószínűségi mező Var(x) az x szórásnégyzete vagy kovariancia mátrixa E várható érték E(ξ η) a ξ feltételes várható értéke η-ra nézve N (m, σ 2 ) m várható értékű és σ szórású normális eloszlás U(a, b) az [a, b] intervallumon értelmezett egyenletes eloszlás P X n X n L X 2 n X D X X l.i.m. W P X Ψ X n sztochasztikusan konvergál X-hez X n eloszlásban konvergál X-hez Xn négyzetes középben konvergál X-hez négyzetes középben vett határérték standard Wiener folyamat vagy standard Wiener mező az X folyamat által generált valószínűségi mérték egy Markov mező energiafüggvénye v

6 vi JELÖLÉSEK

7 Bevezetés A habilitációs cikkgyűjtemény a szerző 11 dolgozatát tartalmazza, melyek Ph.D. értekezése (lásd [12]) elkészülte után jelentek meg. Témájuk szerint e munkák négy nagy csoportba oszthatóak és ezt a beosztást követi ezen cikkgyűjtemény szerkezete is. Az első csoportot két dolgozat alkotja ([2] és [3]), melyekben a szerző a hagyományos és a hiba a változóban típusú regressziós modellek paraméterbecslésére vezet be új módszereket megvizsgálva azok aszimptotikus tulajdonságait. Ez a két dolgozat a szerző Ph.D. értekezéséhez kapcsolódó kutatómunkájának folytatásaként született és szorosan kapcsolódik az értekezésben szereplő öt munkához (lásd [13, 14, 15, 17] és [18]). A cikkgyűjtemény 2. fejezetében a szerzőnek a Wiener- illetve Ornstein-Uhlenbeck folyamatokkal kapcsolatos eredményei találhatóak, mely eredményeket Pap Gyulával és Martien van Zuijlennel közösen érte el ([4, 5, 6]). Ugyancsak e két társszerzővel közösen dolgozott a különböző térbeli autoregresszív mezők paraméterbecslései aszimptotikus tulajdonságainak meghatározásán (lásd [7, 8, 9]). Az ezen kutatások során kapott eredmények rövid összefoglalását a 3. fejezet tartalmazza. A 4. fejezet a szerző eddigi alkalmazott statisztikai munkáit foglalja össze, amik két jól elkülöníthető csoportba tartoznak. Az egyiket a sztochasztikus optimalizálással, azon belül is a szimulált hőkezelés módszerével foglalkozó két dolgozat alkotja, mely módszert Tommy Norberggel, Lars Rosénnal és Baran Ágnessel diszkrét geológiai struktúrák Markov mezőkkel való modellezésére alkalmazták ([1, 11]). A másik csoportba Veress Lajossal, a Debreceni Egyetem Nőgyógyászati Klinikájának tudományos munkatársával készített munka került (lásd [10]), amiben a szerzők egy olyan modellt írnak le és alkalmaznak helyi adatokra, melynek segítségével a várandós nők kora, α-fetoprotein, Human Chorialis Gonadotrophin és Graviditás Specifikus β1-glikoprotein szintje alapján megbecsülhető a Down szindróma bekövetkezésének valószínűsége. 1

8 2 BEVEZETE S

9 1. fejezet Regressziós modellek paraméterbecslései 1.1. Klasszikus regressziós modellek Lineáris modell Tekintsük először a klasszikus y i = x i β 0 + ε i, i N, (1.1.1) alakú lineáris regressziós modellt, melynél az x i q-dimenziós független változóról és az ε i valós értékű hibáról feltesszük, hogy eloszása minden i N esetén megegyezik egy x illetve ε megfelelő dimenziós valószínűségi változó eloszlásával, valamint hogy a két sorozat független egymástól. Ily módon persze az {y i } is egy azonos eloszlású sorozat, eloszlása pedig megegyezik valamilyen y-nal jelölt skalár változó eloszlásával. Jelölje továbbá β 0 az y i és x i megfigyelések alapján megbecsülni kívánt β Θ R q paraméter valódi értékét. Tegyük még fel, hogy az x véletlen vektor eloszlása nem elfajuló, azaz tetszőleges β Θ esetén x (β β 0 ) szórása pozitív. A következő becslési módszert An, Hickernell és Zhu [20] vezette be. Legyen a w magfüggvény egy olyan sűrűségfüggvény, melyre w(t) = w( t), t > 0, t w(t)dt <, (1.1.2) ϕ w pedig jelölje a w Fourier transzformáltját. A β 0 paraméter β n becslése legyen az egyenlet egy megoldása, ahol A n (β) := 1 n 2 n l=1 s=1 A n ( β n ) = max β Θ A n(β) A módszer működése az alábbi elven alapul. Legyen n ( ϕ w yl y s (x l x s ) β ), β Θ. (1.1.3) ϕ(t, β) := E exp ( it(y x β) ) 3

10 4 1. FEJEZET. REGRESSZIÓS MODELLEK PARAMÉTERBECSLÉSEI és A(β) := ϕ(t, β) 2 w(t)dt. Könnyen látható, hogy az A n függvény az A függvény empirikus megfelelője, valamint hogy β 0 az A maximumhelye. Független, azonos eloszlású megfigyeléseket tételezve fel An, Hickernel és Zhu [20] igazolták, hogy n esetén A n (β) A(β) majdnem biztosan β-ban egyenletesen, belátva ezzel β n erős konzisztenciáját. Az An, Hickernel és Zhu [20] által megkövetelt függetlenség helyett tegyük most fel, hogy az (x i, ε i), i N, sorozat erősen keverő α(n) keverési együtthatókkal. Jelölje M l k az {x i, ε i : k i l} változók által generált σ-algebrát. Ekkor α(n):= sup α ( ( M k 1, Mk+n), ahol α M k 1, Mk+n) := sup P(BC) P(B)P(C). 1 k< B M k 1,C M k+n Tétel. (Baran [2, Theorem 1]) Tegyük fel, hogy az (y i, x i ), i N, megfigyelések az (1.1.1) modellből származnak, a Θ paraméterhalmaz kompakt, az α(n) keverési együtthatókra pedig teljesül a α(n) < (1.1.4) n=1 keverési feltétel. Ekkor β n konzisztensen becsüli a β 0 valódi paraméterértéket, azaz n esetén β P n β 0. Az aszimptotikus normalitás igazolásához a (1.1.4) keverési feltételnél erősebbre van szükségünk. Tekintsük tehát a α ν/(2+ν) (k) < (1.1.5) k=1 feltételt, ahol ν valamely pozitív konstans Tétel. (Baran [2, Theorem 2]) Tegyük fel, hogy az (y i, x i ), i N, megfigyelések az (1.1.1) modellből származnak, a Θ paraméterhalmaz kompakt és konvex, β 0 a Θ halmaz belső pontja, a Var(x) mátrix pedig invertálható. Tegyük fel továbbá, hogy valamely ν > 0 konstans esetén E x 2+ν <, és ugyanezzel a konstanssal az (1.1.5) keverési feltétel is teljesül, valamint hogy a w magfüggvény pozitív egy a nulla körüli intervallumon és véges harmadik abszolút momentummal bír. Ezen kívül tegyük még fel, hogy ahol h(u, v) := lim n n 1 Var( n h(ξ k, δ k )) = Σ, k=1 t ( u Eξ )( sin(tv)e cos(tδ) cos(tv)e sin(tδ)w(t)dt, u R p, v R, a Σ mátrix pedig pozitív definit. Ebben az esetben, ha β n konzisztens, akkor aszimptotikusan normális is.

11 1.1. KLASSZIKUS REGRESSZIÓS MODELLEK 5 A vizsgált becslési módszer aszimptotikus tulajdonságainak elméleti igazolásán túl számítógépes szimuláció segítségével a becslést összevetjük a hagyományos legkisebb négyzetes becsléssel, valamint a nála robusztusabb legkisebb abszolút eltérést biztosító becsléssel is (lásd [2, Section 2]) Nemlineáris modell Tekintsük most az y i = g(x i, β 0 ) + ε i, i N, (1.1.6) modellt, ahol g egy általunk ismert függvény, β 0 Θ R p, az {x i }, {y i } és {ε i } sorozatok pedig ugyanolyan tulajdonságokkal bírnak mint az (1.1.1) modell esetén. Az x elfajultságát kizáró feltétel helyett vezessük be az alábbit: A feltétel. Bármely β Θ, β β 0, esetén a g(x, β) g(x, β 0 ) valószínűségi változó nem elfajuló, azaz Var ( g(x, β) g(x, β 0 ) ) > 0. Ez utóbbi feltételre azért van szükség, hogy a modell különbséget tudjon tenni a β paraméter eltérő értékei között. Baran [3] több olyan példát is ismertet, amikor az (1.1.6) modell teljesíti az A feltételt. Az (1.1.4) becslőfüggvény helyett tekintsük most az à n (β) := 1 n 2 n n ( ϕ w yl y s (g(x l, β) g(x s, β)) ) (1.1.7) l=1 s=1 függvényt, a β 0 paraméter β n becslése pedig legyen ennek egy maximum helye Tétel. (Baran [3, Theorem 1]) Tegyük fel, hogy az (y i, x i ), i N, megfigyelések az (1.1.6) modellből származnak, mely teljesíti az A feltételt, a Θ paraméterhalmaz kompakt, g folytonos β-ban, E sup g(x, β) <, β Θ az (x i, ε i), i N, sorozat α(n) keverési együtthatóira pedig teljesül (1.1.4). Ekkor β n konzisztensen becsüli β 0 valódi paraméterértéket. Független megfigyelések esetén ettől erősebb állítás is igazolható Tétel. (Baran [3, Theorem 2]) Tegyük fel, hogy az (y i, x i ), i N, független megfigyelések az (1.1.6) modellből származnak, mely teljesíti az A feltételt, közös eloszlásuk pedig abszolút folytonos az R q+1 téren értelmezett Lebesgue mértékre nézve. Tegyük továbbá fel, hogy Θ kompakt, g(u, β) differenciálható u-ban és g(u,β) mindkét változójában folytonos. Mindezek mellett tegyük még fel, hogy ϕ w differenciálható u és dϕ w(v) dv <. dv Ekkor a β n a β 0 paraméter erősen konzisztens becslése, azaz n esetén β n β 0 majdnem biztosan.

12 6 1. FEJEZET. REGRESSZIÓS MODELLEK PARAMÉTERBECSLÉSEI A lineáris esethez hasonlóan itt is igazolható a becslés aszimptotikus normalitása is Tétel. (Baran [3, Theorem 3]) Tegyük fel, hogy az (y i, x i ), i N, megfigyelések az (1.1.6) modellből származnak, mely teljesíti az A feltételt, a Θ paraméterhalmaz kompakt és konvex, β 0 a Θ belső pontja, g kétszer differenciálható β szerint, a ( g(x, β0 ) ) Var β mátrix invertálható és g(x, β) E sup 2 <, β β Θ E sup 2 g(x, β) <. β β β Θ Tegyük fel, hogy lim E sup γ 0 β 1 β 2 γ lim E sup γ 0 β 1 β 2 γ lim E sup γ 0 β 1 β 2 γ g(x, β 1) β 2 g(x, β 1 ) 2 g(x, β 1 ) g(x, β 2 ) = 0, g(x, β1 ) g(x, β β β 2 ) = 0, 2 g(x, β 1 ) β β 2 g(x, β 2 ) = 0. β β Tegyük még fel, hogy valamely pozitív ν konstans esetén E 2 g(x, β) 1+2ν g(x, β) <, E 2+4ν < β β β teljesül minden β Θ esetén és ugyanezzel a konstanssal az (x i, ε i ), i N, sorozat α(n) keverési együtthatói eleget tesznek az (1.1.5) keverési feltételnek. Ezen kívül tegyük fel, hogy a w magfüggvény véges harmadik abszolút momentummal bír és ahol h(u, v) := ( g(u, β0 ) t β lim n n 1 Var ( n k=1 ) h(x k, ε k ) = Σ, E g(x, β ) 0) ( ) sin(tv)e cos(tε) cos(tv)e sin(tε) w(t)dt, β u R q, v R, a Σ mátrix pedig pozitív definit. Ekkor ha β n konzisztens, akkor teljesül rá az aszimptotikus normalitás is. A lineáris modellhez hasonlóan itt is elvégezzük a fent tárgyalt becslésnek, valamint a hagyományos legkisebb négyzetes és a legkisebb abszolút eltérést biztosító becslésnek a számítógépes szimuláció segítségével történő összehasonlítását (lásd [3, Section 5]).

13 1.2. A LINEÁRIS HIBA A VÁLTOZÓBAN MODELL A lineáris hiba a változóban modell Tegyük most fel, hogy az (1.1.1) lineáris modell magyarázó változóját csak egy additív hibával terhelve tudjuk megfigyelni, ami a következő modellhez vezet: y i = x i β 0 + ε i, (1.2.1) x i = x i + δ i, i N. (1.2.2) Az {x i }, {y i } és {ε i } sorozatok itt is ugyanolyan tulajdonságokkal bírnak, mint az (1.1.1) modell esetén, a {δ i } q-dimenziós véletlen sorozatról pedig tegyük fel, hogy független az előbbi kettőtől és azonos eloszlású, mely eloszlás megegyezik egy δ véletlen vektor eloszlásával. Az ismeretlen paraméter β 0 valódi értékét ebben az esetben az y i és x i megfigyelések segítségével kell meghatároznunk. Baran [15] igazolta, hogy ha az (1.1.3) formulával definiált A n függvényben az x i megfigyeléseket egyszerűen kicseréljük a hibával terhelt x i megfigyelésekre, akkor az így kapott függvény maximumhelye (naiv becslés) már nem lesz a β 0 konzisztens becslése. Független, azonos eloszlású {ξ i }, {ε i } és {δ i } sorozatokat tételezve fel a Stefanski [49] által kifejlesztett ún. dekonvolúciós módszer segítségével a szerző úgy általánosította az (1.1.3) függvénnyel definiált becslést, hogy az használható legyen az (1.2.1) (1.2.2) modell esetén is. A β 0 paraméter β n becslése ebben az esetben legyen a  n (β) := 1 n 2 n n k=1 l=1 függvény maximum helye, ahol a ϕ k,l w E ( ϕ k,l ϕ k,l w (y k y l ( x k x l ) β, β), k, l N, valós segédfüggvényekre teljesül, hogy w (y k y l ( x k x l ) β, β) y k, y l, x k, x l ) = ϕw (y k y l (x k x l ) β). (1.2.3) Baran [15] belátta, hogy ha w(t) dt <, β Θ, ϕ δ (tβ )ϕ δ ( tβ ) teljesül, ahol ϕ δ a δ mérési hiba karakterisztikus függvénye, akkor a ϕ k,l ϕ δ (tβ )ϕ δ ( tβ ) { w (v, β) := eitv w(t)dt, ha k = l, e itv w(t)dt, ha k l, függvények kielégítik a (1.2.3) feltételt. Mindezeken túl bizonyos enyhe feltételek mellett a szerző igazolta a β n becslés erős konzisztenciáját. Tegyük most fel, hogy a {(x i, δ i, ε i)} sorozat erősen keverő α(n) keverési együtthatókkal. A dekonvolúciós módszer alapján ekkor az Ân becslőfüggvény felépítéséhez olyan ϕ k,l w segédfüggvényekre lenne szükségünk, melyekre teljesül E ( ϕ k,l w (y k y l ( x k x l ) β, β) y k y l, x k x l ) = ϕw (y k y l (x k x l ) β). Igazolható, hogy ha tetszőleges k, l N, k l, és β Θ esetén w(t) dt <, ϕ δl δ k (tβ )

14 8 1. FEJEZET. REGRESSZIÓS MODELLEK PARAMÉTERBECSLÉSEI akkor ϕ k,l ϕ δl δ k (tβ ) { w (v, β) := eitv w(t)dt, ha k = l, e itv w(t)dt, ha k l. Ezen segédfüggvények meghatározásához azonban ismernünk kellene a (δ k, δ l ), k, l N, párok együttes eloszlását, ami valós problémák esetén egy igen ritkán teljesülő feltétel. Az {x i }, {δ i } és {ε i } sorozatok gyenge függősége azonban azt sugalja, hogy az aszimptotikus tulajdonságok szempontjából mindegy, hogy az Ân segédfüggvényekből építjük fel. becslőfüggvényt a ϕ k,l w vagy a ϕ k,l w Tétel. (Baran [2, Theorem 5]) Tegyük fel, hogy az (y i, x i ), i N, megfigyelések az (1.2.1) (1.2.2) modellből származnak, a Θ paraméterhalmaz kompakt és konvex, E x <, E δ <, az {(x i, δ i, ε i)} erősen keverő sorozat α(n) keverési együtthatóira pedig teljesül az (1.1.4) keverési feltétel. Tegyük még fel, hogy a w magfüggvényre teljesül valamint Ekkor n esetén β n sup β Θ P β 0. sup β Θ w(t) dt <, ϕ δ (tβ )ϕ δ ( tβ ) t w(t) 1 dt <. ϕ δ (tβ )ϕ δ ( tβ ) ϕ δ (tβ ) Az itt tárgyalt β n becslést számítógépes szimuláció segítségével az ebben a fejezetben említett naiv becsléssel, a naiv legkisebb négyzetes és legkisebb abszolút eltérést adó becsléssel (amikor a minimalizálandó becslőfüggvényben a magyarázó változót kicseréljük a hibával terhelt megfigyeléssel), valamint a speciálisan a hiba a változóban modellekre kifejlesztett regresszió kalibrációs becsléssel (lásd pl. [33] vagy [39]) hasonlítjuk össze (lásd [2, Section 4]).

15 2. fejezet Folytonos sztochasztikus modellek 2.1. Ornstein-Uhlenbeck folyamatok és mezők eltolásparaméterének becslése Ornstein-Uhlenbeck folyamatok Tekintsük a d X(s) = α X(s) ds + σ dw (s), (2.1.1) sztochasztikus differenciálegyenlet stacionárius megoldásaként definiált { X(s) : s R} stacionárius Ornstein-Uhlenbeck folyamatot, ahol α > 0, σ > 0, {W (s) : s R} pedig egy standard Wiener folyamat. Könnyen látható, hogy ez egy nulla várható értékű Gauss folyamat, melyre E X(s 1 ) X(s 2 ) = σ2 2α e α s 1 s 2. Legyen továbbá Ỹ (s) := X(s) + m, s R, és [S 1, S 2 ] (, ). Ekkor az m paraméternek az {Ỹ (s) : s [S 1, S 2 ]} megfigyeléséből adódó maximum likelihood (ML) becslése m := Ỹ (S 1 ) + Ỹ (S 2) + α S 2 S α(s 2 S 1 ) Ỹ (s) ds, ami normális eloszlású m várható értékkel és σ 2 α 1 (2 + α(s 2 S 1 )) 1 szórásnégyzettel (lásd pl. [40, 41] illetve [22]). A dx(s) = αx(s)ds + σdw (s), s 0, X(0) = 0, egyenlet megoldásaként adódó {X(s) : s 0} folyamatot, ahol α R, σ > 0, tekinthetjük úgy, mint egy a nulla kezdeti értékből kiinduló Ornstein-Uhlenbeck folyamatot. Itt jegyezzük meg, hogy ez a folyamat előállítható X(s) = σ s 0 e α(u s) dw (u) alakban is. Legyen most Y (s) := X(s) + m, s 0, és legyen [S 1, S 2 ] (0, ). Ekkor az m paraméternek az {Y (s) : s [S 1, S 2 ]} megfigyeléséből adódó ML becslése m := coth(αs 1)Y (S 1 ) + Y (S 2 ) + α S 2 S 1 Y (s) ds, coth(αs 1 ) α(s 2 S 1 ) 9

16 10 2. FEJEZET. FOLYTONOS SZTOCHASZTIKUS MODELLEK ami normális eloszlású m várható értékkel és σ 2 α 1 (coth(αs 1 ) α(s 2 S 1 )) 1 szórásnégyzettel. Ennek egy speciális esete az α = 0 eset, amikor m = Y (S 1 ) N ( m, σ 2 S 1 ). Legyen most h : [S 1, S 2 ] R egy ismert függvény. Célunk, hogy meghatározzuk az m eltolásparaméternek az { X(s) + mh(s) : s [S 1, S 2 ]} illetve az {X(s) + mh(s) : s [S 1, S 2 ]} megfigyelésén alapuló ML becslését. Az { X(s) : s R} stacionárius Ornstein-Uhlenbeck folyamat felírható X(s) = σ 2α e αs W (e 2αs ), s R, alakban is, ahol {W (s) : s 0} egy standard Wiener folyamat. Ily módon az m paraméter { X(s)+mh(s) : s [S 1, S 2 ]} megfigyelésén alapuló m ML becslése megkapható ugyanezen paraméternek a {W (e 2αs ) + m 2ασ 1 e αs h(s) : s [S 1, S 2 ]}, vagy a { ( ) 2αu log u W (u) + m h : u [ e 2αS 1, e ]} 2αS 2 σ 2α megfigyelésén alapuló ML becslése segítségével. Legyen [a 1, a 2 ] (0, ), g : [a 1, a 2 ] R egy ismert függvény és tekintsük a Z(u) := W (u) + mg(u), u [a 1, a 2 ], folyamatot. Jelölje továbbá P Z és P W a Z illetve a W folyamat által a C([a 1, a 2 ] R) téren indukált valószínűségi mértéket Tétel. (Baran, Pap, Zuijlen [4, Theorem 2.1], [5, Theorem 1]) Ha g abszolút folytonos valamint g L 2 ([a 1, a 2 ]), akkor a P Z és P W mértékek ekvivalensek és a P Z mértéknek a P W mértékre vonatkozó Radon Nikodym deriváltja dp Z dp W (Z) = exp { 1 2 (Am2 2ζm) ahol A := g2 (a 1 ) a2 + [g (u)] 2 du, ζ := g(a 1)Z(a 1 ) a2 + g (u) dz(u). a 1 a 1 a 1 a 1 Ennek alapján az m eltolásparaméternek a {Z(u) : u [a 1, a 2 ]} megfigyelésén alapuló ML becslése m = ζ/a alakú és m N ( m, 1/A ). Legyen [S 1, S 2 ] (, ) és tekintsük az Ỹ (s) := X(s) + mh(s) folyamatot. Jelölje továbbá PY e és P ex az Ỹ illetve az X folyamat által a C([S 1, S 2 ] R) téren indukált valószínűségi mértéket. A Tételt a ( ) 2αu log u g(u) := h σ 2α függvényre alkalmazva jutunk a következő eredményhez: Tétel. (Baran, Pap, Zuijlen [4, Theorem 2.2], [5, Theorem 2]) Ha h abszolút folytonos valamint h L 2 ([S 1, S 2 ]), akkor a P e Y és P ex mértékek ekvivalensek és a P ey mértéknek a P ex mértékre vonatkozó Radon Nikodym deriváltja }, dp { ey (Ỹ dp ) = exp α } ex 2σ 2 (Am2 2ζm),

17 2.1. O-U FOLYAMATOK ELTOLÁSPARAMÉTERÉNEK BECSLÉSE 11 ahol A := h 2 (S 1 ) + h 2 (S 2 ) + ζ := 2h(S 1 )Ỹ (S 1) + S2 S2 S 1 ( αh 2 (s) + α 1 [h (u)] 2) ds, ( h(s) + α 1 h (s) ) ( ) dỹ (s) + αỹ (s) ds. S 1 Ennek alapján az m eltolásparaméternek az {Ỹ (s) : s [S 1, S 2 ]} megfigyelésén alapuló ML becslése m = ζ/a alakú és m N ( m, σ 2 /(αa) ). Ha feltesszük még, hogy h kétszer folytonosan differenciálható, akkor ζ felírható az alábbi alakban is: ζ = h(s 1 )Ỹ (S 1) + h(s 2 )Ỹ (S 2) + α 1( h (S 2 )Ỹ (S 2) h (S 1 )Ỹ (S 1) ) + S2 S 1 ( αh(s) α 1 h (s) ) Ỹ (s) ds. Vizsgáljuk most meg a nulla kezdeti értékből kiinduló {X(s) : s 0} Ornstein- Uhlenbeck folyamatot. Legyen [S 1, S 2 ] (0, ) és tekintsük az Y (s) := X(s) + mh(s) folyamatot. Ha α = 0, akkor X(s) = σw (s), s 0, így az m paraméternek az {Y (s) : s [S 1, S 2 ]} megfigyelésére alapuló ML becslése triviálisan megkapható az Tételnek a g(u) := σ 1 h(u) függvényre való alkalmazásával. Az α 0 esetben az {X(s) : s 0} folyamat az alábbi alakba írható át: σ e αs W (e 2αs 1), ha α > 0, 2α X(s) = σ e αs W (1 e 2αs ), ha α < 0. 2α Alkalmazzuk a Tételt a ( ) 2α(u + 1) log(u + 1) h, ha α > 0, σ 2α g(u) := ( ) 2α(u 1) log(1 u) h, ha α < 0, σ 2α függvényre mely az α értékétől függően az [ e 2αS 1 1, e 2αS 2 1 ] illetve az [ ] 1 e 2αS 1, 1 e 2αS 2 intervallumokon van értelmezve. Jelölje továbbá P Y és P X az Y illetve az X folyamat által a C([S 1, S 2 ] R) téren indukált valószínűségi mértéket Tétel. (Baran, Pap, Zuijlen [5, Theorem 3]) Ha α 0 valamint h abszolút folytonos és h L 2 ([S 1, S 2 ]), akkor a P Y és P X mértékek ekvivalensek és a P Y mértéknek a P X mértékre vonatkozó Radon Nikodym deriváltja dp { Y (Y ) = exp α } dp X 2σ 2 (Am2 2ζm), ahol A := coth(αs 1 )h 2 (S 1 ) + h 2 (S 2 ) + ζ := (1 + coth(αs 1 ))h(s 1 )Y (S 1 ) + S2 S 1 S2 ( αh 2 (s) + α 1 [h (s)] 2) ds, S 1 ( h(s) + α 1 h (s) ) (dy (s) + αy (s) ds).

18 12 2. FEJEZET. FOLYTONOS SZTOCHASZTIKUS MODELLEK Ennek alapján az m eltolásparaméternek az {Y (s) : s [S 1, S 2 ]} megfigyelésén alapuló ML becslése m = ζ/a alakú és m N ( m, σ 2 /(αa) ). Ha feltesszük még, hogy h kétszer folytonosan differenciálható, akkor ζ felírható az alábbi alakban is: ζ = coth(αs 1 )h(s 1 )Y (S 1 ) + h(s 2 )Y (S 2 ) + α 1( h (S 2 )Y (S 2 ) h (S 1 )Y (S 1 ) ) + S2 S 1 ( αh(s) α 1 h (s) ) Y (s) ds. Itt jegyeznénk meg, hogy ez utóbbi állításon alapul [23] számos eredménye Ornstein-Uhlenbeck mezők Az { X(s, t) : s, t R} stacionárius Ornstein-Uhlenbeck mező egy olyan nulla várható értékű Gauss mező, melyre E X(s 1, t 1 ) X(s 2, t 2 ) = σ2 4αβ e α s 2 s 1 β t 2 t 1, ahol α > 0, β > 0 és σ > 0. Tekintsük az Ỹ (s, t) := X(s, t) + m folyamatot. Sztochasztikus parciális diferenciálegyenletek alkalmazásával Arató, N. M. [24] igazolta, hogy az α = β = 1 esetben az m paraméternek a {Ỹ (s, t) : s, t [0, T ]} megfigyelésén alapuló ML becslése m := Ỹ (0, 0) + Ỹ (0, T ) + Ỹ (T, 0) + Ỹ (T, T ) + G Ỹ + G Ỹ (2 + T ) 2, ahol G := [0, T ] 2, G pedig a G halmaz határát jelöli. A koordinátánként a nulla kezdeti értékből kiinduló Ornstein-Uhlenbeck mezőt az X(s, t) := σ s t 0 0 e α(u s)+β(v t) dw (u, v), s, t 0, (2.1.2) formulával definiálhatjuk, ahol α R, β R, σ > 0, {W (s, t) : s, t 0} pedig egy standard Wiener mező. Legyen most h : [S 1, S 2 ] [T 1, T 2 ] R egy ismert függvény. Célunk, hogy meghatározzuk az m eltolásparaméternek az { X(s, t) + mh(s, t) : s [S 1, S 2 ], t [T 1, T 2 ]} illetve az {X(s, t) + mh(s, t) : s [S 1, S 2 ], t [T 1, T 2 ]} megfigyelésén alapuló ML becslését. Legyen [a 1, a 2 ], [b 1, b 2 ] (0, ), g : [a 1, a 2 ] [b 1, b 2 ] R és tekintsük a Z(s, t) := W (s, t) + mg(s, t) sztochasztikus mezőt. Jelölje továbbá P Z és P W a Z illetve a W mező által a C([a 1, a 2 ] [b 1, b 2 ] R) téren indukált valószínűségi mértéket Tétel. (Baran, Pap, Zuijlen [4, Theorem 3.1], [5, Theorem 4]) Ha g abszolút folytonos valamint 1 2 g L 2 ([a 1, a 2 ] [b 1, b 2 ]), akkor a P Z és P W mértékek ekvivalensek és a P Z mértéknek a P W mértékre vonatkozó Radon Nikodym deriváltja dp Z dp W (Z) = exp { 1 2 (Am2 2ζm) },

19 2.1. O-U FOLYAMATOK ELTOLÁSPARAMÉTERÉNEK BECSLÉSE 13 ahol A := g2 (a 1, b 1 ) a 1 b 1 + a2 ζ := g(a 1, b 1 )Z(a 1, b 1 ) + a 1 b 1 + a2 b2 a 1 b 1 [ 1 g(u, b 1 )] du + a 1 b 1 a2 1 2 g(u, v) Z(du, dv). 2 b2 b 1 a 1 1 g(u, b 1 ) b 1 Z(du, b 1 ) + 2 [ 2 g(a 1, v)] dv + a 1 b2 a2 b2 a 1 2 g(a 1, v) b 1 a 1 b 1 [ 1 2 g(u, v)] 2 dudv, Z(a 1, dv) Ennek alapján az m eltolásparaméternek a {Z(s, t) : s [a 1, a 2 ], t [b 1, b 2 ]} megfigyelésén alapuló ML becslése m = ζ/a alakú és m N ( m, 1/A ). Ismert, hogy az { X(s, t) : s, t R} stacionárius Ornstein-Uhlenbeck mező felírható X(s, t) = σ 2 αβ e αs βt W (e 2αs, e 2βt ), s, t R, alakban. Legyen [S 1, S 2 ], [T 1, T 2 ] (, ) és tekintsük az Ỹ (s, t) := X(s, t) + mh(s, t) véletlen mezőt. Jelölje továbbá PY e és P ex az Ỹ illetve az X véltlen mező által a C([S 1, S 2 ] [T 1, T 2 ]) R) téren indukált valószínűségi mértéket. A Tételt a g(u, v) := 2 αβuv σ h ( log u 2α, log v 2β függvényre alkalmazva jutunk a következő eredményhez Tétel. (Baran, Pap, Zuijlen [4, Theorem 3.2], [5, Theorem 5]) Ha h abszolút folytonos valamint 1 2 h L 2 ([S 1, S 2 ] [T 1, T 2 ]), akkor a P ey és P ex mértékek ekvivalensek és a PY e mértéknek a P ey mértékre vonatkozó Radon Nikodym deriváltja { dpy e (Ỹ ) = exp αβ } 2σ 2 (Am2 2ζm), ahol dp e X A := h 2 (S 1, T 1 ) + h 2 (S 1, T 2 ) + h 2 (S 2, T 1 ) + h 2 (S 2, T 2 ) S2 ( + α ( h 2 (s, T 1 ) + h 2 (s, T 2 ) ) + α 1( [ 1 h(s, T 1 )] 2 + [ 1 h(s, T 2 )] 2)) ds + S 1 T2 T 1 S2 T2 ( β ( h 2 (S 1, t) + h 2 (S 2, t) ) + β 1( [ 2 h(s 1, t)] 2 + [ 2 h(s 2, t)] 2)) dt ( + αβh 2 (s, t)+α 1 β [ 1 h(s, t)] 2 +αβ 1 [ 2 h(s, t)] 2 +α 1 β 1 ([ 1 2 h(s, t)] 2) dsdt, S 1 T 1 S2 ζ := 4h(S 1, T 1 )Ỹ (S ( 1, T 1 ) + 2 h(s, T1 ) + α 1 1 h(s, T 1 ) ) ) (Ỹ (ds, T1 ) + αỹ (s, T 1) ds T T 1 S2 T2 S 1 S 1 ( h(s1, t) + β 1 2 h(s 1, t) ) ) (Ỹ (S1, dt) + βỹ (S 1, t) dt T 1 ( h(s, t) + α 1 1 h(s, t) + β 1 2 h(s, t) + α 1 β h(s, t) ) (Ỹ (ds, dt) + α Ỹ (s, dt) ds + βỹ (ds, t) dt + αβỹ (s, t) dsdt ). )

20 14 2. FEJEZET. FOLYTONOS SZTOCHASZTIKUS MODELLEK Ennek alapján az m eltolásparaméternek az {Ỹ (s, t) : s [S 1, S 2 ], t [T 1, T 2 ]} megfigyelésén alapuló ML becslése m = ζ/a alakú és m N ( m, σ 2 /(αβa) ). Ha feltesszük még, hogy h mindkét változója szerint kétszer folytonosan differenciálható, akkor ζ felírható az alábbi alakban is: ζ = [ (1 α 1 1 )(1 β 1 2 )h(s 1, T 1 ) ] Ỹ (S 1, T 1 )+ [ (1 α 1 1 )(1+β 1 2 )h(s 1, T 2 ) ] Ỹ (S 1, T 2 ) + [ (1+α 1 1 )(1 β 1 2 )h(s 2, T 1 ) ] Ỹ (S 2, T 1 )+ [ (1+α 1 1 )(1+β 1 2 )h(s 2, T 2 ) ] Ỹ (S 2, T 2 ) S2 [ + (α α 1 1)(1 2 β 1 2 )h(s, T 1 ) ] Ỹ (s, T 1 ) ds S 1 S2 S 1 T2 T 1 T2 T 1 S2 T2 S 1 [ (α α )(1 + β 1 2 )h(s, T 2 ) ] Ỹ (s, T 2 ) ds [ (1 α 1 1 )(β β )h(s 1, t) ] Ỹ (S 1, t) dt [ (1 + α 1 1 )(β β )h(s 2, t) ] Ỹ (S 2, t) dt T 1 [ (α α )(β β )h(s, t)] Ỹ (s, t) dsdt. Vizsgáljuk most meg az (2.1.2) összefüggéssel definiált {X(s, t) : s, t 0} Ornstein- Uhlenbeck mezőt, ami az α 0 és β 0 esetben definiálható úgy is, mint egy nulla várható értékű és EX(s 1, t 1 )X(s 2, t 2 ) = σ2 ( e α s 1 s 2 e ) ( α(s 1+s 2 ) e β t 1 t 2 e ) β(t 1+t 2 ) 4αβ kovarianciastruktúrával bíró Gauss mező. Ebből kifolyólag, ha például α > 0 és β > 0, akkor X(s, t) = σ 2 αβ e αs βt W (e 2αs 1, e 2βt 1), s, t 0. Legyen [S 1, S 2 ], [T 1, T 2 ] (0, ) és tekintsük az Y (s, t) := X(s, t) + mh(s, t) véletlen mezőt. Jelölje továbbá P Y és P X az Y illetve az X véltlen mező által a C([S 1, S 2 ] [T 1, T 2 ]) R) téren indukált valószínűségi mértéket. A Tételt a g(u, v) := 2 αβ(u + 1)(v + 1) σ függvényre alkalmazva az alábbi tételt kapjuk. ( log(u + 1) h, 2α ) log(v + 1) 2β Tétel. (Baran, Pap, Zuijlen [5, Theorem 6]) Ha α 0 és β 0, valamint h abszolút folytonos és 1 2 h L 2 ([S 1, S 2 ] [T 1, T 2 ]), akkor a P Y és P X mértékek ekvivalensek és a P Y mértéknek a P Y mértékre vonatkozó Radon Nikodym deriváltja { dp Y (Y ) = exp αβ } dp X 2σ 2 (Am2 2ζm),

21 2.1. O-U FOLYAMATOK ELTOLÁSPARAMÉTERÉNEK BECSLÉSE 15 ahol A:= coth(αs 1 ) coth(βt 1 )h 2 (S 1, T 1 ) + coth(αs 1 )h 2 (S 1, T 2 ) + coth(βt 1 )h 2 (S 2, T 1 ) S2 ( + α ( h 2 (s, T 1 ) + h 2 (s, T 2 ) ) + α 1( [ 1 h(s, T 1 )] 2 + [ 1 h(s, T 2 )] 2)) ds + h 2 (S 2, T 2 ) + + S 1 T2 T 1 S2 T2 S 1 ( β ( h 2 (S 1, v) + h 2 (S 2, t) ) + β 1( [ 2 h(s 1, t)] 2 + [ 2 h(s 2, t)] 2)) dt T 1 ( αβh 2 (s, t)+α 1 β [ 1 h(s, t)] 2 +αβ 1 [ 2 h(s, t)] 2 +α 1 β 1 ([ 1 2 h(s, t)] 2) dsdt, ζ :=(1 + coth(αs 1 ))(1 + coth(βt 1 ))h(s 1, T 1 )Y (S 1, T 1 ) S2 ( + (1 + coth(βt 1 )) h(s, T1 ) + α 1 1 h(s, T 1 ) ) (Y (ds, T 1 ) + αy (s, T 1 ) ds) + (1 + coth(αs 1 )) + S2 T2 S 1 S 1 T2 T 1 ( h(s1, t) + β 1 2 h(s 1, t) ) (Y (S 1, dt) + βy (S 1, t) dt) T 1 ( h(s, t) + α 1 1 h(s, t) + β 1 2 h(s, t) + α 1 β h(s, t) ) (Y (ds, dt) + αy (s, dt) ds + βy (ds, t) dt + αβy (s, t) dsdt). Ennek alapján az m eltolásparaméternek az {Y (s, t) : s [S 1, S 2 ], t [T 1, T 2 ]} megfigyelésén alapuló ML becslése m = ζ/a alakú és m N ( m, σ 2 /(αβa) ). Ha feltesszük még, hogy h mindkét változója szerint kétszer folytonosan differenciálható, akkor ζ felírható az alábbi alakban is: ζ = [ (coth(αs 1 ) α 1 1 )(coth(βt 1 ) β 1 2 )h(s 1, T 1 ) ] Y (S 1, T 1 ) + [ (coth(αs 1 ) α 1 1 )(1 + β 1 2 )h(s 1, T 2 ) ] Y (S 1, T 2 ) + [ (1 + α 1 1 )(coth(βt 1 ) β 1 2 )h(s 2, T 1 ) ] Y (S 2, T 1 ) + [ (1 + α 1 1 )(1 + β 1 2 )h(s 2, T 2 ) ] Y (S 2, T 2 ) S2 S 1 S2 S 1 T2 T 1 T2 T 1 S2 T2 S Diszkrét approximáció [ (α α )(coth(βt 1) β 1 2 )h(s, T 1 ) ] Y (s, T 1 ) ds [ (α α 1 2 1)(1 + β 1 2 )h(s, T 2 ) ] Y (s, T 2 ) ds [ (coth(αs1 ) α 1 1 )(β β 1 2 2)h(S 1, t) ] Y (S 1, t) dt [ (1 + α 1 1 )(β β 1 2 2)h(S 2, t) ] Y (S 2, t) dt T 1 [ (α α 1 2 1)(β β 1 2 2)h(s, t) ] Y (s, t) dsdt. Az és Tételeket nem a szokásos sztochasztikus differenciálegyenleteket alkalmazó módszerrel bizonyítottuk (lásd pl. [24]), hanem a folytonos folyamat diszkrét

22 16 2. FEJEZET. FOLYTONOS SZTOCHASZTIKUS MODELLEK folyamattal való közelítése útján. A diszkrét időből a folytonos időbe való átmenet megvalósításához szükséges Állítás, melynek ötletét Arató M. [22, Section 2.3.2] adta, önmagában is érdekes lehet és számos más esetben is például a Tétel bizonyításánál jól használható. Legyen Γ egy tetszőleges index halmaz, X R Γ egy függvénytér, X pedig az X {x X : (x(γ 1 ),..., x(γ k )) B}, k N, γ 1,..., γ k Γ, B B(R k ) alakú cilinderhalazai által generált σ algebra. Egy {ξ γ : γ Γ} X-beli trajektóriákkal rendelkező sztochasztikus folyamat esetén jelölje P ξ a folyamat által az (X, X ) téren generált mértéket. Legyen továbbá Γ = {γ 1,..., γ k } Γ egy véges halmaz és jelölje Pξ Γ a ξ(γ ) := (ξ γ1,..., ξ γk ) véletlen vektor által a (R k, B(R k )) téren generált valószínűségi mértéket Állítás. (Baran, Pap, Zuijlen [5, Proposition 1]) Legyen {ξ γ : γ Γ} és {η γ : γ Γ} két X-beli trajektóriákkal bíró sztochasztikus folyamat. Tegyük fel, hogy létezik egy olyan f : X R mérhető függvény, hogy Ef(ξ) = 1 valamint tetszőleges Γ 0 Γ halmaz esetén létezik egy olyan Γ véges részhalmazaiból álló Γ n, n = 1, 2,..., sorozat melyre Γ 0 Γ n Γ, n = 1, 2,..., és n esetén dp Γn η dp Γn ξ (ξ(γ n )) P f(ξ). Ekkor P η abszolút folytonos a P ξ mértékre nézve és dp η dp ξ = f A Wiener mező eltolásparaméterének becslése Tekintsük a Z(s, t) := W (s, t) + m folyamatot, ahol m R egy ismeretlen paraméter, {W (s, t) : s, t 0} pedig egy standard Wiener mező. Legyen [a, b] (0, ) és vegyünk egy olyan γ : [a, b] R folytonos, szigorúan monoton csökkenő függvényt, melyre γ(b) > 0. Tekintsük továbbá a Γ := {(s, γ(s)) : s (a, b)} görbét valamint a G := {(s, t) R 2 : a s b, t γ(s) vagy s > b, t γ(b)} halmazt. Végezetül, legyen G a G egy olyan részhalmaza, ami tartalmazza a Γ egy ε- környezetét, azaz létezik olyan ε > 0, hogy {(s, t) R 2 : s [a, a+ε], t [γ(s), γ(a)] vagy s [a+ε, b], t [γ(s), γ(s)+ε]} G. Az [a, b] intervallumon kétszer folytonosan differenciálható γ görbét tételezve fel a sztochasztikus parciális differenciálegyenletek módszerével Arató N. M. [25] igazolta, hogy az m ismeretlen paraméter {Z(s, t) : (s, t) G} megfigyelésén alapuló m ML becslése a a megfigyelt Z folyamatnak a Γ görbe végpontjaiban vett értékeiből, a Z folyamatnak a Γ mentén vett súlyozott integráljából valamint a Z normális irányú deriváltjának a Γ mentén vett súlyozott integráljából áll össze. Célunk, hogy ezt az eredményt a korábban már emített diszkrét approximáció segítségével (lásd [4, 5]) és az eredeti feltételeknél általánosabb körülmények között igazoljuk. Ehhez mindenekelőtt meg kell határoznunk

23 2.2. A WIENER MEZŐ ELTOLÁSPARAMÉTERÉNEK BECSLÉSE 17 az m paraméternek az olyan véges mintákból számított ML becslését, mely minták tartalmazzák a {Z(s i, γ(s i )) : 1 i N} {Z(s i, γ(s i 1 )) : 2 i N} megfigyeléseket és esetleg néhány megfigyelést a N {Z(s, t) : s s i, t γ(s i )} i=1 halmazból, ahol rögzített N N esetén a P : a = s 1 < s 2 < < s N 1 < s N = b az [a, b] intervallum egy beosztása Véges minták Radon Nikodym deriváltjai Legyenek az 0 < s 1 < s 2 < < s L és 0 < t 1 < t 2 < < t M számok valósak és tekintsük még a 1 = λ 1 < λ 2 < < λ n λ n+1 = L és 1 = µ 1 < µ 2 < < µ n µ n+1 = M egészeket, ahol n N. Legyen R := {(i, j) N 2 : 1 i L, 1 j M}, n H := {(i, j) N 2 : λ k i L, µ n k+1 j M}, k=1 H + := {(λ k, µ n k+1 ) : k = 1,..., n}, H := {(λ k, µ n k+2 ) : k = 2,..., n}, H 1 := {(i, µ k ) : k = 1,..., n, λ n k+1 < i λ n k+2 }, H 2 := {(λ k, j) : k = 1,..., n, µ n k+1 < j µ n k+2 }, n H 1,2 := {(i, j) N 2 : λ k < i L, µ n k+1 < j M} = H \ (H + H H 1 H 2 ). k=1 (Példaként tekintsük a 2.1. ábrát.) Lemma. (Baran, Pap, Zuijlen [6, Lemma 2.1]) A {W (s i, t j ) : (i, j) H} minta együttes sűrűségfüggvénye c f ( x i,j : (i, j) H + H ) g ( xi,j : (i, j) H ) alakú, ahol c egy normáló tényező, valamint f ( x i,j : (i, j) H + H ) := exp { g ( x i,j : (i, j) H ) = exp { ( 1 x i,j)2 2( s i )t j (i,j) H 1 (i,j) H + x2 i,j 2s i t j + ( 2 x i,j)2 2s i ( t j ) (i,j) H 2 (i,j) H (i,j) H 1,2 ahol 1 x i,j := x i,j x i 1,j, 2 x i,j := x i,j x i,j 1 és s i := s i s i 1. } x2 i,j, 2s i t j ( 1 2 x i,j)2 2( s i )( t j ) },

24 18 2. FEJEZET. FOLYTONOS SZTOCHASZTIKUS MODELLEK µ 4 µ 3 µ 2 µ 1 λ 1 λ 2 λ 3 λ 4 R : H + : H : H 1 : H 2 : H 1,2 : 2.1. ábra. Egy példa az R, H +, H, H 1, H 2 és H 1,2 index halmazokra az n = 3 esetben Lemma. (Baran, Pap, Zuijlen [6, Lemma 2.2]) Legyen H egy olyan index halmaz, amire H + H H H. Ekkor a { Z(s i, t j ) : (i, j) H } és a { W (s i, t j ) : (i, j) H } megfigyelések által generált P e H Z illetve P e H W valószínűségi mértékek ekvivalensek és H dp e { Z (x H dp e i,j : (i, j) H) = exp 1 } W 2 (A H e m 2 2y eh m), ahol A eh := (i,j) H + 1 s i t j (i,j) H 1 s i t j, y eh := (i,j) H + x i,j s i t j x i,j. s i t j (i,j) H Ennek alapján az m paraméternek a {Z(s, t) : (s, t) H} megfigyeléseken alapuló ML becslése m H e = ζ eh /A eh alakú, ahol és m e H N ( m, 1/A e H). ζh e := Z(s i, t j ) Z(s i, t j ) s i t j s i t j (i,j) H + (i,j) H A folytonos megfigyelésekből származó becslés A {Z(s, t) : (s, t) G} mintát véges minták sorozatával közelítve majd elvégezve a határátmenetet a Állítás és a Lemma segítségével megkapjuk ezen szakasz és [6] fő eredményét.

25 2.2. A WIENER MEZŐ ELTOLÁSPARAMÉTERÉNEK BECSLÉSE Tétel. (Baran, Pap, Zuijlen [6, Theorem 1.1]) Tegyük fel, hogy a γ : [a, b] R függvény szigorúan monoton csökkenő és folytonos az [a, b] intervallumon, γ(b) > 0, valamint γ kétszer folytonosan differenciálható (a, b)-n. Tegyük fel továbbá, hogy létezik a γ (a) := lim s a γ (s) [, 0] és a γ (b) := lim s b γ (s) [, 0] határérték és b a γ (s)γ (s) ds <. (1 + γ (s) 2 ) 2 Ekkor a Z illetve W mezők által a C( G R) téren generált P Z és P W valószínűségi mértékek ekvivalensek és a P Z mértéknek a P W mértékre vonatkozó Radon Nikodym deriváltja { dp Z (Z) = exp 1 } dp W 2 (Am2 2ζm), ahol A := 1 bγ(b) + b a ds s 2 γ(s), ζ := c 1Z(a, γ(a)) + c 2 Z(b, γ(b)) + y 1 Z + y 2 n Z, Γ Γ n Z a Z normális irányú deriváltját jelöli, 1 c 1 := aγ(a) (1 + γ (a) 2 ), ha γ (a) >, 0, ha γ (a) =, γ (b) 2 bγ(b) (1 + γ c 2 := (b) 2 ), ha γ (b) >, 1 bγ(b), ha γ (b) =, y 1 (s, γ(s)) := y 2 (s, γ(s)) := [ ] γ (s) (γ(s)γ (s) s) (1 + γ (s) 2 ) 2sγ(s)γ (s), s 2 γ(s) 2 (1 + γ (s) 2 ) 5/2 γ (s) sγ(s) (1 + γ (s) 2 ). Ennek alapján az m eltolásparaméternek a {Z(s, t) : (s, t) G} megfigyelésén alapuló ML becslése m = ζ/a alakú és m N ( m, 1/A ). Megjegyzés. Az Γ y 1Z és Γ y 2 n Z integrálok értelmezése Γ Γ b β y 1 Z := l.i.m. y 1 (s, γ(s))z(s, γ(s)) 1 + γ (s) 2 ds, α 0, β 0 a+α y 2 n Z := l.i.m. h 0 1 h Γ y 2 ( ) ( Z( + hn Γ ( )) Z( ) ), ahol n Γ a Γ görbe normálvektorát jelöli.

26 20 2. FEJEZET. FOLYTONOS SZTOCHASZTIKUS MODELLEK

27 3. fejezet Térbeli autoregresszív folyamatok paraméterbecslése Bevezetés Tekintsük az X k = { αx k 1 + ε k, ha k 1, 0, ha k = 0, egyenlettel definiált elsőrendű AR folyamatot. Az α paraméternek az {X k : k = 1,..., n} megfigyeléseken alapuló legkisebb négyzetes becslése α n = n k=1 X k 1X k n. k=1 X2 k 1 Ismeretes, hogy az α < 1 esetben (stabil eset) α n aszimptotikusan normális (lásd [21, 44]), míg az α = 1 esetben (instabil eset) 1 D W (t) dw (t) 0 n( α n 1) 1 W, 0 2 (t) dt ahol {W (t) : t [0, 1]} egy standard Wiener folyamat (lásd pl. [34, 48, 51]). Az időbeli autoregresszív modell térbeli általánosítása a Basu és Reinsel [27, 28, 29] által is vizsgált p 1 p 2 X k,l = α i,j X k i,l j + ε k,l, α 0,0 = 0 i=0 j=0 modell, ahol a szerzők meghatározták a modell stabilitásának feltételeit, továbbá a p 1 = p 2 =1 esetben igazolták, hogy a stabil esetben a paraméterek legkisebb négyzetes becslése aszimptotikusan normális. Az első olyan modell, ahol az instabil esetet is vizsgálták a Martin [45] által bevezetett X k,l = αx k 1,l + βx k,l 1 αβx k 1,l 1 + ε k,l, ún. duplán geometrikus modell. Az α < 1 és β < 1 paraméterértékehez tartozó stabil esetben az (α, β) paraméterpár számos az {X k,l : 1 k m, 1 l n} megfigyeléseken 21

28 22 3. FEJEZET. TÉRBELI AR FOLYAMATOK PARAMÉTERBECSLÉSE alapuló ( α m,n, β m,n ) becslésének igazolt az aszimptotikus normalitása (lásd pl. [27, 29]), de ellentétben az AR(1) modellel, ez a tulajdonság megmarad az α = β = 1 instabil esetben például a Gauss Newton becslés (n = m esetén lásd [30, 31]), míg az α = 1, β < 1 esetben, a legkisebb négyzetes becslés esetén [30]. Ez a modell azonban meglehetősen speciális, mivel a karakterisztikus polinomjának ϕ(u, v) = (u α)(v β) szorzat alakja miatt tekinthető úgy, mint két hagyományos AR(1) folyamat valamiféle kombinációja. Bhattacharyya et al. [31] megvizsgálta a közel instabil esetet is, amikor stabil modellek egy sorozatát tekintjük az α n = e c/n, β n = e d/n feltétel mellett, ahol c és d nem zéró konstansok. A szerzők igazolták, hogy az (α n, β n ) paraméterek ( α n, β n ) Gauss-Newton becsléseinek sorozata ebben az esetben is aszimptotikusan normális Térbeli egyparaméteres autoregresszív modell Tekintsük az X k,l = { α(x k 1,l + X k,l 1 ) + ε k,l, ha k, l 1, 0, egyébként, (3.1.1) egyenlettel definiált {X k,l : k, l Z + } folyamatot, amely a legegyszerűbb, hagyományos AR(1) folyamatokra nem visszavezethető térbeli autoregresszív mező. Rögzített m, n N esetén legyen R m,n := {(k, l) N 2 : 1 k m, 1 l n}. Az α paraméternek az {X k,l : (k, l) R m,n } megfigyeléseken alapuló legkisebb négyzetes becslése α Rm,n = (k,l) R m,n (X k 1,l + X k,l 1 )X k,l (k,l) R m,n (X k 1,l + X k,l 1 ) 2. (3.1.2) Ennek a becslésnek az aszimptotikus normalitását kívánjuk igazolni független, nulla várható értékkel, egységnyi szórással és véges negyedik momentummal bíró ε k,l hibatagokat tételezve fel. Az α < 1/2 paraméterértékekhez tartozó stabil esetben a fenti becslés aszimtotikus normalitása levezethető Basu és Reinsel [28] eredményeiből, így a továbbiakban csak az α = 1/2 esettel foglalkozunk Kovarianciastruktúra Az X k,l véletlen mező kovarianciastruktúrájának vizsgálatához vezessük be az Y k,l = { α(y k 1,l + Y k,l 1 ) + ε k,l, ha k + l 1, 0, ha k + l = 0, (3.1.3) segédfolyamatot, ahol az {ε k,l : k, l Z, k + l 1} hibatagok függetlenek, Eε k,l = 0 és Var ε k,l = 1. Rögzített k, l Z esetén legyen T k,l := {(i, j) Z 2 : i + j 1, i k, j l} és T k,l :=, ha k + l 0. (3.1.4) Ekkor Y k,l = (i,j) T k,l ( k + l i j k i ) α k+l i j ε i,j.

29 3.1. TÉRBELI EGYPARAMÉTERES AUTOREGRESSZÍV MODELL 23 Az Y k,l folyamat fenti mozgóátlag előállításából belátható, hogy tetszőleges k 1, l 1, k 2, l 2 egészekre, ahol k 1 + l 1 0 és k 2 + l 2 0, valamint tetszőleges α valós értékre Cov(Y k1,l 1, Y k2,l 2 ) = k 1 k 2 +l 1 l 2 m=1 ( k1 + k 2 + l 1 + l 2 2m k 1 + l 2 m Ezen kívül, az α = 1/2 esetben létezik olyan C > 0 konstans, hogy Tekintsük továbbá a Cov(Y k1,l 1, Y k2,l 2 ) C k 1 + l 1 + k 2 + l 2. ) α k 1+k 2 +l 1 +l 2 2m. Z (n) (s, t) := n 1/4 Y [ns]+1,[nt]+1, s, t R, s + t 0, U (n) (s, t) := n 1/4 X [ns]+1,[nt]+1, s, t R, s, t 0, n N, szakaszonként konstans véletlen mezőket, melyekre nyilvánvalóan teljesül, hogy U (n) (s, t) = Z (n) (s, t) Z (n) (s, 0) Z (n) (0, t) Állítás. (Baran, Pap, Zuijlen [7, Proposition 8]) Legyen s 1, t 1, s 2, t 2 R, ahol s 1 + t 1 > 0 és s 2 + t 2 > 0. Ha α = 1/2, akkor ahol K(s 1, t 1, s 2, t 2 )= Ha α = 1/2, akkor lim n Cov(Z(n) (s 1, t 1 ), Z (n) (s 2, t 2 )) = K(s 1, t 1, s 2, t 2 ), { s1 2 π( +s 2 +t 1 +t 2 ) s 1 s 2 + t 1 t 2, ha s 1 s 2 =t 1 t 2, 0, egyébként. lim n ( 1)[ns 1]+[nt 1 ]+[ns 2 ]+[nt 2 ] Cov(Z (n) (s 1, t 1 ), Z (n) (s 2, t 2 )) = K(s 1, t 1, s 2, t 2 ) Következmény. (Baran, Pap, Zuijlen [7, Corollary 9]) Legyenek az s 1, t 1, s 2, t 2 pozitív valós számok. Ha α = 1/2, akkor ahol lim Cov(U (n) (s 1, t 1 ), U (n) (s 2, t 2 )) = L(s 1, t 1, s 2, t 2 ), n L(s 1, t 1, s 2, t 2 ) := K(s 1, t 1, s 2, t 2 ) K(s 1, t 1, s 2, 0) K(s 1, t 1, 0, t 2 ) K(s 1, 0, s 2, t 2 ) K(0, t 1, s 2, t 2 ) + K(s 1, 0, s 2, 0) + K(0, t 1, 0, t 2 ).

30 24 3. FEJEZET. TÉRBELI AR FOLYAMATOK PARAMÉTERBECSLÉSE A becslés aszimptotikája Tekintsük a (3.1.2) összefüggéssel definiált α Rm,n becslést. Könnyen látható, hogy α Rm,n α = A m,n /B m,n, ahol A m,n := (k,l) R m,n (X k 1,l + X k,l 1 )ε k,l, B m,n := (k,l) R m,n (X k 1,l + X k,l 1 ) 2. A Következmény és a dominált konvergencia tétel segítségével igazolható a következő állítás Állítás. (Baran, Pap, Zuijlen [7, Proposition 2]) Ha α = 1/2 és m, n úgy, hogy m/n const > 0, akkor (mn) 5/4 B m,n P σ 2, ahol σ 2 := 15 π 32(2 5/2 + 3). A korábbi eszközökhöz a martingál központi határeloszlás tételt [43] is hozzávéve belátható az A m,n konvergenciája is Állítás. (Baran, Pap, Zuijlen [7, Proposition 3]) Ha α = 1/2 és m, n úgy, hogy m/n const > 0, akkor (mn) 5/8 A m,n D N ( 0, σ 2). Végezetül, a és a Állítás valamint Basu és Reinsel [28] eredményeinek következményeként kaphatjuk az alábbi tételt, ami [7] fő eredménye Tétel. (Baran, Pap, Zuijlen [7, Theorem 1]) Tegyük fel, hogy a (3.1.1) modell esetén az {ε k,l : k, l N} hibatagok függetlenek, Eε k,l = 0, Var ε k,l = 1 és sup{eε 4 k,l : k, l N} <. Ha α < 1/2 és m, n úgy, hogy m/n const > 0, akkor (mn) 1/2 ( α Rm,n α ) D N ( 0, σ 2 α), ahol σ 2 α := Ha α = 1/2 és m, n úgy, hogy m/n const > 0, akkor (mn) 5/8 ( α Rm,n α ) D N ( 0, σ 2), ahol σ 2 := α 2, ha α 0, (1 4α 2 ) 1/2 1 1/2, ha α = π 32(2 5/2 + 3). Megjegyzés. Vegyük észre, hogy σ 2 0 = lim α 0 σ 2 α, de σ 2 lim α 1/2 σ 2 α = 0.

31 3.2. TÉRBELI AR MODELLEK KÖZEL INSTABIL SOROZATA Térbeli AR modellek közel instabil sorozatának aszimptotikus tulajdoságai Tekintsük az X k,l = α(x k 1,l + X k,l 1 ) + ε k,l, k, l Z, (3.2.1) egyenlet stacionárius megoldásaként definiált {X k,l : k, l Z} sztochasztikus mezőt. Ha α < 1/2 akkor ilyen megoldás létezik és előállítható X k,l = (i,j) U k,l ( k + l i j k i ) α k+l i j ε i,j alakban, ahol U k,l := {(i, j) Z 2 : i k, j l}, a sor konvergenciája pedig L 2 értelemben értendő. Tekintsük most a (3.2.1) egyenlet stacionárius megoldásainak egy közel instabil sorozatát. Legyen α n = 1 2 γ n n, ahol γ n > 0 és lim n γ n γ 0, (3.2.2) az {X (n) k,l : k, l Z}, n N, pedig legyen a (3.2.1) egyenlet α n paraméterhez tartozó stacionárius megoldása. Célunk az α n paraméter {X (n) k,l : (k, l) T k n,l n } megfigyeléseken alapuló (3.1.2) összefüggéssel definiált α (n) T kn,ln legkisebb négyzetes becslése aszimptotikus tulajdonságainak vizsgálata, ahol T kn,l n a (3.1.4) által definiált háromszög alakú megfigyelési tartomány, k n, l n Z, n N, és n esetén k n + l n, a hibatagok pedig független, azonos eloszlásúak nulla várható értékkel, egységnyi szórással és véges negyedik momentummal. Tegyük fel, hogy lim (k n + l n )n 1/2 γn 1/2 =, (3.2.3) n mely összefüggés meghatározza a megfigyelési tartomány növekedésének és az α n konvergenciasebességének egymáshoz való viszonyát. Nyilvánvaló, hogy a (3.2.3) feltétel teljesül például a γ > 0, k n = l n = n esetben. A továbbiakban feltehetjük, hogy a (k n + l n ) sorozat monoton növekvő. Legyen k n := és az α (n) T ekn, ln e eloszlása megegyezik, továbbá k n + l n = k n + l n, így a (k n, l n ) sorozat helyett nyugodtan [(k n + l n )/2] és l n := [(k n + l n + 1)/2]. A stacionaritás miatt az α (n) T kn,ln tekinthetjük a ( k n, l n ) sorozatot. Ez utóbbi sorozat beágyazható a (k n, l n ) sorozatba, ahol k n := [n/2] és l n := [(n + 1)/2], nevezetesen, a q n := k n + l n sorozatra k q n = k n és l q n = l n. Nyilvánvaló, hogy k n + l n = n. Definiáljunk egy (r n ) sorozatot a következő módon: r n := k ha q k n < q k+1. Ekkor r qn = n és számunkra elegendő az α (rn) T k n,l n aszimptotikus tulajdonságait vizsgálni a (3.2.3) feltételt helyettesítő feltétel mellett. lim n nr 1/2 n γr 1/2 n = (3.2.4)

32 26 3. FEJEZET. TÉRBELI AR FOLYAMATOK PARAMÉTERBECSLÉSE Kovarianciastruktúra Legyen {X k,l : k, l Z} a (3.2.1) egyenletnek az α paraméterhez tartozó stacionárius megoldása. A stacionaritás miatt Cov(X i1,j 1, X i2,j 2 ) = Cov(X i1 i 2,j 1 j 2, X 0,0 ), i 1, j 1, i 2, j 2 Z. Legyen R k,l := Cov(X k,l, X 0,0 ), k, l R Lemma. (Baran, Pap, Zuijlen [8, Lemma 4]) Ha k, l Z és kl 0, akkor 0 R k,l = Ha k, l Z és kl > 0, akkor 1 1 4α 2 0 R k,l = R 0, k l k l 1 i=0 ( ) k + l 1 1 4α 2. 2α ( k l + 2i i ) α k l +2i. Legyen {X (n) k,l : k, l Z}, n N, a (3.2.1) egyenlet stacionárius megoldásainak korábban már definiált közel instabil sorozata. Legyen továbba (r n ) az N egy részsorozata és tetszőleges n N esetén tekintsük az szakaszonként konstans véletlen mezőt. X (n) (s, t) := rn 1/4 X (rn) [ns]+1,[nt]+1, s, t R, Állítás. (Baran, Pap, Zuijlen [8, Proposition 5]) Legyen s 1, t 1, s 2, t 2 R. Az (3.2.4) feltétel mellett lim n γ1/2 r n Cov ( X (n) (s 1, t 1 ), X (n) (s 2, t 2 ) ) = 0, ha s 1 s 2 t 1 t 2, ( lim sup γr 1/2 Cov n X (n) (s 1, t 1 ), X (n) (s 2, t 2 ) ) 1 n 2, ha s 1 s 2 = t 1 t A becslés aszimptotikája Az egyszerűség kedvéért tegyük fel, hogy k n = [n/2], l n = [(n + 1)/2] és tekintsük az α rn paraméter α (rn) T kn,ln becslését. A 3.1. szakaszban vizsgált becsléshez hasonlóan α (rn) T kn,ln α rn = A n /B n, ahol A n := (i,j) T kn,ln ( (r X n) i 1,j + ) X(rn) (r i,j 1 ε n) i,j, B n := ( (r X n) i 1,j + 2 i,j 1) X(rn). (i,j) T kn,ln A dominált konvergencia tétel helyett a Fatou lemmát használva a és Állításokkal analóg állításokhoz jutunk Állítás. (Baran, Pap, Zuijlen [8, Proposition 2]) Az (3.2.4) feltétel mellett ha n, akkor n 2 rn 1/2 γr 1/2 P n B n 1.

33 3.3. TÉRBELI KÉTPARAMÉTERES AUTOREGRESSZÍV MODELL Állítás. (Baran, Pap, Zuijlen [8, Proposition 3]) Az (3.2.4) feltétel mellett ha n, akkor n 1 rn 1/4 γr 1/4 n A D n N (0, 1). Végezetül, a és a Állítás következményeként megkaphatjuk [8] fő eredményét, ami az alábbi Tétel. (Baran, Pap, Zuijlen [8, Theorem 1]) Rögzített n N esetén legyen {X (n) k,l : k, l Z} az (3.2.1) egyenletnek a (3.2.2) összefüggéssel definiált α n paraméterhez tartozó stacionárius megoldása, ahol az {ε (n) k,l : k, l Z} hibatagok függetlenek, azonos eloszlásúak, Eε (n) 0,0 = 0, Var ε (n) 0,0 = 1 és sup { E (n) ε 4 0,0 : n N } <. Legyen továbbá k n, l n Z, n N, és tegyük fel hogy n esetén k n + l n és teljesül a (3.2.3) feltétel. Ekkor n esetén (k n + l n )n 1/4 γn ( α 1/4 (n) ) D T kn,ln α n N (0, 1) Térbeli kétparaméteres autoregresszív modell Tekintsük most az (3.1.3) egyenlettel definiált folyamat természetes általánosításaként kapható {X k,l : k, l Z, k + l 0} folyamatot, amit az { αx k 1,l + βx k,l 1 + ε k,l, ha k + l 1, X k,l = (3.3.1) 0, ha k + l = 0, egyenlet definiál. A modell stabilitásának feltétele α + β < 1 (lásd [28, 32]), míg az α + β = 1 esetben instabil modellről beszélhetünk. Legyen T n,m a (3.1.4) kifejezéssel definiált háromszög alakú tartomány. Az (α, β) paramétereknek az {X k,l : (k, l) T n,m } megfigyeléseken alapuló legkisebb négyzetes becslése ) ( αtm,n = ( ) 1 X 2 k 1,l X k 1,l X k,l 1 ( ) Xk 1,l X k,l. (3.3.2) β Tm,n X k 1,l X k,l 1 X k,l 1 X k,l (k,l) T m,n X 2 k,l 1 (k,l) T m,n Ennek a becslésnek az aszimptotikus normalitását kívánjuk igazolni független, nulla várható értékkel, egységnyi szórással és véges nyolcadik momentummal bíró ε k,l hibatagokat tételezve fel Kovarianciastruktúra Az (3.3.1) egyenletből következik, hogy minden k, l Z, k + l 1, esetén X k,l = ( ) k + l i j α k i β l j ε i,j. (3.3.3) k i (i,j) T k,l A (3.3.3) mozgóátlag előállítás egyenes következménye, hogy tetszőleges k 1, l 1, k 2, l 2 egészekre, ahol k 1 + l 1 0 és k 2 + l 2 0 ( )( ) k1 + l 1 i j k2 + l 2 i j Cov(X k1,l 1, X k2,l 2 ) = α k 1+k 2 2i β l 1+l 2 2j. k 1 i k 2 i (i,j) T k1 k 2,l 1 l 2

34 28 3. FEJEZET. TÉRBELI AR FOLYAMATOK PARAMÉTERBECSLÉSE Igazolható [9, Lemma 2.1], hogy ( α + β ) k 1 k 2 + l 1 l 2 ) 2, ha α + β < 1, (1 ( α + β ) 2 Cov(X k1,l 1, X k2,l 2 ) ( ) 1/2, C α k1 + l 1 + k 2 + l 2 ha α + β = 1 és 0 < α < 1, k 1 + l 1 + k 2 + l 2, ha α + β = 1 és α {0, 1}, ahol C α > 0 egy kizárólag α-tól függő konstans. Legyen n N és tekintsük az Y (n) 1,0 (s, t) := X [ns]+1,[nt], Y (n) 0,1 (s, t) := X [ns],[nt]+1, Z (n) 1,0 (s, t) := n 1/4 X [ns]+1,[nt], Z (n) 0,1 (s, t) := n 1/4 X [ns],[nt]+1, U (n) 1,0 (s, t) := n 1/2 X [ns]+1,[nt], U (n) 0,1 (s, t) := n 1/2 X [ns],[nt]+1 szakaszonként konstans véletlen mezőket, ahol s, t R és s + t Állítás. (Baran, Pap, Zuijlen [9, Proposition 2.3]) Legyen s 1, t 1, s 2, t 2 R ahol s 1 + t 1 > 0 és s 2 + t 2 > 0. Ha α + β < 1 akkor lim n ( Cov ( Y (n) 1,0 (s 1, t 1 ), Y (n) 1,0 (s 2, t 2 ) ) Cov ( Y (n) 1,0 (s 1, t 1 ), Y (n) Cov ( Y (n) 1,0 (s 2, t 2 ), Y (n) 0,1 (s 1, t 1 ) ) Cov ( Y (n) 0,1 (s 1, t 1 ), Y (n) ahol s 1 = s 2, t 1 = t 2 esetén és y α,β (s 1, t 1, s 2, t 2 ) = 1 2 Σ 1 α,β = σ2 α,β 0,1 (s 2, t 2 ) ) ) 0,1 (s 2, t 2 ) ) = y α,β (s 1, t 1, s 2, t 2 ), ( ) 1 ϱα,β, ϱ α,β 1 σα,β 2 := ( (1 + α + β)(1 + α β)(1 α + β)(1 α β) ) 1/2, (1 α 2 β 2 )σα,β 2 1, ha αβ 0, 2αβσ ϱ α,β := α,β 2 0 egyébként, egyébként pedig y α,β (s 1, t 1, s 2, t 2 ) = 0, azaz a kétszer kettes nullákból álló mátrix. Ez utóbbi esetben a 0-hoz való konvergencia exponenciális sebességű. Ha 0 < α < 1 és β = 1 α akkor lim n ( Cov ( Z (n) 1,0 (s 1, t 1 ), Z (n) 1,0 (s 2, t 2 ) ) Cov ( Z (n) 1,0 (s 1, t 1 ), Z (n) Cov ( Z (n) 1,0 (s 2, t 2 ), Z (n) 0,1 (s 1, t 1 ) ) Cov ( Z (n) 0,1 (s 1, t 1 ), Z (n) ahol 1 a csupa egyesből álló kétszer kettes mátrixot jelöli, valamint 0,1 (s 2, t 2 ) ) ) 0,1 (s 2, t 2 ) ) =z α (s 1, t 1, s 2, t 2 )1, z α (s 1, t 1, s 2, t 2 ) = s1 + s 2 + t 1 + t 2 s 1 s 2 + t 1 t 2 2πα(1 α), ha (1 α)(s 1 s 2 ) = α(t 1 t 2 ), egyébként pedig z α (s 1, t 1, s 2, t 2 ) = 0. Ez utóbbi esetben a 0-hoz való konvergencia exponenciális sebességű.

35 3.3. TÉRBELI KÉTPARAMÉTERES AUTOREGRESSZÍV MODELL 29 lim n Ha α {0, 1} és β = 1 α akkor ( Cov ( U (n) 1,0 (s 1, t 1 ), U (n) 1,0 (s 2, t 2 ) ) Cov ( U (n) 1,0 (s 1, t 1 ), U (n) Cov ( U (n) 1,0 (s 2, t 2 ), U (n) 0,1 (s 1, t 1 ) ) Cov ( U (n) 0,1 (s 1, t 1 ), U (n) ahol I a kétszer kettes egység mátrix, valamint 0,1 (s 2, t 2 ) ) ) 0,1 (s 2, t 2 ) ) = u α (s 1, t 1, s 2, t 2 )I, u α (s 1, t 1, s 2, t 2 ) = s 1 + s 2 + t 1 + t 2 s 1 s 2 t 1 t 2, 2 ha (1 α)(s 1 s 2 ) = α(t 1 t 2 ), egyébként pedig u α (s 1, t 1, s 2, t 2 ) = 0. Látható, hogy az 0 < α < 1, β = 1 α esetben a határérték mátrix nem invertálható. Ebben az esetben viszont jó becslést tudunk adni a kovarianciák különbségére Állítás. (Baran, Pap, Zuijlen [9, Proposition 2.6]) Ha 0 < α < 1 és β = 1 α, akkor létezik egy olyan K α > 0 konstans, melyre tetszőleges n N és s 1, t 1, s 2, t 2 R, s 1 + t 1 > 0, s 2 + t 2 > 0, esetén Cov ( Z (n) i,j (s 1, t 1 ), Z (n) j,i (s 2, t 2 ) ) Cov ( Z (n) i,j (s 1, t 1 ), Z (n) i,j (s 2, t 2 ) ) Kα n 1/2, ahol (i, j) { (0, 1), (1, 0) } A becslés aszimptotikája Tekintsük a (3.3.2) összefüggéssel definiált becslést. Könnyen látható, hogy ) ( αtm,n α = B β 1 Tm,n β m,na m,n, ahol A m,n := (k,l) T m,n ( ) Xk 1,l ε k,l, B X k,l 1 ε m,n := k,l (k,l) T m,n ( X 2 k 1,l X k 1,l X k,l 1 X k 1,l X k,l 1 X 2 k,l 1 ). A Állítás és a dominált konvergencia tétel segítségével igazolható a következő állítás Állítás. (Baran, Pap, Zuijlen [9, Proposition 1.2]) Ha α + β < 1 és m, n úgy, hogy m/n const > 0, akkor (mn) 1 L B 2 m,n Σ 1 α,β. Ha α + β = 1, 0 < α < 1 és m, n úgy, hogy m/n const > 0, akkor ahol σ 2 α := 2 9/2 15 π α (1 α ) (mn) 5/4 L B 2 m,n σ 2 α Ψ α,β, ( ) 1 sign(αβ) és Ψ α,β :=. sign(αβ) 1 Ha α + β = 1, α {0, 1} és m, n úgy, hogy m/n const > 0, akkor (mn) 3/2 B m,n L I.

36 30 3. FEJEZET. TÉRBELI AR FOLYAMATOK PARAMÉTERBECSLÉSE A korábbi eszközökhöz a martingál központi határeloszlás tételt [43] is hozzávéve belátható az A m,n konvergenciája is Állítás. (Baran, Pap, Zuijlen [9, Proposition 1.3]) Ha α + β < 1 és m, n úgy, hogy m/n const > 0, akkor (mn) 1/2 A m,n D N ( 0, Σ 1 α,β). Ha α + β = 1, 0 < α < 1 és m, n úgy, hogy m/n const > 0, akkor (mn) 5/8 A m,n D N ( 0, σ 2 αψ α,β ). Ha α + β = 1, α {0, 1} és m, n úgy, hogy m/n const > 0, akkor (mn) 3/4 A D m,n N (0, 43 ) I. Az α + β < 1 illetve az α + β = 1, α {0, 1} esetben a és Állítás következményeként megkapjuk az (3.3.2) becslés aszimptotikus normalitását. A harmadik eset vizsgálatához vegyük észre, hogy Bm,n 1 = B m,n /det B m,n, ahol Bm,n a B m,n mátrix adjungáltját jelöli. A és Állítás valamint a dominált konvergencia tétel segítségével igazolható a következő eredmény Állítás. (Baran, Pap, Zuijlen [9, Proposition 1.4]) Ha α + β = 1, 0 < α < 1 és m, n úgy, hogy m/n const > 0, akkor (mn) 9/4 det B m,n P 2σ 2 αϱ 2 α, ahol ϱ 2 α = ( α (1 α ) ) 1. A korábbi eszközökhöz ismét a martingál központi határeloszlás véve hozzá kapjuk az alábbi állítást Állítás. (Baran, Pap, Zuijlen [9, Proposition 1.5]) Ha α + β = 1, 0 < α < 1 és m, n úgy, hogy m/n const > 0, akkor (mn) 7/4 Bm,n A m,n D N ( 0, 2σ 4 αϱ 2 αψ α,β ). Végezetül, a Állítások következményeként megkaphatjuk [9] fő eredményét Tétel. (Baran, Pap, Zuijlen [9, Theorem 1.1]) Tegyük fel, hogy a (3.3.1) modell esetén az {ε k,l : k, l Z, k + l 1} hibatagok függetlenek, Eε k,l = 0, Var ε k,l = 1 és sup{eε 8 k,l : k, l Z, k + l 1} <. Ha α + β < 1 és m, n úgy, hogy m/n const > 0, akkor ) ( αtm,n (mn) 1/2 α D N (0, Σ α,β ). β Tm,n β Ha α + β = 1, 0 < α < 1 és m, n úgy, hogy m/n const > 0, akkor ) ( αtm,n (mn) 1/2 α D N ( ) 0, (2ϱ β 2 α Tm,n β ) 1 Ψ α,β. Ha α + β = 1, α {0, 1} és m, n úgy, hogy m/n const > 0, akkor ) ( αtm,n (mn) 3/4 α D N (0, 34 ) β Tm,n β I.

37 4. fejezet Alkalmazott statisztikai munkák 4.1. Sztochasztikus optimalizáció egy alkalmazása Hiányosan megfigyelt Markov láncok Legyen {X i } egy véges S = {1, 2,... s} álapotterű P = (p ij ) s i,j=1 átmenetvalószínűségi mátrixszal rendelkező irreducibilis aperiodikus Markov lánc és jelölje π = (π 1, π 2,... π s ) a lánc stacionárius eloszlását. Ha az {X i } láncot minden egyes vizsgált időpontban meg tudjuk figyelni, akkor az átmenetvalószínűségek maximum-likelihood becslése az egyes átmenetek relatív gyakoriságával egyenlő (lásd pl. [26]). Tegyük most fel, hogy a láncot csak hiányosan tudjuk megfigyelni. Egy ilyen megfigyeléssorozatra példa , (4.1.1) ahol s = 2, a 0 pedig a hiányzó megfigyelést jelenti [11, Example 2]. A megfigyelésekhez tartozó likelihood függvény azonban ilyen esetben is felírható a stacionárius eloszlás és a p (k) ij, k = 1, 2,..., k-lépéses átmenetvalószínűségek függvényében. A (4.1.1) megfigyeléssorozat esetén ez L(P ) = π 1 p (3) 12 p 22 p 21 p (5) 11 p (3) 12 p 22 p 21 p (5) 11 p (3) 12 p 22 p 21 p (5) 11 p (3) 12 p 22 p 21. (4.1.2) Ily módon a P átmenetvalószínűségi mátrix ML becslése P = arg max L(P ). P Időnként ez a becslés előállítható zárt alakban is, de az esetek nagy részében valamilyen numerikus maximumkereső módszert kell alkalmaznunk. A (4.1.2) függvény L(x, y) = y ( ) 4 1 x + y x + y (x (1 x y)3 x)(1 y)y (4.1.3) ( ) 3 1 x + y (y + (1 x y)5 x), x = p 12, y = p 21, x + y > 0, alakja (4.1. ábra) azt mutatja, hogy a likelihood függvény több lokális maximummal is rendelkezhet. Ezekben az esetekben a hagyományos numerikus algoritmusok nem használhatóak. Itt jegyeznénk meg, hogy a gyakorlatban használatos algoritmusok általában minimumot keresnek, ezért ennél a problémánál is a likelihood függvény maximuma helyett a negatív logaritmusának a minimumát keressük. 31

38 32 4. FEJEZET. ALKALMAZOTT STATISZTIKAI MUNKÁK x L(x,y) y x ábra. Az L(x, y) likelihood függvény Szimulált hőkezelés A szimulált hőkezelés (simulated annealing, SA) nevét egy fizikai folyamatról kapta, melynek során a szilárd anyagot az olvadáspontjáig hevítik, majd lehűtik oly módon, hogy a végére felvegye az optimális (minimális energiával bíró) kristályszerkezetet. Adott T hőmérsékleten a szilárd test atomjainak viselkedése jól modellezhető egy Monte Carlo módszer segítségével, ami még az ötvenes évekből származik [47]. A módszer minden egyes lépésében egy atomot véletlenszerűen kimozdítunk a helyéről, majd kiszámoljuk a rendszer ezen új állapotának energiáját. Jelölje E a régi és az új állapot energiája közti különbséget. Ha E < 0, akkor elfogadjuk a rendszer új állapotát, ha pedig nem, akkor az új állapot elfogadási valószínűsége exp( E/k B T ), ahol k B az ún. Boltzmann állandó. Ha ezt az eljárást elég sokszor megismételjük, akkor a rendszer eljut a hőegyensúly állapotába. Ezek után a hőmérséklet óvatos csökkentésével és a fenti eljárás ismétlésével elérhetjük, hogy T 0 esetén az algoritmus konvergáljon a globálisan minimális energiát biztosító állapot(ok)hoz. Matematikai szempontból ez az algoritmus elsősorban kombinatorikus optimalizálási problémák megoldására használható, ahol a minimalizálandó függvény játssza az energia szerepét, annak diszkrét értelmezési tartománya pedig az atomok állapotait reprezentálja (lásd pl. [19]). Ha a minimalizálandó függvény értelmezési tartománya nem diszkrét, akkor egy lehetséges megoldás annak diszkretizálása, de ez a módszer a gyakorlatban nem bizonyult használhatónak. A szakaszban szereplő probléma megoldására Baran és Szabó [16] Corana et

39 4.1. SZTOCHASZTIKUS OPTIMALIZÁCIÓ EGY ALKALMAZÁSA 33 al. [37] módszerének továbbfejlesztésével leírt és a gyakorlatban is megvalósított egy algoritmust, melynek lényege a következő. Legyen f : D R d R a minimalizálandó függvény, x 0 R d az algoritmus kiinduló állapota, v h pedig a h {1, 2,..., d} koordinátairányba megtehető maximális lépéshossz. 1. lépés. Legyen x 0 az x=(x 1,..., x d ) aktuális állapot. 2. lépés. Válasszunk egy h koordináta irányt (sorban egymás után következnek). 3. lépés. Generáljunk egy új x=( x 1,..., x d ) állapotot: { x i + rv i, ha i = h, x i = i = 1, 2,..., d, x i, ha i h, ahol r U( 1, 1). Ha x D, próbálkozzunk újra. 4. lépés. A x állapotot ) (f( x) f(x))+ exp ( ct valószínűséggel fogadjuk el új aktuális állapotnak, ahol a + = a, ha a > 0, és a + = 0, egyébként, c pedig egy pozitív konstans. Ha nem fogadjuk el, ismételjük meg a 2 4 lépéseket. Az algoritmus a tényleges keresés megkezdése előtt az f függvény viselkedése alapján automatikusan meghatározza a megállási kritériumot és a kiinduló hőmérsékletet (lásd [42]), amit aztán T νt, 0 < ν < 1, polinomiális hűtéssel csökkentünk. A v h lépéshosszak menet közben folyamatosan változnak, amivel elérhető, hogy az algoritmus átlagosan a generált állapotok felét fogadja el. Az SA algoritmus leállásakor kapott minimumhelyből kiindulva még végrehajtunk egy hagyományos minimumkereső algoritmust, ami a vizsgált tesztfüggvények esetén minden esetben valamely globális minimumhely egy igen jó közelítését adta. A fent felvázolt algoritmus konvergenciájáról csak a gyakorlatban tudtunk meggyőződni, ha azonban a 2. lépésben a h koordinátairányt nem determinisztikusan, hanem a lehetséges irányokon értelmezett egyenletes eloszlás szerint választjuk ki és D = R d, akkor egy adott T hőmérsékleten az 1 4 lépésekkel leírt algoritmus egy olyan folytonos állapotterű homogén Markov lánccal modellezhető, melynek stacionárius eloszlása T 0 esetén tart az f globális minimumhelyein értelmezett egyenletes eloszláshoz (lásd [1, Theorem ]) Diszkrét geológiai struktúrák Markov mezős modellezése Az szakaszban vizsgált hiányosan megfigyelt Markov láncok egy geológiai probléma kapcsán kerültek előtérbe [11]. Tekintsünk egy S = {1,..., s} állapotterű geológiai struktúrát (az állapotok pl. talaj- vagy kőzettípusok), amit az R={1,..., r} {1,..., c} Z 2 pontokban kívánunk megfigyelni. Jelölje C az x = (x (i,j) : (i, j) R), x (i,j) S lehetséges geológiai konfigurációk (általában igen nagy számosságú) halmazát. Egy adott x konfiguráció előfordulási valószínűsége legyen p(x) = exp( Ψ(x)) (4.1.4) exp( Ψ(x)), x C

40 34 4. FEJEZET. ALKALMAZOTT STATISZTIKAI MUNKÁK a. b ábra. a. Lerum térkép; b. ritkított Lerum térkép ahol Ψ(x) az x konfiguráció energiája. Tegyük fel, hogy x = x A x B, ahol A és B az R egy kettéosztása, x A az x megfigyelt, x B pedig nem a megfigyelhető része. Ekkor az x B -nek az x A megfigyelésekre vonatkozó feltételes valószínűsége p A (x B ) := p(x B x A ) = Cexp( Ψ A (x B )), ahol Ψ A (x B ) := Ψ(x A x B ). Kutatásaink célja, hogy Markov Chain Monte-Carlo technikával geológiai konfigurációkat szimuláljunk, valamint x A alapján megbecsüljük x B -t. x B = arg max p A (x B ) = arg min Ψ A (x B ). x B x B Mind a szimulációhoz, mind pedig a geológiai konfigurációk nem megfigyelhető részének becsléséhez ismernünk kell a Ψ(x) energiafüggvényt. Tegyük fel, hogy ennek alakja Ψ(x) = i,j ( ψ0 (x (i,j) )+ψ 1 (x (i,j 1), x (i,j) )+ψ 2 (x (i 1,j), x (i,j) ) +ψ 3 (x (i 1,j 1), x (i,j) ) +ψ 4 (x (i+1,j 1), x (i,j) ) ), ami négy irányú (Ny K, É D, ÉNy DK, DNy ÉK) függőséget feltételez az x konfigurációt alkotó változók között. Ezen belül a ψ 0 (x (i,j) ) függvény is négy, az egyes irányoknak megfelelő függvény átlaga: ψ 0 (x) = ( ψ 01 (x)+ψ 02 (x)+ψ 03 (x)+ψ 04 (x) ) /4. Az energiafüggvényt alkotó nyolc függvény nemparaméteres becslését úgy kaphatjuk meg, hogy minden l iránynak (l = 1, 2, 3, 4) megfeleltetünk egy p l (x, y) átmenetvalószínűségekkel és π l (x) stacionárius eloszlással bíró homogén Markov láncot. Ebből kiszámolva az egyes irányokhoz tartozó konfigurációk előfordulási valószínűségeit és összehasonlítva azokat (4.1.4) megfelelő tagjaival kapjuk, hogy egy-egy az adatoktól nem függő additív konstanstól eltekintve ψ 0l (x) = log π l (x), ψ l (x, y) = log π l (y) log p l (x, y), l = 1, 2, 3, 4.

41 4.1. SZTOCHASZTIKUS OPTIMALIZÁCIÓ EGY ALKALMAZÁSA 35 a. b ábra. a. Az eredeti LT alapján becsült Ψ (62.6% helyes); b. Az RLT alapján becsült Ψ (65.7% helyes). Ezek után, az adatokat tartalmazó mátrixban a sorokat, az oszlopokat illetve az átlókat egy-egy Markov lánc megfigyeléseinek tekintve az energiafüggvény l irányhoz tartozó komponenseinek becslése ψ 0l (x) = log π l (x) + C 0l, ψl (x, y) = log π l (y) log p l (x, y) + C l, ahol a C 0l és C l konstansok függetlenek az adatoktól, π l (x) és p l (x, y) pedig a π l (x) és a p l (x, y) ML becslése. Nem teljesen megfigyelt konfiguráció esetén az egyes irányoknak megfelelő Markov láncok megfigyelései hiányosak, így a π l (x) és p l (x, y) becsléseket a és a szakaszban tárgyalt módon kaphatjuk meg. Az energiafüggvény Ψ(x) becslésének ismeretében az egyes geológiai konfigurációk a Gibbs sampler segítségével szimulálhatóak, mely módszer az R pontjainak megfelelő megfigyeléseket egyenként szimulálva előállítja a (4.1.4) eloszlás becslésének egy realizációját (lásd [38]). A fent leírt módszer hatákonyságát két próbaterületen is teszteltük. Ebből az egyik a Lerum vidék, ami egy 5 5 km 2 -es terület Göteborgtól 25 km-re keleti irányban. Ezen a vidéken nyolcféle különböző fajtájú jégkori üledék található, azaz s = 8. Az általunk vizsgált térkép, ami a 4.2a. ábrán látható [11, Figure 1], egy = egyenként m 2 -es pixelből álló kép, ahol a különböző színek az egyes kőzettípusokat jelentik. 265 pixel ismeretlen (a fehérrel jelölt pixelek), mivel víz alatt vannak. A teszteléshez az eredeti megfigyeléseket megritkítottuk úgy, hogy az egyes megfigyeléseket 0.15 valószínűséggel tartottuk meg. Ezen ritkítás eredményeképpen kaptuk a 4.2b. ábrán látható [11, Figure 1] ritkított Lerum térképet (RLT). Ezek után az energiafüggvényt mind az eredeti Lerum térkép (LT), mind pedig az RLT alapján megbecsülve megpróbáltuk visszaállítani az RLT hiányzó részét a Gibbs sampler paramétereinek különböző értékei mellett (lásd pl. a 4.3. ábrát [11, Figure 1]). Azt tapasztaltuk, hogy az RLT alapján becsült energiafüggvénnyel készített becslések minden esetben jobban hasonlítottak az