doktori (PhD) értekezés tézisei Katalin Varga Institute of Mathematics and Informatics University of Debrecen, Hungary

Átírás

1 Diszrét és folytonos idej autoregressziós folyamato statisztiai érdéseir l On Statistical Problems of Discrete and Continuous Time Autoregressive Processes dotori PhD érteezés tézisei Katalin Varga Institute of Mathematics and Informatics University of Debrecen, Hungary 23

2 Bevezetés Az érteezés a szerz négy cién alapszi, melyb l hármat társszerz el özösen, egyet önállóan írt A disszertáció öt fejezetb l áll: az els fejezet összefoglalja a tárgyalt érdéseet és röviden ismerteti az eredményeet A másodi az elméleti el zményeet foglalja össze A harmadi, negyedi és ötödi fejezet tartalmazza a szerz által elért eredményeet Az autoregressziós modelleet évtizede óta széles örben tanulmányozzá, és alalmazzá Enne oa a övetez : a lineáris modelle elég általánosa ahhoz, hogy nagy pontossággal írjana le fontos, a gyaorlatban el forduló id soroat További el nyü abban rejli, hogy matematiai szempontból önnyen ezelhet e A témaört átteint els m Box és Jenins [] nevéhez f z di Fontos elméleti eredménye találhatóa Fuller [5] és Lipster, Shiryayev [2] önyveiben Az autoregressziós folyamato statisztiai érdéseit Arató [3] m ve foglalja össze, továbbá felhívja a gyelmet a diszrét és a megfelel folytonos idej modelle özötti apcsolatra A disszertáció három ülönböz modell paraméter becsléseit vizsgálja A harmadi fejezetben, mely az [] cien alapszi, tárgyalju Arató, Kolmogorov és Sinay [6] lasszius eredményeine általánosítását Pap és van Zuijlen [27] az eredeti eredményt a omplex folyamat periódus paraméteréne pontos eloszlásáról több dimenzióra általánosította A fejezetben tárgyalt eredmény ib víti azon folyamato osztályát, melyre az eredmény igaz, azáltal, hogy megmutatja: [27]-ben az egyi feltétel felesleges A negyedi fejezet, amely a [2] és a [3] cien alapszi, özel instabil, özel stabil és explozív folyamato AR modelleet vizsgál A fejezet els része diszrét idej modelle eltolás paramétereine határeloszlását vizsgálja Továbbá a diszrét és a megfelel folytonos idej modell paraméter becslései özötti apcsolatot ismerteti A fejezet másodi részében özel instabil modelle együttható mátrixána becslését vizsgálja, abban a speciális esetben, amior a mátrix Jordan-alaban van Az ötödi fejezet, amely a [4] cien alapszi, többdimenziós AR folyamato várható értééne becslését tárgyalja: vizsgálja a becslés határeloszlását és a onzisztencia érdését 2 Többdimenziós AR folyamato paraméter becsléséne pontos eloszlása A disszertáció 3 fejezete Arató, Kolmogorov és Sinay [6] eredményéne általánosításával foglalozi Ezen eredmény szerint a omplex érté els rend AR folyamato periódusána maximum-lielihood becslése pontosan normális eloszlású Legyen ξt = ξ t + iξ 2 t, t, omplex érté stacionárius autoregresszív folyamat, amelyet a 2

3 övetez sztochasztius dierenciálegyenlet ad meg: dξt = γξtdt + dwt, ahol wt = w t + iw 2 t, t standard, omplex Wiener-folyamat, azaz w t and w 2 t független, standard, valós érté Wiener-folyamato és γ = λ iω, λ >, ω R esetén Teintsü a övetez statisztiáat: s 2 ξt = ahol θt, t a övetez t ξu 2 du, r ξ t = ξt = ξt e iθt t Ismert, hogy az ω periódus maximum-lielihood becslése: ˆω ξ t = r ξt s 2 ξ t, ξu 2 dθu, továbbá s ξ t ˆω ξ t ω D = N, minden t esetén, ahol D = jelöli az eloszláso azonosságát Ebben az eredményben az a meglep, hogy nem aszimptotius tulajdonságról van szó, hanem az alalmasan normált becslés pontos eloszlásáról Az eredményt el ször Arató, Kolmogorov és Sinay [6] fogalmazta meg, és alalmazta a Föld tengelyéne mozgásána modellezésére Ezután többen bizonyítottá: Noviov [24], Liptser és Shiryayev [2] Arató [4]-ben adott az eredményre új, egyszer bizonyítást Noviov módszeréne segítségével Fogalmazzu át az állítást Xt, t étdimenziós, valós érté AR folyamatra: dx t λ ω X tdt dw t = +, dx 2 t ω λ X 2 tdt dw 2 t ahol W t, t, a standard, étdimenziós folyamat, és λ, ω R Eor a megfelel statisztiá a övetez e: s 2 Xt = t X 2 u + X 2 2u du, r X t = Az ω periódus maximum-lielihood becslése t ˆω X t = r Xt s 2 X t, X u dx 2 u X 2 u dx u és s X t ˆω X t ω D = N, minden t > 3

4 Eor a övetez ézenfev érdés merül fel Teintsü a d-dimenziós Xt, t folyamatot, melyet a övetez sztochasztius dierenciálegyenlet ad meg: dxt = AXtdt + dw t, t, ahol W t, t a standard, d-dimenziós Wiener-folyamat és A egy d d mátrix Mely A-ra és X ezdeti értére tett feltétele esetén teljesül, hogy az A mátrix bizonyos elemeine alalmasan normált maximum-lielihood becslése pontosan normális eloszlású Pap [25] és Fazeas [4] találta ilyen speciális többdimenziós folyamatoat Majd Pap és van Zuijlen [27] adta többdimenziós általánosítást A disszertációban megmutatju, hogy [27] feltételei gyengíthet, az állítás igaz marad a feltétele egy részéne elhagyása után is Teintsü a övetez többdimenziós folyamatot: m dxt = λi d + ω i C i Xtdt + dw t, X =, 2 i= ahol I d a d d-s egységmátrix és λ, ω,, ω m R az ismeretlen paramétere, továbbá C,, C m rögzített ferdénszimmetrius mátrixo Eor ω = ω,, ω m maximum-lielihood becslése a övetez : ˆω X t = σ X tr Xt, ahol σ X t m m-es mátrix t σ X t = C i Xs, C j Xs ds és r X t m-dimenziós oszlopvetor t r X t = C i Xs, dxs Pap és van Zuijlen [27]-ben bizonyítottá, hogy, i,j m i m σ /2 X tˆω Xt ω D = N, I m minden t >, 3 ha a C C3 feltétele teljesülne, ahol C Ci = C i, i =,, m C2 C i C j + C j C i C = C C i C j + C j C i, i, j, =,, m C3 C i C j + C j C i C C l + C l C LC u C v, u, v m, i, j,, l =,, m ahol LC u C v, u, v m jelöli a C u C v, u, v m, alaú mátrixo lineáris hálóját A disszertáció els tételében belátju, hogy C3 feltétel felesleges: Tétel 2 Legyen Xt, t 2 által megadott folyamat Tegyü fel, hogy C és C2 feltétele teljesülne, eor 3 teljesül 4

5 3 Közel instabil AR modelle A disszertáció negyedi fejezetében özel instabil, özel stabil és explozív AR modelleet vizsgálun A többdimenziós AR modelleet együttható mátrixu segítségével osztályozhatju Teintsü a d-dimenziós autoregressziós modellt: { X = QX + ε, =, 2,, X =, ahol ε d-dimenziós valós vetor jelöli a id pontbeli véletlen zajt, és Q d d-s mátrix, amely a modell egyi ismeretlen paramétere A modell b víthet eltolás paraméterrel, ezt az esetet vizsgálju a 4 fejezet els részében A másodi rész tartalmazza az együttható mátrix becsléséne vizsgálatát speciális mátrixo esetén Jelölje ϱq a Q mátrix spetrálsugarát, azaz a sajátértéei abszolutértéeine maximumát Ha ϱq <, aor a modellt stabilisne vagy aszimptotiusan stacionáriusna nevezzü Mint az ismert, eor a Q legisebb négyzetes becslése aszimptotiusan normális lásd [], [22], feltéve, hogy ε független, azonos eloszlású, Eε =, Eε ε = Σ Ha ϱq =, a modellt instabilna, ha ϱq > explozívna hívju Ez az osztályozás ülönböz viseledés folyamatoat ülönít el: a stabilis folyamato csillapodó jelleg e, az instabil folyamato bolyongáshoz hasonlóa, az explozív folyamato a zajfolyamattól lényegében függetlenül robbanásszer en növeszene Az instabil modell az utóbbi id népszer pénzügyi, özgazdasági modellje, többe özött azért, mert a meggyelése szerint t zsdei, pénzügyi adatsoro leírására alalmas 3 Az eltolás paraméter becslése AR modellben A negyedi fejezet els részében özel instabil modell sorozatot vizsgálun A özel instabil modellsorozat együtthatói meghatározott rendben tartana egy adott instabil modell együtthatójához: ahol { X n = α n X n X n =, + εn, =, 2,, α n = γn n, γn γ R Az alábbi eltolás paraméterrel b vített modell eltolás paraméteréne legisebb négyzetes becslését vizsgáltu: Z n := X n + m n h n, =, 2,, n =, 2,, ahol m n R az ismeretlen paraméter, és h n, =,, n, n =, 2, ismert onstanso Jelölje m n T,T 2 az m n legisebb négyzetes becslését{z n : [T n] [T 2 n]} meggyelése alapján, ahol T < T 2 5 4

6 m n Az m n T,T 2 határeloszlását vizsgáltu n esetén, továbbá összefüggést erestün T,T 2 és az m T,T 2 maximum-lielihood becslés özött, amely a megfelel folytonos idej modell Zt := Y t + mht, {Zt : t [T, T 2 ]} m eltolásparaméteréhez tartozi Bebizonyítottu, hogy m n T,T 2 minden modell típus esetén aszimptotiusan normális, de a onvergencia sebessége soal isebb a özel instabil esetben A stacionárius esetet vizsgálva azt találtu, hogy m n T,T 2 nem marad aszimptotiusan normális, ha γ n A zéró indítású özel instabil AR modell Teintsü a {Zt : t } zéró indítású Ornstein-Uhlenbec folyamamtot: dy t = γy t dt + dw t, t, Y =, Zt = Y t + mht, t, ahol γ R ismert paraméter, h : [, R ismert függvény, és m R az ismeretlen paraméter Legyen T < T 2 Eor Baran, Pap és van Zuijlen [7] bizonyítottá m maximum-lielihood becslésér l a övetez t Jelölje P Z és P Y a Z és Y folyamato által C[T, T 2 ] R-n generált mértéet Ha h étszer folytonosan dierenciálható és h =, aor P Z és P Y mértée evivalense és m maximum-lielihood becslése {Zt : t [T, T 2 ]} meggyelése alapján a övetez : m T,T 2 = ζ T,T 2 Â T,T 2, ahol γ cothγt ht 2 + γht γht if γ, T, Â T,T 2 = ht 2 + h t 2 dt, if γ =, T, T T T γ 2 ht 2 + h t 2 dt, γ 2 ht 2 + h t 2 dt, if T =, 6

7 γ cothγt ht h T ZT + γht 2 + h T 2 ZT 2 + γ 2 ht h t Zt dt, if γ, T, T ht ZT ζ T,T 2 = + h T 2 ZT 2 h T ZT T T 2 T h tzt dt, if γ = T, γht2 + h T 2 ZT 2 + γ 2 ht h t Zt dt, if T = Továbbá, m T,T 2 normális eloszlású m várható értéel és /ÂT,T 2 szórással Megjegyezzü, hogy a h = feltétel szüséges, mivel h és m esetén a P Z és P Y mértée szingulárisa, Y = és Z = mh miatt Teintsü most az eltolt AR modell sorozatot: X n = α n X n + εn, =, 2,, X n =, = X n + m n h n, =,, 2,, Z n ahol n =, 2, és {α n : n =, 2, } ismert és {h n : n =, 2, ; =,, 2, } ismeretlen paramétere Eor m n legisebb négyzetes becslése m n T,T 2 a {Z n : [T n] [T 2 n]}, T < T 2, meggyelése alapján a övetez : m n T,T 2 = ζ n T,T 2,  n T,T 2 ahol  n T,T 2 = α n 2 2 h n [T n] + α n 2[T n] if α n, T, 2 h n [T n] [T n] + [T 2 n] j=[t n]+ h n [T 2 n] h n j 2 if T =, j= [T 2 n] j=[t n]+ h n j 2, j 2 if α n =, T, 7

8 továbbá ζ n T,T 2 = α n 2 h n [T n] Zn [T n] α n 2[T n] + if α n, T, h n [T n] Zn [T n] + [T n] j= [T 2 n] j=[t n]+ [T 2 n] h n j Z n j, if T =, h n j := h n j Megjegyezzü, hogy m n T,T 2 α n h n j, [T 2 n] j=[t n]+ h n j Z n j, h n j Z n j, if α n =, T, Zn j := Z n j m n várható érté és /Ân T,T 2 α n Z n j szórású A disszertáció másodi tétele jellemzi m n T,T 2 aszimptotius viseledését, és a diszrét és a folytonos idej modell özötti apcsolatot Tétel 3 Tegyü fel, hogy h n = h n, n =, 2,, =,, 2, esetén, valamely h : [, R, h = étszer folytonosan dierenciálható függvényre Tegyü fel továbbá, hogy {ε n j : j =,, n} minden n-re független, azonos eloszlású nulla várható értéel és szórással i Ha n α n γ R, aor m n T,T 2 m n n D m T,T 2 m D = N,  T,T 2 ii Ha n α n ±, aor Követezménye: i Ha α n = γn n n α n m n T,T 2 m n D N úgy, hogy γ n γ R, aor m n T,T 2 m n n D m T,T 2 m D = N,, T ht 2 dt  T,T 2 8

9 ii Ha α n = γn n iii Ha α n α, aor úgy, hogy γ n ±, aor n α n m n T,T 2 m n n n m T,T 2 m n D N D N,, T α 2 T 2 T ht 2 dt ht 2 dt Megjegyezzü, hogy m n sorozatra nem ell semmilyen feltevést tenni, ellentétben azzal az esettel, amior α n együttható legisebb négyzetes becslését vizsgálju A stacionárius özel instabil AR modell A stacionárius AR id sor a övetez egyenlet gyengén stacionárius megoldása X = α X + ε, Z, ahol szüségéppen α < Teintsü most az eltolt stacionárius AR modell sorozatot { Xn n = α Xn + εn, Z, = + m n h n, Z, Z n X n ahol n =, 2,, és α n <, n =, 2, továbbá h n, n =, 2,, Z ismert és m n, n =, 2, ismeretlen paramétere Tegyü fel, hogy {ε n j : j Z} minden n-re független, azonos eloszlású, nulla várható érté és szórású Eor n E X =, D 2 Xn = α n 2, minden Z Az m n paraméter legisebb négyzetes becslése m n n, amely { Z : [T n] [T 2 n]} meggyeléseen alapszi, T < T 2 esetén a övetez : ahol m n T,T 2 = ζ n T,T 2, Ã n T,T 2 Ã n T,T 2 = α n [T 2 n] 2 2 h n [T n] + h n j α n h n j 2, j=[t n]+ ζ n T,T 2 = α n [T2n] 2 h n [T n] Zn [T n] + j=[t n]+ h n j α n h n n n j Z j α Zn j 9

10 Teintsü most a stacionárius Ornstein-Uhlenbec folyamatot, {Ỹ t : t R}-t, amely a övetez egyenlet stacionárius megoldása ahol γ > dỹ t = γỹ t dt + dw t, t R, Ez egy nulla várható érté Gauss-folyamat, amelyre EỸ t Ỹ t 2 = e γ t 2 t 2γ Teintsü az eltolt Ornstein-Uhlenbec folyamatot, { Zt : t R}-t, amely a övetez : { dỹ t = γỹ t dt + dw t, t R, Zt = Ỹ t + mht, t R, ahol γ > ismert paraméter, h : R R ismert függvény, és m R az ismeretlen paraméter A övetez eredményt bizonyítottá Baran, Pap és van Zuijlen [7]-ben az m maximum-lielihood becslésér l Jelölje P ez és P ey az Z és Ỹ folyamato által C[T, T 2 ] R-n generált mértéeet Ha h étszer folytonosan dierenciálható, aor P ez és P ey evivalense és m maximum-lielihood becslése, mely { Zt : t [T, T 2 ]} meggyeleséen alapszi a övetez : ahol m T,T 2 = ζ T,T 2 Ã T,T 2, Ã T,T 2 = γht 2 + γht T γ 2 ht 2 + h t 2 dt, ζ T,T 2 = γht ZT + γht 2 ZT 2 + h T 2 ZT 2 h T ZT + T γ 2 ht h t Zt dt Továbbá, m T,T 2 normális eloszlású m várható értéel és /ÃT,T 2 szórással A disszertáció övetez tétele a zéró indítású esethez hasonló eredményt tartalmaz a stacionárius esetben Tétel 32 Tegyü fel, hogy h n = h n minden n =, 2,, Z esetén, egy h : R R étszer folytonosan dierenciálható függvényre Tegyü fel továbbá, hogy {ε n j : j Z} minden n-re független, azonos eloszlású nulla várható értéel és szórással

11 i Ha n α n γ, aor m n T,T 2 m n n D m T,T 2 m D = N, Ã T,T 2 ii Ha n α n aor n α n m n T,T 2 m n D N iii Legyen n α n és ε n N, α n m n T,T 2 m n, T ht 2 dt a Ha ht = c minden t R-re, valamely c R esetén, aor D N, 2c 2 b Egyébént, m n T,T 2 m n n D N, T h t 2 dt 32 Többdimenziós özel instabil AR folyamato A negyedi fejezet másodi részében özel instabil, omplex-érté folyamatoat vizsgálun, melyeben az együttható mátrix Jordan-alaban van A sajátérté alalmasan normált legisebb négyzetes becsléséne határeloszlását vizsgálju Bizonyítju, hogy a határeloszlás csa a folyamat utolsó, d-edi omponensét l függ Ez a modellosztály eléggé speciális, azonban gyaorlati szempontból gyaran hasznos a legnagyobb sajátérté viseledéséne vizsgálata Foglalozun továbbá a diszrét és a megfelel folytonos idej modell sajátérté paraméteréne maximum-lielihood becsléséne apcsolatával Vizsgálju több Jordan-blo esetében is a becslés viseledését Közel instabil AR modell Jordan-alaú együtthatóval Teintsü a d-dimenziós, omplex-érté autoregressziós folyamatot: { X = Jλ, dx + ε, =,2,, X =,

12 ahol λ C és d N, Jλ, d egy d d-s, Jordan-alaú mátrix λ sajátértéel: λ λ Jλ, d := λ λ λ és λ a modell ismeretlen paramétere Ha az ε véletlen zajfolyamat egy szoásos, nem túl er s feltételne tesz eleget, aor bizonyítható, hogy a sajátérté alalmasan normált becslése, λ n gyengén onvergál egy speciális d-dimenziós Ornstein-Uhlenbec folyamat funcionáljához: ahol az Y t, t [, ] folyamatot a n d D λ n λ n e d θi Y dt dw d t Y dt 2 dt, dy t = AY tdt + ΣdW t Y =, egyenlet adja, egy meghatározott A mátrix-szal és W t, t [, ] standard, omplexérté, d-dimenziós és Wiener-folyamattal Bizonyítju azt is, hogy az egydimenziós esetben a diszrét idej modell paraméteréne legisebb négyzetes becslése onvergál a megfelel folytonos idej modell együtthatójána maximum-lielihood becsléséhez, ilyen összefüggés nagyobb dimenzióra nem teljesül Legyen C d a d-dimenziós omplex vetoro tere Jelölje x, y := x y, x, y C d esetén a C d -beli saláris szorzatot, és legyen y az y omplex onjugáltja Eor x C d esetén x normája: x := x, x Lemma 33 alapján A λ paraméter legisebb négyzetes becslése az X,, X n meggyelése λ := n = d j= X,j X,j, X,j n = d j= X,j 2, ahol X = X,,, X,d és X, := Teintsü n =, 2, esetén a d-dimenziós, omplex-érté AR modell sorozatot: { X n = Jλ n X n + εn, =, 2,, n, X n 5 =, 2

13 ahol {ε n } Cd -beli véletlen vetoroból álló tömb és λ n = e hn/n+iθ, ahol h n C, h n h C és θ π, π] Eor, nyilvánvalóan Jλ n Je iθ, mivel λ n e iθ Ebb l övetezi, hogy a modell sorozat özel instabil, mivel ϱje iθ = Teintsü most a fenti özel instabil modell λ n paraméteréna legisebb négyzetes becslését Ez a fenti lemma alapján a övetez : ahol X n, λ n = n = d j= Xn,j Xn,j, Xn,j n = d j= Xn,j 2, := Tegyü a övetez feltevést az {εn} véletlen zajsorozatra: C Legyen ε n, =,, n, n, Cd -beli négyzetesen integrálható martingál dierenciá háromszög rendszere az F n =,,,n;n ltrációra nézve, úgy, hogy minden t [, ] esetén ahol η n nt [nt] = E η n η n F n := Re ζ n, Im ζn és P 2 I 2d ha n, α > n [nt] = E ε n 2 χ n { ε n F >α n} P ha n Eor a övetez tétel teljesül: Tétel 34 Tegyü fel, hogy ε n, =,, n, n tömbre teljesül a C feltétel Eor n d D λ n λ n e d θi Y dt dw d t Y dt 2 dt, 6 ahol az Y t, t [, ] folyamatot dy t = AY tdt + ΣdW t, Y =, adja és W t, t [, ] esetén standard, omplex, ddimenziós Wiener-folyamat, továbbá Σ := diag,,,,, és A az alábbi Jordan-alaú mátrix h sajátértéel: h h A := h h h 3

14 A folytonos idej modell együtthatójána ML-becslése Teintsü a d-dimenziós, omplex-érté Ornstein-Uhlenbec folyamatot, amelyet a övetez sztochasztius dierenciál egyenlet megoldásaént értelmezün: dy t = AY t dt + Σ dw t, Y =, ahol {W t, t [, ]} a standard, C d -beli érté Wiener-folyamat Azonosítsu a omplex Wiener-folyamatot {W t, t [, ]}-t, a R 2d -beli standard Wiener-folyamattal { W t, t [, ]}-al, ahol W t := Re W t, Im W t, Re W 2 t, Im W 2 t,, Re W d t, Im W d t Azonosítsu az {Y t, t [, ]} omplex folyamatot az R 2d -beli érté Ỹ t := Re Y t, Im Y t, Re Y 2 t, Im Y 2 t,, Re Y d t, Im Y d t folyamattal Eor a fenti omplex sztochasztius dierenciálegyenlet evivalens a övetez valós dierenciálegyenlettel: Ỹ t = ÃỸ t dt + Σ d W t, Ỹ =, ahol Ã-t és Σ-t az alábbiént értelmezzü: K I 2 K Ã := I 2 K, I 2 K I 2 Σ := Re h Im h K := Im h Re h = diag,,,,,, I 2 := Ã és Σ valós 2d 2d mátrixo Teintsü a W és Ỹ folyamato által C[, ] R2d - n generált P fw és P ey mértéeet Mint az ismeretes, P ey abszolút folytonos P fw -re nézve és a Radom-Niodym deriváltju az alábbi alaú: dp ey dp fw Ỹ = exp { Σ ÃỸ u, dỹ u 2 ÃỸ u, Σ ÃỸ u du }, 7 ahol Σ jelöli Σ mátrix pszeudoinverzét lásd Arató [3] Könnyen látható, hogy itt Σ = Σ Végül h ML-becslése: ĥ = Y t dy t Y t 2 dt, 4

15 ahol Y az Y omplex folyamat els omponense Így h maximum-lielihood becslése csa Y els omponensét l függ Megjegyezzü azt, hogy d = esetén az el z tétel állítása szerint és az Ito-formula alapján n λ n λ n D Y t dw t Y t 2 dt, ĥ = így nλ n λ h esetén Y t dy t Y t 2 dt = h + n λ n λ n Y t dw t Y t 2 dt, D ĥ, övetezi, azaz a diszrét idej modell együtthatójána legisebb négyzetes becslése a megfelel folytonos idej modell együtthatójána maximum-lielihood becsléséhez onvergál Lásd még [2] Ha d 2 hasonló állítás nem teljesül mivel a diszrét idej modell együtthatójána legisebb négyzetes becslése csa a omplex érté Y folyamat utolsó omponensét l függ 4 Többdimenziós AR folyamato várható értééne becslése A disszertáció ötödi fejezetében többdimenziós autoregressziós folyamato várható értééne becslésével foglalozun Arató [3] tárgyalja valós- és omplex-érté AR folyamato ismeretlen várható értééne statisztiai vizsgálatát Ezeet az eredményeet alapul véve többdimenzióban eressü a várható érté becslését zéró indítású és stacionárius folyamato esetén Megmutatju, hogy a becslés onzisztens, ha a folyamat periódus jelleg omponenséhez tartozi, azonban ha csillapítás jelleg omponenshez tartozi a paraméter, aor ez nem teljesül Komplexérté AR esetén, ahol a folyamat viseledése periódius, a várható érté jól becsülhet AR2 folyamat esetén, aor létezi jó tulajdonságú becslés, ha a araterisztius egyenlet gyöei omplexe Becslés stacionárius AR folyamato esetén Teintsü a d-dimenziós stacionárius AR folyamatot, {Ỹ t : t R}-t, amely a övetez egyenlet gyengén stacionárius megoldása: dỹ t = AỸ t dt + Σ dw t, t R, 8 5

16 ahol A és Σ d d-s mátrixo úgy, hogy A minden sajátértééne pozitív a valós része és {W t : t R} a d-dimenziós standard Wiener-folyamat, azaz {W t : t } és {W t : t } független d-dimenziós Wiener-folyamato Az {Ỹ t : t R} zéró várható érté Gauss-folyamat, melyre Cov Ỹ t, Ỹ s = EỸ tỹ s = e t sa B, s t esetén, ahol a d d-s B mátrix a övetez mátrix egyenlet egyértelm megoldása: AB + BA = ΣΣ 9 Teintsü most az eltolt stacionárius AR folyamatot, { Zt : t R}-t: Zt = Ỹ t + Hm, t R, ahol H egy ismert d d-s mátrix és m R d az ismeretlen paraméter vetor A disszertációban bizonyítju az alábbi tételt: Tétel 4 Legyen [T, T 2 ] R Ha létezi H aor m maximum-lielihood becslése { Zt : t [T, T 2 ]} meggyelése alapján: ahol m = U V ez, U = H B H + T 2 T H A ΣΣ AH, V ez = H B ZT + H A ΣΣ ZT 2 ZT T2 2 + A Zt dt 2 T Továbbá m N d m, U 3 Becslés zéró indítású AR folyamato esetén Teintsü a d-dimenziós zéró indítású AR folyamatot { dy t = AY t dt + Σ dw t, t, Y =, 4 ahol A és Σ tetsz leges d d mátrixo Eor az {Y t : t } folyamat zéró várható érté Gauss-folyamat, melyre Cov Y t, Y s = EY ty s = e t sa B, s, s t esetén, 6

17 ahol a B, s d d-s mátrix az alábbi mátrix egyenlet egyértelm megoldása: AB, s + B, sa = ΣΣ e sa ΣΣ e sa Teintsü most az eltolt stacionárius AR folyamatot, {Zt : t }-t: Zt = Y t + m, t, ahol m R d az ismeretlen paraméter vetor Ebben az esetben is igaz az el z höz igen hasonló tétel Tétel 42 Legyen < T < T 2 Az m paraméter {Zt : t [T, T 2 ]} meggyeléseen alapuló maximum-lielihood becslése ahol m = U V Z, U = B, T + T 2 T A ΣΣ A, V Z = B, T ZT + A ΣΣ ZT 2 ZT + A T Zt dt Továbbá m N d m, U teljesül 7

18 Introduction This dissertation deals with parameter estimation in discrete and continuous time autoregressive processes It is based on one paper of the author [2] and three papers of the author with coauthors [], [3], [4] It contains ve chapters The rst chapter gives an overview of the subject and contains a summary of the results of the thesis The second chapter includes the preliminary results Chapter 3, 4 and 5 contain the author's results Autoregressive stochastic models were widely studied and applied in the last decades The reason is the following: the class of linear models is wide enough to describe many important empirical time series and can be handled well mathematically In addition, autoregressive models use parameters parsimoniously The rst survey of the subject was given by Box and Jenins [] Theoretical results can be found in Fuller [5] and Lipster, Shiryayev [2] Arató's boo [3] is a summary of the topic drawing attention to the connection between the discrete and the related continuous time models The dissertation treats three dierent types of models In Chapter 3, which is based on [], we discuss the generalization of the classical result of Arató, Kolmogorov and Sinay [6] Pap and van Zuijlen [27] gave a multidimensional generalization of result on the complex process We widen out the class of models for which the result holds by showing that one of their conditions is superuous In Chapter 4, which based on [2] and [3], we deal with nearly unstable, nearly stable and explosive AR models In the rst part of this chapter we investigate the limit behaviour of the shift parameter of the discrete time model and study the connection between discrete and continuous time processes In the second part of this chapter nearly unstable multidimensional AR models are treated We discuss time series where the coecient matrices are in Jordan normal form In Chapter 5, which is based on [4], we study the estimation of the mean of multivariate AR processes The limit behaviour of the estimator and the question of consistency is discussed 2 Parameter Estimation with Exact Distribution for Multivariate AR Processes In Chapter 3 we treat the generalization of the result of Arató, Kolmogorov, Sinay [6] on the exact distribution of the maximum lielihood estimate MLE of the period of the complex-valued stationary rst order autoregressive process The complex-valued stationary autoregressive process ξt = ξ t + iξ 2 t, t, 8

19 can be given by the stochastic dierential equation SDE dξt = γξtdt + dwt, where wt = w t + iw 2 t, t is a standard complex Wiener process ie w t and w 2 t are independent standard real valued Wiener processes and γ = λ iω with λ >, ω R Consider the statistics s 2 ξt = t where θt, t is dened by ξu 2 du, r ξ t = ξt = ξt e iθt t ξu 2 dθu, It is nown that the maximum lielihood estimate MLE of the period ω is ˆω ξ t = r ξt s 2 ξ t, and s ξ t ˆω ξ t ω D = N, for all t, where D = denotes equality in distribution Surprisingly, we have an exact distribution, not only an asymptotic property This result was rst formulated and applied in astronomy in Arató, Kolmogorov, Sinay [6] Complicated proofs can be found in Noviov [24], Liptser and Shiryayev [2] Recently Arató [4] gave an elegant new proof using Noviov's method The statement can be reformulated also in the following way Let us consider the two-dimensional real-valued stationary autoregressive process Xt, t, given by the SDE dx t λ ω X tdt dw t = +, 5 dx 2 t ω λ X 2 tdt dw 2 t where W t, t, is a standard two-dimensional Wiener process, and λ, ω R Consider the statistics s 2 Xt = t X 2 u + X 2 2u du, r X t = t The maximum lielihood estimate of the period ω is ˆω X t = r Xt s 2 X t, X u dx 2 u X 2 u dx u and s X t ˆω X t ω D = N, for all t > 9

20 The following natural question can be formulated process Xt, t, given by the SDE dxt = AXtdt + dw t, t, Consider the d-dimensional where W t, t is a standard d-dimensional Wiener process and A is a d d matrix Which conditions should be imposed on the matrix A and on the distribution of the initial value X in order that the suitably normalised MLE of some of its entries will have exactly a normal distribution? This process is the so-called Ornstein-Uhlenbec process and considered as a generalization of Wiener processes Pap [25] and Fazeas [4] found some examples for stationary multidimensional Ornstein-Uhlenbec processes which have the above property Pap and van Zuijlen gave a multidimensional generalization We could weaen the condition of Pap and van Zuijlen by showing that a part of the conditions is superuous in [27] Consider the following multidimensional process: m dxt = λi d + ω i C i Xtdt + dw t, X =, 6 i= where I d is the d d unit matrix, λ, ω,, ω m C,, C m are xed sew-symmetric matrices R are unown parameters and The MLE of ω = ω,, ω m is given by ˆω X t = σ X tr Xt, where σ X t is the m m matrix t σ X t = C i Xs, C j Xs ds and r X t is the m-dimensional column vector t r X t = C i Xs, dxs In [27] it is proved that, i,j m i m σ /2 X tˆω Xt ω D = N, I m for all t >, 7 if conditions C C3 are satised, where C Ci = C i, i =,, m C2 C i C j + C j C i C = C C i C j + C j C i, i, j, =,, m C3 C i C j + C j C i C C l + C l C LC u C v, u, v m, i, j,, l =,, m where LC u C v, u, v m denotes the linear hull of the matrixes C u C v, u, v m In our rst theorem we showed that condition C3 is superuous 2

21 Theorem 2 Let Xt, t, be the process given by 6 Let us suppose that the conditions C and C2 are satised Then 7 holds 3 Nearly Unstable AR Models In Chapter 4, nearly unstable, nearly stable and explosive AR models are studied A multidimensional AR model can be characterized by the help of its coecient matrix Consider the d-dimensional autoregressive model { X = QX + ε, =, 2,, X =, where the d-dimensional real-valued random vector ε contains the random noise at time, and the d d matrix Q is the unnown parameter of the model Let ϱq denote the spectral radius of the matrix Q, ie, the maximum of the absolute values of the eigenvalues of the matrix Q When ϱq <, the model is said to be stable or asymptotically stationary It is well-now that under the assumption that the ε 's are iid with Eε =, Eε ε = Σ, the least squares estimate LSE of Q is asymptotically normal see [], [22] When ϱq =, the model is said to be unstable or unstationary, when ϱq > the model is explosive The unstable model is also called unit root case and have been the subject of much recent attention in the econometrics literature In part, this is because the unit root hypothesis is of considerable interest in applications, not only with data from nancial and commodity marets where it has a long history but also with aggregate time series 3 The Shifted AR Process In the rst part of Chapter 4 we study a sequence of nearly unstable AR models: { X n = α n X n + εn, =, 2,, X n =, where α n = γn n, γn γ R We discuss the questions concerning the LSE of the shift-parameter m n of the model Z n := X n + m n h n, =, 2,, n =, 2,, where m n R is an unnown parameter and h n, =,, n, n =, 2, are nown constraints Let m n T,T 2 be the LSE of m n based on the observations {Z n : [T n] [T 2 n]}, where T < T 2 Our purpose is to investigate the limit behaviour of m n T,T 2 as 2 8

22 n, and the connection between m n T,T 2 and the MLE m T,T 2 of m based on the observations {Zt : t [T, T 2 ]}, where Zt := Y t + mht is the shifted Ornstein-Uhlenbec process with some appropriate function h We discuss these questions concerning nearly stable, nearly unstable and nearly explosive models, as well It turns out that m n T,T 2 is always asymptotically normal, but the speed of convergence is much less in the nearly unstable case The stationary case will be also treated, when m n T,T 2 might not be asymptotically normal if γ n Case of Zero Start AR Model First, consider a shifted zero start Ornstein-Uhlenbec process {Zt : t } given by dy t = γy t dt + dw t, t, Y =, Zt = Y t + mht, t, where γ R is a nown parameter, h : [, R is a nown function and m R is an unnown parameter Let T < T 2 Baran, Pap and Zuijlen [7] proved the following result on the MLE of m Denote by P Z and P Y the measures generated on C[T, T 2 ] R by the processes Z and Y, respectively If h is twice continuously dierentiable with h =, then the measures P Z and P Y are equivalent and the MLE of m based on the observations {Zt : t [T, T 2 ]} has the form where γht m T,T 2 = ζ T,T 2 Â T,T 2, γ cothγt ht 2 + γht if γ, T, Â T,T 2 = ht 2 + h t 2 dt, if γ =, T, T T T γ 2 ht 2 + h t 2 dt, γ 2 ht 2 + h t 2 dt, if T =, 22

23 γ cothγt ht h T ZT + γht 2 + h T 2 ZT 2 + γ 2 ht h t Zt dt, if γ, T, T ht ZT ζ T,T 2 = + h T 2 ZT 2 h T ZT T T 2 T h tzt dt, if γ = T, γht2 + h T 2 ZT 2 + γ 2 ht h t Zt dt, if T = Moreover, m T,T 2 is normally distributed with mean m and variance /ÂT,T 2 We note that the assumption h = is needed because if h and m, then the measures P Z and P Y are singular with respect to each other, since Y = and Z = mh Next, consider a sequence of shifted zero start AR models X n = α n X n + εn, =, 2,, X n =, = X n + m n h n, =,, 2,, Z n for n =, 2,, where {α n : n =, 2, } and {h n : n =, 2, ; =,, 2, } are nown and {m n : n =, 2, } are unnown parameters The LSE m n T,T 2 of the parameter m n based on the observations {Z n : [T n] [T 2 n]}, where T < T 2 is m n T,T 2 = ζ n T,T 2,  n T,T 2 where  n T,T 2 = α n 2 2 h n [T n] + α n 2[T n] if α n, T, 2 h n [T n] [T n] + [T 2 n] j=[t n]+ h n [T 2 n] h n j 2 if T =, j= [T 2 n] j=[t n]+ h n j 2, j 2 if α n =, T, 23

24 ζ n T,T 2 = with the notation α n 2 h n [T n] Zn [T n] α n 2[T n] + if α n, T, h n [T n] Zn [T n] + [T n] j= [T 2 n] j=[t n]+ [T 2 n] h n j Z n j, if T =, h n j := h n j α n h n j, [T 2 n] j=[t n]+ h n j Z n j, h n j Z n j, if α n =, T, Zn j := Z n j α n Z n j We remar that m n T,T 2 has mean m n and variance /Ân T,T 2 and the connec- The next statement describes the asymptotic behaviour of tion between discrete and continuous time models m n T,T 2 Theorem 3 Suppose that h n = h n for n =, 2,, =,, 2, with some twice continuously dierentiable function h : [, R with h = Suppose that for all n, {ε n j : j =,, n} are iid, mean zero and variance i If n α n γ R, then m n T,T 2 m n n ii If n α n ±, then D m T,T 2 m D = N n α n m n T,T 2 m n D N,, T Â T,T 2 ht 2 dt Corollary 32 i If α n = γn n m n T,T 2 m n n with γ n γ R, then, D m T,T 2 m D = N Â T,T 2 ii If α n = γn n with γ n ±, then n α n m n T,T 2 m n D N 24, T ht 2 dt

25 iii If α n α, then n n m T,T 2 m n D N, α 2 T 2 T ht 2 dt Remar 33 We note that no assumption is needed concerning the sequence m n, n =, 2,, unlie in case of the LSE of the coecient α n Case of Stationary Nearly Unstable AR Model A stationary AR time series is the wealy stationary solution of where necessarily α < X = α X + ε, Z, Consider a sequence of shifted stationary AR models { Xn Z n n = α Xn + εn = X n, Z, + m n h n, Z, for n =, 2,, where α n <, n =, 2, and h n, n =, 2,, Z are nown and m n, n =, 2, are unnown parameters Suppose again that for all n, {ε n j : j Z} are iid, mean zero and variance Then, E X n =, D 2 Xn = α n 2, for Z The LSE m n of the parameter m n n based on the observations { Z : [T n] [T 2 n]}, where T < T 2 is where m n T,T 2 = ζ n T,T 2, Ã n T,T 2 Ã n T,T 2 = α n [T 2 n] 2 2 h n [T n] + h n j α n h n j 2, j=[t n]+ ζ n T,T 2 = α n [T2n] 2 h n [T n] Zn [T n] + j=[t n]+ h n j α n h n n n j Z j α Zn j 25

26 Next, consider a stationary Ornstein-Uhlenbec process the stationary solution of {Ỹ t : t R}, which is where γ > necessarily dỹ t = γỹ t dt + dw t, t R, It is a zero mean Gaussian process with EỸ t Ỹ t 2 = e γ t 2 t 2γ Consider a shifted stationary Ornstein-Uhlenbec process { Zt : t R}, given by { dỹ t = γỹ t dt + dw t, t R, Zt = Ỹ t + mht, t R, where γ > is a nown parameter, h : R R is a nown function and m R is an unnown parameter In [7] the following result is proved on the MLE of m Denote by P ez and P ey the measures generated on C[T, T 2 ] R by the processes Z and Ỹ, respectively If h is twice continuously dierentiable, then the measures P ez and P ey are equivalent and the MLE of m based on the observations { Zt : t [T, T 2 ]} has the form where à T,T 2 = γht 2 + γht m T,T 2 = ζ T,T 2 à T,T 2, T γ 2 ht 2 + h t 2 dt, ζ T,T 2 = γht ZT + γht 2 ZT 2 + h T 2 ZT 2 h T ZT + T γ 2 ht h t Zt dt Moreover, m T,T 2 is normally distributed with mean m and variance /ÃT,T 2 Theorem 34 Suppose that h n = h n for n =, 2,, Z with some twice continuously dierentiable function h : R R Suppose that for all n, {ε n j : j Z} are iid, mean zero and variance i If n α n γ, then m n T,T 2 m n n D m T,T 2 m D = N, à T,T 2 26

27 ii If n α n then n α n m n T,T 2 m n D N iii Let n α n and ε n N,, a If ht = c for all t R with some c R, then α n m n T,T 2 m n D N T, ht 2 dt 2c 2 b Otherwise, m n T,T 2 m n n D N, T h t 2 dt 32 Nearly Unstable Multidimensional AR Processes In the second part of Chapter 4 we investigate nearly unstable complexvalued models, where the coecient matrices are in Jordan normal form and we study the limit behaviour of the suitable normalised LSE of the eigenvalue It will turn out that the limit distribution depends only on the last, dth component of the process This type of models is rather special However from a practical point of view it is often useful to investigate the behaviour of the greatest eigenvalue We also compared it with the maximum lielihood estimator MLE of the eigenvalue of the coecient matrix of the related continuous time model It is interesting to note that the MLE of the eigenvalue in the related continuous time model depends only on the rst coordinate of the process Matrices consisting of two or more Jordan blocs were also studied Nearly Unstable AR Models with Coecient Matrices in Jordan Normal Form Consider the ddimensional complexvalued autoregressive model { X = Jλ, dx + ε, =,2,, X =, 27

28 where λ C and d N, Jλ, d is a d d matrix in Jordan normal form, with eigenvalue λ: λ λ Jλ, d := λ λ λ and λ is the unnown parameter of the model If the random innovations ε satisfy a usual, rather general condition, then we found that the suitably normalised LSE of the eigenvalue λ n converges wealy to a functional of a special d-dimensional Ornstein-Uhlenbec process: n d D λ n λ n e d θi Y dt dw d t Y dt 2 dt, where the process Y t, t [, ] is given by dy t = AY tdt + ΣdW t Y =, with a certain matrix A, and W t, t [, ] is a standard complex ddimensional Wiener process We also prove that in the one-dimensional model the LSE of the discrete time models converges to the MLE of the coecient of the corresponding continuous time model If d 2 then such relationship does not hold Let C d be the space of the ddimensional complex column vectors Let us introduce the widely used notation x, y := x y for x, y C d for the scalar product in C d, where y denotes the complex conjugate of y We introduce the norm of x C d by x := x, x If we tae into consideration the special form of the coecient matrix then we can calculate the LSE of λ as follows Lemma 35 The LSE of λ, based on the observations X,, X n is given by n d = j= λ := X,j X,j, X,j n d = j= X,,j 2 where X = X,,, X,d and X, := 28

29 For n =, 2, consider the sequence of ddimensional complexvalued AR models: { X n = Jλ n X n + εn, =, 2,, n, X n =, 9 where {ε n } is an array of random vectors in Cd and λ n = e hn/n+iθ with h n C, h n h C and θ π, π] Clearly Jλ n Je iθ since λ n e iθ It is easy to see that the model is nearly unstable, since ϱje iθ = Consider the ddimensional complexvalued nearly unstable AR process generated according to the scheme 9 We are interested in the limit behaviour of the LSE of λ n which has the following form according to Lemma 35: where X n, := λ n = n = d j= Xn,j Xn,j, Xn,j n = d j= Xn,j 2, Let us put the following condition on the random disturbances {ε n } C ε n, =,, n, n, is a triangular array of square integrable martingale dierences in C d with respect to the ltrations F n =,,,n;n such that for all t [, ] where η n nt [nt] = E η n η n F n := Re ζ n, Im ζn and P 2 I 2d as n, α > n [nt] = E ε n 2 χ n { ε n F >α n} P as n Theorem 36 Suppose that array C Then where the process Y t, t [, ] is given by ε n =,, n, n satises the condition n d D λ n λ n e d θi Y dt dw d t Y dt 2 dt, 2 dy t = AY tdt + ΣdW t, Y =, and W t, t [, ] is a standard complex ddimensional Wiener process, where 29

30 Σ := diag,,,,, and A is the Jordan matrix with eigenvalue h: h h A := h h h MLE of the Coecient of the Related Continuous Time Model Consider the ddimensional complexvalued OrnsteinUhlenbec process dened as the solution of the stochastic dierential equation dy t = AY t dt + Σ dw t, Y =, where {W t, t [, ]} is a standard Wiener process with values in C d Let us identify the complex process {W t, t [, ]} with the standard Wiener process { W t, t [, ]} in R 2d, where W t := Re W t, Im W t, Re W 2 t, Im W 2 t,, Re W d t, Im W d t Let us identify the complex process {Y t, t [, ]} with the process Ỹ t := Re Y t, Im Y t, Re Y 2 t, Im Y 2 t,, Re Y d t, Im Y d t with values in R 2d Then the above complex stochastic dierential equation is equivalent with the following real stochastic dierential equation: Ỹ t = ÃỸ t dt + Σ d W t, Ỹ =, where à and Σ are dened as the following blocs of matrices: K I 2 K à := I 2 K, I 2 K I 2 Σ := = diag,,,,, 3

31 where Re h Im h K := Im h Re h, I 2 := Ã and Σ are real 2d 2d matrices Consider the measures P fw and P ey on C[, ] R 2d generated by the real processes W and Ỹ, respectively It is nown that P Y e is absolutly continuous with respect to the measure P fw and the Radom-Niodym derivative has the form { dp ey Ỹ dp = exp Σ ÃỸ u, dỹ u fw 2 ÃỸ u, Σ ÃỸ u du }, 2 where Σ denotes the pseudo inverse or generalized inverse of the matrix Σ see Arató [3] It can be easily veried that Σ = Σ Finally we obtain ĥ = Y t dy t Y t 2 dt, where Y is the rst component of the complex process Y So the MLE of h depends only on the rst component of Y We remar that in the case d = Theorem 36 says that and the Itô's formula gives ĥ = hence nλ n λ h implies n λ n λ n D Y t dy t Y t 2 dt Y t dw t Y t 2 dt, = h + n λ n λ n Y t dw t Y t 2 dt, D ĥ, that is, the LSE of the coecient of the discrete time models converges to the MLE of the coecient of the corresponding continuous time model See also [2] If d 2 then such a relationship does not hold, because the limit distribution of the LSE of the coecient of the discrete time models depends on the last component of the complex process Y It is also interesting to mention that the complex process Y is driven, in fact, only by the rst component W of the Wiener process W, and the limit distribution of the LSE contains the last component W d, which is, by denition, independent of the rst component W if d 2 3

32 4 Estimation of the Mean of Multivariate AR Processes In Chapter 5 we treat the estimation of the mean of multivariate AR processes In the boo of Arató [3] the estimation of the unnown mean of real- and complex-valued AR processes is discussed Our aim was to investigate the problem of estimation of the mean for stationary and zero start multidimensional autoregressive processes We show that for autoregressive processes the estimators of the mean are consistent if the component of the process is 'periodical', and it is not the case if the component is a 'damping' one In the one-dimensional AR case, the mean cannot be estimated well In the complex AR, where the process behaves periodically, the mean can be estimated well For an AR2 process, the mean can be estimated well, if the roots of the charasteristic equation are complex Case of Stationary AR Process Consider a ddimensional stationary AR process {Ỹ t : t R}, which is the wealy stationary solution of dỹ t = AỸ t dt + Σ dw t, t R, 22 where A and Σ are d d matrices such that all eigenvalues of A have necessarily positive real part, and {W t : t R} is a ddimensional standard Wiener process, ie, {W t : t } and {W t : t } are independent ddimensional standard Wiener processes The process {Ỹ t : t R} is a zero mean Gaussian process with Cov Ỹ t, Ỹ s = EỸ tỹ s = e t sa B, for s t, where the d d matrix B is the only solution of the matrix equation AB + BA = ΣΣ 23 Now, consider a shifted stationary AR process { Zt : t R}, given by Zt = Ỹ t + Hm, t R, where H is a nown d d constraint matrix and m R d vector is an unnown parameter Theorem 4 Let [T, T 2 ] R If H exists then the maximum lielihood estimator of m based on the observation of { Zt : t [T, T 2 ]} is given by m = U V ez, 24 32

33 where U = H B H + T 2 T H A ΣΣ AH, 25 V ez = H B ZT + H A ΣΣ ZT 2 ZT T2 2 + A Zt dt 26 Moreover, m N d m, U 27 T Case of Zero Start AR Process Consider a ddimensional zero start AR process { dy t = AY t dt + Σ dw t, t, Y =, 28 where A and Σ are arbitrary d d matrices The process {Y t : t } is a zero mean Gaussian process with Cov Y t, Y s = EY ty s = e t sa B, s, for s t, where the d d matrix B, s is the only solution of the matrix equation AB, s + B, sa = ΣΣ e sa ΣΣ e sa Now, consider a shifted stationary AR process {Zt : t }, given by Zt = Y t + m, t, where m R d is an unnown parameter vector Theorem 42 Let < T < T 2 The maximum lielihood estimator of m based on the observation of {Zt : t [T, T 2 ]} is given by where m = U V Z, Moreover, U = B, T + T 2 T A ΣΣ A, V Z = B, T ZT + A ΣΣ ZT 2 ZT + A m N d m, U T Zt dt Remar 43 parameter m If T = then Z = Y + m = m gives the precise value of the 33

34 Bibliography [] T W Anderson On asymptotic distributions of estimates of parameters of stochastic dierence equations Ann Math Statist, 3:676687, 959 [2] M Arató Estimation of the parameters of a stationary gaussian marov process Dol Aad Nau SSSR, 45:36, 96 [3] M Arató Linear Stochastic Systems with Constant Coecients A Statistical Approach Lecture Notes in Control and Inf, vol 45, 39 pp Springer-Verlag, Berlin, 982 In Russian, Moscow: Naua, 989 [4] M Arató Asymptotic inference for discrete vector ar processes Publ Math, 36:93, 989 [5] M Arató and A Benczúr Distribution function of the damping parameter of stationary gaussian processses Studia Sci Math Hungarica, 5:445456, 97 [6] M Arató, AN Kolmogorov, and Ya G Sinay Estimation of the parameters of a complex stationary gaussian marov process Dol Aad Nau SSSR, 46:747 75, 962 [7] S Baran, G Pap, and M van Zuijlen Estimation of the mean of stationary and nonstationary ornsteinuhlenbec processes and sheets Report 3, University of Nijmegen, The Netherlands, 2 [8] P Billingsley Convergence of Probability Measures Wiley and Sons, New Yor, 968 [9] M J Bobosi Hypothesis testing in nonstationary time series PhD thesis, Univ Wisconsin, Madison, 983 [] GEP Box and GM Jenins Time Series Analysis Forecasting and Control HoldenDay, San Francisco, 976 [] N H Chan and C Z Wei Asymptotic inference for nearly nonstationary AR processes Ann Statist, 5:563, 987 [2] N Dunford and J T Schwartz Linear Operators Interscience Publishers, New Yor, 958 [3] K Dzhaparidze, T Kormos, J van der Meer, and M van Zuijlen Parameter estimation for nearly nonstationary AR processes Report 928, Department of Mathematics, Catholic University Nijmegen, The Netherlands, 992 [4] I Fazeas Maximum lielihood estimators of parameters of multidimensional stationary gaussian ar processes Computers Math Applic, 27:924,

35 [5] WA Fuller Introduction to Statistical Time Series John Wiley & Sons, New Yor, 976 [6] R R Gantmacher Matrizenrechnung VEB Deutscher Verlag Der Wissenschaften, Berlin, 958 [7] P Jeganathan On the asymptotic behaviour of least-squares estimators in AR time series with roots near the unit circle Econometric Theory, 7:26936, 99 [8] K Koncz On the parameter estimation of diusionaltype processes with constant coecients Analysis Mathematica, 3:759, 987 [9] J Kormos and G Pap Nearly unstable multidimensional AR processes Computers Math Appl, 34:7, 997 [2] J Kormos, T van der Meer, G Pap, and M van Zuijlen Asymptotic inference of nearly nonstationary complex-valued AR processes In Exploring Stochastic Laws, Festschrift in honour of the 7th birthday of academician V S Korolyu The Netherlands: VSP, 995 [2] RS Liptser and AN Shiryayev Statistics of Random Processes I, II, Springer Verlag, New Yor, 977 [22] H B Mann and A Wald On the statistical treatment of linear stochastic dierence equations Econometrica, :7322, 943 [23] Tvd Meer, G Pap, and M van Zuijlen Asymptotic inference for nearly unstable arp processes Econometric Theory, 5:8427, 999 [24] A Noviov On the estimation of parameters of diusion processes Studia Sci Math Hungarica, 7:229, 972 [25] G Pap The distribution of estimates of parameters of multidimensional stationary ar process Computers Math Applic, 27:8, 994 [26] G Pap and M van Zuijlen Asymptotic inference for nearly unstable multidimensional ar processes Theory Probab Appl, 4:737, 996 [27] G Pap and M van Zuijlen Parameter estimation with exact distribution for multidimensional ornstein-uhlenbec processes Journal of Multivariate Analysis, 592:5365, November 996 [28] P C B Phillips Towards a unied asymptotic theory for autoregression Biometria, 74:535547, 987 [29] Tsay RS and GC sc Tiao Asymptotic properties of multivariate nonstationary processes with applications to autoregressions Ann Statist, 8:2225, 99 [3] AN Shiryayev Probability SpringerVerlag, Berlin,

36 [3] CA Stoc JH Sims and MW Watson Inference in linear time series models with some unit roots Econometrica, 58:344, 99 [32] A Stocmarr and M Jacobsen Gaussian diusions and autoregressive processes: wea convergence and statistical inference Scan J Statist, 8:4349, 994 [33] J S White The limiting distribution of the serial correlation coecient in the explosive case Ann Math Statist, 29:8897, List of Publications [] G Pap and K Varga Statistical inference for multidimensional ar processes Publ Math Debrecen, 49/3-4:228, 996 [2] K Varga Nearly unstable ar models with coecient matrices in jordan normal form Computers Math Applic, 36/9:, 998 [3] M Arató, G Pap, and K Varga Asymptotic behaviour of the least squares estimator of the mean of ar models accepted to Analysis Mathematica, 2 [4] M Arató, G Pap, and K Varga Estimation of the mean of multivariate ar processes Computers Math Applic, 43:7779, 22 6 Conference Tals [] G Pap and K Varga Parameter estimation with exact distribution for multidimensional ar processes parameter estimation In XVI Seminar on Stability Problems of Stochastical Models, Eger, Hungary, 994 [2] K Varga Nearly unstable ar models with coecient matrices in jordan normal form In XVIII Seminar on Stability Problems of Stochastical Models, Hajdúszoboszló, Hungary, 997 [3] M Arató, G Pap, and K Varga Asymptotic behaviour of the least squares estimator of the mean of ar models In XXI Seminar on Stability Problems of Stochastical Models, Eger, Hungary, 2 36