Nem-paraméteres predikció, Lasso közelítés

Átírás

1 Problémamegoldó Szeminárium nov. 12

2 Motiváció Pénzügyi idősorok elemzése (Morgan-Stanley): Fedezési eljárások optimalizációja Lasso, Opció árazás: nem-paraméteres úton kernel regresszió. Funkcionális AR folyamat analízis ( koktél parti probléma) identifikáció: kernel regresszió, Nadaraya-Watson becslő.

3 Lasso: motiváció Befektetési bankok (pl. MS) központi célja: állományuk folyamatos fedezése (hedge-elése), azaz illiquid termékeik értékének becslése, piacon elérhető (liquid) termékekhez való lekötése, a folyamatosan fennálló kockázatok ellenére (incomplete piac). a hozzájuk befutó ügyfél faramuci termék kívánságainak kielégítése: Cél: olyan portfolio kialakítása, ami a kívánt termékkel azonos kifizetést ad.

4 Lasso: regularizáció, ritkaság Gyakorlatban a közelítő idősorok erősen kollineáris rendszert alkotnak rosszul kondícionált rendszerek, instabil megoldás. Ötlet: regularizációs technikák alkalmazása: simaságot/egyértelműséget biztosít. ritka reprezentáció: tranzakciós költség által is motivált, stabil Markowitz portfoliok elmélete.

5 Lasso: modell Lasso modell (lineáris egyenletrendszer ritkasági kényszerekkel): J 1 (x) = Ax b 2 + λ x 1 (λ > 0) min x, (1) ahol: A: közelítő termékek (portfolio), b: közelített termék, λ x 1 : regularizációs tag, tranzakciós költség (λ: bid-ask spread),

6 Lasso: portfolio újraalakítás Portfolio újra alakításakor: kevés fedező változó (súlyát) szeretnénk változtatni, Lasso megfogalmazásban: ahol J 2 ( x) = A (x + x) b 2 + λ x 1 min x, (2) A, b : új időszakhoz tartozó értékek, x = x + x: módosított súlyok.

7 Nem-paraméteres módszerek: Motiváció Regressziós megfogalmazás: x R d 1 y R d 2 (3) közt fennálló relációt szeretnénk megtanulni {(x i, y i )} i=1,...,n minták alapján. Példák: Különböző típusú házak mennyit érnek: (NO 2, bűnözési ráta, szobák száma,... ) érték. (4) műhold képek (spektrális sűrűségfüggvény integrálja kül. sávokban) egységnyi területre eső búza/kukorica termés, opció árazás, koktél parti feladatok.

8 Nem-paraméteres módszerek: Opció árazás Call (put) opció: jog arra, hogy T idő múlva K áron vehetek (eladhatok) adott terméket. Kérdés: mennyit ér ez az opció? Azaz C(t, T,S t, K, r t,t, d t,t ) =?, (5) ahol S t : a mögöttes termék aktuális ára, r t,t : kockázatmentes hozam, d t,t : osztalék.

9 Nem-paraméteres módszerek: Black-Scholes Speciális paraméteres modell feltevések esetén: C explicite számolható, pl Black-Scholes esetben C BS ( ) = S t e d t,t(t t) φ(b 1 ) Ke r t,t(t t) φ(b 2 ), (6) b 1 = ln(s t/k) + (r t,t d t,t + σ 2 /2)(T t) σ, (7) T t b 2 = b 1 σ T t, (8) ahol φ a standard normális eloszlás eloszlásfüggvénye. Gond: amennyiben nem teljesül a modell feltevésük, erősen félreáraznak. Motivált: Ĉ nem-parametrikus becslése/közelítése.

10 Nem-paraméteres módszerek: ISA szemlélet Koktél parti probléma: Szereplők: beszélők (rejtett források) független csoportokba tömörülhetnek, mikrofonok (szenzorok). Feladat (ISA, Independent Subspace Analysis): kevert jelekből az eredeti források becslése.

11 Nem-paraméteres módszerek: ISA modell ISA modell: x t = Ae t, (9) ahol e = [e 1 ;... ; e M ] forrás: e m R dm komponensei nem-gaussok és időben i.i.d.-k, függetlenek: I(e 1,..., e M ) = 0. az A R D D keverőmátrix invertálható. Cél: x-ből W = A 1 becslése, ê. Alkalmazások: orvosi adatok (EEG, fmri, ECG) elemzése, arcirány felismerés, gén analízis,

12 Nem-paraméteres módszerek: AR-ISA, far-isa Valóságosabb modell: s forrásnak van dinamikája, pl AR: x t = As t, (10) s t = L s ahol e mint ISA-ban. Spec.: L s = 0-ra ISA. i=1 F is t i + e t, (11) Kiterjesztés (dinamika családja is ismeretlen), funkcionális AR-ISA (far-isa): x t = As t, (12) s t = f(s t 1 ) + e t, (13) ahol f: ismeretlen függvény; e = [e 1 ;... ; e M ], mint ISA-ban. Cél: x-ből W = A 1 becslése, ŝ, ê.

13 Nem-paraméteres módszerek: far-isa megoldás Megoldási stratégia: s t funkcionális AR, x t = As t x t is funkcionális AR x t = Af(A 1 x t 1 ) + Ae t, (14) Ae meghajtó zajjal és f( ) Af(A 1 ). d-függő CHT Ae közelítőleg Gauss, e komponenseinek fgtlenek, így egy far fittelő adta Ae-becslésen ISA-zással kész lennénk. Kerestetik: far becslő.

14 Nem-paraméteres módszerek: far becslő Előző diáról: x funkcionális AR x t = Af(A 1 x t 1 ) + Ae t. (15) Ötlet: tanuljuk meg ezt az x t 1 x t összefüggést nem-parametrikus regresszióval, azaz ahol y i = g(x i ) + n i (i = 1,...,T), g( ) =?, (16) y/x/n: válasz-/magyarázó változó; zaj g: ismeretlen feltételes várható érték fg, {(x i, y i )} T i=1 : mintapontok.

15 Nem-paraméteres módszerek: kernel regresszió Nem-paraméteres regresszió kernelekkel = kernel regresszió, pl Nadaraya-Watson becslő: Ötlet: az g(x) = E[Y X] ismeretlen várható érték fg-t a (x, y), x eloszlások kernel sűrűségfg becsléséből közelítjük. Az adódó formula T i=1 ĝ(x) = y ik ( x x ) i h T i=1 K ( x x ), (17) i h ahol K : kernel (=sűrűségfg; pl Gauss), h: szélesség paraméter.

16 Nem-paraméteres módszerek: rekurzív NW Ismert: A rekurzív Nadaraya-Watson technika (igen általános feltételek mellett) erősen konzisztens becslést szolgáltat funkcionális AR folyamatokra Ref.: Nadine Hilgert, Bruno Portier: Strong uniform consistency and asymptotic normality of a kernel based error density estimator in functional autoregressive models, arxiv, Megoldási út: 1 Funkcionális-AR fit (Nadaraya-Watson) a x t = g(x t 1 ) + Ae t (18) megfigyelési folyamatra. 2 Majd ISA x becsült innovációján ê, Ŵ ŝ.

17 Jóságmérce ISA egyértelműségek szerint a rejtett forráskomponensek permutáció, és és altéren belüli lineáris transzformáció erejéig állíthatóak vissza. Ideális esetben: ŝ = Ŵx-ben G = ŴA blokk-permutációs mtx Blokk-permutációsságra mérce: Amari-index r(g) [0, 1]; 0 tökéletes becslés. Statisztikák ábrázolása boxplot-ok: kvartilisek: Q 1, Q 2, Q 3, kiugró értékek: [Q 1 1.5IQR, Q IQR], IQR := Q 3 Q 1.

18 Illusztráció-1 e [ d m = dim(e m ) = 2; D = dim(e) 12]: Funkcionális AR becslő (rekurzív Nadaraya-Watson), x R D, β (0, 1/D): T 1 t=1 ĝ T (x) = tβd K[t β (X t x)]x t+1 T 1 (19) t=1 tβd K[t β (X t x)] Kernel: Gauss, szélesség (β = 1/Dβ c ): β c = 1./[2, 4, 8, 16, 32, 64]. f(u) = tanh(fu) : F = [F ij ] = [U(0, 1)], tanh i ( ):

19 Illusztráció-2 Megfigyelés (x): Szabó Zoltán, Lo rincz András

20 Illusztráció-2 Megfigyelés (x): Becslés (e ): Szabó Zoltán, Lo rincz András

21 Illusztráció-2 Megfigyelés (x): Becslés (e ): Hinton-diagram (G = W A): Szabó Zoltán, Lo rincz András

22 Illusztráció-3: M = 3 (6-dimenziós feladat) Amari index (r) 10 0 β c =1/2 β =1/4 c β c =1/ β =1/16 c β c =1/ Mintaszám (T/1000)

23 Illusztráció-4: M = 6 (12-dimenziós feladat) 10 0 Amari index (r) 10 1 β c =1/8 β =1/16 c β c =1/32 β =1/64 c Mintaszám (T/1000)

24 Köszönöm a figyelmet!