Folyamatosan változó mennyiségek feldolgozása II. 7. előadás
Tartalom sztochasztikus folyamatok mintavételezés (lásd Fizikai geod.) LKN kollokáció (lásd Fizikai geod.) geostatisztika, krigelés szűrések interpolációk
Szűrések Detrekői 7.5 célja a hibával terheltnek feltételezett jelek szűrt értékeinek meghatározása a mért pontokban esetenként a jelek értékének becslése nem mért pontokban zajfüggvény leválasztása az alapfolyamatról feltételezzük, hogy a trend zérus típusok: konvolúciós szűrők, medián szűrők, legkisebb négyzetek módszerén alapuló szűrők, Kálmán-szűrők. 3
A szűrések spektrális jellemzői Lineáris szűrést feltételezve: η (t) = O (t) ξ (t) ξ (t) eredeti (nem szűrt) függvény η (t) kimeneti (szűrt) függvény O (t) a szűrés módját előíró operátor. Fourier transzformációval áttérve az ω frekvencia tartományba a szűrés hatását a C(ω) átviteli függvény írja le. Az átviteli függvény írja le az amplitúdó (és ha C komplex, a fázis) viselkedését a szűrés során. 4
Konvolúciós szűrők Az egy és kétváltozós konvolúciós szűrés alapösszefüggései: általános esetben, szimmetrikusan elhelyezkedő jelek esetében. A konvolúciós szűrők fajtái: aluláteresztő szűrők, felüláteresztő szűrők sáváteresztő szűrők- 5
Konvolúciós szűrők aluláteresztő szűrők felüláteresztő szűrők sáváteresztő szűrők sávkorlátozó szűrők A F A F A F A F aluláteresztő felüláteresztő sáváteresztő sávkorlátozó OK stop stop OK stop OK stop OK stop OK 0 f L 0 f H 0 f L f H 0 f L f H 6
Egyváltozós aluláteresztő szűrő ismertek az adott t, t,... t N pontokhoz tartozó s', s',... s' N értékek (hibával terheltek): s' i = s i + n i az s i szűrt értéket a szimmetrikusan elhelyezkedő M + jel súlyozott számtani közepeként állítjuk elő: s i = Σ(w k s i+k ), ez a (diszkrét) konvolúció k Î ( M, +M) 7
Súlyok felvétele futó átlagolás: w k = /(M + ) simító átlagolás: w k = w -k = ((M + k )/ (M + ) pl. ha M =, futó átlagolás: 0., 0., 0., 0., 0. simító átlagolás: 0., 0., 0.333, 0., 0. kiugró értékek kimutatása: s' i s i > e 8
Néhány gyakran alkalmazott kétváltozós konvolúciós szűrés átlagoló szűrők, egyéb aluláteresztő szűrők, felüláteresztő szűrők (Laplace-féle szűrő, LoG, élkiemelés). 9
Medián szűrők zajszűrés, élmegtartás (alacsony zajszint esetén) ismertek az adott t, t,... t N pontokhoz tartozó s', s',... s' N értékek (hibával terheltek): s' i = s i + n i az s i szűrt értéket a szimmetrikusan elhelyezkedő M + jel mediánjaként állítjuk elő: s i = medián(s i+k ), k Î ( M, +M) Például x = [ 80 6 3] szűrés: y[] = medián[ 80] = y[] = medián[ 80 6] = medián[ 6 80] = 6 y[3] = medián[80 6 3] = medián[3 6 80] = 6 y[4] = medián[6 3 3] = medián[3 3 6] = 3 tehát y = [ 6 6 3]. 0
Medián szűrő, példa eredeti kép M=px medián szűrő M=3px medián szűrő M=0px medián szűrő
A legkisebb négyzetek módszerén alapuló szűrők A legkisebb négyzetek módszerén alapuló szűrés a legkisebb négyzetek elvén alapuló kollokáció speciális esete (trend= 0)
A Kálmán-szűrő Rudolf Emil Kalman publikálja az elméletet (960) Első nevezetes alkalmazása: Apolló űrhajó fedélzeti számítógépe (Armstrong) Navigációs és mérnöki alkalmazások Szenzor adatok fúziója (radar, lézerszkenner, kamera, INS, ) GNSS vevők, okostelefonok, számítógépek, játékok, stb. elmaradhatatlan része Tőzsde előrejelzés, idősor elemzés, függvény approximáció Rudolf Emil Kalman (Kálmán Rudolf) (930-) magyar származású villamosmérnök 3
A Kálmán-szűrés definíciója Olyan algoritmus, amely valamely lineáris dinamikus rendszerben egzakt következetést tesz lehetővé, amely a rejtett Markov-modellhez hasonló Bayesféle modell, azonban a rejtett változók állapottere folytonos, és minden rejtett és megfigyelhető változó (gyakran többváltozós) normális eloszlású. UGYE MINDEN VILÁGOS!? 4
Meg lehet érteni? a Kálmán-szűrés elgondolása egészen egyszerű és közvetlen: időben változó rendszer, amelynek állapotát leíró változókat (x) nem (teljesen) ismerjük ezt az állapotot szeretnénk minden lépésben a lehető legjobban megismerni rendelkezünk folyamatos mérésekkel (y), melyek kapcsolatba hozhatók a rendszer állapotával (x) 5
A Kálmán szűrő jellemzői lépésenkénti számítás, csak az előző és a jelenlegi lépés függvényében = rekurzív a kapcsolatok lineárisak (állapot változása, mérések-állapot kapcsolata) sztochasztikus (mérési hibák, állapot és a hibája valószínűségi változók) legkisebb hibájú optimális becslés (csak lineáris esetben bizonyítható) 6
Rekurzív becslés példa egyváltozós rendszer állapotát mérjük egymás utáni időpontokban mérések: x, x, x n, a legjobb állapot becslés az átlag: m = å n x i n i= új mérésünk van: x n+, a következő becslés (számológépek STAT funkciói): m n+ n n æ = xi = ç xi + xn+ n+ i= n+ èn i= n å å n+ n ö ø 7
Erősítés, új információ a frissített becslés kis korrekcióval számítható: n mn+ = mn+ xn+ = mn+ K n+ - n+ n+ K az erősítési tényező ( nyereség ) ez dönti el, mekkora lesz a korrekció x n+ µ n ( x m ) az új információ ( innováció ) ha nincs új információ, nem változik az előző becslés n 8
Rekurzív átlag becslés 9
Különböző információk optimális felhasználása egy távolságot két különböző eszközzel mértünk (mérőszalag, lézer távmérő) mérések: x, x, szórások: σ, σ az optimális becslést keressük x-re ez a súlyozott átlag: xˆ = wx - + ( w) x Mi az optimális w súly? 0
Optimális súly meghatározása mivel x, x normális eloszlású, a lineáris kombinációjuk is normális eloszlású, melynek szórása sˆ ws + (- az optimális w súly ennek a kifejezésnek a minimuma, ahol a w szerinti derivált zérus lesz s w az optimális súly tehát = w) s ˆ = w ( ) opt s - -w opt s w opt = s s + s = 0
Rekurzív optimális becslés Két lépésben mérünk, először x -et, azután x -t. Az első lépésben ˆ s ˆ = s x = x A második lépésben frissítjük a becslést sˆ xˆ - = xˆ + ˆ sˆ + s s ˆ æ sˆ ( x x ) ö ø = ç- sˆ sˆ + s è K erősítés (nyereség) új információ (innováció)
Rekurzív optimális becslés a becslési egyenletek ( x x ) xˆ - sˆ = xˆ ˆ + K ( ) - K s = ˆ K = sˆ sˆ + s becslés hibája (szórás) K: erősítés ismerős az egyenlet alakja? n+ = mn+ K n+ ( x m ) m - n 3
Többváltozós eset egy változó esetén: varianciák K = sˆ sˆ + s K: erősítés (szám) több változó esetén: kovariancia mátrixok K ˆ ˆ ˆ - ( M+ ) = M M K: erősítés (mátrix) (nyereségmátrix) 4
Erősítés mértéke ha jó a mérés, kicsi a σ hiba (szórás): K = sˆ sˆ sˆ» = sˆ + 0 +s egységnyi erősítés következménye: ( x ) ( ) - xˆ» xˆ + x- x x x ˆ = = xˆ + K ˆ a második mérés lesz az új becslés 5
Erősítés mértéke ha rossz a mérés, nagy a σ hiba (szórás): K = sˆ sˆ sˆ» = sˆ + +s 0 zérus erősítés következménye: ( x ) - xˆ» xˆ + 0 x x ˆ = = xˆ + K ˆ az első mérés lesz az új becslés 6
Közvetett mérések Mi van, ha x-et nem tudjuk közvetlenül mérni (rejtett változó, rendszerállapot)? Geodéziában ez jól ismert: közvetett mérések kiegyenlítése (II. kiegyenlítési csoport, paraméteres kiegyenlítés), Gauss-Markov modell Lineáris (közvetítő) egyenlet az y mérés és x rendszerállapot között (z a mérési hiba, zaj ): y = Cx+ a mérési zajt zérus átlag ( ) és az S z kovariancia mátrix jellemzi (E[ ] a várható érték): z z z = 0 [ ] T ( z- z)( z- z S = E ) 7
Kálmán szűrők elve Állapotegyenlet: x k+ = Ax k + Bu k + w k Átviteli egyenlet: y k = Cx k + z k A, B, C mátrixok; k az időváltozó (index) x a rendszer állapota (közvetlenül nem mérhető) u a rendszer ismert bemenete y a mért kimenete w és z a zaj w folyamat zaj z-t a mérési zaj 8
Rekurzív állapotbecslés állapot terjedése korrekció x ˆ = ( Axˆ + Bu ) + K ( y k+ k k k k+ -Cxˆ k ) K mátrix: Kálmán-féle nyereségmátrix 9
Állapot hiba terjedése Átviteli egyenlet: y k = Cx k + z k Hibaterjedés a mért kimenetre P y = CP k C T + S z C mátrix; k az időváltozó (index) x a rendszer állapota (közvetlenül nem mérhető) y a mért rendszer kimenet P k a becslési hiba kovariancia mátrixa P y a rendszer kimenet kovariancia mátrixa S z a mérési zaj kovariancia mátrixa 30
K nyereségmátrix Ha nagy a mérési zaj, S z is nagy lesz, tehát K kicsi, és így nem adunk nagy hitelt az y méréseinknek a következő állapot becslésénél. Viszont ha kicsi a mérési zaj, S z is kicsi lesz, tehát K nagy, és így több hitelt adunk a méréseinknek a következő állapot becslésénél. K k T = AP C ( CP C + S k k z T ) - 3
3 Kálmán szűrők elve Folyamat zaj kovariancia: Mérési zaj kovariancia: Kálmán-szűrő algoritmusa: ) ( T k k w w w S = E ) ( T k k z z z S = E T k z T k w T k k k k k k k k z T k T k k A CP S AP C S A AP P Cx y K Bu Ax x S CP C AP C K ) ˆ ( ) ˆ ( ˆ ) ( - + + + - - + = - + + = + =
P kovariancia terjedés A kovariancia terjedés összefüggése: P = AP A T + S - k+ k w AP C k T S - z CP k A T 33
Kálmán szűrés 34
Kálmán-szűrő alkalmazásai objektumkövetés, mesterséges látás dinamikus helymeghatározás gazdaságtan, makroökonómia inerciális navigáció pályameghatározás radar követés GNSS szeizmológia beszédjavítás időjárás előrejelzés navigációs rendszerek 3D modellezés stb. 35
Példa: járműnavigáció piros : valódi helyzet kék : mért helyzet zöld : a Kálmán-szűrő által becsült helyzet 36
Interpolációk Detrekői 7.4 Célja: a jelek meghatározása olyan pontokban, ahol jel nem áll rendelkezésünkre trend = zérus a felhasznált jeleket nem terheli zaj típusai: interpoláció súlyozott számtani középként, legkisebb négyzetek módszerén alapuló interpoláció, legközelebbi szomszéd módszere, lineáris és bilineáris interpoláció, spline-interpolációk polinomiális interpolációk klasszikus és általánosított interpoláció eltolt lineáris interpoláció 37
Interpoláció súlyozott számtani középként Az ismeretlen ponthoz tartozó jelet az ismert pontokhoz tartozó jelek (általában a távolságoktól függő) súlyozott számtani közepeként számítjuk. D, D, 3D esetben egyaránt alkalmazható. 38
A legkisebb négyzetek módszerén alapuló interpoláció A legkisebb négyzetek módszerén alapuló interpoláció a legkisebb négyzetek elvén alapuló kollokáció speciális esete (trend= 0, zaj=0). 39
Interpoláció feladata alappontok: x k,, k = 0,,..., n ahol a függvény értékei adottak: f k := f(x k ) approximáció: a közelítő függvény nem halad át az alappontokon interpoláció: a közelítő függvény áthalad az alappontokon 40
A legközelebbi szomszéd módszere (lépcsős interpoláció) az ismeretlen ponthoz tartozó jel értékét a hozzá legközelebbi ismert jelű pont jel értékével tekintjük azonosnak. D, D, 3D esetben egyaránt alkalmazható. 4
A legközelebbi szomszéd módszere (lépcsős interpoláció) -szeres elforgatás, interpoláció 4
Lineáris interpoláció számítási összefüggések Példa az alkalmazásra. 43
Bilineáris interpoláció számítási összefüggések Példa az alkalmazásra. 44
Bilineáris interpoláció -szeres elforgatás, interpoláció 45
Spline interpoláció A spline interpoláció elve. Egyváltozós harmadfokú spline interpoláció. Példák az alkalmazásokra. 46
Spline interpoláció elve A módszer lényege, hogy szakaszosan, több alacsony fokszámú polinommal közelítjük az adatokat. Például harmadfokú spline esetén, s i a i x 3 + b i x + c i x+ d i Az együtthatókat a csatlakozási, simasági és végfeltételekből határozzuk meg 47
48 Egyváltozós köbös spline Harmadfokú spline esetén a megoldandó egyenletrendszer a D i deriváltakra (m + adatpont van): m+ egyenlet m+ ismeretlenre Ha megkaptuk a D i -ket, ezekből a i, b i, c i, d i könnyen számítható: ú ú ú ú ú ú ú ú ú û ù ê ê ê ê ê ê ê ê ê ë é - - - - = ú ú ú ú ú ú ú ú ú û ù ê ê ê ê ê ê ê ê ê ë é ú ú ú ú ú ú ú ú ú û ù ê ê ê ê ê ê ê ê ê ë é - - ) 3( ) 3(... ) 3( ) 3(.... 4.... 4 4 4 0 0 0 m m m m m y y y y y y y y D D D ) ( ) 3( + + + + + + - = - - - = = = i i i i i i i i i i i i i i D D y y d D D y y c D b y a
Köbös spline interpoláció -szeres elforgatás, interpoláció 49
Interpoláció polinommal interpolációs polinom: olyan p(x), max. n-edfokú polinom amelyre teljesül, hogy p(x k ) = f k, k = 0,,..., n Tétel: Pontosan egyetlen olyan polinom létezik, amelynek fokszáma n és az n + különböző x k pontban az adott f k értékeket veszi fel (k = 0,,..., n). 50
Lagrange-féle interpolációs polinom speciális eset: f m =, az összes többi interpolált érték 0 l m (x k ) =, ha k = m és l m (x k ) = 0, ha k m gyöktényezős alakban: l m (x) = c m (x-x 0 )(x-x ) (x-x m- )(x-x m+ ) (x-x n ) a c állandó meghatározása: = c m (x m -x 0 ) (x m -x m- )(x m -x m+ ) (x m -x n ) a keresett Lagrange-féle interpolációs polinom: l m ( x) x - = n Õ k= 0 xm- k¹ m x k x k 5
Lagrange-féle interpoláció interpoláció a Lagrange-féle polinommal f å int ( x) l ( x) interpolációs feltétel f = n m f m m= 0 n int = m= 0 ( xk ) = ålm( xk) fm = fk k 0,,..., akkor teljesül, ha n l m ( x k ) = ì, í î0, k k = ¹ m m 5
53
Interpolációk osztályozása Klasszikus interpoláció Általánosított interpoláció Eltolt lineáris interpoláció 54
Klasszikus interpoláció interpoláció a φ int (x) magfüggvénnyel f ( x- ) int ( x) = å f jint nîz interpolációs feltétel n x n fint ( xk) = å fnjint( xk - xn) = fk k = nîz akkor teljesül, ha 0,,..., n j int ( x k - x n ) = ì, í î0, k k = ¹ n n 55
Egyenközű klasszikus interpoláció egyenlő, egységnyi x i = i -k f = f ( k-i) k å iîz diszkrét konvolúció f k ij int = ( f * p) interpolációs feltételből következik, hogy k k Î Z p k = j int ( k ) p k = d k = ì, í î0, k k = ¹ 0 0 56
Általánosított interpoláció interpoláció a φ(x) bázisfüggvénnyel f ( x) = c j( x- ) int å nîz interpolációs feltétel n x n fint ( xk) = åcnj( xk - xn) = fk k = nîz 0,,..., előny: most a bázisfüggvénynek nem kell kielégítenie az interpolációs feltételt, ezért kedvezőbben választható meg hátrány: több számítás n 57 Hivatkozás: Thévenaz et al.(000)
Kapcsolat a klasszikus interpolációval klasszikus interpoláció: f int ( x) = å fnjint nîz interpoláló és nem interpoláló magfüggvény j int ( x ) = hj( x-n) å nîz ( x -n) az ekvivalens interpoláló magfüggvényt a bázisfüggvények szerinti szűréssel kapjuk meg n kîz 58
Példa: köbös spline köbös B-spline (nem interpoláló) -> Gauss-féle függvény /6, 4/6, /6 sorozat kardinális köbös spline (interpoláló) -> sinc függvény 59
Lineáris interpoláció másként φ bázisfüggvény: háromszög vagy kalap Λ(x) 60
Lineáris interpoláció átskálázott és egész értékkel eltolt kalap függvények összege f ( x) = f L( x- ) int å nîz n x n 6
Eltolt lineáris interpoláció nem interpoláló Λ bázisfüggvénnyel (T mintavételezési köz, 0 < τ 0.5 eltolás) f int ( x) = å nîz rekurziós egyenlet f n c n æ Lç è x T - = cn( n- -t) + c t ö n-t ø 6
Interpoláció konstrukciója lineáris eltolt lineáris f f n n- c c n n- f n+ c n+ τt (-τ)t τt (-τ)t τt 63
Az interpoláló bázisfüggvény 64
c együtthatók számítása c n helyben számítható (f n felülírható): c n t -t = - cn- + -t f n kiindulás: c = 0 = c - =... f0 c n számítása hatékony, rekurziós szűréssel lehetséges 65
Példa: Gauss-féle függvény interpolációja eredeti függvény minták f ( x) = e x - 66
Optimális eltolás Gain = 0 log 0 e elineáris eltoltlineáris τ opt = 0. 67
Optimális lineáris interpoláció T. Blu et al. (004) eredeti függvény egyenközű minták lineáris interpoláció eltolt lineáris interpoláció optimális eltolás: eltolás 68
A lineáris interpoláció szabályos hibát tartalmaz 69
Képfeldolgozás lineáris interpolációval eredeti kép hagyományos lineáris interpoláció eltolt lineáris interpoláció x elforgatás és interpoláció után 70
5 x 4 -os elforgatás és interpoláció SNR = jel-zaj viszony (signal to noise ratio) eredeti kép lineáris interpoláció eltolt lineáris interpoláció Keys köbös interpoláció SNR= db, CPU=5. s SNR=8.5 db, CPU=5. s SNR=8.5 db, CPU=9.4 s 7
Itt a vége...? 7