Irányításelmélet és technika II. Legkisebb négyzetek módszere Magyar Attila Pannon Egyetem Műszaki Informatikai Kar Villamosmérnöki és Információs Rendszerek Tanszék amagyar@almos.vein.hu 200 november 26.
Áttekintés Bevezetés Bevezetés 2 Predikciós hiba minimalizálása 3 Legkisebb négyzetek módszere Magyar A. (Pannon Egyetem) Irányításelmélet 200 november 2 / 5
Bevezetés Bevezetés Modell paraméter becslés - problémafelvetés Adott egy parametrizált dinamikus rendszermodell y (M) = M(u, y; θ) mért adatsorozat (a kimenet mérési hibával terhelt) D[0, k] = {(u(i), y(i)) i = 0,..., k} alkalmas. jelnorma, amellyel az y (M) modellkimenet és az y mért kimenet közti különbség nagyságát mérjük Feladat számítsuk ki az ismeretlen θ modell paraméterek becslését (ˆθ) úgy, hogy y y (M) min Magyar A. (Pannon Egyetem) Irányításelmélet 200 november 3 / 5
Áttekintés Predikciós hiba minimalizálása Bevezetés 2 Predikciós hiba minimalizálása Prediktív input-output modellek Predikciós hiba 3 Legkisebb négyzetek módszere Magyar A. (Pannon Egyetem) Irányításelmélet 200 november 4 / 5
Predikciós hiba minimalizálása Prediktív input-output modellek Prediktív input-output modellek Dinamikus rendszerek paramétereinek becslésére többnyire bemenet-kimenet modelleket használunk...... mivel a rendszer bemenetei és kimenetei mérhetők közvetlenül emlineáris időinvariáns egykimenetű rendszerek prediktív alakja ŷ(k θ) = g(k, D[, k ]; θ) g nemlineáris függvény Magyar A. (Pannon Egyetem) Irányításelmélet 200 november 5 / 5
Predikciós hiba Predikciós hiba minimalizálása Predikciós hiba A modell kimenetek és a mért kimenetek ismeretében előállítható a predikciós hiba sorozat ε(k, θ) = y(k) ŷ(k θ), k =,..., A paraméterbecslő eljárás a mért érték sorozatból előállít egy becsült paraméter vektort, azaz egy leképezés D ˆθ (A paraméterbecslés elve:) Az ismert D mért érték sorozatból kiszámítható az ε(k, θ) becslési hiba. A k = időpillanatban válasszuk meg a becsült ˆθ paraméter vektort úgy, hogy az ε(k, θ), k =,..., predikciós hibák a lehető legkisebbek legyenek. Magyar A. (Pannon Egyetem) Irányításelmélet 200 november 6 / 5
Predikciós hiba minimalizálása orma megválasztása Predikciós hiba A predikciós hiba nagysága egy általános jelnormával mérhető V (θ, D ) = l(ε(k, θ)) i= ahol l(.) egy pozitív skalár értékű függvény. Egykimenetű eset: legegyszerűbb és legelterjedtebb a négyzetes jelnorma l(ε) = 2 ε2 Súlyozott eset: nem egyenlően pontos mérések V (θ, D ) = β(, k)l(ε(k, θ)) Magyar A. (Pannon Egyetem) Irányításelmélet 200 november 7 / 5
Áttekintés Legkisebb négyzetek módszere Bevezetés 2 Predikciós hiba minimalizálása 3 Legkisebb négyzetek módszere Általános eset Lineáris eset A becslés tulajdonságai Magyar A. (Pannon Egyetem) Irányításelmélet 200 november 8 / 5
Általános eset Legkisebb négyzetek módszere Általános eset Egykimenetű eset, négyzetes jelnorma: V (θ, D ) = t= [y(k) ŷ(k θ)]2 2 A keresett paramétervektor és a mért kimenetek vektora Prediktív modell: θ T = [θ θ 2... θ m ], y T = [y() y(2)... y()] ŷ(k θ) = f (θ, k), V (θ, D ) = [y(k) f (k, θ)] [y(k) f (k, θ)]2 2 f (k, θ) θ j = 0, j =,..., m (A fenti egyenletrendszert kell megoldani θ-ra.) Magyar A. (Pannon Egyetem) Irányításelmélet 200 november 9 / 5
Lineáris eset Legkisebb négyzetek módszere Lineáris eset Paraméterekben lineáris modell esetén: ŷ(k θ) = θ T ϕ(k) ahol ϕ(.) az úgynevezett regresszor, a mért adatokat tartalmazza; θ a becsülni kívánt állandó modellparaméterek vektora. A predikciós hiba: ε(k, θ) = y(k) θ T ϕ(k) A minimalizálandó kritériumfüggvény: V (θ, D ) = [ ] 2 y(k) θ T ϕ(k) 2 Magyar A. (Pannon Egyetem) Irányításelmélet 200 november 0 / 5
Lineáris eset Legkisebb négyzetek módszere Lineáris eset Elvégezve a parciális deriválásokat a paramétervektor elemei szerint: Ebből: [ ] ϕ(k) y(k) ϕ T (k)θ = 0 ϕ(k)y(k) = ϕ(k)ϕ T (k)θ aminek megoldása θ-ra adja az LS- vagy LK-becslést: [ ] ˆθ LS = ϕ(k)ϕ T (k) ϕ(k)y(k) Magyar A. (Pannon Egyetem) Irányításelmélet 200 november / 5
Legkisebb négyzetek módszere Lineáris eset Példa - paraméterben lineáris nemlineáris eset Paraméterekben lineáris ARX modell, amikor a kimeneti rendszerzaj fehér. y(k) = a y 2 (k ) + b 0 u 4 (k) + e(k) Az általános nemlineáris prediktív alak: Segédváltozókkal: θ = [a b 0 ] T, ŷ(k θ) = y(k) e(k) y 2 (k ) = z(k ), u 4 (k) = w(k) a modell teljesen ARX alakra hozható. Magyar A. (Pannon Egyetem) Irányításelmélet 200 november 2 / 5
Legkisebb négyzetek módszere Lineáris eset Példa - ARX modellek paramétereinek LK becslése Az általános alakú input-output modellben a mozgóátlag tag nulla, azaz a kimeneti rendszerzaj fehér A modell prediktív alakja: A (q )y(k) = B (q )u(k) + e(k) ŷ(k θ) = a y(k ) a 2 y(k 2) a n y(k n)+b 0 u(k)+ +b m u(k m A paramétervektor: A regresszor: θ = [ a a 2... a n b 0 b... b m ] T ϕ(k) = [y(k ) y(k 2)... y(k n) u(k) u(k )... u(k m)] T Magyar A. (Pannon Egyetem) Irányításelmélet 200 november 3 / 5
Legkisebb négyzetek módszere A becslés tulajdonságai A becslés aszimptotikus tulajdonságai y(k) = θ T 0 ϕ(k) + ν 0 (k) modellel leírható rendszer, {ν 0 (k)} hibasorozattal, θ 0 a paraméter úgynevezett nominális értéke vagy "valódi érték"e. LK becslés és jelölés [ ] ˆθ LS = ϕ(k)ϕ T (k) ϕ(k)y(k), R() = ϕ(k)ϕ T (k) Magyar A. (Pannon Egyetem) Irányításelmélet 200 november 4 / 5
Legkisebb négyzetek módszere A becslés tulajdonságai ˆθ LS () = [R()] ˆθ LS () = θ 0 + [R()] [ ] ϕ(k) ϕ(k) T θ 0 + ν 0 (k) ϕ(k)ν 0 (k) A becslési hiba a fenti egyenlet második tagja. Azt szeretnénk, - ha ez a tag "kicsi" lenne, hiszen ekkor lesz a becsült érték a valódi θ 0 értékhez közel, és azt, - ha ez a tag tartana 0-hoz a minta elemszámának növelésével, azaz, ha. Egy becslés viselkedését a mintaelemszám növelésével a becslés aszimptotikus viselkedés-ének nevezik. Ilyen értelemben beszélhetünk például aszimptotikus torzítatlanságról. Magyar A. (Pannon Egyetem) Irányításelmélet 200 november 5 / 5