Bevezetés az algebrába 2 Vektor- és mátrixnorma

Bevezetés az algebrába 2 Vektor- és mátrixnorma Wettl Ferenc Algebra Tanszék B U D A P E S T I M Ű S Z A K I M A T E M A T I K A É S G A Z D A S Á G T U D O M Á N Y I I N T É Z E T E G Y E T E M 2016. április 29. Wettl Ferenc Bevezetés az algebrába 2 Vektor- és mátrixnorma 2016. április 29. 1 / 29

Tartalom 1 Norma 2 Mátrixnorma 3 Alkalmazások Wettl Ferenc Bevezetés az algebrába 2 Vektor- és mátrixnorma 2016. április 29. 2 / 29

Norma 1 Norma 2 Mátrixnorma 3 Alkalmazások Wettl Ferenc Bevezetés az algebrába 2 Vektor- és mátrixnorma 2016. április 29. 3 / 29

Norma D Az x vektor euklideszi normája vagy más néven abszolút értéke x 2 = n x 2 = n x 2 i = x T x, ha x R n, x i 2 = x H x, ha x C n. m Manhattan ( x + y ), képméretezés (max{ x, y }). D A p 1 valósra az x C n vektor p-normája x p = ( n x i p ) 1/p, míg ennek határértéke a -norma, azaz x = lim p x p. Wettl Ferenc Bevezetés az algebrába 2 Vektor- és mátrixnorma 2016. április 29. 6 / 29

Norma m 1-norma = rácsnorma = Manhattan-norma maximum norma = -norma x = lim p x p = lim p ( n ) 1/p x i p = max x i. i B a legnagyobb abszolút értékű koordináta x max ( x i / x max 1) n 1 x i /x max p n. Mindegyik kifejezést 1/p-edik hatványra emelve, majd x max -szal beszorozva kapjuk, hogy ( n x max x max x i p ) 1/p x x max n 1/p, max Wettl Ferenc Bevezetés az algebrába 2 Vektor- és mátrixnorma 2016. április 29. 7 / 29

Norma p = 1 p = 3 2 p = 2 p = 3 p = Wettl Ferenc Bevezetés az algebrába 2 Vektor- és mátrixnorma 2016. április 29. 8 / 29

Norma p = 1 p = 2 p = Wettl Ferenc Bevezetés az algebrába 2 Vektor- és mátrixnorma 2016. április 29. 9 / 29

Norma Á Az előző normák alaptulajdonságai: x 0 x = 0 x = 0 ( a d(x, y) = x y távolságfüggvény szeparálja a pontokat, azaz két különböző pont távolsága sosem 0) cx = c x (pozitív homogenitás) x + y x + y (háromszögegyenlőtlenség) D Az f : R n R, vagy f : C n R függvény norma, ha f (x) 0 minden x vektorra, és f (x) = 0 pontosan akkor áll fenn, ha x = 0, f (cx) = c f (x) minden x vektorra, f (x + y) f (x) + f (y). m x = x bármely. normára igaz, hisz x = 1 x = x. m háromszögegyenlőtlenség másik alakja: z x z x Wettl Ferenc Bevezetés az algebrába 2 Vektor- és mátrixnorma 2016. április 29. 11 / 29

Norma m A háromszögegyenlőtlenség p-normánál: Minkowski-egyenlőtlenség: x + y p x p + y p. (1) m A Hölder-egyenlőtlenség a CBS-egyenlőtlenség általánosítása: x H y x p y q, ahol 1 p + 1 q = 1. (2) m Ha x x egy norma, és A egy egy-egy értelmű lineáris leképezés, akkor az x Ax leképezés is norma m max i { x i } x 1 2 + + x n 2 x 1 + + x n azaz m Másrészt x x 2 x 1. x 1 n x 2, x 2 n x és x 1 n x. m Minden norma folytonos függvény. Wettl Ferenc Bevezetés az algebrába 2 Vektor- és mátrixnorma 2016. április 29. 12 / 29

Norma D A. a és. b normák ekvivalensek, ha van olyan c és d pozitív valós szám, hogy. a c. b és. b d. a. m Az 1-, 2- és -normák ekvivalensek T A K n téren értelmezett bármely két norma ekvivalens (K = R vagy C). m Ez csak véges dimenziós terekben igaz, itt tehát a konvergenciakérdésekhez bármelyik norma jó. Wettl Ferenc Bevezetés az algebrába 2 Vektor- és mátrixnorma 2016. április 29. 14 / 29

Mátrixnorma 1 Norma 2 Mátrixnorma 3 Alkalmazások Wettl Ferenc Bevezetés az algebrába 2 Vektor- és mátrixnorma 2016. április 29. 15 / 29

Mátrixnorma D Az A C m n mátrix Frobenius-normája m n A F = a ij 2 m n = A i* 2 2 = A *j 2 2. j=1 T Frobenius-norma ekvivalens alakjai: A F = trace(a H A) = j=1 min(m,n) σi 2. B [A H A] jj = A *j 2 2 nyom = sajátértékek összege Á Bármely x C n vektorra és A C m n mátrixra Ax 2 A F x 2. B Cauchy Bunyakovszkij Schwarz-egyenlőtlenségből: n n Ax 2 2 = A i* x 2 A i* 2 2 x 2 2 = A 2 F x 2 2. Wettl Ferenc Bevezetés az algebrába 2 Vektor- és mátrixnorma 2016. április 29. 18 / 29

Mátrixnorma D. : K n n R mátrixnorma, ha A 0, és A = 0 pontosan akkor áll fenn, ha A = O, ca = c A, A + B A + B, AC A C. D. egy tetszőleges vektornorma. Ekkor az A = max x =1 Ax egyenlőséggel definiált függvényt a vektornorma által indukált mátrixnormának nevezzük. m Jelölés: A p = max x p =1 Ax p m Ha lineáris leképezésre értelmezzük, operátornormáról beszélünk. m A normák ekvivalenciájából bármely normában az egységgömb korlátos és zárt a x Ax függvénynek van maximuma és minimuma m a definíció ekvivalens alakjai A = sup Ax x = max Ax x =0 x. x =0 Wettl Ferenc Bevezetés az algebrába 2 Vektor- és mátrixnorma 2016. április 29. 20 / 29

Mátrixnorma T Legyen A C m n, ekkor A 1 = max j A = max i A 2 = n a ij = legnagyobb abszolút oszlopösszeg, (3) m a ij = legnagyobb abszolút sorösszeg, (4) j=1 A H 2 = max x 2 =1 y 2 =1 yh Ax = σ 1, (5) Ha az A C n n invertálható, akkor A 1 2 = max x 2 =1 1 Ax 2 = 1 min Ax 2 x 2 =1 ahol σ n az A legkisebb (pozitív) szinguláris értéke. = 1 σ n, (6) m Az 1-, a - és a 2-normára szokásos másik elnevezés: oszlopnorma, sornorma és spektrálnorma. Wettl Ferenc Bevezetés az algebrába 2 Vektor- és mátrixnorma 2016. április 29. 22 / 29

Mátrixnorma B p = 1: ha x 1 = 1, akkor m n m n n m Ax 1 = a ij x j a ij x j = x j a ij j=1 j=1 j=1 n m m x j max a ij = max a ij j j j=1 m E max elérhető, ha k-adik oszlopössz. a max: Ae k 1 = max a ij. j p = : ha x = 1, akkor n n n Ax = max i a ij x j max a ij x j max a ij. j=1 i i j=1 j=1 Ez a maximum el is érhető: ha a k-adik sor a max, akkor az ( ak1 x = a k1, a k2 a k2,..., a ) kn a kn vektorra x = 1 és Ax = max i nj=1 a ij. Wettl Ferenc Bevezetés az algebrába 2 Vektor- és mátrixnorma 2016. április 29. 23 / 29

Mátrixnorma p = 2: A CBS-egyenlőtlenség szerint y H Ax y 2 Ax 2, így max x 2 =1 max y 2 =1 yh Ax max x 2 =1 Ax 2 = A 2. Legyen x 0 az a vektor, melyben Ax 2 a max Ax 0 2 = max x 2 =1 Ax 2 = A 2, y 0 = Ax 0 Ax 0 2 = Ax 0 A 2. y H 0 Ax 0 = xh 0 AH Ax 0 A 2 = Ax 0 2 2 A 2 = A 2 2 A 2 = A 2. Wettl Ferenc Bevezetés az algebrába 2 Vektor- és mátrixnorma 2016. április 29. 24 / 29

Mátrixnorma Az A 2 = σ 1 igazolásához a következő maximumot keressük: Ax 2 2 x H A H Ax x H. x A 2 2 = max x 0 x 2 = max x 0 2 Legyenek v 1,..., v n a jobb szinguláris vektorok, ekkor bármely x = j c jv j 0 vektorra λ 1 = vh 1 AH Av 1 v1 Hv, λ 1 xh A H Ax 1 x H = λ 1 x j λ jc 2 j j c2 j tehát A 2 2 = λ 1, azaz A 2 = λ 1 = σ 1. 1 1 min Ax = max = max 2 x 2 =1 Ax 2 y 0 x 2 =1 = max y 0 = j (λ 1 λ j )c 2 j j c2 j 1 A A 1 y 2 = max y 0 A 1 y 2 ( ) y A 1 = max A 1 x = y 2 x 2 2 =1 0, A 1 y 2 y 2 A 1 2. A 1 szinguláris értékei az A szinguláris értékeinek reciprokai A 1 legnagyobb szing.ért. az A legkisebb szing.értékének reciproka. Wettl Ferenc Bevezetés az algebrába 2 Vektor- és mátrixnorma 2016. április 29. 25 / 29

Alkalmazások 1 Norma 2 Mátrixnorma 3 Alkalmazások Wettl Ferenc Bevezetés az algebrába 2 Vektor- és mátrixnorma 2016. április 29. 26 / 29

Alkalmazások 1 Norma 2 Mátrixnorma 3 Alkalmazások Wettl Ferenc Bevezetés az algebrába 2 Vektor- és mátrixnorma 2016. április 29. 27 / 29

Alkalmazások Eckart Young-tétel T Kis rangú approximáció tétele Eckart Young-tétel A r-rangú, k-adik szinguláris értéke σ k, jobb és bal szinguláris vektorta v k, illetve u k. Legyen k A k = σ i u i vi T. Ekkor A k az A mátrix legjobb legföljebb k-rangú közelítése, azaz min A B F = A A k F = r(b) k r i=k+1 min A B 2 = A A k 2 = σ k+1. r(b) k σ 2 i, Wettl Ferenc Bevezetés az algebrába 2 Vektor- és mátrixnorma 2016. április 29. 28 / 29

Alkalmazások B 2-normára: r(b) k, így dim N (B) n k. Legyen V = span(v 1, v 2,..., v k+1 ) a k + 1 legnagyobb szing.ért.hez tartozó jobb szinguláris vektorok által kifeszített altér. Ha k r, akkor kész vagyunk, A legjobb közelítése A és σ k+1 = 0. Feltehető r > k dim N (B) + dim V (n k) + (k + 1) > n N (B) V w N (B) V, w 2 = 1. Ekkor A B 2 2 (A B)w 2 2 = Aw 2 2 k+1 k+1 = σi 2 vi T w 2 σk+1 2 vi T w 2 = σk+1 2 Másrészt A A k 2 = σ k+1, így A B 2 A A k 2. Wettl Ferenc Bevezetés az algebrába 2 Vektor- és mátrixnorma 2016. április 29. 29 / 29