Alkalmazott algebra - SVD

Átírás

1 Alkalmazott algebra - SVD Ivanyos Gábor 20 sz

2 Poz. szemidenit mátrixok spektrálfelbontásának általánosítása nem feltétlenül négyzetes mátrixokra

3 LSI - mögöttes szemantikájú indexelés "Közelít " webkeresés egy modellje dokumentumok (weblapok) vektorok, a koordináták a (lényeges) szavaknak felelnek meg: A koordináták kiszámítására példák: egyszer incidencia: 0 vagy fontosság szerinti súlyok Pl. relatív említési gyakoriságból kalkulált Számíthat az említés módja is: címben, hivatkozásban, szövegben keres kérdés dokumentum-vektor Feladat: a kérdés vektorához minél jobban illeszked : "hasonló", "közeli" dokumentum-vektor keresése Nem pontos illeszkedés: lehet, hogy a legjobb találat nem is tartalmazza a kérdés egy szavát se, inkább A kérdés "jelentéséhez" van köze

4 LSI - mögöttes szemantikájú indexelés LSI - mögöttes szemantikájú indexelés Latent Semantic Indexing m dokumentum (pl. weblap), n szó A = (α ij ) m n-es, α ij j. szó az i. dok-ban A sorai dokumentumok A oszlopai: szavak "prolja" Feltevés: a háttérben (általunk nem ismert) fogalmak, jelentések állnak a szavak jól közelíthet k fontosabb jelentések elegyével a jelentéseket a dokumentumokból "tanulhatjuk" meg a közelítés hibája: "zaj", "lényegtelen", "esetleges" dolgok

5 LSI - mögöttes szemantikájú indexelés LSI A = (α ij ) m n-es, α ij j. szó az i. dok-ban Formálisan: léteznek f = f f 2. f m,..., f k = f k f 2k. f mk Rm oszlopvektorok (a jelentések proljai), hogy A oszlopai jól közelíthet k f,..., f k lineáris kombinációival, azaz létezik olyan B m k-as mátrix, hogy A FB, ahol F = (f ij ). B i-edik sora az A-nak az i-edik oszlopát közelít kombináció együtthatóiból áll

6 LSI - mögöttes szemantikájú indexelés Alacsony rangú közelítés Áll.: Legyen A egy m n-es mátrix. Ekkor A rangja k léteznek olyan B k n-es és F m k-as mátrixok, amelyekre A = FB. Biz.: A rangja k létezik olyan F m k-as, hogy A oszlopai megkaphatók F oszlopainak lineáris kombinációiként Emellett B i-edik sora az A i-edik oszlopát el állító kombináció együtthatóiból áll. Tehát: a "lényeg" A alacsony rangú közelítése

7 Eredet: f komponensanalízis Eredet: f komponensanalízis K. Pearson 90 A = (α ij ) m n-es, α ij j. adat értéke az i. mérés során Pl. kérd ív kérdéseire adott válaszok, skálázva Oszlopok: val. változók mért adatai a j B 0 α j. α mj Sorok: egy-egy mérésre az adatok sora a i = `α i... α in m Feltesszük: i= α ij = 0 0-ra normált empirikus átlagok a j 2 = m i= α2 ij : empirikus szórásnégyzet a legfontosabb "rejtett összetev ": abban az irányban vett adatok, amerre a leginkább szórnak. C A

8 Eredet: f komponensanalízis F komponensanalízis u irányú adatok: Legyen u = 0 µ. µ n C A egységvektor (u T u = ). Az i-edik mérés u irányú adata ai T vektor u irányú (u-val párhuzamos) komponensének az együtthatója, azaz a i u = n j= α ijµ j. Az m darab u irányú adat együtt: Au. f irány: az az u, amelyre Au 2 = m i= (a i u) 2 maximális a megfelel "rejtett változó" az Au oszlopvektor a következ f irány: az u-ra mer legesek közül a legnagyobb vetületet adó irány, stb...

9 Eredet: f komponensanalízis F komponensanalízis és szinguláris értékek A = (α ij ) tetsz leges m n-es mátrix ( m i= α ij = 0 nem kell.) u R n olyan egységvektor, amelyre Au 2 a lehet legnagyobb Ha u,..., u s már megvan, u s+ egy olyan egységvektor {u,..., u s } -b l, amelyre Au s+ 2 a lehet legnagyobb Mi lehet u,..., u n?

10 Eredet: f komponensanalízis F komponensanalízis és szinguláris értékek Észrevétel: Au 2 = u T A T Au, és A T A poz. szemidenit utóbbi biz.: (A T A) T = A T A, tehát A T A szimm. v T (A T A)v = (Av) T (Av) 0. (Egyenl ség v ker A-ra). Köv.: M ortog., hogy M T A T AM = diag(σ 2, σ2 2,..., σ2 n). Feltehet, hogy σ σ 2... σ n 0. (Elnevezés: szinguláris értékek) Áll.: u = esetén Au σ és ha Au = σ, akkor u sajátvektora A T A-nak σ 2 sajátértékkel. (zh09030, 5. fa.) 0 ν Biz.: Legyen M mit fent és v := M T B u ν n C A. Ekkor u = Mv és Au 2 = AMv 2 = v T M T A T AMv = P n i= ν2 i σ2 P n i i= ν2 i σ2 = σ2, és ha ν i 0 olyan i-re, amelyre σ i < σ, akkor < áll. Különben u = Mv az M olyan oszlopainak lineáris kombinációja, amelyek sajátvektorok σ 2 sajátértékkel.

11 Eredet: f komponensanalízis F komponensanalízis és szinguláris értékek Áll.: Tfh. u = és u M els k oszlopára. Ekkor Au σ k+ és ha Au = σ k, akkor u sajátvektora A T A-nak σ 2 k sajátértékkel. 0 ν Biz.: Legyen v = M T B u ν n ν =... = ν k = 0, Ekkor Au = AMv és Au 2 = P n i=k+ ν2 i σ2 i hasonló a k = esethez. C A. A mer legességi feltétel miatt P n i=k+ ν2 i σ2 k+ = σ2. Az egyenl ség vizsgálata is k+ Köv.: A f irányok A T A sajátvektorai, azaz (lényegében) M oszlopai.

12 Szinguláris értékek Szinguláris értékek A m n-es valós mátrix Megj: (a komplex eset hasonlóan m ködik) Def.: A szinguláris értékei A T A (nem nulla) sajátértékeinek -e Áll.: A T A rangja = A rangja Biz.: Észrevétel: ker A T AR n = 0. Észrv. biz.:tfh. v ker A T AR n : A T v = 0 és v = Au. Ekkor u T A T Au = u T A T v = 0, így Au = 0. Dimenziótétel A T -nek AR n -re való megszorítására+észrv.: dim A T AR n = dim AR n 0 = dim AR n, azaz A T A rangja = A rangja. Köv.: (poz.) szinguláris értékek száma = rang

13 Szinguláris értékek A és A T szing. értékei Áll.: Ha σ (poz.) szing. értéke A-nak, akkor A T -nak is (és viszont). Részletesebben: Ha v sajátvektora A T A-nak σ 2 0 sajátértékkel, akkor Av sajátvektora AA T -nak szintén σ 2 sajátértékkel. Biz.: Tfh. 0 v és A T Av = σ 2 v. Ekkor (AA T )(Av) = A(A T A)v = Aσ 2 v = σ 2 Av. v = σ 2 A T Av, így Av 0. Megj. A (poz.) szing. értékek multiplicitásai is ugyanazok. Biz.: A σ A az AT A σ 2 -sajátalterét az AA T σ 2 -sajátalterébe viszi. A σ AT pedig fordítva. A két leképezés megszorítása a σ 2 -sajátalterekre inverzei egymásnak.

14 SVD SVD - A f lemma Lemma: Tetsz. A m n-es valós mátrixhoz léteznek M n n-es és M m m-es ortogonális mátrixok, hogy: 0 σ σ 2 M T AM = Σ = σ n C A illetve 0 σ σ 2 σ n C A Az els az m > n esetet, a második az m < n esetet ábrázolja σ... σ n: A T A sajátértékeinek nemnegatív -e

15 SVD SVD - a f lemma bizonyítása Legyen M olyan ortog., amelyre M T A T AM = diag(σ 2,..., σ 2 n) Megj: f komponensanalízisnél M oszlopai: a f irányok, AM oszlopai: a f irányok mentén vett értékek vektorai Legyenek AM oszlopai w,..., w n. (AM) T (AM) = diag(σ 2,..., σ2 n) miatt { σ wi T 2 w j = i, ha i = j 0 ha i j

16 SVD SVD - a f lemma bizonyítása II j σ w T 2 w i j = i, ha i = j 0 ha i j Tfh. σ... σ r > 0, de σ r+ =... = σ n = 0. Megj.: i > r-re w i = 0 (mert w T i w i = σ 2 i = 0) Legyenek i r -re v i = σ i w i Ha m > r, egészítsük ki v r+,..., v m -mel R m ortonormált bázisává. j v T σi, ha i = j < r w i j = 0 egyébként Legyenek M oszlopai: v,..., v m. Ekkor M ortog. és M T AM = Σ

17 SVD Teljes SVD Tétel: Tetsz. A m n-es valós mátrixhoz léteznek M n n-es és M m m-es ortogonális mátrixok, hogy A = M Σ M T, ahol 0 σ σ 2 Σ = σ n C A illetve 0 σ σ 2 σ n C A Biz.: a f lemma egyenl ségét M -vel ill. M T -vel szorozzuk balról-jobbról.

18 SVD Redukált SVD Tétel: Tetsz. A m n-es valós, r rangú mátrixhoz vannak U m r -es, U n r -es mátrixok, hogy U T U = U T U = I r, azaz U, ill. U oszlopai ortonormált rendszerek A = U ΣU T, ahol 0 σ σ 2 Σ = σ r C A σ >... > σ r > 0 A (poz.) szing. értékei. Megj. (a komplex eset): U U = U U = I r, A = U ΣU. (Ekkor A A lesz poz. szemidef. önadj.)

19 SVD Redukált SVD - bizonyítás Teljes SVD: A = M Σ M T Legyenek M = (U T ), M = (U T ). U ill. U az M ill. M els r oszlopa. Nyilván U T U = U T U = I r. «Σ Σ 0 = 0 0 «««Σ A = (U T 0 U T ) 0 0 T T = (U U T Σ 0) T T = U ΣU T.

20 SVD SVD: "Egyértelm ség" kérdése Tfh. A = U ΣU T, ahol Σ = diag(σ,..., σ r ), σ... σ r > 0, U m r -es U n r -es, U T U = I r, U T U = I r. Ekkor A T A = UΣU T U ΣU T = UΣ 2 U T, így Σ 2 = U T A T AU. Innen: U oszlopai az A T A mátrix nem 0 sajátértékeihez tartozó sajátaltereinek ortonormált bázisait adják. Egészítsük ki U-t egy n n-es M ortog. mátrixszá ker A T A-ból vett oszlopvektorokkal. Erre M T A T AM = Σ 2. U : fenti érvelés, A A T cserével. Köv: ha A pozitív szinguláris értékei páronként kül, akkor U és U az oszlopok egységszerese (±) erejéig egyértelm.

21 SVD SVD - példa 0 A A «3 3 A T A =, M T A T AM = Σ 2 = 3 3 M = + +! 2 2 +, AM 2 0 A c 2 c 3 3 M B c 22 c C 23 3 A c 32 c 33 3 Σ = 6, U = 2 2 0!, U B «6 0, Σ = 0 0 «6 0, C B A, tehát A C 3 A

22 SVD SVD szimmetrikus mátrixokra A T = A a szinguláris értékek A sajátértékeinek abszolút értékei (multiplicitással). 0 λ λ 2 Tfh. A = U B A UT,... λ n ahol U n n-es ortogonális; λ λ 2... λ n. Ekkor A egy lehetséges teljes SVD-je 0 λ A = U λ 2... λ n C A UT, ahol U i-edik oszlopa U i-edik oszlopának ±-szerese, aszerint, hogy λ i 0 vagy λ i < 0.

23 Alacsony rangú közelítések A Frobenius-norma A m n-es valós Def. (Frobenius-norma-négyzet): (= eukl. hossznégyzet) A 2 = m n i= j= a 2 ij. Ugyanaz, mint: sorok v. oszlopok hossznégyzet-összege Elegáns alak: A 2 = tr A T A = tr AA T, ahol Emlék. (nyom, trace): B = (b ij ) n n-esre tr B = n i= b ii Megj. (komplex mátrixokra): A 2 = a ij 2 = tr A A = tr AA Nyom tulajdonsága: A m n-es, B n m-esre: tr AB = tr BA.

24 Alacsony rangú közelítések Normatartó szorzások: Áll.: Tfh. A m n-es, B olyan m m-es amelynek az oszlopai ortonormált rendszert alkotnak (azaz B T B = I m ), C olyan n n -es, amelynek a sorai ortonormált rendszert alkotnak (azaz CC T = I n ). Ekkor BA 2 = A 2 = AC 2. Biz.: A oszlopai a,..., a n, BA oszlopai Ba,..., Ba n. B az R m standard bázisát B képterének egy ortonormált bázisába viszi, tehát B egy izometria R m és B képtere között. Így Ba j 2 = a j 2 és BA 2 = P Ba j 2 = P a j 2 = A. A másik =-ség innen A A T, B C T helyettesítéssel. Másik biz.: BA 2 = tr A T B T BA = tr A T I ma = tr A T A = A 2.

25 Alacsony rangú közelítések Az EckartYoung-tétel EckartYoung 936 (Psychometrika) Korábban: Schmidt approximációs tétele 907 (függvények kontextusában) Redukált SVD: A = U ΣU T. k r -re legyenek U (k) : U els k oszlopa U (k) : U els k oszlopa Σ (k) = diag(σ,..., σ k ): Σ bal fels k k-as része A (k) := U (k) Σ (k) U (k)t Tétel: A-nal A (k) az (egyik) legjobb k rangú közelítése a Frobenius-normában (A hiba: A A (k) 2 = P r i=k+ σ2 i ) Megj.: Mirsky 960: és még sok más fontos normában is ez a legjobb

26 Alacsony rangú közelítések EckartYoung teljes SVD-vel Teljes SVD: A = M Σ M T, ahol Σ m n-es diagonális, σ,..., σ r nemnulla átlós elemekkel Σ (k) : írjunk Σ -ben σ k+,..., σ r helyébe 0-t A (k) = M Σ (k) M T

27 Alacsony rangú közelítések EckartYoung bizonyítása Az U T -vel való balról, U-val jobbról szorzás tartja a Frobenius-normát: A A (k) 2 = U T (A A (k) )U 2 = σ 2 k σ2 r, ahol g Σ (k) = diag(σ,..., σ k, 0,..., 0) r r-es Legyen A egy k rangú m n-es Σ Σ (k) 2 = A A 2 = U T (A A )U 2 = U T AU U T A U 2 = Σ C 2, ahol C := U T A U k rangú r r-es Elég tehát a következ spec. esetet igazolni: Spec. eset: tetsz. C k rangú r r -esre: diag(σ,..., σ r ) C 2 σ 2 k σ2 r.

28 Alacsony rangú közelítések EckartYoung spec. eset bizonyítása Spec. eset: tetsz. C k rangú r r -esre: diag(σ,..., σ r ) C 2 σ 2 k σ2 r. Legyen W = ker C egy r k dimenziós altere U r (r k)-as oszlopai: W egy ortonormált bázisa U 2 r k-as oszlopai: W egy ortonormált bázisa (U U 2 ) r r -es ortogonális D := diag(σ,..., σ r )

29 Alacsony rangú közelítések EckartYoung spec eset bizonyítása II D C 2 = = «(U U 2 ) T (D C)(U U 2 ) 2 = U T 2 U2 T (D C)(U U 2 ) «U T (D C) 2 U2 T (U (D C) U 2 ) = U T (D C)U U T (D C)U «2 2 U2 T (D C)U U2 T (D C)UT 2 U T (D C)U 2 = U T DU U T CU 2 = U T DU 2 : a mátrix normája a mátrix bal fels blokkjának a normája utolsó =: U T CU = 0 mert CU = 0 (U oszlopai C magjából) Elég tehát: D = diag(σ,..., σ r )-re és tetsz olyan U r (r k)-asra, amelyre U T U = I r k, teljesül U T DU 2 σk σ2 r

30 Alacsony rangú közelítések EckartYoung spec eset bizonyítása III Utolsó lépés D = diag(σ,..., σ r ), U r (r k)-as, amelyre U T U = I r k. U T DU 2 = tr (U T DU ) T U T DU = tr U T DT DU = tr U U T DT D = tr U U T D2 = ahol U U T = (β ij ). rx β ii σ 2 i, i= Áll.: U U T egy r k rangú mer leges vetítés (U U T )T = U U T és (U U T )2 = U U T U U T = U I n k U T = U U T Innen: 0 β ii r és i= β ii = r k. r Fenti feltételek mellett: i= β iiσi 2 min, ha a legkisebb -eket vesszük a lehet legnagyobb súllyal: σ 2 i U T DU 2 = r i= β iiσi 2 σ 2 k σ2 r, épp ez kellett.

31 Alacsony rangú közelítések LSI - keresés záró megj. Észrevétel: Ha w A egy sora, az A (k) mátrixnak a megfelel sora éppen w vetülete az A (k) sorai által generált altérre. Biz.: Ha nem az lenne, kicserélve a sort w vetületével jobb közelítést kapnánk Keres kérdés dokumentum-vektor A sorai. Eljárás: A keres kérdés vektorát levetítjük A (k) sorai által gen. altérre.

32 Az SVD további alkalmazásai Az SVD kiszámításáról Naiv módszer: A T A sajátértékei a kar. pol.-ból, majd a sajátalterek homogén lin. egyenletrendszerekkel Gauss-elimináció Gond: a Gauss-elimináció numerikus hibákra instabil Hatékony numerikus módszerek vannak (kés bb tárgyaljuk)

33 Az SVD további alkalmazásai Poláris felbontás Négyzetgyök Áll.: Ha A n n-es valós poz. szemidef., akkor! olyan B n n-es poz. szemidef., hogy A = B 2 (jel.: B = A). Biz.: Legyen U ortog., hogy D = U T AU diag. ( 0 elemekkel), B = D (elemenként). B valós, poz. szemidef. és B 2 = D. B = UB U T is poz. szemidef, továbbá B 2 = UB U T UB U T = UB 2 U T = UDU T = A. Egyértelm ség: Tfh A = B 2. Legyen U olyan ortog., hogy U T BU = B diag. Ekkor U T AU = U T B 2 U = B 2 diag. Innen: U T AU és B sajátalterei ugyanazok: U T AUv = λv B v = λv Innen: (v = Uu): Au = λu UB U T u = λu Bu = λu. Így B nem lehet más, mint fenti konstrukció.

34 Az SVD további alkalmazásai Poláris felbontás Poláris felbontás Tétel: Tetsz. A n n-es valós mátrixra A = PM, ahol M n n-es ortog. P n n-es poz. szemidef. P egyértelm, és ha A nemszing., akkor M is. Biz. Létezés: A teljes SVD-je: A = U Σ U T, ahol U és U n n-es ortog., Σ pedig egy n n-es diag. nemneg. Legyen P = U ΣU T és M = U U T. P egyért.: AA T = PMM T P = P 2, így P = AA T. Ha A invertálható, akkor P is az és M = P A. Megj.: hasonlóan, A = M P, ahol M unitér és P poz. szemidef. P = P akkor és csak akkor, ha A T A = AA T, azaz ha A normális. Megj: Komplex A = PM, ahol M unitér, P poz. szemidef önadj. -dim. komplex eset: komplex számok felbontása re iφ alakban.

35 Az SVD további alkalmazásai Poláris felbontás (teljes) SVD a poláris felbontásból Négyzetes mátrixokra A = PM M ortog. P poz. szemidef: M T PM = Σ diag, A = U ΣU T, ahol U = M T, U = M T M T.

36 Az SVD további alkalmazásai Homogén lineáris egyenletrendszerek megoldása Homogén lineáris egyenletrendszerek megoldása SVD-vel A feladat: Ax = 0 megoldása, azaz ker A számítása. Emlékeztet : A T A rangja = A rangja, így (pl. a dimenziótételb l) Teljes SVD: A = M Σ M T ker A T A = ker A. Σ = M T AM, innen Σ 2 = Σ T Σ = M T A T M M T AM = M T A T AM Σ 2 = M T A T AM, azaz M oszlopai A T A sajátvektoraiból álló ortonormált bázis Köv.: M utolsó n r oszlopa: ker A T A = ker A egy ortonormált bázisa

37 Az SVD további alkalmazásai Homogén lineáris egyenletrendszerek megoldása Homogén lin. egyenletrendszerek megoldása legkisebb négyzetes hibával Elnevezés: "total least squares" Ax = 0 közelít megoldása a legkisebb négyzetes hibával x = mellett: Ax 2 min, feltéve x =. Feltehet : ker A = 0, így n poz. szing. érték van. SVD: A = U ΣU T így Σ 2 = U T A T AU. legyenek v,..., v n U oszlopai. Ortonormált bázis, A T Av i = σ 2 i v i. Legyen x = α i v i, ahol x 2 = α i 2 =. Ekkor Ax 2 = (Ax, Ax) = (x, A T Ax) = ( X α i v i, X α i σ 2 i v i ) = X σ 2 i α i 2 X α i 2 σ 2 n = σ2 n, (ez, a másik irányban volt a f komp-nél) az optimum σ 2 n, x = v n-nel el is érhet σ n > σ n esetén az optimális x ±-szeres erejéig egyértelm.

38 Az SVD további alkalmazásai A MoorePrenrose-féle pszeudoinverz Inhomogén egyenletrendszerek megoldása legkisebb négyzetes hibával Ax = b lineáris egyenletrendszer. A m n-es valós, b R n nem mindig van pontos megoldás: olyan x R n, amelyre Ax b = 0 Közelít megoldás: olyan x, amelyre Ax b 2 min Ilyen x-re Ax éppen b-nek AR n -re való vetülete Tudjuk: altér legközelebbi pontja a vetület Fogjuk látni: létezik A + n m-es, amelyre AA + éppen az AR n -re való vetítés (az egyik) legkisebb négyzetes hibájú magoldás: x = A + b. (mert Ax = AA + b=a vetület) az összes mo.: a ker A + A + b eltolt altér

39 Az SVD további alkalmazásai A MoorePrenrose-féle pszeudoinverz A MoorePenrose-féle pszeudoinverz Def.: A m n-es valós mátrixnak egy pszeudoinverze egy olyan A + n m-es valós mátrix, amelyre AA + A = A, A + AA + = A +, AA + szimmetrikus, A + A szimmetrikus. (Megj.: komplex A-ra szimm. helyett önadj.) Pszeudoinverz az SVD-b l: Ha A red. SVD-je A = U ΣU T, akkor A = UΣ U T (egy) pszeudoinverze A-nak. Biz.: U T U = U T U = I r -ból AA = U ΣU T UΣ U T = U U T és A A = UΣ U T U ΣU T = UU T. Az AA = U U T és A A = UU T a segítségével: AA A = U U T A = U U T U ΣU T = U ΣU T = A. A AA = A U U T = UΣ U T U U T = UΣ U T = A (AA ) T = (U U T ) T = U U T = AA. (A A) T = (UU T ) T = UU T = A A.

40 Az SVD további alkalmazásai A MoorePrenrose-féle pszeudoinverz Pszeudoinverz és vetítés Lemma: Tfh. A + egy pszeudoinverze A-nak. Ekkor AA + az R m tér mer leges vetítése A képterére, A + A pedig az R n tér mer leges vetítése A T képterére. Biz.: AA + szimm. és (AA + ) 2 = AA +, azaz egy mer leges vetítés. AA + képtere nyilván A képtere. A = (AA + )A képtere nyilván AA + képtere. Tehát AA + mer leges vetítés A képterére. A + A is mer leges vetítés (hasonló biz.). A + A szimm., így A + A = A T A + T, ezért A + A képtere A T képtere. A = AA + A miatt A + A rangja A rangja, ami egyben A T rangja. Ezért a két képtér megegyezik. Tehát A + A mer leges vetítés A T képterére.

41 Az SVD további alkalmazásai A MoorePrenrose-féle pszeudoinverz Pszeudoinverz - egyértelm ség Áll.: A + és A két pszeudoinverze A-nak A = A +. Biz.: A lemma miatt AA + is és AA az ortogonális projekció A képterére, így AA = AA +. Hasonlóan, A A = A + A. Ezekb l A = A AA = A AA + = A + AA + = A +. Köv.: Ha A = U ΣU T az A mátrix red. SVD-je, akkor A pszeudoinverze A + = UΣ U T.

42 Az SVD további alkalmazásai A MoorePrenrose-féle pszeudoinverz Pszeudoinverz - példa I. 0 A A. 0 3 B SVD: A C 3 A A + =! = 6 AT

43 Az SVD további alkalmazásai A MoorePrenrose-féle pszeudoinverz Pszeudoinverz - példa II. «0 A =. 0 0 «0 0 A T A =, 0 «SVD: A = 0 A + = `0, «0 ` 0 = 0 «0 0 = A T.

44 Az SVD további alkalmazásai A MoorePrenrose-féle pszeudoinverz Pszeudoinverz - feladatok (A + ) + = A. (A T ) + = (A + ) T. A + rangja = A rangja. Ha A invertálható négyzetes mátrix, akkor A + = A. Ha A egy mer leges vetítés (négyzetes) mátrixa, akkor A + = A.

45 Az SVD további alkalmazásai A MoorePrenrose-féle pszeudoinverz Pszeudoinverz - példa III. ««Legyen A = 2 2 0, B = «0 «AB = 2, BA = A és B mer leges vetítések, így A + = A, B + = B. «(AB)(BA) = 4 = 2 A (AB)(BA) nem vetítés, de (AB)(AB) + az kell legyen, így (AB) + BA = B + A +. AB SVD-je AB = (AB) + =! 2 ` «2 2 2 = 2BA. 0

46 Az SVD további alkalmazásai A MoorePrenrose-féle pszeudoinverz A pszeudoinverz és a magtér A m n-es valós Áll.: A T képtere = (ker A) Biz.: : Ha x ker A és y R m, akkor (A T y) T x = y T Ax = 0, azaz x Ay. Tehát A T R m (ker A). dimenziók =: dim A T = A T rangja = A rangja = dim AR n = n dim ker A = dim(ker A). Köv.: I A + A mer leges vetítés A magterére Biz.: A + A mer leges vetítés A T R m -re I A + A mer leges vetítés (A T R m ) -re (A T R m ) = (ker A) = ker A

47 Az SVD további alkalmazásai A MoorePrenrose-féle pszeudoinverz SVD - feladatok számpéldák önálló gyakorlásra zh0029, 3. és 4. feladatok; pzh008, 3. és 4. feladatok; pzh feladat (zh09030, 6. feladat) Legyen A egy m n-es valós. Legyen B a következ 0 0 A B =. A T C A 0 Milyen összefüggés van A szinguláris értékei és B sajátértékei között?