2. függelék. Mátrixszámítási praktikum-ii. Lineáris algebrai eljárások

Átírás

1 függelék /9 oldal Eötvös Lórád udomáyegyetem ermészettudomáyi Kar Budapest Kemometria tafolyam, Szepesváry Pál függelék Mátrixszámítási praktikum-ii Lieáris algerai eljárások

2 függelék /9 oldal Bevezető megjegyzés A sokváltozós statisztikai módszereket ma a lieáris algerára és a mátrixszámításra támaszkodva ésszerű tárgyali Ez a megállapítás egyarát érvéyes a feltáró, alakfelismerő statisztika körée tartozó eljárásokra, és azokra is, amelyek a jeleségeket leíró jó fizikai és kémiai modelleket keresik, megítélik, azok paramétereit ecslik Nyomatékosa ajálatos tehát, hogy a módszereket alkalmazók a mátrixszámítás és a lieáris algera alapjait ismerjék Szerecsére midkét területről alkalmas köyvek íródtak Ezek közül sok más mellett, mit viszoylag köye hozzáférhető források megemlíthetők a következők: Rózsa P: Lieáris algera és alkalmazásai aköyvkiadó, Budapest, 99 Scharitzky V: Mátrixszámítás (Bolyai köyvek) Műszaki Köyvkiadó, Budapest 00 Kor, GA és Kor, M: Matematikai kéziköyv műszakiakak Műszaki Köyvkiadó, Budapest, 975 Horvai G (szerk): Sokváltozós adatelemzés (kemometria), Nemzeti taköyvkiadó, Budapest, 00 Fag Kai-ai és Zhag Yai-ig: Geeralized Multivariate Aalysis Spriger Verlag, Berli, 990 Az itt következő praktikum az ELE K- elhagzó Sokváltozós statisztikai módszerek és Kemometria előadásokhoz emlékeztetőkét készült, példákat mutat e és izoyos, idevágó MALAB és egyes EXCEL programozási ismereteket is ad Az ayag, jellegéél fogva em helyettesíti sem az említett taköyveket, sem a MALAB programozási kéziköyveket Nem foglalkozik például eviteli és kiviteli utasításokkal és programok közötti adatcserével A közölt ismeretek elmélyithetők a papiralapú vagy letölthető programozási kéziköyvekkel, és természetese a voatkozó szakirodalommal

3 függelék 3/9 oldal artalom Szám--esek lieáris tere Vektorok tulajdoságai Vektorok hossza Vektorok által ezárt szög 3 Ortogoális vektorok 4 Vektorok lieáris függetlesége 5 A mátrix ragja 3 Lieáris terek ázisai 3 Fogalmak, jelölések 3 Ortogoális és ortoormált ázisok 33 Ferdeszögű koordiátaredszerek 4 Bázistraszformációk 4 Vektor koordiátái új ázisa 4 Lieáris traszformáció mátrixa új ázisa 43 Hasolósági és ortogoális traszformáció 5 Mátrixok sajátértékei és sajátvektorai 6 Mátrixok sziguláris-érték felotása 7 Lieáris egyeletredszerek megoldása 7 Meghatározott egyeletredszerek megoldása 7 úlhatározott egyeletredszerek megoldása 73 Alulhatározott egyeletredszerek megoldása 8 Kvadratikus alakok

4 függelék 4/9 oldal Szám--esek lieáris tere Ha dara számot megállapodott módo módo elredezük, redezett szám--esekhez jutuk, amelyeket a,, c etűkkel jelölhetük Gyakorlatuka egy vizsgált ojektum dara, adott sorrede felsorolt tulajdoságáak számértékei, egy mita eleméek számokkal jellemzett tulajdoságai alkotak szám--est Ha a szám--esekre érvéyesek izoyos matematikai tulajdoságok, akkor a szám-esek egy -dimeziós lieáris teret, eze elül -dimeziós vektorteret alkotak Ha a lieáris tére a fetieke túlmeõe értelmezett a skaláris szorzás is, a tér eukleidészi tér A továiaka a szám--eseket, azaz a lieáris tér elemeit rövide vektorokak evezzük Vektorok tulajdoságai Vektorok hossza A vektor hossza elemei égyzetösszegéek égyzetgyöke, azaz a vektor ömagával vett skaláris szorzatáak égyzetgyöke: l a a a i i () Az egységyi hosszú vektorok közül azokat, amelyekek elemei egyetle egyes kivételével zérus értékűek egységvektorokak evezik MALAB >>a >> lsqrt(a'*a) 0488 Figyelem! MALAB-a a >> legth(a) 3 em a hosszat, haem a vektor elemeiek számát adja meg Vektorok által ezárt szög a és, origóól iduló vektorok által ezárt szög: a α arccos () ( a a)( )

5 függelék 5/9 oldal MALAB >>a >> >> alfa80*(acos(a'*/sqrt((a'*a)*('*))))/pi Ortogoális vektorok Az egymással derékszöget ezáró, merõleges vagy ortogoális vektorok skaláris szorzata zérus Az egységyi hosszú párokét ortogoális vektorok ortoormált vektorredszert alkotak 4 Vektorok lieáris függetlesége p dara méretű a j vektor lieárisa függetle, ha egyikük sem állítható elõ a töi lieáris komiációjakét (súlyozott összegekét), tehát a p j a a a p 0 a a + a + + a j j p p p a a a p 0 lieáris komiáció csak a triviális p 0 (3) esete áll fe Belátható, hogy méretű vektorok közül legfelje dara lehet lieárisa függetle Síka a harmadik vektor már szükségképpe komiációja két függetleek, tére a egyedik három függetleek st 5 A mátrix ragja Az I x J méretű A mátrix ρ(a) vagy rag(a) ragja a lieárisa függetle sor- vagy oszlopvektoraiak maximális száma Miutá I méretű vagy J méretű vektorok közül legfelje I ill J dara lehet lieárisa függetle, A mátrix ragja em lehet agyo, mit kiseik mérete: 0 rag(a) mi( I, J) (4) Lieárisa összefüggõ vektorokat tartalmazó égyzetes, I x I méretű mátrixok sziguláris mátrixok, determiásuk zérus A mátrix ragja meghatározható olymódo, hogy megállapítják, A mely aldetermiása már em sziguláris Eek a legagyo, már emsziguláris aldetermiásak redje adja meg A ragját Célszerű azoa az A mátrix emzérus sziguláris értékeit (l ott) leszámoli, ami ugyacsak a ragot adja meg

6 függelék 6/9 oldal MALAB >>X >> rak(x) 3 >> svd(x) Lieáris terek ázisai 3 Fogalmak, jelölések -dimeziós lieáris terek v vektorai közül ármely dara, lieárisa függetle vektor kiválasztható a tér, -el jelölt ázisvektorakét A tér összes töi v vektora elõállítható a ázisvektorok lieáris komiációjával ermészetes ázist képviselek az e, e,, e egységvektorok, amelyek ázisáa: L L L j j j v v v v v v e v (3) Ez a vektor más ázisa, más ázisvektorok komiációjakét is megadható: j j j c c c c v v v (3) ahol most c, c,,c elemek v B ázisra voatkozó koordiátái ömöree B c v,,, (33)

7 függelék 7/9 oldal ahol B a ázisvektorok mátrixa, c pedig c, c,,c elemek vektora 3 Ortogoális és ortoormált ázisok Bázisak választott vektorok lehetek egymásra merõlegesek, avagy ferdeszögűek Merőleges ázisvektorok eseté ortogoális ázisról eszélük Ha a ázisul választott vektorok ezefelül egységyi hosszúak is, ortoormált ázisról va szó Az ortoormált ázisvektorok skaláris szorzatára feál, hogy i j,, ij 0 ha i j δ, (34) ha i j más szóval, az ortogoális ázisvektor szorzása traszpoáltjával egységmátrixot ad L L 0L0 B B L 0 0 L L E L L L L L 0 0L (35) MALAB B ortoormált mátrix >> B >> B'*B Ferdeszögű koordiátaredszerek Vektorok akkor képezhetek ázist, ha lieárisa függetleek Sem a merőlegesség, sem az egyelő hossz ics megkövetelve Eől következik, hogy ármely -ed redű, em sziguláris mátrix felfogható ázisvektorok mátrixáak A

8 függelék 8/9 oldal B 0 mátrix három oszlopa redre 45, 547 és 35 fokos szöget zár e egymással, em 0 0 is egyelő hosszúak, lieáris komiációjuk mégis tetszőleges számú vektort hozhat létre 4 Bázistraszformációk Számos esete célszerű, hogy egy éppe haszált ázisról áttérjük valamely más ázisra Nevezzük az eredeti ázist régi ázisak és jelöljük B-vel, azt amelyikre áttérük új - ak és jelöljük G-vel G új g j ázisvektorai a i régi ázisvektorok lieáris traszformációi: g t + t + + t j j j ji I j,,, I (4) t ij súlyokat mátrixa foglalva a traformáció G B (4) alaka írható fel, ahol I x I méretű emsziguláris traszformáló mátrix 4 Vektor koordiátái új ázisa Egy adott v vektorak B régi ázisa v régi és G új ázisa v új koordiátái vaak: v Bv régi Gv új (43) (43) összefüggésől v új koordiátákat kifejezve v új G B v régi (44) összefüggés adódik (4) átalakításával - G B, így új és régi áziseli koordiáták között a v új v régi illetve v régi v új (45) összefüggés áll fe 4 Lieáris traszformáció mátrixa új ázisa Egy v vektorak legye w Av (46) lieáris képe v és w valamely régi ázisa érvéyes koordiátái és egy mátrixú ázistraszformációval elõállított új ázisa érvéyes koordiátái között (45) összefüggés szerit v régi v új (47), w régi w új (48)

9 függelék 9/9 oldal áll fe A feti vektorokat a (46) lieáris traszformáció egyeletée helyettesítve: w új A v új (49) adódik, ahoa látható, hogy az új ázisa a lieáris traszformáció: w új A v új (40) alakú, azaz az A új traszformáló mátrix: A új A (4) 43 Hasolósági és ortogoális traszformáció Egy A mátrix olya traszformációját, amelye azt egyik oldalról egy emsziguláris mátrix iverze, a másik oldalról a szóaforgó emsziguláris mátrix szorozza: hasolósági traszformációak evezik A új és A mátrixok hasolóak A hasoló mátrixok ragja, yoma, determiása és sajátértékei megegyezek Ha a emsziguláris mátrix ortogoális, feáll, hogy Ilye mátrix eseté a hasolósági traszformáció: ~ A A (4) alakú ortogoális traszformáció 5 Mátrixok sajátértékei és sajátvektorai I x I méretű (égyzetes) mátrixok sajátos hasolósági traszformációja az A V Λ V (5) sajátérték-sajátvektor traszformáció, ahol V I x I méretű emsziguláris mátrix, amelyek v i lieárisa függetle oszlopai A mátrix sajátvektorai, Λ pedig átlós (diagoális) mátrix, amelyek λ, λ,,λ I elemei A sajátértékei Meg kell jegyezi, hogy em mide A mátrix traszformálható (5) módo, em izoyos ugyais, hogy mide A mátrixak vaak egymástól külöözõ valós sajátértékei, következésképpe lieárisa függetle sajátvektorai Az I dara lieárisa függetle sajátvektorral író lieáris traszformációkat diagoalizálhatóakak evezik (5) összefüggésõl, átredezés utá látható, hogy V és Λ teljesítik az

10 függelék 0/9 oldal AU VΛ 0 (5) követelméyt Ez a megkötés defiiálja egyékét a sajátértékeket és a sajátvektorokat (5) összefüggést az, egyes v i sajátvektorokra felírva feáll az: Av i λ i v i (A λi)v 0 i,,,i (53) egyelõség Ezt az egyelõséget kielégíti v i vektorok ármely k-szorosa is A következõke az v i iráya mutató egységyi hosszúra ormált vektorokat evezzük sajátvektorokak Ha A speciálisa valós szimmetrikus, akkor sajátvektorai emcsak lieárisa függetleek, haem ortogoálisak is Normálva ortoormált ázist képezhetek Ezért (5) mellett érvéyes az A V Λ V (54) összefüggés is, amely felírható olymódo is, hogy lássék, az A mátrix megadható az v i sajátvektorok diádikus szorzataiak λ i sajátértékkel súlyozott összegekét: A VΛV λ v v + λ v v + + λ I v I v I (55) Az (55) összefüggést A spektrálfelotásáak is evezik, a λ I értékek összessége A spektruma, V pedig a modálmátrix A sajátvektorok iráyait fõtegelyekek is evezik

11 függelék /9 oldal MALAB >> A ( A szimmetrikus) >> rak(a) 5 ( A em sziguláris) >> det(a) -7046(A determiása ezuttal egatív) >> [V,L]eig(A) V ( V em szimmetrikus, ortoormált Lalá) L ( Sajátértékek valósak, eltérőek) >> V'*V (V ortoormált mátrix) >> V*L*V'

12 függelék /9 oldal 6 Mátrixok sziguláris-érték felotása Sajátérték-sajátvektor felotás csak I x I méretű égyzetes mátrix esetée lehetséges Az I x J méretű (téglalap) mátrixok eseté is létezik azoa egy, a sajátérték-sajátvektor traszformációra emlékeztetõ felotás, a D U S I,J V I,I I,J J,J sziguláris-érték felotás Itt U I x I méretű mátrix ortoormált mátrix, S I x J méretű mátrix, amely diagoális elredezése D-ek s i sziguláris értékeit tartalmazza A sziguláris értékek száma megegyezik D mátrix ρ(d) ragjával, azok S-ek elsõ (ρ(d) dara) soráa helyezkedek el S továi részée zérusok vaak V J x J méretű ortoormált mátrix MALAB (6) >> Droud(uifrd(-5,5,5,3)) >> [U,S,V]svd(D) U S V >> U'*U >> V'*V >> U*S*V' A sziguláris-érték felotás gazdaságosaa is elvégezhető Az S mátrix 0 részét és az ezzel szorzott u mátrix oszlopokat elhagyva a sziguláris értékfelotás így is felírható: D U S I,J V I, J J,J J, J (6)

13 függelék 3/9 oldal MALAB >> Droud(uifrd(-5,5,5,3)) >> [U,S,V]svd(D) U S V >> U'*U >> V'*V >> U*S*V' Négyzetes mátrix eseté is végrehajtható a sziguláris-érték felotás A felotás sorá általáos esete más sajátvektorok adódak, mit a sajátérték-sajátvektor felotásál, és a sziguláris értékek sem egyezek meg a sajátértékekkel Speciálisa szimmetrikus mátrixál a saját- és a sziguláris értékek, továá a v sajátvektorok megegyezek A (6) összefüggés felírható olymódo is, hogy lássék, D mátrix megadható u i és v j sajátvektorok diádikus szorzataiak s i sziguláris értékekkel súlyozott összegekét: D USV s u v + s u v ++s ρu ρ v ρ (63) Az összefüggésõl látható, hogy a sziguláris értékek megmutatják, milye mértéke vesz részt egy-egy sajátvektorpár D mátrix felépítésée

14 függelék 4/9 oldal MALAB A Nem szimmetrikus mátrix >> [Veig,L]eig(G) Sajátérték számítás Veig i i L i i >> [U,S,Vsvd]svd(A) Sziguláris-érték számítás S Vsvd G 5-3 G szimmetrikus! >> [Veig,L]eig(G) Sajátérték számítás Veig L >> [U,S,Vsvd]svd(G) Sziguáris-érték számítás S (Előjelektől eltekitve) L Vsvd (Iráyítástól elt egyezik Veig-gel)

15 függelék 5/9 oldal Megjegyzés: B álló téglalap mátrix (I > J) sziguláris értékei égyzetei a B B mátrix sajátértékeiek C fekvő téglalap mátrix (I < J) sziguláris értékei égyzetei a CC mátrix sajátértékeiek B és B B mátrixokak v sajátvektorai, illetve C és CC -mátrixokak u sajátvektorai megegyezek: I > J: B U S V ; B B V S ( U U) S V V S S V I,J I,I I,J J,J J,I I,J J,J J,I I,I I,I I,J J,J J,J J,I I,J J,J V L V J,J J,J I < J: (64) C U S V ; C C U S( V V) S U U S S U I,J I,I I,J J,J J,I I,J I,I I, J J,J J,J J,I I,I I,I I,J J,I I,I U L U I,I I,I II J,J A B mátrix sziguláris értékei (S mátrix s i átlós elemei) a B B mátrix sajátértékeiek (L mátrix l, l,,l I elemeiek) valós, emegatív égyzetgyökei: s l i,,,i (65) i i A kemometriai gyakorlata a B mátrixot gyakra a D adatmátrix képviseli, amelye d j vektorok valamely d tulajdoság adott mitáa megfigyelt értékeit tartalmazzák Cetrált d j vektorok eseté a J x J méretű D D mátrix a d változók kovariacia mátrixáak tekithetõ, stadardizálás eseté azok korreláció mátrixáak 7 Lieáris egyeletek megoldása 7 Meghatározott lieáris egyeletek megoldása Az I ismeretlees A x y (7) I,I I, I, lieáris egyeletredszer, amelyek együtthatómátrixa az I x I méretű, I ragú (emsziguláris) A, jo oldali vektora az I x méretű y, ismeretleeit pedig az I x méretű x tartalmazza, egyértelműe megoldható: x A y (7) módo, ahol A az A égyzetes mátrix iverze

16 függelék 6/9 oldal 7 úlhatározott lieáris egyeletek megoldása Az olya I egyeletõl álló J ismeretlees A x y I > J (73) I,J J, I, lieáris egyeletredszer, amelyél az egyeletek I száma agyo, mit az ismeretleek J száma, azaz A együtthatómátrixa I x J méretű álló téglalapmátrix, amelyek ragja J, y jo oldali vektora I x méretű, ismeretleeit pedig az J x méretű x tartalmazza, túlhatározott egyeletredszer Ha az egyeletredszert felépítõ egyeletek potosak, azaz em elletmodóak, A mátrix ármely J sora a hozzátartozó J dara y i elemmel olya meghatározott egyeletredszert ad, amely (7) elõírással megoldható Ha az egyeletredszer hiákkal terhelt, elletmodásokat tartalmazó egyeletekõl áll, a megoldáshoz A általáosított iverze haszálható Az A + módo jelölt általáos (Moore-Perose) iverz: A + (A A) A (74) Így a (73) egyelet megoldása: x A + (A A) A y (75) megoldás a végtele sok lehetséges megoldás közül azt adja, amely a legkise égyzetek elvét alkalmazva miimálja a számított és a megadott i elemek eltéréségyzet-összegét A túlhatározott egyeletredszer egy megoldását adja az x (A WA) A Wy (76) összefüggés is, ahol W egy I x I méretű súlymátrix, amely az egyes egyeleteket valamely értelmes szempot szerit kitüteti vagy jeletékteleíti (74) és (75) összefüggések a legkise égyzetek módszerét alkalmazó lieáris regressziós paraméterecslés egyeletei A (75) egyelete fellépõ súlyok például az elemek potosságát tükrözhetik 73 Alulhatározott lieáris egyeletek megoldása Az olya I egyeletõl álló J ismeretlees Ax y (77)

17 függelék 7/9 oldal lieáris egyeletredszer, amelyél az egyeletek I száma kise, mit az ismeretleek J száma, azaz A együtthatómátrixa I x J méretű fekvõ téglalapmátrix, amelyek ragja I, y jo oldali vektora I x méretű, ismeretleeit pedig az J x méretű x tartalmazza, alulhatározott egyeletredszer Alulhatározott lieáris egyeletredszerek végtele sok megoldása va Speciális megoldásokhoz lehet juti, ha az egyeletek mellé továi feltételeket is megaduk Megtehető, hogy az egyeletek számát meghaladó (J I) dara szaad ismeretleek ökéyes értéket aduk Az immár meghatározottá vált egyelettel kapott, kötött ismeretleek értékei a szaadok függvéyei leszek Megkötés lehet az is, hogy a (66) egyeletet kielégítõ x vektor hossza (hosszáak égyzete) J x j j x (78) legye miimális Ezt a megoldást az x A (AA ) y (79) összefüggés adja MALAB >> A y >> xmia'*iv(a*a')*y >> hossz xmi'*xmi 898 >> A*xmi

18 függelék 8/9 oldal 8 Kvadratikus alakok Az x Ax (8) skalár értékű összefüggést, ahol x I x méretű tetszőleges vektor, A pedig I x I méretű valós szimmetrikus mátrix, kvadratikus alakak evezik Ha a kvadratikus alak ármely x-re pozitív, akkor az A mátrix pozitív defiit, ha értéke zérus is lehet: x Ax 0, (8) akkor pozitív szemidefiit Egy pozitiv defiit mátrix determiása és mide sajátértéke pozitív A k x Ax kvadratikus alakokhoz jellegzetes mértai alakzatok redelhetõk A (8) összefüggés -három dimezióra - skaláris írásmóda felírva: a x a x + a x + a x x + a x x + a a x x k (83) alakú Ha A mátrix pozitív defiit, akkor ez az összefüggés egy középpoti ellipszoid-, határesete egy göm egyelete, amelyek fõtegelyei / l,/ l, / l3 hosszúságúak, ahol l i értékek A mátrix sajátértékei Ha A diagoális mátrix, az ellipszoid fötegelyei párhuzamosak a koordiáta tegelyekkel, ha az átlós elemek meg is egyezek, a főtegelyek egyelő hosszúak (göm) Vegyes idexű a ij elemek megléte eseté a külööző tegelyhosszú ellipszoid általáos helyzetű, a koordiátategelyekhez képest elfordult PÉLDA Foglalkozzuk az a A a a a szimmetrikus, pozitiv defiit mátrixszal Legyeek: a 3; a 07 6; a, det A aa + a 306 Képezzük az x Ax det A () kvadratikus formát Kokréta: a a x x () a a x [ x] det A ()-ól következőe az ellipszis egyelete:

19 függelék 9/9 oldal a x + a xx + a x det A 0 (3) Ie: B ± B 4AC x (4) A ahol A a B a C a x 4 x det A 3x x 306 Az (5) összefüggés valós x értékeket ad, ha feáll, hogy: B 4 4AC 4a x 4a x ( a a a ) x + a det A) 4det A( a x ) 0 a + 4a det A (6)-ől következik: x Rajzoljuk meg (4) egyeletől az ellipszist: (5) (6) 5 05 x x Az ellipszis x iráya a -től + a -ig,( - -től + -ig), x iráya a 33-től + a 33-ig ( 3-től + 3-ig) terjed ki erülete aráyos az A mátrix determiásával, miél kise a az átlós elemekhez képest, aál agyo az ellipszis területe, és egye aál kevésé fordul el a koordiáta tegelyekhez képest