Matematika III. Fejezetek a numerikus analízisből

Átírás

1 Mtemtik III Fejezetek numerikus nlízisből Írt: Dr. Gáspár Csb

2 Bevezetés Ez jegyzet Széchenyi István Egyetem mérnöki BSc-hllgtói számár készült. A jegyzet bevezetést d korszerű numerikus módszerek elméletébe és gykorltáb. Hngsúlyozottn bevezető jellegű, tehát teljességre megközelítőleg sem törekszik egyik fejezetében sem. A jegyzet feltételezi Mtemtik I. és II. tárgyk, zz z elemi nlízis, lineáris lgebr és többváltozós függvények témköréből korábbn tnultk készségszerű ismeretét. A jegyzetben érintett témkörök következők: Lineáris egyenletrendszerek és mátrixfelbontások A legkisebb négyzetek módszere Interpoláció Közelítő integrálás Deriváltk közelítése Mindegyik fejezet végén néhány gykorló feldt tlálhtó, részletes megoldásokkl együtt. Ez zonbn nem helyettesíti lényegesen bővebb feldtgyűjteményeket. A jegyzetben lklmzott jelölések: N: pozitív egész számok hlmz R: vlós számok hlmz R n : rendezett vlós szám-n-esek vektortere C: komplex számok hlmz M n m : z n sorból és m oszlopból álló mátrixok vektortere Fogjuk még lklmzni z O(x) jelölést, mely egy olyn, x-től függő kifejezést jelent, melynek bszolút értéke felülről becsülhető C x-szel vlmely lklms, x-től független C konstns mellett. Tipikus példák: egy N N-es reguláris mátrixú lineáris egyenletrendszer megoldásánk műveletigénye (h mátrix semmilyen speciális tuljdonsággl nem rendelkezik) O(N 3 ), zz megoldáshoz szükséges műveletek szám C N 3, hol C szám N-től független. Ez jól muttj műveletigény viselkedését: h z ismeretlenek szám megduplázódik, megoldás műveletigénye z eredeti műveletigény mintegy nyolcszorosár nő.

3 Másik péld: z [, b] intervllumon értelmezett, elegendően sim f függvény integrálját egy ekvidisztáns, h lépésközű lppontrendszeren felépített összetett trpézformul O(h ) hibávl közelíti, zz pontos integrál és trpézformul áltl dott közelítő integrál eltérése C h, hol C szám h-től nem függ (de z f integrndusztól vlmint z intervllumtól igen). Ez jól muttj közelítés pontosságát: h lépésközt felére, hrmdár csökkentjük (zz részintervllumok számát kétszeresére, háromszorosár növeljük), kkor közelítés hibáj z eredetinek kb. negyedére, kilencedére csökken. Jvsoljuk, hogy jegyzetben tlálhtó módszereket, mintpéldákt és feldtokt z Olvsó vlósíts is meg célszerűen MATLAB-bn. Numerikus módszereket igzán csk működés közben lehet megérteni, progrmozás, hibjvítás, z egyszerűbb, mjd bonyolultbb példákon át vló kipróbálás során. Kérjük továbbá z Olvsókt, hogy jegyzettel kpcsoltos észrevételeket, esetleges sjtóhibák felfedezését stb. tudssák szerzővel gsprcs@sze.hu emil címen. Eredményes felhsználást kíván szerző: Győr, 8. Dr. Gáspár Csb 3

4 Lineáris egyenletrendszerek és mátrixfelbontások. Motiváció A gykorltbn rengeteg problém vezet lineáris (elsőfokú) egyenletrendszerekre. Ezek numerikus megoldás lpvető fontosságú. Hogy érzékeltessük lényeges különbséget tiszt, elméleti és numerikus mtemtiki problémák között, tekintsük következő két példát: Péld: Oldjuk meg z lábbi egyenletrendszert: x + 999y = 999x + 998y = A rendszer determináns , mi nem, így pontosn egy megoldás létezik. Könnyen ellenőrizhető, hogy ez: x =, y =. Most tekintsük z lig-lig módosított egyenletrendszert: x + 999y = 999x + 998y =.999 Intuitíve zt várjuk, hogy mivel z dtok csk kicsit változtk ( ezreléknyit), zért megoldás is csk kicsit fog különbözni z előzőtől. Ezzel szemben most megoldás: x =., y =. Mivel pedig z egyenletek dti (mátrixelemek és/vgy jobb oldl elemei) gykrn mérésekből szármznk, fontos, hogy ne csk megoldást tudjuk kiszámítni, hnem nnk hibáját is meg tudjuk becsülni. A fenti péld legegyszerűbb péld rosszul kondícionált egyenletrendszerekre, hol megoldás igen érzékeny z dtok megváltozásár. Péld: Mennyi időbe telhet ( leggyorsbb számítógépeken) egy - s mátrix determinánsánk definíció szerinti kiszámítás (pl. z első sor szerinti kifejtéssel)? Megoldás: Jelölje c N egy N N-es mátrix determinánsánk kiszámításkor csk szükséges szorzások számát. A sor szerinti kifejtés lpján nyilván c N = N c N, innen: c N = N c N = N (N ) c N =... = N! zz c =!. Ez felfoghttlnul ngy szám. H tekintünk egy hipotetikus párhuzmos működésű számítógépet, melynek mérete Földével 4

5 egyezik, z egyes processzorok tomnyi méretűek, z információterjedés sebessége pedig fénysebesség, szükséges számítási idő meghldná m feltételezett ősrobbnás ót eltelt időt. Tehát nem elég tudni egy módszerről, hogy z elvileg helyes, z is szükséges, hogy műveletigényét becsülni tudjuk, és z elfogdhtó felső korlát lá essék.. Lineáris egyenletrendszerek megoldhtóság Most felidézzük lineáris egyenletrendszerekről z lpképzésben már megismert legfontosbb megoldhtósági tételeket. Legyen A M N N dott négyzetes mátrix (elemei legyenek k,j (k, j =,,..., N)), b R N dott vektor (elemei legyenek b, b,...,b N ), és tekintsük z Ax = b () lineáris egyenletrendszert, hol x R N keresett megoldásvektor. A fenti tömör jelölésmód egyenértékű z lábbi, hgyományos felírású lineáris egyenletrendszerrel: x + x N x N = b x + x N x N = b... N x + N x NN x N = b N Az egyenletrendszert homogénnek nevezzük, h b =, zz b = b =... = b N =. Nyilvánvló, hogy ekkor x = x =... = x N = mindig megoldás: ezt triviális megoldásnk nevezzük, míg homogén egyenlet minden olyn megoldását, hol leglább egy x j zérustól különbözik, nemtriviális megoldásnk nevezzük. A homogén egyenletek esetében jellemző problém z, hogy létezik-e nemtriviális megoldás, míg z inhomogén egyenlet esetén z kérdés, hogy vn-e egyáltlán megoldás, és h igen, kkor hány. Idézzük fel z () egyenletrendszer megoldhtóságát biztosító tételeket: Tétel: Az A M N N mátrix pontosn kkor reguláris, h z Ax = b egyenletnek minden jobb oldl mellett létezik megoldás. Ekkor megoldás egyértelmű is (éspedig A b-vel egyenlő). 5

6 Tétel: Az A M N N mátrix pontosn kkor reguláris, h z Ax = homogén egyenletnek csk triviális megoldás létezik. Másszóvl, A pontosn kkor szinguláris, h homogén egyenletnek létezik nemtriviális megoldás. Ekkor pedig végtelen sok nemtriviális megoldás is létezik (bármely x megoldás esetén nnk tetszőleges konstnsszoros is megoldás)..3 A Guss-elimináció Most áttekintjük z lpképzésben megismert egyik legfontosbb egyenletmegoldó lgoritmus, Guss-elimináció működését. Tekintsük z lábbi lineáris egyenletrendszert: x + x + 3 x N x N = b x + x + 3 x N x N = b 3 x + 3 x + 33 x N x N = b 3... N x + N x + N3 x NN x N = b N hol most tegyük fel, hogy z A mátrix reguláris. A Guss-elimináció (vgy kiküszöböléses módszer) lépései következők:. Osszuk le z. egyenletet z együtthtóvl: x + x + 3 x N x N = b x + x + 3 x N x N = b 3 x + 3 x + 33 x N x N = b 3... N x + N x + N3 x NN x N = b N. Az. sor k -szeresét vonjuk ki k-dik sorból (k =, 3,..., N), ezáltl kiküszöböljük x -et.,3.,...,n. egyenletből. Eredményül z lábbi szerkezetű egyenletrendszerhez jutunk: x + x + 3 x N x N = b x + 3 x N x N = b 3 x + 33 x N x N = b 3... N x + N3 x NN x N = b N 3. A.,3.,...,N. egyenlet már csk (N ) ismeretlent trtlmz, így z.,. 6

7 pont lépéseit megismételhetjük: x -t kiküszöböljük 3.,4.,...,N. egyenletből, mjd hsonlón, x 3 -t 4.,5.,...,N. egyenletből, és így tovább. Végül következő lkú egyenletrendszert kpjuk: x + ã x + ã 3 x ã N x N = b x + ã 3 x ã N x N = b x ã 3N x N = b 3... x N = b N 4. Az utolsó egyenletből x N máris ismert: visszhelyettesítve z (N )- edik egyenletbe, x N számíthtó; x N -et és x N -et visszhelyettesítve z (N )-edik egyenletbe, x N számíthtó, és így tovább, így z egyes ismeretleneket index szerint csökkenő sorrendben htározzuk meg. Ezt műveletsort Guss-elimináció visszhelyettesítési részének, míg z előző lépéseket eliminációs résznek nevezzük. Az lgoritmust z lábbi egyszerű példán szemléltetjük: Péld: Oldjuk meg z lábbi egyenletrendszert: x 6x + x 3 = x 5x + 3x 3 = 4 3x x + x 3 = 3 Megoldás: Osszuk le z. egyenletet -vel: x 3x + 5x 3 = 6 x 5x + 3x 3 = 4 3x x + x 3 = 3 Az. egyenlet -szeresét vonjuk ki. egyenletből, mjd z. egyenlet 3- szorosát vonjuk ki 3. egyenletből, ezzel. és 3. egyenletből kiküszöböljük x -et: x 3x + 5x 3 = 6 x 7x 3 = 8 7x 4x 3 = A. egyenletet már nem kell x együtthtójávl leosztni, lévén z -gyel egyenlő. Vonjuk ki. egyenlet 7-szeresét 3. egyenletből, ezzel 3. 7

8 egyenletből x -t is kiküszöböltük: x 3x + 5x 3 = 6 x 7x 3 = 8 35x 3 = 35 Elosztv 3. egyenletet 35-tel, z eliminációs részt befejeztük: x 3x + 5x 3 = 6 x 7x 3 = 8 x 3 = Az utolsó egyenletből x 3 már ki vn számítv. Visszhelyettesítve. egyenletbe, innen x is számíthtó (ugynide jutunk, h 3. egyenlet 7- szeresét hozzádjuk. egyenlethez): x 3x + 5x 3 = 6 x = x 3 = Végül, x -t és x 3 -t z. egyenletbe helyettesítve vissz, x is számíthtó: x = x = x 3 = Ezzel z egyenletrendszer megoldását előállítottuk. Visszhelyettesítéssel meggyőződhetünk ról, hogy z így nyert megoldás vlóbn kielégíti z eredeti egyenletrendszert. Vegyük észre, hogy számítás végrehjtásához z x, x, x 3 szimbólumokt és z egyenlőségjeleket újr meg újr leírni felesleges: számításokt voltképpen csk z együtthtókon, zok mátrixán hjtjuk végre. Így fenti számítási lépések z lábbi tömör formáb írhtók ( mátrix utolsó oszlop előtti függőleges vonl csk jobb áttekinthetőséget szolgálj):

9 Megmutthtó, hogy Guss-elimináció műveletigénye O(N 3 ), mi zt muttj, hogy numerikus szempontból Guss-elimináció nem olcsó : h z ismeretlenek szám duplájár nő, kkor szükséges műveletszám kb. nyolcszorosár emelkedik. Az lgoritmust ebben formábn nem mindig lehet végrehjtni, ui. lehetséges, hogy vlmelyik együtthtó, mellyel osztnunk kéne, -vl egyenlő. Legyen pl. =. Ekkor z első és vlmelyik későbbi egyenlet cseréjével elérhető, hogy z új egyenletrendszer első egyenletében x együtthtój ne legyen, ellenkező esetben mátrix első oszlop csup -ból álln, de ekkor mátrix szinguláris voln, kiinduló feltételünkkel ellentétben. Ugynez áll z elimináció további lépéseiben fellépő (egyre kisebb méretű) egyenletrendszerekre. A numerikus számítás pontosságánk szempontjából z célszerű, hogy együtthtók, melyekkel leosztjuk z egyenleteket (z ún főegyütthtók), bszolút értékben minél ngyobbk legyenek (hogy z osztás számítási hibáj minél kisebb legyen). Ezért z egyenletek cseréjekor célszerű z ktuális, mondjuk k-dik egyenletet zzl későbbi pl. r-edik egyenlettel felcserélni, melyre rk lehető legngyobb (r = k, k +,..., N) még kkor is, h kk. Ezt megoldási strtégiát részleges főelemkiválsztásnk nevezzük, és ez már minden reguláris A mátrix esetén működik. Vlmivel több számítási munkávl jár, de még ngyobb pontosságot biztosít teljes főelemkiválsztás, mikor k-dik egyenlettel vló eliminációs lépéskor z összes hátrlévő pq érték mximumát keressük (p, q = k, k +,..., N), és ekkor nemcsk z egyenleteket cseréljük meg, hnem z ismeretlenek sorrendjét is megváltozttjuk, hogy főegyütthtó z imént meghtározott mximális bszolút értékű elem legyen. A Guss-elimináció egy válfj Guss Jordn-elimináció, mikor z ktuális pl. k-dik egyenlet segítségével nemcsk későbbi egyenletekből küszöböljük ki k-dik ismeretlent, hnem megelőzőekből is. Így visszhelyettesítési lépések elmrdnk, és z elimináció befejeztével zonnl nyerjük z ismeretlenek értékeit. (Egyszerűsége ellenére Guss Jordn-elimináció műveletigénye ngyobb Guss-elimináció műveletigényénél). Péld: Tekintsük z előző péld egyenletrendszerét. Az lgoritmus első két 9

10 lépése egyezik Guss-elimináció első két lépésével, eltérés csk 3. lépéstől vn: A Guss-elimináció szinguláris mátrixú egyenletrendszerek megoldásár is lklms. Ekkor z jellemző, hogy z elimináció vlmelyik lépésében z egyik egyenlet összes együtthtój zérussá válik. Amennyiben z illető egyenlet jobb oldl nem zérus, kkor z egyenletrendszernek nincs megoldás; h jobb oldl is zérus, kkor vn megoldás, sőt, ekkor mindig végtelen sok megoldás vn. Ekkor ui. vlmelyik ismeretlen (esetleg több is) szbdon megválszthtó, többi pedig ezek függvényében fejezhető ki. Az elmondottkt egy példán szemléltetjük: Péld: Oldjuk meg következő egyenletrendszert: x x + x 3 = x + x + x 3 = 4 x + x x 3 = Megoldás: A Guss-elimináció lépéseit z előző példákbn megismert tömör jelölésmóddl írjuk le: Az utolsó egyenlet együtthtói mind -vl lettek egyenlők, de jobb oldl nem zérus. Ez ellentmondás, így z egyenletrendszernek nincs megoldás. 6

11 H viszont megfelelő homogén egyenletet tekintjük: x x + x 3 = x + x + x 3 = x + x x 3 = kkor már tudjuk, hogy vn nemtriviális megoldás, hiszen mátrix szinguláris (ezt kár determináns zérus voltából láthtjuk, kár onnn, hogy h mátrix reguláris voln, z előző egyenletrendszernek is lenne, éspedig egyetlen megoldás). Lássuk, hogyn működik Guss-elimináció ebben z esetben: Az utolsó egyenlet semmitmondó = egyenlőséggé egyszerűsödött. Vlmelyik, célszerűen z utolsó ismeretlent így tetszőlegesen megválszthtjuk: x 3 := t, hol t R tetszőleges szám. Ezt beírv 3. egyenlet helyére, visszhelyettesítések már nehézség nélkül elvégezhetők: t t t t t t t Tehát végtelen sok nemtriviális megoldás vn, és ezek áltlános lkj: x = t, x = t, x 3 = t. Végül megmuttjuk, hogyn hsználhtó Guss-elimináció mátrixinvertálásr. Legyen A M N N egy reguláris mátrix. Ekkor érvényes z AA = I mátrixegyenlőség. Jelölje z egyelőre ismeretlen A inverz mátrix oszlopit,,..., N, z I egységmátrix oszlopit pedig e, e,...,e N (ezek épp

12 stndrd bázis elemei R N -ben): A... N = e e... e N A mátrixszorzás definíciój értelmében ez mátrixegyenlőség ekvivlens N db vektoregyenlőséggel, éspedig: A k = e k (k =,,..., N) Azt kptuk tehát, hogy fenti N db egyenletrendszert megoldv, megoldásvektorokból mint oszlopokból összeállított mátrix épp z eredeti A mátrix inverzével egyezik. Tehát egy mátrixinverzióhoz N db speciális jobb oldlú, de zonos mátrixú egyenletrendszert kell megoldni. Ez történhet egyidejűleg is, mivel z eliminációs lépésekkel egyidőben jobb oldlkon végrehjtndó műveleteket egyszerre mindegyik jobb oldlll megtehetjük. Az eljárás fentiekben hsznált tömör jelölésmóddl igen szemléletes: z elimináció elején bl oldli részmátrix z eredeti mátrix, jobb oldli pedig z egységmátrix, míg z lgoritmus befejeztével bl oldli részmátrixból egységmátrix lesz, ekkor jobb oldli részmátrix z inverz mátrixszl lesz egyenlő. Péld: Számítsuk ki z lábbi mátrix inverzét: 3 A := 3 Megoldás: Az lgoritmus lépései z eddigiekben lklmzott tömör jelölésmóddl: 3 3 /3 /3 3 /3 /3 3 4/3 /3

13 Az inverz mátrix tehát: /3 /3 /3 /3 4/3 /3 /3 /3 /3 /3 /9 /3 4/9 /3 /3 /3 / /3 / A = mit z A A mátrixszorzás elvégzésével könnyen ellenőrizhetünk..4 Mátrixok LU-felbontás Legyen A = [ kj ] M N N reguláris mátrix, mellyel Guss-elimináció elvégezhető (zz nincs szükség sorcserékre). Tétel: Az A mátrix egyértelműen előáll A = LU lkbn, hol L normált lsó háromszögmátrix (zz L kk =, és L kj =, h j > k) U pedig felső háromszögmátrix (zz U kj =, h j < k). Az LU-felbontás gykorlti hszn következő. H megoldndó egy Ax = b egyenletrendszer esetleg sok különböző b jobb oldlll, kkor ezek helyett elég egyszer végrehjtni z LU-felbontást; ezekután most már elegendő 3

14 megoldni z L(U x) = b egyenleteket, zz z Ly = b, U x = y egyenletpárokt (minden b jobb oldli vektorrl), mi numerikusn sokkl olcsóbb, tekintve, hogy itt csk előre- és visszhelyettesítéseket kell végrehjtni (kiküszöbölési lépéseket már nem). Igzolhtó, hogy z LU-felbontás műveletigénye O(N 3 ), míg egy-egy fenti lkú, Ly = b, Ux = y egyenletpár megoldásánk műveletigénye csk legfeljebb O(N ) (speciális esetekben ennél kevesebb is lehet, pl. h L és U ritk mátrixok). A tétel és következő lgoritmus helyességének bizonyítás nem nehéz, de hosszdlms; több próbb állítás eredménye, így ettől eltekintünk. A felbontás végrehjtás Guss-eliminációvl: A k-dik sorrl vló eliminációkor vonjuk ki k-dik sor l m,k := m,k / k,k -szorosát z m-edik sorból (m = k +,..., N). Ezekből z l m,k számokból z L mátrix összeállíthtó: L =... l,... l 3, l 3, l N, l N, l N,3... Az eliminációs lépések után pedig z eredeti A mátrixból épp U-t kpjuk. Péld: Htározzuk meg z mátrix LU-felbontását! A = Megoldás:

15 U = = L Egy másik péld, melyre két megoldást is muttunk; z első lényegében egyezik z előző péld eljárásávl, míg második tlán még egyszerűbb. Htározzuk meg z lábbi mátrix LU-felbontását: A := Megoldás: Mindenekelőtt L-et már ismert elemeivel kitöltjük: főátlóbn -esek állnk, főátló felett zérusok: 4 A = L = Mjd elkezdjük z eliminációt: A első soránk -szeresét kivonjuk második, 4 -szeresét hrmdik sorból, e szorzókt ( és 4 ) pedig beírjuk L első oszlopánk második ill. hrmdik helyére: L = 3 5. Folyttjuk z eliminációt: mátrix második soránk 3 3-szorosát kivonjuk hrmdik sorból, 3 3 szorzót pedig beírjuk L második oszlopánk hrmdik helyére. Ezzel z eredeti mátrixból felső háromszög mátrixot kptunk (ez lesz felbontás U mátrix), és egyidejűleg z L-et is megkptuk. U = L = (Ellenőrizzük z eredményt z LU szorzt közvetlen kiszámításávl!) Más megoldás: Töltsük ki z L és U mátrixok előre ismert elemeit: L főátlójábn csup -esek állnk; 5

16 L főátlój felett csup -k állnk; L első oszlopánk további elemei: /, 3 /, 4 /,... U főátlój ltt csup -k állnk; U első sor mindig egyezik A első sorávl. L = U = l 3 4 u u 3 u 33 Ezekután L k-dik sorát U j-edik oszlopávl szorozv z eredeti A mátrix kj -edik elemét kell kpjuk. A sor-oszlop-szorzások sorrendjének ügyes megválsztásávl elérhető, hogy minden így nyert egyenletben csk egy ismeretlen szerepeljen, mit ztán mindjárt be is írhtunk L ill. U megfelelő helyére. Például, L második sorát U második oszlopávl szorozv: ( ) ( ) + u + =, honnn u kifejezhető: u = 3: L = l 3 U = 4 3 u 3 u 33 Most L hrmdik sorát szorozzuk U második oszlopávl: ( ) + l 3 ( 3) + =, honnn l 3 kifejezhető: l 3 = : 4 L = U = 3 u 3 u 33 Ezzel L-et már ki is számítottuk. L második sorát szorozv U hrmdik oszlopávl: ( ) 4 + u 3 + =, honnn u 3 kifejezhető: u 3 = 3: 4 L = U = 3 3 u 33 Végül L hrmdik sorát szorozv U hrmdik oszlopávl: 4 + ( ) 3 + u 33 = 3, honnn u 33 kifejezhető: u 33 = : 4 L = U = 3 3 Ezzel kívánt LU-felbontást megkptuk. 6

17 Megjegyzés: Az LU-felbontás determináns kiszámításár is d egy eljárást, mi numerikusn sokkl olcsóbb, mint definíció lklmzás (sor vgy oszlop szerinti kifejtés). H ui. A = LU, kkor det(a) = det(l) det(u). A jobb oldli determinánsok pedig rendkívül egyszerűen számíthtók, épp digonálelemek szorztávl egyenlők (miért?). Ezért det(l) =, tehát: det(a) = det(u) = U U... U NN. 7

18 .5 Feldtok. Oldjuk meg Guss-eliminációvl z lábbi egyenletrendszert: x + 4y + z = 5 3x + y + z = 4x y z = Megoldás: A számítás sémáj következő: A megoldás tehát: x =, y =, z =.. Oldjuk meg következő lineáris egyenletrendszert Guss-Jordn-eliminációvl: x 3x + x 3 = x x 3x 3 = 6 x + x + x 3 = 3 Megoldás: Felcserélve z. és. sorokt, mjd z (új). sor ( )- szeresét hozzádv., mjd 3. sorhoz:

19 A második sor segítségével elimináljunk lefelé: Folytssuk z eliminálást felfelé is. (Ebben különbözik Guss-Jordnlgoritmus Guss-eliminációtól.) A második sor kétszeresét z első sorhoz dv: A hrmdik oszlopbn felfelé eliminálv: Innen végül: x =, x =, x 3 = Oldjuk meg következő lineáris egyenletrendszert Guss-eliminációvl: x x + x 3 = 3 x + x 4x 3 = 4 x x + 3x 3 = Megoldás: Mindenekelőtt: rendszer mátrix most szinguláris (mert determináns ; ellenőrizzük!). Ez zt jelenti, hogy megoldhtóság jobb oldltól függ: vgy vn megoldás (és kkor mindjárt végtelen sok is), vgy nincs megoldás. A számítás sémáj következő:

20 Az utolsó eliminálásnál 3. sor csup lett. Ez zt jelenti, hogy z egyik ismeretlen, pl. x 3 szbdon megválszthtó: x 3 := t (hol t R tetszőleges). Így 3. sor így lkul: t Az eliminálást folyttv: 3t t t t t t Az egyenletrendszernek tehát végtelen sok megoldás vn, mégpedig tetszőleges t R mellett: x = t, x = t, x 3 = t 4. Számítsuk ki Guss-eliminációvl z lábbi mátrix inverzét: 3 A := Megoldás: A számítás sémáj következő: 3 Első lépésben cseréljük fel z. és. sort, mjd végezzük el z első oszlop eliminálását. 3

21 Kptuk tehát, hogy: A = 5. Számítsuk ki Guss-eliminációvl z lábbi mátrix inverzét: A := 3 Megoldás: A számítás sémáj következő: Cseréljük meg. és 3. egyenletet ( hozzájuk trtozó jobb oldlkkl együtt, hogy z eliminációt folyttni tudjuk: Az inverz mátrix tehát: A =

22 6. Htározzuk meg z lábbi mátrix LU-felbontását, és ennek segítségével számítsuk ki mátrix determinánsát: 4 A := 4 4 Megoldás: Mindenekelőtt L-et már ismert elemeivel kitöltjük: főátlóbn -esek állnk, főátló felett zérusok: 4 A = 4 L =. 4.. Mjd elkezdjük z eliminációt: A első soránk 4-szeresét kivonjuk második, 4 -szeresét hrmdik sorból, e szorzókt ( 4 és 4 ) pedig beírjuk L első oszlopánk második ill. hrmdik helyére: L = Folyttjuk z eliminációt: mátrix második soránk -szeresét kivonjuk hrmdik sorból, z szorzót pedig beírjuk L második oszlopánk hrmdik helyére. Ezzel z eredeti mátrixból felső háromszög mátrixot kptunk (ez lesz felbontás U mátrix), és egyidejűleg z L-et is megkptuk. 4 U = 3 3 L = 3 4 (Ellenőrizzük z eredményt z LU szorzt közvetlen kiszámításávl! Próbáljuk ki mintfeldtbn muttott mátrixszorzásos módszert is!) A determináns z U mátrix digonálelemeinek szorzt: det(a) = det(u) = = 36.

23 7. Htározzuk meg z lábbi mátrix LU-felbontását, és ennek segítségével számítsuk ki mátrix determinánsát: A := Megoldás: Mindenekelőtt L-et már ismert elemeivel kitöltjük: főátlóbn -esek állnk, főátló felett zérusok: A = L =... Mjd elkezdjük z eliminációt: A első soránk -szeresét kivonjuk második sorból ( hrmdik sorból nem kell kivonni semmit, mert z első eleme ), szorzókt ( és ) pedig beírjuk L első oszlopánk második ill. hrmdik helyére: 3 L =. Folyttjuk z eliminációt: mátrix második soránk 3-szorosát kivonjuk hrmdik sorból, z 3 szorzót pedig beírjuk L második oszlopánk hrmdik helyére. Ezzel z eredeti mátrixból felső háromszög mátrixot kptunk (ez lesz felbontás U mátrix), és egyidejűleg z L-et is megkptuk. U = 3 L = (Ellenőrizzük z eredményt z LU szorzt közvetlen kiszámításávl! Próbáljuk ki mintfeldtbn muttott mátrixszorzásos módszert is!) A determináns z U mátrix digonálelemeinek szorzt: det(a) = det(u) = = 4. 3

24 A legkisebb négyzetek módszere. Motiváció Gykort fellépő problém, számoknál bonyolultbb objektumok pl. vektorok, függvények ngyságát vlmint ezek távolságát lklms módon definiálni. Tipikus példák: H egy függvényt egy másikkl (egyszerűbbel) közelítünk, kkor kettőjük távolság mérheti közelítés jóságát bbn z értelemben, hogy minél kisebb ez távolság, nnál jobb közelítés. H egy sokismeretlenes egyenletrendszert oldunk meg, óhttlnul számítási hibákt követünk el, tekintve, hogy számítógép is csk véges sok tizedesjeggyel dolgozik. Sőt, olykor kiindulási dtok is hibávl terheltek, mert pl. mérés eredményei. Ilyenkor jó tudni (vgy leglább megbecsülni), hogy közelítő megoldás milyen távol vn pontos megoldástól: itt is, minél kisebb ez távolság, nnál jobb közelítés. Ebben fejezetben sík- és térgeometriából jól ismert ngyság- és távolságfoglmkt áltlánosítjuk R N -beli vektorokr, és vlmilyen közös intervllumon értelmezett függvényekre. Ezen kívül igen jól hsználhtó lklmzásokt muttunk függvényközelítésekre és lineáris egyenletrendszerek közelítő megoldásár.. Skláris szorzt, norm és távolság R N -ben Adott N dimenziószám mellett tekintsük z R N vektorteret, melynek elemei rendezett, vlós (x, x,..., x N ) lkú szám-n-esek (vektorok). Két rendezett vlós szám-n-est, x := (x,..., x N )-t és y := (y,..., y N )-t egyenlőnek tekintünk, h komponenseik rendre megegyeznek, zz x = y,..., x N = y N. N = vgy 3 esetén R N zonosíthtó geometrii síkkl ill. térrel egy rögzített derékszögű koordinátrendszer megdásávl; ekkor sík (tér) pontji és koordinátáik lkott (x, x ) ill. (x, x, x 3 ) rendezett vlós számpárok (számhármsok) kölcsönösen egyértelműen megfeleltethetők egymásnk. Az x := (x, x ), y = (y, y ) síkbeli pontok távolság Pitgorásztételből dódik: (x y ) + (x y ). Térbeli pontokr hsonlón: h x := (x, x, x 3 ), y = (y, y, y 3 ), kkor távolság: (x y ) + (x y ) + (x 3 y 3 ). 4

25 Az x pont távolságát z origótól z x vektor hosszánk is nevezzük. Ezen egyszerű geometrii foglmkt kézenfekvő módon áltlánosíthtjuk z R N vektortér esetére is: Definíció: Az x := (x, x,..., x N ) R N vektor hosszánk vgy normájánk z x := x + x x N = N számot nevezzük. Az x := (x, x,..., x N ), y := (y, y,..., y N ) R N vektorok távolság ltt pedig z x y = N (x j y j ) számot értjük. j= j= Sokszor célszerű bevezetni két vektor skláris szorztát is: Definíció: Az x := (x, x,..., x N ), y := (y, y,..., y N ) R N vektorok skláris szorztánk z lábbi számot nevezzük: számot nevezzük. x, y := x j N x j y j = x y x N y N j= Elemi számolásokkl dódnk norm lpvető tuljdonsági: Állítás: Tetszőleges x R N -re x és x = pontosn kkor teljesül, h x mg zérusvektor, zz x = (,,..., ). Tetszőleges x R N vektor és α R szám esetén: α x = α x. Tetszőleges x, y R N vektor esetén: x+y x + y (háromszögegyenlőtlenség). Ezek háromszög-egyenlőtlenség kivételével egyszerű, elemi meggondolásokból dódnk (ellenőrizzük!); háromszög-egyenlőtlenséget kicsit később igzoljuk. 5

26 Ugyncsk elemi számolásokkl kphtók meg skláris szorztr vontkozó lpvető egyenlőségek, melyek megkönnyítik kétkezi számításokt: Állítás: Tetszőleges x, y, z R N vektorr és α R számr: x = x, x x, y = y, x αx, y = α x, y x, y + z = x, y + x, z A fenti állításokból zonnl következik, hogy x, αy = α x, y és x+y, z = x, z + y, z is igz. Különleges jelentősége vn z lábbi tételnek: Tétel (Cuchy-egyenlőtlenség): Tetszőleges x, y R N esetén: x, y x y, és egyenlőség csk bbn z esetben áll fenn, h x és y lineárisn összefüggők, zz egyik másik konstnsszoros. Bizonyítás: Tetszőleges α R esetén nyilván igz, hogy x αy, zz: N N (x j αy j ) ( = x j + αx j y j + α jj ) = j= j= = x α x, y + α y Legyen most már α := x y (h y ; y = esetén z állítás = egyenlőségre egyszerűsödik). Ekkor: x + x x x, y + y y y, honnn lehetséges összevonások és egyszerűsítések után z x, y x y egyenlőtlenséget kpjuk. Mivel ez minden x, y R N esetén igz, zért y helyébe ( y)-t írv is igz mrd: x, y x y = x y, 6

27 honnn x, y x y. Kptuk, hogy: x y x, y x y, zz vlóbn, x, y x y. Egyenlőség pedig nyilván csk kkor vn, h x αy =, zz x = αy. A bizonyításból érdemes egy önmgábn is érdekes és fontos egyenlőséget kiemelni: x y = x x, y + y, és hsonlón láthtó z is, hogy: x + y = x + x, y + y, A Cuchy-egyenlőtlenségből háromszög-egyenlőtlenség már egyszerűen dódik: x+y = x + x, y + y x + x y + y = ( x + y ). Mindkét oldl négyzetgyökét véve, épp háromszög-egyenlőtlenséget kpjuk..3 Skláris szorzt, norm és távolság z L (, b) térben Legyen (, b) R egy (véges vgy végtelen) intervllum. Jelölje L (, b) mindzon f : (, b) R függvények összességét, melyekre z b f(x) dx integrál létezik és véges ( négyzetesen integrálhtó függvények tere). Könnyen ellenőrizhető, hogy L (, b) vektortér szokásos függvényműveletekre nézve. Ilyen függvényekre szintén bevezethető norm, távolság és skláris szorzt; vegyük észre ngyfokú nlógiát z R N -ben bevezetett definíciókkl. Definíció: Az f L (, b) függvény normájánk z b f := f(x) dx számot nevezzük. Az f, g L (, b) függvények távolság ltt z b f g = f(x) g(x) dx 7

28 számot értjük. Az f, g L (, b) függvények skláris szorztánk pedig z lábbi számot nevezzük: f, g := b f(x)g(x) dx. Az lábbi állítások elemi számolásokkl dódnk: Állítás: Tetszőleges f L (, b)-re f, és f = pontosn kkor teljesül, h f zonosn z (, b) intervllumon. Tetszőleges f L (, b) függvény és α R szám esetén: α f = α f. Tetszőleges f, g L (, b) vektor esetén: (háromszög-egyenlőtlenség). f + g f + g Állítás: Tetszőleges f, g, h L (, b) függvényekre és α R számr: f = f, f f, g = g, f αf, g = α f, g f, g + h = f, g + f, h A fenti állításokból zonnl következik, hogy f, αg = α f, g és f+g, h = f, h + g, h is igz. A Cuchy-egyenlőtlenség most is igz, és lényegében ugynúgy igzolhtó, mint R N -ben, így ettől eltekintünk. Ebben formájábn néh Schwrzegyenlőtlenségnek vgy Cuchy-Schwrz-egyenlőtlenségnek is nevezik: Tétel (Cuchy-Schwrz-egyenlőtlenség): Tetszőleges f, g L (, b) függvények esetén: f, g f g, zz b b b f(x)g(x) dx f(x) ) dx g(x) ) dx 8

29 és egyenlőség csk bbn z esetben áll fenn, h f és g lineárisn összefüggők, zz egyik másik konstnsszoros. A Cuchy-egyenlőtlenség segítségével háromszög-egyenlőtlenség ugynúgy igzolhtó, mint z R N tér esetében. Érdemes megjegyezni továbbá z lábbi hsznos egyenlőségeket: tetszőleges f, g L (, b) függvények esetén: f + g = f + f, g + g, és f g = f f, g + g..4 A legkisebb négyzetek módszere.4. Lineáris regresszió Legyenek dottk z x, x,..., x M és z y, y,..., y M számok (hol M ). Ezek gykorltbn sokszor mérési dtok. Feltételezzük (egyéb, nem feltétlenül mtemtiki meggondolások lpján), hogy z x j dtoktól z y j dtok közel egy elsőfokú polinom szerint függenek, zz z összefüggés formuláj: y = + x, hol, egyelőre ismeretlen prméterek, és épp ezekre vgyunk kíváncsik. Pontosbbn: keressünk olyn y = + x lkú polinomot, mely lehető legjobbn illeszkedik z x, x,..., x M, y, y,..., y M dtokr. A tökéletes illeszkedés ez lenne: + x = y + x = y... + x M = y M Tömör jelölésekkel: hol A = R M. x x x M A = y, M M, = ( ) R, y = y y... y M 9

30 Az egyenletek szám (M) gykorltbn jóvl meghldhtj z ismeretlenek számát (): ezt néh túlhtározott egyenletrendszernek is nevezik. Ennek áltlábn nincs megoldás. Azonbn felvethető, hogy milyen R mellett minimális z F () := A y eltérésnégyzet. Minél kisebb ez hibként is felfoghtó szám, nnál jobbnk tekinthető z illeszkedés. Tökéletes illeszkedés esetén ez hib nyilván. Ez legkisebb négyzetek módszerének lpgondolt. A minimumot relizáló R vektor tekinthető z A = y egyfjt áltlánosított megoldásánk, pontosbbn: legkisebb négyzetes megoldásánk. A fenti minimumfeldt pedig könnyen megoldhtó. Ismeretes, hogy z M F (, ) := A y = ( + x k y k ) kétváltozós függvénynek csk ott lehet minimum, hol mindkét változój szerinti prciális deriváltj zérus, zz: F M = ( + x k y k ) = F = k= k= M ( + x k y k ) x k = k= Az ismeretlen, prméterekre tehát z lábbi egyenletrendszert kptuk: ( M ) ( M ) M + x k = k= k= ( M ) ( M x k + k= Az egyenletrendszer determináns: ( M ) ( M k= k= x k k= x k ) = k= y k M x k y k k= ) ( M ) x k, és ez Cuchy-egyenlőtlenség mitt csk kkor lehet, h z (,,..., ) és z (x, x,..., x M ) vektorok egymás konstnsszorosi, zz mindegyik x k egyenlő. Ettől, gykorlt számár érdektelen esettől eltekintve, determináns mindig pozitív, így z egyenletrendszer egyértelműen megoldhtó. 3 k=

31 .4. Kvdrtikus és polinomiális regresszió Legyenek dottk z x, x,..., x M és z y, y,..., y M számok (hol M 3). Finomítv z előző szksz problémkörének vizsgáltát, tegyük fel, hogy z x j dtoktól z y j dtok közel egy másodfokú polinom szerint függenek, zz közelítő összefüggés formuláj: y = + x + x, hol,, egyelőre ismeretlen prméterek. Másképp megfoglmzv, keressünk olyn y = + x + x lkú polinomot, mely lehető legjobbn illeszkedik z x, x,..., x M, y, y,..., y M dtokr. A tökéletes illeszkedés ez lenne: Röviden: hol A = = x x x x x M x M + x + x = y + x + x = y... + x M + x M = y M R 3, y = A = y, M M 3, y y... y M RM. H M 3 (és ez gykorltbn legtöbbször így is vn), kkor ez is egy túlhtározott egyenletrendszer, és áltlábn nincs megoldás. A legkisebb négyzetes (vgy áltlánosított) megoldás z z R 3 vektor, mely minimlizálj z F () := A y függvényt. Minimum csk ott lehet, hol mindhárom változó szerinti prciális derivált zérus, zz: F = M ( + x k + x k y k) = k= 3

32 F = F = M ( + x k + x k y k) x k = k= M ( + x k + x k y k) x k = k= Kptuk, hogy z ismeretlen,, prméterek kielégítik következő egyenletrendszert: ( M ) ( M ) ( M ) M + x k + = k= k= ( M ) ( M x k + k= ( M k= x k ) + k= ( M k= x k x 3 k ) ) + + k= ( M k= ( M k= x k x 3 k x 4 k ) ) = = k= y k M x k y k k= M x k y k Nem kell rgszkodni legfeljebb első- vgy másodfokú közelítéshez. Pontosn ugynezzel technikávl könnyen láthtó, hogy h egy y = + x p x p legfeljebb p-edfokú polinomot keresünk, mely lehető legjobbn illeszkedik z x, x,..., x M, y, y,..., y M dtokr (hol most M p + ), kkor z ismeretlen,,..., p együtthtók minimlizálják z függvényt, hol A = = M p F () := A y = j x j k y k x x... x p x x... x p x M x M... xp M... p R p+, y = k= j= M M (p+), y y... y M RM. k= 3

33 A minimumhelyen z összes változó szerinti prciális derivált eltűnik, mi z lábbi egyenletrendszerre vezet: F M p = j x j k y k x m k =, m zz ( p M j j= k= k= x j+m k ) = j= M x m k y k (m =,,..., p) k=.4.3 Egyenletmegoldás legkisebb négyzetek módszerével Az előző regressziós problémát áltlánosítv, tekintsük z Ax = b egyenletrendszert, hol A M M N, b R M, és z egyenletrendszer x megoldását R N -ben keressük. Tegyük fel, hogy M N (zz kár több egyenletünk vn mint hány ismeretlenünk, tehát z egyenletrendszer túlhtározott). Ekkor áltlábn nincs megoldás. Áltlánosított vgy legkisebb négyzetes megoldásnk nevezzük zt z x R N vektort, mely minimlizálj mrdékvektor normnégyzetét, zz z F (x) := Ax b függvényt. Ilyen áltlánosított megoldás már mindig létezik. Nyilvánvló, hogy h történetesen x pontos megoldás, tehát Ax = b, kkor F (x) =, és mivel F mindenütt nemnegtív, zért ez z x egyúttl minimumhely is. Ilyen értelemben tehát z F -et minimlizáló vektorok vlóbn áltlánosított megoldásnk tekinthetők. A minimumhely megkeresése szokásos differenciálszámítási eszközökkel történik. Nyilván F (x, x,..., x N ) = Ax b = M N A kj x j b k k= j= honnn minden m =,,..., N-re: F M N = A kj x j b k A km = x m k= j= 33,

34 A bl oldlon z összegezések sorrendjét felcserélve: ( N M ) M A kj A km x j = A km b k j= k= Jelölje szokásos módon A M N M z A mátrix djungáltját, kkor definíció szerint bl oldlon A kj = A jk, jobb oldlon pedig A km = A mk. Azt kptuk, hogy: ( N M ) M A jk A km x j = A mk b k j= k= m =,,..., N-re. Ez pedig mátrixszorzás definíciój mitt z lábbi tömör vektoregyenlőséggel egyenértékű: A Ax = A b Ezt z egyenletet z eredeti Ax = b egyenlet Guss-féle normálegyenletének nevezzük. Mivel nyilván A A M N N, zért Guss-féle normálegyenlet mátrix M N esetén sokkl kisebb méretű, mint z eredeti A mátrix. H A A reguláris, kkor tehát legkisebb négyzetes (áltlánosított) megoldás egyértelműen létezik. Sok esetben viszont Guss-féle normálegyenlet rosszul kondícionált, mi z egyenletmegoldás során numerikus nehézségeket okozht. Megjegyzések: A Guss-féle normálegyenlethez egyszerűbb úton is eljuthtunk. Tekintsük z F (x) := Ax b függvényt: ennek csk ott lehet minimum, hol grdiensvektor zérusvektorrl egyenlő. A grdiensvektor kiszámítás pedig stndrd módon történhet. Legyen h R N tetszőleges, kkor: F (x + h) = Ax + Ah b = Ax b + Ax b, Ah + Ah = k= k= = F (x) + A (Ax b), h + O( h ), zz grd F (x) = A (Ax b). Ez pedig nyilván kkor zérusvektor, h x megoldás Guss-féle normálegyenleteknek. A legkisebb négyzetek módszere kkor is hsználhtó, h M < N (lulhtározott egyenletrendszer). Ekkor z jellemző, hogy Guss-féle normálegyenletnek több megoldás is vn. Ezekből sokszor célszerű kiválsztni legkisebb normájút. Ennek részleteivel itt nem fogllkozunk. 34

35 Fontos látni, hogy közelítés jóságát nem kötelező mrdékvektor normnégyzetével mérni. Leglább ennyire jogos mrdékvektor legngyobb bszolút értékű komponensét (nnk bszolút értékét) minimlizálni: ez z egyenletesen legjobb közelítés. Azonbn ez minimumfeldt áltlábn technikilg sokkl nehezebb problém, mint legkisebb négyzetek módszere, így inkább z utóbbit hsználják h úgy tetszik, kényelmi okokból..4.4 Függvényillesztés legkisebb négyzetek módszerével Legyen [, b] R egy véges intervllum, és f L (, b) dott függvény. A gykorltbn sokszor f egy bonyolult és/vgy képlettel nem is dott függvény, melyet szeretnénk egyszerűbb függvényekkel például polinomokkl közelíteni. Legyen tehát p közelítő függvény egy legfeljebb N-edfokú polinom: p(x) := + x + x N x N A közelítés jóságát többféleképp is értelmezhetjük. ) Felveszünk egy x < x <... < x M b lppontrendszert, és z,,..., N együtthtókt úgy válsztjuk meg, hogy z eltérések négyzetösszege: M M N F (,,..., N ) := (p(x k ) f(x k )) = j x j k f(x k) k= minimális legyen. Ez egy polinomiális regressziós problém z x, x,...,x M lppontrendszeren, hozzárendelt f(x ), f(x ),..., f(x M ) függvényértékekre nézve. Az előzőekből ennek már tudjuk megoldását. Az ismeretlen együtthtók z lábbi egyenletrendszer megoldásából számíthtók: ( N M ) j= j k= x j+m k = k= j= M x m k f(x k) (m =,,..., N) k= ) Az,,..., N együtthtókt úgy válsztjuk meg, hogy z f és p függvényeknek z L (, b)-norm szerinti távolságnégyzete, zz b b N G(,,..., N ) := (p(x) f(x)) dx = j x j f(x) dx 35 j=

36 szám minimális legyen. A már ismert technikávl: minimum csk ott lehet, hol mindegyik változó szerinti prciális derivált zérus, zz mindegyik m =,,..., N-re: G b N = j x j f(x) x m dx = m j= Innen z ismeretlen együtthtókr z lábbi egyenletrendszert nyerjük: N ( b j j= ) x j+m dx = b f(x) x m dx (m =,,..., N) Az egyenletrendszer mátrixánk elemei igen egyszerűen számíthtók: A mj = b x j+m dx = bj+m+ j+m+ j + m + H speciálisn [, b] = [, ], kkor mátrix különösen egyszerű lkú lesz: A mj = j + m + (j, m =,,..., N) Ezt mátrixot (N + )-edrendű Hilbert-mátrixnk nevezzük. A jobb oldli b f(x) xm dx integrálok elvben f ismeretében kiszámíthtók: gykorltbn ezek kiszámítás sokszor csk közelítő módszerekkel történhet. Ilyen közelítő integrálási módszerekkel egy másik fejezetben fogunk fogllkozni. Megjegyzés: A Hilbert-mátrixok szimmetrikusk és pozitív definitek, de rendkívül rosszul kondícionáltk. Emitt előszeretettel hsználják egyenletmegoldó lgoritmusok tesztelésére. A kétféle függvényközelítés hsonlóságát és különbözőségét z lábbi példán keresztül szemléltetjük. Péld: Tekintsük z f(x) := cos πx (x [, ]) formulávl értelmezett függvényt. Közelítsük f-et egy legfeljebb másodfokú, p(x) := + x + x lkú polinomml. 36

37 ) Kvdrtikus regresszió: Ehhez egy (leglább 3 pontból álló) lppontrendszerre vn szükség. Legyen pl. x :=, x :=, x 3 :=. Akkor függvényértékek z lppontokbn: f =, f =, f 3 =. Az dtok lpján zonnl ellenőrizhető, hogy p(x) := x formulávl definiált másodfokú polinom épp illeszkedik fenti dtokr. Természetesen formális kvdrtikus regresszió is ugynezt z eredményt dj. Most M = 3, regressziós egyenletrendszer pedig következő (ellenőrizzük!): 3 melynek egyetlen megoldás: = =, zz regressziós polinom vlóbn p(x) = + x + x = x., H 3 helyett pl. 5 lppontot lklmzunk, regressziós polinom egy kicsit változik. Legyen most M := 5 és x :=, x :=.5, x 3 :=, x 4 :=.5, x 5 :=. Ekkor f lpponti értékei: f =, f =, f 3 =, f 4 = és f 5 =. A regressziós egyenlet lkj most (ellenőrizzük!): melynek egyetlen megoldás = = + 4 = polinom most p(x) = + x + x = x ,, zz regressziós Melyik közelítés jobb? A válsz nem mgától értetődő, z lklmzott lppontrendszertől függ. A ( ),, lppontrendszert tekintve z első, 3-pontos közelítés jobb, mert ez esetben z lpponti függvényértékeket regressziós polinom pontosn reprodukálj, így z eltérés-négyzetösszeg pontosn, míg második, 5-pontos közelítés esetén ez ( + ) +( ) + ( + ) =.93. A ( ), (.5),,.5, 5-pontos lppont rendszer mellett kiszámítv z eltérés-négyzetösszegeket z dódik, hogy z első közelítés esetén z eltérés-négyzetösszeg.36797, míg második 37

38 közelítés esetén ez szám.68. Tehát ezen z lppontrendszeren második közelítés jobb. ) Az L -eltérés minimlizálás: Itt z ( + x + x f(x)) dx négyzetintegrált minimlizáljuk. A korábbi szksz eredményei lpján z,, együtthtók z lábbi egyenletrendszert elégítik ki: dx x dx x dx x dx x dx x 3 dx x dx x 3 dx x 4 dx = Az integrálásokt elvégezve, z egyenletrendszer konkrét lkj: melynek egyetlen megoldás: = = kvdrtikus regresszió eredményétől. Most , p(x) = + x + x = x. f(x) dx f(x) x dx f(x) x dx, mi kissé eltér Ugynkkor viszont módszer nem hsznál intervllumfelbontást, így közelítés kvdrtikus regressziótól eltérően lppont-független. 38

39 .5 Feldtok. Mutssuk meg, hogy tetszőleges x = (x, x,..., x N ) R N esetén érvényes következő egyenlőtlenség: N x j N x j= Megoldás: Jelölje e := (,,..., ) R N csup -es komponensekből álló vektort. Akkor, Cuchy-egyenlőtlenséget felhsználv: N x j = N x j = e, x j= j= e x = N x = N x j=. Mutssuk meg, hogy h z x = (x, x,..., x N ) R N, y = (y, y,..., y N ) R N vektorokr x = y teljesül, kkor: x + y, x y =. Megoldás: Felhsználv skláris szorztr vontkozó zonosságokt: x + y, x y = x, x x, y + y, x y, y = x y =. 3. Legyenek dottk síkbeli (x, y ), (x, y ),...(x N, y N ), R pontok. Htározzuk meg zt z (x, y) pontot síkon, melyre z előző pontoktól mért távolságik négyzetösszege minimális. Megoldás: Tetszőleges (x, y) R pontr szóbn forgó távolságnégyzetösszeg: f(x, y) = N ((x x j ) + (y y j ) ) j= 39

40 Ennek minimum csk ott lehet, hol mindkét változó szerinti prciális derivált zérus, zz: f N x = (x x j ) = j= f N y = (y y j ) = j= Innen z (x, y) minimumhely csk következő lehet: x = N N x j, j= y = N N j= y j zz pontrendszer súlypontj. (Ellenőrizzük, hogy itt tényleg minimum vn f-nek!) 4. Legyenek dottk z x :=, x :=, x 3 :=, x 4 := lppontok és hozzájuk rendelt f := 5, f := 7, f 3 :=, f 4 := 3 értékek. Htározzuk meg fenti dtokr illeszkedő lineáris regressziós függvényt. Megoldás: Az dtokkl: 4 j= = 4, 4 j= x j =, 4 j= x j =, 4 j= f j = 36, 4 j= f jx j =. A p(x) := + x regressziós függvény, együtthtói tehát kielégítik z lábbi egyenletrendszert: ( ) ( ) ( ) 4 36 =, honnn = 9, =, tehát regressziós polinom: p(x) = 9 + x. Vegyük észre, hogy regressziós polinom pontosn illeszkedik z dtokr! 5. Tekintsük z előző feldt x :=, x :=, x 3 :=, x 4 := lppontjit és hozzájuk rendelt f := 5, f := 7, f 3 :=, f 4 := 3 értékeket. Htározzuk meg fenti dtokr illeszkedő kvdrtikus regressziós függvényt. 4

41 Megoldás: Az dtokkl: 4 j= = 4, 4 j= x j =, 4 j= x j =, 4 j= x3 j =, 4 j= x4 j = 34, 4 j= f j = 36, 4 j= f jx j =, 4 j= f jx j = 9. A p(x) := + x + x regressziós függvény,, együtthtói tehát kielégítik z lábbi egyenletrendszert: 4 36 =, 34 9 honnn = 9, =, =. Így regressziós polinom: p(x) = 9 + x, pontosn ugynz, mint z előző feldtbn. Ez nem is meglepő, mert z előző feldtbn már z elsőfokú regressziós polinom is pontosn illeszkedett z dtokr, úgyhogy regressziós polinom fokszámánk növelése ezen nyilván nem jvít már. 6. Tekintsük ismét z előző két feldt lppontjit és hozzájuk rendelt értékeket, de f 4 értékét kissé változtssuk meg: f 4 := 4; tehát legyenek x :=, x :=, x 3 :=, x 4 :=, f := 5, f := 7, f 3 :=, f 4 := 4. Htározzuk meg fenti dtokr illeszkedő lineáris és kvdrtikus regressziós függvényt. Megoldás: Az dtokkl: 4 j= = 4, 4 j= x j =, 4 j= x j =, 4 j= x3 j =, 4 j= x4 j = 34, 4 j= f j = 37, 4 j= f jx j =, 4 j= f jx j = 94. A p(x) := + x regressziós függvény, együtthtói kielégítik z lábbi egyenletrendszert: ( ) ( ) ( ) 4 37 =, honnn = 9.5, =.. Így regressziós polinom: p(x) = x, A kvdrtikus regresszió esetében p(x) := + x+ x regressziós függvény,, együtthtói pedig következő egyenletrendszert elégítik ki: = 37 94,

42 honnn = , =., =.666. Így regressziós polinom: p(x) = x +.666x. 7. Legyenek x, x,..., x M különböző lppontok, trtozznk hozzájuk z y, y,..., ( y M értékek ) (M ). Mutssuk meg, hogy lineáris regresszió := együtthtóit meghtározó egyenletrendszer épp z A = b túlhtározott egyenletrendszer Guss-féle normálegyenlete, hol x A = x......, b =. x M (... Megoldás: Nyilván: A = x x... x M ( M A A = k= ) M k= x k M k= x, A b = k M k= x k y y... y M ), honnn: ( M ) k= y k M k= x. ky k 8. Legyenek x, x,..., x M különböző lppontok, trtozznk hozzájuk z y, y,..., y M értékek (M 3). Mutssuk meg, hogy kvdrtikus regresszió := együtthtóit meghtározó egyenletrendszer épp z A = b túlhtározott egyenletrendszer Guss-féle normálegyenlete, hol x x y A = x x , b = y.... x M x M y M... Megoldás: Nyilván: A = x x... x M, honnn: A A = M k= M k= x k M k= x k x x... x M M k= x k M k= x k M k= x3 k M k= x k M k= x3 k M k= x4 k, A b = M k= y k M k= x ky k M k= x k y k. 4

43 9. Keressük meg z Ax = b egyenletrendszer legkisebb négyzetes megoldását, ( ) hol A = 3 3 4, x = x, b = x. 4 5 Megoldás: A Guss-féle normálegyenlet: A Ax = A b, zz ( ) ( ) ( ) 3 4 x 6 = 4 54 Ennek egyetlen megoldás: x =.8, x =. x. Tekintsük z f(x) := e x exponenciális függvényt [, ] intervllumon. Htározzuk meg zt legfeljebb hrmdfokú p polinomot, mely f-et z L (, ) norm szerint legjobbn közelíti. Megoldás: A p(x) = + x + x + 3 x 3 polinom együtthtó z lábbi egyenletrendszert elégítik ki: dx + x dx + x dx + 3 x 3 dx = x dx + x dx + x 3 dx + 3 x 4 dx = x dx + x 3 dx + x 4 dx + 3 x 5 dx = x 3 dx + x 4 dx + x 5 dx + 3 x 6 dx = e x dx xe x dx x e x dx x 3 e x dx Az integrálásokt bl és jobb oldlkon elvégezve (ellenőrizzük!): e = e 3 6 e Ennek egyetlen megoldás: =.9996, =.83, =.45, 3 = A legjobbn közelítő polinom tehát: p(x) = x +.45x x 3 43

44 Érdekességképp megjegyezzük, hogy ez nem egyezik hrmdfokú Tylor-polinomml ( + x +.5x x 3 ), bár z együtthtók közel vnnk Tylor-polinom együtthtóihoz. 44

45 3 Interpoláció 3. Motiváció A gykorltbn megoldndó problémák közt z egyik leggykoribb z interpoláció még h ezt nem is mindig mondjuk ki explicite. Durván szólv, dottk bizonyos helyek (egyenesen vgy síkon vgy térben), ezek z interpolációs lppontok. Minden interpolációs lpponthoz trtozik egy hozzárendelt érték (ez lehet szám, de kár vektor is). Az interpoláció lpproblémáj: keressünk olyn, előírt tuljdonságokkl rendelkező függvényt, melyek z dott helyeken z dott értékeket veszi fel. Néhány jellegzetes péld: Az interpolációs lppontok földrjzi koordinátpárok, hozzárendelt értékek pedig z illető ( Föld felszínén levő) pont tengerszint feletti mgsság. Feldt: fenti dtokból domborzti térkép generálás, zz olyn kellően sim kétváltozós függvény előállítás, mely illeszkedik z dtokr. Az interpolációs lppontok egy vízfelület folyó, tó vgy tenger dott földrjzi koordinátájú pontji, hozzárendelt értékek pedig z ott érvényes vízmélységek, pontosbbn, z ezekből előállított fenékszintek. Feldt: fenti dtokból megbízhtó vízmélység-dtokt előállítni ott is, hol mélységmérés nem történt. Egy ilyen térképnek hjózhtóság szempontjából különös fontosság vn. Számítógépes modellek, szoftverek áltlábn rengeteg dtot igényelnek, melyek vlmiféle nygi állndót jelentenek más és más pontokbn. Ilyen lehet például egy ármlási modellben vízmélység, egy hőterjedési modellben hővezetési tényező stb. H vlhol ez nem áll rendelkezésre, kkor jobb híján zt környező helyeken érvényes dtokból kell közelíteni: ez is egy speciális interpoláció. Mrdv z ármlási modelleknél, tegyük fel, hogy egy tóbn szél htásár kilkuló cirkulációkt szeretnénk modellezni. Ehhez persze szükségünk vn szélsebességekre, mik vektorok. Ugynkkor konkrét mérést csk néhány meteorológii állomáson végeznek: másutt z itt mért dtokból kell interpolálni. Ez egy péld vektor-interpolációr is. Jellemzően ekkor zt is meg lehet (vgy kell) követelni, hogy z interpolált vektormező tegyen eleget vlmilyen differenciálegyenletnek is (pl. legyen divergencimentes). 45

46 Interpolációs problémár vezet z is, h dott pontokt összekötő sim görbét (vgy dott pontokr illeszkedő sim felületet) szeretnénk előállítni (görbe- ill. felületillesztés). stb. stb. stb... A fenti durv megfoglmzásbn z interpoláció erősen lulhtározott problém: ngyon sok olyn függvény konstruálhtó, mely előírt helyeken előírt értékeket vesz fel. Szükséges tehát pontosbbn specifikálni vgy zt függvényhlmzt, honnn z interpolációs függvényt válsztjuk, vgy zt tuljdonságot, mit megkövetelünk z interpolációs függvénytől. A továbbikbn csk legegyszerűbb, klsszikus interpolációs módszerekkel fogllkozunk, hol z interpolációs lppontok egy egyenes mentén helyezkednek el. Ez eleve egyfjt természetes rendezést jelent z lppontok közt, melyet bemuttott interpolációs módszerek ki is hsználnk. Jóvl nehezebb problém szórt lppontú interpoláció, hol z lppontok síkbn vgy térben helyezkednek el, mindenféle struktúr és rendezés nélkül. A fejezet végén érintőlegesen ilyen módszerekről is lesz szó. 3. A Lgrnge-interpoláció Legyenek z interpolációs lppontok mind különbözők: x < x < x <... < x N b, hozzárendelt értékek pedig rendre f, f,..., f N R tetszőleges számok. Problém: Keressünk olyn L N (x) := + x N x N legfeljebb N- edfokú polinomot, mely teljesíti z interpolációs feltételeket, zz L N (x k ) = f k (k =,,..., N-re). Miután (N + ) db interpolációs feltétel vn, és összesen szintén (N + ) egyelőre ismeretlen együtthtó, ezért várhtó, hogy z interpolációs problémánk létezik, mégpedig feltehetően egyértelmű megoldás. Ez vlóbn így is vn. Az egyértelműség megmuttásávl kezdjük: h L N és P N mindketten legfeljebb N-edfokú polinomok, melyek kielégítik z interpolációs feltételeket, kkor kettőjük különbsége, L N P N is legfeljebb N-edfokú polinom, mely minden lppontbn tehát (N + ) különböző helyen zérussl egyenlő. L N P N gyökeinek szám tehát meghldj fokszámot. Az lgebr lptétele mitt ez csk úgy lehetséges, h L N P N, zz P N L N. Az interpolációs polinom tehát vlóbn egyértelmű. Másféle interpolációs technikáktól vló megkülönböztetésképp, ezt nevezzük Lgrngeinterpolációs polinomnk. 46

47 Ami z interpolációs polinom konkrét előállítását illeti, több módszert is muttunk. A legegyszerűbb z interpolációs feltételeket megkövetelni, mi z ismeretlen együtthtókr egy (N + )-ismeretlenes lineáris egyenletrendszert jelent: L N (x k ) = + x k N x N k N = x j k j = f k (k =,,..., N) Az egyenletrendszer mátrix: x x... x N x x... x N A = x x... x N M (N+) (N+) x N x N... xn N j= Megmutthtó, hogy h z lppontok mind különbözők, kkor z A mátrix reguláris, így z interpolációs egyenletrendszernek pontosn egy megoldás vn. A Lgrnge-interpolációs polinom egyenletmegoldás nélkül, explicit formulákkl is előállíthtó. Adott lppontrendszer és N fokszám mellett jelölje l (N) j Lgrnge-féle lppolinomokt: l (N) j (x) := (x x )(x x )...(x x j )(x x j+ )...(x x N ) (x j x )(x j x )...(x j x j )(x j x j+ )...(x j x N ) (j =,,..., N). Mindegyik Lgrnge-féle lppolinom pontosn N-edfokú, és egyszerű behelyettesítéssel dódik, hogy (j = k) l (N) j (x k ) = (j k) Innen pedig zonnl következik, hogy következő polinom legfeljebb N- edfokú, eleget tesz z interpolációs feltételeknek, tehát megegyezik Lgrngeféle interpolációs polinomml: L N (x) := N j= f j l (N) j (x) H ugynis x vlmilyen lpponttl egyezik, pl. x = x k, kkor fenti összeg minden tgj eltűnik, egy kivételével ( k-dik tg kivételével), és L N (x k ) = f k l (N) k (x k ) = f k. 47

48 Most tehát Lgrnge-interpolációs polinom előállításához nem kellett egyenletrendszert megoldni, viszont szorzt lkú polinomokt kell kezelni, mi mgsbb fokszám esetén eléggé kényelmetlen lehet. Kézi számolásokr jó kompromisszum lehet z osztott differenciák hsznált. Adott x, x,..., x N lppontrendszer és f : [, b] R függvény mellett definiáljuk z elsőrendű osztott differenciákt következő módon: f[x j, x j+ ] := f(x j+) f(x j ) x j+ x j (j =,,..., N ). Ezek tehát közönséges különbségi hánydosok. Definiáljuk rekurzív módon mgsbb rendű osztott differenciákt: f[x j, x j+,..., x j+k ] := f[x j+,..., x j+k ] f[x j,..., x j+k ] x j+k x j Ezekután tetszőleges x, x,..., x N lppontrendszer és z erre vontkozó f(x ), f(x ),..., f(x N ) függvényértékek ismeretéből most már gépiesen számíthtók z osztott differenciák. Példképp, h N = 3, kkor következő táblázt elemei közvetlen számolásokkl dódnk: x f(x ) f[x, x ] x f(x ) f[x, x, x ] f[x, x ] f[x, x, x, x 3 ] x f(x ) f[x, x, x 3 ] f[x, x 3 ] x 3 f(x 3 ) Mivel különbségi hánydosok (elsőrendű osztott differenciák) z elsőrendű deriváltkkl kpcsoltosk, várhtó, hogy mgsbb rendű osztott differenciák mgsbb rendű deriváltkkl muttnk hsonltosságot. Ez vlóbn így is vn. A részletes számításokt mellőzve, z osztott differenciák tábláztából Lgrnge-interpolációs polinom z lábbi formulávl áll elő: L N (x) = f(x ) + f[x, x ] (x x ) + f[x, x, x ] (x x )(x x ) f[x, x, x,..., x N ] (x x )(x x )...(x x N ) Ehhez z osztott differenciák tábláztánk csk bekeretezett elemeit (felső sor) kell hsználni. 48

49 A módszer előnye mindkét előző módszerhez képest z, hogy h z lppontrendszert egy újbb lpponttl bővítjük, nem kell elölről kezdenünk számítást: elég csk legmgsbb rendű osztott differenciát kiszámítni, és Lgrnge-interpolációs polinom formuláj mindössze egy új tggl bővül. A fenti technikákt következő példán keresztül szemléltetjük. Legyenek z lppontok: x :=, x :=, x :=, hozzárendelt értékek pedig: f :=, f :=, f :=. Akkor Lgrnge-interpolációs polinom legfeljebb másodfokú. Htározzuk meg Lgrnge-interpolációs polinomot mindhárom, fentebb bemuttott módszer szerint. ) Írjuk fel z interpolációs polinomot L (x) := + x + x lkbn. Az interpolációs feltételeket megkövetelve, z ismeretlen,, együtthtókr z lábbi egyenletrendszert kpjuk: melynek egyetlen megoldás: = =. Tehát Lgrnge-interpolációs polinom: L (x) = + x + x = x. ) A Lgrnge-lppolinomok:, l () (x) = (x x )(x x ) x(x ) = (x x )(x x ) ( ) ( ) = x x Ezért: l () (x) = (x x )(x x ) (x + )(x ) = = x + (x x )(x x ) ( ) l () (x) = (x x )(x x ) (x + )x = = (x x )(x x ) x + x L (x) = f l () (x) + f l () (x) + f l () (x) = x + 49

50 3) Osztott differenciákkl: j x j f j Ezért: ( ) = ( ) = = L (x) = + (x + ) + ( ) (x + )(x ) = x Alpvető fontosságú kérdés, hogy Lgrnge-interpolációs mennyire pontos bbn z értelemben, hogy h előre dott, sim függvényeket közelítünk Lgrnge-interpolációs polinomjukkl egy dott lppontrendszeren z itt felvett értékeikből, kkor Lgrnge-interpolációs polinom mennyire tér el z dott függvénytől A következő tétel erre d válszt. Tétel: H f C N+ [, b] (zz (N + )-szer folytonosn differenciálhtó z [, b] intervllumon), és L N z x, x,..., x N [, b] lppontrendszerre és z f(x ), f(x ),..., f(x N ) lpponti dtokr támszkodó Lgrnge-interpolációs polinom, kkor tetszőleges x [, b] esetén: f(x) L N (x) mx [,b] f (N+) (N + )! ω N (x) hol ω N (x) := (x x )(x x )...(x x N ). Innen pedig nyilván: f(x) L N (x) mx f (N+) (b )N+ [,b] (N + )! Bizonyítás: Legyen x [, b] tetszőleges, rögzített szám. H x interpolációs lppont, kkor tétel nyilvánvló egyenlőtlenségre egyszerűsödik. Tegyük fel tehát, hogy x nem egyezik egyik lpponttl sem. Tekintsük z lábbi formulávl definiált függvényt: g(t) := f(t) L N (t) ω N(t) ω N (x) (f(x) L N(x)) Akkor g eltűnik z összes lppontbn és még t = x helyen is (ellenőrizzük!), tehát (N + ) különböző helyen. A differenciálszámítás középértéktételeiből 5

51 ismert Rolle-féle tétel szerint ezért g deriváltfüggvény eltűnik (leglább) (N + ) különböző helyen, g második deriváltfüggvény eltűnik (leglább) N különböző helyen, és így tovább, g (N+) deriváltfüggvény eltűnik leglább egy ξ [, b] helyen. Ámde L (N+) N ( deriválás rendje ngyobb fokszámnál), és mitt: ω (N+) N (t) = dn+ dt N+ (tn+ +...) (N + )! g (N+) (ξ) = f (N+) (ξ) (N + )! ω N (x) (f(x) L N (x)) = Az egyenlőséget átrendezve kpjuk, hogy minden x [, b]-hez vn oly ξ [, b], hogy f(x) L N (x) = f (N+) (ξ) ω N (x). (N + )! Mindkét oldl bszolút értékét véve, tétel állítás innen már dódik. A tétel tetszetős hibbecslés, ám gykorltbn óvtosn hsználndó. H N, kkor z ismert (b )N N! htárérték zt sugllhtj, hogy Lgrnge-interpolációs polinomok L N soroztánk hibáj (zz mx f(x) x [,b] L N (x) szám) gyorsn -hoz trt, h z interpolációs lppontok szám minden htáron túl nő. Ez kkor vn így, h z f függvény deriváltjink bszolút értéke deriválás rendjével nem túl gyorsn növekszik, mi nem mindig áll fenn. Másrészt gykorlti esetek ngy részében f-et nem ismerjük, így deriváltjit sem; csk z f, f,..., f N értékek dottk, és nincs információnk rról, hogy ezek miféle függvény helyettesítési értékei. Egészen egyszerű esetekben is előfordulht, hogy bár z interpolációs polinom pontosn kielégíti z interpolációs feltételeket z lppontokbn, de két lppont között egészen szélsőséges értékeket is felvehet. Tekintsük következő példát (Runge-péld): legyen x := 5, x := 4, x := 3,..., x := 5 és f k := (k =,,..., ). Az lábbi ábrán ezen +x k dtokr (folytonos vonlll) illesztedő -edfokú Lgrnge-interpolációs polinom grfikonját látjuk (szggtott vonl). Megfigyelhető, hogy szélső lppontok közt z interpolációs polinom és z eredeti, f(x) := +x formulávl értelmezett függvényt ngyon ngy hibávl közelíti. Az lppontrendszert finomítv (x := 5, x := 4.5, x := 4,..., x := 5) hib nemhogy csökkenne, de sokkl ngyobb lett. Tnulságképp leszűrhető, hogy Lgrnge-interpolációt gykorltbn csk nem túlságosn mgs fokszám mellett érdemes hsználni áltlábn. 5

52 Figure : Az x +x függvény grfikonj (folytonos vonl), és -edfokú Lgrnge-interpolációs függvény grfikonj (szggtott vonl) Figure : Az x +x függvény grfikonj (folytonos vonl), és -dfokú Lgrnge-interpolációs függvény grfikonj (szggtott vonl) 5

53 3.3 Az Hermite-interpoláció Ez technik Lgrnge-interpolációt nnyibn áltlánosítj, hogy z interpolációs polinomnk nemcsk z értékei, de deriváltji is előírhtók z lppontokbn. Legyenek x, x,..., x N [, b] dott interpolációs lppontok, m, m,..., m N egészek, és legyenek dv z f (), f (),...f (m ) f (), f (),...f (m )... f () N, f () N,...f (m N ) N számok. Jelölje m := m + m m N. Keressünk olyn, legfeljebb (m )-edfokú P m polinomot, melyre teljesül, hogy P (k) m (x j) = f (k) j (k =,,..., m j, j =,,..., N) Személetesen, z m j számok zt muttják, hogy z x j lpponthoz hány dt (érték és derivált) vn rendelve. A problém ebben formábn meglehetősen áltlános. Bizonyítás nélkül megemlítjük, hogy z Hermite-interpolációs problém egyértelműen megoldhtó: Tétel: Ilyen P m polinom egyetlenegy létezik. Az interpolációs polinom együtthtói z interpolációs feltételek áltl kikényszerített, z ismeretlen,,..., m együtthtókr felírt m-ismeretlenes egyenletrendszer megoldásávl htározhtó meg. A problémávl ilyen áltlánosságbn nem fogllkozunk, de megemlítjük z lábbi speciális eseteket: Mindegyik m j =, ekkor m = N +. Mindegyik x j -hez csk z f j érték trtozik (Lgrnge-interpoláció). N =, m = m. x -hoz z f (k) (k =,,..., m ) értékek trtoznk (Tylor-polinom): P m (x) = m k= f (k) k! (x x ) k 53

54 Mindegyik m j =. Mindegyik x j -hez z f j érték és z f j deriváltérték trtozik (Hermite-Fejér-interpoláció). A legutóbbink is egy speciális esete lesz számunkr fontos, mi meglpozz gykorltbn igen jól működő spline interpolációt (ld. később). 3.4 Kétpontos Hermite-interpoláció Legyenek dottk z x, x lppontok, és hozzájuk trtozó f, f, f, f értékek. Keressük zt legfeljebb hrmdfokú H polinomot, melyre H(x j ) = f j és H (x j ) = f j (j =, ). Az előző szkszból már tudjuk, hogy ilyen polinom létezik és egyértelmű. Jelölje h := x x, és keressük H-t ilyen lkbn: Akkor nyilván: H(x) = A + B x x h + C (x x ) h + D (x x ) 3 h 3 H (x) = B h + C (x x ) h + 3D (x x ) h 3 Az interpolációs egyenletek: H(x ) = A = f H(x ) = A + B + C + D = f h H (x ) = B = h f h H (x ) = B + C + 3D = h f Közvetlen számítássl ellenőrizhető, hogy z egyenletrendszer megoldás következő: A = f B = hf C = 3f + 3f hf hf D = f f + hf + hf mi egy könnyen relizálhtó formulát d kétpontos Hermite-interpoláció lklmzásár. 54

55 3.5 Hrmdfokú spline interpoláció Legyenek dv z = x < x <... < n N = b, interpolációs lppontok és hozzájuk rendelt f, f,..., f N értékek. Alpötlet: Definiáljunk f, f,..., f N deriváltértékeket. Az f k, f k, f k+, f k+ dtokkl minden [x k, x k+ ] részintervllumon egymástól függetlenül hjtsunk végre egy-egy kétpontos Hermite-interpolációt. Így kpjuk H, H,..., H N hrmdfokú polinomokt. Ekkor z egyes részintervllumokon értelmezett H k függvények, vlmint zok deriváltji is utomtikusn folytonosn cstlkoznk z x,..., x N pontokbn, bárhogy is válsztjuk meg z f k deriváltértékeket. A fő problém z, hogy hogyn célszerű definiálni z f k deriváltértékeket. Néhány lehetséges út: f k -kt tetszőlegesen válsztjuk, pl. f k :=. (Ez ngyon rossz definíció.) f k -kl z x k-beli deriváltkt közelítjük z dtokból, pl. különbségi hánydosokkl: f k := f k+ f k x k+ x k. (Ez jobb, mint z előző.) De vn még jobb megoldás: f k -kt úgy definiáljuk, hogy még H k függvények második deriváltji is folytonosn cstlkozznk z lppontokbn, zz H k (x k) = H k (x k) teljesüljön minden k =,,..., N -re. Így kpjuk hrmdfokú spline interpolációt. Jelölje h k := x k+ x k (k =,,..., N ). A kétpontos Hermiteinterpoláció együtthtóir nyert formulákból hosszbb, de elemi számolás után kpjuk, hogy: H k (x k) = h (3f k 3f k + h k f k + h k f ) k k H k (x k) = h ( 3f k + 3f k+ h k f k h kf ) k+ k A H k (x k) = H k (x k) feltételek tehát biztosn teljesülnek, h h k (3f k 3f k + h k f k + h k f k) = 55

56 = h ( 3f k + 3f k+ h k f k h kf ) k+ k zz, h z f,..., f N értékek kielégítik z lábbi egyenletrendszert: ( f k h + + ) f k k h k h + f k+ k h = k = 3 h f k + k ( 3 h k 3 h k ) f k + 3 h k f k+ (k =,,..., N ). H z f, f N deriváltértékek dottk, kkor z egyenletrendszer csk N ismeretlent trtlmz; h nem, kkor ezek meghtározás további feltételek ( peremfeltételek ) érvényesítésével történik. Fontos speciális eset, h z lppontok ekvidisztánsk, zz h = h =... = h N = h. Ekkor z előző egyenletrendszer jelentősen leegyszerűsödik: könnyen ellenőrizhető, hogy ekkor f k + 4f k + f k+ = 3f k + 3f k+ h (k =,,..., N ) Megjegyzés: A szélső, x és x N lppontokbn tett feltételek (peremfeltételek) megválsztásánk néhány szokásos módj: Szbdon előírjuk f és f N értékeit, pl. f := f N :=. Az f, f N deriváltértékeket pontos deriváltértékekre állítjuk be (így nyerjük teljes spline függvényt): f := f (x ), f N := f (x N ) Ehhez persze szükséges f (x ) és f (x N ) ismerete. Az f, f N deriváltértékeket különbségi hánydosokkl közelítjük, pl. f := f f h, f N := f N f N h N Megköveteljük, hogy spline függvény második deriváltj legyen végpontokbn: H (x ) := H N (x N) :=. Ezt természetes peremfeltételnek nevezzük, és z lábbi egyenlőségek megkövetelésére vezet (ellenőrizzük!): f + f = 3f 3f h, f N + f N = 3f N 3f N h N 56

57 Bizonyítás nélkül megemlítjük spline interpoláció pontosságáról szóló tételt: Tétel: H f : [, b] R négyszer folytonosn differenciálhtó [, b]-ben, és S f jelöli z f függvény lpponti értékeiből meghtározott spline függvényt, z f := f (x ), f N := f (x N ) peremfeltételek megkövetelése mellett, kkor f és S f eltérésére teljesül, hogy mx f(x) S f (x) = O(h 4 ) x b hol h jelöli z lppontrendszerben előforduló legngyobb lépésközt. Sőt, spline deriváltji is jól közelítik f deriváltjit: mx f (x) S f (x) = x b O(h3 ) mx f (x) S f (x) = x b O(h ) mx f (x) S f (x) = O(h) x b Az ordókbn szereplő konstnsok f-től függenek, de z lppontrendszertől nem. Megjegyezzük még, hogy fenti eredmény z f := f N := természetes peremfeltétel megkövetelése esetén is érvényben mrd, mennyiben f : [, b] R négyszer folytonosn differenciálhtó [, b]-ben, és f () = f (b) =. Megjegyzés: A spline eredetileg egy rjzeszköz volt, mellyel dott pontokon átmenő sim görbéket lehetett rjzolni (ld. következő szkszt). Különösen fontos volt ez hjógyártásbn. A spline mg egy ruglms, fából vgy fémből készült hosszú szlgszerű eszköz volt, melyet hozzá lehetett igzítni néhány dott ponthoz; két pont között sját ruglmsság áltl meghtározott lkot vett fel. Részletesebben ld: Görbeillesztés Legyenek dv z (x, y ), (x, y ),...,(x N, y N ) R dott, síkbeli pontok (sorrendjük lényeges). Keressünk olyn R R, t (x(t), y(t)) prméterezésű síkgörbét, mely illeszkedik z dott pontokr. 57

58 Figure 3: A spline mint rjzeszköz A problém két független, egyváltozós interpolációs problémár bonthtó. Vegyünk fel prmétertrtománybn N db különböző prmétert: t < t <... < t N. (Egyéb információ híján lehet pl. t k := k válsztássl is élni.) Ezekután tekintsük t, t,..., t N és x, x,..., x N dtok meghtározt interpolációs problémát, zz keressünk olyn x : R R függvényt, mely z dott prméterértékekben z dott bszcisszértékeket veszi fel, zz x(t k ) = x k (k =,,., N). Hsonlón, tekintsük t, t,..., t N és y, y,..., y N dtok meghtározt interpolációs problémát, zz keressünk olyn y : R R függvényt, mely z dott prméterértékekben z dott ordinátértékeket veszi fel, zz y(t k ) = y k (k =,,., N). A két interpolációs függvény áltl meghtározott (x, y) : R R függvény épp kívánt, z dott pontokon átmenő síkgörbe prméterezése lesz. Az lklmzott interpolációs technik elvileg tetszőleges lehet. H pontok szám nem túl kicsi, kkor Lgrnge-interpoláció lklmzás ellenjvllt, mert különösen szélső pontok környékén görbe lefutás ngyon extrém is lehet. Sokkl szebb koordinátánkénti spline interpolációvl előállított görbe. Az ábrán, szbálytlnul elhelyezett pontr illesztett görbék láthtók. Az első esetben (-edfokú) Lgrnge-interpolációt lklmztunk mindkét koordinátár. Jól láthtó görbe extrém lefutás. A második esetben spline interpolációt lklmztunk: görbe z előzőnél sokkl relisztikusbb lett. 58

59 Figure 4: Görbeillesztés pontr. Lgrnge-interpoláció (blr) ill. spline interpoláció (jobbr) Megjegyzés: Az itt vázolt görbeillesztési technik értelemszerű változttásokkl térgörbék esetére is lklmzhtó. 3.7 Szórt lppontú interpoláció Legyenek x, x,..., x N R dott helyek síkon (interpolációs lppontok), és f, f,..., f N R dott, z lppontokhoz rendelt értékek. Az lppontok elhelyezkedésében nem tételezünk fel semmilyen struktúrát (pl. rácsstruktúrát), sorrendjük is közömbös. Az egyik legrégebbi és legegyszerűbb interpolációs technik Sheprdmódszer (más néven z inverz távolsággl súlyozás módszere). Itt z interpolációs függvényt következő súlyozott összeg definiálj: f(x) := N f j x x j p j= N j= x x j p, h x nem interpolációs lppont. Itt p > dott prméter: szokásos értéke vgy 4. Az lppontokbn f nincs értelmezve, de vn htárértéke: könnyen láthtó, hogy: Állítás: H x x k vlmely k =,..., N-re, kkor f(x) f k. 59

60 Bizonyítás: Feltehető, hogy k =. Legyen x x, kkor f(x) = f x x + f p x x f p N x x N p = x x + p x x p x x N p = f x x p + f x x f p N x x p x x N p + x x p x x x x f p = f p x x N p Kicsit hosszbb számolásokkl z is megmutthtó, hogy f deriválhtó z lppontokon kívül, és: Állítás: H x x k vlmely k =,..., N-re, kkor f mindkét változó szerinti prciális deriváltj -hoz trt. Ezt z állítást nem bizonyítjuk. Szemléletes jelentése: z interpolációs felület sim, de mindegyik lppontbn vízszintes z érintősíkj, mi különösen szintvonls ábrázoláskor lehet zvró (z lppontok körül közel koncentrikus körök szintvonlk). A módszer egyszerű, könnyen progrmozhtó és numerikusn stbil: Lgrnge-interpolációtól eltérően, h x +, kkor z f(x) interpolált értékek korlátosk mrdnk, és z is könnyen láthtó, hogy ekkor f(x) z dtok N N j= f j számtni közepéhez trt (miért?). Viszont dott függvénynek z lppontokbn felvett értékeiből vló reprodukálás esetén meglehetősen ponttln. A módszert illusztrálndó, tekintsük z f(x, y) := sin πx sin πy formulávl definiált függvényt z Ω := {(x, y) R : x, y } egységnégyzeten értelmezve. Vegyünk fel 3 lppontot z egységnégyzetben véletlenszerűen, és z itt felvett függvényértékekből számítsuk ki Sheprdinterpolációs függvényt, p := prméterválsztássl. Ennek grfikonj láthtó z lábbi ábrán. Noh z lppontbeli értékek pontosn egyeznek z f függvény itt felvett értékeivel, z eredeti és z interpolált függvény meglehetősen eltér egymástól. A következő ábrán láthtó esetben szintén 3 véletlenszerűen megválsztott lppontot hsználtunk, de itt p prméter értékét 4-nek definiáltuk. 6

61 Figure 5: Szórt pontú interpoláció 3 véletlenszerűen válsztott lppontr. Tesztfelület (blr) ill. Sheprd-interpoláció p = mellett (jobbr) Figure 6: Szórt pontú interpoláció 3 véletlenszerűen válsztott lppontr. Tesztfelület (blr) ill. Sheprd-interpoláció p = 4 mellett (jobbr) Jóvl pontosbb eljárás rdiális bázisfüggvények módszere (rdil bsis functions, RBF). Legyen Φ : R R egy dott rdiális (zz körszimmetrikus) függvény: szemléletesen, Φ(x) értékei vlójábn csk z x hossztól függenek. Keressük z interpolációs függvényt z lábbi lkbn: f(x) := N α j Φ(x x j ) j= Az előre ismeretlen α j együtthtókt z interpolációs feltételekból htározzuk meg: N α j Φ(x k x j ) = f k (k =,,...N) j= mi egy lineáris egyenletrendszert jelent z ismeretlen együtthtókr nézve. Miután z α j együtthtókt már kiszámítottuk, f(x) kiértékelése tetszőleges 6

62 x mellett nehézség nélkül (és numerikusn olcsón, O(N) művelet árán) elvégezhető. Viszont z interpolációs egyenletrendszer megoldás áltlábn O(N 3 ) műveletet igényel (Guss-eliminációt lklmzv), mi ngy N mellett sokszor elfogdhttlnul sok. További numerikus nehézséget okoz, hogy z interpolációs egyenletrendszer sokszor ngyon rosszul kondícionált, így kerekítési hibák erősen felhlmozódnk. A legnépszerűbb rdiális bázisfüggvények: Multikvdrikus módszer (method of multiqudrics, MQ): Φ(x) := x + c, hol c dott prméter (skálázó fktor). Inverz multikvdrikus módszer (imq): Φ(x) := x + c, hol c dott prméter (skálázó fktor). Vékony lemez módszer (thin plte splines, TPS): Φ(x) := x log x, mely önbeállós, zz nem trtlmz skálázó prmétert. A függvényt z origóbn nnk htárértékeként értelmezzük: Φ() :=, hol felhsználtuk z elemi nlízisből ismert lim x log x = nevezetes x htárértéket. Guss-függvények: Φ(x) := e c x, hol c dott prméter (skálázó fktor). Összehsonlításképp meghtároztuk z előbbi, f(x, y) := sin πx sin πy tesztfeldtr szintén 3 véletlenszerűen megválsztott interpolációs lppont esetén z MQ-interpolációvl nyert interpolációs függvényt, c := prméterválsztássl (ld. z ábrát). Láthtó, hogy z interpoláció pontosság sokkl jobb, mint Sheprd-interpoláció esetén. A pontosság ár z interpolációs egyenletrendszer felállításánk és megoldásánk szükségessége, mi ngy pontszám esetén komoly numerikus nehézségeket okozht. 6

63 Figure 7: Szórt pontú interpoláció 3 véletlenszerűen válsztott lppontr. Tesztfelület (blr) ill. MQ-interpoláció c = mellett (jobbr) Megjegyzés: A vékony lemez módszer érdekes hsonlóságot mutt hrmdfokú spline-okkl. Megmutthtó, hogy h egy vékony, ruglms, pl. célból készült lemezt z interpolációs lppontokbn dott mgsságokbn rögzítünk, z lppontok közt pedig hgyjuk olyn lkot felvenni, mit sját ruglmsság enged, kkor z így kilkuló lemezfelület lkj ngy pontossággl épp TPS-módszerrel kpott interpolációs függvény grfikonjávl egyezik. 63