Geostatisztika II. Dr. Szabó Norbert Péter. MSc geográfus mesterszak hallgatóinak

Átírás

1 Geostatsztka II. MSc geográfus esterszak hallgatónak Dr. Szabó orbert Péter egyete ajunktus Mskolc Egyete Geofzka Intézet anszék e-al:

2 Ajánlott roalo Horva György,. Sokváltozós aatelezés (keoetra). ezet tankönyvkaó, Buapest Stener Ferenc, 99. A geostatsztka alapja. ankönyvkaó, Buapest Dobróka Mhály,. Bevezetés a geofzka nverzóba. Mskolc Egyete Kaó Wlla Menke, 984. Geophyscal ata analyss: Dscrete nverse theory. Acaec Press Álos Attla,. Genetkus Algortusok. ypote Kaó, Buapest Lukács Ottó,. Mateatka statsztka (Bolya-könyvek). Műszak Könyvkaó Geostatsztka II. c. tárgy az MSc geográfus esterszak hallgatónak ME

3 eatka öbbenzós eloszlások. Sokváltozós aatelezés: az aatok elrenezése, jellezése, skálázás Sokváltozós aatelezés: faktor- és főkoponens analízs Sokváltozós aatelezés: klaszteranalízs A lneárs nverz felaat egolása. Gauss-féle legksebb négyzetek ószere, súlyozott egolások Az aatok hbájának felhasználása a becsült oell pontosságának, egbízhatóságának jellezésében elneárs nverz oellezés. Globáls szélsőértékkereső eljárások: a Sulate Annealng ószer és a Genetkus Algortus Sokváltozós ennység összefüggések elezése neuráls hálózatokkal Geostatsztka II. c. tárgy az MSc geográfus esterszak hallgatónak ME

4 . öbbenzós eloszlások. Az aatok elrenezése, jellezése, skálázás Geostatsztka II. c. tárgy az MSc geográfus esterszak hallgatónak ME

5 A valószínűség vektorváltozó Relatív gyakorság: az A eseény (aat) bekövetkezésének száa arányítva az összes kísérlet (érés) száához (n A /n). Valószínűség: egyre több kísérlet esetén a relatív gyakorság a P(A) száérték körül ngaozk, ely egaja az A eseény bekövetkezésének arányát az összes kísérlethez vszonyítva. Valószínűség változó: olyan ennység, aelynek száértéke valalyen véletlen eseény kenetelétől függ. A p k valószínűség k (k=,,,n) szkrét valószínűség változó esetén p n k P( k ), pk k Az (,y) kétenzós valószínűség változót valószínűség vektorváltozónak nevezzük, elynek együttes valószínűsége p k P(, y y k ), k p k. öbbenzós eloszlások. Az aatok elrenezése, jellezése, skálázás ME

6 Az együttes eloszlásfüggvény Az és y változó vetület- vagy pereeloszlása, elyek önagában vzsgálják vagy y eloszlását P( ) pk P(y yk ) k Az és y változó együttes eloszlásfüggvénye szkrét esetben F( Az és y változó pereeloszlás-függvénye szkrét esetben F( F(, y Az és y változó együttes sűrűségfüggvénye folytonos esetben (f(,y) felület alatt elhelyezkeő térfogat=) F(, y) f(, y) y p, y) P(, y y) pk, y y, ) P(, y ) ) P(, y y ) k y y k k P(y y P( ) k ). öbbenzós eloszlások. Az aatok elrenezése, jellezése, skálázás ME

7 Megfgyelhető: kétváltozós noráls eloszlás esetén az és y változó peresűrűség-függvénye (, szórások és, várható értékek seretében) s noráls eloszlásúak A noráls eloszlás együttes sűrűségfüggvénye (ahol r az és y valószínűség változók korrelácós együtthatója) Kétváltozós Gauss-eloszlás y y r r G e r y) (, f y- G - G e (y) f e () f. öbbenzós eloszlások. Az aatok elrenezése, jellezése, skálázás ME Lukács,987

8 A korrelácós együttható Az és y valószínűség változók együttváltozásának az egyk legegyszerűbben képzett érőszáa a kovaranca cov(, y) E() Ey E(y) E Az és y valószínűség változók között (lneárs) kapcsolat szorosságát a korrelácós együtthatóval (szórások szorzatával norált kovaranca) érjük r(, y) cov(, y) () (y) Szabó, 9 Az r egy - és között szá. Ha r=, akkor az és y változók teljes korrelácójáról, r= esetén azok lneárs függetlenségről beszélünk (<r.35 esetén gyenge,.35<r.65 esetén közepes,.65<r esetén erős a korrelácó értéke). öbbenzós eloszlások. Az aatok elrenezése, jellezése, skálázás ME

9 ekntsük az (,,, n ) n-enzós valószínűség vektorváltozót, ahol tételezzük fel hogy serjük a pereeloszlások várható értéket és szórásat! A kovaranca átr a változók páronként együttváltozását aja eg. A kovaranca átr szetrkus, vel COV(, j )=COV( j, ) A korrelácós átr a változók páronként (lneárs) kapcsolatának az erősségét aja eg. Szetrkus átr, vel R(, j )=R( j, ) n n n σ ), cov( σ ), cov( ), cov( ), cov( σ COV ), r( ), r( ), r( ), r( R n n öbbváltozós kapcsolatok korrelácója. öbbenzós eloszlások. Az aatok elrenezése, jellezése, skálázás ME

10 Aatok jellezése és elrenezése Rögzített értékek forájában renelkezésre álló egfgyelés ereényenket aatoknak nevezzük. Föltan szerkezetkutatás során az aatrenszer többféle érésfajtát ll. nagy kterjeésű területen (felszínen vagy felszín alatt) elhelyezkeő nagyszáú geológa objektuot foglalhat agában Az aatoknak két jellezőjük van. Objektu: a föltan képzőények sokaságának egy elee, at egfgyelünk. ulajonság: a sokaság eleéhez tartozó jellező (változó) Renezzük az I száú objektu J különböző tulajonságára vonatkozó aatokat a D aatátrba! D I j j Ij J J IJ. öbbenzós eloszlások. Az aatok elrenezése, jellezése, skálázás ME

11 Az aatok jellezése és elrenezése Az D aatátrból képzett -ek objektuvektor az -ek objektu tulajonságat, a j-ek tulajonságvektor peg a j-ek tulajonság különböző objektuoknál egvalósult értéket tartalazza (o),,, J, (t) j j j Ij Pélául: fúrásos geofzka kutatás során az -ek objektu egy kőzetréteg, a j-ek tulajonság peg egy fzka ennység - pl. terészetes potencál (SP) vagy terészetes gaa (GR) vagy sűrűség (ρ) vagy akusztkus terjeés ő (Δt) vagy fajlagos ellenállás (R) stb. -, elyet a rétegsorban egy specáls érőberenezéssel (szona) regsztrálunk. A regsztrátuot szelvénynek nevezzük, ely a élység függvényében rögzít az egyes rétegekre vonatkozó érés ereényeket. öbbenzós eloszlások. Az aatok elrenezése, jellezése, skálázás ME

12 Léptékváltás (skálázás) A tulajonságvektorok különböző nagyságrenű és értékegységű jellezőket tartalazhatnak. Statsztka becsléseknél szükség lehet azonos nagyságrenű ll. enzótlan aatrenszerre. Az aatok ezen transzforácóját skálázásnak nevezzük. Centrálás: skálaeltolás nulla középre, ely az eleek konstans eltolását jelent. Ekkor a j-ek tulajonságvektor eleenek szátan közepe lesz, e az aatok szórása ne változk j j j, Stanarzálás: skálázás nulla középre és egységny szórásra, ely konstans eltolást és nyújtást jelent. Ekkor a j-ek tulajonságvektor eleenek szátan közepe, valant szórása lesz. A stanarzált változó enzótlan (és σ n- att torzítatlan) j j j j, j j I I I j I j j. öbbenzós eloszlások. Az aatok elrenezése, jellezése, skálázás ME

13 Léptékváltás (skálázás) Mau skálázás: léptékváltás a legnagyobb értékre, aely konstans zsugorítást jelent. Ekkor a j-ek tulajonságvektor legnagyobb elee lesz. A skálázott változó enzótlan j a( erjeele skálázás: léptékváltás [,] ntervalluba, ely konstans eltolást és zsugorítást jelent. A j-ek tulajonságvektor elee [,] határok közé kerülnek. A skálázott változó enzótlan j a Léptékváltás [A,B] ntervalluba: léptékváltás tetszőleges A j (alsó) és F j (felső) határok közé j A j F j A j j ) j n j n j j a j j n j n. öbbenzós eloszlások. Az aatok elrenezése, jellezése, skálázás ME j j

14 Péla: fúrás geofzka aatok stanarzálása. öbbenzós eloszlások. Az aatok elrenezése, jellezése, skálázás ME obj.v. R t GR SP R t GR SP R t GR SP D I... R t GR SP R t GR SP R t GR SP D tul.v. * I * I * I * I * I * * * * * * * * * * * I I I I I I R I R * I t I t * I I * I GR I GR * I SP I SP * R R I, R I R, t R R t t I, t I t, t t t, I, I, GR GR I GR, I GR, GR GR GR SP SP I SP, I SP, SP SP SP

15 Melléklet: átrok szorzás szabálya A (IJ) B (JL) C (IL) C a a a a 3 4 a a a a 3 4 a a a a a a a a b b b b 3 4 c c c c 3 4 I 4, J 4,L. öbbenzós eloszlások. Az aatok elrenezése, jellezése, skálázás ME

16 . Faktoranalízs és főkoponens analízs Geostatsztka II. c. tárgy az MSc geográfus esterszak hallgatónak ME

17 A faktoranalízs célja Felaat: a érés során egfgyelt nagyszáú, egyással összefüggő vagy független változót szeretnénk néhány (lehetőleg korrelálatlan) változóval ún. közös faktorral (at ne lehet közvetlen óon egfgyeln) helyettesíten ulajonságátr: egyenértékű a D aatátr-szal, ely sorból (objektuból) és M oszlopból (változóból) áll X M M M Megvalósítás: az M változó által kfeszített teret alacsonyabb enzójú térbe vetítjük, ahol könnyebb az értelezhető csoportosulások felfeezése. Feltétel: a tulajonságátrban ne legyen 5%-nál nagyobb aathány ll. ne hányozhat egy sorból vagy oszlopból az eleeknek több nt a fele. A hányzó helyekre sorok vagy oszlopok átlagát írjuk be (torzítás!). Faktoranalízs és főkoponens analízs ME

18 A faktoranalízs oellje Az aatok előkészítése (skálázás) után a knulás változókat tartalazó X tulajonságátrot fel szeretnénk bontan az A közös koponens átr (M) és az E hbakoponens átr (M) összegére X A Az A átrot a b faktor lneárs kobnácójával fejezzük k, ahol F a faktorok átra (a) és L a faktorsúlyok (faktoregyütthatók) átra (Ma) A közös faktorok száát (a) előre kell rögzíten, elynek felső korlátja a.5 M 8M E A FL. Faktoranalízs és főkoponens analízs ME

19 Faktortípusok és egolhatóság égyféle faktortípust különböztetünk eg egyástól. Általános faktor: összes változóhoz kapcsolóó közös faktor. Közös faktor: legalább két faktoregyütthatója különbözk nullától. Egye faktor: egy változót befolyásoló faktor. Maraékfaktor: érés pontatlanságból vagy a korrelácós együttható becslés hbájából szárazó egye hbafaktor Probléa: az A átr felbontása ne egyértelű, ert bárely B átr (aa) esetén fennáll A FBB L Kérés: létezk-e egolás? A szükséges feltétel az, hogy bárely B átrra L*B (Ma) oszlopaban legalább háro ne ele legyen. Elégséges feltétel az, hogy L átr bárelyk sorát elhagyva két azonos a rangú (lneársan független oszlopok aáls száa) átrot tujunk képezn a sorokból. Faktoranalízs és főkoponens analízs ME

20 A ért változók korrelácója ételezzük fel, hogy az A közös koponens és az E hbaátr korrelálatlan (A E=E A=), továbbá az E hbaátr elee függetlenek (E E/=U az MM éretű kovaranca átr) és a faktorok lneársan függetlenek (F F/=I egységátr) A fentek teljesülése esetén, a ért változók páronként korrelácós együtthatót tartalazó R korrelácós átr (MM) felírható A faktoregyütthatókkal (L átr elee) a ért változók között korrelácó kfejezhető. A változók szórásnégyzetenek a közös faktorokkal ne értelezhető része az U átr főátlóbel elee U LL U FL FL R U A A X X R M E E U. Faktoranalízs és főkoponens analízs ME

21 A kounaltások Az R korrelácós átr agonáls elee -gyel egyenlők, ezek képvselk a ért változók stanarzált (σ=) szórásnégyzetet. Az LL faktoregyütthatókkal képzett reukált korrelácós átr elee a ért változók és a faktorok között korrelácós együtthatók Kounalstások: az LL átr főátlójában szereplő eleek (h ), elyek a ért változók stanarzált szórásnégyzetenek a közös faktorokkal agyarázott része (I az egységátr) A H kounaltások átra MM éretű. Ha h kcs, akkor a ért változónak kevés köze van a faktorhoz U I H H I U l h U LL R h r r r h r r r h LL H I R U R M j j M M M M M. Faktoranalízs és főkoponens analízs ME

22 A faktoregyütthatók eghatározása A faktoregyütthatók L átrának (Ma) eghatározása sajátérték felaatra vezet, elynek egolása a szetrkus átrok spektrál felbontásával a következő LL R U LL L ZZ Z / L Z / / Z / Z A egolásban szereplő Z átr az R-U sajátvektor-átra (Ma), ahol a sajátvektorokat a átr oszlopa tartalazzák. A az R-U sajátérték-átra (aa), elynek főátlója tartalazza a λ saját-értékeket (ezért s / = λ ) Az egekben az U átrot sertnek tételeztük fel, azonban a gyakorlatban a hbavarancákat ne serjük, ezért azokat becsléssel kell eghatározn. Faktoranalízs és főkoponens analízs ME

23 Faktorelező eljárások Főkoponens analízs: E= választással elkerüljük az U átr becslését, így az R-U átr helyett R-et hozzuk kapcsolatba a faktoregyütthatókkal. Mvel a változók szórásnégyzetenek a közös faktorokkal ne értelezhető részét elhanyagoljuk, így a kapott főkoponensek ne a teljes varancát teszk k Főfaktor analízs: az LL átr rangját nalzáló eljárással aáls kounaltásokat határozunk eg, azaz náls száú közös faktorral agyarázzuk a ért változók varancának lehető legnagyobb hányaát. A szélsőérték-felaat optuát becsléssel határozzuk eg: a korrelácós átr agonáls eleet kcseréljük a becsült kounaltásokra a legnagyobb korrelácók ószerével (I.), vagy a tráószerrel (II., ahol l és k az -vel legjobban korreláló eleek nee) vagy az átlagos korrelácók ószerével (III.) Mau lkelhoo eljárás: valószínűség függvényt optalzál I. h a r j j M. Faktoranalízs és főkoponens analízs ME II. h rkr r kl l III. h M j j r j

24 A faktorok értelezése A k-ak faktor értelezése az l k faktoregyüttható nagysága és előjele alapján történk. Mnél nagyobb az l k együttható értéke, annál szorosabban kapcsolók a k-ak faktor az -ek ért változóhoz. Általános faktorra nagy relatív faktorsúlyok és azonos előjelek utalnak Egyszerű struktúra (-hez és -hoz közel faktoregyütthatók) esetén a faktorok könnyen értelezhetők (fzka tartaloal ruházhatók fel) Ha a faktorok ne értelezhetők, szeléletesebb jelentésű faktorokká történő átalakításukhoz forgatás (rotácós) ószereket alkalazunk Az ortogonáls rotácós ószerek korrelálatlan faktorokat ereényeznek. Pl. a vara ószer célja, hogy nél több -hoz közel faktorsúlyt állítson elő. Ekkor kalakul az egyszerű struktúra, azaz azon változók száa kevés lesz, elyhez sok faktor nagy súllyal kapcsolók. Az ereet változó egy vagy ks száú faktorhoz kapcsolók és negyk faktor csak kevés száú változót reprezentál (gyakran különböző előjellel). A ószer a faktoregyütthatók négyzetének varancáját aalzálja. Faktoranalízs és főkoponens analízs ME

25 Péla: ger folyó, géra Factor Olobany és Owoye, 6 Faktor : tengervíz ntrúzó (a, K, Cl) Faktor : talaj és éesvíz kölcsönhatása (PH, Mg, Ca, HCO 3 ) Faktor 3: par tevékenység és savas esők (SO 4 ). Faktoranalízs és főkoponens analízs ME

26 A főkoponens elezés célja A főkoponens elezés aellett, hogy a faktoranalízs egyk gyakorlat egvalósítása, önállóan alkalazható aatstruktúra elező ószer s egyben Célja: az X tulajonságátr változónak (tulajonság-vektoranak) transzforácója kevesebb száú, új korrelálatlan változóvá. Az új változókat főkoponenseknek nevezzük, elyeket úgy renezzük sorba, hogy közülük az első néhány az ereet változók varancájának a legnagyobb részét agyarázza Fejezzük k az X tulajonságátrot (M) a főkoponens átr (r) és a P főkoponens-együttható átr transzponáltjának (rm) a szorzatával! X P A fent egyenletrenszernek ng létezk egolása. Faktoranalízs és főkoponens analízs ME

27 A főkoponens elezés séája ézzük az ábrát! Az aatokat tartalazó X knulás átr felbontható a *P átrszorzat (r száú főkoponens és főkoponensegyüttható vektor szorzatának szuperpozícójával) és az E rezuu átr összegére. Ez utóbb ne egyezk eg a faktoranalízs hbakoponens átr-szával, hane a zajt (érés hbát) testesít eg a szórást legkevésbé agyarázó főkoponens eleek szerepeltetésével. Az -ek főkoponenst a t oszlopvektor () képvsel Horva,. Faktoranalízs és főkoponens analízs ME

28 A főkoponens elezés geoetrája Az X tulajonságátr b objektuát vetítjük az r enzós altérbe (r<m) a P vetítés-átr segítségével. A kapott r b főkoponens az M b tulajonság-vektornak az új koornátarenszer tengelyere eső vetülete. Az első főtengely az az egyenes, aelynek rányában a legnagyobb az ereet változók szórása, a ások főtengely az elsőre erőleges egyenesek közül ugyanlyen tulajonságú stb. A főkoponens elezés az ereet objektuok koornátát aja eg a főkoponensek által kfeszített új koornátarenszerben, azaz a főtengelyek rányába forgatja az ereet változókat Faktoranalízs és főkoponens analízs ME

29 A főkoponensek eghatározása Szorozzuk eg az X=*P egyenletet jobbról a P átr-szal! A p vektor (M) ortonorált (vel p p j =, ha =j egyébként p p j =), nnen a főkoponens átr (r) könnyen képezhető XP A főkoponensek az ereet változók lneárs kobnácó. Pélául az első főkoponens eleet szolgáltató lneárs egyenletrenszer a következő t p p p t t p p p p A átr oszlopvektorat képező új változók (főkoponensek) egyással korrelálatlanok (vel t vektor s ortonorált) M M M M p M p M. Faktoranalízs és főkoponens analízs ME

30 Megvalósítás sajátérték elezéssel Centráljuk az X tulajonságátr eleet! Ekkor a j-ek tulajonságvektor eleenek szátan közepe lesz, e az aatok szórása ne változk A COV az ereet változók kovaranca átra (MM) COV X X Az A=λ sajátérték felaat analógája alapján határozzuk eg a COV átr sajátvektorat és sajátértéket a szetrkus átrok spektrál-felbontásának ószerével! COV Z Z / ZZ I COV ZZ A Z ortonorált átr a sajátvektorok átra (Mr), a sajátértékek átra (rr) és I az egységátr (MM). A sajátvektorokat a Z átr oszlopa tartalazzák, a sajátértékek peg a átr főátlóbel elee. Faktoranalízs és főkoponens analízs ME

31 Megvalósítás sajátérték elezéssel Szngulárs érték szernt felbontás (SVD): az X tulajonságátr felbontható az U ( M) és V (M M) ortonorált, valant a Γ (M M) agonáls átrok szorzatára. A Γ átr elee poztívak vagy -ák, elyeket szngulárs értékeknek nevezzük X X UV VU COV X X VU UV V V A COV átr j-ek főátlóbel elee a σ j varanca, a Γ átr tartalazza az COV átr j-ek λ j sajátértékének a négyzetgyökét A főkoponenseket a kovaranca átr sajátértékenek nagysága alapján állítjuk sorrenbe. A legnagyobb szórás rányát a legnagyobb sajátértékhez tartozó sajátvektor jelöl k. Ez az első főrány. Ezután egkeressük a ások legnagyobb sajátértéket és az lesz a ások főrány stb. A j-ek sajátvektor a V átr j-ek oszlopvektora (λ j sajátérték esetén). Faktoranalízs és főkoponens analízs ME

32 Péla: X ( ) átr főkoponense Lnsay Sth,. Faktoranalízs és főkoponens analízs ME

33 Péla: MALAB progra aatra clc; clear all; n=; u=[,]; covar=[4 ; ]; X=vnrn(u,covar,n); [F Fk Saje Hott]=prncop(X); [Coeff,Var,percent]=pcacov(covar), F, Saje, v=zeros(,3); fgure; as([ ]); hol on; plot(x(:,),x(:,),'c.','lnewth',); label('_'); ylabel('_'); hol on; gr on; for =: for j=: v(j,:)=(:f(j,)/:3.*f(j,))*sqrt(saje()); en plot(v(,:),v(,:),'b-','lnewth',); hol on; en Stoyan Gsbert, 5 Forany= Var= Sajatert= Percent= Faktoranalízs és főkoponens analízs ME

34 3. Klaszteranalízs Geostatsztka II. c. tárgy az MSc geográfus esterszak hallgatónak ME

35 Csoportosítás Klaszter (csoport): olyan eleek együttese, elyek egy jól efnált szepont szernt tekntve hasonlóak. A tulajonságtérben a csoportok lehetnek elszgeteltek, átfeőek és kzáróak (szjunkt halazok). Klaszteranalízs: olyan csoportosító eljárás, ellyel eleeket próbálunk valalyen szepont szernt hoogén csoportokba renezn. A csoportosítás alapja egy aott etrka szernt közelség ll. egy hasonlóság érték szernt hasonlóság. Kugró aatokra érzékeny (ne rezsztens) eljárás, ahol az eltérő nagyságrenű és enzójú aatok torzíthatják a becslést Az X tulajonságátr részhalazokra való bontása során teljesüljön: nen ele tartozzon bele egy klaszterbe, egy ele csak egy klaszterbe tartozzon, ne legyen olyan klaszter, aely ne tartalaz eleet és a klaszterek összessége feje le az összes eleet 3. Klaszteranalízs ME

36 A csoportok jellezése Átérő: a csoport két legtávolabb eleének a távolsága. Súlypontvektor: egaja a csoport helyét a térben. Sugár: a csoportsúlypont és az attól legtávolabb ele távolsága. Centro: a g-ek csoport c g súlypontja a csoport eleszáa (n g ) seretében a következő Csoportok között távolság efnálása: () Mnkowsk-távolság: L p -nora () Euklesz-távolság: L -nora (3) Ctyblock-távolság: L -nora (4) Mahalanobs-távolság: akor és y változók ne függetlenek egyástól, akkor a korrelácó értékét s be kell venn a száításba (osztanunk kell a kovarancákkal). Előnye: ha a változók különböző nagyságrenje és enzója att a távolságok ne összeérhetők, akkor (4) kevezően norál 3. Klaszteranalízs ME () () (3) (4) c g y (, y) (, y) (, y) (, y) n g n g, y, y p n n n y (g),,,, y y y n n p y COV y

37 A távolságátr ávolságátr: a j ele egaja az -ek és j-ek aatpontok között távolságot (ahol =) D n n n n nn A klaszterképzés krtérua az, hogy az osztálybel eleek között a távolság náls és az osztályok között távolság aáls legyen 3. Klaszteranalízs ME

38 Herarchkus klaszterező eljárások Az egyásba ágyazott ún. herarchkus klaszterezés előnye, hogy ne kell előre sernünk a létrehozanó klaszterek száát. Hátránya az őgényesség, ezért csak ks ntaeleszá esetén használjuk őket (tároln kell a ntaeleek egyástól ért távolságanak átrát). Zaj és kugró aatokra érzékeny eljárások Aggloeratív eljárás: kezetben száú klaszterünk van (ahány aat anny klaszter van). Az első lépésben a két legközelebb álló klasztert egyesítjük, így eggyel csökken a klaszterek száa. Lépésenként csökkentjük a klaszterek száát. Az utolsó lépésnél nen aat egy csoportba gyűjtve egyetlen klasztert alkot. Az eljárás herarchkus, ert egyszerre csak két klaszter egyesítése történk, és ezek ár együtt aranak az utolsó lépésg Dvzív eljárás: knuláskor egy klaszterünk van, aely az összes aatot tartalazza. A folyaat során különválasztjuk azokat az eseteket, aelyek a legjobban különböznek a több által alkotott csoporttól 3. Klaszteranalízs ME

39 Herarchkus klaszterező eljárások A klaszterezés algortusa: először kszáítjuk a kezet konfgurácóra a távolságátrot. Ekkor ég nen aat önaga alkot egy egyeleű klasztert. Ezután összevonjuk a két legközelebb álló aatot. A távolságátrot újraszáoljuk. A fent lépéseket ag sételjük, aíg ár csak egy klaszter ara Denrogra: A herarchkus klaszterező eljárás az aateleeket ún. fastruktúrába renez. A fa nen belső ága egfelel egy-egy klaszternek, elynek végen találhatók az összetartozó eleek. A ószer az eleek egyáshoz tartozását szeléltet, e ne alkalas a csoportok térbel elhelyezkeésének szeléltetésére an, 6 3. Klaszteranalízs ME

40 Klaszterek egyesítése ézzük a felső ábrát! Knuló helyzetben különálló ele látható (p-p). Száítsuk k a távolságátrot, aj egyesítsük a legközelebb elhelyezkeő eleeket! ekntsük az alsó ábrát, ely egy köztes állapotot tükröz! Az aktuáls lépésben a C és a C5 klaszter egyesítése történk. E két klaszter helyezkek el a legközelebb egyáshoz. A fő kérés az, hogyan efnáljuk a klaszterek hasonlóságát? an, 4 3. Klaszteranalízs ME

41 Klaszterek hasonlósága A csoportok egyesítésére többféle klaszterező eljárás seretes, elyek különböző jellezők alapján értelezk a klaszterek között hasonlóságot Egyszerű lánc ószer (sple lnkage): a csoportok legközelebb eleenek a távolságát vzsgálja. eljes lánc ószer (coplete lnkage): a legtávolabb eleek távolságát fgyel. Csoportátlag ószer (average lnkage): a két csoport elee között távolságok átlagát teknt alapul. Súlypont ószer (centro lnkage): a csoportok súlypontjanak távolságát néz. War-ószer (War lnkage): az új, g-ek csoporton belül az ( -c g ) eltérések négyzetösszegét nalzálja (ahol c g a csoport súlypontja) an, 6 3. Klaszteranalízs ME

42 Péla: herarchkus klaszterezés Centro ószer Obáovcs, 9 Denrogra: függőleges tengelyen az aatok sorszáa szerepel az összekapcsolóás sorrenjében. A vízszntes tengelyen követhetjük a klaszterezés lépéset valant a centrook között távolságértéket 3. Klaszteranalízs ME

43 Péla: MALAB progra elere clc; clear all; subplot(,,); X = *ran(,); Y = pst(x,'ahalanobs'); Z = lnkage(y,'sngle'); [H,] = enrogra(z,'colorthreshol','efault'); set(h,'lnewth',); label('eleszá'); ylabel('centrook távolsága'); subplot(,,); Y = pst(x,'ahalanobs'); Z = lnkage(y,'average'); [H,] = enrogra(z,'colorthreshol','efault'); set(h,'lnewth',); label('eleszá'); ylabel('centrook távolsága'); subplot(,,3); Y = pst(x,'ahalanobs'); Z = lnkage(y,'centro'); [H,] = enrogra(z,'colorthreshol','efault'); set(h,'lnewth',); label('eleszá'); ylabel('centrook távolsága'); subplot(,,4); Y = pst(x,'ahalanobs'); Z = lnkage(y,'war'); [H,] = enrogra(z,'colorthreshol','efault'); set(h,'lnewth',); label('eleszá'); ylabel('centrook távolsága'); Szabó, Klaszteranalízs ME

44 3. Klaszteranalízs ME Péla: MALAB progra 3 elere Szabó,

45 e herarchkus klaszterezés Az terácós elven űköő, partíconáló vagy ás néven ne herarchkus klaszterezés fő jellezője, hogy előre eg kell an a kalakítanó klaszterszáot. Gyors eljárás, vszont zajérzékeny és az ereényt befolyásolja a centrook kezet egaása K-középpontú klaszterezés: válasszuk k a klaszterek száát és K b kező centroot! Alakítsunk k K b csoportot úgy, hogy nen egyes eleet soroljunk a hozzá legközelebb eső centroú klaszterbe! Száoljuk k az új klaszter középpontokat! Konvergenca krtéru teljesüléség teráljunk! Száítsuk k az eleek és a legközelebb centrook között távolságok négyzetösszegét! K SSE c, K Az optáls klaszterszá relatve kcs, elyhez ks SSE érték (szóróás) tartozk an, 6 3. Klaszteranalízs ME

46 Péla: ne herarchkus klaszterezés Futtatás ényleges csoportok Futtatás an, 4 3. Klaszteranalízs ME

47 4. A lneárs nverz felaat egolása. Az LSQ ószer, súlyozott egolások Geostatsztka II. c. tárgy az MSc geográfus esterszak hallgatónak ME

48 Sokváltozós aat-oell kapcsolatok Sokváltozós probléák esetén közvetlenül ne érhető ennységek eghatározása céljából oellt alkotunk. A oell a valóság egyfajta leegyszerűsítése, ely kvanttatív óon írja le a vzsgált objektuot. A föltuoány oellt kőzetfzka (pl. poroztás, víztelítettség, szezkus hulláterjeés sebesség, fajlagos ellenállás, kőzetalkotó ásványok részaránya stb.) és geoetra paraéterek alkotják. Geoetra szepontjából a oellek,,3 (független geoetra változók száa a oellben) enzósak lehetnek (4-D oelleknél az ő s változk) A vzsgált objektu egfgyelése során aatokat gyűjtünk (pl. gravtácós, elektroos, elektroágneses, nukleárs, szezkus stb). Az aatok és a oellparaéterek ateatka kapcsolatát leíró összefüggéseket válaszfüggvényeknek nevezzük Drekt felaat: oell paraéterek >> válaszegyenletek >> száított (elv) aatok. Inverz felaat: ért aatok >> válaszegyenletek >> oell paraéterek. Inverzós eljárás: ateatka (optalzácós) ószer, ely a ért és a száított aatok llesztésével határozza eg a föltan valóságnak legnkább egfelelő oellparaéter értékeket 4. A lneárs nverz felaat egolása. Az LSQ ószer, súlyozott egolások ME

49 Az nverzó folyaatábrája Moellalkotás Mérés aatok, a pror seretek Elv aatok száítása A oell fnoítása e Mérés és elv aatok összehasonlítása Elfogaható az egyezés? Igen Szabó, A oell paraéterek elfogaása érkép szerkesztés, Föltan nterpretácó 4. A lneárs nverz felaat egolása. Az LSQ ószer, súlyozott egolások ME

50 A válaszfüggvények típusa Moellvektor: a föltan oellt leíró paraéterek oszlopvektora, ahol M a oell-paraéterek száa és a transzponált jelölése [,,, ] M Aatvektor: a érés aatokat tartalazó oszlopvektor, ahol az aatok száa [,,, ] A oell- és az aatvektor kapcsolatát jellező válaszfüggvények típusa: plct nelneárs (), eplct nelneárs () és eplct lneárs (3) () f, () g() (3) G 4. A lneárs nverz felaat egolása. Az LSQ ószer, súlyozott egolások ME

51 A rekt és nverz felaat g... M Inverz felaat Drekt felaat... g 4. A lneárs nverz felaat egolása. Az LSQ ószer, súlyozott egolások ME

52 Lnearzáljuk a =g() nelneárs függvénykapcsolatot! Állítsunk fel egy kezet (start-) oellt ( ), at teratív eljárásban fnoítsunk a oellkorrekcó-vektorral ()! Alkalazzunk aylor-sorfejtést a startoell környezetében! ),,, (k, g g g() M k k k o o k k k k k k k g G, g * * G G * M * * * * * * M * * * * * * M * * * * * G 4. A lneárs nverz felaat egolása. Az LSQ ószer, súlyozott egolások ME Az nverz probléa lnearzálása Mvel a G Jacob (érzékenység) átr (M) független a vektortól, így az aat- és a oellparaéter eltérések között lneárs kapcsolat van

53 Az nverz probléa típusa Egyértelűen eghatározott nverz felaat (=M) úlhatározott nverz felaat (>M) Alulhatározott nverz felaat (<M) Kevert határozottságú nverz felaat ( M) ahol a független aatok száa, M az nverzós seretlenek (a oell paraéterenek) száa Szabó, 5 4. A lneárs nverz felaat egolása. Az LSQ ószer, súlyozott egolások ME

54 Eltérésvektor (e): a ért és száított aatok eltérését (lleszkeését) egaó ennység Célfüggvény: az e eltérésvektor valaely vektornorája, ely egyetlen skalárral jellez az lleszkeést. Az nverz felaat egolása e függvény nuához köthető A ért és száított aatok eltérése e e (sz) () (sz) () (sz) () (sz) ()... p p p (sz) () a e e, e e, e e, e e n E E 4. A lneárs nverz felaat egolása. Az LSQ ószer, súlyozott egolások ME Szabó, 5

55 A Gauss-féle legksebb négyzetek ószere A túlhatározott nverz probléának (aat>seretlen) ne létezk algebra egolása (független egyenletek száaseretlenek száa) A egolást az L -noranégyzet (érés és száított aatok eltérésének négyzetösszege) nuához kötjük, vel () (sz) () e G Az LSQ (Least Squares) eljárás nalzálanó célfüggvénye E e e e,e,,e e n Az nverz felaat egolásával (E/=) kapjuk az optáls (becsült) oell paraétereket e e e (b) () G G G 4. A lneárs nverz felaat egolása. Az LSQ ószer, súlyozott egolások ME

56 Levezetés: a legksebb négyzetek ószere Írjuk fel részletesen az LSQ-ószer célfüggvényét! E e e e e M M () () e,e,,e e ( G )( e k k k k k k j G kj ) j Az E szélsőérték eghatározásának feltétele a következő E l, (l,,,m) E, E, E, M Szabó, 5 4. A lneárs nverz felaat egolása. Az LSQ ószer, súlyozott egolások ME

57 Derváljuk az E célfüggvényt ( j = / j =, ha =j, egyébként j =) Az egyenlet renezése után aók a egolás átr-vektor alakja G G G ) G )( G ( E k k M M j kj k j k M j j kj () k k l k M j j kj () k M k () k M j k () k kl k () k kj jl G G M k kl k M M j k kj k l j jl G G G G ) ( k () k kl M k k kl k () k kl M k k kl G G G G G G ) ( () G G G G G G G G / 4. A lneárs nverz felaat egolása. Az LSQ ószer, súlyozott egolások ME Levezetés: a legksebb négyzetek ószere

58 ételezzük fel, hogy a hőérsékletélység kapcsolat lneárs! Ennek egfelelően a oell-egyenlet Az seretlen oell-paraéterek vektora A ért hőérséklet aatok vektora z (z) () () () () () () () z z z G 4. A lneárs nverz felaat egolása. Az LSQ ószer, súlyozott egolások ME Lneárs regresszó nverzós egolása Szabó, 5

59 () () () () () z z... z z... G z z z z z z z... z z... G G () () () (b) (b) (b) z z z z G G G 4. A lneárs nverz felaat egolása. Az LSQ ószer, súlyozott egolások ME Szabó, 5 Lneárs regresszó nverzós egolása

60 A regresszós sík egyenlete, nt az nverzós oell Az seretlen oell-paraéterek vektora A érés aatok enzós oszlopvektora y y) (, 3 3 () () () () 3 () () () y y y 4. A lneárs nverz felaat egolása. Az LSQ ószer, súlyozott egolások ME -D lneárs regresszó nverzós egolása Szabó, 5

61 y y y y y y y y y y y G G () () () () () () y y y y G () () () () (b) 3 (b) (b) (b) y y y y y y G G G 4. A lneárs nverz felaat egolása. Az LSQ ószer, súlyozott egolások ME -D lneárs regresszó nverzós egolása

62 Péla: Kutatók éjszakája, Mskolc 9 Oros és Szabó, 9 4. A lneárs nverz felaat egolása. Az LSQ ószer, súlyozott egolások ME

63 Péla: szezkus aatok nverzója 4. A lneárs nverz felaat egolása. Az LSQ ószer, súlyozott egolások ME

64 Péla: szezkus aatok nverzója geofon -koor y-koor t_ért Startoell = 5 5 Kezet_aattávolság = Aattávolság =.3495 A robbantás koornátá: = y =6.3 v = t = A lneárs nverz felaat egolása. Az LSQ ószer, súlyozott egolások ME

65 Aattérben súlyozott egolások Az nverzóba bevont aatok pontossága (egbízhatósága) eltérő lehet (érés hba). Ha van előzetes (a pror) nforácónk az aatok egbízhatóságáról, akkor azt fgyelebe vehetjük az nverz felaat egolása során Konstruáljunk -es W () aattérbel súlyátrot (ely korrelálatlan aatok esetén agonáls átr), elyben az egyes aatok hbája szernt súlyok szerepeljenek! Mnél egbízhatóbb az aat annál nagyobb súlyt ajunk nek! Az nverz felaat egolása aattérben súlyozott LSQ-ószerrel () () () e e e W, W, W n e W e L () ) ( () () (b) W G G W G 4. A lneárs nverz felaat egolása. Az LSQ ószer, súlyozott egolások ME

66 Az nverzó során az egyes oell-paraétereket eltérő súllyal s fgyelebe vehetjük, sőt bzonyos paraéter-tartoányokat kzárhatunk a egolásból. Ezt korlátozott (constrane) nverzónak nevezzük. Ilyen esetet képez, pl. akor egy referenca oellhez tereljük, vagy egy előírt tartoányba kényszerítjük a egolást, valant csökkentjük a szoszéos oell-paraéterek egyenetlenséget és sítjuk azok térbel eloszlását Konstruáljunk M M-es W () oelltérbel súlyátrot! Az nverz felaat egolása Lagrange-féle ultplkátorok ószerével Moelltérben súlyozott egolások 4. A lneárs nverz felaat egolása. Az LSQ ószer, súlyozott egolások ME M M M M () M M 3 M () W, W n e W () ) ( (b) G GW G W

67 Péla: a élyfúrás geofzka nverzó Dobróka és Szabó 4 Hallburton Co. 4. A lneárs nverz felaat egolása. Az LSQ ószer, súlyozott egolások ME

68 5. Az aatok hbájának felhasználása a becsült oell pontosságának jellezésében Geostatsztka II. c. tárgy az MSc geográfus esterszak hallgatónak ME

69 Az általánosított nverz átr A érés aatokat ng hba terhel, aely az nverzó során (az nverzó egyenleten keresztül) áttranszforálók a oelltérbe. Ennek ereénye az, hogy az nverzóval becsült oell-paraéterek s hbával terheltek lesznek. Másrészt a kezet oell, vel a valóságnak csak közelítése szntén hbaforrás. Így a válaszegyenleteken (közelítő ennységeken) keresztül oellezés hba s terhel az nverzós ereényeket. E két független hbaennység összeaók és alkotja az aathbát (σ ), ely az nverzó beenő hbajellezője Általánosított nverz (M): M éretű átr, ely az nverzó során kapcsolatot teret a oell és az aatok között M v Legyen v=, így az aat-oell kapcsolat lneárs. Ekkor, pl. az LSQószer esetén az M átr (b) () M, ahol M G G G 5. Az aatok hbájának felhasználása a becsült oell pontosságának jellezésében ME

70 Az aat- és oell-kovaranca kapcsolata Lneárs kapcsolat esetén az átlagértékekkel együtt s fennáll M( ) Az -ek és j-ek oellparaéter esetén neekkel (=j=,,,m) k M k k, j M jl l l Képezzük az -ek és j-ek oellparaéter kovarancáját! j MkMl k l Mk COV k l Az aat- és oell-kovaranca kapcsolat alapján a beenő aatok hbájának (σ ) seretében eghatározhatjuk az nverzóval becsült oell-paraéterek hbáját az ún. becslés hbát (σ ) COV MCOV M, ahol (COV ) és (COV ) kk k l k kl M l 5. Az aatok hbájának felhasználása a becsült oell pontosságának jellezésében ME

71 Az LSQ-ószer becslés hbája Ha az aatok korrelálatlanok és azonos szórásúak ( ), akkor a oell-kovaranca átr egyszerűbbé válk COV M IM A Gauss-féle legksebb négyzetek ószere esetén a oellkovaranca COV G G G G G G Alkalazzuk az alább algebra azonosságot! AB BA, A G G és B G Ezzel a oell-kovaranca átr egyszerűbb alakot ölt COV G G G G G G G G 5. Az aatok hbájának felhasználása a becsült oell pontosságának jellezésében ME

72 M M M σ σ σ COV σ σ σ COV 5. Az aatok hbájának felhasználása a becsült oell pontosságának jellezésében ME Péla: élyfúrás geofzka nverzó Baker Atlas, 996

73 Az lleszkeés jellezése Aattávolság: a érés ( () ) és az aktuáls oellen száított ( (sz) ) aatok eltérése D () (sz) k k k Szntetkus nverzós kísérletek az nverzós eljárás konvergencáját és pontosságát vzsgálják. Ennek keretében zajjal terhelt szntetkus aatokat nvertálunk az egzaktul sert oell eghatározása céljából (hogyan tujuk rekonstruáln az sert oellt) Moelltávolság: az sert ( (e) ) és a becsült ( (b) ) oell eltérése D M M (e) (b) 5. Az aatok hbájának felhasználása a becsült oell pontosságának jellezésében ME

74 Az nverzós eljárás konvergencája Dvergens eljárás: az terácós lépésszá növekeésével fokozatosan növekenek az lleszkeés jellezők. Eközben egyre távolounk az optáls egolástól és az nverzós eljárás nstabllá válk Konvergens eljárás: az terácós lépésszá növekeésével fokozatosan közelítünk az optu felé. Egyre csökken az aattávolság és az eljárás az optuban stablzálók Dobróka és Szabó, 6 5. Az aatok hbájának felhasználása a becsült oell pontosságának jellezésében ME

75 A egbízhatóság jellezése Az nverzóval becsült oell egbízhatóságát a korrelácós átrszal jelleezzük. Alacsony korrelácós együtthatók egbízható egolást jelentenek: a oell-paraéterek egyástól függetlenek, egyeleg eghatározhatók, az nterpretácót ne terhel ekvvalenca Szabó 4 5. Az aatok hbájának felhasználása a becsült oell pontosságának jellezésében ME

76 Az együttes nverzó öbb, különböző fzka elven ért aatrenszert egy ún. együttes nverzós eljárásban egyesítünk és szultán olgozunk fel. Az együttes nverzó célja az egye nverzós eljárásokkal szeben (ahol egyfajta aatrenszert nvertálunk) a stabltás és a pontosság növelése (becslés hba csökkentése). Az együttes nverzó kevésbé zajérzékeny és egbízhatóbb nverzós ereényt szolgáltat echnkalag egyesítjük a oellvektorokat, és a rekt felaatokat s. A kobnált oellvektor tartalazza az összes seretlent, a kobnált aatvektor peg az összes aatot. Az eljárás hatékonysága függ a közös seretlenek száától. Ha nncs közös seretlen, ne lesz hatékonyabb, nt az egye nverzó. A legjobb az, ha a közös seretlenek nél nkább átfek az egyesített rekt probléát A probléára vonatkozó összes nforácót bevsszük az nverzós eljárásba, ennek ekvvalenca feloló hatása s lehet Az eljárás gyorsasága függ az egyesített rekt felaat őgényétől, általában ne sokkal lassabb, nt az egye nverzó 5. Az aatok hbájának felhasználása a becsült oell pontosságának jellezésében ME

77 Péla: VESZ és szezkus együttes nverzó VESZ érés -D geofzka oell h v p, h v p, Szezkus érés h 3 = v p3, 3 h - rétegvastagság - fajlagos ellenállás v p - longtunáls hullá terjeés sebessége 5. Az aatok hbájának felhasználása a becsült oell pontosságának jellezésében ME

78 Péla: VESZ és szezkus együttes nverzó Egye VESZnverzó ereénye Korrelácós átr VESZ és szezkus együttes nverzó ereénye Korrelácós átr Kss Márta, Az aatok hbájának felhasználása a becsült oell pontosságának jellezésében ME

79 6. elneárs nverz oellezés. Globáls szélsőérték-kereső eljárások Geostatsztka II. c. tárgy az MSc geográfus esterszak hallgatónak ME

80 Globáls optukeresés A lneárs nverzós ószerek kevezően egválasztott startoell esetén (az eljárást a egolástól ne túl távol eső pontból nítva) kelégítő és gyors egolást szolgáltatnak ávol startoell esetén azonban az LSQ-eljárás a nagyszáú hely szélsőértékkel renelkező célfüggvény valaely lokáls nuához renel a egolást (graens ószer) A globáls szélsőérték-kereső eljárások egfelelő folyaatjellező (paraéter) beállítások ellett képesek a célfüggvény abszolút (globáls) nuát eghatározn Szabó, 4 6. elneárs nverz oellezés. Globáls szélsőérték-kereső eljárások ME

81 A Sulate Annealng eljárás A Sulate Annealng (SA) egy a féek specáls hőkezelés technkája alapján tervezett hatékony (robusztus) globáls optalzácós ószer. Moernebb változatat a futás ő csökkentése céljából fejlesztették k Az SA-algortus felhasználható az nverz felaat egolására. Ennek alapja a hűtés őtartaától és üteétől függően kalakuló férács ato összenergája (energafüggvény) és az nverz felaat nalzálanó célfüggvényének az analógája A kohászatban a féek lágyítását az olvat állapothoz közel hőérsékletről történő lassú hűtéssel valósítják eg. Ennek hatására a nagyszáú ato fokozatosan veszít ozgás energájából, a fé krstályoson kez. A kalakuló férács ato összenergája a hűtés őtartaának a függvénye. Elvleg végtelen lassú hűtés ereényezné a náls energájú (tökéletes) rácsszerkezetet, ely analóg a geofzka nverz probléa E célfüggvényének globáls nuban való stablzálóásával. A gyakorlatban lyen lassú hűtés ne valósítható eg, ezért gyorsabb hűtés eljárás szükséges 6. elneárs nverz oellezés. Globáls szélsőérték-kereső eljárások ME

82 A Sulate Annealng eljárás Gyorsabb hűtés következtében a krstályszerkezetben rácshbák alakulnak k, és a fé egy agasabb energasznten fagy (tökéletlen) rácsba. Ez egfelel az nverzós eljárás lokáls nuban való stablzálóásának. Az atook azonban specáls hőkezelés (annealng) hatására kszabaulnak a agasabb energaszntű krstályszerkezetből, és egfelelő hűtés ellett elérk az abszolút náls energájú rácsszerkezetet. Az SA-eljárás e folyaatot algortzálja a célfüggvény globáls nuának egtalálására Az optáls oell konvergens eljárásban az ún. Gbbs-féle eloszláshoz tart (terkus egyensúly), elynek valószínűségsűrűség függvénye ( ) P () S j ahol P( () ) az -ek oell valószínűsége, S a lehetséges oellek száa és folyaatszabályzó (általánosított) hőérséklet 6. elneárs nverz oellezés. Globáls szélsőérték-kereső eljárások ME e E e E ( j)

83 , A Metropols SA eljárás Energafüggvény: a ért és száított aatok eltérését jellező függvény. Ha az aatok eloszlása noráls, akkor az eltérésvektor L - noranégyzetének alkalazása vezet optáls egolásra E () (sz) k k n Kugró aatok esetén az L -nora alkalazása célszerű () (sz) E k k k k n Szabó I., 3 Az MSA-eljárás véletlen keresést hajt végre a paraétertérben, közben a oell-paraétereket terácóról-terácóra változtatja (új) (rég) b, b b a ahol b a paraéter-változtatás értéke (ba (új) =ba (rég), <) 6. elneárs nverz oellezés. Globáls szélsőérték-kereső eljárások ME

84 ,. A Metropols SA eljárás Energakülönbség: a rég (előző terácó) és az új (aktuáls terácó) oellparaéterekkel száított energafüggvény értékek különbsége. Ha ΔE<, akkor javult a ért és száított aatok lleszkeése, ellenkező esetben rolott E E (új) (rég) E Metropols krtéru: az új oell elfogaására vonatkozó valószínűség szabály. Ha P elfogaás valószínűség nagyobb vagy egyenlő, nt az U[,] szá, akkor az új oellt elfogajuk, ellenkező esetben elvetjük (ΔE> esetén s van elfogaás kszabaulás a lokáls nuból), P( E) e E, E E Az SA-eljárás elején (agas -en) sokféle oellt elfogaunk, később az optu közelében (alacsony - en) ne engeünk eg nagy perturbácókat (konvergenca) Szabó I., 3 6. elneárs nverz oellezés. Globáls szélsőérték-kereső eljárások ME

85 A hűtés üte Hűtés üte: a általánosított hőérséklet terácós eljárásban történő csökkentése, ely nagyértékben befolyásolja az SA-eljárás konvergencáját. A globáls nuhoz történő konvergenca szükséges és elégséges feltétele a következő hűtés echanzus alkalazása ln q q (q ) A kezet hőérséklet egaása eprkusan vagy próbafuttatásokkal történk (q az terácós lépésszá) Az energaátlagok ószerével kszáítjuk különböző hőérsékleteknél az elfogaott oellekhez tartozó energafüggvény értékek szátan átlagát. Ahol a fent átlaghbák értéke náls, azt a hőérséklet értéket állítjuk be kezet hőérsékletnek Kss, elneárs nverz oellezés. Globáls szélsőérték-kereső eljárások ME

86 Az SA-algortus folyaatábrája Incalzálás Kezet hőérséklet Paraéter-változtatás e Hőérséklet csökkentése e eljesül ΔE? Igen e Új paraéter elfogaása Előírt lépésszá? Igen eljesül a Metropols krtéru? Igen Maáls lépésszá? Optáls oell e Igen 6. elneárs nverz oellezés. Globáls szélsőérték-kereső eljárások ME

87 Gyors Sulate Annealng ószerek A Metropols SA-algortus hűtés ütee nagyon lassú. Az optukeresés nagyságrenekkel tovább tart, nt lneárs ószerek esetén Az FSA (Fast SA) és a VFSA (Very Fast SA) ószer gyors hűtést alkalaz, aellett hogy a konvergenca és a globáls optu egtalálása bztosított ara. Az FSA /q függvény szernt hűt és Cauchyhoz közel eloszlásból vesz a ntát. A VFSA e -q hűtést alkalaz és előírt értéktartoányból választja a oell paraétereket Szabó I., 3 6. elneárs nverz oellezés. Globáls szélsőérték-kereső eljárások ME

88 Péla: SA startoell-függetlensége Aatrenszer D, [%] D, [%] D [%] D [%] (I) % Gauss zaj (II) % Gauss zaj (III) 6 % Gauss zaj D, - startoellen száított és ért aatok távolsága D, - startoell és az egzakt oell távolsága D - nverzóval becsült oellen száított és ért aatok távolsága D - az nverzóval becsült és egzakt oell távolsága 6. elneárs nverz oellezés. Globáls szélsőérték-kereső eljárások ME

89 A Genetkus Algortus A Genetkus Algortus (GA) bológa analógán alapuló, robusztus globáls optalzácós eljárás. Renkívül aaptácós képességgel renelkezk ( változó körülények között elfogaható teljesítény ) Darwn alapgonolat: a terészetben elsősorban azok az élőlények aranak fenn és szaporonak, elyek az aott körülények között erre a legalkalasabbnak bzonyulnak. A GA a terészetes szelekcót és az öröklőés genetka echanzusát alkalazza esterséges populácók (renszerek vagy oellek) optalzácójára A esterséges populácók egyeenek genetka nforácót a DSlánc analógája alapján kóolt szásorozatok (krooszóa) horozzák, elyek egyértelűen efnálják az optalzácós probléa paraéteret. Mesterséges öröklőéskor a GA véletlen populácóból választja k a legalkalasabb egyeeket, azok között genetkus nforácócserét és utácót hajt végre (a géneken) egy alkalasabb generácó létrehozása érekében. A GA a populácót genetkus operátorok (véletlen űveletek) alkalazásával teratív úton javítja 6. elneárs nverz oellezés. Globáls szélsőérték-kereső eljárások ME

90 A Genetkus Algortus A GA felhasználható a föltuoány nverz felaat egolására. Az nverz probléa oellvektorát egy aott oellpopulácó egyeeként azonosítjuk. A populácó nen egyeéhez hozzá renelhetünk egy ún. ftness (alkalasság) értéket, ely az egye túlélés képességet szászerűen jellez. Mnél nagyobb az alkalasság érték, az egye annál nagyobb valószínűséggel és nagyobb szában szaporok. Lényegében a ftness függvény határozza eg, hogy az egyeek bekerülnek-e a következő generácóba vagy elpusztulnak A GA az optalzácós eljárás során a ftness, nt célfüggvény aalzálására törekszk a legalkalasabb oell egtartása érekében. Az terácós eljárás során konvergencáról akkor beszélünk, ha az egyást követő populácók átlagos ftness-értéke nő Az nverz felaat egolása céljából a ftness-függvényt úgy kell egválasztanunk, hogy azzal a ért és a száított aatok eltérése érhető legyen, és annak globáls auához tartozzon az optáls egolás 6. elneárs nverz oellezés. Globáls szélsőérték-kereső eljárások ME

91 . A ftness függvény Az nverzós ószerek eléletében az E () skalár (vektornora) jellez a () érés és az -ek oell alapján (a g () -ek rekt felaat keretében) száított (sz) aatok eltérését () (sz) () E E E g A GA nverzós eljárásban az E célfüggvény nuát keressük. Így a aalzálanó ftness-függvényt többféleképpen képezhetjük F( F( ) E vagy ) ahol a ftness-t felülről szabályozó poztív konstans E 6. elneárs nverz oellezés. Globáls szélsőérték-kereső eljárások ME Beneek,

92 A genetkus operátorok Incalzálás: a kezet véletlen populácó (startoell) létrehozása. Ehhez előre eg kell an a oellparaéterek lehetséges tartoányát Kóolás: a oell paraéteret kóolt szásorozatokká alakítjuk Szelekcó: a legalkalasabb egyeek kválasztása a populácóból Keresztezés: genetkus nforácócsere két knuló egye között, elynek ereénye két teljesen új egye Mutácó: az egye egy génjét véletlenül egváltoztatjuk. Lényeges a utácós arány (utált egyeszá/összes egyeszá) előzetes egaása, ely a populácó hoogenzácóját akaályozza eg Reproukcó: az új generácó összetételét alakítja k. Általában az átenet (genetkus űveleteken átesett) populácó egyeeből építjük fel az új generácót. Azonban léteznek olyan algortusok s, elyek egtartják a rég populácó legjobb (legnagyobb ftness értékű) egyeét és kcserélk azt az átenet populácó legrosszabb (legksebb ftness értékű) egyeére. Ez utóbb űveletet eltzusnak nevezzük 6. elneárs nverz oellezés. Globáls szélsőérték-kereső eljárások ME

93 A klasszkus Genetkus Algortus Roulette-szelekcó Kóolás P=F/F =7 Keresztezés Mutácó 6. elneárs nverz oellezés. Globáls szélsőérték-kereső eljárások ME

94 A valós-kóolású Genetkus Algortus A klasszkus GA őgényes, ert nen terácós lépésben ekóolást kell alkalazn az elv aatok száítása att A valós GA közvetlenül valós oell-paraéterekkel száol, ne kóokkal olgozk. Mnen paraéter egy-egy valós ntervalluból kerül k, így a paraétertér fnoabban felbontható, nt bnárs kóolással A valós algortus egegyezk a klasszkuséval, csak az operácók valós űveletek (CPU ő sokkal ksebb, nt a klasszkus GA esetén) Szabó, 4 6. elneárs nverz oellezés. Globáls szélsőérték-kereső eljárások ME

95 A GA, SA és LSQ összehasonlítása A GA nagyszáú oellt (3-) tökéletesít, íg az LSQ és SA ószer csak egyetlen oellt. A GA az eljárás végén optáls oellek sorozatát szolgáltatja, e ezzel együtt a leglassúbb ószer. A lneárs nverzós ószereknél általában 5-, SA-nál 5-, GA-nál - terácós lépés szükséges az optu eghatározásához Mvel GA-nál a véletlen keresés ne pontról-pontra történk a paraétertérben, hane több pontot szultán egvzsgálunk, ezzel ég hatékonyabban el tujuk kerüln a lokáls szélsőérték helyeket. Ráaásul a oell-paraéterek lehetséges tartoányát előre egava egyes hpersík-partícók azonnal kszelektálónak A GA ne alkalaz lnearzálást, nt LSQ, így a erváltak száítása szükségtelen (csak a kóokkal és a célfüggvény értékkészletével olgozk). A GA és SA ervált és startoell-független A GA és SA konvergencája nagyértékben függ a folyaatjellező paraéterek beállításától (SA - hőérséklet, GA - operátorok jellező) 6. elneárs nverz oellezés. Globáls szélsőérték-kereső eljárások ME

96 Péla: -D geoelektroos globáls nverzó Sen és Stoffa, elneárs nverz oellezés. Globáls szélsőérték-kereső eljárások ME

97 7. Sokváltozós ennység összefüggések elezése neuráls hálózatokkal Geostatsztka II. c. tárgy az MSc geográfus esterszak hallgatónak ME

98 A neuráls hálózatok ószere A esterséges ntellgenca (Artfcal Intellgence) kutatáshoz kapcsolónak olyan ateatka ószerek, elyek eghatározott tanulás folyaat elvégzése után képesek önálló öntéshozatalra euráls hálózatok (Artfcal eural etwork): párhuzaos (elosztott űköésre képes) nforácó felolgozást végző száítás ószerek, elyek bológa renszerek analógáján alapulnak. Az eber egsejtek űköését ásoló neuráls hálózatok tanítható renszerek, jó aaptácós képesség és gyorsaság jellez őket Műköésük: kezetben a beenetet (beenő aatok) és a kenetet (kenő aatok) kell egan. Az eljárás a kettő között seretlen függvény-kapcsolatot (fekete oboz) fejt eg, aj ezután egy újabb beenet egaása esetén (a tanulás fázst követően) becslést végez a kenetre vonatkozóan A száításokat egyással összekapcsolt ks felolgozó-egységek, esterséges egsejtek végzk, elyek az aott felaattól függően sokféleképpen kapcsolhatók hálózatba 7. Sokváltozós ennység összefüggések elezése neuráls hálózatokkal ME

99 A neuron bológa oellje A neuráls hálózat alapelee a neuron. A bejövő nger felolgozását a sejtag végz, és az ereényt az aonon keresztül juttatja el a több neuronhoz. Az aon végzőése (sznapszs) a ásk neuron enrtjéhez csatlakozk. A enrtekhez több neuron s kapcsolók sűrű hálózatot alkotva A bejövő nforácót a enrtek továbbítják a sejtagba. Ha az nger eghala egy küszöbértéket, akkor a neuron továbbkül egy jelet abba a neuronba, aellyel összeköttetésben van. Egy lyen neuronba több neuron s külhet pulzust. Ha ezek összessége eghalaja a neuron ngerküszöbét, akkor ez a neuron s továbbkül egy pulzust a következõ neuronba stb. Végül az pulzus eljut az utolsó neuronokhoz és az egrenszer választ a az nputra 7. Sokváltozós ennység összefüggések elezése neuráls hálózatokkal ME

100 A esterséges neuron oellje Az egyes neuronok több ás neuronnak s ahatnak pulzust, akár vsszafelé s (vsszacsatolt hálózatok). Mnen sznapszsnak (neuronokat összekötő élek) eghatározott az pulzusátaás hatásfoka, azaz eghatározott erővel (súlyozással) továbbítja az nforácót. Az ngereket fogaó neuronokat különböző értékű (ntenztású) ngerek érhetk, továbbá az ngerek továbbítására ne egy egyszerű küszöbérték-eghalaás krtéru létezk, hane ún. ngerküszöb függvények segítk eghatározn a kenő pulzus értékét A legegyszerűbb, tanulás algortussal ellátott neuron oellt perceptronnak nevezzük. Egy többenzós beenet koponensenek súlyozott összegét állítja elő (lneárs kobnácót követő hálózat), aelyet nelneárs leképezés követ A tanulás echanzusát ateatka statsztka ószerek szabályozzák 7. Sokváltozós ennység összefüggések elezése neuráls hálózatokkal ME

101 A perceptron skalár outputtal Legyen a neuráls hálózat beenete az enzós aatvektor és kenete az y skalár!,,, A perceptron kenete nelneárs kapcsolatban van a beenettel y f (s), s w w A w az -ek beenethez ( ) tartozó súly, ely egaja, hogy az -ek beenet lyen értékben vesz részt a neuron y válaszában 3... w w 3... w s=w f(s) y 7. Sokváltozós ennység összefüggések elezése neuráls hálózatokkal ME

102 A perceptron vektor outputtal Legyen a neuráls hálózat beenete () és kenete (y) s enzós oszlopvektor!,,, y y, y,, y A perceptron kenete nelneárs kapcsolatban van a beenettel y j f (s ), j s j W j W j W j A W j az -ek beenethez ( ) tartozó súly, ely egaja, hogy az -ek beenet lyen értékben vesz részt a neuron y j válaszában (j=,,,) 3... W 3j... W j s=w f(s) y y y 7. Sokváltozós ennység összefüggések elezése neuráls hálózatokkal ME

103 Az aktvácós függvény A nelneárs leképezést eghatározó f(s) függvényt aktvácós függvénynek (ásnéven transzfer vagy ngerküszöb függvény) nevezzük. Az aktvácó egy egfelelő határérték felett (ngerküszöb) érhető el A gyakorlatban legtöbbször a szgo (I), lneárs (II), lépcsős (III), Gauss (IV), sznusz (V) és tangenshperbolkus (VI) típusú aktvácós függvényeket alkalazzuk Beneek, 7. Sokváltozós ennység összefüggések elezése neuráls hálózatokkal ME

104 A neuronok hálózatba kapcsolása Kople felaatok egolása céljából a neuronokat hálózatba kapcsoljuk. Ezt azért tesszük, ert bebzonyítható, hogy egfelelően kapcsolt neuráls hálózat képes bárlyen nelneárs leképezés tetszőleges pontosságú közelítésére. Ez a kváló függvényapproácós képesség tesz lehetővé a statkus és nakus renszerek oellezését A neuráls hálózat szerkezetleg különböző rétegekből áll. Rétegnek nevezzük a hasonló nforácó felolgozásában részt vevő neuronok együttesét. Egy-egy réteg kenete egy ásk réteg beenetehez kapcsolónak vagy a teljes hálózat kenetet alkotják. A beenet réteg nforácót ne olgoz fel, csak továbbít, beenete az egész hálózat beenete. A rejtett réteg beenete és kenete kzárólag a környezet neuronjahoz csatlakoznak, íg a kenet réteg a teljes hálózat kenetet tartalazzák. Strukturáls szepontból a neuráls hálózatok abban különböznek egyástól, hogy az őket felépítő neuronok lyen kapcsolat renszerben vannak egyással 7. Sokváltozós ennység összefüggések elezése neuráls hálózatokkal ME

105 A neuráls hálózatok tanítása A neuráls hálózat tanítása az összetartozó beenet és kenet aatpárok létezése esetén lehetséges. anításkor egy aott beenet esetén feltételezzük, hogy a keneten a kívánt válasz jelenk eg A tanítás során egy teratív (optalzácós) eljárásban a fent két aatrenszert llesztjük, azaz egy egfelelően egválasztott llesztés krtéru-függvényt (célfüggvényt) nalzálunk. A tanítanó hálózat űköését úgy kívánjuk elérn, hogy az a lehető legjobban közelítse a vzsgált renszer űköését Az optalzácós ószertől s függ az ereény. Alkalazhatunk lokáls (pl. Gauss-féle LSQ ószer) vagy globáls optalzácós (Sulate Annealng, Genetkus Algortus) ószereket A tanítás skeressége kvanttatív óon jelleezhető, vel a beenet és kenet aatsor eltérése (hbája, egbízhatósága) érhető pl. az aattávolság, korrelácós együttható segítségével 7. Sokváltozós ennység összefüggések elezése neuráls hálózatokkal ME

106 A neuráls hálózatok tanítása A renszert paraétere egyértelűen jellezk. E paraéterek a krtéru-függvény független változó, elyek egy oellt határoznak eg. A oell paraétere a neuráls hálózat w súlyértéke. Az optalzácó során ezeket változtatjuk (fnoítjuk), aj az eljárás végén egkapjuk a súlyvektor eleenek optáls kobnácóját. A eghatározott súlyokkal az aott hálózat konfgurácó az új beenet aatsorra egfelelő választ, azaz kenet aatsort a Input Renszer eljesül a krtéru? Igen Optáls súlyok anítás vége e Moell Súlyok óosítása 7. Sokváltozós ennység összefüggések elezése neuráls hálózatokkal ME

107 A neuráls hálózatok típusa Előrecsatolt hálózatok: a leggyakrabban alkalazott előrecsatolt többrétegű neuráls hálózat a többrétegű perceptron (MLP: Mult- Layer Perceptron). Az MLP rétegeben egyszerű perceptronokat kötünk hálózatba különböző súlyokon keresztül. Pl. a hárorétegű MLP-nek egy rejtett rétege van, a négyrétegűnek kettő stb. A hárorétegű MLP hálózat bárlyen nta osztályozására alkalas Szabó, 7. Sokváltozós ennység összefüggések elezése neuráls hálózatokkal ME

108 A neuráls hálózatok típusa Előrecsatolt hálózatok: az MLP ellett gyakran alkalazzák a raáls bázsfüggvény hálózatokat (RBF: Raal Bass Functon network). Az RBF hálózat egyetlen rejtett réteget tartalaz, ahol körszetrkus aktvácós függvények nelneársan képezk le a beenetet. Egy hálózatban általában egyfajta aktvácós függvényt használnak, e azok paraétere neurononként változhatnak. A súlyozott összeget a kenet rétegben állítjuk elő Veres, 7. Sokváltozós ennység összefüggések elezése neuráls hálózatokkal ME

109 A neuráls hálózatok típusa Vsszacsatolt hálózatok: összetett felaatok egolására alkalazzák őket. Lehetnek lokálsan (rétegbel) valant globálsan (kenetről beenetre) vsszacsatolt hálózatok, elyek gen jó függvényközelítő képességekkel renelkeznek Pl. egyrétegű egyszerű vsszacsatolt hálózat a Hopfel-hálózat, ely egy rétegből áll (beenet és kenet). A hálózatban nen neuron negykkel kapcsolatban van Beneek A Hopfel-hálózatot ne-ellenőrzött tanulás jelleez. Ekkor ne a súlyok optalzálónak a tanulás folyaán, hane az y értékek. A w súlyokat és a kezet értékeket becsléssel határozzuk eg. Ezután alkalazva a hálót, egkapjuk az első terácó y értéket. A következő terácóban az y-ok lesznek a beent változók (=y), és így kapjuk a ások közelítés ereényét stb. 7. Sokváltozós ennység összefüggések elezése neuráls hálózatokkal ME

110 A neuráls hálózatok típusa Önszervező hálózatok: bonyolult felaatok pl. az agyűköés oellezésére alkalazzák. A Kohonen-hálóban pl. csak nput és output neuronok vannak. A klaszteranalízs pélájára hatékony csoportosítást végezhetünk vele A többrétegű hálózatok alkalazásánál több olyan hálózat jellező beállítása szükséges, ely később khatással lesz a kenet értékek eghatározásában. Ezek pl. az aatszá (tanításkor), a rétegek száa, a neuronok száa (különböző rétegeken belül), a tanító lépések száa, a kezet súlyok, a hbajellező (célfüggvény), vagy az optalzácós algortus (lneárs vagy globáls) Beneek, 7. Sokváltozós ennység összefüggések elezése neuráls hálózatokkal ME

111 Péla: GIS alapú A tanítása Output a Class Classfcaton error n. between nput an output Class Vegetaton type Dry Sclerophyll Eucalyptus botryoes 3 Lower slope wet 4 Wet E. aculata 5 Dry E. aculata 6 Ranforest Ecotone 7 Ranforest 8 Paock 9 Ocean Laffan, Sokváltozós ennység összefüggések elezése neuráls hálózatokkal ME

112 Köszönö a fgyelet! Jó szerencsét! Geostatsztka II. c. tárgy az MSc geográfus esterszak hallgatónak ME