Fuzzy-rendszerek. Fuzzy halmazm veletek. Fuzzy logika m veletek. Borgulya I. PTE KTK 2. 1.Fuzzy rendszerekr l általában

Átírás

1 Fuzzy-rendszerek Fuzzy rendszerekrl általában Fuzzy-rendszerek Témák 1. Fuzzy rendszerekrl általában 2. Fuzzy halmazelmélet Fuzzy halmazmveletek 3. Fuzzy logika Fuzzy logika mveletek 4. Fuzzy közelít következtetés 1.Fuzzy rendszerekrl általában Fuzzy információ nem precíz, pontatlan kifejezések (ids ember, magas nyereség) bizonytalan információkon alapuló kif. (hitelképes vállalat) életlen relációk (körülbelül egyenl) Elfordulás mat. modellek, döntések, adatok analízise Borgulya I. PTE KTK 1 Borgulya I. PTE KTK 2 Borgulya I. PTE KTK 3 1.Fuzzy rendszerekrl általában 1.Fuzzy rendszerekrl általában 2.Fuzzy halmazelmélet A bizonytalanság jellege: determinisztikus bizonytalanság (többérték) Fuzzy technika (Zadeh 65) hozzátartozás foka : elem halmazhoz tartozása ~Igazságfok (predikátummal) A technika alapja: fuzzy halmazelmélet, fuzzy logika fuzzy rendszer: halmaz- halmaz leképezés A i B i formájú leképezéseket aggregál Fuzzy halmazelmélet klasszikus halmazelmélet A= {x x> 120} Tagsági/ karakterisztikus függvénye életlen, fuzzy halmazok: hozzátartozás foka 1 Neurális háló és fuzzy rendszer leképezés alacsony középm. magas Borgulya I. PTE KTK 4 Borgulya I. PTE KTK 5 Borgulya I. PTE KTK 6 2.Fuzzy halmazelmélet 2.Fuzzy halmazelmélet 2.Fuzzy halmazelmélet Tagsági / tartalmazási függvény: μ :x ---> [0,1] Megadási formák: Mveletek Legyen A, B fuzzy halmaz, A (x), B (x) tart. függv. Aritmetikai mveletek: C=A B ( lehet + - / *) Halmazmveletek: metszet (minimum operátor) A^B (x)= min (( A (x), B (x)) Mveletek Legyen A, B fuzzy halmaz, A (x), B (x) tart. függv. Halmazmüv.: egyesítés (maximum operátor) AvB (x)= max (( A (x), B (x)) szorzat AB (x)= A (x)* B (x) Komlemens A (x)= 1 - A (x) T-norma S-norma mvelettel definiálás Metszet: Borgulya I. PTE KTK 7 Borgulya I. PTE KTK 8 Borgulya I. PTE KTK 9

2 2.Fuzzy halmazelmélet 2.Fuzzy halmazelmélet 2.Fuzzy halmazelmélet T-norma S-norma mveletek Fuzzy reláció (kartézi szorzat részhalmaz) R = ((x 1,x 2,.,x n ), R (x 1,x 2,.,x n )) (x 1,x 2,.,x n ) X 1 x X 2 x.. x X n ) R : x 1,x 2,...,x n [0,1] Példa: Reláció mveletek projekció, cilindrikus kiterjesztés max-min kompozíció R1 és R2 max-min kompozíciója X,Y felett egy R fuzzy reláció: R = R1 R2 = ((x,z), sup y min ( R1 (x,y), R2 (y,z)) xx, yy, zz. Borgulya I. PTE KTK 10 Borgulya I. PTE KTK 11 Borgulya I. PTE KTK 12 2.Fuzzy halmazelmélet Kiterjesztési elv Az f: X 1 x X 2 x... x X n Y leképezés egy f*:a 1 xa 2 x...xa n -->B kiterjesztése egy fuzzy halmaz Y felett: B= f*(a 1,A 2,...,A n )= B (y) /y ahol B (y) =sup min ( A1 (x 1 ), A2 (x 2 ),..., An (x n ) (x1, x2,...,xn) f --1 (y) Köv: a matematika módszerek kiterjeszthetk fuzzy halmazokra. 2.Fuzzy halmazelmélet Kiterjesztési elv ---- fuzzy aritmetika pl. egész számok körében f(x) = x+5 fuzzy: f*(x): Körülbelül (= körülberül 8 ) Eredményhalmaz: 5 + { 0.4/1+ 0.8/2+ 1.0/ /4 +0.4/5} = { 0.4/6+ 0.8/7+ 1.0/ /9 +0.4/10} 2.Fuzzy halmazelmélet Borgulya I. PTE KTK 13 Borgulya I. PTE KTK 14 Borgulya I. PTE KTK 15 2.Fuzzy halmazelmélet 3.Fuzzy logika 3.Fuzzy logika Néhány definíció tartóhalmaz, -nívóhalmaz (szelet), normalizált, Konvex fuzzy szám (konvex, normalizált, egy helyen 1 max., szakszonként folyt) fuzzy intervallum (fuzzy szám, egy intervallumon max. értékeket vesz fel és szak. folytonos) Borgulya I. PTE KTK 16 Fuzzy logika cél: emberi gondolodás modellezése összetett, bizonytalanságot tart. felt. esetén Jellemzk pl. fuzzy halmazokon megfogalmazott kif.: =predikátum Igazságtérben a log. értékek fuzzy halmazok nyelvi változó számtalan kvantor logikai értékek: fuzzy halmazok (igazságtér) fuzzy következtetés: közelít, nem precíz Borgulya I. PTE KTK 17 Nyelvi változó pl. Borgulya I. PTE KTK 18

3 3.Fuzzy logika 3.Fuzzy logika 3.Fuzzy logika nyelvi változók definició: ( név, T(N)terms halmaz, X,S,M) T(N) terms halmaz (értékek elnevezése) X alaphalmaz, S szinataktikai szabály képzési szab. M szemantikai szababály fuzzy halmaz def. Kiterjesztési elv alapján generálás módosítók nagyon μ A (x)^2 többé kevésbé μ A (x)^0.5 mveletek: AND, OR,... több változat Igazságtér: véges / végtelen pl. 9 elem (Igaz..) Borgulya I. PTE KTK 19 Borgulya I. PTE KTK 20 Borgulya I. PTE KTK 21 3.Fuzzy logika 3.Fuzzy logika Szokásos mveletek: Fuzzy logika müvelet csoportok elemi mveletek továbbfejlesztései T-norma mv. (minimum, algebrai szorzat, Einstein-szorzat, ) konjunkció gyakorlat: igazságtér pontérték (kevesebb számolás) pl.: μ C (x)= min( μ A (x), μ B (x)) Borgulya I. PTE KTK 22 Borgulya I. PTE KTK 23 Borgulya I. PTE KTK 24 3.Fuzzy logika 3.Fuzzy logika 3.Fuzzy logika S-norma mv. (maximum, algebrai összeg,..) diszjunkció mveletek Paraméteres mveletek: és, vagy mvelethez hasonlók Paraméteres T-norma mv.: pl. Kompenzációs müv. (és -vagy közti mv.) kritériumok egymás hatásait kompenzálhatják, szituáció modellezés: T és S norma közti mveletek. Pl. Paraméteres S-norma mv.: pl. Yager egyesítés mvelete 1 C (x) = min (1, ( A (x) + B (x) ) 1/ ) Borgulya I. PTE KTK 25 Borgulya I. PTE KTK 26 Borgulya I. PTE KTK 27

4 3.Fuzzy logika 3.Fuzzy logika Fuzzy közelít következtetés az általánosított modus ponens szimbolikus alakja: A B, A B = A (A B) ahol a max-min a komp. B (v) = max min ( A (u), AB (u,v)) Változatok: implikációra, kompozícióra max-min köv.: implikáció: minimum és max-min kompozíció max-szorzat köv.: implikáció: algebrai szorzat és max-min kompozíció Borgulya I. PTE KTK 28 Borgulya I. PTE KTK 29 Fuzzy közelít következtetés példa: Max-min köv.: Max-szorzat: Borgulya I. PTE KTK 30 3.Fuzzy logika 3.Fuzzy logika Max-min és max-szorzat következtetés Fuzzy szabály, diagram f*: IF X is A 1 THEN Y is B 1.. Fuzzy-rendszerek IF X is A n THEN Y is B n Szabályok együtt -- diagram: Gyakori fuzzy-rendszer modellek Borgulya I. PTE KTK 31 Borgulya I. PTE KTK 32 Borgulya I. PTE KTK 1 Fuzzy-rendszerek Fuzzy rendszerek 1. Az általános fuzzy rendszer Fuzzy rendszerek 1. Az általános fuzzy rendszer Témakörök Fuzzy rendszer típusok Fuzzy szabályozó Mamdani, Sugeno típus Fuzzy reláció egyenletrendszer Produkciós rendszerek Hibrid rendszerek Borgulya I. PTE KTK 2 fejleszt felhasználó inp. FR outp. felhasználó eljárás Borgulya I. PTE KTK 3 Gyakori fuzzy-rendszer modellek Szabályalapú rendszerek fuzzy szabályozó, reláció egyenletrendszer, produkciós rendszerek Hibrid rendszerek neurofuzzy: kooperatív,hibrid; fuzzy neurális hálózat fuzzy SZR Borgulya I. PTE KTK 4

5 2. Fuzzy szabályozók 2. Fuzzy szabályozók 2. Fuzzy szabályozók Felépítés: fuzzy szabályok fuzzy halmazok, mv. Fuzzy szabályozók fuzzifikálás tudásbázis - Fuzzy szabályok : - két típus Mamdani modell (diagram) Fuzzifikálás Fuzzifikálás köv. mechanizmus defuzzifikálás (w i ) IF x 1 is A 1 AND x n is A n THEN y is B j CF Sugano (TSK-) modell r: IF x 1 is A 1 AND... x n is A n THEN y = f r ( x 1,x 2,...,x n ) ált.: y = a 0r + a 1r x a nr x n input output Borgulya I. PTE KTK 5 Borgulya I. PTE KTK 6 Borgulya I. PTE KTK 7 2. Fuzzy szabályozók 2. Fuzzy szabályozók 2. Fuzzy szabályozók Fuzzy szabályozók nyelvi változók (tartalmazási függv.: háromszög, Gauss, trapéz, ) Fuzzy szabályozók defuzifikálás Következtetés Mamdani modellnél Szabályok párhuzamos kiértékelése Eredményhalmazok uniója (vagy, w i *) A B output változó B 1, B 2, B n értékeinél B = B 1 + B 2 + +B n Defuzzifikálás: egy valós szám Pl. Borgulya I. PTE KTK 8 Borgulya I. PTE KTK 9 Borgulya I. PTE KTK Fuzzy szabályozók Következtetés Mamdani modellnél If X is A then Y is A If X is B then Y is B. Input: A*=1.3 1.Szabály eredmény 2.Szabály eredmény defuzzifikálás: pl. COG Borgulya I. PTE KTK Fuzzy szabályozók Következtetés a Sugeno modellnél Szabályok párhuzamos kiértékelése r-edik szabálynál: f r (x 1, x 2,, x n ) és a súlya : Rr (x 1,x 2,...,x n ) = r1 (x 1 ) ^...^ rn (x n ) Output: defuzzifikálással y f ( x ) r 1 n Rr ( x1, x 2,..., n i 1 Rr xn ) ( x1, x 2,..., f r ( x1, x 2,..., xn ) xn ) Borgulya I. PTE KTK Fuzzy szabályozók Sugeno példa:if input is low then output is line1 if input is high then output is line2 Borgulya I. PTE KTK 13

6 3. Fuzzy reláció egyenletrendszer 4. Fuzzy produkciós rendszerek 4. Fuzzy produkciós rendszerek Reláció egyenletrendszer AB szabály (implikáció) értelmezhet mint-- B = A R reláció a szabályrendszer: Bi = Ai R (i=1,2,...,n). Akkor oldható meg, ha az R megoldása a rendszernek n Ai Bi i1 Fuzzy produkciós rendszerek Szabályrendszer, következtetési mechanizmus +bizonytalan adatok (fuzzy halmazok /lehetségességi eloszlások) Az FPR felépítése: tudásbázis, ismeretszerz modul, munkamemória, következtet mech., magyarázó modul, felh. interfész (SZR szabályformalizmus ) Következtetés: adatvezérelt (soros, párhuzamos, hasonlóságon alapuló ), célvezérelt, kombinált Adatvezérelt köv.: munkamemória fuzzy szabályok illeszkedésvizsgálat konfliktushalmaz képzése (lehet ellentmondó) konfliktus feloldás (kiválasztás) szabályok végrehajtása (eredmény a munkamemóriába) Borgulya I. PTE KTK 14 Borgulya I. PTE KTK 15 Borgulya I. PTE KTK Fuzzy produkciós rendszerek 4. Fuzzy produkciós rendszerek 4. Fuzzy produkciós rendszerek Pl. Fuzzy Toolbox (Turksen, Zwang) adatvezélet következtetése hasonlósági mértékkel: Szabályok: n db. If A is A j Then B is B j; Input: A* 1, A* 2, A* n lépések Pl. Fuzzy Toolbox (Turksen, Zwang) adatvezélet következtetése hasonlósági mértékkel: Hasonlóság képlet: R* meghatározása: legnagyobb S(A,B) érték szabály néhány legnagyobb s- érték sz., s(a,b)> limitet teljesítk Pontérték tagsági függvények Következmény számolás: Pl. SYTEM Z-11 célvezérelt következtetése: Lehet: éles-, fuzzy tény, CF faktor Következtet séma: számítása: Borgulya I. PTE KTK 17 Borgulya I. PTE KTK 18 Borgulya I. PTE KTK Fuzzy produkciós rendszerek 5. Hibrid fuzzy rendszerek Pl. SYTEM Z-11 célvezérelt következtetése: Összetett következtet séma: Hibrid rendszerek Fuzzy SZR (fuzzy technika adaptálása) (REVEAL, CLIFS) Neurofuzzy rendszerek kooperatív offline kapcs. (f. szabályok, f. halmazok ) online kapcs. (f. halmaz paraméter, f.szabály súly módosítás) Borgulya I. PTE KTK 20 Borgulya I. PTE KTK 21 Borgulya I. PTE KTK 22

7 5. Hibrid fuzzy rendszerek 1. mintapélda hibrid neurofuzzy r. fuzzy neurális hálózat (f. input, f. neuron, mat. mvelet helyett: f. relációk, f. mveletek) Fuzzy mintapéldák MATLAB fuzzy tools Készítsünk egy Mamdani típusú fuzzy szabályozót, amely javaslatot tesz arra, hogy egy étteremben hány % borravalót adjunk a pincérnek. Döntési szempontok: a.) a borravaló csak a kiszolgálás minségétl függ (0-10 pont) b.) az étel minsége is befolyásolja (0-10 pont) Borgulya I. PTE KTK 23 Borgulya I. PTE KTK 1 Borgulya I. PTE KTK 2 1. mintapélda 1. mintapélda 1. mintapélda Borgulya I. PTE KTK 3 Borgulya I. PTE KTK 4 Borgulya I. PTE KTK 5 1. mintapélda 1. mintapélda 1. mintapélda Újabb szempont: az étel minsége Borgulya I. PTE KTK 6 Borgulya I. PTE KTK 7 Borgulya I. PTE KTK 8

8 1. mintapélda 1. mintapélda 2. mintapélda Sugeno modellel függvények közelítése Kétváltozós függvény (parabola) Háromváltozós felület közelítés Borgulya I. PTE KTK 9 Borgulya I. PTE KTK 10 Borgulya I. PTE KTK mintapélda 2. mintapélda 2. mintapélda Borgulya I. PTE KTK 12 Borgulya I. PTE KTK 13 Borgulya I. PTE KTK mintapélda 2. mintapélda 2. mintapélda 3D felület: 3D felület: Borgulya I. PTE KTK 15 Borgulya I. PTE KTK 16 Borgulya I. PTE KTK 17

9 2. mintapélda 2. mintapélda 3D felület: Fuzzy szakérti rendszer fejlesztés XpertRule Knowledge Builder 3-4. Gyakorló feladat (két fuzzy példa) Borgulya I. PTE KTK 18 Borgulya I. PTE KTK 19 Borgulya I. KTK GI 1 XpertRule, 3. gyakorló feladat XpertRule, 3. gyakorló feladat XpertRule, 3. gyakorló feladat A feladat: Hitel kockázat Egy banki SZR egy személynél megállapítja a hitelezés kockázatát: alcsony, átlagos, vagy magas. Döntési szempontok: életkor, jövedelem Körülbelüli értékekkel dolgozik: fuzzy objektumok az életkor, jövedelem, eredmémy (risk) A megvalósítás lépései: Új projekt létrehozás: varázslóval Access adatbázis hozzárendelés (felhasználói névvel, jelszóval) Új tudás modul definiálás (itt: hitel kockázat) Attribútumok definiálása: életkor_év (numerikus), életkor (fuzzy), jövedelem (fuzzy), jövedelem_ft (num.), hitel_kockázat (fuzzy). A megvalósítás lépései: Attribútum értékek definiálása (Ins. Property): Életkor (fuzzy) Borgulya I. KTK GI 2 Borgulya I. KTK GI 3 Borgulya I. KTK GI 4 XpertRule, 3. gyakorló feladat XpertRule, 3. gyakorló feladat XpertRule, 3. gyakorló feladat A megvalósítás lépései: Attribútum értékek definiálása (Ins. Property): Jövedelem (fuzzy) A megvalósítás lépései: Attribútum értékek definiálása (Ins. Property): hitel_kockázat (fuzzy) A megvalósítás lépései: Attribútum értékek definiálása (Ins. Property): hitel_kockázat (fuzzy)+ tudás (döntési fa): Borgulya I. KTK GI 5 Borgulya I. KTK GI 6 Borgulya I. KTK GI 7

10 XpertRule, 3. gyakorló feladat A megvalósítás lépései: A végrehajtás szabályozása (fprogram): input kor - fuzzy értéke input fizetés fuzzy ért. fuzzy hitel_kockázat ért. és konvertálása numer. + riport XpertRule, 3. gyakorló feladat A futtatás lépései, megjelen kérdések és riport pl.: XpertRule, 4. gyakorló feladat A feladat: Kazán diagnosztika A SZR három gyakori hiba valószínségét prognosztizálja (vagy azt, hogy nincs hiba) Döntési szempontok: nyomás, hmérséklet Körülbelüli értékekkel dolgozik: fuzzy objektumok a nyomás, a hmérséklet Diagnosztikai esetek: a fuzzy szabályok alapjai Borgulya I. KTK GI 8 Borgulya I. KTK GI 9 Borgulya I. KTK GI 10 XpertRule, 4. gyakorló feladat A megvalósítás lépései: Új projekt létrehozás: varázslóval Access adatbázis hozzárendelés (felhasználói névvel, jelszóval) Új tudás modul definiálás (itt: kazán diagnosztika) Attribútumok definiálása: nyomás (fuzzy)- és num. hmérséklet (fuzzy) - és num. diagnózis (list+esetek) XpertRule, 4. gyakorló feladat A megvalósítás lépései: Attribútum értékek definiálása (Ins. Property): nyomás (fuzzy) XpertRule, 4. gyakorló feladat A megvalósítás lépései: Attribútum értékek definiálása (Ins. Property): hmérséklet (fuzzy) Borgulya I. KTK GI 11 Borgulya I. KTK GI 12 Borgulya I. KTK GI 13 XpertRule, 4. gyakorló feladat A megvalósítás lépései: Attribútum értékek definiálása (Ins. Prop.): Diagnózis: list + esetek fuzzy szabályok XpertRule, 4. gyakorló feladat A megvalósítás lépései: A végrehajtás szabályozása (fprogram): Input nyomás, hmérséklet, fuzzy értékeik, diagnózis értéke, +riport XpertRule, 4. gyakorló feladat A futtatás lépései, megjelen kérdések és riport pl.: Borgulya I. KTK GI 14 Borgulya I. KTK GI 15 Borgulya I. KTK GI 16

11 Fuzzy-rendszerek Alkalmazások I. Gyakori alkalmazások (közlekedés, autóipar, háztartási elektronika, ipari robot, gazd. élet,) Problématípusok szabályozás (ipari ) közelít köv. (fuzzy SZR) döntések fuzzy környezetben adatanalízis (osztályozás, klaszterképzés) információ visszakeresés (adatbázisból ) optimalizálás (fuzzy aritmetika, ) képfeldolgozás,... Szabályozás Fuzzy szabályozó: ipari szab. -(univ. függv. köz.) Ipari példák: (gzgép, cementéget, metró, házt. gépek, szennyvíztisztító, blokkolásgátló, ) Víztisztító példája folyóvízbl ivóvíz 3 tartály, 3-5 órás kezelés tartályonként Borgulya I. PTE KTK 1 Borgulya I. PTE KTK 2 Borgulya I. PTE KTK 3 Víztisztító példája folyóvíz Hipotézis: 1. tartály T1 vízmennyiségét kell szabályozni. Jellemzk: AL(lúgosság), PH, TE (hm.), kétféle szennyezettség fok ( SZ1 - SZ2 ) (fuzzy termek: kicsi, nagy minden változónál) Borgulya I. PTE KTK 4 Víztisztító példája Sugeno-modell 8 szabállyal R i : IF A is x1 AND B is x2 AND C is x3 THEN T1= p0 + p1* x4 + p2*x5 + p3*x1 +p4*x2 +p5*x3. (ahol x1, x2,,x5: PH, AL, TE, SZ1, SZ2) pi: becslés, függv. illesztés (40 elem példasor ismert) R i. PH AL TE p0 p1 p2 p3 p4 p5 1 K K K K K N Borgulya I. PTE KTK 5 Döntések fuzzy környezetben Döntéshozatal: alapprobléma, többkrit. döntések MCDM lépései: 1. probléma def., 2. Kritériumok 3. Alternatíva - krit. kapcsolat (mátrix, súlyok) 4. Aggregációs elj., rendezés (preferencia sorrend, súlyozás ) eredmény: kiválasztás, osztályozás, rendezés Fuzzy módszerek 3-4-ben Borgulya I. PTE KTK 6 Rendez módszerek Yager max-min módszere A = a 1,a 2,...,a n, K=k 1,k 2,...,k m, g 1, g 2,...,g m (g i = m) kj (a i ): milyen jó az a i alternatíva a k j szempontjából Számolási lépések: kj (a i ) = [ kj (a i ) ] gj minden a i A-ra. Legyen D a döntési tér: D (a i ) = min ~ kj (a i ) j=1,2,...,m. (aggregálás min mvelettel) eredmény: D (a*) = max D (a i ) a i A. Példa Yager módszerére k1 k2 k3 k4 a a a g1=2.32, g2=1.2, g3=0.32, g4=0.16, pl. k3 (a 2 )=0.3 D (a1) = min ~ kj (a1) = min 0.44, 0.24, 0.6, 0.9 =0.24. D (a2) = min ~ kj (a2) = min 0.2, 0.76, 0.68, 0.69 =0.2 D (a3) = min ~ kj (a3) = min 0.12, 0.54, 0.93, 0.72 =0.12 Az optimális megoldás: D (a) = max D (a1), D (a2) D (a3) =0.24 = D (a1) aa. Még egy rendez módszer: Osztályozó m. A = a 1,a 2,...,an, K=k 1,k 2,...,k m, k j = {S j1,.. S jpj ), ahol S j1,..., S jpj nyelvi vált. értékek, g 1, g 2,...,g m súlyok (g 12 ) IF k 1 is S 11 THEN E = S 11 (g 12 ) IF k 1 is S 12 THEN E = S 12 (g j2 ) IF k j is S js THEN E = S js (g m2 ) IF k m is S mpn THEN E = S mpm (s=1,2,,p j ) (j = 1, 2,..., m ) Borgulya I. PTE KTK 7 Borgulya I. PTE KTK 8 Borgulya I. PTE KTK 9

12 Még egy rendez módszer: Osztályozó m. szabályozó: p ji darab szabály minden a i -hez egy érték ( osztályzat ) rendezi az alternatívákat (eltérés a Yager max-min-tl: nyelvi változó értékeket alkalmaz) Mintapélda: Po-delta nemzeti park hasznosításának problémája. Alternatívák a. üzleti élet optimalizálása általában b. mezgazdaság optimalizálása c. nagyobb terület vízzel elárasztása d. részlegesen területek vízzel elárasztása, megtartva a jelenlegi mezgazdasági termelést e. részlegesen területek vízzel elárasztása, optimalizálva a mezgazdasági termelést. Kritériumok 1. nagy nyereség; 2. foglalkoztatás növelése; 3. turisztikai vonzer növelése; 4. pihenésre, szórakozásra vonzer növelés; 5. a táj ökológiai egyensúlya, 6. az ökológiai károk okozta veszély csökkentése. Borgulya I. PTE KTK 10 Borgulya I. PTE KTK 11 Borgulya I. PTE KTK 12 Tartalmazási függvények: Adatok: a b c d e k1 64. m. 159.m. közel. közel közel. 143.m. 95.m. 147.m. k k3 rossz rossz jó mérsékelt mérsékelt k4 mérs. mérsékelt jó mérsékelt mérsékelt k5 rossz rossz jó jó mérsékelt k6 mérs. rossz jó rossz rossz eredmény: e>c>b>d>a lobbik hatása: c. Függvényközelítés, prognózis Példa: folyó árhullám elrejelzés (6 óraval, Mosel) Adott: d(t) vízmennyiség idsorok (11 áradás adatai) NH modell: vízmennyiség változás idsor idablak (n adat, n+1-dik becslése) backpropagation modell ( ) csak átlagosan jó Borgulya I. PTE KTK 13 Borgulya I. PTE KTK 14 Borgulya I. PTE KTK 15 Függvényközelítés, prognózis FR modell szakérti vélemény: d o (t) = d o (t- 6) + d o (t), d o (t) = f(d 1 (t - t 1 ), d 2 (t- t 2 ),...,d n (t- t n )), ahol d i az i-dik idsor vízmennyiség változása 3, 6 és 9 óránként. Sugeno modell d o (t) -re Függvényközelítés, prognózis Sugeno modell d o (t) -re R i : if x 1 is A i1 and x n is A in then y i =p i0 + p i1 *x p in *x n Input tér particionálás: klaszterezéssel A i -k Külön szabályok minden idsorra (folyóra) (p 0, p 1, p n optimalizálása függvény illesztéssel) t i optimalizálása Eredmény: jobb mint a szakértké Fuzzy-rendszerek Alkalmazások II. Borgulya I. PTE KTK 16 Borgulya I. PTE KTK 17 Borgulya I. KTK GI 1

13 Adatanalízis Fuzzy klaszteranalízis Fuzzy osztályozás Alkalmazási példa: függvényközelítés Adatanalízis Lépések: 1. Gyakoriságok, szelektálás 2. Mintafelismerés 3. mat. modellezés (funk. kapcsolatok) 4. Elemzés, értékelés Pl. 2. lépcs: Fuzzy klaszteranalízis Pl. 3. lépcs: Fuzzy osztályozás, fuzzy shell klaszter algoritmusok, szabályfelismerés Fuzzy klaszteranalízis Fuzzy c-means-algoritmus o(x, u,v)= u ikm d(v k,x i ) 2 minimum keresés u ik >0 (k=1,..,n) u ik =1 (i=1,,c) u ik =1/(( d(v i,x k) / d(v j,x k )) (1/(m-1) ) v i = (u im x i )/ (u ikm ) megállás: u ik stabil Gustafson-Kessel alg.,lineáris klaszter elj., shell klaszter eljárások. Borgulya I. KTK GI 2 Borgulya I. KTK GI 3 Borgulya I. KTK GI 4 Fuzzy klaszteranalízis Fuzzy c-means-algoritmus Fuzzy-osztályozás Kitekintés: minta osztályozás - csoportosítás tudásábrázolás (explicit, implicit) tanulási mód (supervised, unsup.) minta tulajdonság ( numerikus, heterogén) Tudásábrázolás Implicit: statisztika (diszkrim fg., kovariancia m., hasonlóság, val. érték) Bayes régió, potenciál fg.,nh F(minta) osztály tartalmazási fg érték. Borgulya I. KTK GI 5 Borgulya I. KTK GI 6 Borgulya I. KTK GI 7 Fuzzy-osztályozás Tudásábrázolás Explicit: If- then.., frame, log. kifejezések. Tudásalapú: szabályalapú (szabály osztály kapcs.) hierarchikus osztályozók Optimalizálás - tanítás explicit esetnél evoluciós algorimusok segítségével NH közremködéssel fuzzy NH-val elállítás neurofuzzy rendszerrel Tanulóalgoritmussal finomítás NEFCLASS: egy neurofuzzy osztályozó Pl. 2 input adat x1 (u1,u2,u3) x2 (u4,u5 u6) c1, c2 osztályok IRIS adatsor: a generált szabályok a következk: R1: IF X1 is S AND X2 is M AND X3 is S AND X4 is S THEN osztály is 1; R2: IF X1 is L AND X2 is M AND X3 is M AND X4 is M THEN osztály is 2; R7:... Borgulya I. KTK GI 8 Borgulya I. KTK GI 9 Borgulya I. KTK GI 10

14 Fuzzy szabályozó kialakítás adatok alapján Yager-Filev módszere mountain clastering eljárás két lépcs: induló szabályhalmaz finomítás (optimalizálás) közelítési forma: bázisfüggvényekkel (gauss) Fuzzy szabályozó kialakítás adatok alapján Montain Clustering algoritmus (Yager-Filev) 1. 2 dim. rács (térbeli): N ij lehetséges centrumok 2. M i montain fg. N ij -ben M 1 (N ij )= e^(-a* d(n ki,n jk )) (a konstans) 3. Centrum választás: M 1 * =max M 1 (N ij ),(N jj *a rácspont) M 2 (N i )= M 1 (N i )- M 1 * e^(-b* d(n j,n k )) M 2 M 1 Vége ha M 1 * <, különben újabb centrum választás Klaszterek: a kiválasztott centrumok Fuzzy szabályozó kialakítás adatok alapján Yager-Filev módszere Input: x 1, x 2,, x n, y minden klaszterre egy szabály: IF x 1 is B r1 AND AND x n is B rn THEN y is D r r=1,2,,m és, (c r1 c r2,, c rn, c r ) az r-dik centrum B rl (x il ) = exp(-1/ rl2 (x il -c rl ) 2 ) D r (y) = exp(-1/ 2 (y-c r ) 2 ) y-ra kifejezve egy adott input x 1k, x rk esetén: Y= ( m c i * exp( - r 1/ ij2 (x jk -c ij ) 2 )) / ( m exp( - r 1/ rl2 (x jk -c ij ) 2 )) Finomítás: centrumok, szórások tanuló algoritmussal Borgulya I. KTK GI 11 Borgulya I. KTK GI 12 Borgulya I. KTK GI 13 Fuzzy mintapéldák FuzzyTech 5.54 alkalmazása Hitel kockázat becslés Feladat: Az FT Investment Bank ügyfelei adatbázisából megfelel ügyfeleket kíván választani egy közvetlen levelezési kampányhoz. A kiválasztás marketing szakértk ismeretei alapján történik (hitelképes ügyfeleknek írnak). Borgulya I. KTK GI 14 Borgulya I. PTE KTK 1 Borgulya I. PTE KTK 2 Hitel kockázat becslés Megoldás: Egy Access adatbázis menübl érhetk el a szolgáltatások (f rlap) Ügyfél adatok kezelése egy adatbázisban Földrajzi-demográfiai jellemzk megadása, kezelése Ügyfelek elemzése Ügyfél elemzés fuzzytech segítségével: Pénzügyi feltételek elemzése Személyi feltételek elemzése Levelezési kockázat elemzése Hitel kockázat becslés Ügyfél elemzés fuzzytech segítségével: 3 szabálybázis Pénzügyi felt. elemz (input: jövedelem költés, valós vagyon+teher/hitel) Személyi felt. elemz (input: kor, gyerekek száma, házas) Levelezési kockázat (input: pénzügyi elemzés értéke, személyi elemzés értéke, földrajzidemogfráfiai jellemz) Borgulya I. PTE KTK 3 Borgulya I. PTE KTK 4 Borgulya I. PTE KTK 5

15 Borgulya I. PTE KTK 6 Borgulya I. PTE KTK 7 Borgulya I. PTE KTK 8 Fuzzy rendszerek generálása: ANFIS használat Egyváltozós függvény illesztés pontokra Demo feladatok Borgulya I. PTE KTK 1 Borgulya I. PTE KTK 2 Borgulya I. PTE KTK 3 A hozzárendelt NH Generált szabályok Generált fuzzy t. függvények Borgulya I. PTE KTK 4 Borgulya I. PTE KTK 5 Borgulya I. PTE KTK 6

16 A generált fuzzy rendszer eredménye a tanulás eltt. Borgulya I. PTE KTK 7 Borgulya I. PTE KTK 8 Borgulya I. PTE KTK 9 Tanulás után A közelít függvény Tanulás eltt Borgulya I. PTE KTK 10 Borgulya I. PTE KTK 11 Borgulya I. PTE KTK 12 Újabb függvényillesztés pontokra A generált NH (klaszterezéssel) NH tanulása Borgulya I. PTE KTK 13 Borgulya I. PTE KTK 14 Borgulya I. PTE KTK 15

17 Tanulás után Eredmények A közelít függvény Tanulás eltt Borgulya I. PTE KTK 16 Borgulya I. PTE KTK 17 Borgulya I. PTE KTK 18 IRIS adatok osztályozása - 3 osztály Klaszterezéssel - 4 szabály Borgulya I. PTE KTK 19 Borgulya I. PTE KTK 20 Borgulya I. PTE KTK 21 Borgulya I. PTE KTK 22 Borgulya I. PTE KTK 23 Borgulya I. PTE KTK 24

18 Bevezetés EA alapfogalmak, változatok GA, GP, ES, EP technikák Alkalmazások Intelligens szoftverek Ismeret szimbólikus numerikus strukturált szakérti r. fuzzy r. ev. alg strukturálatlan neur. háló Borgulya I. PTE KTK 1 Borgulya I. PTE KTK 2 Borgulya I. PTE KTK 3 Evolúciós algoritmus koncepció Populáció Modell koncepció alapja modell utódok Biológiai evolúció, Biológiai rendszer, faj információ csere Matematikai modell Evolúciós algoritmus koncepció Modell koncepció alapja Biológiai evolúció, Öröklés (szül utód), vírusok, baktériumok Egy biológiai rendszer Immun rendszer faj információ csere pl. méhek, hangyák Matematikai modell Lineáris kombináció alapú Valószínségi modell a populáció alapján Valószínségi modell a korábbi populációk alapján Az EA mint módszer Sztochasztikus keres eljárás Tanuló algoritmus Populáció alapú algoritmus, amely információ csereként értelmezi az evolúciót Borgulya I. PTE KTK 4 Borgulya I. PTE KTK 5 Borgulya I. PTE KTK 6 EA: probléma megoldó metaheurisztika EA elméleti háttér (MI - Op.kut.) Markov-láncok statisztika döntéselmélete Holland séma elmélet statisztikai mechanika Számítási igény EA alapfogalmak individum/kromoszóma (egy megoldás) Populáció (megoldás halmaz) szül, utód (régi- új megoldás) keres operátorok (mveletek) Rekombináció/crossover, mutáció, szelekció Fitnesz (megoldás értékelésre) generáció EA általános ciklus stratégiai par. választása populáció inicializálás individumok értékelése generációs ciklus: szülk választása, autódok generálása utódok értékelése, uj populáció elállítás megállási feltétel eredmény Borgulya I. PTE KTK 7 Borgulya I. PTE KTK 8 Borgulya I. PTE KTK 9

19 Genetikus algoritmusok Genetikus algoritmusok EA változatok genetikus algoritmusok (GA) genotípus változtatás (kromoszóma vált.) evolúciós stratégia (ES) fenotípus vált. (mutáció, rekombináció, det szelekció-- legjobb túlél) evolúciós programozás (EP) faj fenotip. vált. (mutáció, sztoch. szelekció) Borgulya I. PTE KTK 10 Alap GA Holland 60, genetikus mech. Optimalizálás individum: kromoszóma= bitsorozat (gensor.) n-változó, kódolásuk Alap GA lépések inicializálás individum, véletlen ért. értékelés fitnesz ~ célfüggvény generációs ciklus (teljesen új populáció) Borgulya I. PTE KTK 11 Alap GA lépések generációs ciklus szülk: sztoch. szelekció ( szerencsekerék) utódok: szülk sztoch. választása, rekombináció/crossover/ mutáció, értékelés szülk utódok Új populáció: az utódok megállási feltétel --- eredmény Borgulya I. PTE KTK 12 Evulúciós stratégiák Evulúciós stratégiák Evulúciós programozás ES Rechenberg, Schwefel 60 opt. módszer individum valós számokkal n pont (n dim) szórásokkal (normál eloszlás) -böl -utód << ( + ) ES ES lépések inicializálás pont szórásokkal értékelés célfüggvény = fitnesz Borgulya I. PTE KTK 13 ES lépések generációs ciklus szülök sztoch. választása (visszatevéses) rekombináció pl. (a b c d ) ( e f g h) (a f g d ) +szórás mutáció pl. k = k * exp(t1*n(0,1)) x j = x j + j *N(0,1) értékelés determinisztikus szelekció ( legjobb - elit) megállási felt., eredmény Borgulya I. PTE KTK 14 EP C.J. Fogel, Owens Walhs 60 D. Fogel 92 ~ES, de csak mutáció (faj alkalmazkodása) EP lépések inicializálás (>200), értékelés: fitnesz=célf. Generációs ciklus ( utód) replikáció: másolat mutáció: pl. x j =x j + fitnesz(x j ) ^0.5 * N(0,1) sztochasztikus szelekció legjobb (gyözelmek sz.) megállási feltétel, eredmény Borgulya I. PTE KTK 15 Genetikus programozás Genetikus programozás GP Koza 1992, programkód aut. elállítás individum: generált program (fa-struktúra, változók, fg.-ek, konstansok), LISP programnyelv (mveletek, út., változó,..) aut. definiálható függvények fitnesz érték: teszt halmazon helyes találat/hiba stratégiai par.: fa-srtruktúra szintek száma,.. GP lépések inicializálás rekurziv fa-strukturák értékelés fitnesz értékek (teszthalmazon) generáció ciklus mvelet választás: crossover, mutáció adott valószínséggel (*a(+b c d) (-c 2) ) (*11 (+a b) ) (*a(+b c d) (+a b) ) értékelés, megállási feltétel, eredmény Alkalmazási példák fuzzy szabályozó elállítás osztályozó r. generálás multimodál fg. optimalizálás áramkör tervezés, csoportosítás (klaszter, repül útvonal) paraméter meghat. (NH, SZR, FR) piac szegmentálás, kávépiac opt. árai, széria nagyság, prognózis,... Borgulya I. PTE KTK 16 Borgulya I. PTE KTK 17 Borgulya I. PTE KTK 18

20 Alkalmazási példák: géptelepítés tervezés n gép, n munkahely, gép install. költs.,anyag szállítási költség min. jelölés C ij i. hely, j. gép inst. költség B jm j - m. gép közti anyag sz. A ik i - k. hely közti anyag sz. költ. f(i) a permutáció i. helyén a gép sor. Célfg. C if(i) + A ik *B f(i)f(k) min Géptelepítés (1+100) ES -el individum (n=7) helyen 5. gép replikáció: 100 másolat mutáció 1-2 helyen gépcsere Alkalmazási példák: fuzzy szabályozó gen. Tervezési eljárás GA tanulás fuzzy szabályok fuzzy halmazok, mv. Fuzzifikálás köv. Mechanizmus defuzzifikálás input output Alapgondolat : Hibrid GA - ES algoritmus Borgulya I. PTE KTK 19 Borgulya I. PTE KTK 20 Borgulya I. PTE KTK 21 Alkalmazási példák: fuzzy szabályozó gen. Tudásbázis: R i : IF x 1 is A i1 AND x n is A in THEN y is B i A ij (a ij, b ij, c ij ) háromsz. term (n fuzzy halmaz) individum (szabály): C=C1C2 =(c 1 c 2 c n a i1 b i1 c i1 a i2 b i2 c i2. A in+1 b in+1 c in+1 ) inicializálás t példa t szabály (vázlatosan) szabályonként n term Alkalmazási példák: fuzzy szabályozó gen. Fitnesz: max Z(R i )= R i, példák átl. kompatibilitási foka * pozitív példák átl. * büntet fg. (negatív pédák <) * R i legkisebb elhelyezkedési interakció fok müveletek mutáció: C1 term cserék, C2 c k =c k + int. crossover: C1C2 részek együtt mozognak (1+1) ES: helyi opt. a legjobb szabálynál C2 mutáció (term tuning) k = k * si, x j = x j + si* j Fuzzy szabályozó gen. lépések Hibrid GA - ES (m szabály generálás) Szabálybázis egyszersítés (GA újabb fitnesz) Szabálybázis optimalizálás (GA újabb fitnesz) Borgulya I. PTE KTK 22 Borgulya I. PTE KTK 23 Borgulya I. PTE KTK 24 Pl. multimodál fg.: x1, x2 [-1,1] F(x1,x2)= x1^2+x2^2-cos(18 x1)-cos (18 x2) Teszt: 1681 adatpár, hibrid GA (50 gener. ) ES (25 gener.) egyszerüsítés (500 gener.) optim. (1000 gener.) Eredmény: 232 szabály 0.19 a négyzetes hibák összege O. Cordón, F. Herrera: A Hybrid Algorithm-Evolution Strategy Process for Learning Fuzzy Logic Controller Knowledge Bases In Herrera, Verdegay: Genetic Algoritms and Soft Computing Physica Verlag pp Alaptechnikák Reprezentáció, ábrázolási forma Szelekció Rekombináció Mutáció Visszahelyettesítés EA ciklus kialakítás Borgulya I. PTE KTK 25 Borgulya I. PTE KTK 1 Borgulya I. PTE KTK 2

21 Ábrázolási forma (Változatos forma) Valós (egész) vektor E= (x 1,x 2,,x n ) Permutáció E=( 1, 2,, n ) i. pozíció: i objektum 1, 2,, n x 1,x 2,,x n Bináris vektor genotípus fenotípus(szting) x 1,x 2,,x n x i kódolás: Gray-kód (Hamming távolság =1) Szelekció Vizsgálható: pl. fitnesz értékek változása, varianciája Szelekciós állomány (selection pool), szülk állománya (matching pool) köztes populációk Rulett szelekció (fitnesz arányos) szelekciós valószínség: p(e i )=f(e i )/f(e I ) rulett: E i > p(e i ) ív egy szülhöz -ször ismétlés sok ismétldés szupermegoldások, javítás: fitnesz skálázás (lineáris, logaritmikus, exp.) Szelekció Sztochasztikus univerzális mintavétel (fitnesz arányos) E i > *p(e i ) ív egy szülhöz (várható másolatok száma) számú mutató Egyed E1 E2 E3 E4 Várható másolatok száma Kiválasztott egyedek száma Borgulya I. PTE KTK 3 Borgulya I. PTE KTK 4 Borgulya I. PTE KTK 5 Szelekció Verseng szelekció (tournament sel.) egyedek sorrendjét használja fel 1.tour paraméter: tour számú egyedválasztás (rnd) 2. legjobb kiválasztása ismétlés -ször (változatosság megmarad!) Csonkolásos szelekció (truncation sel.) csak a legjobbakat választja ki 1. növekv sorrend fitnesz szerint 2. P legjobb T-ed részét kijelöljük, -ször választás (rnd) Szelekció Lineáris sorrend alapú szelekció (lin, ranking sel.) 1. növekv sorrend fitnesz szerint 2. sorszám osztás (1 a legrosszabb) 3. egyed választás valószínség szerint (lineárisan sorszám függ): -0, 1]. p 1 = - / a legrosszabb egyed val. (p = (2- - )/ ) Legyen J a fitnesz értékek alapján növekvbe rendezett szelekciós halmaz. S 0 =0 For i=1 to do S i =S i-1 +pi od For i=1 to do r=rnd; Ei =J z ha S z-1 r<s z od Rekombináció Szülk állományából 1-több szül - utód(ok) Szülk által kijelölt keresési térben generál utódot. örökölt tulajdonságok, változatosság fenntartás Diszkrét rekombináció általános mvelet, több típusra keresési tér: néhány diszkrét érték (hiperkocka csúcsok) (x 1, x 2,, x n ), (y 1, y 2,, y n ) és (u 1, u 2,, u n ): u i =a x i + (1-a) y i (i=1,2,, n) a{0, 1} Borgulya I. PTE KTK 6 Borgulya I. PTE KTK 7 Borgulya I. PTE KTK 8 Rekombináció Egész és valós változók rekombinációja a hiperkocka több pontja válaszható - köztes rekombináció: a hiperk. bármely pontja növelhet a kocka u i =a x i + (1-a) y i (i=1,2,, n) a-h, 1+h] (rnd!) - lineáris rekombináció: a hiperk. egy egyenese, h. síkja (mint a köztes rekombináció, de a állandó.) Rekombináció Bináris sztringek rekombinációja GA genotípus szint: keresztezés (crossover) változók bitpozíció határát nem figyeli Gray-kód! Keresési tér: L-elem bitsorozatok tere - egypontos keresztezés szülk utódok Rekombináció Bináris sztringek rekombinációja - többpontos keresztezés véletlen keresztezési pontok, növekv sorrendben - uniform keresztezés (diszkrét rek.) - kever keresztezés (shuffle crossover) mindkét szülnél véletlen bitpozíció keverés egypontos keresztezés eredeti sorrend visszaállítás Borgulya I. PTE KTK 9 Borgulya I. PTE KTK 10 Borgulya I. PTE KTK 11

22 Rekombináció Permutációk rekombinációja helyes permutációt megtartó transzformációk Uniform sorrendalapú rekombináció Szül szül bitmaszk közbüls állapot utód utód Véletlen bitmaszk! Minél több sorszám egyezés legyen! Borgulya I. PTE KTK 12 Mutáció X szomszédsági környezetében új pont Nhd(x,)= {ys d(x, y) < } Változtatás: 1-több változó, csökken, pontosság szélesebbl kisebb környezet felé Valós/ egész változók mutációja z i = xi i *, = 2 -k 0, 1] pl. i > 10-7, k =4, 5, ->20 a változók számát p m befolyásolja Borgulya I. PTE KTK 13 Mutáció Valós/ egész változók mutációja több változót érint mutáció: z j = x i i * * i-j, = 2 -k 0, 1] <1 j=(i,i-1, i-2, ), i=1,2,,n x i -tl távolodva csökken a változás Bináris változók mutációja bitenként: xi ha Rnd pm zi 1 xi ha Rnd pm Borgulya I. PTE KTK 14 Mutáció Permutációk mutációja változó: pozíción található érték sorrend változtatás p m alapján - beszúrás, csere, inverz, scramble Borgulya I. PTE KTK 15 Visszahelyezés (reinsertion) Utódképzési ráta( UR) (generation gap): utódok száma hányszorosa -nek Visszahelyezési ráta (VR) lecserélt egyedek aránya P-ben - VR=1 teljesen új P - VR<1 adott számút cserélünk (pl. elit szelekció) - UR<VR minden utód bekerül P-be - UR>VR - utódok egy része kerül csak P-be szelektálni kell: szelekciós mveletekkel Steady-state EA: 1-2 utód Borgulya I. PTE KTK 16 EA ciklus kialakítás Stratégiai paraméterek: A populáció mérete (az egyedek száma), A rekombináció alkalmazásának p r valószínsége, A mutáció alkalmazásának p m valószínsége Az utódképzési ráta értéke A visszahelyezési ráta értéke. Kezd populáció kialakítása: elz feladatmegoldás felhasználása+véletlen egyedek, módosított elz eredmények, többszörös újraindítás, véletlenszeren kialakítás Borgulya I. PTE KTK 17 EA ciklus kialakítás Megállási feltétel: -max. generációszám elérése -max. futási id elérése -adott id alatt nem javul a megoldás minsége -hasonlók az egyedek -elre adott érték megközelítése -P minsége megfelel (mérték: célfüggvény értékek szórása/átlaga, legjobb- legrosszabb eltérése P-ben) -kombinációk (nem teljesül, ) EA ciklus kialakítás Fitnesz kiértékelés: szerep: egyedek sorrendje, keresési tér struktúrálás célfüggvény adaptálás általában bináris eset: bináris valós kódolás sorrend esetén: sorrend sorszámok fitnesz a sorszámra több célfüggvény Pareto dominancia alapján nincs célfüggvény: elvárások/korlátok megfogalmazása, kombinálás összetett fitneszfüggvény kialakítás EA ciklus struktúra: stratégiai paraméterek beállítása kezdpopuláció kilakítása fitnesz kiértékelés Repeat szelekció, mutáció fitnesz kiértékelés visszahelyezés until megállási feltétel teljesül Borgulya I. PTE KTK 18 Borgulya I. PTE KTK 19 Borgulya I. PTE KTK 20

23 3. Általános, standard módszerek 3. Általános, standard módszerek Témakör Standard és származtatott módszerek GA (alap, változatok) ES és változatok EP és változatok Terjeszked (scatter) keresés Jellemzk: Alap GA Reprezentáció: bitsztring - változókhoz egy-egy rész Fitnesz kiértékelés: bitsztring részek dekódolása, transzformálása Szelekció: rulett szelekció Rekombináció: keresztezés egypontos, uniform p r valószínséggel alk. (~p r =0.6), f mvelet Mutáció: bitmutáció, ált. p m =0.001 Visszahelyezés (UR=1, VR=1) Borgulya I. PTE KTK 1 Borgulya I. PTE KTK 2 Borgulya I. PTE KTK 3 Alap GA Alap GA Alap GA Jellemzk: EA ciklus Kezdpopuláció: véletlen ( egyed) Megállási feltétel: max. generációszám /futásid Stratégiai paraméterek (, p m, p r, bitsztring hossz, a i, b i ) Fbb lépések Kezd P, fitnesz kiértékelés Repeat szelekció, rekombináció, mutáció, visszahelyezés Until megállási felt. teljesül Borgulya I. PTE KTK 4 Borgulya I. PTE KTK 5 Borgulya I. PTE KTK 6 Alap GA Változatok: folytonos GA csak fenotípus szint. diszkrét rekombináció (1-es) köztes rekombináció (2-es) aritmetikai keresztezés (3-as) lineáris keresztezés (4-es) véletlen köztes rekombináció (5-tel jelölt egyenes pontjai) globális köztes rekombináció (6-tal jelölt téglalap pontjai) kiterjesztett köztes rekombináció (7-tel jelölt) fuzzy rekombináció (8-al jelölt) Alap GA Változatok: steady-state GA q utód (1-2) Kezd populáció generálása: t=0, P(t) = {E1, E2,, En} fitnesz kiértékelés (Ei) i=1,2,,n Repeat t=t+1 Repeat Szelekció: két szül választás, (lin. sorrend alapú szel.) Rekombináció (utódok: Ei,Ej ), Mutáció ((Ei ), (Ej )), Duplikált utód törlése Fitnesz kiértékelés ((Ei ), (Ej )) Until az utódok száma>=q Visszahelyezés: P(t) = P(t-1), rendezés, törlés,+ q utód Until megállási feltétel teljesül Jellemzk: Általános ES Reprezentáció: E= (x 1, 1,, x n, n ). n (lépésköz): állandó / különböz és önadaptív Fitnesz kiértékelés: ~ célfüggvénnyel azonos Szelekció: véletlen egyed választás (ismétléssel) Rekombináció: két szül egy utód pl. diszkrét rekombináció + szórások: átlag (köztes, globális köztes ) Borgulya I. PTE KTK 7 Borgulya I. PTE KTK 8 Borgulya I. PTE KTK 9

24 Jellemzk: Általános ES Mutáció Azonos szórások esetén (hipergömb pontjai x i körül) = exp( 0 N(0, 1)) xi = xi+ Ni(0, 1). 0 =n -0.5 Változónként eltér szórások (hiperellipszoid pontjai x i körül) i = i exp( N(0, 1)+ N i (0, 1)) x i = x i + i N i (0, 1). ~ (2n)- 1/2 és ~ (2n 1/2 ) -1/2 Jellemzk: Általános ES Visszahelyezés: két változat ( egyed utód) (, ) szelekció új P: a legjobb számú utód diszkrimináló: a rosszabb utódnak nincs esélye elny: állandóan változik, mutáció lépésköz mindig változik / ~ 1/7 és ~15 (+) szelekció új P: a legjobb számú a szülk+ utódok közül elit szelekció: a legjobbak tovább élnek Általános ES Jellemzk: EA ciklus kezd populáció generálása: t=0, P(t)= {E1, E2,, E} fitnesz kiértékelés (Ei) i=1,2,, Repeat t=t+1 Rekombináció (utódok: E1,E2, E ), Mutáció ( E1,E2, E ) Fitnesz kiértékelés ((Ei ) i=1,2,, ), If (,) szelekció then P(t) = legjobb utód fi If (+) szelekció then P(t) = legjobb P(t-1) {E1,E2, E } közül fi Until megállási feltétel teljesül Borgulya I. PTE KTK 10 Borgulya I. PTE KTK 11 Borgulya I. PTE KTK 12 Általános ES Standard EP Standard EP Változatok: korrelált mutáció alkalmazása legjobb irányba történ módosítás: rotációs szögek egyed: E = i (xi, i, i ), i szintén változik (~5 fok) Változatok: (1+1) ES 1 egyed (vektor), rekombináció: másolat, azonos szórások Rechenberg-szabály: szórás megválasztására sikeres mutációk aránya ~1/5 nél megfelel <1/5: csökkenteni kell -t >1/5: növelni kell -t Jellemzk: Reprezentáció: valós vektor + 2n mutáció paraméter Fitnesz kiértékelés: ~ célfüggvény, transzformálás >0-ra: (E i )= F(f(E i ),z i ). Rekombináció: másolat Mutáció: dinamikusan változó szórás, k i, z i paraméterek i' ki * ( Ei) zi xi' xi i * Ni(0,1) Jellemzk: Visszahelyezés: verseny a szülk és utódok közt sztochasztikus szelekció ~ verseng szelekció minden szülhöz, utódhoz súly rendelés lépések: - minden E i -hez q egyed választás (rnd) - súly =gyzelmek száma (jobb a (E )) i -új P: egyed a legjobb súlyokkal (q~0.05 és >200) Borgulya I. PTE KTK 13 Borgulya I. PTE KTK 14 Borgulya I. PTE KTK 15 Standard EP Standard EP Terjeszked (scatter) keresés EA ciklus kezd populáció generálása: P(t)= {E1, E2,, E} fitnesz kiértékelés (Ei) i=1,2,, Repeat t=t+1, Rekombináció (utódok: E1,E2, E ) Mutáció (E1,E2, E ), Fitnesz kiértékelés ((Ei ) i=1,2,, ) Visszahelyezés: P(t-1) {E1,E2, E } súlyok meghatározása, rendezés P(t) = az els egyed a rendezettek közül. Until megállási feltétel teljesül Változatok: önadaptív, meta-ep meta-ep ~ ES egyed: E= (x 1, 1,, x n, n ), mutáció: i = i + i N i (0, 1) x i = x i + i N i (0, 1). stratégiai szerepe (kisebb, nagyobb változások) Alapgondolat: korábbi megoldások lineáris kombinációi közt keressük a jobb megoldásokat megoldások populációja de nem evolúciós mveletek Fbb lépések: 1. Kezd megoldás halmaz generálása, és egy megoldás halmaz (Refset: reference set) elkülönítése. 2. Új megoldások képzése a Refset elemeinek kombinálásával. 3. Az új megoldások javítása helyi kereséssel. 4. A legjobb új megoldások kiválasztása és a Refset-be illesztése. 5. Folytatás a 2. ponttól, ha a Refset még változott, vagy max. generációszámot nem érte el. Borgulya I. PTE KTK 16 Borgulya I. PTE KTK 17 Borgulya I. PTE KTK 18

25 Terjeszked (scatter) keresés Genetikus programozás Részletek: Kezd P: generátor programmal ( minden régióból..) Alapfeladat Javító eljárás: helyi keres elj. minden egyednél Refset módosítás (Refset=Refset +Refset2): Refset1 a legjobbak, Refset2 a legrosszabbak vizsgálat, hova helyezhet (Resfset1-2) Részhalmaz generálás: 2,3,4,.. Refset elem halmazok pl. kételem +a legjobb kimaradó, Megoldás kombináló eljárás: a részhalmaz egyed-párok lineáris kombinációi (többféle típus) 5. Genetikus programozás (GP) GP alapkoncepció Az általános GP módszer Fejlettebb GP technikák Példa ADF-el Alkalmazások Borgulya I. PTE KTK 19 Borgulya I. PTE KTK 1 Borgulya I. PTE KTK 2 Genetikus programozás Genetikus programozás Genetikus programozás Alapfeladat Automatikus programírás Koza (1992): LISP programok írása Programfa írásmód (+1 2 ( IF ( > Time 10) 3 4 ) ). GP alapkoncepció Fbb lépések, definiálni kell: 1. a végpontok halmazát (terminal set) 2. a függvények halmazát (fuction set) 3. a fitneszfüggvényt 4. a stratégiai paramétereket 5. a megállási feltételt és 6. a program felépítését. GP alapkoncepció T halmat: konstans, változó, függvény() F halmaz: aritmetikai, matematikai, logikai, szelekciós, ciklus utasítások, spec. függvények (problémás: osztás, ciklus, különböz adattípusok) Fitneszfüggvény: hibafüggvény / sikeres tesztek száma több cél kezelés: büntet fg. / Pareto dominancia Borgulya I. PTE KTK 3 Borgulya I. PTE KTK 4 Borgulya I. PTE KTK 5 Genetikus programozás Genetikus programozás Genetikus programozás GP alapkoncepció Az általános GP módszer Az általános GP módszer Stratégiai paraméterek: programhossz, p r, p m, P (több ezer), szintek száma (max. 7) Megállási feltétel: pontos/közelít eredmény, max generációszám (50) Program felépítés (egy egyed): egy fa (fprogram), több fa (eljárások/ akciók) Kezdpopuláció: véletlen, irányított véletlen (halframping). Csomópontokban F elemek, leveleknél T elemek Szelekció: fitnesz arányos, verseng szelekció, verseng + Pareto dominancia (több célnáleddigi legjobbak lista) Rekombináció: egypontos keresztezés; (0.9 val. bels csomópontnál kijelölés), vagy reprodukció Mutáció: részfa lecserélés (rnd), pont mutáció (F elem csere), részfa képzés (önálló fa lesz a részfa) rövidítés( részfa helyett T elem), konstans mutáció, szisztematikus konstans mutáció (input változó konstans csere) Borgulya I. PTE KTK 6 Borgulya I. PTE KTK 7 Borgulya I. PTE KTK 8

26 Genetikus programozás Genetikus programozás Genetikus programozás GP definíció Fejlettebb GP technikák Fejlettebb GP technikák Automatikusan definiálható függvény - ADF Memória használat: skalár, read/write indexelt (-k,k), read(index), write(index, érték), Elkülöníthet tevékenységek/ akciók (multi-tree) - minden akciónak külön belépési pont, - minden akciót külön tesztelünk, - rekombináció, mutáció kiválasztott akcióra Borgulya I. PTE KTK 9 Borgulya I. PTE KTK 10 Borgulya I. PTE KTK 11 Genetikus programozás Genetikus programozás Genetikus programozás Alkalmazási példa ADF-el Feladat: Két téglatest különbsége D= a1* b1* c1 - a2* b2* c2 13. generációnál a jó végeredmény: (PROGN (DEFUN ADF0 (PAR0 PAR1 PAR2) (VALUES (-(*PAR2 PAR0) (*(+ PAR0 (* PAR0 PAR1) (% PAR2 (% PAR2 PAR2))))) (VALUES (-(ADF0 a2 b2 c2 ) (ADF0 b1 c1 a1))))) GP definíció módosítás: F halmaz a fprogramnál Ff={+,-,*,%, ADF0} T halmaz az ADF0-nál Ta={ PAR0, PAR1, PAR2 } F halmaz az ADF0-nál Fa={+,-,*,%} Alkalmazási példa: veremkezelés push down verem 5 tevékenységgel: Inicializálás (makenull) mutató:=maxméret +1 Üresség vizsgálat (empty) Csúcs olvasás (top) Csúcs olvasás és törlés (pop) Újadat elhelyezés (push) üres:= (mutató> maxméret) csúcs:= verem (mutató) törölt:= verem (mutató) mutató:=mutató+1 mutató:=mutató-1 verem(mutató):=újadat Alkalmazási példa: veremkezelés definiálások: T halmaz: pl. +index memória, verem mutató, maxméret konstans F halmaz: spec. függvények (read(mutató), write, mutató kezel mveletek) Fitnesz: pontszám (helyes teszteredmények száma) tevékenységenként külön teszt Borgulya I. PTE KTK 12 Borgulya I. PTE KTK 13 Borgulya I. PTE KTK 14 Genetikus programozás GP alkalmazások Fuzzy osztályozó rendszer fejlesztés (biztosító, anyag felhaszn.) Képfeldolgozás (röntgen, MRT) pl. filter tervezés Tervezés (áramkör, repül részek, auto karosszéria) 4. I. Témakörök Paraméterek beállítása Csoportosítás (niching) Fitnesz megosztás (fitnes sharing) Tömörítés (crowding) Ritkítás (clearing) Kereskedelem: piacmodellezés (fuzzy rendszer) Memóriát alkalmazó módszerek Mesterséges élet: mozgás, ágesnek Virtuális vesztes Mvészet: videó film, jazz, 3D kép Hangya kolónia Kulturális algoritmus Borgulya I. PTE KTK 15 Borgulya I. PTE KTK 1 Borgulya I. PTE KTK 2

27 Paraméterek beállítása Megfelel kombináció kiválasztás, módosítás kölcsönösen függnek egymástól Beállítási technikák: paraméter értékadás futás eltt par. beállítása futás közben par. ellenrzés determinisztikus adaptív önadaptív Borgulya I. PTE KTK 3 Paraméterek beállítása Futás eltti par. beállítás: kézi beállítás, változatok próbálgatása - csak néhány kombináció próbálható ki - idigényes - bizonytalan a legjobb megtalálása Futás közbeni változtatás (minden változtatható!) Determinisztikus par. ellenrzés: det. szabályt alkalmaz Adaptív par. ellenrzés: visszacsatolás a hatékonyságról Önadaptív par. ellenrzés: evolúciós folyamat változtatja Borgulya I. PTE KTK 4 Paraméterek beállítása Pl. futás közbeni mutáció par. változtatás ES-nél Determinisztikus: x i = x i + N(0, ) és (t)=1-0.9 t/t Adaptív: p s sikeres mutációk aránya (Rechenberg ) If (t mod n=0) then (t)= (t-n)/c ha p s >1/5 (t)= (t-n)*c ha p s <1/5 (t)= (t-n) ha p s =1/5 else (t)= (t-1) fi ahol c0.817, 1] Önadaptív mutáció ellenrzés: általános ES-nél Borgulya I. PTE KTK 5 Paraméterek beállítása Alap GA-nál vizsgálatok: Önadaptív mutáció: p m közt (tárolják p m -t) Önadaptív keresztezés: p r változik (tárolják p r -t)p r tl függen uniform keresztezés (mindkét szülnél RND<p r ) Másolás ( egyik szülnél sem RND<p r ) csak mutáció (egy szülnél Rnd<p r ) Borgulya I. PTE KTK 6 Adaptív populáció méret: egyedhez max élettartam, amely csökken generációnként a fitnesz függvényében Afit (átlagos fitness), HET (hátralév élettartam), Rofit (legrosszabb f), Jofit (legjobb f), =1/2(MAXHET-MINHET) MINHET MAXHET intervallumban változhat Rofit fitnesz MINHET i ha fitneszi Afit Rofit Afit HETi Afit fitnesz 1/ 2( MINHET MAXHET) i ha fitneszi Afit Afit Jofit Borgulya I. PTE KTK 7 Csoportosítás (niching) Ha több lehetséges megoldást keresünk Stabil csoportok kialakítása párhuzamos keresésnél. Technikák: fitnesz megosztás, tömörítés, ritkítás. Fitnesz megosztás (fitnes sharing) cél: a csoportokban megmaradjanak a legjobbak, fitnesz érték csökkentés a csoportban fi = fi / m i (sh a sharing függvény, s becsült küszöbérték (niche sugár)) 1 ( d ha d mi sh( d ij ) sh d ij / s) ij ( s ij ) j1 0 különben Borgulya I. PTE KTK 8 Csoportosítás (niching) Tömörítés (crowding) csoportok fenntartása: új egyed a hasonlót cserélheti le Standard tömörítés: csak néhány utód, visszahelyezés: CF számú (rnd) egyed közül a leghasonlóbb szül helyére kerül egy-egy utód Determinisztikus tömörítés: standard tömörítés, de visszahelyezésnél verseny az utód és a legközelebbi, csoportbeli szül közt. (utódonként) Korlátozott verseng szelekció (standard változat) visszahelyezés: CF számú (rnd) egyed közül a leghasonlóbb szülvel versenyez Csoportosítás (niching) Ritkítás (clearing) Fitnesz változtatás a csoporton belül, csak a legjobbak maradnak. A mechanizmus: - egy csoportban csak k egyed lehet -csoporthoz tartozás: c nél kisebb a távolságuk - k számú legjobb egyed változatlan, többi fitnesz értéke nulla. Memóriát alkalmazó módszerek Hatékonyság növelés problémamegoldó tudással ; Sikeres / sikertelen lépések, ismeretek memorizálása. Kollektív memória (EC-memory) Használható: szelekciónál, mvelet par. beállításnál, stb. Típusok: numerikus és szimbolikus Numerikus: mveletek valószínségeivel, virtuális egyed mint valószínségi vektor/mátrix a legjobb egyedekbl Szimbolikus: keresési intervallumok, szabályok tanulása Borgulya I. PTE KTK 9 Borgulya I. PTE KTK 10 Borgulya I. PTE KTK 11