1. AZ MI FOGALMA I. Bvztés 1956 nyár. Darthmouth Collg-i konfrncia Kzdti cél: Az mbri gondolkodás számítógép sgítségévl történő rprodukálása. Grgorics Tibor Bvztés a mstrségs intllignciába 1 Grgorics Tibor Bvztés a mstrségs intllignciába 2 Első szakasz (60-as évk) ELIZA Erdményk: kétszmélys játékok (dáma, sakk), bszélgtő program (ELIZA,1966) Módszrk, szközök: GPS, rzolúció (1966), LISP(1958), mstrségs nuronhálózatok (1969), volúciós algoritmusok (1959), Turing tszt Kudarcok: DOCTOR-PARRY, nylvi fordítók, kombinatorikus robbanás Illsztési szabályok <a> ön <b> ngm <c>. Miért gondolja, hogy ön <a> én <b> <c>? Úgy érzm, hogy ön mostanában ngm un. Miért gondolja, hogy ön úgy érzi, hogy én mostanában unom? Emlékzési szabályok Folytatási szabályok Grgorics Tibor Bvztés a mstrségs intllignciába 3 Grgorics Tibor Bvztés a mstrségs intllignciába 4 Második szakasz (70-s évk) Erdményk: SHRDLU (1972), BACON, AM, EURISKO Módszrk, szközök: Prolog, hurisztikus krsési tchnikák, tudásábrázolási módszrk (kognitív modllk) Kudarcok: MI fjlődési trndj, msíró program Harmadik szakasz (80-as évk) Erdményk: DENDRAL (1969-78), MYCIN(1976), PROSPECTOR(1979), XCON (1982) Módszrk, szközök: tudásalapú szakértő rndszrk, shll-k, módszrtanok, nm klasszikus logikák, bizonytalanság kzlés Kudarcok: rndszrk lkészítés lassabb, mint a gyorsan változó programozási környzt Grgorics Tibor Bvztés a mstrségs intllignciába 5 Grgorics Tibor Bvztés a mstrségs intllignciába 6 1
Ngydik szakasz (90-as évktől) Erdményk: logisztika, űrkutatás, Dp Blu, döntés támogató rndszrk, nylvi fordítók, robotika (bszélgtés, gépi látás, trvgnrálás, gépi tanulás) Módszrk, szközök: losztott tudás rprzntálása (mstrségs nuron háló, volúciós algoritmus, ágns szmlélt), döntéslmélt (valószínűségi hálók), bszédflismrés (rjttt Markov modllk) Grgorics Tibor Bvztés a mstrségs intllignciába 7 MI hly Az MI az mbri gondolkodás számítógéps rprodukálása szmpontjából hasznos lvkt, módszrkt, tchnikákat kutatja, rndszrzi, fjlszti Nm az mbri gondolkodás számítógéps modlljét, hanm gy fladat minél jobb minőségű számítógéps mgoldását krsi Az MI az informatikának a gondolkodási-tudományos lőőrs. Vámos Tibor Grgorics Tibor Bvztés a mstrségs intllignciába 8 MI tárgya Azon fladatok számítógéps mgoldása, amlyk mgoldása nhéz, komplx ismrtkt igényl az mbrtől is kllő szakértlmt, krativitást és intuíciót kíván (szmléltmód váltások) mgoldásukban ma többnyir az mbr a jobb a probléma tr (lhtségs válaszok száma) nagy, az összs lhtőség kipróbálása szisztmatikus úton nm lhtségs, a válasz sokszor lmi tvéknységk sorozatával írható l, amly lőr nm rögzíthtő, hanm több lhtségs sorozat közül kll kiválasztani. irányított krsésr van szükség. Grgorics Tibor Bvztés a mstrségs intllignciába 9 Grgorics Tibor Bvztés a mstrségs intllignciába 10 2. PROBLÉMA MODELLEZÉS Problémarprzntációs modllk: Állapottér rprzntáció Probléma rdukció, dkompozíció Logikai rprzntáció Strukturált objktum alapú rprzntáció Elosztott rprzntáció Útkrsési probléma Általában a problématérnk mgflltthtő gy irányított gráf, ahol a csúcsok a lhtségs válaszok, az élk az zk közötti szomszédsági kapcsolatok. Ebbn a gráfban a kiinduló válasznak mgfllő csúcstól indulva gy hlys választ rprzntáló csúcsot krsünk. Spciálisan, amikor a lhtségs válaszokat lmi lépésk sorozataként adjuk mg, akkor zk ábrázolhatók gy úttal, amlyk gy közös kzdő csúcsból indulnak. Ebbn a gráfban kll olyan utat krsünk, amlyik gy hlys választ rprzntál. Grgorics Tibor Bvztés a mstrségs intllignciába 11 Grgorics Tibor Bvztés a mstrségs intllignciába 12 2
Gráfrprzntáció fogalma Egy útkrsési probléma gráfrprzntációja gy (R,s,T) hármas, amlybn R=(N,A,c) δ-gráf az un. rprzntációs gráf, az s N startcsúcs a kiinduló pont, a T N halmazbli célcsúcsok. A fladat mgoldása: gy t T cél mgtalálása gy s T, stlg gy s * T optimális út mgtalálása Grgorics Tibor Bvztés a mstrségs intllignciába 13 Gráf fogalmak 1. csúcsok, ir. élk N, A N N (számosság) él n-ből m-b (n,m) A (n,m N) n utódai, szüli Γ(n), Π(n), π(n) irányított gráf R=(N,A) σ-tulajdonság {(n,m) A m N} <σ n N élköltség c:a R, c(n,m) (n,m) A δ-tulajdonság c(n,m) δ> 0 (n,m) A δ-gráf δ, σ -tulajdonságú élsúlyozott irányított gráf Grgorics Tibor Bvztés a mstrségs intllignciába 14 Gráf fogalmak 2. irányított út α=(n,n 1 ),(n 1,n 2 ),...,(n k-1,m) (n,n 1,n 2,...,n k-1,m), n α m, n m n-ből kiinduló utak {n m}, {n M} ir. út hossza α ir. út költség c α (n,m):=σ i c(n i-1,n i ) opt. költség c * (n,m):=min α {n m} c α (n,m) opt. költségű út n * m, n * M Állapottér-rprzntáció Ez gy széls körbn (nmcsak a MI-ban) használt modll, amly sgítségévl gy problémát spcifikálhatunk. Jllgztsség, hogy a problémák mgoldását művltk sorozataként fogalmazza mg, nnél fogva az állapottér-rprzntáció alkalmazása gy útkrsési problémát (többnyir spciális útkrsési problémát) ad mg. Grgorics Tibor Bvztés a mstrségs intllignciába 15 Grgorics Tibor Bvztés a mstrségs intllignciába 16 Állapottér-rprzntáció modllj Hanoi tornyai probléma Állapottér (domináns típusérték-halmaz) invariáns Művltk (lmi lépés az állapottérbn) lőfltétl, hatás Kzdő állapot(ok) vagy lőfltétl Célállapot(ok) vagy utófltétl Grgorics Tibor Bvztés a mstrségs intllignciába 17 1 2 3 1 2 3 C BA A B C [3,3,3] [1,1,1] Állapottér: Állás=vktor( [A,B,C];{1,2,3}) Művlt: Rak(honnan, hová):állás Állás (a:állás) HA a-ban a honnan nm ürs, és a hová ürs vagy a hová flső korongja nagyobb, mint honnan flső korongja AKKOR a[honnan flső korongja] hová Grgorics Tibor Bvztés a mstrségs intllignciába 18 3
[3,3,3] [2,3,3] [1,3,3] Állapot gráf [2,1,3] [1,2,3] [1,1,3] [2,2,3] [3,1,3] [3,2,3] [1,1,2] [2,2,1] [3,1,2] [2,1,2] [1,2,1] [3,2,1] [3,2,2] [2,3,2] [1,3,1] [3,1,1] 3. KERESÉS A krsés gy olyan algoritmus, amly tárolja az addig fltárt információ gy részét flismri a tárolt információból azt, ha lért a célját látja az adott pillanatban lvégzhtő altrnatív lépéskt dönt arról, hogy mlyik lépést hajtsa végr az adott pillanatban gy lépést végrhajtásával módosítja a tárolt információt [2,2,2] [1,2,2] [1,3,2] [3,3,2] [3,3,1] [2,3,1] [2,1,1] [1,1,1] Grgorics Tibor Bvztés a mstrségs intllignciába 20 Krső rndszr Procdur KR 1. ADAT kzdti érték 2. whil trminálási fltétl(adat) loop 3. slct SZ from alkalmazható szabályok 4. ADAT SZ(ADAT) 5. ndloop nd A rprzntációs gráf fltti krsés, amly a gráf gy részét (ADAT) látja, azt változtatja mg (SZ) az általa mghatározott (slct) módon. Grgorics Tibor Bvztés a mstrségs intllignciába 21 globális munkatrült ADAT krső rndszr szabályai SZ vzérlési stratégia slct A KR részi a krsés során mgszrztt és mgőrzött (dklaratív) ismrt kzdti érték, trminálási fltétl globális munkatrültt mgváltoztató oprátorok (procdurális ismrt) hatás, értlmzési tartomány végrhajtható szabályt kiválasztó általános lv + a konkrét fladattól származó vzérlési ismrt Grgorics Tibor Bvztés a mstrségs intllignciába 22 Krsés és a problématér Egy útkrsés hatékonysága a rprzntációs gráf (itt állapot gráf) bonyolultságát (csúcsok, élk számát, körök gyakoriságát, körök hosszát) mghatározó rprzntáción múlik. A rprzntációs gráfnak csak a startcsúcsból lérhtő rész érdkl bnnünkt. Ha gy krsés nm végz körfigylést, csak a mglőző csúcsba történő visszalépést zárja ki, akkor tulajdonképpn nm az rdti gráfon, hanm annak úgynvztt fává gynsíttt változatában dolgozik. Grgorics Tibor Bvztés a mstrségs intllignciába 23 lsődlgs függtln a fladattól Vzérlési vagy krsési stratégia vzérlés másodlagos függtln a konkrét fladattól, d annak rprzntációs modlljér támaszkodik hurisztika Konkrét fladatból származó a rprzntációban nm rögzíttt ismrtk Grgorics Tibor Bvztés a mstrségs intllignciába 24 4
A hurisztika hatása a KR működésér A KR futási idj hurisztika költség rdmény futási idő hatékonyság mmóriaigény Grgorics Tibor Bvztés a mstrségs intllignciába 25 alkalmazott szabályok száma futási idő szabály kiválasztásának idj informáltság tljs Grgorics Tibor Bvztés a mstrségs intllignciába 26 5
Elsődlgs stratégiák osztályozása II. Krsésk Elsődlgs vzérlési stratégiák nmmódosítható módosítható visszalépéss gráfkrső Grgorics Tibor Bvztés a mstrségs intllignciába 1 Grgorics Tibor Bvztés a mstrségs intllignciába 2 1. Nmmódosítható stratégia A krsés során hozott döntésk visszavonhatatlanok Nincs lhtőség gy korábbi döntési ponthoz visszatérni, és másik döntést hozni Lokális krsésk A globális munkatrültn tárolt gytln csúcsot (lhtségs választ) annak környztéből vtt lhtőlg jobb csúccsal csrél l. A jobbság ldöntéséhz célfüggvényt használ Alkalmazás: Adott tulajdonságú lm krsés Függvény optimumának krsés Grgorics Tibor Bvztés a mstrségs intllignciába 3 Grgorics Tibor Bvztés a mstrségs intllignciába 4 Hgymászó algoritmus [3,3,3] Hanoi tornyai Lokális optimumban mgngdi az aktuális csúcsnál rosszabb értékű lgjobb szomszédra lépést, és kizárja a szülő csúcsra való visszalépést. Procdur Hgymászó módszr 1. n startcsúcs 2. whil n nm célcsúcs loop 3. n opt f ( Γ(n)\π(n) ) // ürs halmazra kilép 4. ndloop nd Grgorics Tibor Bvztés a mstrségs intllignciába 5 [2,3,3] [2,1,3] [1,1,3] [3,1,3] [1,3,3] [1,2,3] [2,2,3] [3,2,3] [1,1,2] [2,2,1] [3,1,2] [2,1,2] [1,2,1] [3,2,1] [3,2,2] [2,2,2] [2,3,2] [1,3,1] [3,1,1] [1,1,1] [1,2,2] [1,3,2] [3,3,2] [3,3,1] [2,3,1] [2,1,1] 1
Hátrányok: Nm végz körfigylést, zért lokális optimum hly körül ltévdht kvidisztans flültn ltévdht zsákutcába bragad csak rős hurisztika stén alkalmazható A baj okai: Túl kicsi az algoritmus mmóriája Túl rős az alkalmazott mohó stratégia Mgjgyzés Grgorics Tibor Bvztés a mstrségs intllignciába 7 Tabu-krsés Az n aktuális csúcson kívül nyilvántartjuk még az ddig lgjobbnak bizonyult n * csúcsot és az utóbbi néhány aktuális csúcsot; z a tabu halmaz Mindn lépésbn kiválasztjuk a lgjobb csúcsot az aktuális csúcs környztéből (kivév bből a tabu csúcsokat) ha z jobb, mint az n *, akkor azt lcsréljük frissítjük a tabu halmazt Trminálási fltétlk: ha a célfüggvény az n * -ban optimális ha az n nm vagy az n * sokáig nm változik. Grgorics Tibor Bvztés a mstrségs intllignciába 8 Tabu krrsés algoritmusa Procdur Tabu krsés 1. n, n*, Tabu startcsúcs, startcsúcs, 2. whil not trminálási fltétl (n* nm célcsúcs) loop 3. n opt f ( Γ(n)\Tabu ) // ürs halmazra kilép 4. Tabu Módosít(n,Tabu) 5. if f(n) > f(n*) thn n* n 6. ndloop nd Grgorics Tibor Bvztés a mstrségs intllignciába 9 [3,2,2] [2,2,2] [3,3,3] [2,3,3] [1,3,3] [2,1,3] [1,2,3] [1,1,3] [2,2,3] [3,1,3] [3,2,3] [1,1,2] [2,2,1] [3,1,2] [2,1,2] [1,2,1] [2,3,2] [1,3,1] Hanoi tornyai [3,2,1] [3,1,1] [1,1,1] [1,2,2] [1,3,2] [3,3,2] [3,3,1] [2,3,1] [2,1,1] Hátrányok: A tabu mértét kísérltzéssl kll blőni bszorulhat a krsés Mgjgyzés Szimulált hűtés A kövtkző csúcs választása véltlnszrű. Ha a kiválasztott r csúcs célfüggvény-érték rosszabb (itt nagyobb), mint az aktuális n csúcsé, akkor annak újcsúcsként való lfogadásának valószínűség fordítottan arányos f(r) és f(n) különbséggl. ha f(r) f(n) vagy f(n) f(r) f(r) > f(n) és > random [ 0,1 ] Grgorics Tibor Bvztés a mstrségs intllignciába 11 akkor n r Grgorics Tibor Bvztés a mstrségs intllignciába 12 2
Szimulált hűtés algoritmusa Hűtési ütmtrv Procdur Szimulált hűtés 1. n startcsúcs; k 1 2. whil not trminálási fltétl (n nm célcsúcs) loop 3. for i = 1.. L k loop 4. r slct( Γ(n)\π(n) ) f(n) f(r) 5. if f(r) f(n) or f(r) > f(n) and T k > random 6. thn n r 7. ndloop 8. ndloop nd Grgorics Tibor Bvztés a mstrségs intllignciába 13 A T csökkntésévl csökkn gy rosszabb új csúcs lfogadásának valószínűség. Adjunk ütmtrvt a T változására Az ütmtrv lmi: Kzdti hőmérséklt: T 0 Hőmérséklt csökkntésénk mnt és gy hőmérséklt mlltti szakasz hossza: (T k, L k ) k= 1,2, ahol mindn T k érték L k lépésn krsztül van érvénybn. Grgorics Tibor Bvztés a mstrségs intllignciába 14 Szimulált hűtés rj A szimulált hűtés algoritmusa (aszimptotikusan) gy optimális mgoldáshoz konvrgál, ha az algoritmussal bármly csúcsból bármly csúcs végs lépésn blül lérhtő (rősn összfüggés, csúcs környzt) Ahhoz azonban, hogy végs lépésn blül is gy lég jó mgoldást találjunk, mgfllő hűtési ütmtrvt kll találni. 2. Visszalépéss stratégia A visszalépéss krső rndszr olyan KR, amly globális munkatrült: út a startcsúcsból az aktuális csúcsba (zn kívül a még ki nm próbált élk nyilvántartása) Kzdtbn a startcsúcsot tartalmazó nulla hosszúságú út trminálás célcsúccsal vagy startcsúcsból való visszalépéssl krsés szabályai: a nyilvántartott út végéhz gy új (ki nm próbált) él hozzáfűzés, vagy az lgutolsó él törlés (visszalépés szabálya) vzérlés stratégiája a visszalépés szabályát csak a lgvégső stbn alkalmazza Grgorics Tibor Bvztés a mstrségs intllignciába 15 Grgorics Tibor Bvztés a mstrségs intllignciába 16 Visszalépés fltétli az aktuális útra zsákutca, azaz végpontjából nm vzt tovább út zsákutca torkolat, azaz végpontjából kivztő utak nm vzttk célba kör, azaz végpontja mggyzik az út gy mglőző csúcsával mélységi korlátnál hosszabb [3,3,3] [2,3,3] [1,3,3] [2,1,3] [1,2,3] [1,1,3] [2,2,3] [3,1,3] [3,2,3] [1,1,2] [2,2,1] Hanoi tornyai [3,1,2] [2,1,2] [1,2,1] [3,2,1] [3,2,2] [2,3,2] [1,3,1] [3,1,1] Grgorics Tibor Bvztés a mstrségs intllignciába 17 [2,2,2] [1,2,2] [1,3,2] [3,3,2] [3,3,1] [2,3,1] [2,1,1] [1,1,1] 3
W 4 2 1 8 6 3 7 5 4 2 1 8 7 6 3 5 4 2 1 8 3 2 5 3 5 4 1 8 6 3 7 6 5 7 5 4 2 8 6 3 1 7 5 4 2 1 8 3 7 6 5 4 2 3 2 8 2 1 3 1 8 7 1 8 6 3 7 6 4 3 7 6 5 4 3 4 5 5 4 3 2 1 2 7 6 8 3 5 4 2 7 8 1 8 6 1 3 5 4 7 6 4 5 3 2 2 8 1 8 7 6 4 3 5 7 6 1 3 5 4 4 2 4 2 1 3 7 6 8 5 4 8 2 1 2 8 3 7 6 5 4 2 7 8 1 3 1 4 8 6 5 4 7 6 5 3 2 2 1 3 1 8 4 3 7 7 6 5 6 5 4 1 2 1 3 7 6 8 4 5 0 1 8 2 3 4 2 7 6 5 1 7 2 6 8 3 5 4 sorrndi hurisztika: Hurisztikák sorrndt ad végpontból kivztő élk (utak) vizsgálatára vágó hurisztika: mgjlöli azokat a végpontból kivztő élkt (utakat), amlykt nm érdms mgvizsgálni Grgorics Tibor Bvztés a mstrségs intllignciába 20 Első változat A visszalépéss algoritmus lső változata az, amikor a visszalépés fltétli közül az lső kttőt építjük b a krső rndszrb. A VL1 végs körmnts irányított gráfokon (nm kll δ-gráf) mindig trminál, és ha létzik mgoldás, akkor talál gy mgoldást. Rkurzív algoritmussal (VL1) szokták mgadni Indítás: mgoldás VL1(startcsúcs) Grgorics Tibor Bvztés a mstrségs intllignciába 21 Rcursiv procdur VL1(csúcs) rturn mgoldás 1. if cél(csúcs) thn rturn(nil) ndif 2. élk kivztő-élk(csúcs) 3. whil not ürs(élk) loop 4. él kivsz-gyt(élk) 5. mgoldás VL1(vég(él)) 6. if mgoldás hiba thn rturn(hozzáfűz(él,mgoldás)) ndif 7. ndloop 8. rturn(hiba) nd Második változat A visszalépéss algoritmus második változata az, amikor a visszalépés fltétli közül mindt bépítjük a krső rndszrb. A VL2 δ-gráfban mindig trminál. Ha létzik a mélységi korlátnál nm hosszabb mgoldás, akkor mgtalál gy mgoldást. Rkurzív algoritmussal (VL2) adjuk mg Indítás: mgoldás VL2(<startcsúcs>) Grgorics Tibor Bvztés a mstrségs intllignciába 23 Rcursiv procdur VL2(út) rturn mgoldás 1. csúcs utolsó-csúcs(út) 2. if cél(csúcs) thn rturn(nil) 3. if hossza(út) korlát thn rturn(hiba) 4. if csúcs maradék(út) thn rturn(hiba) 5. élk kivztő-élk(csúcs) 6. whil not ürs(élk) loop 7. él kivsz-gyt(élk) 8. mgoldás VL2(fűz(út,vég(él))) 9. if mgoldás hiba thn rturn(fűz(él,mgoldás)) 10.ndloop 11.rturn(hiba) nd 4
Mgjgyzés Ha csak a mgadott mélységi korlátnál hosszabb mgoldási út van, akkor az algoritmus bár trminál, d nm talál mgoldást. A mélységi korlát önmagában biztosítja a trminálást körök stér is. A mélységi korlát llnőrzés jóval gyorsabb és kvsbb mmóriát igényl, mint a körfigylés. ELŐNYÖK könnyn implmntálható kicsi mmória igényű HÁTRÁNYOK Értéklés nm ad optimális mgoldást. (itrációba szrvzhtő) kzdtbn hozott rossz döntést csak sok visszalépés korrigál (visszaugrásos krsés) gy zsákutca részt többször is bjárhat a krsés Grgorics Tibor Bvztés a mstrségs intllignciába 25 Grgorics Tibor Bvztés a mstrségs intllignciába 26 3. Gráfkrső stratégia A gráfkrső rndszr olyan KR, amlynk globális munkatrült a startcsúcsból kiinduló már fltárt utakat (részgráfot) tárolja kiinduló érték: a startcsúcs, trminálási fltétl: mgjlnik gy célcsúcs vagy mgakad az algoritmus. krsés gy szabálya: gy csúcs rákövtkzőit állítja lő (kitrjszti), vzérlés stratégiája: a lgkdvzőbb csúcs kitrjsztésér törkszik, Grgorics Tibor Bvztés a mstrségs intllignciába 27 [3,3,3] 1. [2,3,3] [1,3,3] 2. [2,1,3] [1,2,3] 3. [1,1,3] [2,2,3] 4. [3,1,3] [3,2,3] [1,1,2] [2,2,1] 5. [3,1,2] [2,1,2] 6. [1,2,1] [3,2,1] 8. 7. [3,2,2] [2,2,2] [2,3,2] [1,3,1] [3,1,1] 9. [1,1,1] [1,2,2] [1,3,2] [3,3,2] [3,3,1] [2,3,1] [2,1,1] 3.1. Általános gráfkrső algoritmus Jlölés: G - krsőgráf NYÍLT - nyílt csúcsok halmaza Γ - kitrjsztés kitrjszttt csúcsok - zárt csúcsok halmaza Az absztrakt krsési tér a továbbiakban is gy δ- gráf (nm fltétlnül végs) Nulladik vrzió Procdur GK0 1. G {s}: NYÍLT {s} 2. whil not ürs(nyílt) loop 3. n lm(nyílt) 4. if cél(n) thn rturn van mgoldás 5. G G Γ(n) 6. NYÍLT NYÍLT {n}: NYÍLT NYÍLT Γ(n) 7. ndloop 8. rturn nincs mgoldás nd Grgorics Tibor Bvztés a mstrségs intllignciába 29 Grgorics Tibor Bvztés a mstrségs intllignciába 30 5
Körökr érzékny Zárt csúcs n lhssn újra nyílt? Nhzn olvasható ki a mgoldás Jlölni klln a mgtalált utakat Mgjgyzés Nm garantál optimális mgoldást, sőt mgoldást sm Jlölni klln a mgtalált utak költségit Grgorics Tibor Bvztés a mstrségs intllignciába 31 f:nyílt R kiértéklő függvény a 3. lépésbn n min f (NYÍLT) Függvényk a G gy s gyökrű irányított fszítőfája pointrkkl π:g G π(n)= ncsúcs gyik szülőj π(s)=nil Jó lnn, ha a G-bli optimális költségű utakat mutatná Az n csúcshoz vztő, nyilvántartott α {s n} út költség g:g R költség függvény g(n):=c α (s,n) Jó lnn, ha konzisztns lnn a π -vl Jó lnn, ha a G-bli optimális költségt mutatná Grgorics Tibor Bvztés a mstrségs intllignciába 32 Gyrmk csúcs három st Optimális költségű konzisztns fszítőfa? Új csúcs Ha m G akkor π(m) n, g(m) g(n)+c(n,m) NYÍLT NYÍLT {m} Régi csúcs, amlyhz olcsóbb utat találtunk Ha m G és g(n)+c(n,m)<g(m) akkor π(m) n, g(m) g(n)+c(n,m) Régi csúcs, amlyhz nm találtunk olcsóbb utat Ha m G és g(n)+c(n,m) g(m) akkor SKIP Grgorics Tibor Bvztés a mstrségs intllignciába 33 Ha m G és g(n)+c(n,m)<g(m), és m csúcsnak vannak lszármazottai 5 g(s)=0 g(m)=42 1 s m k l 4 1 1 1 g(k)=5 g(l)=5?? n g(n)=1 Nm törődjünk a zárt m csúcs lszármazottaival, d magát az m csúcsot hlyzzük vissza a NYÍLT halmazba. Grgorics Tibor Bvztés a mstrségs intllignciába 34 Procdur GK 1. G {s}: NYÍLT {s}: g(s) 0: π(s) nil 2. whil not ürs(nyílt) loop 3. n min f (NYÍLT) 4. if cél(n) thn rturn mgoldás 5. NYÍLT NYÍLT-{n} 6. for m Γ(n) loop 7. if m G or g(n)+c(n,m)<g(m) thn 8. π(m) n, g(m) g(n)+c(n,m), NYÍLT NYÍLT {m} 9. ndloop 10. G G Γ(n) 11. ndloop 12. rturn nincs mgoldás A GK a működés során gy csúcsot lgfljbb végs sokszor trjszt ki. (a körökr nm érzékny) A GK a működés során bármlyik s-ből lérhtő még ki nm trjszttt n csúcsra ismri az összs s * n optimális útnak gy nyílt csúcsig tartó kzdő szakaszát. Működés és rdmény A GK végs δ-gráfban mindig trminál. Ha gy végs δ-gráfban létzik mgoldás akkor a GK gy célcsúcs mgtalálásával trminál. nd Grgorics Tibor Bvztés a mstrségs intllignciába 35 Grgorics Tibor Bvztés a mstrségs intllignciába 36 6
3.2. Nvzts gráfkrső algoritmusok Most az f kiértéklő függvény mgválasztása kövtkzik. Nminformált mélységi, szélsségi, gynlts Hurisztikus lőr tkintő (mohó), A, A *, A c Hurisztikus függvény Azt h:n R függvényt, amlyik mindn n csúcsra az abból a célba vztő út költségér ad bcslést hurisztikus függvénynk hívjuk. h(n) h * (n) = min t T c*(n,t) = c*(n,t) Példa h=0 8-as játék: h=w, h=p Grgorics Tibor Bvztés a mstrségs intllignciába 37 Grgorics Tibor Bvztés a mstrségs intllignciába 38 Nvzts algoritmusok és tulajdonságaik 3.3. A* algoritmus hatékonysága mélységi szélsségi gynlts lőr tkintő A A* A c f = -g, c(n,m) = 1 f = g, c(n,m) = 1 f = g f = h f = g+h, 0 h A alg + h h* A alg + h(t) = 0 h(n)-h(m) c(n,m) csak mélységi korláttal garantál mgoldást lgrövidbb mgoldást adja lgfljbb gyszr trjszt lgolcsóbb mgoldást adja lgfljbb gyszr trjszt mgoldást ad, ha van optimális mgoldást ad, ha van optimális mgoldást ad, ha van lgfljbb gyszr trjszt Grgorics Tibor Bvztés a mstrségs intllignciába 39 h(t)=0 + h(n)-h(m) c(n,m) h h* mgngdhtő Mmória igény Hatékonyság Zárt csúcsok száma a trmináláskor 8-as kirakó: W P h* A* az gyik lgjobb Futási idő Kitrjsztésk száma a zárt csúcsok számához viszonyítva k és 2 k-1 között, ahol k a zárt csúcsok száma Olyan problémákat vizsgálunk, ahol van mgoldás: az A * algoritmus optimális mgoldással trminál. monoton mgszorításos Grgorics Tibor Bvztés a mstrségs intllignciába 40 7
1. Visszaflé haladó krsés III. REDUKCIÓ, DEKOMPOZÍCIÓ 1. Visszaflé haladó krsés 2. Probléma rdukció 3. Probléma dkompozíció 4. ÉS/VAGY gráfok Ha a problématér a cél flől nézv gyszrűbb (kvsbb altrnatívát mutat), mint a start flől nézv, akkor érdms visszaflé haladó krsést alkalmazni. A talált mgoldási utat azonban a starttól a cél flé haladva kll értlmzni. (Van- az útnak invrz?) Grgorics Tibor Bvztés a mstrségs intllignciába 1 Grgorics Tibor Bvztés a mstrségs intllignciába 2 start A B A mgoldási út mgtalálása a célból a start flé haladva gyszrűbb. B A A B Kockavilág probléma Grgorics Tibor Bvztés a mstrségs intllignciába 3 cél B A A B Két irányú krsés a Hanoi tornyai probléma állapotgráfján [3,3,3] start [2,3,3] [2,1,3] [1,1,3] [3,1,3] [1,3,3] [1,2,3] [2,2,3] [3,2,3] [1,1,2] [2,2,1] [3,1,2] [2,1,2] [1,2,1] [3,2,1] [3,2,2] [2,2,2] [2,3,2] [1,3,1] [3,1,1] [1,1,1] [1,2,2] [1,3,2] [3,3,2] [3,3,1] [2,3,1] [2,1,1] cél Miért nm oldja mg a kancsó-problémát gy visszaflé haladó krsés? 5 0 0 5l 3l 2l?? 1 5l 3l 2l Kiindulási célállapotot kiválasztása nm gyszrű: Nm lérhtő célállapot például a (2,2,1). A visszaflé haladó krséssl talált (4,0,1) (5,0,0) út nm értlmzhtő a fladat mgoldásaként. Visszaflé haladó krsés fltétli A művltk invrtálhatóak lgynk (lgalábbis a visszaflé haladó krsés által alkalmazottak). Konkrét célállapotot kll választani. (Ettől a talált mgoldás költség is függ.) Mit tgyünk, ha a fnti két fltétl nm áll fnn, d visszaflé haladó krsést akarunk mgvalósítani? Grgorics Tibor Bvztés a mstrségs intllignciába 5 Grgorics Tibor Bvztés a mstrségs intllignciába 6 1
2. Probléma rdukció Hogyan határozható mg gy csak részbn ismrt állapothoz az azt mglőző állapot? Két kérdésr krssük a választ: Van- olyan művlt, amllyl lérhtő az éppn vizsgált állapot? Mlyik az a mglőző állapot, amlyikből gy kiválasztott művlt az éppn vizsgált állapotba vzt? Grgorics Tibor Bvztés a mstrségs intllignciába 7 Kancsók-probléma rdukciós gráfja [x,y,1] T 23 T53 T 35 [1,2,2] [u,v,1] T 32 T 52 [1,3,1] [3,2,0] T 25 T 23 T 32 T 32 [1,2,2] [3,0,2] T [2,3,0] T 25 32 T T T 23 35 T 52 53 [3,2,0] T 53 [0,3,2] T 52 [3,0,2] [2,3,0] [5,0,0] [4,1,0] T 25 T 23 [2,1,2] [4,0,1] T52 [4,1,0] [2,1,2] Kancsók-probléma állapotgráfja 3 0 2 2 1 2 1 2 2 0 3 2 cél 4 0 1 3 1 1 cél cél 2 2 1 1 3 1 cél start 5 0 0 4 1 0 3 2 0 2 3 0 Rdukciós rprzntáció fogalma A rprzntációhoz mg kll adnunk a fladat állapottér-rprzntációját, majd mindn művlthz dfiniálunk gy rdukciós művltt, amly gy állapothoz azokat a mglőző állapotokat rndli, amlykből a rögzíttt művlt az aktuális állapotba vzt. M művlthz tartozó rdukciós művlt: B M állapot állapot és b B M (a) ham(b)=a Grgorics Tibor Bvztés a mstrségs intllignciába 10 Mgjgyzés A rdukció során ljuthatunk érdktln illtv hamis állapot-lírásokhoz. Gráfrprzntáció készíthtő: bbn kll utat krsni, hhz krső rndszr építhtő. A talált (célból startba vztő) út visszaflé olvasva adja ki a mgoldást, amly nm az invrz a talált útnak. 3. Dkompozíció A dkompozíció általánosítása a rdukciónak: gy fladatot több részfladatra bontunk, majd azokat tovább részltzzük, amíg nyilvánvalóan mgoldható fladatokat nm kapunk. probléma részprobl 11 részprobl 12 részprobl 21 részprobl 22 részprobl23 rész 1 rész 2 rész 3 rész 4 Grgorics Tibor Bvztés a mstrségs intllignciába 11 Grgorics Tibor Bvztés a mstrségs intllignciába 12 2
A rdukció kétflé bont gy problémát A rdukció során a mgoldandó fladatot mindig két részr: gy nyilvánvalóan mgoldható és gy további rdukálást igénylő részfladatra bontottuk. s t 1 s t s t 2 t 2 t 1 A t rdukálásának rdmény a t 1 és a t 1 -ből t-b vztő művlt. t 1 t Grgorics Tibor Bvztés a mstrségs intllignciába 13 H(n, i j, k) hlytt H(n-1, i k, j) H(1, i j, k) H(n-1, k j, i) H(2,3 2,1) Hanoi tornyai probléma mgoldása dkompozícióval H(1,3 1,2) H(1,1 2,2) H(1,3 2,2) H(3, 3 1, 2) H(1,3 1,2) H(2,2 1,3) H(1,2 3,2) H(1,3 1,2) H(1,2 1,2) Intgrálszámítás (5x 2 +x x )dx + 5x 2 dx x x dx * - - 5 x 2 dx x x x dx (1/2) x 2 x (1/2) x 2 x dx * (1/3)x 3 x 1/2 x 2 x dx Dkompozíciós rprzntáció fogalma A rprzntációhoz mg kll adnunk: a fladat részproblémáinak általános lírását, az rdti problémát, az gyszrű problémákat, amlykről könnyn ldönthtő, hogy mgoldhatók- vagy sm, és a dkomponáló művltkt: D: probléma probléma + és D(p)=<p 1,, p n > Grgorics Tibor Bvztés a mstrségs intllignciába 15 Grgorics Tibor Bvztés a mstrségs intllignciába 16 A dkompozíciós rprzntáció nhéz Dkomponáló művltkt nagyon nhéz mgtalálni. Nm mindn fladat dkomponálható. Nm biztos, hogy mindn dkomponálást észrvttünk. Hamis dkomponáló művltk. Az gyszrű probléma flismrés sm gyértlmű sin(x) x dx = = sin(x) x -cos(x) x - sin(x) x dx A mgoldás kiolvasása nm nyilvánvaló. Grgorics Tibor Bvztés a mstrségs intllignciába 17 Gráfrprzntáció A fladat problématrét nm gy közönségs irányított gráf írja l, hanm gy úgynvztt ÉS/VAGY gráf. A mgoldást sm gy közönségs irányított út szimbolizálja, hanm gy spciális részgráf: a mgoldásgráf A mgoldásgráfnak gyértlmű haladási irányt kll kijlölni a startcsúcsból a célcsúcsokba. A probléma mgoldása nm a mgoldásgráf, d abból olvasásható ki. Grgorics Tibor Bvztés a mstrségs intllignciába 18 3
4. ÉS/VAGY gráfok Az R=(N,A) élsúlyozott irányított hiprgráf, ahol az N a csúcsok halmaza, A { (n,m) N 2 N 0 M < } a hiprélk a halmaza, M a hiprél rndj 1 (c(n,m) az (n,m) költség) 3 σ tulajdonság b c f 1 4 (δ tulajdonság) 2 g h 2 d 1 i j 1 Grgorics Tibor Bvztés a mstrségs intllignciába 19 Az n csúcsból az M csúcshalmazba vztő irányított hiprút fogalma A hiprút gyértlmű haladási irányt kijlölő hiprélk halmaza, azaz gy végs részgráf (n α M), amlybn a {d,} M csúcsaiból nm indul hiprél, a a többi csúcsból gy hiprél indul, 1 nincs közönségs irányított kör, 3 bármlyik részgráfbli csúcs lérhtő az n csúcsból közönségs úton. Hiprút hossza, költség b c f 1 4 2 g h 2 d 1 i j 1 Grgorics Tibor Bvztés a mstrségs intllignciába 20 Dkompozíciós gráfrprzntáció Egy dkompozíciós rprzntációhoz tartozó (R,s,T) gráfrprzntációban az R=(N,A,c) gy olyan ÉS/VAGY gráf (dkompozíciós gráfban), ahol N a részprobémákat, A a dkomponáló művltkt, c azok költségit szimbolizálják, s az rdti problémát, T az gyszrű problémákat jlöli. Mgjgyzés A probléma mgoldását gy s M T hiprút, az úgynvztt mgoldásgráf mgtalálása jlnti. Az rdti probléma mgoldása bből a mgoldásgráfból nyrhtő ki. A mgoldás költség többnyir nm függ a mgoldásgráf költségétől, zért nm cél, az optimális mgoldásgráf lőállítása. Grgorics Tibor Bvztés a mstrségs intllignciába 21 Grgorics Tibor Bvztés a mstrségs intllignciába 22 Krsés ÉS/VAGY gráfban Egy ÉS/VAGY gráfon folyó krsés a startcsúcsból kivztő hiprutak (köztük a mgoldásgráfok) között folyik. Az útkrső algoritmusainkat közönségs gráfokra fogalmaztuk mg. D mivl mindn hiprút fogalma rokon a közönségs útéval, zért a tanult krsésk könnyn adaptálhatók ÉS/VAGY gráfokra. Vgyük szmügyr az ÉS/VAGY gráfok és a közönségs δ-gráfok közötti kapcsolatot, hogy zt az adaptációt lvégzhssük. Grgorics Tibor Bvztés a mstrségs intllignciába 23 Különbség a közönségs út és a hiprút bjárása között Egy közönségs út bjárásán az úton fkvő élk flsorolását értjük. Ennk mgadása gyértlmű. A hiprút is gyértlmű haladási irányt jlöl ki, d z többfélképpn is bjárható. a d b c bjárások: {a} {b,c} {b} {d,} {a} {b,c} {d,,c} {d,,b} {d,} Grgorics Tibor Bvztés a mstrségs intllignciába 24 4
Mgjgyzés Hiprút bjárása A bjárás a hiprút összs hiprélét tartalmazó hiprél-sorozat, amlybn ugyanaz a hiprél többször is szrplht. Az n M hiprút (k,k) hiprél lgfljbb annyiszor szrpl gy bjárás során, amnnyi közönségs út vzt a hiprútban az n csúcsból k csúcshoz. Egy bjárás végs hosszú. Egy hiprútnak végs sok különböző bjárása lht. Az n M hiprút gy bjárásán a hiprút csúcsaiból képztt halmazoknak olyan flsorolását értjük, amlybn Az lső az {n} halmaz, a második az n csúcsból kivztő (gytln) hiprél utódhalmaza. Általában gy C halmaz után a C-{k} K halmaz kövtkzik, ha van olyan (k,k) hiprél az n M hiprúton, hogy k C és k M. A bjárás utolsó csúcshalmaza az M halmaz. Grgorics Tibor Bvztés a mstrségs intllignciába 25 Grgorics Tibor Bvztés a mstrségs intllignciába 26 Egytln hiprélből álló útnak gytln bjárása van Több hiprélből álló útnak gyik bjárása Bjárások ábrázolása közönségs utakkal f Grgorics Tibor Bvztés a mstrségs intllignciába 27 c c 1 a a b b d {c,b} {c,d} {f,,d} {a} {b,c} {a} a = s d, T d c A startból induló hiprutak bjárásait közönségs útként rajzoljuk fl. Az átalakítás nm költségtartó. a Nm kll gy hiprútnak mindn bjárása! Törölni kll a hamis bjárásokat, azokat, ahol ugyanaz a csúcs többször és másként krül hlyttsítésr! b ÉS/VAGY gráf átalakítása {a} {b,c} {c} {d} 1 {c,d,} {d,} {b,d,} {c,d} {b,d} a = s d, T d c 1 a b {a} {b,c} {c} 1. Egy hiprútnak lég lnn csak gy bjárását mgadni, zért az átalakítás gy {d,} lépésébn lég gy halmaznak gy csúcsát hlyttsítni {d} 2. Számunkra csak az s M T hiprutak a fontosak, zért a célcsúcsokból már n lépjünk tovább. {b,d} {c,d} {d,} {d} {a} {b,c} {b,d,} {c,d,} {d,} {d} hamis bjárások! 3. A hamis bjárások kizárása érdkébn a közönségs gráfot fává gynsítv adjuk mg, és ha nnk gy csúcsát címkéző csúcshalmazból olyan k csúcsot választunk a továbblépéshz, amlyhz a halmazhoz vztő úton korábban már a (k,k) hiprélt illsztttük, akkor it isk zt a hiprélt használhatjuk fl, más él nm vztht ki. Átalakító algoritmus Btsszük gy SOR-ba az {s} halmazt, mint startcsúcsot. Amíg a SOR nm ürs addig kivszünk a SOR-ból gy C halmazt, és gnráljuk a C-ből kivztő élkt: Lgyn k C-bli nm célcsúcs. (Ha C csupa célcsúcsból áll, akkor a C maga is célcsúcs és blől nm indul ki él.) Ha a C-hz vztő úton nincs olyan él, amlyt (k,k) A hiprélll gnráltunk, akkor az összs (k,k) A hiprélr gnrálunk gy-gy C-{k} K utódot. Ha a C-hz vztő úton van olyan él, amlyt gy (k,k) A hiprélll gnráltunk, akkor csak zzl a (k,k) hiprélll gnrálunk gy C-{k} K utódot. Az utódokat btsszük a SOR-ba. Grgorics Tibor Bvztés a mstrségs intllignciába 30 5
Tétl 1. Az átalakítással nyrt közönségs gráfok mindn mgoldási útja gy s M T hiprútnak gy bjárását írja l. 2. Az átalakítás mindn s M T hiprút valamlyik bjárásához végs lépésbn mgflltt gy közönségs mgoldási utat. Mgjgyzés: Az átalakított gráf gy δ-gráf (költségk!) Az átalakítást bépítik a krséskb. Grgorics Tibor Bvztés a mstrségs intllignciába 31 Visszalépéss krsés ÉS/VAGY gráfokon Rcursiv procdur VL2(bjárás) rturn mgoldás 1. C vég(bjárás) 2. if csupacél(c) thn rturn(nil) ndif 3. if hossza(bjárás) korlát thn rturn(hiba) ndif 4. if C maradék(bjárás) thn rturn(hiba) ndif 5a. k kivsz-gy-nmcélcsúcsot(c) 5b. hiprélk kivztő-hiprélk(k) 6. whil not ürs(élk) loop 7. (k,k) kivsz(hiprélk) 8. mgoldás VL2( hozzáfűz(c-{k} K, bjárás) ) 9. if mgoldás hiba thn rturn(hozzáfűz((c, C-{k} K), mgoldás)) ndif 10. ndloop 11. rturn(hiba) nd 6
Tljs információjú, végs, zéró összgű kétszmélys játékok IV. KÉTSZEMÉLYES JÁTÉKOK Két játékos lép flváltva adott szabályok szrint. Mindkét játékos ismri a maga és az llnfl összs választási lhtőségét, és azok kövtkzményit. Mindkét játékos mindn lépésébn végs számú lhtőség közül választhat; mindn játszma végs lépésbn végt ér. Amnnyit az gyik játékos nyr, annyit vszít a másik. (Lggyszrűbb változatban: gyik nyr, másik vszít, stlg lht dönttln is) Grgorics Tibor Bvztés a mstrségs intllignciába 1 Grgorics Tibor Bvztés a mstrségs intllignciába 2 Grundy mama játéka Állapottér-rprzntáció állapot művlt kzdő állapot célállapot - állás + soron kövtkző játékos - lépés - kzdőállás + kzdő játékos - végállás (nyrő, vsztő vagy dönttln) Egy játszma gy kzdőállapotból célállapotba vztő (mindig végs) művltsorozat Grgorics Tibor Bvztés a mstrségs intllignciába 3 Grgorics Tibor Bvztés a mstrségs intllignciába 4 Grundy mama játékgráfja Grundy mama játékfája 5,1;B 6;A 4,2;B 5,1 6 4,2 A B 4,1,1;A 3,1,2;A 4,1,1 3,1,2 3,1,2 A 3,1,1,1;B 2,1,1,2;B 3,1,1,1 2,1,1,2 2,1,1,2 B 2,1,1,1,1;A 2,1,1,1,1 A Grgorics Tibor Bvztés a mstrségs intllignciába 5 Grgorics Tibor Bvztés a mstrségs intllignciába 6 1
Játékfa Nyrő stratégia csúcs - állás (gy állásnak több csúcs is mgfllht) szint - játékos él - lépés (szintről szintr) gyökér - kzdőállás(kzdő játékos) lvél - végállások ág - játszma Az gyik játékosnak akkor van nyrő stratégiája (vagy nm vsztő stratégiája), ha mindig tud olyat lépni, hogy llnfl bármilyn játéka stén számára kdvző végállásba tud jutni. Grgorics Tibor Bvztés a mstrségs intllignciába 7 Grgorics Tibor Bvztés a mstrségs intllignciába 8 Nyrő stratégia krsés az B játékos ÉS/VAGY fájában Nyrő stratégia krsés az A játékos ÉS/VAGY fájában A A B B A A B B B B A A B A A A B B B B B B B B A A B A A A B B B B Csak az gyik játékosnak lht nyrő stratégiája. Grgorics Tibor Bvztés a mstrségs intllignciába 9 Grgorics Tibor Bvztés a mstrségs intllignciába 10 Tétl Részlgs játékfa-kiértéklés Egyik játékos számára mindig létzik nyrő stratégia (nm vsztő stratégia). A B B A A A A A B A Minimax algoritmus Ngamax algoritmus Átlagoló kiértéklés Váltakozó mélységű Szlktív kiértéklés Alfabéta algoritmus B B A B B B B A B A A A A B Grgorics Tibor Bvztés a mstrségs intllignciába 11 Grgorics Tibor Bvztés a mstrségs intllignciába 12 2
Kiértéklő függvény Mindn stbn szükségünk van gy olyan hurisztikára, amly mgbcsüli, hogy gy állás mnnyir ígérts. Ez mindig csak az gyik játékos szmpontjait tükrözi. Sokszor z gy f:állás [-100..100] függvény. Grgorics Tibor Bvztés a mstrségs intllignciába 13 Minimax algoritmus Adott állásból indulva flépítjük a játékfa néhány szintjét. A részfa lvlit kiértékljük aszrint, hogy azok számunkra kdvző, vagy kdvzőtln állások. Az értékkt flfuttatjuk a fában. (Saját szintjink csúcsaihoz azok gyrmkink maximumát, llnfél csúcsaihoz azok gyrmkink minimumát rndljük.) Soron kövtkző lépésünk ahhoz az álláshoz vzt, ahonnan a gyökérhz flkrült a lgnagyobb érték. Grgorics Tibor Bvztés a mstrségs intllignciába 14 Példa Mgjgyzés 7 MAX MIN 7 6 MAX 7 8 6 23 MIN -2 7 2-4 8-1 -2 6 5 6 12 23 10 Az algoritmust mindn alkalommal, valahányszor mi kövtkzünk, mgismétljük, hiszn lht, hogy az llnfél nm az általunk várt lgrősbb lépéskkl válaszol, mrt: ltérő mélységű részfával dolgozik, más kiértéklő függvényt használ, nm minimax ljárást alkalmaz, hibázik. Grgorics Tibor Bvztés a mstrségs intllignciába 15 Grgorics Tibor Bvztés a mstrségs intllignciába 16 Ngamax algoritmus Ngamax ljárást könnybb implmntálni. Az llnfél szintjén lvő lvlk értékénk vsszük a (-1)-szrsét, majd mindn szintn szülő=max(-gyrk 1,..., -gyrk n ). Átlagoló kiértéklés Az (m,n) átlagolás célja a kiértéklő függvény stlgs tévdésink simítása. Lgyn például n=2 és m=2. MAX MIN 8 7.25 9 4 MAX 8 7 8 7.5 9 4 MIN 8 0 5 6 7 4 8-1 9-1 -2 Grgorics Tibor Bvztés a mstrségs intllignciába 17 Grgorics Tibor Bvztés a mstrségs intllignciába 18 3
Váltakozó mélységű kiértéklés Szlktív kiértéklés Célja, hogy a kiértéklő függvény mindn ágon rális értékt mutasson. A részfa flépítését módosítjuk úgy, hogy gy adott szinttől kzdv, akkor vsszük bl gy csúcs utódait a részfába, ha mindn utódra tljsül a nyugalmi tszt: f(szülő) - f(gyrk) < K Célja a mmória-igény csökkntés. Elkülönítjük a lénygs és lénygtln lépéskt, és csak a lénygs lépésknk mgfllő részfát építjük fl. Grgorics Tibor Bvztés a mstrségs intllignciába 19 Grgorics Tibor Bvztés a mstrségs intllignciába 20 Alfa-béta algoritmus Példa Visszalépéss algoritmus sgítségévl járjuk b a részfát. (mélységi bjárás) Az aktuális úton fkvő csúcsokat: a mi szintünkön α értékkl (nnél rosszabb értékű állásba innn már nm juthatunk), az llnflén β értékkl(nnél jobb értékű állásba onnan már nm juthatunk) látjuk l. Lflé haladva α=-, és β=+. Ezk visszalépéskor a flhozott értékr változnak, ha az nagyobb, mint az α, illtv kisbb, mint a β. Vágás: ha az úton van olyan α és β, hogy α β. Grgorics Tibor Bvztés a mstrségs intllignciába 21 α= β= α= β= - 2 + 2 + 2-4 - 2 - -1 2 + 82 + -2 + 7 + -1 + 2 4 8 2-2 78 4-1 2 Erdmény Hatékonyság Több gyformán jó kzdőirány stén a baloldalit kll választani. Ekkor ugyanazt a kzdőlépést kapjuk rdményül, mint a minimax algoritmussal talált baloldali lgjobb kzdőlépés. Tárigény: csak gy utat tárol. Futási idő: a vágások miatt sokkal jobb, mint a minimax módszré. Optimális st: gy d mélységű b lágazású fában kiértéklt lvélcsúcsok száma: Átlagos st: gy csúcs alatt, két blől kiinduló ág mgvizsgálása után már vághatunk. Jó st: A bjárt részfa mgfllő rndzésévl érhtő l. ( cáfoló lépés lv ) d b Grgorics Tibor Bvztés a mstrségs intllignciába 23 Grgorics Tibor Bvztés a mstrségs intllignciába 24 4
Kétszmélys játékot játszó program Váltakozó mélységű, szlktív, (m,n) átlagoló, ngamax alfa-béta kiértéklést végz. Krtprogram, amly váltakozva fogadja a flhasználó lépésit, és gnrálja a számítógép lépésit. Kigészítő funkciók (bállítások, útmutató, sgítség, korábbi lépésk tárolása, mntés stb.) Flhasználói flült, grafika Hurisztika mgválasztása (kiértéklő függvény, szlkció, kiértéklés sorrndj) Grgorics Tibor Bvztés a mstrségs intllignciába 25 5
Trmészts nuronhálók V. Mstrségs nuronhálók axon dndrit szinapszis mmbrán K + Na + -90mV +30mV Grgorics Tibor Bvztés a mstrségs intllignciába 1 Grgorics Tibor Bvztés a mstrségs intllignciába 2 1. Mstrségs nuronháló fogalma 1.1. Mstrségs nuron Mstrségs nuron bmnő értékkből kimnő értékt számoló gység, amlynk számítási képlt változtatható Hálózati topológia több mstrségs nuron gymáshoz kapcsolásának módja Tanulási szabály gy nuron számítási képltét, stlg a hálózat topológiáját minták alapján módosító ljárás Alkalmazás approximáció asszociatív mmória optimalizálás bmntk x 1 x 2 x n x 0 f( ) a : mmória g kimnt a új = f(x 0,,x n, a régi ) o = g(a) o Grgorics Tibor Bvztés a mstrségs intllignciába 3 Grgorics Tibor Bvztés a mstrségs intllignciába 4 1.1.1. Prcptron Mgjgyzés bmntk x 1 x 2 x n w 1 w 2 w n x 0 w 0 Σ stp o=stp(i) n I= Σ w i x i = w T x i=0 kimnt Az x 0 (stimuláló) bmntnk spciális szrp van: mghatározza a sjt ingrküszöb értékét. Például stp aktivizációs függvény stén n stp(i) = stp ( Σ w i x i + w 0 x 0 ) i=1 azaz itt gy Θ=- w 0 x 0 küszöbértékű lépcsős függvényről van szó n stp Θ ( Σ w i x i ) = stp(σ w i x i -Θ) n i=1 i=1 Θ Grgorics Tibor Bvztés a mstrségs intllignciába 5 Grgorics Tibor Bvztés a mstrségs intllignciába 6 1
Aktivizációs függvényk 1.1.2. Bázisfüggvénys nuron sign stp linar a,b bmntk kimnt 1- -Kx 1+ -Kx 1 1+ -Kx a sin(x) b x 1 x 0 w 1 x 2 w 2 w 0 Σ n o= Σ w i ϕ i (x) i=0 w n tangns hiprbolikusz logisztikus x n φ ( x) i 2 x c i 2 2 σ i = Grgorics Tibor Bvztés a mstrségs intllignciába 7 Grgorics Tibor Bvztés a mstrségs intllignciába 8 1.2. Hálózati topológia Előrcsatolt, rétgztt topológia A mstrségs nuronháló gy olyan irányított gráf, amlynk csúcsai vagy a háló bmnti értékit jlnítik mg, vagy gy-gy (általában azonos konfigurációjú) mstrségs nuront szimbolizálnak. b m n t k 0.rétg 1.rétg 2.rétg r.rétg k i m n t k x = o [0] o [1] o [2] o [r] Grgorics Tibor Bvztés a mstrségs intllignciába 9 Grgorics Tibor Bvztés a mstrségs intllignciába 10 Előrcsatolt, rétgztt hálózat működés Visszacsatolt rétgztt topológia Számítási modll, amly bmnő értékkr kimnő értékkt számol: Az x i bmnti értékk gy 0-adik rétg nuronjainak kimntként foghatók fl (o i [0] ), Az s-dik rétgnk n darab nuronja van, amly mindgyik kiszámolja a saját kimnti értékét: o j Az s-dik rétg j-dik nuronjának i-dik bmnt = az s- 1-dik rétg i-dik nuronjának kimnt: o i [s-1] Az s-dik rétg j-dik nuronjának i-dik bmntéhz tartozó súly: w ij Grgorics Tibor Bvztés a mstrségs intllignciába 11 Grgorics Tibor Bvztés a mstrségs intllignciába 12 2
Hopfild topológia Hopfild topológia működés b m n t k i m n t Célja gy nyugalmi hlyzt lőállítása Mindn nuron kzdő állapota gy-gy bmnti érték Egy nuron mindaddig újra számolja a többi nuron kimnti érték alapján a blső állapotát, amddig az ltér a korábbi állapotától. A stabil hlyztbn kialakult állapotok lsznk a kimnti értékk. Grgorics Tibor Bvztés a mstrségs intllignciába 13 Grgorics Tibor Bvztés a mstrségs intllignciába 14 Kapcsolatok osztályozási szmpontjai kitöltöttség szrint: tljs, gy-gy, vagy véltln rétglés szrint: Ha a nuronokat rétgkr osztjuk (gy rétgb tartozó nuronok számításai párhozamosan végzhtők), akkor bszélhtünk rétgn blüli ill. rétgk közötti kapcsolatokról irányítás szrint: lőr csatolt vagy visszacsatolt Grgorics Tibor Bvztés a mstrségs intllignciába 15 1.3. Tanulás A tanulás a hálózat paramétrink (topológia, aktivizációs függvény) tanító példák alapján történő bállítása. Lggyakrabban a súlyokat tanuljuk mg: Mintákat, azaz lhtségs bmntkt mutatunk a mstrségs nuronhálónak, amly mindn mintára kiszámítja a kimntt, majd z alapján módosítja a súlyokat: w i w i + Δw i Ez kihat gy-gy nuron számítási képltér, d közvtv a topológiára is. Grgorics Tibor Bvztés a mstrségs intllignciába 16 Tanulási formák Flügylt Flügylt nélküli Flügylt tanulás tanítóval adottak minta fladatok pontos rdményükkl Flügylt tanulás kritikussal (mgrősítéss tanulás) adottak minta fladatok értéklésükkl Flügylt nélküli (önszrvződő) tanulás adottak minta fladatok Analitikus tanulás A mintafladatok flhasználása nm adaptív módon történik Grgorics Tibor Bvztés a mstrségs intllignciába 17 Pl: Dlta szabály prcptronra ha x i a nuron i-dik bmnt t a várt kimnt o a számított kimnt akkor Pl: Hbb szabály prcptronra ha o a nuron számított kimnt x i a nuron i-dik bmnt, ami gybn gy mglőző nuron kimnt is akkor Δw i =η* x i *(t-o) Δw i =η* x i *o j η a tanulási gyüttható Grgorics Tibor Bvztés a mstrségs intllignciába 18 3
2. Prcptron modll Példa Stp aktivizációs függvényű, blső állapot nélküli nuronok gy rétgű prcptron hálója, flügylt tanulással. b m n t k 0.rétg 1.rétg k i m n t k x 0 x 1 w 1j... x n w nj w 0j Σ stp oj AND művlt Bállítások: x 1, x 2, o {0,1} x 0 = 1 w 0, w 1, w 2 R f(x) = stp(x) x 1 x 0 =1 x 2 w 1 w 2 w 0 Σ stp o Grgorics Tibor Bvztés a mstrségs intllignciába 19 Grgorics Tibor Bvztés a mstrségs intllignciába 20 o - a számított kimnt t - a várt kimnt Tanulás ha t-o=0 (t és o azonos) akkor smmit nm kll tnni ha t-o=1 (azaz t=1 és o=0) akkor az o-t növlni kll a kiszámításában aktív bmntk súlyainak növlésévl ha t-o=-1 (azaz t=0 és o=1) akkor az o-t csökkntni kll a kiszámításában aktív bmntk súlyainak csökkntésévl Ez gy dlta szabály: Δw i =η* x i *(t-o) Grgorics Tibor Bvztés a mstrségs intllignciába 21 η = 0.1 Alkalmazás x 1 x 2 w 0 w 1 w 2 I o t 0. 0.08 0.08 0.08 1. 1 0 0.08 0.08 0.08 0.160 1 0-1 2. 0 1-0.02-0.02 0.08 0.06 1 0-1 3. 1 1-0.12-0.02-0.02-0.16 0 1 1 4. 1 0-0.02 0.08 0.08 0.06 1 0-1 5. 0 1-0.12-0.02 0.08-0.04 0 0 0 6. 1 1-0.12-0.02 0.08-0.06 0 1 1 7. 1 0-0.02-0.08 0.18 0.06 1 0-1... 14. -0.22 0.08 0.18 14. 1 0-0.22 0.08 0.18-0.14 0 0 0 15. 0 1-0.22 0.08 0.18-0.04 0 0 0 16. 1 1-0.22 0.08 0.18 0.04 1 1 0 17. 0 0-0.22 0.08 0.18-0.22 0 0 0 Mit tud gy prcptron? A prcptron súlyai annak a hiprsíknak gynltét határozzák mg, amlyik a bmnti érékkt két részr osztja. Az AND művltr btanított nuron bmnt-párjai a síkon ábrázolhatóak. A nuron összgztt bmnt gy I(x 1,x 2 ) = 0 gynst jlöl ki. A w 0 + w 1 x 1 + w 2 x 2 = 0 gynlt grafikonja ktté vágja a síkot: gyik fléb azok a bmnt-párok krülnk, amlykr I(x 1,x 2 )<0 (ilynkor a kimnt 0), a másikba azok, amlykr I(x 1,x 2 )<0 (a kimnt 1). x 2 1 1 x2= - 0.44 x1 + 1.22 x 1 Grgorics Tibor Bvztés a mstrségs intllignciába 23 Lináris szparálhatóság Egy prcptron csak linárisan szparálható osztályozási problémákat képs mgoldani. Az gyrétgű prcptron modll csak hiprfélsíkokkal képs flosztani a bmntk trét, a kétrétgű prcptron modll már konvx poliédrkkl, a három rétgű háló pdig ttszőlgs poliédrkkl. A többrétgű prcptron modllkhz azonban nm találtak tanuló ljárást, zért a súlyai csak közvtln módon (analitikusan) állíthatók b. Grgorics Tibor Bvztés a mstrségs intllignciába 24 4
3. Backpropagation modll Logisztikus függvényű, blső állapot nélküli nuronok több rétgű hálója, flügylt tanulással. 0.rétg 1.rétg 2.rétg r.rétg b m n t k k i m n t k Az s-dik rétg j-dik nuronja: o [s-1] o [s-1] 1 0 o [s-1] i o n [s-1] [s-1] w w 0j 1j w ij w n[s-1]j Σ logiszt o j Nuron Az lső (s=1) rétgnél: o i [s-1] =x i Grgorics Tibor Bvztés a mstrségs intllignciába 25 Grgorics Tibor Bvztés a mstrségs intllignciába 26 w E ij w ij - η w ij Enrgia függvény A háló nrgiafüggvény gytln tanító minta stén: n [r] E= ½Σ (t j o[r] j ) 2 j=1 Az E tkinthtő úgy is, mint háló {w ij } súlyainak E(w 11 [1], ) függvény, zért értékénk minimalizálásához a háló súlyait a gradins módszr alapján lht változtatni: Grgorics Tibor Bvztés a mstrségs intllignciába 27 Az E többk között függ az s-dik rétg j-dik nuronjának összgztt bmntétől (I j ) is, ami viszont az i-dik súly (w ij ) értékétől függ: E = - η E I j -η w ij I w j ij hiszn n [s-1] I j = Σ w ij o i [s-1] i=0 az s-dik rétg j-dik nuronjára hárított hibahányad Tanulási szabály E =- η o [s-1] I i j j Grgorics Tibor Bvztés a mstrségs intllignciába 28 j [r] = Ui: Egyrészt az o j [r] =f(i j [r] ) miatt az nrgiafüggvény flírható az n [r] 1 2 j=1 E= - Σ (t j -f(i j [r] )) 2 másrészt f (x)=f(x)(1-f(x)), hiszn f(x) = Grgorics Tibor Bvztés a mstrségs intllignciába 29 1 1+ -x s=r st E 1 = - 2 (tj -f(i[r] j )) f (I [r] j ) = (t I [r] j -o [r] j )o [r] j (1-o [r] j ) 2 j alakban, ahol f(i j [r] ) = o j [r] s<r st E függ s+1-dik rétg I k [s+1] összgztt bmntitől is, amlyk azonban mindannyian függnk az s-dik rétg j-dik nuronjának I j összgztt bmntétől. j = E E I [s+1] k E I [s+1] = Σ = k Σ = k=1 I I [s+1] k=1 k j I [s+1] k I j Ij n [s+1] Flismrv a [s+1] k jlölést a képlthz jutunk: j = n [s+1] Σ k=1 k [s+1] I k [s+1] I j n [s+1] E -ban, gy rkurzív I [s+1] k Grgorics Tibor Bvztés a mstrségs intllignciába 30 5
s<r st folytatása Összsítv Az I [s+1] k függ az s-dik rétg j-dik nuronjának (o j ) kimntétől, zért I [s+1] I [s+1] k = k o j I j o I j j Tudva, hogy az I k [s+1] = n [s+1] Σ [s+1] k=1 k n [s+1] = o j (1- o j ) n Σ j=1 w jk [s+1] o j Σ k=1 k [s+1] w ik [s+1] zért I k [s+1] o j = w ik [s+1] o Továbbá az o j = f(i j ) miatt j = f (I j ) = o j (1- o j ) I j Összolvasva n I [s+1] [s+1] j = k = Σ [s+1] k w [s+1] ik f'(i [s+1] k=1 j )= I j Grgorics Tibor Bvztés a mstrségs intllignciába 31 Ha s=r akkor j [r] = o j [r] (1-o j [r] )(t j -o j [r] ) Δw ij [r] = η j [r] o i [r-1] Ha s<r akkor j = o j (1- o j ) n[s+1] Σ k=1 k [s+1] w ik [s+1] Δw ij = η j o i [s-1] rkurzív szabályt kaptuk a súlyok módosítására. Grgorics Tibor Bvztés a mstrségs intllignciába 32 Algoritmus 1. Az x bmnti vktorból kiindulva rétgnként kiszámoljuk a nuronok kimntit: o j, így ljutunk a kimnti rétg kimntihz o j [r] is. 2. A kimnti rétg mindn nuronjára kiszámoljuk a lokális hibát: j [r] = o j [r] (1- o j [r] ) (t j -o j [r] ), és a súlytényzők mgváltozását: Δw ij [r] = η j [r] o i [r-1]. 3. Rétgnként hátulról lőr haladva számoljuk a nuronok n [s+1] hibáját: j = o j (1- o j )Σ k [s+1] w jk [s+1], k=1 és a súlytényző-változást: Δw ij = η j o i [s-1]. 4. Módosítjuk a hálózat súlyait: w ij w ij + Δw ij Grgorics Tibor Bvztés a mstrségs intllignciába 33 Bállítások: x 1, x 2 {0,1} f(x)=logiszt(x) o s i (0,1) w s ij =rand(-0.1, 0.1) o s 0=1.0 η=1.0 x 1 x 2 1.0 w 1 10 w 1 11 w 1 12 1.0 w 1 20 w 1 21 w 1 22 Σ f Σ f XOR művlt 1. példája Grgorics Tibor Bvztés a mstrségs intllignciába 34 o 1 1 o 1 2 1.0 w 2 10 w 2 11 w 2 12 Σ f o XOR művlt 2. példája Számjgy flismrés Bállítások: x 1, x 2 {0,1} f(x)=logiszt(x) o i (0,1) w ij =rand(-0.1, 0.1) o s 0=1.0 η=1.0 x o1 1 1.0 x 2 1.0 w w 01 11 w 21 Σ f w 02 w 12 w 22 w 32 Σ f o Bmnti értékk száma: 42 Kimntk száma: 10 Mindn számjgyhz tartozik gy kimnt Közbülső rétg sjtjink száma: 11 Grgorics Tibor Bvztés a mstrségs intllignciába 35 Grgorics Tibor Bvztés a mstrségs intllignciába 36 6
Számjgy flismrés Bállítások: x i {0,1} f(x)=logiszt(x) o s i (0,1) w s ij =rand(-0.1, 0.1) o s 0=1.0 η=0.35 b m n t k 0.rétg 1.rétg 2.rétg k i m n t k Grgorics Tibor Bvztés a mstrségs intllignciába 37 7
Evolúciós (gntikus) algoritmusok VI. Evolúciós algoritmusok Egy adott pillanatban nm gytln lhtségs választ, hanm lhtségs válaszok (gydk) halmazát, populációját tartjuk nyilván.egy populáció annál jobb, minél inkább olyan gydkkl rndlkzik, amlyk a kitűzött probléma hlys válaszai vagy azokhoz közli lhtségs válaszok. A populációt lépésről lépésr próbáljuk mg gyr jobbra változtatni. A populáció mgváltozása visszavonhatatlan. Ez thát gy nm-módosítható stratégia. Grgorics Tibor Bvztés a mstrségs intllignciába 1 Grgorics Tibor Bvztés a mstrségs intllignciába 2 Először gy alkalmas kzdőpopulációt választunk. Mindn lépésbn Evolúciós algoritmus működés Szlkció: Kijlöljük szülőknk a rátrmttbb gydkt. Rkombináció (krsztzés): A szülőkből öröklődéssl utódokat állítunk lő. Mutáció: az utódokat kismértékbn módosítjuk. Visszahlyzés: új populáció kialakítása A cél lht gy krstt célgyd lőállítása, vagy a populáció globális értékénk változatlansága. Grgorics Tibor Bvztés a mstrségs intllignciába 3 Példa Hol vszi fl az f :[0.. 1024] [-1,1] függvény a gész intrvallumon a maximumát? (A f-t nm ismrjük, d az f(x)-t ttszőlgs x-r ki tudjuk számolni) Grgorics Tibor Bvztés a mstrségs intllignciába 4 x kód f(x) 13 0000001101 0.22 53 0000110101 0.79 119 0001110111 0.87 339 0101010011-0.35 358 0101100110-0.03 482 0111100010 0.84 602 1001011010-0.88 778 1100001010 0.84 841 1101001001 0.85 956 1110111100-0.82 Össz: 2.33 Átl: 0.23 Max: 0.87 (f(x)+1)/(σ+10) 0.10 0.15 0.15 0.05 0.08 0.15 0.01 0.15 0.15 0.01 rultt 2 0 1 0 1 2 0 2 2 0 rultt rultt x 2 13 0 53 1 119 0 339 1 358 2 482 0 602 2 778 2 841 0 956 szlkció rkombináció mutáció x kód 13 0000001101 841 1101001001 13 0000001101 778 1100001010 119 0001110111 778 1100011100 358 0101100110 482 0111100010 482 0111100010 841 1101001001 kód 0000001001 1101001101 0000001010 1100001101 0000011100 1101110111 0101100010 0111100110 0111001001 1101100010 kód 0000001001 1101001101 0000001010 1100001101 0001011100 1101110111 0101100010 0111100110 0111001001 1101100000 1
u = v = populáció mért Össz: 2.33 Átl: 0.23 Max: 0.87 x kód f(x) 9 0000001001 0.15 845 1101001101 0.81 10 0000001010 0.17 781 1100001101 0.87 92 0001011100 0.99 887 1101110111 0.22 354 0101100010-0.10 486 0111100110 0.80 457 0111001001 0.99 832 1101000000 0.92 Össz: 5.82 Átl: 0.58 Max: 0.99 Procdur EA p kzdti populáció whil trminálási fltétl nm igaz loop p szlkció(p) p rkombináció( p ) p mutáció(p ) p visszahlyzés(p, p ) ndloop Alapalgoritmus Grgorics Tibor Bvztés a mstrségs intllignciába 8 Algoritmus lmi Kódolás Kódolás (gyd rprzntáció) Rátrmttségi (fitnsz) függvény Kapcsolat a célfüggvénnyl Evolúciós oprátorok szlkció, rkombináció (krsztzés), mutáció, visszahlyzés Kzdő populáció, Mgállási fltétl Stratégiai paramétrk populáció mért, mutáció valószínűség, utódképzési ráta, visszahlyzési ráta, stb. Grgorics Tibor Bvztés a mstrségs intllignciába 9 Egy gydt jlsorozattal (kromoszóma) kódolunk. A jlk vagy azok csoportjai (gén) írják l az gyd tulajdonságait: attribútum és érték. Sokszor gy jlnk a kódsorozatban lfoglalt pozíciója (lókusz) adja mg az attribútumot, a jl pdig az értékt (allél). Ilynkor a kód szrkzt tulajdonságonkénti fldarabolhatóságot mutat. Gyakori mgoldás: valós (gész) számok tömbj, bináris tömb, prmutáció, fa-ábrázolás Kódolás és a rátrmttségi függvény kapcsolata Grgorics Tibor Bvztés a mstrségs intllignciába 10 Gráfszínzési példa kódolásai és rátrmttségi függvényi Adott gy végs gyszrű gráf, amlynk a csúcsait a lhtő lgkvsbb szín flhasználásával úgy kll kiszínzni, hogy a szomszédos csúcsok ltérő színűk lgynk. 1. 2. 3. 4. 5. 6. 7. 1 6 2 7 5 f = 10 dirkt 3 4 ω 1 ω 2 ω 3 Mstrségs nuronháló hirarchikus kódolása 7 1 4 6 5 2 3 indirkt 2 1 6 7 3 4 Grgorics Tibor Bvztés a mstrségs intllignciába 11 5 f = 5 1 0 1 101 000 110 ω 0 ω 1 ω 2 ω 3 Grgorics Tibor Bvztés a mstrségs intllignciába 12 2