Mesterséges intelligencia

Átírás

1 Mesterséges intelligencia Botzheim János Budapesti Műszaki és Gazdaságtudományi Egyetem, Mechatronika, Optika és Gépészeti Informatika Tanszék

2 Motivációk Hogyan lehetne automatikussá tenni azokat az összetett funkciókat, amelyek megvalósítására az ember könnyedén képes pl.: autóvezetés Nehezen kezelhető feladatok Számos, az ember által többé-kevésbé megoldható feladat a klasszikus matematikai módszerekkel nehezen vagy egyáltalán nem kezelhető Az emberi intelligencia elemeit modellezve a nagybonyolultságú rendszerek kezelése megvalósítható intelligens, ún. soft computing technikákkal Intelligens alapmódszerek Fuzzy rendszerek, neurális hálózatok, evolúciós algoritmusok Jellemző a biológiai és filozófiai indíttatás

3 Egy összetett probléma Sok komponensű, összetett rendszer. De az emberek képesek megoldani. Spóroljunk üzemanyagot, spóroljunk időt stb.

4 Homokkupac paradoxon homokkupac homokszem = homokkupac

5 Homokkupac paradoxon ebből az következik, hogy homokkupac = 0 ennek oka: a homokkupacot nem definiáltuk elég pontosan gond: egy precíz matematikai definíció nincs összhangban a homokkupac hétköznapi fogalmával probléma: a precíz fogalmakat használó matematika nem alkalmas a pontatlan fogalmak formális kezelésére kérdés: ki tudjuk-e terjeszteni a matematikát úgy, hogy képes legyen pontatlan fogalmakat is kezelni?

6 Fuzzy halmaz, fuzzy logika Fuzzy: homályos, életlen Lotfi A. Zadeh (1965): fuzzy halmazelmélet a nyelvi fogalmakban lévő pontatlanság kifejezésére Fuzzy logika: Zadeh, 1973 Fuzzy következtetés nyelvi szabályokkal: Zadeh: 1973 Mamdani: 1975

7 Fuzzy halmaz Elmosódott határ: pl.: magas emberek : mennyire eleme egy ismert magassággal rendelkező ember ennek a halmaznak? Részleges tagság: 0 és 1 között: van aki jobban beletartozik, van aki kevésbé Milyen mértékben tartozik x a halmazba? tagsági függvény

8 Egy példa Pl. Egy hallgatói csoport Alaphalmaz: X Kinek van jogosítványa? X egy részhalmaza az A (crisp) halmaz χ A (X) = karakterisztikus függvény Ki tud jól vezetni? µ(x) = tagsági függvény

9 Egy másik példa példa az emberek magasságait leíró 3 fuzzy halmazra a halmazok részben átfedhetik egymást egy ember több halmazba is beletartozhat, különböző tagsági értékkel µ 1 alacsony középtermetű magas x [cm]

10 Definíciók Crisp halmaz: Konvex halmaz: A nem konvex, mert a A, c A, de d=λa+(1-λ)c A, λ [0, 1]. B konvex, mert minden x, y B és λ [0, 1]-re: z=λx+(1-λ)y B. Részhalmaz: a A b A x B A x y y B c d a b A (crisp halmaz) Ha x A akkor x B. A B

11 Definíciók Egyenlő halmazok: Ha A B és B A akkor A=B, különben A B. Valódi részhalmaz: Ha létezik legalább egy y B úgy, hogy y A akkor A B. Üres halmaz Karakterisztikus függvény: µ A (x): X {0, 1}, ahol X az univerzum (alaphalmaz). 0 érték: x nem eleme az A halmaznak, 1 érték: x eleme az A halmaznak.

12 Definíciók A={1, 2, 3, 4, 5, 6} Számosság: A =6. Az A hatványhalmaza: P (A)={{}=Ø, {1}, {2}, {3}, {4}, {5}, {6}, {1, 2}, {1, 3}, {1, 4}, {1, 5}, {1, 6}, {2, 3}, {2, 4}, {2, 5}, {2, 6}, {3, 4}, {3, 5}, {3, 6}, {4, 5}, {4, 6}, {5, 6}, {1, 2, 3}, {1, 2, 4}, {1, 2, 5}, {1, 2, 6}, {1, 3, 4}, {1, 3, 5}, {1, 3, 6}, {1, 4, 5}, {1, 4, 6}, {1, 5, 6}, {2, 3, 4}, {2, 3, 5}, {2, 3, 6}, {2, 4, 5}, {2, 4, 6}, {2, 5, 6}, {3, 4, 5}, {3, 4, 6}, {3, 5, 6}, {4, 5, 6}, {1, 2, 3, 4}, {1, 2, 3, 5}, {1, 2, 3, 6}, {1, 2, 4, 5}, {1, 2, 4, 6}, {1, 2, 5, 6}, {1, 3, 4, 5}, {1, 3, 4, 6}, {1, 3, 5, 6}, {1, 4, 5, 6}, {2, 3, 4, 5}, {2, 3, 4, 6}, {2, 3, 5, 6}, {2, 4, 5, 6}, {3, 4, 5, 6}, {1, 2, 3, 4, 5}, {1, 2, 3, 4, 6}, {1, 2, 4, 5, 6}, {1, 3, 4, 5, 6}, {2, 3, 4, 5, 6}, {1, 2, 3, 4, 5, 6}}. P (A) =2 6 =64.

13 Definíciók Relatív komplemens vagy differencia: A B={x x A és x B} B={1, 3, 4, 5}, A B={2, 6}. C={1, 3, 4, 5, 7, 8}, A C={2, 6}! Komplemens: A = X - A, ahol X az alaphalmaz. A komplemensképzés involutív: A = A Alaptulajdonságok: Æ = X, Unió: A B={x x A vagy x B} Alaptulajdonságok: X A = Æ A È X = ÈÆ = A È A = X A X

14 Definíciók Metszet: A B={x x A és x B} Alaptulajdonságok: A ÇÆ = Æ A Ç X A Ç A = A = Æ További tulajdonságok: kommutativitás: asszociativitás: idempotencia: disztributivitás: A B=B A, A B=B A. A B C=(A B) C=A (B C), A B C=(A B) C=A (B C). A A=A, A A=A. A (B C)=(A B) (A C), A (B C)=(A B) (A C).

15 Definíciók További tulajdonságok: DeMorgan törvény: Diszjunkt halmazok: A B=. Az X alaphalmaz partíciója: B A B A B A B A Ç = È È = Ç ( ) þ ý ü î í ì = = Æ Ç Î = Õ Î! I i i i i i X A, A A I, i A x 2 1 { } ( ) x N i A A A A X 6 i j i 6 1 i i = Õ Î = Æ Ç = =!

16 Tagsági függvény Crisp halmaz Fuzzy halmaz Karakterisztikus függvény Tagsági függvény µ A :X {0, 1} µ A :X [0, 1]

17 Fuzzy halmazok - példa Évek Csecs emő Feln őtt Fiatal Idős

18 <latexit sha1_base64="7qi4l4lk66its4by+ck7tmkwbss=">aaaccxicbvbns8naen34wenx1koxpuvolyurwxoothjxwmhyqhpkzrtpl+5uwu5gwklvhvwthrxyvpolpppvtnsctpxbwoo9gwbmbtgjstv2t7gxubw9s1vym/cpdo+orzptrxulehmxryysnqapwqggrqaaku4sceibi+1gddv3209ekhqjbz2jic/rqncqyqqzqwcvcsrjuvmpe+nyowj2pe77hk96zfk4une8qwn2rjjdtrea68tjsqnkapwsl68f4yqtotfdsnvrsfztjdxfjexnl1ekrniebqsbuye4ux66eguklzkld8niziu0xki/j1lelzrwiovksa/vqjcx//o6iq5rfkpfnggi8hjrmdcoizjpbfapjfizsuyqljs7feihkgjrll15bs7qx+vevazevj37q1kjlodraoegcmraadegae5ac7gag2fwct7bzhgx3oyz8bfs3tdymtpwb8bnd93hmkq=</latexit> <latexit sha1_base64="7qi4l4lk66its4by+ck7tmkwbss=">aaaccxicbvbns8naen34wenx1koxpuvolyurwxoothjxwmhyqhpkzrtpl+5uwu5gwklvhvwthrxyvpolpppvtnsctpxbwoo9gwbmbtgjstv2t7gxubw9s1vym/cpdo+orzptrxulehmxryysnqapwqggrqaaku4sceibi+1gddv3209ekhqjbz2jic/rqncqyqqzqwcvcsrjuvmpe+nyowj2pe77hk96zfk4une8qwn2rjjdtrea68tjsqnkapwsl68f4yqtotfdsnvrsfztjdxfjexnl1ekrniebqsbuye4ux66eguklzkld8niziu0xki/j1lelzrwiovksa/vqjcx//o6iq5rfkpfnggi8hjrmdcoizjpbfapjfizsuyqljs7feihkgjrll15bs7qx+vevazevj37q1kjlodraoegcmraadegae5ac7gag2fwct7bzhgx3oyz8bfs3tdymtpwb8bnd93hmkq=</latexit> <latexit sha1_base64="7qi4l4lk66its4by+ck7tmkwbss=">aaaccxicbvbns8naen34wenx1koxpuvolyurwxoothjxwmhyqhpkzrtpl+5uwu5gwklvhvwthrxyvpolpppvtnsctpxbwoo9gwbmbtgjstv2t7gxubw9s1vym/cpdo+orzptrxulehmxryysnqapwqggrqaaku4sceibi+1gddv3209ekhqjbz2jic/rqncqyqqzqwcvcsrjuvmpe+nyowj2pe77hk96zfk4une8qwn2rjjdtrea68tjsqnkapwsl68f4yqtotfdsnvrsfztjdxfjexnl1ekrniebqsbuye4ux66eguklzkld8niziu0xki/j1lelzrwiovksa/vqjcx//o6iq5rfkpfnggi8hjrmdcoizjpbfapjfizsuyqljs7feihkgjrll15bs7qx+vevazevj37q1kjlodraoegcmraadegae5ac7gag2fwct7bzhgx3oyz8bfs3tdymtpwb8bnd93hmkq=</latexit> <latexit sha1_base64="7qi4l4lk66its4by+ck7tmkwbss=">aaaccxicbvbns8naen34wenx1koxpuvolyurwxoothjxwmhyqhpkzrtpl+5uwu5gwklvhvwthrxyvpolpppvtnsctpxbwoo9gwbmbtgjstv2t7gxubw9s1vym/cpdo+orzptrxulehmxryysnqapwqggrqaaku4sceibi+1gddv3209ekhqjbz2jic/rqncqyqqzqwcvcsrjuvmpe+nyowj2pe77hk96zfk4une8qwn2rjjdtrea68tjsqnkapwsl68f4yqtotfdsnvrsfztjdxfjexnl1ekrniebqsbuye4ux66eguklzkld8niziu0xki/j1lelzrwiovksa/vqjcx//o6iq5rfkpfnggi8hjrmdcoizjpbfapjfizsuyqljs7feihkgjrll15bs7qx+vevazevj37q1kjlodraoegcmraadegae5ac7gag2fwct7bzhgx3oyz8bfs3tdymtpwb8bnd93hmkq=</latexit> <latexit sha1_base64="0d7gj+b3pyel5fljhlzs+uj0b9w=">aaacchicbva9twjben3ze/hr1njmlzhaqw5jihyaii0ljiik3owyt7faht29y+6egvyolfwtfjysw/+bpf/gpabq8cwtvlw3k5l5qcyo0o7zba2srq1vboa28ts7u3v79shho4osiuktryys7qapwqggtu01i+1yesqdrlrb4dbzw09ekhqjbz2kicdrt9auxugbybdpvblhxxrp2k2hlhww7xiaujzx68vh6czxx3nfljhlzwq4tcpzugbznhz7yw0jnhaingziqu411l6kpkaykxhetrsjer6ghukykhanykunn4zhmvfc2i2kkahhvp09ksku1ighppmj3velxib+53us3a16krvxoonas0xdheedwswwgfjjsgyjqxcw1nwkcr9jhlujl8ugsvjxmmmel6/klfulqq06dymhjsepkiikuaq1cacaoakweaav4b1mrbfrzzpyh7pwfws+cwt+wpr8addumk8=</latexit> <latexit sha1_base64="0d7gj+b3pyel5fljhlzs+uj0b9w=">aaacchicbva9twjben3ze/hr1njmlzhaqw5jihyaii0ljiik3owyt7faht29y+6egvyolfwtfjysw/+bpf/gpabq8cwtvlw3k5l5qcyo0o7zba2srq1vboa28ts7u3v79shho4osiuktryys7qapwqggtu01i+1yesqdrlrb4dbzw09ekhqjbz2kicdrt9auxugbybdpvblhxxrp2k2hlhww7xiaujzx68vh6czxx3nfljhlzwq4tcpzugbznhz7yw0jnhaingziqu411l6kpkaykxhetrsjer6ghukykhanykunn4zhmvfc2i2kkahhvp09ksku1ighppmj3velxib+53us3a16krvxoonas0xdheedwswwgfjjsgyjqxcw1nwkcr9jhlujl8ugsvjxmmmel6/klfulqq06dymhjsepkiikuaq1cacaoakweaav4b1mrbfrzzpyh7pwfws+cwt+wpr8addumk8=</latexit> <latexit sha1_base64="0d7gj+b3pyel5fljhlzs+uj0b9w=">aaacchicbva9twjben3ze/hr1njmlzhaqw5jihyaii0ljiik3owyt7faht29y+6egvyolfwtfjysw/+bpf/gpabq8cwtvlw3k5l5qcyo0o7zba2srq1vboa28ts7u3v79shho4osiuktryys7qapwqggtu01i+1yesqdrlrb4dbzw09ekhqjbz2kicdrt9auxugbybdpvblhxxrp2k2hlhww7xiaujzx68vh6czxx3nfljhlzwq4tcpzugbznhz7yw0jnhaingziqu411l6kpkaykxhetrsjer6ghukykhanykunn4zhmvfc2i2kkahhvp09ksku1ighppmj3velxib+53us3a16krvxoonas0xdheedwswwgfjjsgyjqxcw1nwkcr9jhlujl8ugsvjxmmmel6/klfulqq06dymhjsepkiikuaq1cacaoakweaav4b1mrbfrzzpyh7pwfws+cwt+wpr8addumk8=</latexit> <latexit sha1_base64="0d7gj+b3pyel5fljhlzs+uj0b9w=">aaacchicbva9twjben3ze/hr1njmlzhaqw5jihyaii0ljiik3owyt7faht29y+6egvyolfwtfjysw/+bpf/gpabq8cwtvlw3k5l5qcyo0o7zba2srq1vboa28ts7u3v79shho4osiuktryys7qapwqggtu01i+1yesqdrlrb4dbzw09ekhqjbz2kicdrt9auxugbybdpvblhxxrp2k2hlhww7xiaujzx68vh6czxx3nfljhlzwq4tcpzugbznhz7yw0jnhaingziqu411l6kpkaykxhetrsjer6ghukykhanykunn4zhmvfc2i2kkahhvp09ksku1ighppmj3velxib+53us3a16krvxoonas0xdheedwswwgfjjsgyjqxcw1nwkcr9jhlujl8ugsvjxmmmel6/klfulqq06dymhjsepkiikuaq1cacaoakweaav4b1mrbfrzzpyh7pwfws+cwt+wpr8addumk8=</latexit> <latexit sha1_base64="29cx9dxwszwrnhwl9zfxlgriol4=">aaacenicbvbns8naen34wenx1koxxsjuhjkiyd0ilv48vrc20a1hs922s3c3yxcjlae/woo/xymxi1cvhv03pm0o2vpg4pheddpzwpgzbvz321pzxvvf2cxs2ds7u3v7zshho44srwidrdxsrrbrypmkdcmmp61yusxctpvh4hbqn5+o0iysd2yuu1/gnmrdrrdjpma5rwui87ipb1a6rezcfhksg0qs1erdm9sjcxenbdsonkjbdmeay8tlsrhkqafof+pejbfugskx1u1kbpwuk8mip2mbjzrgmaxwj7yzkrgg2k9np43haaz0yddswukdz+rvirqlrucizdofnn296e3f/7x2yrovp2uytgyvzl6om3boijgnchayostwuuywusy7fzi+vpiylmzpbt7ix8ukcvg+lnv3l8vqjq+jai7bcsgbd1ybkrgdddaabdydv/aojtal9wznri9564qvzxybp7a+fwcivpzr</latexit> <latexit sha1_base64="29cx9dxwszwrnhwl9zfxlgriol4=">aaacenicbvbns8naen34wenx1koxxsjuhjkiyd0ilv48vrc20a1hs922s3c3yxcjlae/woo/xymxi1cvhv03pm0o2vpg4pheddpzwpgzbvz321pzxvvf2cxs2ds7u3v7zshho44srwidrdxsrrbrypmkdcmmp61yusxctpvh4hbqn5+o0iysd2yuu1/gnmrdrrdjpma5rwui87ipb1a6rezcfhksg0qs1erdm9sjcxenbdsonkjbdmeay8tlsrhkqafof+pejbfugskx1u1kbpwuk8mip2mbjzrgmaxwj7yzkrgg2k9np43haaz0yddswukdz+rvirqlrucizdofnn296e3f/7x2yrovp2uytgyvzl6om3boijgnchayostwuuywusy7fzi+vpiylmzpbt7ix8ukcvg+lnv3l8vqjq+jai7bcsgbd1ybkrgdddaabdydv/aojtal9wznri9564qvzxybp7a+fwcivpzr</latexit> <latexit sha1_base64="29cx9dxwszwrnhwl9zfxlgriol4=">aaacenicbvbns8naen34wenx1koxxsjuhjkiyd0ilv48vrc20a1hs922s3c3yxcjlae/woo/xymxi1cvhv03pm0o2vpg4pheddpzwpgzbvz321pzxvvf2cxs2ds7u3v7zshho44srwidrdxsrrbrypmkdcmmp61yusxctpvh4hbqn5+o0iysd2yuu1/gnmrdrrdjpma5rwui87ipb1a6rezcfhksg0qs1erdm9sjcxenbdsonkjbdmeay8tlsrhkqafof+pejbfugskx1u1kbpwuk8mip2mbjzrgmaxwj7yzkrgg2k9np43haaz0yddswukdz+rvirqlrucizdofnn296e3f/7x2yrovp2uytgyvzl6om3boijgnchayostwuuywusy7fzi+vpiylmzpbt7ix8ukcvg+lnv3l8vqjq+jai7bcsgbd1ybkrgdddaabdydv/aojtal9wznri9564qvzxybp7a+fwcivpzr</latexit> <latexit sha1_base64="29cx9dxwszwrnhwl9zfxlgriol4=">aaacenicbvbns8naen34wenx1koxxsjuhjkiyd0ilv48vrc20a1hs922s3c3yxcjlae/woo/xymxi1cvhv03pm0o2vpg4pheddpzwpgzbvz321pzxvvf2cxs2ds7u3v7zshho44srwidrdxsrrbrypmkdcmmp61yusxctpvh4hbqn5+o0iysd2yuu1/gnmrdrrdjpma5rwui87ipb1a6rezcfhksg0qs1erdm9sjcxenbdsonkjbdmeay8tlsrhkqafof+pejbfugskx1u1kbpwuk8mip2mbjzrgmaxwj7yzkrgg2k9np43haaz0yddswukdz+rvirqlrucizdofnn296e3f/7x2yrovp2uytgyvzl6om3boijgnchayostwuuywusy7fzi+vpiylmzpbt7ix8ukcvg+lnv3l8vqjq+jai7bcsgbd1ybkrgdddaabdydv/aojtal9wznri9564qvzxybp7a+fwcivpzr</latexit> <latexit sha1_base64="xqufursdpxs6jphrpr1o5umbkrq=">aaacbxicbvbns8naen3ur1q/oh4fwsxceympcnad0olfywvjc00im+2mxbrzhn2ntitepphbphixepu3eptfuglz0nyha4/3zpiz58emsmvz30zhbx1jc6u4xdrz3ds/ma+phmwucexshlfidh0kcaoc2ioqrrqxicj0gen4o9vm7zwriwneh9qkjm6ibpwgfcoljc88hvza1rthjrgxjh3kyxfqhinxqoyrjq3plfs1aw64suo5kymcbc/8cvortklcfwziyl4jvm6khkkykwnjsssjer6haelpylfipjvo35jcc630yrajxvzbufp7ikwhljpq150huko57gxif14vuuhdtsmpe0u4xiwkegzvblnmyj8kghwbaikwoppwiidiikx0clkg9ewpv4l9ubuu1e8vy81ghkyrniazuaf1cawa4a60gq0weaav4b3mjbfjzzgzh4vwgphphim/md5/afznlqy=</latexit> <latexit sha1_base64="xqufursdpxs6jphrpr1o5umbkrq=">aaacbxicbvbns8naen3ur1q/oh4fwsxceympcnad0olfywvjc00im+2mxbrzhn2ntitepphbphixepu3eptfuglz0nyha4/3zpiz58emsmvz30zhbx1jc6u4xdrz3ds/ma+phmwucexshlfidh0kcaoc2ioqrrqxicj0gen4o9vm7zwriwneh9qkjm6ibpwgfcoljc88hvza1rthjrgxjh3kyxfqhinxqoyrjq3plfs1aw64suo5kymcbc/8cvortklcfwziyl4jvm6khkkykwnjsssjer6haelpylfipjvo35jcc630yrajxvzbufp7ikwhljpq150huko57gxif14vuuhdtsmpe0u4xiwkegzvblnmyj8kghwbaikwoppwiidiikx0clkg9ewpv4l9ubuu1e8vy81ghkyrniazuaf1cawa4a60gq0weaav4b3mjbfjzzgzh4vwgphphim/md5/afznlqy=</latexit> <latexit sha1_base64="xqufursdpxs6jphrpr1o5umbkrq=">aaacbxicbvbns8naen3ur1q/oh4fwsxceympcnad0olfywvjc00im+2mxbrzhn2ntitepphbphixepu3eptfuglz0nyha4/3zpiz58emsmvz30zhbx1jc6u4xdrz3ds/ma+phmwucexshlfidh0kcaoc2ioqrrqxicj0gen4o9vm7zwriwneh9qkjm6ibpwgfcoljc88hvza1rthjrgxjh3kyxfqhinxqoyrjq3plfs1aw64suo5kymcbc/8cvortklcfwziyl4jvm6khkkykwnjsssjer6haelpylfipjvo35jcc630yrajxvzbufp7ikwhljpq150huko57gxif14vuuhdtsmpe0u4xiwkegzvblnmyj8kghwbaikwoppwiidiikx0clkg9ewpv4l9ubuu1e8vy81ghkyrniazuaf1cawa4a60gq0weaav4b3mjbfjzzgzh4vwgphphim/md5/afznlqy=</latexit> <latexit sha1_base64="xqufursdpxs6jphrpr1o5umbkrq=">aaacbxicbvbns8naen3ur1q/oh4fwsxceympcnad0olfywvjc00im+2mxbrzhn2ntitepphbphixepu3eptfuglz0nyha4/3zpiz58emsmvz30zhbx1jc6u4xdrz3ds/ma+phmwucexshlfidh0kcaoc2ioqrrqxicj0gen4o9vm7zwriwneh9qkjm6ibpwgfcoljc88hvza1rthjrgxjh3kyxfqhinxqoyrjq3plfs1aw64suo5kymcbc/8cvortklcfwziyl4jvm6khkkykwnjsssjer6haelpylfipjvo35jcc630yrajxvzbufp7ikwhljpq150huko57gxif14vuuhdtsmpe0u4xiwkegzvblnmyj8kghwbaikwoppwiidiikx0clkg9ewpv4l9ubuu1e8vy81ghkyrniazuaf1cawa4a60gq0weaav4b3mjbfjzzgzh4vwgphphim/md5/afznlqy=</latexit> Fuzzy halmazok - tulajdonságok mag: core(a) ={x 2 X µ A (x) =1} tartó: supp(a) ={x 2 X µ A (x) > 0} α-vágat: A = {x 2 X µ A (x) } magasság: h(a) =sup x2x µ A (x)

19 Műveletek fuzzy halmazokon Zadeh, 1965 Komplemens: Metszet: Unió: µ ( x) = 1 µ ( x) A A µ ( x) min( ( x), ( x ) A B = µ A µ B ( x) = max( µ ( x), ( x ) µ A B A µ B

20 Műveletek fuzzy halmazokon Ezek valóban általánosításai a crisp halmazműveleteknek: A B A A B A B 1-µ A min max

21 <latexit sha1_base64="6rjxmtfreys30jwqgihwppb96pw=">aaacwxicfvjlt+mwej6exr7dhs1w5gjr7wqrujwskcihspxgwbgklsa1vew4tmvqr2q7icrqj+tit+bfmak9laxtwelmvoc88tjnpxa+ip6dco3l1/wnza3gt+/boz+au3s3zhsw8t4z0ti7ldouhez9l7zkd7nlvkws36az84q/fedwcap/+nnoh4potmgeox4h01tgyaqljkcawims4dd+jygfi+gimgkhcqjqqghiokwdqhq16heq2pmcqw+j1rrxgjxbrasrahjcdaz+r6bv1pgn6qqtobwgmso3bo/onqotzdsmvzscnvtro6qdfezizdkczvynmk/j2lbcce2zpm4norkfltr6wsrfnjlc8zyygz3waaaaku6gzt2cbfmjyjhkxukjpanrfx0lvc7nvypkrf3urxiv+bk3khzwgzzc54xnmr1tlbwseeoqezkxsjx5oceemiuwv8km1flmcervgcsrf/wx6f9pn7xj65nwr7m8je04geo8cjgcqg8u4qr6wijekaumymol8d7mq/smdyolzx/ervi+anbssmy=</latexit> <latexit sha1_base64="6rjxmtfreys30jwqgihwppb96pw=">aaacwxicfvjlt+mwej6exr7dhs1w5gjr7wqrujwskcihspxgwbgklsa1vew4tmvqr2q7icrqj+tit+bfmak9laxtwelmvoc88tjnpxa+ip6dco3l1/wnza3gt+/boz+au3s3zhsw8t4z0ti7ldouhez9l7zkd7nlvkws36az84q/fedwcap/+nnoh4potmgeox4h01tgyaqljkcawims4dd+jygfi+gimgkhcqjqqghiokwdqhq16heq2pmcqw+j1rrxgjxbrasrahjcdaz+r6bv1pgn6qqtobwgmso3bo/onqotzdsmvzscnvtro6qdfezizdkczvynmk/j2lbcce2zpm4norkfltr6wsrfnjlc8zyygz3waaaaku6gzt2cbfmjyjhkxukjpanrfx0lvc7nvypkrf3urxiv+bk3khzwgzzc54xnmr1tlbwseeoqezkxsjx5oceemiuwv8km1flmcervgcsrf/wx6f9pn7xj65nwr7m8je04geo8cjgcqg8u4qr6wijekaumymol8d7mq/smdyolzx/ervi+anbssmy=</latexit> <latexit sha1_base64="6rjxmtfreys30jwqgihwppb96pw=">aaacwxicfvjlt+mwej6exr7dhs1w5gjr7wqrujwskcihspxgwbgklsa1vew4tmvqr2q7icrqj+tit+bfmak9laxtwelmvoc88tjnpxa+ip6dco3l1/wnza3gt+/boz+au3s3zhsw8t4z0ti7ldouhez9l7zkd7nlvkws36az84q/fedwcap/+nnoh4potmgeox4h01tgyaqljkcawims4dd+jygfi+gimgkhcqjqqghiokwdqhq16heq2pmcqw+j1rrxgjxbrasrahjcdaz+r6bv1pgn6qqtobwgmso3bo/onqotzdsmvzscnvtro6qdfezizdkczvynmk/j2lbcce2zpm4norkfltr6wsrfnjlc8zyygz3waaaaku6gzt2cbfmjyjhkxukjpanrfx0lvc7nvypkrf3urxiv+bk3khzwgzzc54xnmr1tlbwseeoqezkxsjx5oceemiuwv8km1flmcervgcsrf/wx6f9pn7xj65nwr7m8je04geo8cjgcqg8u4qr6wijekaumymol8d7mq/smdyolzx/ervi+anbssmy=</latexit> <latexit sha1_base64="6rjxmtfreys30jwqgihwppb96pw=">aaacwxicfvjlt+mwej6exr7dhs1w5gjr7wqrujwskcihspxgwbgklsa1vew4tmvqr2q7icrqj+tit+bfmak9laxtwelmvoc88tjnpxa+ip6dco3l1/wnza3gt+/boz+au3s3zhsw8t4z0ti7ldouhez9l7zkd7nlvkws36az84q/fedwcap/+nnoh4potmgeox4h01tgyaqljkcawims4dd+jygfi+gimgkhcqjqqghiokwdqhq16heq2pmcqw+j1rrxgjxbrasrahjcdaz+r6bv1pgn6qqtobwgmso3bo/onqotzdsmvzscnvtro6qdfezizdkczvynmk/j2lbcce2zpm4norkfltr6wsrfnjlc8zyygz3waaaaku6gzt2cbfmjyjhkxukjpanrfx0lvc7nvypkrf3urxiv+bk3khzwgzzc54xnmr1tlbwseeoqezkxsjx5oceemiuwv8km1flmcervgcsrf/wx6f9pn7xj65nwr7m8je04geo8cjgcqg8u4qr6wijekaumymol8d7mq/smdyolzx/ervi+anbssmy=</latexit> <latexit sha1_base64="qcacbtybzuzhcxopitlkpglalsi=">aaacy3icfvjnj9mwej2eryv8fthysahaikeqquiuw0orcuec0cjrdqw2qhx32lp17mieilkhr34gr34c/4jjngd2u2isr2/ee6ompc5lowol6e8ovnb9xs1bb7eto3fv3x8wepjoa3cvvzhrzjh/msuarluckcadp6vhweqgt/lt+1y/+yy+age/uf3ivjbrq1daswlkdtwqlkcbgrsgwcioxocev5ddszhkngeedac0ofgjnad2jz3royiumgch39khymo8yf0wdwgze2a8es7+75yx3omv7ratgv4ws+wv5c5hxxxcpur8uddjvxadytpkuxd7iovbepo4xgx+zzzovqvaukagmb2xng+kj60m7pjzfbcuaivxogvozyfh3ntd2ilnzczfynnelkth/lvryckeusjzwujahmtas16ltstajeentmvfanx5j1aveereo1mx1b4vmzqbvf5zr0jtpjekep7thwsxt7wpjq9h70bz5zfdo3f/gqfwbj7yo8jglrzbbzigcajoy1rgdxqwf4oppot/nfvjqk95dbci/vkxv9uxbq==</latexit> <latexit sha1_base64="qcacbtybzuzhcxopitlkpglalsi=">aaacy3icfvjnj9mwej2eryv8fthysahaikeqquiuw0orcuec0cjrdqw2qhx32lp17mieilkhr34gr34c/4jjngd2u2isr2/ee6ompc5lowol6e8ovnb9xs1bb7eto3fv3x8wepjoa3cvvzhrzjh/msuarluckcadp6vhweqgt/lt+1y/+yy+age/uf3ivjbrq1daswlkdtwqlkcbgrsgwcioxocev5ddszhkngeedac0ofgjnad2jz3royiumgch39khymo8yf0wdwgze2a8es7+75yx3omv7ratgv4ws+wv5c5hxxxcpur8uddjvxadytpkuxd7iovbepo4xgx+zzzovqvaukagmb2xng+kj60m7pjzfbcuaivxogvozyfh3ntd2ilnzczfynnelkth/lvryckeusjzwujahmtas16ltstajeentmvfanx5j1aveereo1mx1b4vmzqbvf5zr0jtpjekep7thwsxt7wpjq9h70bz5zfdo3f/gqfwbj7yo8jglrzbbzigcajoy1rgdxqwf4oppot/nfvjqk95dbci/vkxv9uxbq==</latexit> <latexit sha1_base64="qcacbtybzuzhcxopitlkpglalsi=">aaacy3icfvjnj9mwej2eryv8fthysahaikeqquiuw0orcuec0cjrdqw2qhx32lp17mieilkhr34gr34c/4jjngd2u2isr2/ee6ompc5lowol6e8ovnb9xs1bb7eto3fv3x8wepjoa3cvvzhrzjh/msuarluckcadp6vhweqgt/lt+1y/+yy+age/uf3ivjbrq1daswlkdtwqlkcbgrsgwcioxocev5ddszhkngeedac0ofgjnad2jz3royiumgch39khymo8yf0wdwgze2a8es7+75yx3omv7ratgv4ws+wv5c5hxxxcpur8uddjvxadytpkuxd7iovbepo4xgx+zzzovqvaukagmb2xng+kj60m7pjzfbcuaivxogvozyfh3ntd2ilnzczfynnelkth/lvryckeusjzwujahmtas16ltstajeentmvfanx5j1aveereo1mx1b4vmzqbvf5zr0jtpjekep7thwsxt7wpjq9h70bz5zfdo3f/gqfwbj7yo8jglrzbbzigcajoy1rgdxqwf4oppot/nfvjqk95dbci/vkxv9uxbq==</latexit> <latexit sha1_base64="qcacbtybzuzhcxopitlkpglalsi=">aaacy3icfvjnj9mwej2eryv8fthysahaikeqquiuw0orcuec0cjrdqw2qhx32lp17mieilkhr34gr34c/4jjngd2u2isr2/ee6ompc5lowol6e8ovnb9xs1bb7eto3fv3x8wepjoa3cvvzhrzjh/msuarluckcadp6vhweqgt/lt+1y/+yy+age/uf3ivjbrq1daswlkdtwqlkcbgrsgwcioxocev5ddszhkngeedac0ofgjnad2jz3royiumgch39khymo8yf0wdwgze2a8es7+75yx3omv7ratgv4ws+wv5c5hxxxcpur8uddjvxadytpkuxd7iovbepo4xgx+zzzovqvaukagmb2xng+kj60m7pjzfbcuaivxogvozyfh3ntd2ilnzczfynnelkth/lvryckeusjzwujahmtas16ltstajeentmvfanx5j1aveereo1mx1b4vmzqbvf5zr0jtpjekep7thwsxt7wpjq9h70bz5zfdo3f/gqfwbj7yo8jglrzbbzigcajoy1rgdxqwf4oppot/nfvjqk95dbci/vkxv9uxbq==</latexit> Műveletek - egyéb lehetőségek Metszet: Unió: ( a, b) min( a, b) t = ( a, b) ab t = t ( a, b) = max(0, a + b -1) t min (a, b) = 8 >< a, ha b =1, b, ha a =1, >: 0, egyébként. s ( a, b) = max( a, b) s( a, b) = a + b - ab ( a, b) min(1, 8 a b) s = + s max (a, b) = >< a, ha b =0, b, ha a =0, >: 1, egyébként.

22 Tartalmazza az algebrai normákat: és

23 Fuzzy relációk Hagyományos (crisp) reláció: két vagy több halmaz elemei közötti kapcsolatokat írja le. Ha a halmazok bizonyos elemei között van kapcsolat, akkor a reláció értéke az adott kapcsolatra 1, különben pedig 0 Fuzzy reláció: a kapcsolatokat kevesbé élesen írja le, két vagy több elem egymással való kapcsolatát tetszőleges 0 és 1 közötti értékkel jellemezhetünk A B crisp reláció A B 0.9 fuzzy reláció

24 Fuzzy szabályok HA x = A AKKOR y = B ahol A a szabály antecedense, B pedig a konzekvense példa: Ha a forgalom erős északi irányban, akkor a lámpa legyen hosszabb ideig zöld Fuzzy szabálybázis reláció

25 Fuzzy rendszer általános sémája Illeszkedési mértéket meghatározó egység Fuzzy következtető gép Defuzzifikációs modul Fuzzy szabály bázis

26 Fuzzy szabálybázis Ha x = A akkor y = B "fuzzy pont" A B Ha x = A i akkor y = B i i = 1,...,r "fuzzy függvény Fuzzy szabály = fuzzy reláció (R i ) Fuzzy szabálybázis = fuzzy reláció (R), az R i fuzzy szabályok uniója (s-normája): R fuzzy szabálybázis reláció 2 fuzzy szabállyal A 1 B 1, A 2 B 2 (R 1, R 2 )

27 Fuzzy szabálybázis reláció több-dimenziós eset:

28 Nyelvi változó Nyelvi változó definíciója (Zadeh): Egy olyan változó, melynek értékei szavak vagy mondatok valamilyen természetes vagy mesterséges nyelven. Például az Életkor egy nyelvi változó ha az értékei nyelviek nem pedig numerikusak, azaz fiatal, nem fiatal, nagyon fiatal, idős, nem túl idős stb. ahelyett, hogy 20, 21, 22, 23,

29 Fuzzy partíció Az A={A i } partíció fedi az X alaphalmazt, ha az alaphalmaz minden eleme legalább 1 tagsági függvényben nem 0 tagsági értékkel szerepel, azaz: ε > 0 jelöli az X fedésének szintjét.

30 Fuzzy partíció specifikussága Az A* fuzzy partíció specifikusabb, mint az A, ha az A* minden eleme specifikusabb, mint az A elemei. Ekkor A* elemeinek a száma nagyobb, mint az A elemeinek a száma. Például az A = { Negative, Zero, Positive} fuzzy partíció kevésbé specifikus, mint az A* fuzzy partíció, amely 7 elemet tartalmaz:

31 Fuzzy partíció specifikussága A fuzzy partíció 3 nyelvi elemmel A* fuzzy partíció 7 nyelvi elemmel

32 Fuzzy következtető mechanizmus (Mamdani) Ha x 1 = A 1,i és x 2 = A 2,i és...és x n = A n,i akkor y = B i A w ji súlyozó faktor azt határozza meg, hogy az x j bemenet milyen távol van az A j,i szabály antecedenstől 1 dimenzióban A w i súlyozó faktor azt határozza meg, hogy a teljes x bemenet milyen messze van az R i szabály teljes antecedensétől

33 Következmény Az R i szabály következménye egy adott x megfigyelésre: y i

34 A teljes következtetés

35 Kompozíciós következtetés

36 Takagi-Sugeno módszer Ha x 1 = A 1,i és x 2 = A 2,i és...és x n = A n,i akkor y i = f i (x 1,x 2,...,x n ) ahol w i a súlyozó faktor, az R i szabály aktivizációs szintje, hasonlóan a Mamdani módszerhez

37 Defuzzifikáció - Súlypont módszer

38 Defuzzifikáció - Összegek közepe módszer

39 Defuzzifikáció - Középső maximum módszer

40 Fuzzy szabálybázis HIDEG MELEG FORRÓ HŐMÉRSÉKLET

41 ALACSONY KÖZEPES MAGAS MOTOR SEBESSÉG Ha a hőmérséklet HIDEG akkor a motor sebesség ALACSONY Ha a hőmérséklet MELEG akkor a motor sebesség KÖZEPES Ha a hőmérséklet FORRÓ akkor a motor sebesség MAGAS

42 Következtető módszer Hőmérséklet = 55 Motor sebesség 1. szabály 2. szabály 3. szabály Motor sebesség = 43.6

43 Modell-jóság és erőforrásigény Cél a lehető legjobb kompromisszum megtalálása a kezelhetőség (számítási bonyolultság, erőforrásigény ) és a jóság (modellpontosság) között Fuzzy macska - egér probléma Az okos macska sokáig gondolkodik, hogy hol lehet az egér, de utána gyorsan megtalálja A buta macska gyorsan dönt, de pontatlanul, ezért sokáig keres

44 Neurális hálózatok Az agyi neuronok működését leutánzó számítási egységek Minták formájában reprezentált tudás megtanulására képes Tudás típusai: analitikus: pl. matematikai egyenletek szabályalapú: pl. fuzzy rendszerek tapasztalati: minták, megfigyelések

45 Felügyelet nélküli tanulás

46 Felügyelt tanulás címke kutya macska madár

47 Hagyományos programozás: Input Program Computer Output Felügyelt tanulás: Input Output Computer Program Felügyelet nélküli tanulás: Input Computer Program Output

48 Felügyelt tanulás adott: input-output tanító minták (x 1 (p), x 2 (p),, x n (p), t (p) ) p darab minta, n dimenziós input, skalár output x rendszer modell t y hiba

49 Felügyelt tanulás Reprezentáció: szabályalapú rendszer fuzzy rendszer döntési fa neurális hálózat support vector machine stb. Kiértékelés: hiba pontosság költség entrópia stb. Optimalizáció: gradiens alapú algoritmus evolúciós algoritmus stb.

50 Emberi idegrendszer Az emberi idegrendszer egy nagyon komplex rendszer, amely képes a gondolkodásra, emlékezésre, probléma megoldásra, döntéstámogatásra stb.

51 Biológiai neuronok Az idegrendszer alapvető egysége a neuron. Egy újszülöttnek kb neuron van az agyában. A neuron egy egyszerű feldolgozó egység, amely kb másik neuronhoz kapcsolódik. Ennélfogva kb összeköttetés van az idegrendszerben.

52 Biológiai neuronok A neuronok funkciója jelek vétele és kombinálása a többi neurontól bemeneteken ún. dendriteken keresztül. Ha a kombinált jel elég erős, a neuron tüzel és egy kimeneti jelet produkál, amelyet a többi neuronhoz az ún. axonon keresztül küld. Jelek más neuronoktól Dendritek Soma (Nucleus) Tüzelési jel Axon Szinapszis Más neuronok dendriteihez Információ áramlás

53 Számítógép vs. emberi idegrendszer Számítógép Ember Sebesség 4 GHz felett 40-50Hz (Neuron válaszidő ms) Működési mód soros mód párhuzamos mód (Az agy alacsony sebessége kompenzálódik a gyors feldolgozási idővel az agyon belül) Egy ember felismerésének feladata Egy bonyolult feladat, számos dologtól függ (pl. háttér, nézőpont stb.) Fél másodperc

54 <latexit sha1_base64="z9crwl/gezw/4ps0/jdrhjhigim=">aaace3icbzdlssnafiynxmu9vv26gsxcbsmncnzfoedgzqvrc00nk8mkhtqzhjktnys+haufxyubi1sxln0bp5eftv4w8pgfczhzfi8wxeol8m0tla+srq3nnvkbw9s7u4w9/tsdjyqyjo1epnoe0uxwyzraqbb2rbgjpcfa3ubqxg89mkv5jg8hjvk3jd3ja04jgmstnky1p9hnjmablbydhg7ga/bwxuinlzvujwa/glc814ctt1cslcst4uwwz1bemzxcwpfjrzqjmqqqinadagzdjcjgvlbh3kk0iwkdkb7rgjqkzlqbty4a4mpj+diilhks8mt9pzgruos09exnskcv52tj879aj4gg2s24jbngkk4xbynaeofxqtjnileqqqfcftd/xbrpfkfgcsybdoz5ixeheva+lns358v6drzgdh2ii1rcnrpadxsngqijkhpgr+gdjawx680awr/t1ivrnnoa/sj6/aeed55z</latexit> <latexit sha1_base64="z9crwl/gezw/4ps0/jdrhjhigim=">aaace3icbzdlssnafiynxmu9vv26gsxcbsmncnzfoedgzqvrc00nk8mkhtqzhjktnys+haufxyubi1sxln0bp5eftv4w8pgfczhzfi8wxeol8m0tla+srq3nnvkbw9s7u4w9/tsdjyqyjo1epnoe0uxwyzraqbb2rbgjpcfa3ubqxg89mkv5jg8hjvk3jd3ja04jgmstnky1p9hnjmablbydhg7ga/bwxuinlzvujwa/glc814ctt1cslcst4uwwz1bemzxcwpfjrzqjmqqqinadagzdjcjgvlbh3kk0iwkdkb7rgjqkzlqbty4a4mpj+diilhks8mt9pzgruos09exnskcv52tj879aj4gg2s24jbngkk4xbynaeofxqtjnileqqqfcftd/xbrpfkfgcsybdoz5ixeheva+lns358v6drzgdh2ii1rcnrpadxsngqijkhpgr+gdjawx680awr/t1ivrnnoa/sj6/aeed55z</latexit> <latexit sha1_base64="z9crwl/gezw/4ps0/jdrhjhigim=">aaace3icbzdlssnafiynxmu9vv26gsxcbsmncnzfoedgzqvrc00nk8mkhtqzhjktnys+haufxyubi1sxln0bp5eftv4w8pgfczhzfi8wxeol8m0tla+srq3nnvkbw9s7u4w9/tsdjyqyjo1epnoe0uxwyzraqbb2rbgjpcfa3ubqxg89mkv5jg8hjvk3jd3ja04jgmstnky1p9hnjmablbydhg7ga/bwxuinlzvujwa/glc814ctt1cslcst4uwwz1bemzxcwpfjrzqjmqqqinadagzdjcjgvlbh3kk0iwkdkb7rgjqkzlqbty4a4mpj+diilhks8mt9pzgruos09exnskcv52tj879aj4gg2s24jbngkk4xbynaeofxqtjnileqqqfcftd/xbrpfkfgcsybdoz5ixeheva+lns358v6drzgdh2ii1rcnrpadxsngqijkhpgr+gdjawx680awr/t1ivrnnoa/sj6/aeed55z</latexit> <latexit sha1_base64="z9crwl/gezw/4ps0/jdrhjhigim=">aaace3icbzdlssnafiynxmu9vv26gsxcbsmncnzfoedgzqvrc00nk8mkhtqzhjktnys+haufxyubi1sxln0bp5eftv4w8pgfczhzfi8wxeol8m0tla+srq3nnvkbw9s7u4w9/tsdjyqyjo1epnoe0uxwyzraqbb2rbgjpcfa3ubqxg89mkv5jg8hjvk3jd3ja04jgmstnky1p9hnjmablbydhg7ga/bwxuinlzvujwa/glc814ctt1cslcst4uwwz1bemzxcwpfjrzqjmqqqinadagzdjcjgvlbh3kk0iwkdkb7rgjqkzlqbty4a4mpj+diilhks8mt9pzgruos09exnskcv52tj879aj4gg2s24jbngkk4xbynaeofxqtjnileqqqfcftd/xbrpfkfgcsybdoz5ixeheva+lns358v6drzgdh2ii1rcnrpadxsngqijkhpgr+gdjawx680awr/t1ivrnnoa/sj6/aeed55z</latexit> Mesterséges neuron Egy információ feldolgozó egység, amely alapvető szerepet játszik a mesterséges neurális hálózatokban. A biológiai neuront utánzó model. A neuron bemenetei x 2 x i x 1 w 2 w i Súly w 1 Σ y = v nx i=1 Összegző x i w i! Φ(v) Kimeneti jel (y) Bemenetként szolgál a többi neuron számára w n x n

55 Mesterséges neuron A neuron csak néhány egyszerű információ feldolgozására képes; ennélfogva nem képes összetett problémák megoldására. Viszont a neuronok összekötve képesek kollektív komplex viselkedésre és így használhatók komplex problémák megoldására.

56 Biológiai vs. mesterséges neuron Biológia neuron Mesterséges neuron sejttest (soma) dendrit axon szinapszis

57 Biológiai vs. mesterséges neuron Biológia neuron sejttest (soma) dendrit axon szinapszis Mesterséges neuron neuron bemenet (input) kimenet (output) súly

58 Aktivizációs függvény (Φ) Behatárolja a kimenetet két aszimptota közé, és ezáltal a neuron kimenete mindig egy észszerű dinamikatartományban fog elhelyezkedni y y 1 T y=1 v>t y=0 v<t v y = 1/(1+e - αv) α: meredekséget beállító paraméter v Küszöb vagy lépés függvény Sigmoid függvény

59 Egyrétegű perceptron Az egyrétegű perceptront Rosenblatt javasolta 1958-ban első modelként, amely tanítóval tanul (azaz felügyelt tanítást valósít meg). Az ő perceptron-ja a McCulloch-Pitts-féle neuron modellen alapult.

60 Egyrétegű perceptron Az egyrétegű perceptron a legegyszerűbb formájú neurális hálózat, amelyet minták osztályozására (klasszifikációjára) használnak. Felépítése: Bemenetek: bejövő jelek Kimenet: klasszifikáció x 1 x 2 w 1 w 2 w 3 y x 3 x m w m

61 Egyrétegű perceptron Tetszőleges számú McCulloch-Pitts neuront összerendezhetünk A McCulloch-Pitts neuronok egy lehetséges elrendezése, amikor a neuronokat egy rétegbe helyezzük el. Ezt nevezzük Perceptron-nak.

62 Egyrétegű perceptron Az egyrétegű perceptront lineárisan szeparálható minták osztályozására használják. Ez nagy csalódást okozott a neurális hálózatokkal foglalkozó közösségen belül, és a neurális hálózatok kutatásának sötét időszaka következett (1970-es évek). Viszont általánosságban ez az állítás nem bizonyult igaznak, mert a többrétegű perceptronok képesek lineárisan nem szeparálható feladatokat is megoldani. Class C 1 Class C 2 Class C 1 Class C 2 lineárisan szeparálható minták nemlineárisan szeparálható minták

63 Lineáris szeparálhatóság Tekintsük az alábbi kétbemenetű példát (x 1,x 2 ) Képes a betanított hálózat definiálni a szeparációs egyenest? Mi az egyenlete?

64 Lineáris szeparálhatóság

65 Lineáris szeparálhatóság

66 Lineáris szeparálhatóság Nem lineárisan szeparálható Rossz hír: a perceptronok csak lineárisan szeparálható függvényeket tudnak reprezentálni

67 Logikai kapuk megvalósítása Használhatjuk a McCulloch-Pitts neuronokat logikai kapuk implementálására Ehhez mindössze a súlyokat és a neuron küszöbértékeket kell megtalálni Látni fogjuk hogyan tud egy egyszerű hálózat NOT, AND, és OR kapukat megvalósítani Ezek segítségével egy jól ismert tény, hogy bármely logikai függvény megvalósítható De az eredményül kapott hálózat általában jóval komplexebb architektúrájú egy szimpla Perceptron-nál El szeretnénk kerülni a komplex problémák szimpla logikai kapukra történő dekompozícióját, és ehelyett meg szeretnénk találni a súlyokat és küszöbértékeket, amelyek közvetlenül működnek a Perceptron architektúrán

68 Logikai NOT, AND, és OR megvalósítása Mindegyik esetben vannak ini bemenetek és out kimenetek, és meg kell határoznunk a súlyokat és a küszöbértékeket.

69 A súlyok analitikus megtalálásának szükségessége Egyszerű hálózatok kézzel létrehozása egy dolog. De mi a helyzet a nehezebb problémákkal? Mint például: Milyen sokáig keressük a megoldást? Képeseknek kell lennünk arra, hogy a paramétereket kiszámoljuk, ahelyett, hogy próbálkozással határozzuk meg őket. Minden tanító minta egy lineáris egyenlőtlenséget ír le a kimenet számára a bemenetek és a hálózat paraméterei alapján. Ezeket tudjuk a súlyok és küszöbértékek kiszámítására használni.

70 A súlyok analitikus megtalálása az AND hálózatra Két súly van, w 1 és w 2, és a küszöbérték θ, és minden tanító mintára ki kell elégítenünk azt, hogy: Így a tanító adatok az alábbi 4 egyenlőtlenséghez vezetnek: Könnyű belátni, hogy végtelen sok megoldás van. Hasonlóan a NOT és az OR hálózatokra is végtelen sok megoldás van

71 Az egyszerű Perceptron korlátai Ugyanezt az eljárást az XOR hálózatra követve: A második és harmadik egyenlőtlenség inkompatibilis a negyedikkel, ezért nincs megoldás. Összetettebb hálózatokra van szükségünk, pl. egyszerű halózatok összekombinálására, vagy másfajta aktivációs függvény használatára Ezután a súlyok és küszöbértékek megtalálása sokkal bonyolultabbá válik.

72 A Perceptron tanítása A Perceptron tanítási algoritmusának lépései 1) Inicializálás 2) Aktiválás 3) Súlyok tanulása 4) Iteráció

73 A Perceptron tanítása 1) Inicializálás Állítsunk be kezdeti értékeket a w 1, w 2,, w m súlyoknak Állítsuk be a θ küszöbértéket egy véletlen számra a [-0.5, 0.5] intervallumban Állítsuk be az η tanulási paramétert egy 1-nél kisebb pozitív értékre x 1 x 2 w 1 w 2 w 3 y x 3 x m w m

74 <latexit sha1_base64="kfjluikt+bpxayn+2ufr3a/pr9u=">aaacknicbvdlsgmxfm3ud31vxbojfqeulb0rratbconswarqgydmeqcntwag5i5ahn6qc79fxi3frr9i+lho64gek3pu5eaemjxcyk02capz8wuls8srxdw19y3n0tb2rukyzahbe5no+5azkckgbgqucj9qycqucbd2l4b+3snoi5l4bnsp+iq1yxejztbkqemiv0kpzgxc6kmisdm6k57jvjclm7f/oohzidzespa+wajfu4mhhx52ann45qelcq1ag4hoendcymscq6d07rusnimikutmtloeop8zjyjl6be9zedkeje1owlpzbqypx/t2qf7vmnrknh2xehh6u+oncljeiq0lyphx0x7q/e/r5lhvpdzeaczqszhg6jmukzomdjaeho4yp4ljgth/0p5h2ng0czbtbm40xvpkszr9btqxh+xz+utmjbjltkjfekse3jolskvarboxsgb+sqd59x5cabo17i04ex6dsgfon8/qdmoma==</latexit> <latexit sha1_base64="kfjluikt+bpxayn+2ufr3a/pr9u=">aaacknicbvdlsgmxfm3ud31vxbojfqeulb0rratbconswarqgydmeqcntwag5i5ahn6qc79fxi3frr9i+lho64gek3pu5eaemjxcyk02capz8wuls8srxdw19y3n0tb2rukyzahbe5no+5azkckgbgqucj9qycqucbd2l4b+3snoi5l4bnsp+iq1yxejztbkqemiv0kpzgxc6kmisdm6k57jvjclm7f/oohzidzespa+wajfu4mhhx52ann45qelcq1ag4hoendcymscq6d07rusnimikutmtloeop8zjyjl6be9zedkeje1owlpzbqypx/t2qf7vmnrknh2xehh6u+oncljeiq0lyphx0x7q/e/r5lhvpdzeaczqszhg6jmukzomdjaeho4yp4ljgth/0p5h2ng0czbtbm40xvpkszr9btqxh+xz+utmjbjltkjfekse3jolskvarboxsgb+sqd59x5cabo17i04ex6dsgfon8/qdmoma==</latexit> <latexit sha1_base64="kfjluikt+bpxayn+2ufr3a/pr9u=">aaacknicbvdlsgmxfm3ud31vxbojfqeulb0rratbconswarqgydmeqcntwag5i5ahn6qc79fxi3frr9i+lho64gek3pu5eaemjxcyk02capz8wuls8srxdw19y3n0tb2rukyzahbe5no+5azkckgbgqucj9qycqucbd2l4b+3snoi5l4bnsp+iq1yxejztbkqemiv0kpzgxc6kmisdm6k57jvjclm7f/oohzidzespa+wajfu4mhhx52ann45qelcq1ag4hoendcymscq6d07rusnimikutmtloeop8zjyjl6be9zedkeje1owlpzbqypx/t2qf7vmnrknh2xehh6u+oncljeiq0lyphx0x7q/e/r5lhvpdzeaczqszhg6jmukzomdjaeho4yp4ljgth/0p5h2ng0czbtbm40xvpkszr9btqxh+xz+utmjbjltkjfekse3jolskvarboxsgb+sqd59x5cabo17i04ex6dsgfon8/qdmoma==</latexit> <latexit sha1_base64="kfjluikt+bpxayn+2ufr3a/pr9u=">aaacknicbvdlsgmxfm3ud31vxbojfqeulb0rratbconswarqgydmeqcntwag5i5ahn6qc79fxi3frr9i+lho64gek3pu5eaemjxcyk02capz8wuls8srxdw19y3n0tb2rukyzahbe5no+5azkckgbgqucj9qycqucbd2l4b+3snoi5l4bnsp+iq1yxejztbkqemiv0kpzgxc6kmisdm6k57jvjclm7f/oohzidzespa+wajfu4mhhx52ann45qelcq1ag4hoendcymscq6d07rusnimikutmtloeop8zjyjl6be9zedkeje1owlpzbqypx/t2qf7vmnrknh2xehh6u+oncljeiq0lyphx0x7q/e/r5lhvpdzeaczqszhg6jmukzomdjaeho4yp4ljgth/0p5h2ng0czbtbm40xvpkszr9btqxh+xz+utmjbjltkjfekse3jolskvarboxsgb+sqd59x5cabo17i04ex6dsgfon8/qdmoma==</latexit> <latexit sha1_base64="y+ir7y8b/icpuwxqd2f49c52vji=">aaace3icbzdlssnafiynxmu9vv26gsxcbsmncnzfoedgzqvrc00nk8mkhtqthjktnys+haufxyubi1sxln0bp5eftv4w8pgfczhzfi8wxeol8m0tla+srq3nnvkbw9s7u4w9/tsdjyqyjo1epnoe0uzwkdwbg2dtwdeipcfa3ubqxg89mkv5fn5cgroujl2qb5wsmjzboe1rtqpphceckdk6kw7ga/bwxuinlzvujwa/glc814ctt1cslcst4uwwz1bemzxcwpfjrzsrlaqqinadagzdjcjgvlbh3kk0iwkdkb7rgayjzlqbty4a4mpj+diilhkh4in7eyijuutueqzteujr+dry/k/wsscodjmexgmwke4xbynaeofxqtjnileqqqfcftd/xbrpfkfgcsybdoz5ixeheva+lns358v6drzgdh2ii1rcnrpadxsngqijkhpgr+gdjawx680awr/t1ivrnnoa/sj6/aec4z5y</latexit> <latexit sha1_base64="y+ir7y8b/icpuwxqd2f49c52vji=">aaace3icbzdlssnafiynxmu9vv26gsxcbsmncnzfoedgzqvrc00nk8mkhtqthjktnys+haufxyubi1sxln0bp5eftv4w8pgfczhzfi8wxeol8m0tla+srq3nnvkbw9s7u4w9/tsdjyqyjo1epnoe0uzwkdwbg2dtwdeipcfa3ubqxg89mkv5fn5cgroujl2qb5wsmjzboe1rtqpphceckdk6kw7ga/bwxuinlzvujwa/glc814ctt1cslcst4uwwz1bemzxcwpfjrzsrlaqqinadagzdjcjgvlbh3kk0iwkdkb7rgayjzlqbty4a4mpj+diilhkh4in7eyijuutueqzteujr+dry/k/wsscodjmexgmwke4xbynaeofxqtjnileqqqfcftd/xbrpfkfgcsybdoz5ixeheva+lns358v6drzgdh2ii1rcnrpadxsngqijkhpgr+gdjawx680awr/t1ivrnnoa/sj6/aec4z5y</latexit> <latexit sha1_base64="y+ir7y8b/icpuwxqd2f49c52vji=">aaace3icbzdlssnafiynxmu9vv26gsxcbsmncnzfoedgzqvrc00nk8mkhtqthjktnys+haufxyubi1sxln0bp5eftv4w8pgfczhzfi8wxeol8m0tla+srq3nnvkbw9s7u4w9/tsdjyqyjo1epnoe0uzwkdwbg2dtwdeipcfa3ubqxg89mkv5fn5cgroujl2qb5wsmjzboe1rtqpphceckdk6kw7ga/bwxuinlzvujwa/glc814ctt1cslcst4uwwz1bemzxcwpfjrzsrlaqqinadagzdjcjgvlbh3kk0iwkdkb7rgayjzlqbty4a4mpj+diilhkh4in7eyijuutueqzteujr+dry/k/wsscodjmexgmwke4xbynaeofxqtjnileqqqfcftd/xbrpfkfgcsybdoz5ixeheva+lns358v6drzgdh2ii1rcnrpadxsngqijkhpgr+gdjawx680awr/t1ivrnnoa/sj6/aec4z5y</latexit> <latexit sha1_base64="y+ir7y8b/icpuwxqd2f49c52vji=">aaace3icbzdlssnafiynxmu9vv26gsxcbsmncnzfoedgzqvrc00nk8mkhtqthjktnys+haufxyubi1sxln0bp5eftv4w8pgfczhzfi8wxeol8m0tla+srq3nnvkbw9s7u4w9/tsdjyqyjo1epnoe0uzwkdwbg2dtwdeipcfa3ubqxg89mkv5fn5cgroujl2qb5wsmjzboe1rtqpphceckdk6kw7ga/bwxuinlzvujwa/glc814ctt1cslcst4uwwz1bemzxcwpfjrzsrlaqqinadagzdjcjgvlbh3kk0iwkdkb7rgayjzlqbty4a4mpj+diilhkh4in7eyijuutueqzteujr+dry/k/wsscodjmexgmwke4xbynaeofxqtjnileqqqfcftd/xbrpfkfgcsybdoz5ixeheva+lns358v6drzgdh2ii1rcnrpadxsngqijkhpgr+gdjawx680awr/t1ivrnnoa/sj6/aec4z5y</latexit> A Perceptron tanítása 2) Aktiválás Számítsuk ki a tényleges kimenetet a p=1 iterációs lépésben kimenet: Aktivációs függvény: Küszöb/lépés függvény (sign) kimenet: y = mx i=1 x i w i! "! # mx y(p) =step x i w i i=1

75 A Perceptron tanítása 3) Súlyok tanulása A súlyok módosítása új súly w i (p+1) = w i (p) + Δw i (p) súly korrekció Δw i (p) = η.x i (p).e(p) hiba e(p) = d(p) - y(p)

76 <latexit sha1_base64="kfjluikt+bpxayn+2ufr3a/pr9u=">aaacknicbvdlsgmxfm3ud31vxbojfqeulb0rratbconswarqgydmeqcntwag5i5ahn6qc79fxi3frr9i+lho64gek3pu5eaemjxcyk02capz8wuls8srxdw19y3n0tb2rukyzahbe5no+5azkckgbgqucj9qycqucbd2l4b+3snoi5l4bnsp+iq1yxejztbkqemiv0kpzgxc6kmisdm6k57jvjclm7f/oohzidzespa+wajfu4mhhx52ann45qelcq1ag4hoendcymscq6d07rusnimikutmtloeop8zjyjl6be9zedkeje1owlpzbqypx/t2qf7vmnrknh2xehh6u+oncljeiq0lyphx0x7q/e/r5lhvpdzeaczqszhg6jmukzomdjaeho4yp4ljgth/0p5h2ng0czbtbm40xvpkszr9btqxh+xz+utmjbjltkjfekse3jolskvarboxsgb+sqd59x5cabo17i04ex6dsgfon8/qdmoma==</latexit> <latexit sha1_base64="kfjluikt+bpxayn+2ufr3a/pr9u=">aaacknicbvdlsgmxfm3ud31vxbojfqeulb0rratbconswarqgydmeqcntwag5i5ahn6qc79fxi3frr9i+lho64gek3pu5eaemjxcyk02capz8wuls8srxdw19y3n0tb2rukyzahbe5no+5azkckgbgqucj9qycqucbd2l4b+3snoi5l4bnsp+iq1yxejztbkqemiv0kpzgxc6kmisdm6k57jvjclm7f/oohzidzespa+wajfu4mhhx52ann45qelcq1ag4hoendcymscq6d07rusnimikutmtloeop8zjyjl6be9zedkeje1owlpzbqypx/t2qf7vmnrknh2xehh6u+oncljeiq0lyphx0x7q/e/r5lhvpdzeaczqszhg6jmukzomdjaeho4yp4ljgth/0p5h2ng0czbtbm40xvpkszr9btqxh+xz+utmjbjltkjfekse3jolskvarboxsgb+sqd59x5cabo17i04ex6dsgfon8/qdmoma==</latexit> <latexit sha1_base64="kfjluikt+bpxayn+2ufr3a/pr9u=">aaacknicbvdlsgmxfm3ud31vxbojfqeulb0rratbconswarqgydmeqcntwag5i5ahn6qc79fxi3frr9i+lho64gek3pu5eaemjxcyk02capz8wuls8srxdw19y3n0tb2rukyzahbe5no+5azkckgbgqucj9qycqucbd2l4b+3snoi5l4bnsp+iq1yxejztbkqemiv0kpzgxc6kmisdm6k57jvjclm7f/oohzidzespa+wajfu4mhhx52ann45qelcq1ag4hoendcymscq6d07rusnimikutmtloeop8zjyjl6be9zedkeje1owlpzbqypx/t2qf7vmnrknh2xehh6u+oncljeiq0lyphx0x7q/e/r5lhvpdzeaczqszhg6jmukzomdjaeho4yp4ljgth/0p5h2ng0czbtbm40xvpkszr9btqxh+xz+utmjbjltkjfekse3jolskvarboxsgb+sqd59x5cabo17i04ex6dsgfon8/qdmoma==</latexit> <latexit sha1_base64="kfjluikt+bpxayn+2ufr3a/pr9u=">aaacknicbvdlsgmxfm3ud31vxbojfqeulb0rratbconswarqgydmeqcntwag5i5ahn6qc79fxi3frr9i+lho64gek3pu5eaemjxcyk02capz8wuls8srxdw19y3n0tb2rukyzahbe5no+5azkckgbgqucj9qycqucbd2l4b+3snoi5l4bnsp+iq1yxejztbkqemiv0kpzgxc6kmisdm6k57jvjclm7f/oohzidzespa+wajfu4mhhx52ann45qelcq1ag4hoendcymscq6d07rusnimikutmtloeop8zjyjl6be9zedkeje1owlpzbqypx/t2qf7vmnrknh2xehh6u+oncljeiq0lyphx0x7q/e/r5lhvpdzeaczqszhg6jmukzomdjaeho4yp4ljgth/0p5h2ng0czbtbm40xvpkszr9btqxh+xz+utmjbjltkjfekse3jolskvarboxsgb+sqd59x5cabo17i04ex6dsgfon8/qdmoma==</latexit> A Perceptron tanítása 4) Iteráció Növeljük p értékét 1-gyel, menjünk a 2. lépésre és ismételjük a folyamatot amíg nincs konvergencia " p=2 mx # Aktiválás Súlyok tanulása p=3 Aktiválás Súlyok tanulása y(p) =step i=1 w i (p+1) = w i (p) + Δw i (p) x i w i!

77 Példa Perceptron tanítása a logikai AND műveletre Epo ch Iterá ció Bemenetek Kezdeti súlyok Elvár t kime net Tényl eges kime net Hiba Végleges súlyok p x 1 (p) x 2 (p) w 1 (p) w 2 (p) d(p) y(p) e(p) w 1 (p+1) w 2 (p+1)

78 Példa 1) Inicializálás 1 epochban 4 lehetséges bemeneti minta van: 00, 01, 10, 11 A súlyok kezdeti értéke legyen w 1 = 0.3, w 2 = -0.1 Epo ch Iterá ció Bemenetek Kezdeti súlyok Elvár t kime net Tényl eges kime net Hiba Végleges súlyok p x 1 (p) x 2 (p) w 1 (p) w 2 (p) d(p) y(p) e(p) w 1 (p+1) w 2 (p+1)

79 <latexit sha1_base64="kfjluikt+bpxayn+2ufr3a/pr9u=">aaacknicbvdlsgmxfm3ud31vxbojfqeulb0rratbconswarqgydmeqcntwag5i5ahn6qc79fxi3frr9i+lho64gek3pu5eaemjxcyk02capz8wuls8srxdw19y3n0tb2rukyzahbe5no+5azkckgbgqucj9qycqucbd2l4b+3snoi5l4bnsp+iq1yxejztbkqemiv0kpzgxc6kmisdm6k57jvjclm7f/oohzidzespa+wajfu4mhhx52ann45qelcq1ag4hoendcymscq6d07rusnimikutmtloeop8zjyjl6be9zedkeje1owlpzbqypx/t2qf7vmnrknh2xehh6u+oncljeiq0lyphx0x7q/e/r5lhvpdzeaczqszhg6jmukzomdjaeho4yp4ljgth/0p5h2ng0czbtbm40xvpkszr9btqxh+xz+utmjbjltkjfekse3jolskvarboxsgb+sqd59x5cabo17i04ex6dsgfon8/qdmoma==</latexit> <latexit sha1_base64="kfjluikt+bpxayn+2ufr3a/pr9u=">aaacknicbvdlsgmxfm3ud31vxbojfqeulb0rratbconswarqgydmeqcntwag5i5ahn6qc79fxi3frr9i+lho64gek3pu5eaemjxcyk02capz8wuls8srxdw19y3n0tb2rukyzahbe5no+5azkckgbgqucj9qycqucbd2l4b+3snoi5l4bnsp+iq1yxejztbkqemiv0kpzgxc6kmisdm6k57jvjclm7f/oohzidzespa+wajfu4mhhx52ann45qelcq1ag4hoendcymscq6d07rusnimikutmtloeop8zjyjl6be9zedkeje1owlpzbqypx/t2qf7vmnrknh2xehh6u+oncljeiq0lyphx0x7q/e/r5lhvpdzeaczqszhg6jmukzomdjaeho4yp4ljgth/0p5h2ng0czbtbm40xvpkszr9btqxh+xz+utmjbjltkjfekse3jolskvarboxsgb+sqd59x5cabo17i04ex6dsgfon8/qdmoma==</latexit> <latexit sha1_base64="kfjluikt+bpxayn+2ufr3a/pr9u=">aaacknicbvdlsgmxfm3ud31vxbojfqeulb0rratbconswarqgydmeqcntwag5i5ahn6qc79fxi3frr9i+lho64gek3pu5eaemjxcyk02capz8wuls8srxdw19y3n0tb2rukyzahbe5no+5azkckgbgqucj9qycqucbd2l4b+3snoi5l4bnsp+iq1yxejztbkqemiv0kpzgxc6kmisdm6k57jvjclm7f/oohzidzespa+wajfu4mhhx52ann45qelcq1ag4hoendcymscq6d07rusnimikutmtloeop8zjyjl6be9zedkeje1owlpzbqypx/t2qf7vmnrknh2xehh6u+oncljeiq0lyphx0x7q/e/r5lhvpdzeaczqszhg6jmukzomdjaeho4yp4ljgth/0p5h2ng0czbtbm40xvpkszr9btqxh+xz+utmjbjltkjfekse3jolskvarboxsgb+sqd59x5cabo17i04ex6dsgfon8/qdmoma==</latexit> <latexit sha1_base64="kfjluikt+bpxayn+2ufr3a/pr9u=">aaacknicbvdlsgmxfm3ud31vxbojfqeulb0rratbconswarqgydmeqcntwag5i5ahn6qc79fxi3frr9i+lho64gek3pu5eaemjxcyk02capz8wuls8srxdw19y3n0tb2rukyzahbe5no+5azkckgbgqucj9qycqucbd2l4b+3snoi5l4bnsp+iq1yxejztbkqemiv0kpzgxc6kmisdm6k57jvjclm7f/oohzidzespa+wajfu4mhhx52ann45qelcq1ag4hoendcymscq6d07rusnimikutmtloeop8zjyjl6be9zedkeje1owlpzbqypx/t2qf7vmnrknh2xehh6u+oncljeiq0lyphx0x7q/e/r5lhvpdzeaczqszhg6jmukzomdjaeho4yp4ljgth/0p5h2ng0czbtbm40xvpkszr9btqxh+xz+utmjbjltkjfekse3jolskvarboxsgb+sqd59x5cabo17i04ex6dsgfon8/qdmoma==</latexit> Példa 2) Aktiválás y(p) =step Tényleges kimenet y = step[ (0(0.3)+0(-0.1)) 0.2] = step[-0.2] = 0 " mx i=1 x i w i! # Epo ch Iterá ció Bemenetek Kezdeti súlyok Elvár t kime net Tényl eges kime net Hiba Végleges súlyok p x 1 (p) x 2 (p) w 1 (p) w 2 (p) d(p) y(p) e(p) w 1 (p+1) w 2 (p+1)

80 Példa 3) Súlyok tanulása AND művelet a 00 bemenetre 0 Hiba e(p) = d(p) y(p) = 0 0 = 0 Epo ch Iterá ció Bemenetek Kezdeti súlyok Elvár t kime net Tényl eges kime net Hiba Végleges súlyok p x 1 (p) x 2 (p) w 1 (p) w 2 (p) d(p) y(p) e(p) w 1 (p+1) w 2 (p+1)

81 Példa 3)Súlyok tanulása w 1 -re: Δw 1 (p) = η.x 1 (p).e(p) = 0.1(0)(0) = 0 w 1 (p+1) = w 1 (p) + Δw 1 (p) = = 0.3 w 2 -re hasonló módon, w 2 (p+1) = -0.1 Epo ch Iterá ció Bemenetek Kezdeti súlyok Elvár t kime net Tényl eges kime net Hiba Végleges súlyok p x 1 (p) x 2 (p) w 1 (p) w 2 (p) d(p) y(p) e(p) w 1 (p+1) w 2 (p+1)

82 Példa 4) Iteráció p+1 = 2 2, 3, 4 lépések ismétlése amíg nincs konvergencia Epo ch Iterá ció Bemenetek Kezdeti súlyok Elvár t kime net Tényl eges kime net Hiba Végleges súlyok p x 1 (p) x 2 (p) w 1 (p) w 2 (p) d(p) y(p) e(p) w 1 (p+1) w 2 (p+1)

83 Példa Epoch 1 eredménye Epo ch Iterá ció Bemenetek Kezdeti súlyok Elvár t kime net Tényl eges kime net Hiba Végleges súlyok p x 1 (p) x 2 (p) w 1 (p) w 2 (p) d(p) y(p) e(p) w 1 (p+1) w 2 (p+1)

84 61 Példa Epoch 2 eredménye Epo ch Iterá ció Bemenetek Kezdeti súlyok Elvár t kime net Tényl eges kime net Hiba Végleges súlyok p x 1 (p) x 2 (p) w 1 (p) w 2 (p) d(p) y(p) e(p) w 1 (p+1) w 2 (p+1)

85 Példa Epoch 5 eredménye Epo ch Iterá ció Bemenetek Kezdeti súlyok Elvár t kime net Tényl eges kime net Hiba Végleges súlyok p x 1 (p) x 2 (p) w 1 (p) w 2 (p) d(p) y(p) e(p) w 1 (p+1) w 2 (p+1)

86 Mesterséges neurális hálózatok A mesterséges neurális hálózatok (ANN) adat feldolgozó rendszerek, melyek nagy számú egyszerű, összekapcsolt feldolgozó elemek (mesterséges neuronok) architektúrája, melyet az agy komplex viselkedésre képes szerkezete inspirált. Az ANN-ben a neuronok rétegek sorozatába vannak szervezve teljes vagy részleges kapcsolattal az egyes rétegek között. Az egyszerűség kedvéért, általában az ugyanabban a rétegben lévő neuronok aktivációs függvénye megegyezik.

87 Mesterséges neurális hálózatok A hálózat paramétereinek (súlyok) módosítása minták alapján 0. réteg 1. réteg 2. réteg N-1. réteg N. réteg Hálózat bemenetei x 1 x 2 x n y 1 y 2 y l Hálózat kimenetei Bemeneti réteg 1. rejtett réteg 2. rejtett réteg (N-1). rejtett réteg Kimeneti réteg

88 Felügyelet nélküli tanulás Nem mindig áll rendelkezésre címkézett adat (azaz olyan adat, amelynek a kimeneti osztálya ismert) Néha még maguk az osztályok és azok jellemzői sem ismertek A klaszterek olyak adatcsoportok, amelyben az egyes pontok távolsága kicsi (hasonlósága nagy), míg a különböző klaszterekben lévő pontok között nagy a távolság (kicsi a hasonlóság)

89 Egy egyszerű példa

90 Klaszterezés vs. osztályozás Az objektumokat egy vagy több jellemzővel írjuk le Osztályozás (klasszifikáció) A pontok címkével rendelkeznek Szeretnénk egy szabályt, ami pontosan címkét rendel minden új ponthoz Felügyelt tanulás Klaszterezés Nincsenek címkék A pontok klaszterekbe csoportosítása annak alapján, hogy milyen közel vannak egymáshoz Struktúra azonosítása az adatokban Felügyelet nélküli tanulás

91 K-means klaszterezés Inicializálás: K meghatározása K darab klasztercenter véletlenszerű felvétele

92 K-means klaszterezés Iteráció: minden pontot a hozzá legközelebbi centerhez rendeljük a centereket a hozzá tartozó elemek átlaga felé mozgatjuk

93 K-means klaszterezés Iteráció: a centerek mozgatása után az elemek újrahozzárendelése történik a legközelebbi centerhez

94 K-means klaszterezés Iteráció: a centereket a hozzá tartozó elemek átlaga felé mozgatjuk

95 K-means klaszterezés Végül: az iterációt addig folytatjuk, amíg a pontok szinezése már nem változik

96 K-means klaszterezés 1. Döntsük el K értékét, azaz a klaszterek számát 2. Inicializáljuk a K klaszter centert 3. Döntsük el minden pontról, hogy melyik klaszterbe tartozik a távolság alapján 4. Újra határozzuk meg a K klaszter centert az elemei alapján 5. Ismételgessük a 3. és a 4. lépést, amíg a pontok hozzárendelése már nem változik

97 K-means klaszterezés Erőssége: Egyszerű, könnyű implementálni Intuitív objektív függvény: optimalizálja az intra-klaszter hasonlóságot Viszonylag hatékony: O(tkn), ahol n: pontok (adatok) száma, k: klaszterek száma, t iteráció, általában: k,t<<n Gyengeségei: Csak akkor alkalmazható, ha az átlag definiálva van Sokszor leragad a lokális optimumban. Fontos a jó inicializálás. Előre meg kell határozni K-t. Nem alkalmas zajos adatok és outlierek kezelésére Nem-konvex alakú klaszterek felderítésére alkalmatlan

98 Hogyan tudjuk meghatározni a klaszterek megfelelő számát? Általában ez egy megoldatlan probléma. De léteznek közelítő módszerek.

99 Ha k=1, akkor az objektív függvény értéke: 873.0

100 Ha k=2, akkor az objektív függvény értéke: 173.1

101 Ha k=3, akkor az objektív függvény értéke: 133.6

102 Ábrázoljuk az objektív függvényt a különböző k értékekre Látszik a meredek csökkenés k=2-nél Könyök megtalálása Sokszor nem ilyen egyértelmű a helyzet

103 Önszerveződő térképek Az önszerveződő térképet (Self-Organizing Map, SOM) Kohonen fejlesztette ki. Számos alkalmazásban hasznosnak bizonyult. Az egyik legnépszerűbb neurális hálózat modell. A kompetitív tanuló hálózatok kategóriájába tartozik. Felügyelet nélküli tanulást valósít meg, azaz nincs szükség emberi beavatkozásra a tanulás során, és nem sok ismeretre van szükség a bemeneti adat karakterisztikájáról.

104 Önszerveződő térképek Topológia megőrző leképezést nyújt a nagy-dimenziós térből a térkép egységeibe. A térkép egységei, vagy neuronok, általában egy két-dimenziós rácsot formálnak, és ezáltal a leképezés a nagydimenziós térből egy síkra történik. A topológia megőrző képesség azt jelenti, hogy a leképezés megőrzi a relatív távolságot a pontok között. Azok a pontok, amelyek közel vannak egymáshoz a bemeneti térben, azok egymáshoz közeli SOM egységekbe lesznek képezve. Az általánosító képesség azt jelenti, hogy a hálózat fel tud ismerni olyan bemeneteket is, amelyeket korábban még nem tapasztalt. Az új bemenet a neki megfelelő SOM egységbe lesz leképezve.

105 Az általános probléma Hogyan tud egy algoritmus felügyelet nélkül tanulni? azaz tanító nélkül

106 Önszerveződő térképek Kategorizáló módszer Egy neurális hálózatos technika Felügyelet nélküli

107 Bemenet és kimenet Tanító adatok: vektorok (X) p darab, n dimenziós vektor (x 1,1,x 1,2,,x 1,i,,x 1,n ) (x 2,1,x 2,2,,x 2,i,,x 2,n ) (x j,1,x j,2,,x 1,i,,x j,n ) (x p,1,x p,2,,x p,i,,x p,n ) a vektor komponensei valós számok Kimenetek: Egy m dimenziós vektor (Y) (y 1,y 2,,y i,,y m ) Mind a p tanító vektor az m klaszter közül az egyikbe lesz besorolva Melyik klaszterbe esik az adott tanító vektor? Általánosítás: egy új (x l,1,x l,2,,x l,i,,x l,n ) vektor az m klaszter közül melyikbe esik?

108 Hálózati architektúra Két réteg Bemenet: n egység (a tanító vektorok komponenseinek a száma) Kimenet: m egység (a klaszterek száma) A bemeneti egységek és a kimeneti egységek teljes összeköttetésben vannak súlyokkal Rétegen belüli összeköttetések A kimeneti réteg esetén Valamilyen topológia szerint Nincs súlyérték ezeknél az összeköttetéseknél

109 Hálózati architektúra Bemenetek n bemeneti egység Kimenetek m kimeneti egység minden kimeneti egységhez egy n dimenziós súlyvektor tartozik

110 Teljes SOM architektúra Tanítás A kimeneti réteg topológiájának megválasztása A bemeneteket a kimenetekkel összekötő súlyok tanítása A topológia és a térkép jelenlegi állapota alapján annak eldöntése, hogy mely súlyok kerülnek módosításra A távolsági mérték az idővel csökken, azaz az egy iterációban módosítandó súlyok száma folyamatosan csökken A tanulási ráta is csökken az idő függvényében Tesztelés A tanulás során megtanult súlyok alapján

111 A kimeneti réteg topológiája Általában térbeli módon nézzük pl. 1D vagy 2D elrendezés 1D elrendezés A topológia definiálja, hogy melyik kimeneti egységeknek melyek a szomszédai D(t) függvény definiálja a szomszédságot az idő függvényében (iterációról iterációra) Pl. 3 kimeneti egység B A C D(t)=1 azt jelenti, hogy a B egység és az A egység súlyait is módosítani kell, ha a bemenet a B egységre képződik

112 Példa: 2D kimeneti réteg topológia 50 egység Teljes összeköttetés súlyokkal 50 egység A D(t) függvény egy sugarat ad meg a kimeneti egységeken az idő függvényében (iteráció alapján). Általában kezdetben nagyobb a sugár, és később folyamatosan csökken

113 SOM topológiája Általában a SOM-t 2D topológiával használják, a kimenetek összekötve egymással Ilyen módon a végső kimenetet térben lehet interpretálni, mint egyfajta térképet

114 <latexit sha1_base64="1n1d0e0sph2ehpj1f/+tad6x86g=">aaaccnicbvbps8mwhe3nvzn/tt16cq5hax3rejwhyedf4wtrbltx0izdyto0jkkysj+abz+lby8or34bj34bs60h3xwq8njv/uh+z40ylapw+zzyk6tr6xv5zclw9s7uxnh/4f6gscdewielrcdfkjdkiawoyqqtcyicl5g2619p/fyjezkg/e6ni2ihamiprzfswnkkpz6mayfxr8y0z2gzogk79dozjyd50hdzvsr9uk7vqruz4dixm1icgvpo8as3checek4wq1j2g5gyeyquxyykhv4ssyswj4akqylhazf2mtslhsdaguavfppwbwfq74kebvkoa1cna6rgctgbiv953vh5dtuhpiov4xj+kbczqei4lqyoqcbysbemcauq/wrxcamela6vodswfzdejla9elk1b89lzuzwrh4cgwnqbia4ae1wa1raahg8g1fwdibgi/fmtiypetrnzdoh4a+mzx/zjjnw</latexit> <latexit sha1_base64="1n1d0e0sph2ehpj1f/+tad6x86g=">aaaccnicbvbps8mwhe3nvzn/tt16cq5hax3rejwhyedf4wtrbltx0izdyto0jkkysj+abz+lby8or34bj34bs60h3xwq8njv/uh+z40ylapw+zzyk6tr6xv5zclw9s7uxnh/4f6gscdewielrcdfkjdkiawoyqqtcyicl5g2619p/fyjezkg/e6ni2ihamiprzfswnkkpz6mayfxr8y0z2gzogk79dozjyd50hdzvsr9uk7vqruz4dixm1icgvpo8as3checek4wq1j2g5gyeyquxyykhv4ssyswj4akqylhazf2mtslhsdaguavfppwbwfq74kebvkoa1cna6rgctgbiv953vh5dtuhpiov4xj+kbczqei4lqyoqcbysbemcauq/wrxcamela6vodswfzdejla9elk1b89lzuzwrh4cgwnqbia4ae1wa1raahg8g1fwdibgi/fmtiypetrnzdoh4a+mzx/zjjnw</latexit> <latexit sha1_base64="1n1d0e0sph2ehpj1f/+tad6x86g=">aaaccnicbvbps8mwhe3nvzn/tt16cq5hax3rejwhyedf4wtrbltx0izdyto0jkkysj+abz+lby8or34bj34bs60h3xwq8njv/uh+z40ylapw+zzyk6tr6xv5zclw9s7uxnh/4f6gscdewielrcdfkjdkiawoyqqtcyicl5g2619p/fyjezkg/e6ni2ihamiprzfswnkkpz6mayfxr8y0z2gzogk79dozjyd50hdzvsr9uk7vqruz4dixm1icgvpo8as3checek4wq1j2g5gyeyquxyykhv4ssyswj4akqylhazf2mtslhsdaguavfppwbwfq74kebvkoa1cna6rgctgbiv953vh5dtuhpiov4xj+kbczqei4lqyoqcbysbemcauq/wrxcamela6vodswfzdejla9elk1b89lzuzwrh4cgwnqbia4ae1wa1raahg8g1fwdibgi/fmtiypetrnzdoh4a+mzx/zjjnw</latexit> <latexit sha1_base64="1n1d0e0sph2ehpj1f/+tad6x86g=">aaaccnicbvbps8mwhe3nvzn/tt16cq5hax3rejwhyedf4wtrbltx0izdyto0jkkysj+abz+lby8or34bj34bs60h3xwq8njv/uh+z40ylapw+zzyk6tr6xv5zclw9s7uxnh/4f6gscdewielrcdfkjdkiawoyqqtcyicl5g2619p/fyjezkg/e6ni2ihamiprzfswnkkpz6mayfxr8y0z2gzogk79dozjyd50hdzvsr9uk7vqruz4dixm1icgvpo8as3checek4wq1j2g5gyeyquxyykhv4ssyswj4akqylhazf2mtslhsdaguavfppwbwfq74kebvkoa1cna6rgctgbiv953vh5dtuhpiov4xj+kbczqei4lqyoqcbysbemcauq/wrxcamela6vodswfzdejla9elk1b89lzuzwrh4cgwnqbia4ae1wa1raahg8g1fwdibgi/fmtiypetrnzdoh4a+mzx/zjjnw</latexit> <latexit sha1_base64="txiwm5jsmotvrygflzpgh0jub5k=">aaaccnicbvdnssnagnzuv1r/qh69bivquiyncnadupdisykxhtaezxbtrt1swu4xpyq+gaefxymxi1dfwknv4zbnqvshlh1m5mp3gy/iteg9/m3kvlbx1jfym4wt7z3dvel+wb0ky0motuieyo6hfevmubsycnqjjmwbx2nbg13p/pyjlyqf4g7gexucpbdmzwsdltxi6cl9kepvqlylpfltucd6ljoxn86lik7va/uu5jkxmljcgvpu8avxd0kcuagey6w6jqicbetghnnjorcrgmeywgpa1vtggconsxezmcda6zt+kpurykbq74keb0qna08nawxdtejnxp+8bgx+w0myigkggswf8mnuqmjoijh7tficfkwjjplpv5pkicumoosr6a6sxy2xix1wu6xzt+elzimri4+o0deqiwtdoca6qs1ki4ke0st6r1pjxxgzpsbhpjozspld9afg5w+9apie</latexit> <latexit sha1_base64="txiwm5jsmotvrygflzpgh0jub5k=">aaaccnicbvdnssnagnzuv1r/qh69bivquiyncnadupdisykxhtaezxbtrt1swu4xpyq+gaefxymxi1dfwknv4zbnqvshlh1m5mp3gy/iteg9/m3kvlbx1jfym4wt7z3dvel+wb0ky0motuieyo6hfevmubsycnqjjmwbx2nbg13p/pyjlyqf4g7gexucpbdmzwsdltxi6cl9kepvqlylpfltucd6ljoxn86lik7va/uu5jkxmljcgvpu8avxd0kcuagey6w6jqicbetghnnjorcrgmeywgpa1vtggconsxezmcda6zt+kpurykbq74keb0qna08nawxdtejnxp+8bgx+w0myigkggswf8mnuqmjoijh7tficfkwjjplpv5pkicumoosr6a6sxy2xix1wu6xzt+elzimri4+o0deqiwtdoca6qs1ki4ke0st6r1pjxxgzpsbhpjozspld9afg5w+9apie</latexit> <latexit sha1_base64="txiwm5jsmotvrygflzpgh0jub5k=">aaaccnicbvdnssnagnzuv1r/qh69bivquiyncnadupdisykxhtaezxbtrt1swu4xpyq+gaefxymxi1dfwknv4zbnqvshlh1m5mp3gy/iteg9/m3kvlbx1jfym4wt7z3dvel+wb0ky0motuieyo6hfevmubsycnqjjmwbx2nbg13p/pyjlyqf4g7gexucpbdmzwsdltxi6cl9kepvqlylpfltucd6ljoxn86lik7va/uu5jkxmljcgvpu8avxd0kcuagey6w6jqicbetghnnjorcrgmeywgpa1vtggconsxezmcda6zt+kpurykbq74keb0qna08nawxdtejnxp+8bgx+w0myigkggswf8mnuqmjoijh7tficfkwjjplpv5pkicumoosr6a6sxy2xix1wu6xzt+elzimri4+o0deqiwtdoca6qs1ki4ke0st6r1pjxxgzpsbhpjozspld9afg5w+9apie</latexit> <latexit sha1_base64="txiwm5jsmotvrygflzpgh0jub5k=">aaaccnicbvdnssnagnzuv1r/qh69bivquiyncnadupdisykxhtaezxbtrt1swu4xpyq+gaefxymxi1dfwknv4zbnqvshlh1m5mp3gy/iteg9/m3kvlbx1jfym4wt7z3dvel+wb0ky0motuieyo6hfevmubsycnqjjmwbx2nbg13p/pyjlyqf4g7gexucpbdmzwsdltxi6cl9kepvqlylpfltucd6ljoxn86lik7va/uu5jkxmljcgvpu8avxd0kcuagey6w6jqicbetghnnjorcrgmeywgpa1vtggconsxezmcda6zt+kpurykbq74keb0qna08nawxdtejnxp+8bgx+w0myigkggswf8mnuqmjoijh7tficfkwjjplpv5pkicumoosr6a6sxy2xix1wu6xzt+elzimri4+o0deqiwtdoca6qs1ki4ke0st6r1pjxxgzpsbhpjozspld9afg5w+9apie</latexit> <latexit sha1_base64="oth4jzeaysvtrublcuxxbzf8wwg=">aaaca3icbzc7sgnbfizn4y3gw9rsi8egxmkwk4irlai2lhfce0hcmj2ctybmxpw5k4qljyxpymfjspuhlh0bj5sugv1h4jv/nmpm+b1yco22/wxllpzxvtfy64wnza3tnelu3r2oesxb5zgmvnnjgqqiwuwbepqxahz4ehre8hpabzyc0iik73auqydg/vd4gjm0vrd4af+1avkzt9oshmz46mqx6nsljbtiz6j/wzldicxv7xy/272ijwgeycxtulwnszmyhyjlgbfaiyay8shrq8tgyalqntrbykypjdojfqtmczfm7s+jlavajwlpdaymb3qxnjx/q7us9kudvirxghdy2un+iilgdjoi7qkfhoxiaonkml9spmckcts5fuwgzulgf8e9q1xwnnvzuq06dynpdsgrkrohxjaausf14hjonsglesmt69l6tsbw+6w1z81n9skvwr/fuxqwaw==</latexit> <latexit sha1_base64="oth4jzeaysvtrublcuxxbzf8wwg=">aaaca3icbzc7sgnbfizn4y3gw9rsi8egxmkwk4irlai2lhfce0hcmj2ctybmxpw5k4qljyxpymfjspuhlh0bj5sugv1h4jv/nmpm+b1yco22/wxllpzxvtfy64wnza3tnelu3r2oesxb5zgmvnnjgqqiwuwbepqxahz4ehre8hpabzyc0iik73auqydg/vd4gjm0vrd4af+1avkzt9oshmz46mqx6nsljbtiz6j/wzldicxv7xy/272ijwgeycxtulwnszmyhyjlgbfaiyay8shrq8tgyalqntrbykypjdojfqtmczfm7s+jlavajwlpdaymb3qxnjx/q7us9kudvirxghdy2un+iilgdjoi7qkfhoxiaonkml9spmckcts5fuwgzulgf8e9q1xwnnvzuq06dynpdsgrkrohxjaausf14hjonsglesmt69l6tsbw+6w1z81n9skvwr/fuxqwaw==</latexit> <latexit sha1_base64="oth4jzeaysvtrublcuxxbzf8wwg=">aaaca3icbzc7sgnbfizn4y3gw9rsi8egxmkwk4irlai2lhfce0hcmj2ctybmxpw5k4qljyxpymfjspuhlh0bj5sugv1h4jv/nmpm+b1yco22/wxllpzxvtfy64wnza3tnelu3r2oesxb5zgmvnnjgqqiwuwbepqxahz4ehre8hpabzyc0iik73auqydg/vd4gjm0vrd4af+1avkzt9oshmz46mqx6nsljbtiz6j/wzldicxv7xy/272ijwgeycxtulwnszmyhyjlgbfaiyay8shrq8tgyalqntrbykypjdojfqtmczfm7s+jlavajwlpdaymb3qxnjx/q7us9kudvirxghdy2un+iilgdjoi7qkfhoxiaonkml9spmckcts5fuwgzulgf8e9q1xwnnvzuq06dynpdsgrkrohxjaausf14hjonsglesmt69l6tsbw+6w1z81n9skvwr/fuxqwaw==</latexit> <latexit sha1_base64="oth4jzeaysvtrublcuxxbzf8wwg=">aaaca3icbzc7sgnbfizn4y3gw9rsi8egxmkwk4irlai2lhfce0hcmj2ctybmxpw5k4qljyxpymfjspuhlh0bj5sugv1h4jv/nmpm+b1yco22/wxllpzxvtfy64wnza3tnelu3r2oesxb5zgmvnnjgqqiwuwbepqxahz4ehre8hpabzyc0iik73auqydg/vd4gjm0vrd4af+1avkzt9oshmz46mqx6nsljbtiz6j/wzldicxv7xy/272ijwgeycxtulwnszmyhyjlgbfaiyay8shrq8tgyalqntrbykypjdojfqtmczfm7s+jlavajwlpdaymb3qxnjx/q7us9kudvirxghdy2un+iilgdjoi7qkfhoxiaonkml9spmckcts5fuwgzulgf8e9q1xwnnvzuq06dynpdsgrkrohxjaausf14hjonsglesmt69l6tsbw+6w1z81n9skvwr/fuxqwaw==</latexit> A SOM algoritmus Válasszuk meg a kimeneti réteg topológiáját Inicializáljuk a szomszédsági távolságot, D(0)-t egy pozitív értékre Inicializáljuk a bemenetek és kimenetek közötti súlyokat kicsi, véletlen értékekre Legyen t=1 Amíg van számítási kapacitás, ismételjük: 1. Vegyünk egy bemeneti tanító mintát (il ) 2. Számítsuk ki az Euklideszi távolság négyzetét il és minden egyes kimeneti egység nx súlyvektora (w j ) között: k=1 (i l,k w j,k (t)) 2 3. Válasszuk ki azt a j* kimeneti egységet, amelyre a 2. pontban számított érték a legkisebb 4. Módosítsuk az összes olyan súlyvektort, amely j*-tól beleesik a D(t) általi topológikus távolságba. A súlymódosítás: 5. Növeljük t-t. A tanulási ráta általában időben csökken: w j (t + 1) = w j (t)+ (t)(i l 0 < (t) apple (t 1) apple 1 w j (t))

115 Példa n=4, m=2 Tanító minták: Hálózati architektúra i1: (1,1,0,0) i2: (0,0,0,1) i3: (1,0,0,0) i4: (0,0,1,1) Bemeneti egységek Kimeneti egységek 1 2 Mit várunk kimenetként?

116 Mik a tanító minták közötti Euklideszi távolságok?

117 Euklideszi távolságok a tanító minták között Bemeneti egységek Kimeneti egységek 1 2 Mit várunk el a SOM-tól?

118 <latexit sha1_base64="xdtgzbfsn9p0btmf7cfh0hpojwg=">aaaco3icbvdltgixfo3gc8cx6tjni9g4igoiwi7ejutmqegyqjrlag2dzqttgmmeh3php7h058knxk17yzaxvk7sk5nze9t7jxdyprtjpfuzldw19y3spr21vbo7l9s/ufvbjcm0amad2fgias4etdtthdqhboj7hnre5gprb9+bvcwqtt0noeetkwbdrok2vj/xdd0ymrf7ptgs3c9sboausvju8gxcfwnxsoumxwpilboujhxuuyagx4/0c3mn4ctaf0uxfxmuothppbmdgey+ce05uapbdxuvjlizymfmu5gcknajguhxsef8ul04wx6gt4wzwmnamim0ttzvhthxlzr6nrlpxhur37wf+v+tg+lhtrczeuyabf1+niw41gfejikhtalvfgoeozkzwtede0monnnbjopi743/ilapucsub8r5ejuni4uo0de6q0vuqxv0jrqohsh6qc/odc2tr+vvmlvvy6szk+05rd9gfxwcg1mkvg==</latexit> <latexit sha1_base64="xdtgzbfsn9p0btmf7cfh0hpojwg=">aaaco3icbvdltgixfo3gc8cx6tjni9g4igoiwi7ejutmqegyqjrlag2dzqttgmmeh3php7h058knxk17yzaxvk7sk5nze9t7jxdyprtjpfuzldw19y3spr21vbo7l9s/ufvbjcm0amad2fgias4etdtthdqhboj7hnre5gprb9+bvcwqtt0noeetkwbdrok2vj/xdd0ymrf7ptgs3c9sboausvju8gxcfwnxsoumxwpilboujhxuuyagx4/0c3mn4ctaf0uxfxmuothppbmdgey+ce05uapbdxuvjlizymfmu5gcknajguhxsef8ul04wx6gt4wzwmnamim0ttzvhthxlzr6nrlpxhur37wf+v+tg+lhtrczeuyabf1+niw41gfejikhtalvfgoeozkzwtede0monnnbjopi743/ilapucsub8r5ejuni4uo0de6q0vuqxv0jrqohsh6qc/odc2tr+vvmlvvy6szk+05rd9gfxwcg1mkvg==</latexit> <latexit sha1_base64="xdtgzbfsn9p0btmf7cfh0hpojwg=">aaaco3icbvdltgixfo3gc8cx6tjni9g4igoiwi7ejutmqegyqjrlag2dzqttgmmeh3php7h058knxk17yzaxvk7sk5nze9t7jxdyprtjpfuzldw19y3spr21vbo7l9s/ufvbjcm0amad2fgias4etdtthdqhboj7hnre5gprb9+bvcwqtt0noeetkwbdrok2vj/xdd0ymrf7ptgs3c9sboausvju8gxcfwnxsoumxwpilboujhxuuyagx4/0c3mn4ctaf0uxfxmuothppbmdgey+ce05uapbdxuvjlizymfmu5gcknajguhxsef8ul04wx6gt4wzwmnamim0ttzvhthxlzr6nrlpxhur37wf+v+tg+lhtrczeuyabf1+niw41gfejikhtalvfgoeozkzwtede0monnnbjopi743/ilapucsub8r5ejuni4uo0de6q0vuqxv0jrqohsh6qc/odc2tr+vvmlvvy6szk+05rd9gfxwcg1mkvg==</latexit> <latexit sha1_base64="xdtgzbfsn9p0btmf7cfh0hpojwg=">aaaco3icbvdltgixfo3gc8cx6tjni9g4igoiwi7ejutmqegyqjrlag2dzqttgmmeh3php7h058knxk17yzaxvk7sk5nze9t7jxdyprtjpfuzldw19y3spr21vbo7l9s/ufvbjcm0amad2fgias4etdtthdqhboj7hnre5gprb9+bvcwqtt0noeetkwbdrok2vj/xdd0ymrf7ptgs3c9sboausvju8gxcfwnxsoumxwpilboujhxuuyagx4/0c3mn4ctaf0uxfxmuothppbmdgey+ce05uapbdxuvjlizymfmu5gcknajguhxsef8ul04wx6gt4wzwmnamim0ttzvhthxlzr6nrlpxhur37wf+v+tg+lhtrczeuyabf1+niw41gfejikhtalvfgoeozkzwtede0monnnbjopi743/ilapucsub8r5ejuni4uo0de6q0vuqxv0jrqohsh6qc/odc2tr+vvmlvvy6szk+05rd9gfxwcg1mkvg==</latexit> <latexit sha1_base64="txiwm5jsmotvrygflzpgh0jub5k=">aaaccnicbvdnssnagnzuv1r/qh69bivquiyncnadupdisykxhtaezxbtrt1swu4xpyq+gaefxymxi1dfwknv4zbnqvshlh1m5mp3gy/iteg9/m3kvlbx1jfym4wt7z3dvel+wb0ky0motuieyo6hfevmubsycnqjjmwbx2nbg13p/pyjlyqf4g7gexucpbdmzwsdltxi6cl9kepvqlylpfltucd6ljoxn86lik7va/uu5jkxmljcgvpu8avxd0kcuagey6w6jqicbetghnnjorcrgmeywgpa1vtggconsxezmcda6zt+kpurykbq74keb0qna08nawxdtejnxp+8bgx+w0myigkggswf8mnuqmjoijh7tficfkwjjplpv5pkicumoosr6a6sxy2xix1wu6xzt+elzimri4+o0deqiwtdoca6qs1ki4ke0st6r1pjxxgzpsbhpjozspld9afg5w+9apie</latexit> <latexit sha1_base64="txiwm5jsmotvrygflzpgh0jub5k=">aaaccnicbvdnssnagnzuv1r/qh69bivquiyncnadupdisykxhtaezxbtrt1swu4xpyq+gaefxymxi1dfwknv4zbnqvshlh1m5mp3gy/iteg9/m3kvlbx1jfym4wt7z3dvel+wb0ky0motuieyo6hfevmubsycnqjjmwbx2nbg13p/pyjlyqf4g7gexucpbdmzwsdltxi6cl9kepvqlylpfltucd6ljoxn86lik7va/uu5jkxmljcgvpu8avxd0kcuagey6w6jqicbetghnnjorcrgmeywgpa1vtggconsxezmcda6zt+kpurykbq74keb0qna08nawxdtejnxp+8bgx+w0myigkggswf8mnuqmjoijh7tficfkwjjplpv5pkicumoosr6a6sxy2xix1wu6xzt+elzimri4+o0deqiwtdoca6qs1ki4ke0st6r1pjxxgzpsbhpjozspld9afg5w+9apie</latexit> <latexit sha1_base64="txiwm5jsmotvrygflzpgh0jub5k=">aaaccnicbvdnssnagnzuv1r/qh69bivquiyncnadupdisykxhtaezxbtrt1swu4xpyq+gaefxymxi1dfwknv4zbnqvshlh1m5mp3gy/iteg9/m3kvlbx1jfym4wt7z3dvel+wb0ky0motuieyo6hfevmubsycnqjjmwbx2nbg13p/pyjlyqf4g7gexucpbdmzwsdltxi6cl9kepvqlylpfltucd6ljoxn86lik7va/uu5jkxmljcgvpu8avxd0kcuagey6w6jqicbetghnnjorcrgmeywgpa1vtggconsxezmcda6zt+kpurykbq74keb0qna08nawxdtejnxp+8bgx+w0myigkggswf8mnuqmjoijh7tficfkwjjplpv5pkicumoosr6a6sxy2xix1wu6xzt+elzimri4+o0deqiwtdoca6qs1ki4ke0st6r1pjxxgzpsbhpjozspld9afg5w+9apie</latexit> <latexit sha1_base64="txiwm5jsmotvrygflzpgh0jub5k=">aaaccnicbvdnssnagnzuv1r/qh69bivquiyncnadupdisykxhtaezxbtrt1swu4xpyq+gaefxymxi1dfwknv4zbnqvshlh1m5mp3gy/iteg9/m3kvlbx1jfym4wt7z3dvel+wb0ky0motuieyo6hfevmubsycnqjjmwbx2nbg13p/pyjlyqf4g7gexucpbdmzwsdltxi6cl9kepvqlylpfltucd6ljoxn86lik7va/uu5jkxmljcgvpu8avxd0kcuagey6w6jqicbetghnnjorcrgmeywgpa1vtggconsxezmcda6zt+kpurykbq74keb0qna08nawxdtejnxp+8bgx+w0myigkggswf8mnuqmjoijh7tficfkwjjplpv5pkicumoosr6a6sxy2xix1wu6xzt+elzimri4+o0deqiwtdoca6qs1ki4ke0st6r1pjxxgzpsbhpjozspld9afg5w+9apie</latexit> <latexit sha1_base64="1n1d0e0sph2ehpj1f/+tad6x86g=">aaaccnicbvbps8mwhe3nvzn/tt16cq5hax3rejwhyedf4wtrbltx0izdyto0jkkysj+abz+lby8or34bj34bs60h3xwq8njv/uh+z40ylapw+zzyk6tr6xv5zclw9s7uxnh/4f6gscdewielrcdfkjdkiawoyqqtcyicl5g2619p/fyjezkg/e6ni2ihamiprzfswnkkpz6mayfxr8y0z2gzogk79dozjyd50hdzvsr9uk7vqruz4dixm1icgvpo8as3checek4wq1j2g5gyeyquxyykhv4ssyswj4akqylhazf2mtslhsdaguavfppwbwfq74kebvkoa1cna6rgctgbiv953vh5dtuhpiov4xj+kbczqei4lqyoqcbysbemcauq/wrxcamela6vodswfzdejla9elk1b89lzuzwrh4cgwnqbia4ae1wa1raahg8g1fwdibgi/fmtiypetrnzdoh4a+mzx/zjjnw</latexit> <latexit sha1_base64="1n1d0e0sph2ehpj1f/+tad6x86g=">aaaccnicbvbps8mwhe3nvzn/tt16cq5hax3rejwhyedf4wtrbltx0izdyto0jkkysj+abz+lby8or34bj34bs60h3xwq8njv/uh+z40ylapw+zzyk6tr6xv5zclw9s7uxnh/4f6gscdewielrcdfkjdkiawoyqqtcyicl5g2619p/fyjezkg/e6ni2ihamiprzfswnkkpz6mayfxr8y0z2gzogk79dozjyd50hdzvsr9uk7vqruz4dixm1icgvpo8as3checek4wq1j2g5gyeyquxyykhv4ssyswj4akqylhazf2mtslhsdaguavfppwbwfq74kebvkoa1cna6rgctgbiv953vh5dtuhpiov4xj+kbczqei4lqyoqcbysbemcauq/wrxcamela6vodswfzdejla9elk1b89lzuzwrh4cgwnqbia4ae1wa1raahg8g1fwdibgi/fmtiypetrnzdoh4a+mzx/zjjnw</latexit> <latexit sha1_base64="1n1d0e0sph2ehpj1f/+tad6x86g=">aaaccnicbvbps8mwhe3nvzn/tt16cq5hax3rejwhyedf4wtrbltx0izdyto0jkkysj+abz+lby8or34bj34bs60h3xwq8njv/uh+z40ylapw+zzyk6tr6xv5zclw9s7uxnh/4f6gscdewielrcdfkjdkiawoyqqtcyicl5g2619p/fyjezkg/e6ni2ihamiprzfswnkkpz6mayfxr8y0z2gzogk79dozjyd50hdzvsr9uk7vqruz4dixm1icgvpo8as3checek4wq1j2g5gyeyquxyykhv4ssyswj4akqylhazf2mtslhsdaguavfppwbwfq74kebvkoa1cna6rgctgbiv953vh5dtuhpiov4xj+kbczqei4lqyoqcbysbemcauq/wrxcamela6vodswfzdejla9elk1b89lzuzwrh4cgwnqbia4ae1wa1raahg8g1fwdibgi/fmtiypetrnzdoh4a+mzx/zjjnw</latexit> <latexit sha1_base64="1n1d0e0sph2ehpj1f/+tad6x86g=">aaaccnicbvbps8mwhe3nvzn/tt16cq5hax3rejwhyedf4wtrbltx0izdyto0jkkysj+abz+lby8or34bj34bs60h3xwq8njv/uh+z40ylapw+zzyk6tr6xv5zclw9s7uxnh/4f6gscdewielrcdfkjdkiawoyqqtcyicl5g2619p/fyjezkg/e6ni2ihamiprzfswnkkpz6mayfxr8y0z2gzogk79dozjyd50hdzvsr9uk7vqruz4dixm1icgvpo8as3checek4wq1j2g5gyeyquxyykhv4ssyswj4akqylhazf2mtslhsdaguavfppwbwfq74kebvkoa1cna6rgctgbiv953vh5dtuhpiov4xj+kbczqei4lqyoqcbysbemcauq/wrxcamela6vodswfzdejla9elk1b89lzuzwrh4cgwnqbia4ae1wa1raahg8g1fwdibgi/fmtiypetrnzdoh4a+mzx/zjjnw</latexit> Tanító minták: i1: (1,1,0,0) i2: (0,0,0,1) Bemeneti egységek i3: (1,0,0,0) i4: (0,0,1,1) Legyen a szomszédság: 0 Kimeneti egységek 1 2 azaz minden iterációban csak a győztes kimeneti egység súlyvektorát módosítjuk Tanulási ráta: η(t)=0.6, ha 1<=t<=4 η(t)=0.5η(1), ha 5<=t<=8 η(t)=0.5η(5), ha 9<=t<=12 Kezdeti súlymátrix: véletlen 0 és 1 közötti értékek 1. egység: 2. egység: d 2=(Euklideszi távolság) 2 = súlymódosítás: apple nx (i l,k w j,k (t)) 2 k=1 w j (t + 1) = w j (t)+ (t)(i l w j (t))

119 <latexit sha1_base64="w3sd37irurz2l7jz8oholnyl7ua=">aaacp3icbvdltgixfo3gc8cx6tjni9g4ijnebxykblxiikrcenipf2jodcztx0gm/jol/8clexdujg7dwyajufakvt05594+jh9xprtjvfq5ldw19y38pr21vbo7v9g/ufnhlck0achd2fkjas4endxthfqrbbl4ho790dxmv38aqvgobvu4gk5abol1gsxasn1cy/nhwetib0rl9jixsyftkuntuy/tephwgva8zkzn3crcllftzs3bhojez0hdqteposnwmnezukqzgt3ci9clarya0jqtpdrvshcsijwjhca2fyuicb2rabqnfsqa1unsacb4xcg93a+lwuljvp09kzbaqxhgm07zvkfa9gbif1471v1qj2eiijuior+oh3osqzxle/eybkr52bbcjtnvxxrijkhazg6bdnzfhy+tzrluk7k358v6nqsjj47qmtpdlqqgorpgddrefd2hn/sbptaz9w5nrc95a87kzg7rh1hf351bpu0=</latexit> <latexit sha1_base64="w3sd37irurz2l7jz8oholnyl7ua=">aaacp3icbvdltgixfo3gc8cx6tjni9g4ijnebxykblxiikrcenipf2jodcztx0gm/jol/8clexdujg7dwyajufakvt05594+jh9xprtjvfq5ldw19y38pr21vbo7v9g/ufnhlck0achd2fkjas4endxthfqrbbl4ho790dxmv38aqvgobvu4gk5abol1gsxasn1cy/nhwetib0rl9jixsyftkuntuy/tephwgva8zkzn3crcllftzs3bhojez0hdqteposnwmnezukqzgt3ci9clarya0jqtpdrvshcsijwjhca2fyuicb2rabqnfsqa1unsacb4xcg93a+lwuljvp09kzbaqxhgm07zvkfa9gbif1471v1qj2eiijuior+oh3osqzxle/eybkr52bbcjtnvxxrijkhazg6bdnzfhy+tzrluk7k358v6nqsjj47qmtpdlqqgorpgddrefd2hn/sbptaz9w5nrc95a87kzg7rh1hf351bpu0=</latexit> <latexit sha1_base64="w3sd37irurz2l7jz8oholnyl7ua=">aaacp3icbvdltgixfo3gc8cx6tjni9g4ijnebxykblxiikrcenipf2jodcztx0gm/jol/8clexdujg7dwyajufakvt05594+jh9xprtjvfq5ldw19y38pr21vbo7v9g/ufnhlck0achd2fkjas4endxthfqrbbl4ho790dxmv38aqvgobvu4gk5abol1gsxasn1cy/nhwetib0rl9jixsyftkuntuy/tephwgva8zkzn3crcllftzs3bhojez0hdqteposnwmnezukqzgt3ci9clarya0jqtpdrvshcsijwjhca2fyuicb2rabqnfsqa1unsacb4xcg93a+lwuljvp09kzbaqxhgm07zvkfa9gbif1471v1qj2eiijuior+oh3osqzxle/eybkr52bbcjtnvxxrijkhazg6bdnzfhy+tzrluk7k358v6nqsjj47qmtpdlqqgorpgddrefd2hn/sbptaz9w5nrc95a87kzg7rh1hf351bpu0=</latexit> <latexit sha1_base64="w3sd37irurz2l7jz8oholnyl7ua=">aaacp3icbvdltgixfo3gc8cx6tjni9g4ijnebxykblxiikrcenipf2jodcztx0gm/jol/8clexdujg7dwyajufakvt05594+jh9xprtjvfq5ldw19y38pr21vbo7v9g/ufnhlck0achd2fkjas4endxthfqrbbl4ho790dxmv38aqvgobvu4gk5abol1gsxasn1cy/nhwetib0rl9jixsyftkuntuy/tephwgva8zkzn3crcllftzs3bhojez0hdqteposnwmnezukqzgt3ci9clarya0jqtpdrvshcsijwjhca2fyuicb2rabqnfsqa1unsacb4xcg93a+lwuljvp09kzbaqxhgm07zvkfa9gbif1471v1qj2eiijuior+oh3osqzxle/eybkr52bbcjtnvxxrijkhazg6bdnzfhy+tzrluk7k358v6nqsjj47qmtpdlqqgorpgddrefd2hn/sbptaz9w5nrc95a87kzg7rh1hf351bpu0=</latexit> <latexit sha1_base64="xdtgzbfsn9p0btmf7cfh0hpojwg=">aaaco3icbvdltgixfo3gc8cx6tjni9g4igoiwi7ejutmqegyqjrlag2dzqttgmmeh3php7h058knxk17yzaxvk7sk5nze9t7jxdyprtjpfuzldw19y3spr21vbo7l9s/ufvbjcm0amad2fgias4etdtthdqhboj7hnre5gprb9+bvcwqtt0noeetkwbdrok2vj/xdd0ymrf7ptgs3c9sboausvju8gxcfwnxsoumxwpilboujhxuuyagx4/0c3mn4ctaf0uxfxmuothppbmdgey+ce05uapbdxuvjlizymfmu5gcknajguhxsef8ul04wx6gt4wzwmnamim0ttzvhthxlzr6nrlpxhur37wf+v+tg+lhtrczeuyabf1+niw41gfejikhtalvfgoeozkzwtede0monnnbjopi743/ilapucsub8r5ejuni4uo0de6q0vuqxv0jrqohsh6qc/odc2tr+vvmlvvy6szk+05rd9gfxwcg1mkvg==</latexit> <latexit sha1_base64="xdtgzbfsn9p0btmf7cfh0hpojwg=">aaaco3icbvdltgixfo3gc8cx6tjni9g4igoiwi7ejutmqegyqjrlag2dzqttgmmeh3php7h058knxk17yzaxvk7sk5nze9t7jxdyprtjpfuzldw19y3spr21vbo7l9s/ufvbjcm0amad2fgias4etdtthdqhboj7hnre5gprb9+bvcwqtt0noeetkwbdrok2vj/xdd0ymrf7ptgs3c9sboausvju8gxcfwnxsoumxwpilboujhxuuyagx4/0c3mn4ctaf0uxfxmuothppbmdgey+ce05uapbdxuvjlizymfmu5gcknajguhxsef8ul04wx6gt4wzwmnamim0ttzvhthxlzr6nrlpxhur37wf+v+tg+lhtrczeuyabf1+niw41gfejikhtalvfgoeozkzwtede0monnnbjopi743/ilapucsub8r5ejuni4uo0de6q0vuqxv0jrqohsh6qc/odc2tr+vvmlvvy6szk+05rd9gfxwcg1mkvg==</latexit> <latexit sha1_base64="xdtgzbfsn9p0btmf7cfh0hpojwg=">aaaco3icbvdltgixfo3gc8cx6tjni9g4igoiwi7ejutmqegyqjrlag2dzqttgmmeh3php7h058knxk17yzaxvk7sk5nze9t7jxdyprtjpfuzldw19y3spr21vbo7l9s/ufvbjcm0amad2fgias4etdtthdqhboj7hnre5gprb9+bvcwqtt0noeetkwbdrok2vj/xdd0ymrf7ptgs3c9sboausvju8gxcfwnxsoumxwpilboujhxuuyagx4/0c3mn4ctaf0uxfxmuothppbmdgey+ce05uapbdxuvjlizymfmu5gcknajguhxsef8ul04wx6gt4wzwmnamim0ttzvhthxlzr6nrlpxhur37wf+v+tg+lhtrczeuyabf1+niw41gfejikhtalvfgoeozkzwtede0monnnbjopi743/ilapucsub8r5ejuni4uo0de6q0vuqxv0jrqohsh6qc/odc2tr+vvmlvvy6szk+05rd9gfxwcg1mkvg==</latexit> <latexit sha1_base64="xdtgzbfsn9p0btmf7cfh0hpojwg=">aaaco3icbvdltgixfo3gc8cx6tjni9g4igoiwi7ejutmqegyqjrlag2dzqttgmmeh3php7h058knxk17yzaxvk7sk5nze9t7jxdyprtjpfuzldw19y3spr21vbo7l9s/ufvbjcm0amad2fgias4etdtthdqhboj7hnre5gprb9+bvcwqtt0noeetkwbdrok2vj/xdd0ymrf7ptgs3c9sboausvju8gxcfwnxsoumxwpilboujhxuuyagx4/0c3mn4ctaf0uxfxmuothppbmdgey+ce05uapbdxuvjlizymfmu5gcknajguhxsef8ul04wx6gt4wzwmnamim0ttzvhthxlzr6nrlpxhur37wf+v+tg+lhtrczeuyabf1+niw41gfejikhtalvfgoeozkzwtede0monnnbjopi743/ilapucsub8r5ejuni4uo0de6q0vuqxv0jrqohsh6qc/odc2tr+vvmlvvy6szk+05rd9gfxwcg1mkvg==</latexit> Első súly módosítás Tanító minta: i1 1. egység súlyai: d 2 =(0.2-1) 2 +(0.6-1) 2 +(0.5-0) 2 +(0.9-0) 2 =1.86 i1: (1,1,0,0) i2: (0,0,0,1) i3: (1,0,0,0) i4: (0,0,1,1) 2. egység súlyai: d 2 =(0.8-1) 2 +(0.4-1) 2 +(0.7-0) 2 +(0.3-0) 2 = egység: 2. egység: apple A 2. egység nyer A nyertes egység súlyait módosítjuk Új súlyok: [ ]+0.6([ ]-[ ])=[ ] 1. egység: 2. egység: apple

120 <latexit sha1_base64="eelznlvhry++pcbdt9eadmumcxy=">aaacqnicbvbntwixeo3if65fqecvjutjibce8hej8eirexeslpbugach2920xspz8om8+am8+gs8ejf49wbhn0bbsdp5ew9mon1eyjnsxekrldny3nreye7ae/shh0e545n7fussqosgpjadjyjgteblm82he0ogvseh7u2uf3r7aarigbjt0xb6phkjnmsuaep1c13xgxetsectldnjzmymiovidv+avconaxnxk9h1u72eunvkoifvtsl2qqx+zvvzetnpgxgdocniozsa/dylowho5ipqlbolurvq92iinamczrybkqgjnzarda0uxafvi5cezpcfyqz4gehzhmzl9ndhthylpr5nks16y7wqlcj/tg6kh7vezeqyara0ewgycawdvdaud5geqvnuaeilm7tioiasug1st40hzuqp10grvkgxnntyvlflzciim3sorpcdqqibblattrbft+gnfac59wy9w3prmynnwgnpkfot1tc3mgqmba==</latexit> <latexit sha1_base64="eelznlvhry++pcbdt9eadmumcxy=">aaacqnicbvbntwixeo3if65fqecvjutjibce8hej8eirexeslpbugach2920xspz8om8+am8+gs8ejf49wbhn0bbsdp5ew9mon1eyjnsxekrldny3nreye7ae/shh0e545n7fussqosgpjadjyjgteblm82he0ogvseh7u2uf3r7aarigbjt0xb6phkjnmsuaep1c13xgxetsectldnjzmymiovidv+avconaxnxk9h1u72eunvkoifvtsl2qqx+zvvzetnpgxgdocniozsa/dylowho5ipqlbolurvq92iinamczrybkqgjnzarda0uxafvi5cezpcfyqz4gehzhmzl9ndhthylpr5nks16y7wqlcj/tg6kh7vezeqyara0ewgycawdvdaud5geqvnuaeilm7tioiasug1st40hzuqp10grvkgxnntyvlflzciim3sorpcdqqibblattrbft+gnfac59wy9w3prmynnwgnpkfot1tc3mgqmba==</latexit> <latexit sha1_base64="eelznlvhry++pcbdt9eadmumcxy=">aaacqnicbvbntwixeo3if65fqecvjutjibce8hej8eirexeslpbugach2920xspz8om8+am8+gs8ejf49wbhn0bbsdp5ew9mon1eyjnsxekrldny3nreye7ae/shh0e545n7fussqosgpjadjyjgteblm82he0ogvseh7u2uf3r7aarigbjt0xb6phkjnmsuaep1c13xgxetsectldnjzmymiovidv+avconaxnxk9h1u72eunvkoifvtsl2qqx+zvvzetnpgxgdocniozsa/dylowho5ipqlbolurvq92iinamczrybkqgjnzarda0uxafvi5cezpcfyqz4gehzhmzl9ndhthylpr5nks16y7wqlcj/tg6kh7vezeqyara0ewgycawdvdaud5geqvnuaeilm7tioiasug1st40hzuqp10grvkgxnntyvlflzciim3sorpcdqqibblattrbft+gnfac59wy9w3prmynnwgnpkfot1tc3mgqmba==</latexit> <latexit sha1_base64="eelznlvhry++pcbdt9eadmumcxy=">aaacqnicbvbntwixeo3if65fqecvjutjibce8hej8eirexeslpbugach2920xspz8om8+am8+gs8ejf49wbhn0bbsdp5ew9mon1eyjnsxekrldny3nreye7ae/shh0e545n7fussqosgpjadjyjgteblm82he0ogvseh7u2uf3r7aarigbjt0xb6phkjnmsuaep1c13xgxetsectldnjzmymiovidv+avconaxnxk9h1u72eunvkoifvtsl2qqx+zvvzetnpgxgdocniozsa/dylowho5ipqlbolurvq92iinamczrybkqgjnzarda0uxafvi5cezpcfyqz4gehzhmzl9ndhthylpr5nks16y7wqlcj/tg6kh7vezeqyara0ewgycawdvdaud5geqvnuaeilm7tioiasug1st40hzuqp10grvkgxnntyvlflzciim3sorpcdqqibblattrbft+gnfac59wy9w3prmynnwgnpkfot1tc3mgqmba==</latexit> <latexit sha1_base64="w3sd37irurz2l7jz8oholnyl7ua=">aaacp3icbvdltgixfo3gc8cx6tjni9g4ijnebxykblxiikrcenipf2jodcztx0gm/jol/8clexdujg7dwyajufakvt05594+jh9xprtjvfq5ldw19y38pr21vbo7v9g/ufnhlck0achd2fkjas4endxthfqrbbl4ho790dxmv38aqvgobvu4gk5abol1gsxasn1cy/nhwetib0rl9jixsyftkuntuy/tephwgva8zkzn3crcllftzs3bhojez0hdqteposnwmnezukqzgt3ci9clarya0jqtpdrvshcsijwjhca2fyuicb2rabqnfsqa1unsacb4xcg93a+lwuljvp09kzbaqxhgm07zvkfa9gbif1471v1qj2eiijuior+oh3osqzxle/eybkr52bbcjtnvxxrijkhazg6bdnzfhy+tzrluk7k358v6nqsjj47qmtpdlqqgorpgddrefd2hn/sbptaz9w5nrc95a87kzg7rh1hf351bpu0=</latexit> <latexit sha1_base64="w3sd37irurz2l7jz8oholnyl7ua=">aaacp3icbvdltgixfo3gc8cx6tjni9g4ijnebxykblxiikrcenipf2jodcztx0gm/jol/8clexdujg7dwyajufakvt05594+jh9xprtjvfq5ldw19y38pr21vbo7v9g/ufnhlck0achd2fkjas4endxthfqrbbl4ho790dxmv38aqvgobvu4gk5abol1gsxasn1cy/nhwetib0rl9jixsyftkuntuy/tephwgva8zkzn3crcllftzs3bhojez0hdqteposnwmnezukqzgt3ci9clarya0jqtpdrvshcsijwjhca2fyuicb2rabqnfsqa1unsacb4xcg93a+lwuljvp09kzbaqxhgm07zvkfa9gbif1471v1qj2eiijuior+oh3osqzxle/eybkr52bbcjtnvxxrijkhazg6bdnzfhy+tzrluk7k358v6nqsjj47qmtpdlqqgorpgddrefd2hn/sbptaz9w5nrc95a87kzg7rh1hf351bpu0=</latexit> <latexit sha1_base64="w3sd37irurz2l7jz8oholnyl7ua=">aaacp3icbvdltgixfo3gc8cx6tjni9g4ijnebxykblxiikrcenipf2jodcztx0gm/jol/8clexdujg7dwyajufakvt05594+jh9xprtjvfq5ldw19y38pr21vbo7v9g/ufnhlck0achd2fkjas4endxthfqrbbl4ho790dxmv38aqvgobvu4gk5abol1gsxasn1cy/nhwetib0rl9jixsyftkuntuy/tephwgva8zkzn3crcllftzs3bhojez0hdqteposnwmnezukqzgt3ci9clarya0jqtpdrvshcsijwjhca2fyuicb2rabqnfsqa1unsacb4xcg93a+lwuljvp09kzbaqxhgm07zvkfa9gbif1471v1qj2eiijuior+oh3osqzxle/eybkr52bbcjtnvxxrijkhazg6bdnzfhy+tzrluk7k358v6nqsjj47qmtpdlqqgorpgddrefd2hn/sbptaz9w5nrc95a87kzg7rh1hf351bpu0=</latexit> <latexit sha1_base64="w3sd37irurz2l7jz8oholnyl7ua=">aaacp3icbvdltgixfo3gc8cx6tjni9g4ijnebxykblxiikrcenipf2jodcztx0gm/jol/8clexdujg7dwyajufakvt05594+jh9xprtjvfq5ldw19y38pr21vbo7v9g/ufnhlck0achd2fkjas4endxthfqrbbl4ho790dxmv38aqvgobvu4gk5abol1gsxasn1cy/nhwetib0rl9jixsyftkuntuy/tephwgva8zkzn3crcllftzs3bhojez0hdqteposnwmnezukqzgt3ci9clarya0jqtpdrvshcsijwjhca2fyuicb2rabqnfsqa1unsacb4xcg93a+lwuljvp09kzbaqxhgm07zvkfa9gbif1471v1qj2eiijuior+oh3osqzxle/eybkr52bbcjtnvxxrijkhazg6bdnzfhy+tzrluk7k358v6nqsjj47qmtpdlqqgorpgddrefd2hn/sbptaz9w5nrc95a87kzg7rh1hf351bpu0=</latexit> Második súly módosítás Tanító minta: i2 1. egység súlyai: d 2 =(0.2-0) 2 +(0.6-0) 2 +(0.5-0) 2 +(0.9-1) 2 = egység súlyai: d 2 =(0.92-0) 2 +(0.76-0) 2 +(0.28-0) 2 +(0.12-1) 2 =2.28 Az 1. egység nyer A nyertes egység súlyait módosítjuk i1: (1,1,0,0) i2: (0,0,0,1) i3: (1,0,0,0) i4: (0,0,1,1) 1. egység: 2. egység: apple Új súlyok: [ ]+0.6([ ]-[ ])=[ ] 1. egység: 2. egység: apple

121 <latexit sha1_base64="oxgzjk+e+isxlktcxtadpjbrmxs=">aaacqnicbvdltgixfo34xpgfunttsdsuyayiwi7ejutmregyqjrlgg2dzqttgmmej3phb7j0c1y4kbh1yrkmrtgttofk3hv7oh7emdko82itla+srq3nnuznre2d3fze/q0ky0mhsumeyrzpfhamokmz5tcojjda59dyr5ezeusepgkhunhjclobgqo2yjroy/xyhc+hirojhxat2cpexgzo0anie0ol8pzsvxabps+r1yqpdeak5lopoee2b6l/fvyvxzbmcvxxujkooaynxv7z64c0dkboyolsnwqkuwmrmleoe9ulfusejsgqokykeodqjmkge3xsnd4ehnisoxhq/pxiskduopbnp3nenvqszcz/ap1yd6rdhiko1ido/kjbzleo8sxq3gcsqozjiwivzlwv0zsicdumdttk4c7++k9oloq1ontdltsrwrg5diio0clyuqxv0rvqocai6bg9onc0tz6sn2tqfcxbl6xs5gd9gvx5bsb5pfk=</latexit> <latexit sha1_base64="oxgzjk+e+isxlktcxtadpjbrmxs=">aaacqnicbvdltgixfo34xpgfunttsdsuyayiwi7ejutmregyqjrlgg2dzqttgmmej3phb7j0c1y4kbh1yrkmrtgttofk3hv7oh7emdko82itla+srq3nnuznre2d3fze/q0ky0mhsumeyrzpfhamokmz5tcojjda59dyr5ezeusepgkhunhjclobgqo2yjroy/xyhc+hirojhxat2cpexgzo0anie0ol8pzsvxabps+r1yqpdeak5lopoee2b6l/fvyvxzbmcvxxujkooaynxv7z64c0dkboyolsnwqkuwmrmleoe9ulfusejsgqokykeodqjmkge3xsnd4ehnisoxhq/pxiskduopbnp3nenvqszcz/ap1yd6rdhiko1ido/kjbzleo8sxq3gcsqozjiwivzlwv0zsicdumdttk4c7++k9oloq1ontdltsrwrg5diio0clyuqxv0rvqocai6bg9onc0tz6sn2tqfcxbl6xs5gd9gvx5bsb5pfk=</latexit> <latexit sha1_base64="oxgzjk+e+isxlktcxtadpjbrmxs=">aaacqnicbvdltgixfo34xpgfunttsdsuyayiwi7ejutmregyqjrlgg2dzqttgmmej3phb7j0c1y4kbh1yrkmrtgttofk3hv7oh7emdko82itla+srq3nnuznre2d3fze/q0ky0mhsumeyrzpfhamokmz5tcojjda59dyr5ezeusepgkhunhjclobgqo2yjroy/xyhc+hirojhxat2cpexgzo0anie0ol8pzsvxabps+r1yqpdeak5lopoee2b6l/fvyvxzbmcvxxujkooaynxv7z64c0dkboyolsnwqkuwmrmleoe9ulfusejsgqokykeodqjmkge3xsnd4ehnisoxhq/pxiskduopbnp3nenvqszcz/ap1yd6rdhiko1ido/kjbzleo8sxq3gcsqozjiwivzlwv0zsicdumdttk4c7++k9oloq1ontdltsrwrg5diio0clyuqxv0rvqocai6bg9onc0tz6sn2tqfcxbl6xs5gd9gvx5bsb5pfk=</latexit> <latexit sha1_base64="oxgzjk+e+isxlktcxtadpjbrmxs=">aaacqnicbvdltgixfo34xpgfunttsdsuyayiwi7ejutmregyqjrlgg2dzqttgmmej3phb7j0c1y4kbh1yrkmrtgttofk3hv7oh7emdko82itla+srq3nnuznre2d3fze/q0ky0mhsumeyrzpfhamokmz5tcojjda59dyr5ezeusepgkhunhjclobgqo2yjroy/xyhc+hirojhxat2cpexgzo0anie0ol8pzsvxabps+r1yqpdeak5lopoee2b6l/fvyvxzbmcvxxujkooaynxv7z64c0dkboyolsnwqkuwmrmleoe9ulfusejsgqokykeodqjmkge3xsnd4ehnisoxhq/pxiskduopbnp3nenvqszcz/ap1yd6rdhiko1ido/kjbzleo8sxq3gcsqozjiwivzlwv0zsicdumdttk4c7++k9oloq1ontdltsrwrg5diio0clyuqxv0rvqocai6bg9onc0tz6sn2tqfcxbl6xs5gd9gvx5bsb5pfk=</latexit> <latexit sha1_base64="eelznlvhry++pcbdt9eadmumcxy=">aaacqnicbvbntwixeo3if65fqecvjutjibce8hej8eirexeslpbugach2920xspz8om8+am8+gs8ejf49wbhn0bbsdp5ew9mon1eyjnsxekrldny3nreye7ae/shh0e545n7fussqosgpjadjyjgteblm82he0ogvseh7u2uf3r7aarigbjt0xb6phkjnmsuaep1c13xgxetsectldnjzmymiovidv+avconaxnxk9h1u72eunvkoifvtsl2qqx+zvvzetnpgxgdocniozsa/dylowho5ipqlbolurvq92iinamczrybkqgjnzarda0uxafvi5cezpcfyqz4gehzhmzl9ndhthylpr5nks16y7wqlcj/tg6kh7vezeqyara0ewgycawdvdaud5geqvnuaeilm7tioiasug1st40hzuqp10grvkgxnntyvlflzciim3sorpcdqqibblattrbft+gnfac59wy9w3prmynnwgnpkfot1tc3mgqmba==</latexit> <latexit sha1_base64="eelznlvhry++pcbdt9eadmumcxy=">aaacqnicbvbntwixeo3if65fqecvjutjibce8hej8eirexeslpbugach2920xspz8om8+am8+gs8ejf49wbhn0bbsdp5ew9mon1eyjnsxekrldny3nreye7ae/shh0e545n7fussqosgpjadjyjgteblm82he0ogvseh7u2uf3r7aarigbjt0xb6phkjnmsuaep1c13xgxetsectldnjzmymiovidv+avconaxnxk9h1u72eunvkoifvtsl2qqx+zvvzetnpgxgdocniozsa/dylowho5ipqlbolurvq92iinamczrybkqgjnzarda0uxafvi5cezpcfyqz4gehzhmzl9ndhthylpr5nks16y7wqlcj/tg6kh7vezeqyara0ewgycawdvdaud5geqvnuaeilm7tioiasug1st40hzuqp10grvkgxnntyvlflzciim3sorpcdqqibblattrbft+gnfac59wy9w3prmynnwgnpkfot1tc3mgqmba==</latexit> <latexit sha1_base64="eelznlvhry++pcbdt9eadmumcxy=">aaacqnicbvbntwixeo3if65fqecvjutjibce8hej8eirexeslpbugach2920xspz8om8+am8+gs8ejf49wbhn0bbsdp5ew9mon1eyjnsxekrldny3nreye7ae/shh0e545n7fussqosgpjadjyjgteblm82he0ogvseh7u2uf3r7aarigbjt0xb6phkjnmsuaep1c13xgxetsectldnjzmymiovidv+avconaxnxk9h1u72eunvkoifvtsl2qqx+zvvzetnpgxgdocniozsa/dylowho5ipqlbolurvq92iinamczrybkqgjnzarda0uxafvi5cezpcfyqz4gehzhmzl9ndhthylpr5nks16y7wqlcj/tg6kh7vezeqyara0ewgycawdvdaud5geqvnuaeilm7tioiasug1st40hzuqp10grvkgxnntyvlflzciim3sorpcdqqibblattrbft+gnfac59wy9w3prmynnwgnpkfot1tc3mgqmba==</latexit> <latexit sha1_base64="eelznlvhry++pcbdt9eadmumcxy=">aaacqnicbvbntwixeo3if65fqecvjutjibce8hej8eirexeslpbugach2920xspz8om8+am8+gs8ejf49wbhn0bbsdp5ew9mon1eyjnsxekrldny3nreye7ae/shh0e545n7fussqosgpjadjyjgteblm82he0ogvseh7u2uf3r7aarigbjt0xb6phkjnmsuaep1c13xgxetsectldnjzmymiovidv+avconaxnxk9h1u72eunvkoifvtsl2qqx+zvvzetnpgxgdocniozsa/dylowho5ipqlbolurvq92iinamczrybkqgjnzarda0uxafvi5cezpcfyqz4gehzhmzl9ndhthylpr5nks16y7wqlcj/tg6kh7vezeqyara0ewgycawdvdaud5geqvnuaeilm7tioiasug1st40hzuqp10grvkgxnntyvlflzciim3sorpcdqqibblattrbft+gnfac59wy9w3prmynnwgnpkfot1tc3mgqmba==</latexit> Harmadik súly módosítás Tanító minta: i3 i1: (1,1,0,0) i2: (0,0,0,1) 1. egység súlyai: i3: (1,0,0,0) d 2 =(0.08-1) 2 +(0.24-0) 2 +(0.2-0) 2 +(0.96-0) 2 =1.87 i4: (0,0,1,1) 2. egység súlyai: d 2 =(0.92-1) 2 +(0.76-0) 2 +(0.28-0) 2 +(0.12-0) 2 = egység: 2. egység: apple A 2. egység nyer A nyertes egység súlyait módosítjuk Új súlyok: [ ]+0.6([ ]-[ ])=[ ] 1. egység: 2. egység: apple

122 <latexit sha1_base64="ju8qlbcfpjyn4tj1hacwdmrmzq0=">aaacq3icbvc7tsmwfhv4e14frhalcsrujzrhulviyswspuhnvdnobbfwnmh2efxun2ngz+qpgfiowjfw0wjxopj1js69174+ycqz0o7zbm3mzs0vlc4t2yura+sblc2tk5vkkkkbjjyr1yfrwjmatmaaw3uqgcqhh054ezapd+5akpaisz1miyjjqla+o0qbq1fx/ragtorhtlrk9ymbgzg1p473dbloqsdeqq0p+37z0dgtrpq0wxulco5th0t0dvmvujvmafxxukwoohktxuxjjxkaxsa05usprpfqicdsm8phzpuzgptqwzkarpgcxkccvahhhpeme+f+is0rghfu94mcxeon49b0mvvu1o/axpyv1s103wtyjtjmg6dth/ozxzrbk0rxxcrqzydgecqz2rxtgyij1sz322tg/v7xx9e+rdvq7svrtemvysyhhbsldpcltletnamwaiokhtaleknj69f6tcbw+7r1xipnttepwb+fqnqmnw==</latexit> <latexit sha1_base64="ju8qlbcfpjyn4tj1hacwdmrmzq0=">aaacq3icbvc7tsmwfhv4e14frhalcsrujzrhulviyswspuhnvdnobbfwnmh2efxun2ngz+qpgfiowjfw0wjxopj1js69174+ycqz0o7zbm3mzs0vlc4t2yura+sblc2tk5vkkkkbjjyr1yfrwjmatmaaw3uqgcqhh054ezapd+5akpaisz1miyjjqla+o0qbq1fx/ragtorhtlrk9ymbgzg1p473dbloqsdeqq0p+37z0dgtrpq0wxulco5th0t0dvmvujvmafxxukwoohktxuxjjxkaxsa05usprpfqicdsm8phzpuzgptqwzkarpgcxkccvahhhpeme+f+is0rghfu94mcxeon49b0mvvu1o/axpyv1s103wtyjtjmg6dth/ozxzrbk0rxxcrqzydgecqz2rxtgyij1sz322tg/v7xx9e+rdvq7svrtemvysyhhbsldpcltletnamwaiokhtaleknj69f6tcbw+7r1xipnttepwb+fqnqmnw==</latexit> <latexit sha1_base64="ju8qlbcfpjyn4tj1hacwdmrmzq0=">aaacq3icbvc7tsmwfhv4e14frhalcsrujzrhulviyswspuhnvdnobbfwnmh2efxun2ngz+qpgfiowjfw0wjxopj1js69174+ycqz0o7zbm3mzs0vlc4t2yura+sblc2tk5vkkkkbjjyr1yfrwjmatmaaw3uqgcqhh054ezapd+5akpaisz1miyjjqla+o0qbq1fx/ragtorhtlrk9ymbgzg1p473dbloqsdeqq0p+37z0dgtrpq0wxulco5th0t0dvmvujvmafxxukwoohktxuxjjxkaxsa05usprpfqicdsm8phzpuzgptqwzkarpgcxkccvahhhpeme+f+is0rghfu94mcxeon49b0mvvu1o/axpyv1s103wtyjtjmg6dth/ozxzrbk0rxxcrqzydgecqz2rxtgyij1sz322tg/v7xx9e+rdvq7svrtemvysyhhbsldpcltletnamwaiokhtaleknj69f6tcbw+7r1xipnttepwb+fqnqmnw==</latexit> <latexit sha1_base64="ju8qlbcfpjyn4tj1hacwdmrmzq0=">aaacq3icbvc7tsmwfhv4e14frhalcsrujzrhulviyswspuhnvdnobbfwnmh2efxun2ngz+qpgfiowjfw0wjxopj1js69174+ycqz0o7zbm3mzs0vlc4t2yura+sblc2tk5vkkkkbjjyr1yfrwjmatmaaw3uqgcqhh054ezapd+5akpaisz1miyjjqla+o0qbq1fx/ragtorhtlrk9ymbgzg1p473dbloqsdeqq0p+37z0dgtrpq0wxulco5th0t0dvmvujvmafxxukwoohktxuxjjxkaxsa05usprpfqicdsm8phzpuzgptqwzkarpgcxkccvahhhpeme+f+is0rghfu94mcxeon49b0mvvu1o/axpyv1s103wtyjtjmg6dth/ozxzrbk0rxxcrqzydgecqz2rxtgyij1sz322tg/v7xx9e+rdvq7svrtemvysyhhbsldpcltletnamwaiokhtaleknj69f6tcbw+7r1xipnttepwb+fqnqmnw==</latexit> <latexit sha1_base64="oxgzjk+e+isxlktcxtadpjbrmxs=">aaacqnicbvdltgixfo34xpgfunttsdsuyayiwi7ejutmregyqjrlgg2dzqttgmmej3phb7j0c1y4kbh1yrkmrtgttofk3hv7oh7emdko82itla+srq3nnuznre2d3fze/q0ky0mhsumeyrzpfhamokmz5tcojjda59dyr5ezeusepgkhunhjclobgqo2yjroy/xyhc+hirojhxat2cpexgzo0anie0ol8pzsvxabps+r1yqpdeak5lopoee2b6l/fvyvxzbmcvxxujkooaynxv7z64c0dkboyolsnwqkuwmrmleoe9ulfusejsgqokykeodqjmkge3xsnd4ehnisoxhq/pxiskduopbnp3nenvqszcz/ap1yd6rdhiko1ido/kjbzleo8sxq3gcsqozjiwivzlwv0zsicdumdttk4c7++k9oloq1ontdltsrwrg5diio0clyuqxv0rvqocai6bg9onc0tz6sn2tqfcxbl6xs5gd9gvx5bsb5pfk=</latexit> <latexit sha1_base64="oxgzjk+e+isxlktcxtadpjbrmxs=">aaacqnicbvdltgixfo34xpgfunttsdsuyayiwi7ejutmregyqjrlgg2dzqttgmmej3phb7j0c1y4kbh1yrkmrtgttofk3hv7oh7emdko82itla+srq3nnuznre2d3fze/q0ky0mhsumeyrzpfhamokmz5tcojjda59dyr5ezeusepgkhunhjclobgqo2yjroy/xyhc+hirojhxat2cpexgzo0anie0ol8pzsvxabps+r1yqpdeak5lopoee2b6l/fvyvxzbmcvxxujkooaynxv7z64c0dkboyolsnwqkuwmrmleoe9ulfusejsgqokykeodqjmkge3xsnd4ehnisoxhq/pxiskduopbnp3nenvqszcz/ap1yd6rdhiko1ido/kjbzleo8sxq3gcsqozjiwivzlwv0zsicdumdttk4c7++k9oloq1ontdltsrwrg5diio0clyuqxv0rvqocai6bg9onc0tz6sn2tqfcxbl6xs5gd9gvx5bsb5pfk=</latexit> <latexit sha1_base64="oxgzjk+e+isxlktcxtadpjbrmxs=">aaacqnicbvdltgixfo34xpgfunttsdsuyayiwi7ejutmregyqjrlgg2dzqttgmmej3phb7j0c1y4kbh1yrkmrtgttofk3hv7oh7emdko82itla+srq3nnuznre2d3fze/q0ky0mhsumeyrzpfhamokmz5tcojjda59dyr5ezeusepgkhunhjclobgqo2yjroy/xyhc+hirojhxat2cpexgzo0anie0ol8pzsvxabps+r1yqpdeak5lopoee2b6l/fvyvxzbmcvxxujkooaynxv7z64c0dkboyolsnwqkuwmrmleoe9ulfusejsgqokykeodqjmkge3xsnd4ehnisoxhq/pxiskduopbnp3nenvqszcz/ap1yd6rdhiko1ido/kjbzleo8sxq3gcsqozjiwivzlwv0zsicdumdttk4c7++k9oloq1ontdltsrwrg5diio0clyuqxv0rvqocai6bg9onc0tz6sn2tqfcxbl6xs5gd9gvx5bsb5pfk=</latexit> <latexit sha1_base64="oxgzjk+e+isxlktcxtadpjbrmxs=">aaacqnicbvdltgixfo34xpgfunttsdsuyayiwi7ejutmregyqjrlgg2dzqttgmmej3phb7j0c1y4kbh1yrkmrtgttofk3hv7oh7emdko82itla+srq3nnuznre2d3fze/q0ky0mhsumeyrzpfhamokmz5tcojjda59dyr5ezeusepgkhunhjclobgqo2yjroy/xyhc+hirojhxat2cpexgzo0anie0ol8pzsvxabps+r1yqpdeak5lopoee2b6l/fvyvxzbmcvxxujkooaynxv7z64c0dkboyolsnwqkuwmrmleoe9ulfusejsgqokykeodqjmkge3xsnd4ehnisoxhq/pxiskduopbnp3nenvqszcz/ap1yd6rdhiko1ido/kjbzleo8sxq3gcsqozjiwivzlwv0zsicdumdttk4c7++k9oloq1ontdltsrwrg5diio0clyuqxv0rvqocai6bg9onc0tz6sn2tqfcxbl6xs5gd9gvx5bsb5pfk=</latexit> Negyedik súly módosítás Tanító minta: i4 i1: (1,1,0,0) i2: (0,0,0,1) 1. egység súlyai: i3: (1,0,0,0) d 2 =(0.08-0) 2 +(0.24-0) 2 +(0.2-1) 2 +(0.96-1) 2 =0.71 i4: (0,0,1,1) 2. egység súlyai: d 2 =(0.97-0) 2 +(0.30-0) 2 +(0.11-1) 2 +(0.05-1) 2 = egység: 2. egység: apple Az 1. egység nyer A nyertes egység súlyait módosítjuk Új súlyok: [ ]+0.6([ ]-[ ])=[ ] 1. egység: 2. egység: apple

123 <latexit sha1_base64="r6jobj2ivmkpnxhx84i8tnxpfnw=">aaacm3icbvbns8naen34wenx1koxxaj4coko1lvbiwcpfawtnkvsttn26wytdjdicf1thvwf3hs8wlz6h9ymvbt1wsyp92bymrcmncntea/wwuls8spqyc1e39jc2nz2du9uneokvrrzwnzdooazavxnnid6iofeiyda2l8c+7v7kirf4lypemhgpctyh1gijdryromqukxkyus0za9dgxt4+ghs7pl5fdfdqzaby/ot58woqlr/hlto0xo9hhie+fnsrfnuws5z0i5pgohqlbolgqvenzminamchnaqkkgi7zmunawvjalvzpkjh/jqkg3ciaupoxgu/p7isktuiapnp1mvp2a9sfif10h1p9tmmehsdyjopuqkhosyjxpebsabaj4whfdjzk6y9ogkvjucbzobp3vxpkmeubeuf3naljemyrtqpjpax8hh56imrlafvrffj+gfvaor9ws9wspry9k6ye1n9tafwj9fx+wibg==</latexit> <latexit sha1_base64="r6jobj2ivmkpnxhx84i8tnxpfnw=">aaacm3icbvbns8naen34wenx1koxxaj4coko1lvbiwcpfawtnkvsttn26wytdjdicf1thvwf3hs8wlz6h9ymvbt1wsyp92bymrcmncntea/wwuls8spqyc1e39jc2nz2du9uneokvrrzwnzdooazavxnnid6iofeiyda2l8c+7v7kirf4lypemhgpctyh1gijdryromqukxkyus0za9dgxt4+ghs7pl5fdfdqzaby/ot58woqlr/hlto0xo9hhie+fnsrfnuws5z0i5pgohqlbolgqvenzminamchnaqkkgi7zmunawvjalvzpkjh/jqkg3ciaupoxgu/p7isktuiapnp1mvp2a9sfif10h1p9tmmehsdyjopuqkhosyjxpebsabaj4whfdjzk6y9ogkvjucbzobp3vxpkmeubeuf3naljemyrtqpjpax8hh56imrlafvrffj+gfvaor9ws9wspry9k6ye1n9tafwj9fx+wibg==</latexit> <latexit sha1_base64="r6jobj2ivmkpnxhx84i8tnxpfnw=">aaacm3icbvbns8naen34wenx1koxxaj4coko1lvbiwcpfawtnkvsttn26wytdjdicf1thvwf3hs8wlz6h9ymvbt1wsyp92bymrcmncntea/wwuls8spqyc1e39jc2nz2du9uneokvrrzwnzdooazavxnnid6iofeiyda2l8c+7v7kirf4lypemhgpctyh1gijdryromqukxkyus0za9dgxt4+ghs7pl5fdfdqzaby/ot58woqlr/hlto0xo9hhie+fnsrfnuws5z0i5pgohqlbolgqvenzminamchnaqkkgi7zmunawvjalvzpkjh/jqkg3ciaupoxgu/p7isktuiapnp1mvp2a9sfif10h1p9tmmehsdyjopuqkhosyjxpebsabaj4whfdjzk6y9ogkvjucbzobp3vxpkmeubeuf3naljemyrtqpjpax8hh56imrlafvrffj+gfvaor9ws9wspry9k6ye1n9tafwj9fx+wibg==</latexit> <latexit sha1_base64="r6jobj2ivmkpnxhx84i8tnxpfnw=">aaacm3icbvbns8naen34wenx1koxxaj4coko1lvbiwcpfawtnkvsttn26wytdjdicf1thvwf3hs8wlz6h9ymvbt1wsyp92bymrcmncntea/wwuls8spqyc1e39jc2nz2du9uneokvrrzwnzdooazavxnnid6iofeiyda2l8c+7v7kirf4lypemhgpctyh1gijdryromqukxkyus0za9dgxt4+ghs7pl5fdfdqzaby/ot58woqlr/hlto0xo9hhie+fnsrfnuws5z0i5pgohqlbolgqvenzminamchnaqkkgi7zmunawvjalvzpkjh/jqkg3ciaupoxgu/p7isktuiapnp1mvp2a9sfif10h1p9tmmehsdyjopuqkhosyjxpebsabaj4whfdjzk6y9ogkvjucbzobp3vxpkmeubeuf3naljemyrtqpjpax8hh56imrlafvrffj+gfvaor9ws9wspry9k6ye1n9tafwj9fx+wibg==</latexit> Tovább folytatva idő (t) D(t) η(t) 1 2. egység egység egység egység Számos iteráció után: 1. egység: 2. egység: apple Azt a klaszterezési eredményt kaptuk, amit vártunk?

124 <latexit sha1_base64="r6jobj2ivmkpnxhx84i8tnxpfnw=">aaacm3icbvbns8naen34wenx1koxxaj4coko1lvbiwcpfawtnkvsttn26wytdjdicf1thvwf3hs8wlz6h9ymvbt1wsyp92bymrcmncntea/wwuls8spqyc1e39jc2nz2du9uneokvrrzwnzdooazavxnnid6iofeiyda2l8c+7v7kirf4lypemhgpctyh1gijdryromqukxkyus0za9dgxt4+ghs7pl5fdfdqzaby/ot58woqlr/hlto0xo9hhie+fnsrfnuws5z0i5pgohqlbolgqvenzminamchnaqkkgi7zmunawvjalvzpkjh/jqkg3ciaupoxgu/p7isktuiapnp1mvp2a9sfif10h1p9tmmehsdyjopuqkhosyjxpebsabaj4whfdjzk6y9ogkvjucbzobp3vxpkmeubeuf3naljemyrtqpjpax8hh56imrlafvrffj+gfvaor9ws9wspry9k6ye1n9tafwj9fx+wibg==</latexit> <latexit sha1_base64="r6jobj2ivmkpnxhx84i8tnxpfnw=">aaacm3icbvbns8naen34wenx1koxxaj4coko1lvbiwcpfawtnkvsttn26wytdjdicf1thvwf3hs8wlz6h9ymvbt1wsyp92bymrcmncntea/wwuls8spqyc1e39jc2nz2du9uneokvrrzwnzdooazavxnnid6iofeiyda2l8c+7v7kirf4lypemhgpctyh1gijdryromqukxkyus0za9dgxt4+ghs7pl5fdfdqzaby/ot58woqlr/hlto0xo9hhie+fnsrfnuws5z0i5pgohqlbolgqvenzminamchnaqkkgi7zmunawvjalvzpkjh/jqkg3ciaupoxgu/p7isktuiapnp1mvp2a9sfif10h1p9tmmehsdyjopuqkhosyjxpebsabaj4whfdjzk6y9ogkvjucbzobp3vxpkmeubeuf3naljemyrtqpjpax8hh56imrlafvrffj+gfvaor9ws9wspry9k6ye1n9tafwj9fx+wibg==</latexit> <latexit sha1_base64="r6jobj2ivmkpnxhx84i8tnxpfnw=">aaacm3icbvbns8naen34wenx1koxxaj4coko1lvbiwcpfawtnkvsttn26wytdjdicf1thvwf3hs8wlz6h9ymvbt1wsyp92bymrcmncntea/wwuls8spqyc1e39jc2nz2du9uneokvrrzwnzdooazavxnnid6iofeiyda2l8c+7v7kirf4lypemhgpctyh1gijdryromqukxkyus0za9dgxt4+ghs7pl5fdfdqzaby/ot58woqlr/hlto0xo9hhie+fnsrfnuws5z0i5pgohqlbolgqvenzminamchnaqkkgi7zmunawvjalvzpkjh/jqkg3ciaupoxgu/p7isktuiapnp1mvp2a9sfif10h1p9tmmehsdyjopuqkhosyjxpebsabaj4whfdjzk6y9ogkvjucbzobp3vxpkmeubeuf3naljemyrtqpjpax8hh56imrlafvrffj+gfvaor9ws9wspry9k6ye1n9tafwj9fx+wibg==</latexit> <latexit sha1_base64="r6jobj2ivmkpnxhx84i8tnxpfnw=">aaacm3icbvbns8naen34wenx1koxxaj4coko1lvbiwcpfawtnkvsttn26wytdjdicf1thvwf3hs8wlz6h9ymvbt1wsyp92bymrcmncntea/wwuls8spqyc1e39jc2nz2du9uneokvrrzwnzdooazavxnnid6iofeiyda2l8c+7v7kirf4lypemhgpctyh1gijdryromqukxkyus0za9dgxt4+ghs7pl5fdfdqzaby/ot58woqlr/hlto0xo9hhie+fnsrfnuws5z0i5pgohqlbolgqvenzminamchnaqkkgi7zmunawvjalvzpkjh/jqkg3ciaupoxgu/p7isktuiapnp1mvp2a9sfif10h1p9tmmehsdyjopuqkhosyjxpebsabaj4whfdjzk6y9ogkvjucbzobp3vxpkmeubeuf3naljemyrtqpjpax8hh56imrlafvrffj+gfvaor9ws9wspry9k6ye1n9tafwj9fx+wibg==</latexit> Tanító minták: i1: (1,1,0,0) i2: (0,0,0,1) i3: (1,0,0,0) i4: (0,0,1,1) Bemeneti egységek Kimeneti egységek 1 2 Súlyok: 1. egység: apple egység: Melyik klaszterbe kerülnek a tanító minták?

125 <latexit sha1_base64="r6jobj2ivmkpnxhx84i8tnxpfnw=">aaacm3icbvbns8naen34wenx1koxxaj4coko1lvbiwcpfawtnkvsttn26wytdjdicf1thvwf3hs8wlz6h9ymvbt1wsyp92bymrcmncntea/wwuls8spqyc1e39jc2nz2du9uneokvrrzwnzdooazavxnnid6iofeiyda2l8c+7v7kirf4lypemhgpctyh1gijdryromqukxkyus0za9dgxt4+ghs7pl5fdfdqzaby/ot58woqlr/hlto0xo9hhie+fnsrfnuws5z0i5pgohqlbolgqvenzminamchnaqkkgi7zmunawvjalvzpkjh/jqkg3ciaupoxgu/p7isktuiapnp1mvp2a9sfif10h1p9tmmehsdyjopuqkhosyjxpebsabaj4whfdjzk6y9ogkvjucbzobp3vxpkmeubeuf3naljemyrtqpjpax8hh56imrlafvrffj+gfvaor9ws9wspry9k6ye1n9tafwj9fx+wibg==</latexit> <latexit sha1_base64="r6jobj2ivmkpnxhx84i8tnxpfnw=">aaacm3icbvbns8naen34wenx1koxxaj4coko1lvbiwcpfawtnkvsttn26wytdjdicf1thvwf3hs8wlz6h9ymvbt1wsyp92bymrcmncntea/wwuls8spqyc1e39jc2nz2du9uneokvrrzwnzdooazavxnnid6iofeiyda2l8c+7v7kirf4lypemhgpctyh1gijdryromqukxkyus0za9dgxt4+ghs7pl5fdfdqzaby/ot58woqlr/hlto0xo9hhie+fnsrfnuws5z0i5pgohqlbolgqvenzminamchnaqkkgi7zmunawvjalvzpkjh/jqkg3ciaupoxgu/p7isktuiapnp1mvp2a9sfif10h1p9tmmehsdyjopuqkhosyjxpebsabaj4whfdjzk6y9ogkvjucbzobp3vxpkmeubeuf3naljemyrtqpjpax8hh56imrlafvrffj+gfvaor9ws9wspry9k6ye1n9tafwj9fx+wibg==</latexit> <latexit sha1_base64="r6jobj2ivmkpnxhx84i8tnxpfnw=">aaacm3icbvbns8naen34wenx1koxxaj4coko1lvbiwcpfawtnkvsttn26wytdjdicf1thvwf3hs8wlz6h9ymvbt1wsyp92bymrcmncntea/wwuls8spqyc1e39jc2nz2du9uneokvrrzwnzdooazavxnnid6iofeiyda2l8c+7v7kirf4lypemhgpctyh1gijdryromqukxkyus0za9dgxt4+ghs7pl5fdfdqzaby/ot58woqlr/hlto0xo9hhie+fnsrfnuws5z0i5pgohqlbolgqvenzminamchnaqkkgi7zmunawvjalvzpkjh/jqkg3ciaupoxgu/p7isktuiapnp1mvp2a9sfif10h1p9tmmehsdyjopuqkhosyjxpebsabaj4whfdjzk6y9ogkvjucbzobp3vxpkmeubeuf3naljemyrtqpjpax8hh56imrlafvrffj+gfvaor9ws9wspry9k6ye1n9tafwj9fx+wibg==</latexit> <latexit sha1_base64="r6jobj2ivmkpnxhx84i8tnxpfnw=">aaacm3icbvbns8naen34wenx1koxxaj4coko1lvbiwcpfawtnkvsttn26wytdjdicf1thvwf3hs8wlz6h9ymvbt1wsyp92bymrcmncntea/wwuls8spqyc1e39jc2nz2du9uneokvrrzwnzdooazavxnnid6iofeiyda2l8c+7v7kirf4lypemhgpctyh1gijdryromqukxkyus0za9dgxt4+ghs7pl5fdfdqzaby/ot58woqlr/hlto0xo9hhie+fnsrfnuws5z0i5pgohqlbolgqvenzminamchnaqkkgi7zmunawvjalvzpkjh/jqkg3ciaupoxgu/p7isktuiapnp1mvp2a9sfif10h1p9tmmehsdyjopuqkhosyjxpebsabaj4whfdjzk6y9ogkvjucbzobp3vxpkmeubeuf3naljemyrtqpjpax8hh56imrlafvrffj+gfvaor9ws9wspry9k6ye1n9tafwj9fx+wibg==</latexit> Megoldás Tanító minták: i1: (1,1,0,0) i2: (0,0,0,1) i3: (1,0,0,0) Bemeneti egységek Kimeneti egységek 1 2 Súlyok: 1. egység: 2. egység: apple i4: (0,0,1,1) i1: távolság az 1. egység súlyaitól: (1-0) 2+(1-0) 2 +(0-0.5) 2 +(0-1) 2 =3.25 i1: távolság az 2. egység súlyaitól: (1-1) 2+(1-0.5) 2 +(0-0) 2 +(0-0) 2 =0.25 (győztes) i2: távolság az 1. egység súlyaitól: (0-0) 2+(0-0) 2 +(0-0.5) 2 +(1-1) 2 =0.25 (győztes) i2: távolság az 2. egység súlyaitól: (0-1) 2+(0-0.5) 2 +(0-0) 2 +(1-0) 2 =2.25 i3: távolság az 1. egység súlyaitól: (1-0) 2+(0-0) 2 +(0-0.5) 2 +(0-1) 2 =2.25 i3: távolság az 2. egység súlyaitól: (1-1) 2+(0-0.5) 2 +(0-0) 2 +(0-0) 2 =0.25 (győztes) i4: távolság az 1. egység súlyaitól: (0-0) 2 +(0-0) 2 +(1-0.5) 2 +(1-1) 2 =0.25 (győztes) i4: távolság az 2. egység súlyaitól: (0-1) 2 +(0-0.5) 2 +(1-0) 2 +(1-0) 2 =3.25

126 <latexit sha1_base64="r6jobj2ivmkpnxhx84i8tnxpfnw=">aaacm3icbvbns8naen34wenx1koxxaj4coko1lvbiwcpfawtnkvsttn26wytdjdicf1thvwf3hs8wlz6h9ymvbt1wsyp92bymrcmncntea/wwuls8spqyc1e39jc2nz2du9uneokvrrzwnzdooazavxnnid6iofeiyda2l8c+7v7kirf4lypemhgpctyh1gijdryromqukxkyus0za9dgxt4+ghs7pl5fdfdqzaby/ot58woqlr/hlto0xo9hhie+fnsrfnuws5z0i5pgohqlbolgqvenzminamchnaqkkgi7zmunawvjalvzpkjh/jqkg3ciaupoxgu/p7isktuiapnp1mvp2a9sfif10h1p9tmmehsdyjopuqkhosyjxpebsabaj4whfdjzk6y9ogkvjucbzobp3vxpkmeubeuf3naljemyrtqpjpax8hh56imrlafvrffj+gfvaor9ws9wspry9k6ye1n9tafwj9fx+wibg==</latexit> <latexit sha1_base64="r6jobj2ivmkpnxhx84i8tnxpfnw=">aaacm3icbvbns8naen34wenx1koxxaj4coko1lvbiwcpfawtnkvsttn26wytdjdicf1thvwf3hs8wlz6h9ymvbt1wsyp92bymrcmncntea/wwuls8spqyc1e39jc2nz2du9uneokvrrzwnzdooazavxnnid6iofeiyda2l8c+7v7kirf4lypemhgpctyh1gijdryromqukxkyus0za9dgxt4+ghs7pl5fdfdqzaby/ot58woqlr/hlto0xo9hhie+fnsrfnuws5z0i5pgohqlbolgqvenzminamchnaqkkgi7zmunawvjalvzpkjh/jqkg3ciaupoxgu/p7isktuiapnp1mvp2a9sfif10h1p9tmmehsdyjopuqkhosyjxpebsabaj4whfdjzk6y9ogkvjucbzobp3vxpkmeubeuf3naljemyrtqpjpax8hh56imrlafvrffj+gfvaor9ws9wspry9k6ye1n9tafwj9fx+wibg==</latexit> <latexit sha1_base64="r6jobj2ivmkpnxhx84i8tnxpfnw=">aaacm3icbvbns8naen34wenx1koxxaj4coko1lvbiwcpfawtnkvsttn26wytdjdicf1thvwf3hs8wlz6h9ymvbt1wsyp92bymrcmncntea/wwuls8spqyc1e39jc2nz2du9uneokvrrzwnzdooazavxnnid6iofeiyda2l8c+7v7kirf4lypemhgpctyh1gijdryromqukxkyus0za9dgxt4+ghs7pl5fdfdqzaby/ot58woqlr/hlto0xo9hhie+fnsrfnuws5z0i5pgohqlbolgqvenzminamchnaqkkgi7zmunawvjalvzpkjh/jqkg3ciaupoxgu/p7isktuiapnp1mvp2a9sfif10h1p9tmmehsdyjopuqkhosyjxpebsabaj4whfdjzk6y9ogkvjucbzobp3vxpkmeubeuf3naljemyrtqpjpax8hh56imrlafvrffj+gfvaor9ws9wspry9k6ye1n9tafwj9fx+wibg==</latexit> <latexit sha1_base64="r6jobj2ivmkpnxhx84i8tnxpfnw=">aaacm3icbvbns8naen34wenx1koxxaj4coko1lvbiwcpfawtnkvsttn26wytdjdicf1thvwf3hs8wlz6h9ymvbt1wsyp92bymrcmncntea/wwuls8spqyc1e39jc2nz2du9uneokvrrzwnzdooazavxnnid6iofeiyda2l8c+7v7kirf4lypemhgpctyh1gijdryromqukxkyus0za9dgxt4+ghs7pl5fdfdqzaby/ot58woqlr/hlto0xo9hhie+fnsrfnuws5z0i5pgohqlbolgqvenzminamchnaqkkgi7zmunawvjalvzpkjh/jqkg3ciaupoxgu/p7isktuiapnp1mvp2a9sfif10h1p9tmmehsdyjopuqkhosyjxpebsabaj4whfdjzk6y9ogkvjucbzobp3vxpkmeubeuf3naljemyrtqpjpax8hh56imrlafvrffj+gfvaor9ws9wspry9k6ye1n9tafwj9fx+wibg==</latexit> Megoldás Tanító minták: i1: (1,1,0,0) i2: (0,0,0,1) i3: (1,0,0,0) Bemeneti egységek Kimeneti egységek 1 2 Súlyok: 1. egység: 2. egység: apple i4: (0,0,1,1) az i1 és i3 minták a 2. egységhez az i2 és i4 minták az 1. egységhez

127 Evolúciós algoritmusok

128 Evolúciós algoritmusok A soft computing (lágy számítási) módszerek három fő területének egyike Fuzzy rendszerek Neurális hálózatok Evolúciós algoritmusok Alapelvük a megoldások egy populációján történő keresés, melyet a biológiából megismert törvényszerűségek vezérelnek A populáció egyedei a feladat egy-egy megoldását jelentik A populáció fejlődik, egyre jobb egyedeket kapunk

129 A kezdetek Az ötlet, hogy használjunk szimulált evolúciót mérnöki és tervezési problémák megoldására az 1950-es években megjelenik már Az 1960-as években kialakul a három fő klasszikus terület: Evolúciós programozás (Lawrence Fogel, 1962), Genetikus algoritmusok (Holland, 1975) Evolúciós Stratégiák (Rechenberg, 1965 & Schwefel, 1968) Az egyes technikák kifejlesztői megmutatták, hogy a módszerük alkalmas a következő probléma típusok megoldására Fogel előrejelzési problémákkal foglalkozott Rechenberg & Schwefel paraméter optimalizációs problémákkal Holland robusztus adaptív rendszerek fejlesztésével

130 Optimalizációs módszerek Determinisztikus Calculus alapú Hegymászó módszer Sztochasztikus Véletlen keresés Szimulált lehűtés Evolúciós algoritmusok: sztochasztikus módszerek, melyek a természetes evolúció folyamatát szimulálják felhasználva a legalkalmasabb egyed túlélésének törvényét

131 Terminológia Gén: funkcionális entitás, mely az egyed egy speciális tulajdonságát kódolja (pl. hajszín) Allél: a gén értéke (pl. szőke) Egyed: kromoszóma, egy megoldás jelölt a problémára Genotípus: egy egyed alléljainak egy speciális kombinációja Fenotípus: az egyed külső-belső tulajdonságainak összessége Locus: egy gén pozíciója a kromoszómán belül Populáció: egyszerre együtt élő egyedek összessége

132 A populáció evolúciója Egyedek eloszlása a 0. generációban Egyedek eloszlása a N. generációban

133 Genetikus algoritmus kezdeti populáció létrehozása egyedek rangsorolása szelekció keresztezés mutáció visszahelyettesítés

134 Az egyed Az egyed egy megoldás jelölt a problémára A probléma egy lehetséges megoldása valamilyen formában az egyedbe van kódolva pl. bináris, vagy valós Fitnesz érték (alkalmassági érték): az egyedeket valamilyen kritérium szerint értékeljük ki, aszerint, hogy mennyire jó megoldást adnak a feladatra Jobb egyednek nagyobb a fitnesz értéke, és nagyobb eséllyel él túl

135 Szelekciós módszerek többféle kiválasztási módszer terjedt el minél jobb az egyed, annál nagyobb az esély a kiválasztására Rulett kerék szelekció: az egyedek a fitnesz értékükkel arányos szeletet kapnak a gurításnál a nagyobb fitnesz értékű egyedek nagyobb eséllyel választódnak ki

136 Keresztezés (Crossover) Véletlenszerű keresztezési pont kiválasztása a két szülőn Utódok létrehozása az információ kicserélődésével a keresztezési pont alapján

137 Mutáció Gén értékének véletlenszerű megváltoztatása p m valószínűséggel (mutációs arány)

138 Egy példa (Goldberg) Egyszerű probléma: x 2 maximumának megkeresése a {0,1,,31} alaphalmazon Genetikus algoritmussal: Reprezentáció: bináris, pl Populáció méret: 4 Keresztezés, mutáció Rulett kerék szelekció Véletlenszerű inicializálás

139 Egy példa: szelekció

140 Egy példa: keresztezés

141 Egy példa: mutáció

142 Alternatív keresztezés operátorok n-pontos: uniform:

143 Valós GA Keresztezés például: szülők: x 1,,x n és y 1,,y n utód 1 : αx+(1-α)y a másik utódra felcserélve pl.: (α = 0.5) Mutáció: x= x 1,,x n x = x 1,,x n x i,x i [LB i,ub i ]

144 Bakteriális evolúciós algoritmusok Természetből ellesett optimalizációs technika A baktériumok evolúciós folyamatán alapul Alkalmas bonyolult optimalizációs problémák megoldására Egyed: egy megoldás a problémára Intelligens keresési stratégia eléggé jó megoldás keresésére (kvázi optimum) Gyors konvergencia (feltételesen)

145 Az algoritmus Kezdeti populáció véletlenszerű létrehozása n. generáció Bakteriális mutáció végrehajtása minden egyeden Génátadás végrehajtása a populációban Ha megfelelő eredményt értünk el, akkor megállunk, különben folytatjuk a bakteriális mutációs lépéssel (n+1). generáció

146 Bakteriális mutáció 1. rész i. rész n. rész Egy rész véletlenszerű kiválasztása Az i. részt változtatjuk az N klón számú másolatban, de az eredeti baktériumban nem A legjobb baktérium átadja az i. részt a többi baktériumnak Ismételjük addig, amíg az összes részt ki nem választottuk

147 Génátadás 1. A populációt 2 részre osztjuk, jó egyedekre, és rossz egyedekre 2. Egy baktériumot véletlenszerűen kiválasztunk a jobbik alpopulációból (forrásbaktérium) egy másikat pedig a rossz egyedek közül (célbaktérium) 3. A forrásbaktérium egy része felülírja a célbaktérium egy részét jó egyedek rossz egyedek Ez a ciklus ismétlődik N inf -szer ( infekciók száma)

148 Paraméterek N gen : generációk száma N ind : egyedek száma N klón : másolatok (klónok) száma a bakteriális mutációban N inf : génátadások (infekciók) száma a génátadásnál

149 Különbségek a GA és a BEA között A GA az emlősállatok evolúciós folyamatát utánozza, míg a BEA a baktériumok fejlődését Az információ terjesztésére a GA a keresztezés operátort használja, a BEA pedig a génátadást A bakteriális mutáció hatékonyabb a GA klasszikus mutációjánál A bakteriális evolúciós algoritmusban nincs szelekció, viszont van osztódás

150 Evolúciós elméletek Jean-Baptiste Lamarck A szerzett tulajdonságok öröklésének elmélete Ha egy organizmus változik az élete során, hogy ezáltal jobban adaptálódjon a környezetéhez, ezeket a változásokat továbbadja az utódainak Charles Darwin A szerzett tulajdonságok nem öröklődnek Az organizmus élete során bekövetkező változásai nincsenek hatással a faj fejlődésére James M. Baldwin Új faktor az evolúcióban A szerzett tulajdonságok indirekten öröklődhetnek

151 Memetikus algoritmusok Az evolúciós algoritmusoknak lokális kereső operátorokkal történő olyan kombinációja, ahol a lokális keresés az evolúciós cikluson belül zajlik A memetikus algoritmusokat Moscato javasolta (~1989) A lokális keresést élethosszig tartó tanulásnak lehet tekinteni Terminológia: mém = a kulturális evolúció alapegysége ( génje ) (Dawkins: Az önző gén, 1976) mimema : utánzás

152 Miért kombináljuk őket? Evolúciós algoritmusok Nagy, durva keresési teret járnak be Nehézségek a finomhangolással Lokális kereső technikák Gyorsan optimizálnak, konvergálnak Lokális optimumokba ragadnak Hátrányok: A tanulás költséges A tanulás nem mindig jó

153 Bakteriális memetikus algoritmus Kezdeti populáció véletlenszerű létrehozása Bakteriális mutáció végrehajtása minden egyeden Lokális keresés végrehajtása minden baktériumon Génátadás végrehajtása a populációban Ha megfelelő eredményt értünk el, akkor megállunk, különben folytatjuk a bakteriális mutációs lépéssel Bakteriális mutáció Lokális keresés Gén átadás n. generáció (n+1). generáció

154 Genetikus programozás John Koza (~1990) A genetikus programozás a genetikus algoritmusok alapötletét alkalmazza a lehetséges programok terére Különbözőnek tűnő problémák különböző területekről átfogalmazhatók egy számítógépes program-keresési feladattá

155 Egy számítógépes program

156 Egy számítógépes program C nyelven int foo (int time) { int temp1, temp2; if (time > 10) temp1 = 3; else temp1 = 4; temp2 = temp ; return (temp2); }

157 Program fa (+ 1 2 (IF (> TIME 10) 3 4))

158 Véletlen programok létrehozása Rendelkezésre álló függvények: pl. F = {+, -, *, %, IF} Rendelkezésre álló terminálisok: pl. T = {X, Y, konstansok} A véletlen programok: szintaktikailag érvényesek végrehajthatók A fák különböző méretűek és alakúak lehetnek

159 Genetikus operátorok a GP-ben Reprodukció Mutáció Keresztezés Reprodukció: szülő kiválasztása (fitness alapján) változatlan lemásolása a populáció következő generációjába

160 Mutáció 1 szülő kiválasztása (fitness alapján) A fa egy pontjának kiválasztása A kiválasztott pontnál lévő részfa törlése Új részfa növesztése a mutációs pontnál hasonló módon, mint a kezdeti véletlen fa létrehozásánál Az eredmény egy szintaktikailag érvényes, végrehajtható program legyen A leszármazott elhelyezése a populáció következő generációjába

161 Keresztezés 2 szülő kiválasztása (fitness alapján) Az első szülő fájában egy pont véletlen kiválasztása A második szülő fájában egy pont véletlen kiválasztása A két kiválasztott ponthoz tartozó részfák kicserélése Az eredmények szintaktikailag érvényes, végrehajtható programok legyenek A leszármazottak elhelyezése a populáció következő generációjába

162 Előkészítő lépések A terminálisok halmazának meghatározása A függvények halmazának meghatározása A fitness mérték meghatározása A futtatás paramétereinek meghatározása A megállási feltétel meghatározása

163 Egy példa Koza könyvéből: szimbolikus regresszió Független változó (X) Függő változó (Y)

164 Előkészítő lépések Cél: Találjunk egy egybemenetű (X független változó) számítógépes programot, amelynek a kimenete megegyezik a kívánt kimenettel. 1 Terminális halmaz: T={X, konstansok} 2 Függvény halmaz: F={+, -, *, %} 3 Fitness: A program kimenetei és a kívánt kimenetek közötti különbségek abszolútértékeinek összege. 4 Paraméterek: Populáció mérete: M=4 5 Megállási feltétel: Ha kialakul egy olyan egyed, amelynél az abszolút hibák összege kisebb, mint 0.1.

165 Szimbolikus regresszió (x 2 +x+1) 4 véletlenszerűen létrehozott egyed populációja (0. generáció):

166 Szimbolikus regresszió (x 2 +x+1) A 4 egyed fitness értéke a 0. generációban: x+1 x x

167 Szimbolikus regresszió (x 2 +x+1) 1. generáció: (c) mutánsa (a) és (b) keresztezésének első leszármazottja (a) és (b) keresztezésének második leszármazottja (a) másolata mutációs pont a 2 -nél keresztezési pont a + -nál (a) és a legbaloldalibb x -nél (b) keresztezési pont a + -nál (a) és a legbaloldalibb x -nél (b)

168 Néhány egyéb evolúciós módszer Többkritériumú genetikus algoritmus Többpopulációs genetikus algoritmus Hangyakolóniák Vírus alapú evolúciós algoritmus Ragadozó-zsákmány módszer Méhkirálynő evolúciós algoritmus Mesterséges immunrendszerek Részecske-raj optimalizáció...

169 Mi a számítási intelligencia? A számítási intelligencia technikák legfontosabb közös jellemzője, hogy képesek elfogadható szuboptimális, közelítő megoldást adni, miközben a számítási bonyolultságot kezelhető, általában alacsony fokú polinom szintjén tartják

170 A bakteriális memetikus algoritmus alkalmazása az utazó ügynök probléma megoldására Az utazó ügynök probléma (Traveling Salesman Problem, TSP) célja a legolcsóbb út megtalálása városok egy halmazában úgy, hogy minden várost pontosan egyszer látogatunk meg és végül a kiindulási pontba térünk vissza Az irodalomban a városok közötti költségek az euklideszi távolsággal vannak megadva, a probléma szimmetrikus, a költségek konstansok Nehéz probléma Módosítások az eredeti TSP-n, hogy a való élethez közelebb kerüljön

171 A módosított utazó ügynök probléma Egy várost nem csak egyszer lehet meglátogatni A valóságban vannak olyan városok, melyeknek csak egy csatlakozásuk van a többihez Egy hosszabb út (több várost tartalmazó túra) olcsóbb is lehet A városok közötti költségek nem állandóak Valósághű modell Egy városban meg is lehet állni, és később folytatni a túrát, ha így jobban megéri A városok közti költségek nem csak az időtől függenek, hanem fuzzy számokkal is vannak leírva, ezáltal modellezve az út költségének pontatlanságát

172 Bakteriális mutáció TSP esetén Paraméterek: szegmens hossz (ebben a példában 3) klónok száma (ebben a példában 4) szegmens 2. szegmens 3. szegmens 4. szegmens Véletlenszerű mutációs szegmens-sorrend kialakítása pl.: {3. szegmens, 1. szegmens, 4. szegmens, 2. szegmens} (ez azt jelenti, hogy a bakteriális mutációt először a 3. szegmensen hajtjuk végre) Létrehozzuk a klónokat és az adott szegmenset megváltoztatjuk a klónokban 1. klón: 2. klón: 3. klón: 4. klón: a legjobb klón kiválasztása

173 Bakteriális mutáció TSP esetén A szegmensnek nem muszáj egymás melletti elemekből állni: szegmens A módosított TSP-ben a városok száma nincs előre meghatározva, ezért különböző hosszúságú egyedek is előfordulhatnak a populációban. A módosított TSP-ben egy klón mutációja előtt véletlenszerűen döntünk a klón hosszának megváltoztatásáról.

174 Génátadás TSP esetén Paraméterek: szegmens hossz (ebben a példában 3) infekciók száma Forrásbaktérium: Célbaktérium a génátadás előtt: Célbaktérium a génátadás után:

175 Lokális keresés 2-opt: A C A C D B D B Lehetséges élpárak cseréje: AB + CD > AC + BD 3-opt: B A B A B A E D E D E D F C F C F C Lehetséges élhármasok cseréje: A legjobbat kiválasztjuk.

176 További lehetőségek Determinisztikus egyedek a kezdeti populációban Útkonstrukciós heurisztikák Legközelebbi szomszéd Második legközelebbi szomszéd Alternáló Determinisztikus klón a bakteriális mutációban A klónokban az adott szegmens véletlenszerűen változik, de az egyik klónban determinisztikusan változtatjuk, megfordítjuk a városok sorrendjét az adott szegmensben

177 Szimulációs eredmény Klasszikus TSP Referencia probléma 131 várossal ( XQF131 ) Optimális megoldás: teljes költség =564