Mesterséges intelligencia

Mesterséges intelligencia Botzheim János Budapesti Műszaki és Gazdaságtudományi Egyetem, Mechatronika, Optika és Gépészeti Informatika Tanszék

Motivációk Hogyan lehetne automatikussá tenni azokat az összetett funkciókat, amelyek megvalósítására az ember könnyedén képes pl.: autóvezetés Nehezen kezelhető feladatok Számos, az ember által többé-kevésbé megoldható feladat a klasszikus matematikai módszerekkel nehezen vagy egyáltalán nem kezelhető Az emberi intelligencia elemeit modellezve a nagybonyolultságú rendszerek kezelése megvalósítható intelligens, ún. soft computing technikákkal Intelligens alapmódszerek Fuzzy rendszerek, neurális hálózatok, evolúciós algoritmusok Jellemző a biológiai és filozófiai indíttatás

Egy összetett probléma Sok komponensű, összetett rendszer. De az emberek képesek megoldani. Spóroljunk üzemanyagot, spóroljunk időt stb.

Homokkupac paradoxon homokkupac homokszem = homokkupac

Homokkupac paradoxon ebből az következik, hogy homokkupac = 0 ennek oka: a homokkupacot nem definiáltuk elég pontosan gond: egy precíz matematikai definíció nincs összhangban a homokkupac hétköznapi fogalmával probléma: a precíz fogalmakat használó matematika nem alkalmas a pontatlan fogalmak formális kezelésére kérdés: ki tudjuk-e terjeszteni a matematikát úgy, hogy képes legyen pontatlan fogalmakat is kezelni?

Fuzzy halmaz, fuzzy logika Fuzzy: homályos, életlen Lotfi A. Zadeh (1965): fuzzy halmazelmélet a nyelvi fogalmakban lévő pontatlanság kifejezésére Fuzzy logika: Zadeh, 1973 Fuzzy következtetés nyelvi szabályokkal: Zadeh: 1973 Mamdani: 1975

Fuzzy halmaz Elmosódott határ: pl.: magas emberek : mennyire eleme egy ismert magassággal rendelkező ember ennek a halmaznak? Részleges tagság: 0 és 1 között: van aki jobban beletartozik, van aki kevésbé Milyen mértékben tartozik x a halmazba? tagsági függvény

Egy példa Pl. Egy hallgatói csoport Alaphalmaz: X 1 0 1 1 0 1 1 Kinek van jogosítványa? X egy részhalmaza az A (crisp) halmaz χ A (X) = karakterisztikus függvény Ki tud jól vezetni? µ(x) = tagsági függvény 0.7 0 1.0 0.8 0 0.4 0.2

Egy másik példa példa az emberek magasságait leíró 3 fuzzy halmazra a halmazok részben átfedhetik egymást egy ember több halmazba is beletartozhat, különböző tagsági értékkel µ 1 alacsony középtermetű magas 0 160 170 180 190 200 x [cm]

Definíciók Crisp halmaz: Konvex halmaz: A nem konvex, mert a A, c A, de d=λa+(1-λ)c A, λ [0, 1]. B konvex, mert minden x, y B és λ [0, 1]-re: z=λx+(1-λ)y B. Részhalmaz: a A b A x B A x y y B c d a b A (crisp halmaz) Ha x A akkor x B. A B

Definíciók Egyenlő halmazok: Ha A B és B A akkor A=B, különben A B. Valódi részhalmaz: Ha létezik legalább egy y B úgy, hogy y A akkor A B. Üres halmaz Karakterisztikus függvény: µ A (x): X {0, 1}, ahol X az univerzum (alaphalmaz). 0 érték: x nem eleme az A halmaznak, 1 érték: x eleme az A halmaznak.

Definíciók A={1, 2, 3, 4, 5, 6} Számosság: A =6. Az A hatványhalmaza: P (A)={{}=Ø, {1}, {2}, {3}, {4}, {5}, {6}, {1, 2}, {1, 3}, {1, 4}, {1, 5}, {1, 6}, {2, 3}, {2, 4}, {2, 5}, {2, 6}, {3, 4}, {3, 5}, {3, 6}, {4, 5}, {4, 6}, {5, 6}, {1, 2, 3}, {1, 2, 4}, {1, 2, 5}, {1, 2, 6}, {1, 3, 4}, {1, 3, 5}, {1, 3, 6}, {1, 4, 5}, {1, 4, 6}, {1, 5, 6}, {2, 3, 4}, {2, 3, 5}, {2, 3, 6}, {2, 4, 5}, {2, 4, 6}, {2, 5, 6}, {3, 4, 5}, {3, 4, 6}, {3, 5, 6}, {4, 5, 6}, {1, 2, 3, 4}, {1, 2, 3, 5}, {1, 2, 3, 6}, {1, 2, 4, 5}, {1, 2, 4, 6}, {1, 2, 5, 6}, {1, 3, 4, 5}, {1, 3, 4, 6}, {1, 3, 5, 6}, {1, 4, 5, 6}, {2, 3, 4, 5}, {2, 3, 4, 6}, {2, 3, 5, 6}, {2, 4, 5, 6}, {3, 4, 5, 6}, {1, 2, 3, 4, 5}, {1, 2, 3, 4, 6}, {1, 2, 4, 5, 6}, {1, 3, 4, 5, 6}, {2, 3, 4, 5, 6}, {1, 2, 3, 4, 5, 6}}. P (A) =2 6 =64.

Definíciók Relatív komplemens vagy differencia: A B={x x A és x B} B={1, 3, 4, 5}, A B={2, 6}. C={1, 3, 4, 5, 7, 8}, A C={2, 6}! Komplemens: A = X - A, ahol X az alaphalmaz. A komplemensképzés involutív: A = A Alaptulajdonságok: Æ = X, Unió: A B={x x A vagy x B} Alaptulajdonságok: X A = Æ A È X = ÈÆ = A È A = X A X

Definíciók Metszet: A B={x x A és x B} Alaptulajdonságok: A ÇÆ = Æ A Ç X A Ç A = A = Æ További tulajdonságok: kommutativitás: asszociativitás: idempotencia: disztributivitás: A B=B A, A B=B A. A B C=(A B) C=A (B C), A B C=(A B) C=A (B C). A A=A, A A=A. A (B C)=(A B) (A C), A (B C)=(A B) (A C).

Definíciók További tulajdonságok: DeMorgan törvény: Diszjunkt halmazok: A B=. Az X alaphalmaz partíciója: B A B A B A B A Ç = È È = Ç ( ) þ ý ü î í ì = = Æ Ç Î = Õ Î! I i i i i i X A, A A I, i A x 2 1 { } ( ) x N i A A A A X 6 i j i 6 1 i i = Õ Î = Æ Ç = =!

Tagsági függvény Crisp halmaz Fuzzy halmaz Karakterisztikus függvény Tagsági függvény µ A :X {0, 1} µ A :X [0, 1]

Fuzzy halmazok - példa Évek Csecs emő Feln őtt Fiatal Idős 5 0 0 1 0 10 0 0 1 0 20 0.8.8.1 30 0 1.5.2 40 0 1.2.4 50 0 1.1.6 60 0 1 0.8 70 0 1 0 1 80 0 1 0 1

<latexit sha1_base64="7qi4l4lk66its4by+ck7tmkwbss=">aaaccxicbvbns8naen34wenx1koxpuvolyurwxoothjxwmhyqhpkzrtpl+5uwu5gwklvhvwthrxyvpolpppvtnsctpxbwoo9gwbmbtgjstv2t7gxubw9s1vym/cpdo+orzptrxulehmxryysnqapwqggrqaaku4sceibi+1gddv3209ekhqjbz2jic/rqncqyqqzqwcvcsrjuvmpe+nyowj2pe77hk96zfk4une8qwn2rjjdtrea68tjsqnkapwsl68f4yqtotfdsnvrsfztjdxfjexnl1ekrniebqsbuye4ux66eguklzkld8niziu0xki/j1lelzrwiovksa/vqjcx//o6iq5rfkpfnggi8hjrmdcoizjpbfapjfizsuyqljs7feihkgjrll15bs7qx+vevazevj37q1kjlodraoegcmraadegae5ac7gag2fwct7bzhgx3oyz8bfs3tdymtpwb8bnd93hmkq=</latexit> <latexit sha1_base64="7qi4l4lk66its4by+ck7tmkwbss=">aaaccxicbvbns8naen34wenx1koxpuvolyurwxoothjxwmhyqhpkzrtpl+5uwu5gwklvhvwthrxyvpolpppvtnsctpxbwoo9gwbmbtgjstv2t7gxubw9s1vym/cpdo+orzptrxulehmxryysnqapwqggrqaaku4sceibi+1gddv3209ekhqjbz2jic/rqncqyqqzqwcvcsrjuvmpe+nyowj2pe77hk96zfk4une8qwn2rjjdtrea68tjsqnkapwsl68f4yqtotfdsnvrsfztjdxfjexnl1ekrniebqsbuye4ux66eguklzkld8niziu0xki/j1lelzrwiovksa/vqjcx//o6iq5rfkpfnggi8hjrmdcoizjpbfapjfizsuyqljs7feihkgjrll15bs7qx+vevazevj37q1kjlodraoegcmraadegae5ac7gag2fwct7bzhgx3oyz8bfs3tdymtpwb8bnd93hmkq=</latexit> <latexit sha1_base64="7qi4l4lk66its4by+ck7tmkwbss=">aaaccxicbvbns8naen34wenx1koxpuvolyurwxoothjxwmhyqhpkzrtpl+5uwu5gwklvhvwthrxyvpolpppvtnsctpxbwoo9gwbmbtgjstv2t7gxubw9s1vym/cpdo+orzptrxulehmxryysnqapwqggrqaaku4sceibi+1gddv3209ekhqjbz2jic/rqncqyqqzqwcvcsrjuvmpe+nyowj2pe77hk96zfk4une8qwn2rjjdtrea68tjsqnkapwsl68f4yqtotfdsnvrsfztjdxfjexnl1ekrniebqsbuye4ux66eguklzkld8niziu0xki/j1lelzrwiovksa/vqjcx//o6iq5rfkpfnggi8hjrmdcoizjpbfapjfizsuyqljs7feihkgjrll15bs7qx+vevazevj37q1kjlodraoegcmraadegae5ac7gag2fwct7bzhgx3oyz8bfs3tdymtpwb8bnd93hmkq=</latexit> <latexit sha1_base64="7qi4l4lk66its4by+ck7tmkwbss=">aaaccxicbvbns8naen34wenx1koxpuvolyurwxoothjxwmhyqhpkzrtpl+5uwu5gwklvhvwthrxyvpolpppvtnsctpxbwoo9gwbmbtgjstv2t7gxubw9s1vym/cpdo+orzptrxulehmxryysnqapwqggrqaaku4sceibi+1gddv3209ekhqjbz2jic/rqncqyqqzqwcvcsrjuvmpe+nyowj2pe77hk96zfk4une8qwn2rjjdtrea68tjsqnkapwsl68f4yqtotfdsnvrsfztjdxfjexnl1ekrniebqsbuye4ux66eguklzkld8niziu0xki/j1lelzrwiovksa/vqjcx//o6iq5rfkpfnggi8hjrmdcoizjpbfapjfizsuyqljs7feihkgjrll15bs7qx+vevazevj37q1kjlodraoegcmraadegae5ac7gag2fwct7bzhgx3oyz8bfs3tdymtpwb8bnd93hmkq=</latexit> <latexit sha1_base64="0d7gj+b3pyel5fljhlzs+uj0b9w=">aaacchicbva9twjben3ze/hr1njmlzhaqw5jihyaii0ljiik3owyt7faht29y+6egvyolfwtfjysw/+bpf/gpabq8cwtvlw3k5l5qcyo0o7zba2srq1vboa28ts7u3v79shho4osiuktryys7qapwqggtu01i+1yesqdrlrb4dbzw09ekhqjbz2kicdrt9auxugbybdpvblhxxrp2k2hlhww7xiaujzx68vh6czxx3nfljhlzwq4tcpzugbznhz7yw0jnhaingziqu411l6kpkaykxhetrsjer6ghukykhanykunn4zhmvfc2i2kkahhvp09ksku1ighppmj3velxib+53us3a16krvxoonas0xdheedwswwgfjjsgyjqxcw1nwkcr9jhlujl8ugsvjxmmmel6/klfulqq06dymhjsepkiikuaq1cacaoakweaav4b1mrbfrzzpyh7pwfws+cwt+wpr8addumk8=</latexit> <latexit sha1_base64="0d7gj+b3pyel5fljhlzs+uj0b9w=">aaacchicbva9twjben3ze/hr1njmlzhaqw5jihyaii0ljiik3owyt7faht29y+6egvyolfwtfjysw/+bpf/gpabq8cwtvlw3k5l5qcyo0o7zba2srq1vboa28ts7u3v79shho4osiuktryys7qapwqggtu01i+1yesqdrlrb4dbzw09ekhqjbz2kicdrt9auxugbybdpvblhxxrp2k2hlhww7xiaujzx68vh6czxx3nfljhlzwq4tcpzugbznhz7yw0jnhaingziqu411l6kpkaykxhetrsjer6ghukykhanykunn4zhmvfc2i2kkahhvp09ksku1ighppmj3velxib+53us3a16krvxoonas0xdheedwswwgfjjsgyjqxcw1nwkcr9jhlujl8ugsvjxmmmel6/klfulqq06dymhjsepkiikuaq1cacaoakweaav4b1mrbfrzzpyh7pwfws+cwt+wpr8addumk8=</latexit> <latexit sha1_base64="0d7gj+b3pyel5fljhlzs+uj0b9w=">aaacchicbva9twjben3ze/hr1njmlzhaqw5jihyaii0ljiik3owyt7faht29y+6egvyolfwtfjysw/+bpf/gpabq8cwtvlw3k5l5qcyo0o7zba2srq1vboa28ts7u3v79shho4osiuktryys7qapwqggtu01i+1yesqdrlrb4dbzw09ekhqjbz2kicdrt9auxugbybdpvblhxxrp2k2hlhww7xiaujzx68vh6czxx3nfljhlzwq4tcpzugbznhz7yw0jnhaingziqu411l6kpkaykxhetrsjer6ghukykhanykunn4zhmvfc2i2kkahhvp09ksku1ighppmj3velxib+53us3a16krvxoonas0xdheedwswwgfjjsgyjqxcw1nwkcr9jhlujl8ugsvjxmmmel6/klfulqq06dymhjsepkiikuaq1cacaoakweaav4b1mrbfrzzpyh7pwfws+cwt+wpr8addumk8=</latexit> <latexit sha1_base64="0d7gj+b3pyel5fljhlzs+uj0b9w=">aaacchicbva9twjben3ze/hr1njmlzhaqw5jihyaii0ljiik3owyt7faht29y+6egvyolfwtfjysw/+bpf/gpabq8cwtvlw3k5l5qcyo0o7zba2srq1vboa28ts7u3v79shho4osiuktryys7qapwqggtu01i+1yesqdrlrb4dbzw09ekhqjbz2kicdrt9auxugbybdpvblhxxrp2k2hlhww7xiaujzx68vh6czxx3nfljhlzwq4tcpzugbznhz7yw0jnhaingziqu411l6kpkaykxhetrsjer6ghukykhanykunn4zhmvfc2i2kkahhvp09ksku1ighppmj3velxib+53us3a16krvxoonas0xdheedwswwgfjjsgyjqxcw1nwkcr9jhlujl8ugsvjxmmmel6/klfulqq06dymhjsepkiikuaq1cacaoakweaav4b1mrbfrzzpyh7pwfws+cwt+wpr8addumk8=</latexit> <latexit sha1_base64="29cx9dxwszwrnhwl9zfxlgriol4=">aaacenicbvbns8naen34wenx1koxxsjuhjkiyd0ilv48vrc20a1hs922s3c3yxcjlae/woo/xymxi1cvhv03pm0o2vpg4pheddpzwpgzbvz321pzxvvf2cxs2ds7u3v7zshho44srwidrdxsrrbrypmkdcmmp61yusxctpvh4hbqn5+o0iysd2yuu1/gnmrdrrdjpma5rwui87ipb1a6rezcfhksg0qs1erdm9sjcxenbdsonkjbdmeay8tlsrhkqafof+pejbfugskx1u1kbpwuk8mip2mbjzrgmaxwj7yzkrgg2k9np43haaz0yddswukdz+rvirqlrucizdofnn296e3f/7x2yrovp2uytgyvzl6om3boijgnchayostwuuywusy7fzi+vpiylmzpbt7ix8ukcvg+lnv3l8vqjq+jai7bcsgbd1ybkrgdddaabdydv/aojtal9wznri9564qvzxybp7a+fwcivpzr</latexit> <latexit sha1_base64="29cx9dxwszwrnhwl9zfxlgriol4=">aaacenicbvbns8naen34wenx1koxxsjuhjkiyd0ilv48vrc20a1hs922s3c3yxcjlae/woo/xymxi1cvhv03pm0o2vpg4pheddpzwpgzbvz321pzxvvf2cxs2ds7u3v7zshho44srwidrdxsrrbrypmkdcmmp61yusxctpvh4hbqn5+o0iysd2yuu1/gnmrdrrdjpma5rwui87ipb1a6rezcfhksg0qs1erdm9sjcxenbdsonkjbdmeay8tlsrhkqafof+pejbfugskx1u1kbpwuk8mip2mbjzrgmaxwj7yzkrgg2k9np43haaz0yddswukdz+rvirqlrucizdofnn296e3f/7x2yrovp2uytgyvzl6om3boijgnchayostwuuywusy7fzi+vpiylmzpbt7ix8ukcvg+lnv3l8vqjq+jai7bcsgbd1ybkrgdddaabdydv/aojtal9wznri9564qvzxybp7a+fwcivpzr</latexit> <latexit sha1_base64="29cx9dxwszwrnhwl9zfxlgriol4=">aaacenicbvbns8naen34wenx1koxxsjuhjkiyd0ilv48vrc20a1hs922s3c3yxcjlae/woo/xymxi1cvhv03pm0o2vpg4pheddpzwpgzbvz321pzxvvf2cxs2ds7u3v7zshho44srwidrdxsrrbrypmkdcmmp61yusxctpvh4hbqn5+o0iysd2yuu1/gnmrdrrdjpma5rwui87ipb1a6rezcfhksg0qs1erdm9sjcxenbdsonkjbdmeay8tlsrhkqafof+pejbfugskx1u1kbpwuk8mip2mbjzrgmaxwj7yzkrgg2k9np43haaz0yddswukdz+rvirqlrucizdofnn296e3f/7x2yrovp2uytgyvzl6om3boijgnchayostwuuywusy7fzi+vpiylmzpbt7ix8ukcvg+lnv3l8vqjq+jai7bcsgbd1ybkrgdddaabdydv/aojtal9wznri9564qvzxybp7a+fwcivpzr</latexit> <latexit sha1_base64="29cx9dxwszwrnhwl9zfxlgriol4=">aaacenicbvbns8naen34wenx1koxxsjuhjkiyd0ilv48vrc20a1hs922s3c3yxcjlae/woo/xymxi1cvhv03pm0o2vpg4pheddpzwpgzbvz321pzxvvf2cxs2ds7u3v7zshho44srwidrdxsrrbrypmkdcmmp61yusxctpvh4hbqn5+o0iysd2yuu1/gnmrdrrdjpma5rwui87ipb1a6rezcfhksg0qs1erdm9sjcxenbdsonkjbdmeay8tlsrhkqafof+pejbfugskx1u1kbpwuk8mip2mbjzrgmaxwj7yzkrgg2k9np43haaz0yddswukdz+rvirqlrucizdofnn296e3f/7x2yrovp2uytgyvzl6om3boijgnchayostwuuywusy7fzi+vpiylmzpbt7ix8ukcvg+lnv3l8vqjq+jai7bcsgbd1ybkrgdddaabdydv/aojtal9wznri9564qvzxybp7a+fwcivpzr</latexit> <latexit sha1_base64="xqufursdpxs6jphrpr1o5umbkrq=">aaacbxicbvbns8naen3ur1q/oh4fwsxceympcnad0olfywvjc00im+2mxbrzhn2ntitepphbphixepu3eptfuglz0nyha4/3zpiz58emsmvz30zhbx1jc6u4xdrz3ds/ma+phmwucexshlfidh0kcaoc2ioqrrqxicj0gen4o9vm7zwriwneh9qkjm6ibpwgfcoljc88hvza1rthjrgxjh3kyxfqhinxqoyrjq3plfs1aw64suo5kymcbc/8cvortklcfwziyl4jvm6khkkykwnjsssjer6haelpylfipjvo35jcc630yrajxvzbufp7ikwhljpq150huko57gxif14vuuhdtsmpe0u4xiwkegzvblnmyj8kghwbaikwoppwiidiikx0clkg9ewpv4l9ubuu1e8vy81ghkyrniazuaf1cawa4a60gq0weaav4b3mjbfjzzgzh4vwgphphim/md5/afznlqy=</latexit> <latexit sha1_base64="xqufursdpxs6jphrpr1o5umbkrq=">aaacbxicbvbns8naen3ur1q/oh4fwsxceympcnad0olfywvjc00im+2mxbrzhn2ntitepphbphixepu3eptfuglz0nyha4/3zpiz58emsmvz30zhbx1jc6u4xdrz3ds/ma+phmwucexshlfidh0kcaoc2ioqrrqxicj0gen4o9vm7zwriwneh9qkjm6ibpwgfcoljc88hvza1rthjrgxjh3kyxfqhinxqoyrjq3plfs1aw64suo5kymcbc/8cvortklcfwziyl4jvm6khkkykwnjsssjer6haelpylfipjvo35jcc630yrajxvzbufp7ikwhljpq150huko57gxif14vuuhdtsmpe0u4xiwkegzvblnmyj8kghwbaikwoppwiidiikx0clkg9ewpv4l9ubuu1e8vy81ghkyrniazuaf1cawa4a60gq0weaav4b3mjbfjzzgzh4vwgphphim/md5/afznlqy=</latexit> <latexit sha1_base64="xqufursdpxs6jphrpr1o5umbkrq=">aaacbxicbvbns8naen3ur1q/oh4fwsxceympcnad0olfywvjc00im+2mxbrzhn2ntitepphbphixepu3eptfuglz0nyha4/3zpiz58emsmvz30zhbx1jc6u4xdrz3ds/ma+phmwucexshlfidh0kcaoc2ioqrrqxicj0gen4o9vm7zwriwneh9qkjm6ibpwgfcoljc88hvza1rthjrgxjh3kyxfqhinxqoyrjq3plfs1aw64suo5kymcbc/8cvortklcfwziyl4jvm6khkkykwnjsssjer6haelpylfipjvo35jcc630yrajxvzbufp7ikwhljpq150huko57gxif14vuuhdtsmpe0u4xiwkegzvblnmyj8kghwbaikwoppwiidiikx0clkg9ewpv4l9ubuu1e8vy81ghkyrniazuaf1cawa4a60gq0weaav4b3mjbfjzzgzh4vwgphphim/md5/afznlqy=</latexit> <latexit sha1_base64="xqufursdpxs6jphrpr1o5umbkrq=">aaacbxicbvbns8naen3ur1q/oh4fwsxceympcnad0olfywvjc00im+2mxbrzhn2ntitepphbphixepu3eptfuglz0nyha4/3zpiz58emsmvz30zhbx1jc6u4xdrz3ds/ma+phmwucexshlfidh0kcaoc2ioqrrqxicj0gen4o9vm7zwriwneh9qkjm6ibpwgfcoljc88hvza1rthjrgxjh3kyxfqhinxqoyrjq3plfs1aw64suo5kymcbc/8cvortklcfwziyl4jvm6khkkykwnjsssjer6haelpylfipjvo35jcc630yrajxvzbufp7ikwhljpq150huko57gxif14vuuhdtsmpe0u4xiwkegzvblnmyj8kghwbaikwoppwiidiikx0clkg9ewpv4l9ubuu1e8vy81ghkyrniazuaf1cawa4a60gq0weaav4b3mjbfjzzgzh4vwgphphim/md5/afznlqy=</latexit> Fuzzy halmazok - tulajdonságok mag: core(a) ={x 2 X µ A (x) =1} tartó: supp(a) ={x 2 X µ A (x) > 0} α-vágat: A = {x 2 X µ A (x) } magasság: h(a) =sup x2x µ A (x)

Műveletek fuzzy halmazokon Zadeh, 1965 Komplemens: Metszet: Unió: µ ( x) = 1 µ ( x) A A µ ( x) min( ( x), ( x ) A B = µ A µ B ( x) = max( µ ( x), ( x ) µ A B A µ B

Műveletek fuzzy halmazokon Ezek valóban általánosításai a crisp halmazműveleteknek: A B A A B A B 1-µ A min max 0 0 1 0 0 1 0 0 0 1 1 0 1 1 0 1 1 0 0 0 1 0 0 1 1 1 0 1 1 0 1 1

<latexit sha1_base64="6rjxmtfreys30jwqgihwppb96pw=">aaacwxicfvjlt+mwej6exr7dhs1w5gjr7wqrujwskcihspxgwbgklsa1vew4tmvqr2q7icrqj+tit+bfmak9laxtwelmvoc88tjnpxa+ip6dco3l1/wnza3gt+/boz+au3s3zhsw8t4z0ti7ldouhez9l7zkd7nlvkws36az84q/fedwcap/+nnoh4potmgeox4h01tgyaqljkcawims4dd+jygfi+gimgkhcqjqqghiokwdqhq16heq2pmcqw+j1rrxgjxbrasrahjcdaz+r6bv1pgn6qqtobwgmso3bo/onqotzdsmvzscnvtro6qdfezizdkczvynmk/j2lbcce2zpm4norkfltr6wsrfnjlc8zyygz3waaaaku6gzt2cbfmjyjhkxukjpanrfx0lvc7nvypkrf3urxiv+bk3khzwgzzc54xnmr1tlbwseeoqezkxsjx5oceemiuwv8km1flmcervgcsrf/wx6f9pn7xj65nwr7m8je04geo8cjgcqg8u4qr6wijekaumymol8d7mq/smdyolzx/ervi+anbssmy=</latexit> <latexit sha1_base64="6rjxmtfreys30jwqgihwppb96pw=">aaacwxicfvjlt+mwej6exr7dhs1w5gjr7wqrujwskcihspxgwbgklsa1vew4tmvqr2q7icrqj+tit+bfmak9laxtwelmvoc88tjnpxa+ip6dco3l1/wnza3gt+/boz+au3s3zhsw8t4z0ti7ldouhez9l7zkd7nlvkws36az84q/fedwcap/+nnoh4potmgeox4h01tgyaqljkcawims4dd+jygfi+gimgkhcqjqqghiokwdqhq16heq2pmcqw+j1rrxgjxbrasrahjcdaz+r6bv1pgn6qqtobwgmso3bo/onqotzdsmvzscnvtro6qdfezizdkczvynmk/j2lbcce2zpm4norkfltr6wsrfnjlc8zyygz3waaaaku6gzt2cbfmjyjhkxukjpanrfx0lvc7nvypkrf3urxiv+bk3khzwgzzc54xnmr1tlbwseeoqezkxsjx5oceemiuwv8km1flmcervgcsrf/wx6f9pn7xj65nwr7m8je04geo8cjgcqg8u4qr6wijekaumymol8d7mq/smdyolzx/ervi+anbssmy=</latexit> <latexit sha1_base64="6rjxmtfreys30jwqgihwppb96pw=">aaacwxicfvjlt+mwej6exr7dhs1w5gjr7wqrujwskcihspxgwbgklsa1vew4tmvqr2q7icrqj+tit+bfmak9laxtwelmvoc88tjnpxa+ip6dco3l1/wnza3gt+/boz+au3s3zhsw8t4z0ti7ldouhez9l7zkd7nlvkws36az84q/fedwcap/+nnoh4potmgeox4h01tgyaqljkcawims4dd+jygfi+gimgkhcqjqqghiokwdqhq16heq2pmcqw+j1rrxgjxbrasrahjcdaz+r6bv1pgn6qqtobwgmso3bo/onqotzdsmvzscnvtro6qdfezizdkczvynmk/j2lbcce2zpm4norkfltr6wsrfnjlc8zyygz3waaaaku6gzt2cbfmjyjhkxukjpanrfx0lvc7nvypkrf3urxiv+bk3khzwgzzc54xnmr1tlbwseeoqezkxsjx5oceemiuwv8km1flmcervgcsrf/wx6f9pn7xj65nwr7m8je04geo8cjgcqg8u4qr6wijekaumymol8d7mq/smdyolzx/ervi+anbssmy=</latexit> <latexit sha1_base64="6rjxmtfreys30jwqgihwppb96pw=">aaacwxicfvjlt+mwej6exr7dhs1w5gjr7wqrujwskcihspxgwbgklsa1vew4tmvqr2q7icrqj+tit+bfmak9laxtwelmvoc88tjnpxa+ip6dco3l1/wnza3gt+/boz+au3s3zhsw8t4z0ti7ldouhez9l7zkd7nlvkws36az84q/fedwcap/+nnoh4potmgeox4h01tgyaqljkcawims4dd+jygfi+gimgkhcqjqqghiokwdqhq16heq2pmcqw+j1rrxgjxbrasrahjcdaz+r6bv1pgn6qqtobwgmso3bo/onqotzdsmvzscnvtro6qdfezizdkczvynmk/j2lbcce2zpm4norkfltr6wsrfnjlc8zyygz3waaaaku6gzt2cbfmjyjhkxukjpanrfx0lvc7nvypkrf3urxiv+bk3khzwgzzc54xnmr1tlbwseeoqezkxsjx5oceemiuwv8km1flmcervgcsrf/wx6f9pn7xj65nwr7m8je04geo8cjgcqg8u4qr6wijekaumymol8d7mq/smdyolzx/ervi+anbssmy=</latexit> <latexit sha1_base64="qcacbtybzuzhcxopitlkpglalsi=">aaacy3icfvjnj9mwej2eryv8fthysahaikeqquiuw0orcuec0cjrdqw2qhx32lp17mieilkhr34gr34c/4jjngd2u2isr2/ee6ompc5lowol6e8ovnb9xs1bb7eto3fv3x8wepjoa3cvvzhrzjh/msuarluckcadp6vhweqgt/lt+1y/+yy+age/uf3ivjbrq1daswlkdtwqlkcbgrsgwcioxocev5ddszhkngeedac0ofgjnad2jz3royiumgch39khymo8yf0wdwgze2a8es7+75yx3omv7ratgv4ws+wv5c5hxxxcpur8uddjvxadytpkuxd7iovbepo4xgx+zzzovqvaukagmb2xng+kj60m7pjzfbcuaivxogvozyfh3ntd2ilnzczfynnelkth/lvryckeusjzwujahmtas16ltstajeentmvfanx5j1aveereo1mx1b4vmzqbvf5zr0jtpjekep7thwsxt7wpjq9h70bz5zfdo3f/gqfwbj7yo8jglrzbbzigcajoy1rgdxqwf4oppot/nfvjqk95dbci/vkxv9uxbq==</latexit> <latexit sha1_base64="qcacbtybzuzhcxopitlkpglalsi=">aaacy3icfvjnj9mwej2eryv8fthysahaikeqquiuw0orcuec0cjrdqw2qhx32lp17mieilkhr34gr34c/4jjngd2u2isr2/ee6ompc5lowol6e8ovnb9xs1bb7eto3fv3x8wepjoa3cvvzhrzjh/msuarluckcadp6vhweqgt/lt+1y/+yy+age/uf3ivjbrq1daswlkdtwqlkcbgrsgwcioxocev5ddszhkngeedac0ofgjnad2jz3royiumgch39khymo8yf0wdwgze2a8es7+75yx3omv7ratgv4ws+wv5c5hxxxcpur8uddjvxadytpkuxd7iovbepo4xgx+zzzovqvaukagmb2xng+kj60m7pjzfbcuaivxogvozyfh3ntd2ilnzczfynnelkth/lvryckeusjzwujahmtas16ltstajeentmvfanx5j1aveereo1mx1b4vmzqbvf5zr0jtpjekep7thwsxt7wpjq9h70bz5zfdo3f/gqfwbj7yo8jglrzbbzigcajoy1rgdxqwf4oppot/nfvjqk95dbci/vkxv9uxbq==</latexit> <latexit sha1_base64="qcacbtybzuzhcxopitlkpglalsi=">aaacy3icfvjnj9mwej2eryv8fthysahaikeqquiuw0orcuec0cjrdqw2qhx32lp17mieilkhr34gr34c/4jjngd2u2isr2/ee6ompc5lowol6e8ovnb9xs1bb7eto3fv3x8wepjoa3cvvzhrzjh/msuarluckcadp6vhweqgt/lt+1y/+yy+age/uf3ivjbrq1daswlkdtwqlkcbgrsgwcioxocev5ddszhkngeedac0ofgjnad2jz3royiumgch39khymo8yf0wdwgze2a8es7+75yx3omv7ratgv4ws+wv5c5hxxxcpur8uddjvxadytpkuxd7iovbepo4xgx+zzzovqvaukagmb2xng+kj60m7pjzfbcuaivxogvozyfh3ntd2ilnzczfynnelkth/lvryckeusjzwujahmtas16ltstajeentmvfanx5j1aveereo1mx1b4vmzqbvf5zr0jtpjekep7thwsxt7wpjq9h70bz5zfdo3f/gqfwbj7yo8jglrzbbzigcajoy1rgdxqwf4oppot/nfvjqk95dbci/vkxv9uxbq==</latexit> <latexit sha1_base64="qcacbtybzuzhcxopitlkpglalsi=">aaacy3icfvjnj9mwej2eryv8fthysahaikeqquiuw0orcuec0cjrdqw2qhx32lp17mieilkhr34gr34c/4jjngd2u2isr2/ee6ompc5lowol6e8ovnb9xs1bb7eto3fv3x8wepjoa3cvvzhrzjh/msuarluckcadp6vhweqgt/lt+1y/+yy+age/uf3ivjbrq1daswlkdtwqlkcbgrsgwcioxocev5ddszhkngeedac0ofgjnad2jz3royiumgch39khymo8yf0wdwgze2a8es7+75yx3omv7ratgv4ws+wv5c5hxxxcpur8uddjvxadytpkuxd7iovbepo4xgx+zzzovqvaukagmb2xng+kj60m7pjzfbcuaivxogvozyfh3ntd2ilnzczfynnelkth/lvryckeusjzwujahmtas16ltstajeentmvfanx5j1aveereo1mx1b4vmzqbvf5zr0jtpjekep7thwsxt7wpjq9h70bz5zfdo3f/gqfwbj7yo8jglrzbbzigcajoy1rgdxqwf4oppot/nfvjqk95dbci/vkxv9uxbq==</latexit> Műveletek - egyéb lehetőségek Metszet: 1. 2. 3. 4. Unió: 1. 2. ( a, b) min( a, b) t = ( a, b) ab t = t ( a, b) = max(0, a + b -1) t min (a, b) = 8 >< a, ha b =1, b, ha a =1, >: 0, egyébként. s ( a, b) = max( a, b) s( a, b) = a + b - ab 3. 4. ( a, b) min(1, 8 a b) s = + s max (a, b) = >< a, ha b =0, b, ha a =0, >: 1, egyébként.

Tartalmazza az algebrai normákat: és

Fuzzy relációk Hagyományos (crisp) reláció: két vagy több halmaz elemei közötti kapcsolatokat írja le. Ha a halmazok bizonyos elemei között van kapcsolat, akkor a reláció értéke az adott kapcsolatra 1, különben pedig 0 Fuzzy reláció: a kapcsolatokat kevesbé élesen írja le, két vagy több elem egymással való kapcsolatát tetszőleges 0 és 1 közötti értékkel jellemezhetünk A B crisp reláció A 0.8 1 0.5 0.6 B 0.9 fuzzy reláció

Fuzzy szabályok HA x = A AKKOR y = B ahol A a szabály antecedense, B pedig a konzekvense példa: Ha a forgalom erős északi irányban, akkor a lámpa legyen hosszabb ideig zöld Fuzzy szabálybázis reláció

Fuzzy rendszer általános sémája Illeszkedési mértéket meghatározó egység Fuzzy következtető gép Defuzzifikációs modul Fuzzy szabály bázis

Fuzzy szabálybázis Ha x = A akkor y = B "fuzzy pont" A B Ha x = A i akkor y = B i i = 1,...,r "fuzzy függvény Fuzzy szabály = fuzzy reláció (R i ) Fuzzy szabálybázis = fuzzy reláció (R), az R i fuzzy szabályok uniója (s-normája): R fuzzy szabálybázis reláció 2 fuzzy szabállyal A 1 B 1, A 2 B 2 (R 1, R 2 )

Fuzzy szabálybázis reláció több-dimenziós eset:

Nyelvi változó Nyelvi változó definíciója (Zadeh): Egy olyan változó, melynek értékei szavak vagy mondatok valamilyen természetes vagy mesterséges nyelven. Például az Életkor egy nyelvi változó ha az értékei nyelviek nem pedig numerikusak, azaz fiatal, nem fiatal, nagyon fiatal, idős, nem túl idős stb. ahelyett, hogy 20, 21, 22, 23,

Fuzzy partíció Az A={A i } partíció fedi az X alaphalmazt, ha az alaphalmaz minden eleme legalább 1 tagsági függvényben nem 0 tagsági értékkel szerepel, azaz: ε > 0 jelöli az X fedésének szintjét.

Fuzzy partíció specifikussága Az A* fuzzy partíció specifikusabb, mint az A, ha az A* minden eleme specifikusabb, mint az A elemei. Ekkor A* elemeinek a száma nagyobb, mint az A elemeinek a száma. Például az A = { Negative, Zero, Positive} fuzzy partíció kevésbé specifikus, mint az A* fuzzy partíció, amely 7 elemet tartalmaz:

Fuzzy partíció specifikussága A fuzzy partíció 3 nyelvi elemmel A* fuzzy partíció 7 nyelvi elemmel

Fuzzy következtető mechanizmus (Mamdani) Ha x 1 = A 1,i és x 2 = A 2,i és...és x n = A n,i akkor y = B i A w ji súlyozó faktor azt határozza meg, hogy az x j bemenet milyen távol van az A j,i szabály antecedenstől 1 dimenzióban A w i súlyozó faktor azt határozza meg, hogy a teljes x bemenet milyen messze van az R i szabály teljes antecedensétől

Következmény Az R i szabály következménye egy adott x megfigyelésre: y i

A teljes következtetés

Kompozíciós következtetés

Takagi-Sugeno módszer Ha x 1 = A 1,i és x 2 = A 2,i és...és x n = A n,i akkor y i = f i (x 1,x 2,...,x n ) ahol w i a súlyozó faktor, az R i szabály aktivizációs szintje, hasonlóan a Mamdani módszerhez

Defuzzifikáció - Súlypont módszer

Defuzzifikáció - Összegek közepe módszer

Defuzzifikáció - Középső maximum módszer

Fuzzy szabálybázis HIDEG MELEG FORRÓ HŐMÉRSÉKLET

ALACSONY KÖZEPES MAGAS MOTOR SEBESSÉG Ha a hőmérséklet HIDEG akkor a motor sebesség ALACSONY Ha a hőmérséklet MELEG akkor a motor sebesség KÖZEPES Ha a hőmérséklet FORRÓ akkor a motor sebesség MAGAS

Következtető módszer Hőmérséklet = 55 Motor sebesség 1. szabály 2. szabály 3. szabály Motor sebesség = 43.6

Modell-jóság és erőforrásigény Cél a lehető legjobb kompromisszum megtalálása a kezelhetőség (számítási bonyolultság, erőforrásigény ) és a jóság (modellpontosság) között Fuzzy macska - egér probléma Az okos macska sokáig gondolkodik, hogy hol lehet az egér, de utána gyorsan megtalálja A buta macska gyorsan dönt, de pontatlanul, ezért sokáig keres

Neurális hálózatok Az agyi neuronok működését leutánzó számítási egységek Minták formájában reprezentált tudás megtanulására képes Tudás típusai: analitikus: pl. matematikai egyenletek szabályalapú: pl. fuzzy rendszerek tapasztalati: minták, megfigyelések

Felügyelet nélküli tanulás

Felügyelt tanulás címke kutya macska madár

Hagyományos programozás: Input Program Computer Output Felügyelt tanulás: Input Output Computer Program Felügyelet nélküli tanulás: Input Computer Program Output

Felügyelt tanulás adott: input-output tanító minták (x 1 (p), x 2 (p),, x n (p), t (p) ) p darab minta, n dimenziós input, skalár output x rendszer modell t y + + - hiba

Felügyelt tanulás Reprezentáció: szabályalapú rendszer fuzzy rendszer döntési fa neurális hálózat support vector machine stb. Kiértékelés: hiba pontosság költség entrópia stb. Optimalizáció: gradiens alapú algoritmus evolúciós algoritmus stb.

Emberi idegrendszer Az emberi idegrendszer egy nagyon komplex rendszer, amely képes a gondolkodásra, emlékezésre, probléma megoldásra, döntéstámogatásra stb.

Biológiai neuronok Az idegrendszer alapvető egysége a neuron. Egy újszülöttnek kb. 10 11 neuron van az agyában. A neuron egy egyszerű feldolgozó egység, amely kb. 1000 másik neuronhoz kapcsolódik. Ennélfogva kb 10 14 összeköttetés van az idegrendszerben.

Biológiai neuronok A neuronok funkciója jelek vétele és kombinálása a többi neurontól bemeneteken ún. dendriteken keresztül. Ha a kombinált jel elég erős, a neuron tüzel és egy kimeneti jelet produkál, amelyet a többi neuronhoz az ún. axonon keresztül küld. Jelek más neuronoktól Dendritek Soma (Nucleus) Tüzelési jel Axon Szinapszis Más neuronok dendriteihez Információ áramlás

Számítógép vs. emberi idegrendszer Számítógép Ember Sebesség 4 GHz felett 40-50Hz (Neuron válaszidő - 20-30 ms) Működési mód soros mód párhuzamos mód (Az agy alacsony sebessége kompenzálódik a gyors feldolgozási idővel az agyon belül) Egy ember felismerésének feladata Egy bonyolult feladat, számos dologtól függ (pl. háttér, nézőpont stb.) Fél másodperc

<latexit sha1_base64="z9crwl/gezw/4ps0/jdrhjhigim=">aaace3icbzdlssnafiynxmu9vv26gsxcbsmncnzfoedgzqvrc00nk8mkhtqzhjktnys+haufxyubi1sxln0bp5eftv4w8pgfczhzfi8wxeol8m0tla+srq3nnvkbw9s7u4w9/tsdjyqyjo1epnoe0uxwyzraqbb2rbgjpcfa3ubqxg89mkv5jg8hjvk3jd3ja04jgmstnky1p9hnjmablbydhg7ga/bwxuinlzvujwa/glc814ctt1cslcst4uwwz1bemzxcwpfjrzqjmqqqinadagzdjcjgvlbh3kk0iwkdkb7rgjqkzlqbty4a4mpj+diilhks8mt9pzgruos09exnskcv52tj879aj4gg2s24jbngkk4xbynaeofxqtjnileqqqfcftd/xbrpfkfgcsybdoz5ixeheva+lns358v6drzgdh2ii1rcnrpadxsngqijkhpgr+gdjawx680awr/t1ivrnnoa/sj6/aeed55z</latexit> <latexit sha1_base64="z9crwl/gezw/4ps0/jdrhjhigim=">aaace3icbzdlssnafiynxmu9vv26gsxcbsmncnzfoedgzqvrc00nk8mkhtqzhjktnys+haufxyubi1sxln0bp5eftv4w8pgfczhzfi8wxeol8m0tla+srq3nnvkbw9s7u4w9/tsdjyqyjo1epnoe0uxwyzraqbb2rbgjpcfa3ubqxg89mkv5jg8hjvk3jd3ja04jgmstnky1p9hnjmablbydhg7ga/bwxuinlzvujwa/glc814ctt1cslcst4uwwz1bemzxcwpfjrzqjmqqqinadagzdjcjgvlbh3kk0iwkdkb7rgjqkzlqbty4a4mpj+diilhks8mt9pzgruos09exnskcv52tj879aj4gg2s24jbngkk4xbynaeofxqtjnileqqqfcftd/xbrpfkfgcsybdoz5ixeheva+lns358v6drzgdh2ii1rcnrpadxsngqijkhpgr+gdjawx680awr/t1ivrnnoa/sj6/aeed55z</latexit> <latexit sha1_base64="z9crwl/gezw/4ps0/jdrhjhigim=">aaace3icbzdlssnafiynxmu9vv26gsxcbsmncnzfoedgzqvrc00nk8mkhtqzhjktnys+haufxyubi1sxln0bp5eftv4w8pgfczhzfi8wxeol8m0tla+srq3nnvkbw9s7u4w9/tsdjyqyjo1epnoe0uxwyzraqbb2rbgjpcfa3ubqxg89mkv5jg8hjvk3jd3ja04jgmstnky1p9hnjmablbydhg7ga/bwxuinlzvujwa/glc814ctt1cslcst4uwwz1bemzxcwpfjrzqjmqqqinadagzdjcjgvlbh3kk0iwkdkb7rgjqkzlqbty4a4mpj+diilhks8mt9pzgruos09exnskcv52tj879aj4gg2s24jbngkk4xbynaeofxqtjnileqqqfcftd/xbrpfkfgcsybdoz5ixeheva+lns358v6drzgdh2ii1rcnrpadxsngqijkhpgr+gdjawx680awr/t1ivrnnoa/sj6/aeed55z</latexit> <latexit sha1_base64="z9crwl/gezw/4ps0/jdrhjhigim=">aaace3icbzdlssnafiynxmu9vv26gsxcbsmncnzfoedgzqvrc00nk8mkhtqzhjktnys+haufxyubi1sxln0bp5eftv4w8pgfczhzfi8wxeol8m0tla+srq3nnvkbw9s7u4w9/tsdjyqyjo1epnoe0uxwyzraqbb2rbgjpcfa3ubqxg89mkv5jg8hjvk3jd3ja04jgmstnky1p9hnjmablbydhg7ga/bwxuinlzvujwa/glc814ctt1cslcst4uwwz1bemzxcwpfjrzqjmqqqinadagzdjcjgvlbh3kk0iwkdkb7rgjqkzlqbty4a4mpj+diilhks8mt9pzgruos09exnskcv52tj879aj4gg2s24jbngkk4xbynaeofxqtjnileqqqfcftd/xbrpfkfgcsybdoz5ixeheva+lns358v6drzgdh2ii1rcnrpadxsngqijkhpgr+gdjawx680awr/t1ivrnnoa/sj6/aeed55z</latexit> Mesterséges neuron Egy információ feldolgozó egység, amely alapvető szerepet játszik a mesterséges neurális hálózatokban. A biológiai neuront utánzó model. A neuron bemenetei x 2 x i x 1 w 2 w i Súly w 1 Σ y = v nx i=1 Összegző x i w i! Φ(v) Kimeneti jel (y) Bemenetként szolgál a többi neuron számára w n x n

Mesterséges neuron A neuron csak néhány egyszerű információ feldolgozására képes; ennélfogva nem képes összetett problémák megoldására. Viszont a neuronok összekötve képesek kollektív komplex viselkedésre és így használhatók komplex problémák megoldására.

Biológiai vs. mesterséges neuron Biológia neuron Mesterséges neuron sejttest (soma) dendrit axon szinapszis

Biológiai vs. mesterséges neuron Biológia neuron sejttest (soma) dendrit axon szinapszis Mesterséges neuron neuron bemenet (input) kimenet (output) súly

Aktivizációs függvény (Φ) Behatárolja a kimenetet két aszimptota közé, és ezáltal a neuron kimenete mindig egy észszerű dinamikatartományban fog elhelyezkedni y y 1 T y=1 v>t y=0 v<t v 1 0.5 0 0 y = 1/(1+e - αv) α: meredekséget beállító paraméter v Küszöb vagy lépés függvény Sigmoid függvény

Egyrétegű perceptron Az egyrétegű perceptront Rosenblatt javasolta 1958-ban első modelként, amely tanítóval tanul (azaz felügyelt tanítást valósít meg). Az ő perceptron-ja a McCulloch-Pitts-féle neuron modellen alapult.

Egyrétegű perceptron Az egyrétegű perceptron a legegyszerűbb formájú neurális hálózat, amelyet minták osztályozására (klasszifikációjára) használnak. Felépítése: Bemenetek: bejövő jelek Kimenet: klasszifikáció x 1 x 2 w 1 w 2 w 3 y x 3 x m w m

Egyrétegű perceptron Tetszőleges számú McCulloch-Pitts neuront összerendezhetünk A McCulloch-Pitts neuronok egy lehetséges elrendezése, amikor a neuronokat egy rétegbe helyezzük el. Ezt nevezzük Perceptron-nak.

Egyrétegű perceptron Az egyrétegű perceptront lineárisan szeparálható minták osztályozására használják. Ez nagy csalódást okozott a neurális hálózatokkal foglalkozó közösségen belül, és a neurális hálózatok kutatásának sötét időszaka következett (1970-es évek). Viszont általánosságban ez az állítás nem bizonyult igaznak, mert a többrétegű perceptronok képesek lineárisan nem szeparálható feladatokat is megoldani. Class C 1 Class C 2 Class C 1 Class C 2 lineárisan szeparálható minták nemlineárisan szeparálható minták

Lineáris szeparálhatóság Tekintsük az alábbi kétbemenetű példát (x 1,x 2 ) Képes a betanított hálózat definiálni a szeparációs egyenest? Mi az egyenlete?

Lineáris szeparálhatóság

Lineáris szeparálhatóság

Lineáris szeparálhatóság Nem lineárisan szeparálható Rossz hír: a perceptronok csak lineárisan szeparálható függvényeket tudnak reprezentálni

Logikai kapuk megvalósítása Használhatjuk a McCulloch-Pitts neuronokat logikai kapuk implementálására Ehhez mindössze a súlyokat és a neuron küszöbértékeket kell megtalálni Látni fogjuk hogyan tud egy egyszerű hálózat NOT, AND, és OR kapukat megvalósítani Ezek segítségével egy jól ismert tény, hogy bármely logikai függvény megvalósítható De az eredményül kapott hálózat általában jóval komplexebb architektúrájú egy szimpla Perceptron-nál El szeretnénk kerülni a komplex problémák szimpla logikai kapukra történő dekompozícióját, és ehelyett meg szeretnénk találni a súlyokat és küszöbértékeket, amelyek közvetlenül működnek a Perceptron architektúrán

Logikai NOT, AND, és OR megvalósítása Mindegyik esetben vannak ini bemenetek és out kimenetek, és meg kell határoznunk a súlyokat és a küszöbértékeket.

A súlyok analitikus megtalálásának szükségessége Egyszerű hálózatok kézzel létrehozása egy dolog. De mi a helyzet a nehezebb problémákkal? Mint például: Milyen sokáig keressük a megoldást? Képeseknek kell lennünk arra, hogy a paramétereket kiszámoljuk, ahelyett, hogy próbálkozással határozzuk meg őket. Minden tanító minta egy lineáris egyenlőtlenséget ír le a kimenet számára a bemenetek és a hálózat paraméterei alapján. Ezeket tudjuk a súlyok és küszöbértékek kiszámítására használni.

A súlyok analitikus megtalálása az AND hálózatra Két súly van, w 1 és w 2, és a küszöbérték θ, és minden tanító mintára ki kell elégítenünk azt, hogy: Így a tanító adatok az alábbi 4 egyenlőtlenséghez vezetnek: Könnyű belátni, hogy végtelen sok megoldás van. Hasonlóan a NOT és az OR hálózatokra is végtelen sok megoldás van

Az egyszerű Perceptron korlátai Ugyanezt az eljárást az XOR hálózatra követve: A második és harmadik egyenlőtlenség inkompatibilis a negyedikkel, ezért nincs megoldás. Összetettebb hálózatokra van szükségünk, pl. egyszerű halózatok összekombinálására, vagy másfajta aktivációs függvény használatára Ezután a súlyok és küszöbértékek megtalálása sokkal bonyolultabbá válik.

A Perceptron tanítása A Perceptron tanítási algoritmusának lépései 1) Inicializálás 2) Aktiválás 3) Súlyok tanulása 4) Iteráció

A Perceptron tanítása 1) Inicializálás Állítsunk be kezdeti értékeket a w 1, w 2,, w m súlyoknak Állítsuk be a θ küszöbértéket egy véletlen számra a [-0.5, 0.5] intervallumban Állítsuk be az η tanulási paramétert egy 1-nél kisebb pozitív értékre x 1 x 2 w 1 w 2 w 3 y x 3 x m w m

<latexit sha1_base64="kfjluikt+bpxayn+2ufr3a/pr9u=">aaacknicbvdlsgmxfm3ud31vxbojfqeulb0rratbconswarqgydmeqcntwag5i5ahn6qc79fxi3frr9i+lho64gek3pu5eaemjxcyk02capz8wuls8srxdw19y3n0tb2rukyzahbe5no+5azkckgbgqucj9qycqucbd2l4b+3snoi5l4bnsp+iq1yxejztbkqemiv0kpzgxc6kmisdm6k57jvjclm7f/oohzidzespa+wajfu4mhhx52ann45qelcq1ag4hoendcymscq6d07rusnimikutmtloeop8zjyjl6be9zedkeje1owlpzbqypx/t2qf7vmnrknh2xehh6u+oncljeiq0lyphx0x7q/e/r5lhvpdzeaczqszhg6jmukzomdjaeho4yp4ljgth/0p5h2ng0czbtbm40xvpkszr9btqxh+xz+utmjbjltkjfekse3jolskvarboxsgb+sqd59x5cabo17i04ex6dsgfon8/qdmoma==</latexit> <latexit sha1_base64="kfjluikt+bpxayn+2ufr3a/pr9u=">aaacknicbvdlsgmxfm3ud31vxbojfqeulb0rratbconswarqgydmeqcntwag5i5ahn6qc79fxi3frr9i+lho64gek3pu5eaemjxcyk02capz8wuls8srxdw19y3n0tb2rukyzahbe5no+5azkckgbgqucj9qycqucbd2l4b+3snoi5l4bnsp+iq1yxejztbkqemiv0kpzgxc6kmisdm6k57jvjclm7f/oohzidzespa+wajfu4mhhx52ann45qelcq1ag4hoendcymscq6d07rusnimikutmtloeop8zjyjl6be9zedkeje1owlpzbqypx/t2qf7vmnrknh2xehh6u+oncljeiq0lyphx0x7q/e/r5lhvpdzeaczqszhg6jmukzomdjaeho4yp4ljgth/0p5h2ng0czbtbm40xvpkszr9btqxh+xz+utmjbjltkjfekse3jolskvarboxsgb+sqd59x5cabo17i04ex6dsgfon8/qdmoma==</latexit> <latexit sha1_base64="kfjluikt+bpxayn+2ufr3a/pr9u=">aaacknicbvdlsgmxfm3ud31vxbojfqeulb0rratbconswarqgydmeqcntwag5i5ahn6qc79fxi3frr9i+lho64gek3pu5eaemjxcyk02capz8wuls8srxdw19y3n0tb2rukyzahbe5no+5azkckgbgqucj9qycqucbd2l4b+3snoi5l4bnsp+iq1yxejztbkqemiv0kpzgxc6kmisdm6k57jvjclm7f/oohzidzespa+wajfu4mhhx52ann45qelcq1ag4hoendcymscq6d07rusnimikutmtloeop8zjyjl6be9zedkeje1owlpzbqypx/t2qf7vmnrknh2xehh6u+oncljeiq0lyphx0x7q/e/r5lhvpdzeaczqszhg6jmukzomdjaeho4yp4ljgth/0p5h2ng0czbtbm40xvpkszr9btqxh+xz+utmjbjltkjfekse3jolskvarboxsgb+sqd59x5cabo17i04ex6dsgfon8/qdmoma==</latexit> <latexit sha1_base64="kfjluikt+bpxayn+2ufr3a/pr9u=">aaacknicbvdlsgmxfm3ud31vxbojfqeulb0rratbconswarqgydmeqcntwag5i5ahn6qc79fxi3frr9i+lho64gek3pu5eaemjxcyk02capz8wuls8srxdw19y3n0tb2rukyzahbe5no+5azkckgbgqucj9qycqucbd2l4b+3snoi5l4bnsp+iq1yxejztbkqemiv0kpzgxc6kmisdm6k57jvjclm7f/oohzidzespa+wajfu4mhhx52ann45qelcq1ag4hoendcymscq6d07rusnimikutmtloeop8zjyjl6be9zedkeje1owlpzbqypx/t2qf7vmnrknh2xehh6u+oncljeiq0lyphx0x7q/e/r5lhvpdzeaczqszhg6jmukzomdjaeho4yp4ljgth/0p5h2ng0czbtbm40xvpkszr9btqxh+xz+utmjbjltkjfekse3jolskvarboxsgb+sqd59x5cabo17i04ex6dsgfon8/qdmoma==</latexit> <latexit sha1_base64="y+ir7y8b/icpuwxqd2f49c52vji=">aaace3icbzdlssnafiynxmu9vv26gsxcbsmncnzfoedgzqvrc00nk8mkhtqthjktnys+haufxyubi1sxln0bp5eftv4w8pgfczhzfi8wxeol8m0tla+srq3nnvkbw9s7u4w9/tsdjyqyjo1epnoe0uzwkdwbg2dtwdeipcfa3ubqxg89mkv5fn5cgroujl2qb5wsmjzboe1rtqpphceckdk6kw7ga/bwxuinlzvujwa/glc814ctt1cslcst4uwwz1bemzxcwpfjrzsrlaqqinadagzdjcjgvlbh3kk0iwkdkb7rgayjzlqbty4a4mpj+diilhkh4in7eyijuutueqzteujr+dry/k/wsscodjmexgmwke4xbynaeofxqtjnileqqqfcftd/xbrpfkfgcsybdoz5ixeheva+lns358v6drzgdh2ii1rcnrpadxsngqijkhpgr+gdjawx680awr/t1ivrnnoa/sj6/aec4z5y</latexit> <latexit sha1_base64="y+ir7y8b/icpuwxqd2f49c52vji=">aaace3icbzdlssnafiynxmu9vv26gsxcbsmncnzfoedgzqvrc00nk8mkhtqthjktnys+haufxyubi1sxln0bp5eftv4w8pgfczhzfi8wxeol8m0tla+srq3nnvkbw9s7u4w9/tsdjyqyjo1epnoe0uzwkdwbg2dtwdeipcfa3ubqxg89mkv5fn5cgroujl2qb5wsmjzboe1rtqpphceckdk6kw7ga/bwxuinlzvujwa/glc814ctt1cslcst4uwwz1bemzxcwpfjrzsrlaqqinadagzdjcjgvlbh3kk0iwkdkb7rgayjzlqbty4a4mpj+diilhkh4in7eyijuutueqzteujr+dry/k/wsscodjmexgmwke4xbynaeofxqtjnileqqqfcftd/xbrpfkfgcsybdoz5ixeheva+lns358v6drzgdh2ii1rcnrpadxsngqijkhpgr+gdjawx680awr/t1ivrnnoa/sj6/aec4z5y</latexit> <latexit sha1_base64="y+ir7y8b/icpuwxqd2f49c52vji=">aaace3icbzdlssnafiynxmu9vv26gsxcbsmncnzfoedgzqvrc00nk8mkhtqthjktnys+haufxyubi1sxln0bp5eftv4w8pgfczhzfi8wxeol8m0tla+srq3nnvkbw9s7u4w9/tsdjyqyjo1epnoe0uzwkdwbg2dtwdeipcfa3ubqxg89mkv5fn5cgroujl2qb5wsmjzboe1rtqpphceckdk6kw7ga/bwxuinlzvujwa/glc814ctt1cslcst4uwwz1bemzxcwpfjrzsrlaqqinadagzdjcjgvlbh3kk0iwkdkb7rgayjzlqbty4a4mpj+diilhkh4in7eyijuutueqzteujr+dry/k/wsscodjmexgmwke4xbynaeofxqtjnileqqqfcftd/xbrpfkfgcsybdoz5ixeheva+lns358v6drzgdh2ii1rcnrpadxsngqijkhpgr+gdjawx680awr/t1ivrnnoa/sj6/aec4z5y</latexit> <latexit sha1_base64="y+ir7y8b/icpuwxqd2f49c52vji=">aaace3icbzdlssnafiynxmu9vv26gsxcbsmncnzfoedgzqvrc00nk8mkhtqthjktnys+haufxyubi1sxln0bp5eftv4w8pgfczhzfi8wxeol8m0tla+srq3nnvkbw9s7u4w9/tsdjyqyjo1epnoe0uzwkdwbg2dtwdeipcfa3ubqxg89mkv5fn5cgroujl2qb5wsmjzboe1rtqpphceckdk6kw7ga/bwxuinlzvujwa/glc814ctt1cslcst4uwwz1bemzxcwpfjrzsrlaqqinadagzdjcjgvlbh3kk0iwkdkb7rgayjzlqbty4a4mpj+diilhkh4in7eyijuutueqzteujr+dry/k/wsscodjmexgmwke4xbynaeofxqtjnileqqqfcftd/xbrpfkfgcsybdoz5ixeheva+lns358v6drzgdh2ii1rcnrpadxsngqijkhpgr+gdjawx680awr/t1ivrnnoa/sj6/aec4z5y</latexit> A Perceptron tanítása 2) Aktiválás Számítsuk ki a tényleges kimenetet a p=1 iterációs lépésben kimenet: Aktivációs függvény: Küszöb/lépés függvény (sign) kimenet: y = mx i=1 x i w i! "! # mx y(p) =step x i w i i=1

A Perceptron tanítása 3) Súlyok tanulása A súlyok módosítása új súly w i (p+1) = w i (p) + Δw i (p) súly korrekció Δw i (p) = η.x i (p).e(p) hiba e(p) = d(p) - y(p)

<latexit sha1_base64="kfjluikt+bpxayn+2ufr3a/pr9u=">aaacknicbvdlsgmxfm3ud31vxbojfqeulb0rratbconswarqgydmeqcntwag5i5ahn6qc79fxi3frr9i+lho64gek3pu5eaemjxcyk02capz8wuls8srxdw19y3n0tb2rukyzahbe5no+5azkckgbgqucj9qycqucbd2l4b+3snoi5l4bnsp+iq1yxejztbkqemiv0kpzgxc6kmisdm6k57jvjclm7f/oohzidzespa+wajfu4mhhx52ann45qelcq1ag4hoendcymscq6d07rusnimikutmtloeop8zjyjl6be9zedkeje1owlpzbqypx/t2qf7vmnrknh2xehh6u+oncljeiq0lyphx0x7q/e/r5lhvpdzeaczqszhg6jmukzomdjaeho4yp4ljgth/0p5h2ng0czbtbm40xvpkszr9btqxh+xz+utmjbjltkjfekse3jolskvarboxsgb+sqd59x5cabo17i04ex6dsgfon8/qdmoma==</latexit> <latexit sha1_base64="kfjluikt+bpxayn+2ufr3a/pr9u=">aaacknicbvdlsgmxfm3ud31vxbojfqeulb0rratbconswarqgydmeqcntwag5i5ahn6qc79fxi3frr9i+lho64gek3pu5eaemjxcyk02capz8wuls8srxdw19y3n0tb2rukyzahbe5no+5azkckgbgqucj9qycqucbd2l4b+3snoi5l4bnsp+iq1yxejztbkqemiv0kpzgxc6kmisdm6k57jvjclm7f/oohzidzespa+wajfu4mhhx52ann45qelcq1ag4hoendcymscq6d07rusnimikutmtloeop8zjyjl6be9zedkeje1owlpzbqypx/t2qf7vmnrknh2xehh6u+oncljeiq0lyphx0x7q/e/r5lhvpdzeaczqszhg6jmukzomdjaeho4yp4ljgth/0p5h2ng0czbtbm40xvpkszr9btqxh+xz+utmjbjltkjfekse3jolskvarboxsgb+sqd59x5cabo17i04ex6dsgfon8/qdmoma==</latexit> <latexit sha1_base64="kfjluikt+bpxayn+2ufr3a/pr9u=">aaacknicbvdlsgmxfm3ud31vxbojfqeulb0rratbconswarqgydmeqcntwag5i5ahn6qc79fxi3frr9i+lho64gek3pu5eaemjxcyk02capz8wuls8srxdw19y3n0tb2rukyzahbe5no+5azkckgbgqucj9qycqucbd2l4b+3snoi5l4bnsp+iq1yxejztbkqemiv0kpzgxc6kmisdm6k57jvjclm7f/oohzidzespa+wajfu4mhhx52ann45qelcq1ag4hoendcymscq6d07rusnimikutmtloeop8zjyjl6be9zedkeje1owlpzbqypx/t2qf7vmnrknh2xehh6u+oncljeiq0lyphx0x7q/e/r5lhvpdzeaczqszhg6jmukzomdjaeho4yp4ljgth/0p5h2ng0czbtbm40xvpkszr9btqxh+xz+utmjbjltkjfekse3jolskvarboxsgb+sqd59x5cabo17i04ex6dsgfon8/qdmoma==</latexit> <latexit sha1_base64="kfjluikt+bpxayn+2ufr3a/pr9u=">aaacknicbvdlsgmxfm3ud31vxbojfqeulb0rratbconswarqgydmeqcntwag5i5ahn6qc79fxi3frr9i+lho64gek3pu5eaemjxcyk02capz8wuls8srxdw19y3n0tb2rukyzahbe5no+5azkckgbgqucj9qycqucbd2l4b+3snoi5l4bnsp+iq1yxejztbkqemiv0kpzgxc6kmisdm6k57jvjclm7f/oohzidzespa+wajfu4mhhx52ann45qelcq1ag4hoendcymscq6d07rusnimikutmtloeop8zjyjl6be9zedkeje1owlpzbqypx/t2qf7vmnrknh2xehh6u+oncljeiq0lyphx0x7q/e/r5lhvpdzeaczqszhg6jmukzomdjaeho4yp4ljgth/0p5h2ng0czbtbm40xvpkszr9btqxh+xz+utmjbjltkjfekse3jolskvarboxsgb+sqd59x5cabo17i04ex6dsgfon8/qdmoma==</latexit> A Perceptron tanítása 4) Iteráció Növeljük p értékét 1-gyel, menjünk a 2. lépésre és ismételjük a folyamatot amíg nincs konvergencia " p=2 mx # Aktiválás Súlyok tanulása p=3 Aktiválás Súlyok tanulása y(p) =step i=1 w i (p+1) = w i (p) + Δw i (p) x i w i!

Példa Perceptron tanítása a logikai AND műveletre Epo ch Iterá ció Bemenetek Kezdeti súlyok Elvár t kime net Tényl eges kime net Hiba Végleges súlyok p x 1 (p) x 2 (p) w 1 (p) w 2 (p) d(p) y(p) e(p) w 1 (p+1) w 2 (p+1) 1 1 0 0 0.3-0.1 0 0 0 0.3-0.1 2 0 1 0.3-0.1 0 0 0 0.3-0.1 3 1 0 0.3-0.1 0 1-1 4 1 1

Példa 1) Inicializálás 1 epochban 4 lehetséges bemeneti minta van: 00, 01, 10, 11 A súlyok kezdeti értéke legyen w 1 = 0.3, w 2 = -0.1 Epo ch Iterá ció Bemenetek Kezdeti súlyok Elvár t kime net Tényl eges kime net Hiba Végleges súlyok p x 1 (p) x 2 (p) w 1 (p) w 2 (p) d(p) y(p) e(p) w 1 (p+1) w 2 (p+1) 1 1 0 0 0.3-0.1 2 0 1 55 3 1 0 4 1 1

<latexit sha1_base64="kfjluikt+bpxayn+2ufr3a/pr9u=">aaacknicbvdlsgmxfm3ud31vxbojfqeulb0rratbconswarqgydmeqcntwag5i5ahn6qc79fxi3frr9i+lho64gek3pu5eaemjxcyk02capz8wuls8srxdw19y3n0tb2rukyzahbe5no+5azkckgbgqucj9qycqucbd2l4b+3snoi5l4bnsp+iq1yxejztbkqemiv0kpzgxc6kmisdm6k57jvjclm7f/oohzidzespa+wajfu4mhhx52ann45qelcq1ag4hoendcymscq6d07rusnimikutmtloeop8zjyjl6be9zedkeje1owlpzbqypx/t2qf7vmnrknh2xehh6u+oncljeiq0lyphx0x7q/e/r5lhvpdzeaczqszhg6jmukzomdjaeho4yp4ljgth/0p5h2ng0czbtbm40xvpkszr9btqxh+xz+utmjbjltkjfekse3jolskvarboxsgb+sqd59x5cabo17i04ex6dsgfon8/qdmoma==</latexit> <latexit sha1_base64="kfjluikt+bpxayn+2ufr3a/pr9u=">aaacknicbvdlsgmxfm3ud31vxbojfqeulb0rratbconswarqgydmeqcntwag5i5ahn6qc79fxi3frr9i+lho64gek3pu5eaemjxcyk02capz8wuls8srxdw19y3n0tb2rukyzahbe5no+5azkckgbgqucj9qycqucbd2l4b+3snoi5l4bnsp+iq1yxejztbkqemiv0kpzgxc6kmisdm6k57jvjclm7f/oohzidzespa+wajfu4mhhx52ann45qelcq1ag4hoendcymscq6d07rusnimikutmtloeop8zjyjl6be9zedkeje1owlpzbqypx/t2qf7vmnrknh2xehh6u+oncljeiq0lyphx0x7q/e/r5lhvpdzeaczqszhg6jmukzomdjaeho4yp4ljgth/0p5h2ng0czbtbm40xvpkszr9btqxh+xz+utmjbjltkjfekse3jolskvarboxsgb+sqd59x5cabo17i04ex6dsgfon8/qdmoma==</latexit> <latexit sha1_base64="kfjluikt+bpxayn+2ufr3a/pr9u=">aaacknicbvdlsgmxfm3ud31vxbojfqeulb0rratbconswarqgydmeqcntwag5i5ahn6qc79fxi3frr9i+lho64gek3pu5eaemjxcyk02capz8wuls8srxdw19y3n0tb2rukyzahbe5no+5azkckgbgqucj9qycqucbd2l4b+3snoi5l4bnsp+iq1yxejztbkqemiv0kpzgxc6kmisdm6k57jvjclm7f/oohzidzespa+wajfu4mhhx52ann45qelcq1ag4hoendcymscq6d07rusnimikutmtloeop8zjyjl6be9zedkeje1owlpzbqypx/t2qf7vmnrknh2xehh6u+oncljeiq0lyphx0x7q/e/r5lhvpdzeaczqszhg6jmukzomdjaeho4yp4ljgth/0p5h2ng0czbtbm40xvpkszr9btqxh+xz+utmjbjltkjfekse3jolskvarboxsgb+sqd59x5cabo17i04ex6dsgfon8/qdmoma==</latexit> <latexit sha1_base64="kfjluikt+bpxayn+2ufr3a/pr9u=">aaacknicbvdlsgmxfm3ud31vxbojfqeulb0rratbconswarqgydmeqcntwag5i5ahn6qc79fxi3frr9i+lho64gek3pu5eaemjxcyk02capz8wuls8srxdw19y3n0tb2rukyzahbe5no+5azkckgbgqucj9qycqucbd2l4b+3snoi5l4bnsp+iq1yxejztbkqemiv0kpzgxc6kmisdm6k57jvjclm7f/oohzidzespa+wajfu4mhhx52ann45qelcq1ag4hoendcymscq6d07rusnimikutmtloeop8zjyjl6be9zedkeje1owlpzbqypx/t2qf7vmnrknh2xehh6u+oncljeiq0lyphx0x7q/e/r5lhvpdzeaczqszhg6jmukzomdjaeho4yp4ljgth/0p5h2ng0czbtbm40xvpkszr9btqxh+xz+utmjbjltkjfekse3jolskvarboxsgb+sqd59x5cabo17i04ex6dsgfon8/qdmoma==</latexit> Példa 2) Aktiválás y(p) =step Tényleges kimenet y = step[ (0(0.3)+0(-0.1)) 0.2] = step[-0.2] = 0 " mx i=1 x i w i! # Epo ch Iterá ció Bemenetek Kezdeti súlyok Elvár t kime net Tényl eges kime net Hiba Végleges súlyok p x 1 (p) x 2 (p) w 1 (p) w 2 (p) d(p) y(p) e(p) w 1 (p+1) w 2 (p+1) 1 1 0 0 0.3-0.1 0 2 0 1 3 1 0 4 1 1

Példa 3) Súlyok tanulása AND művelet a 00 bemenetre 0 Hiba e(p) = d(p) y(p) = 0 0 = 0 Epo ch Iterá ció Bemenetek Kezdeti súlyok Elvár t kime net Tényl eges kime net Hiba Végleges súlyok p x 1 (p) x 2 (p) w 1 (p) w 2 (p) d(p) y(p) e(p) w 1 (p+1) w 2 (p+1) 1 1 0 0 0.3-0.1 0 0 0 2 0 1 57 3 1 0 4 1 1

Példa 3)Súlyok tanulása w 1 -re: Δw 1 (p) = η.x 1 (p).e(p) = 0.1(0)(0) = 0 w 1 (p+1) = w 1 (p) + Δw 1 (p) = 0.3 + 0 = 0.3 w 2 -re hasonló módon, w 2 (p+1) = -0.1 Epo ch Iterá ció Bemenetek Kezdeti súlyok Elvár t kime net Tényl eges kime net Hiba Végleges súlyok p x 1 (p) x 2 (p) w 1 (p) w 2 (p) d(p) y(p) e(p) w 1 (p+1) w 2 (p+1) 1 1 0 0 0.3-0.1 0 0 0 0.3-0.1 2 0 1 3 1 0 58 4 1 1

Példa 4) Iteráció p+1 = 2 2, 3, 4 lépések ismétlése amíg nincs konvergencia Epo ch Iterá ció Bemenetek Kezdeti súlyok Elvár t kime net Tényl eges kime net Hiba Végleges súlyok p x 1 (p) x 2 (p) w 1 (p) w 2 (p) d(p) y(p) e(p) w 1 (p+1) w 2 (p+1) 1 1 0 0 0.3-0.1 0 0 0 0.3-0.1 2 0 1 0.3-0.1 3 1 0 59 4 1 1

Példa Epoch 1 eredménye Epo ch Iterá ció Bemenetek Kezdeti súlyok Elvár t kime net Tényl eges kime net Hiba Végleges súlyok p x 1 (p) x 2 (p) w 1 (p) w 2 (p) d(p) y(p) e(p) w 1 (p+1) w 2 (p+1) 1 1 0 0 0.3-0.1 0 0 0 0.3-0.1 2 0 1 0.3-0.1 0 0 0 0.3-0.1 3 1 0 0.3-0.1 0 1-1 0.2-0.1 60 4 1 1 0.2-0.1 1 0 1 0.3 0.0

61 Példa Epoch 2 eredménye Epo ch Iterá ció Bemenetek Kezdeti súlyok Elvár t kime net Tényl eges kime net Hiba Végleges súlyok p x 1 (p) x 2 (p) w 1 (p) w 2 (p) d(p) y(p) e(p) w 1 (p+1) w 2 (p+1) 2 5 0 0 0.3 0.0 0 0 0 0.3 0.0 6 0 1 0.3 0.0 0 0 0 0.3 0.0 7 1 0 0.3 0.0 0 1-1 0.2 0.0 8 1 1 0.2 0.0 1 1 0 0.2 0.0

Példa Epoch 5 eredménye Epo ch Iterá ció Bemenetek Kezdeti súlyok Elvár t kime net Tényl eges kime net Hiba Végleges súlyok p x 1 (p) x 2 (p) w 1 (p) w 2 (p) d(p) y(p) e(p) w 1 (p+1) w 2 (p+1) 5 17 0 0 0.1 0.1 0 0 0 0.1 0.1 18 0 1 0.1 0.1 0 0 0 0.1 0.1 19 1 0 0.1 0.1 0 0 0 0.1 0.1 62 20 1 1 0.1 0.1 1 1 0 0.1 0.1

Mesterséges neurális hálózatok A mesterséges neurális hálózatok (ANN) adat feldolgozó rendszerek, melyek nagy számú egyszerű, összekapcsolt feldolgozó elemek (mesterséges neuronok) architektúrája, melyet az agy komplex viselkedésre képes szerkezete inspirált. Az ANN-ben a neuronok rétegek sorozatába vannak szervezve teljes vagy részleges kapcsolattal az egyes rétegek között. Az egyszerűség kedvéért, általában az ugyanabban a rétegben lévő neuronok aktivációs függvénye megegyezik.

Mesterséges neurális hálózatok A hálózat paramétereinek (súlyok) módosítása minták alapján 0. réteg 1. réteg 2. réteg N-1. réteg N. réteg Hálózat bemenetei x 1 x 2 x n y 1 y 2 y l Hálózat kimenetei Bemeneti réteg 1. rejtett réteg 2. rejtett réteg (N-1). rejtett réteg Kimeneti réteg

Felügyelet nélküli tanulás Nem mindig áll rendelkezésre címkézett adat (azaz olyan adat, amelynek a kimeneti osztálya ismert) Néha még maguk az osztályok és azok jellemzői sem ismertek A klaszterek olyak adatcsoportok, amelyben az egyes pontok távolsága kicsi (hasonlósága nagy), míg a különböző klaszterekben lévő pontok között nagy a távolság (kicsi a hasonlóság)

Egy egyszerű példa

Klaszterezés vs. osztályozás Az objektumokat egy vagy több jellemzővel írjuk le Osztályozás (klasszifikáció) A pontok címkével rendelkeznek Szeretnénk egy szabályt, ami pontosan címkét rendel minden új ponthoz Felügyelt tanulás Klaszterezés Nincsenek címkék A pontok klaszterekbe csoportosítása annak alapján, hogy milyen közel vannak egymáshoz Struktúra azonosítása az adatokban Felügyelet nélküli tanulás

K-means klaszterezés Inicializálás: K meghatározása K darab klasztercenter véletlenszerű felvétele

K-means klaszterezés Iteráció: minden pontot a hozzá legközelebbi centerhez rendeljük a centereket a hozzá tartozó elemek átlaga felé mozgatjuk

K-means klaszterezés Iteráció: a centerek mozgatása után az elemek újrahozzárendelése történik a legközelebbi centerhez

K-means klaszterezés Iteráció: a centereket a hozzá tartozó elemek átlaga felé mozgatjuk

K-means klaszterezés Végül: az iterációt addig folytatjuk, amíg a pontok szinezése már nem változik

K-means klaszterezés 1. Döntsük el K értékét, azaz a klaszterek számát 2. Inicializáljuk a K klaszter centert 3. Döntsük el minden pontról, hogy melyik klaszterbe tartozik a távolság alapján 4. Újra határozzuk meg a K klaszter centert az elemei alapján 5. Ismételgessük a 3. és a 4. lépést, amíg a pontok hozzárendelése már nem változik

K-means klaszterezés Erőssége: Egyszerű, könnyű implementálni Intuitív objektív függvény: optimalizálja az intra-klaszter hasonlóságot Viszonylag hatékony: O(tkn), ahol n: pontok (adatok) száma, k: klaszterek száma, t iteráció, általában: k,t<<n Gyengeségei: Csak akkor alkalmazható, ha az átlag definiálva van Sokszor leragad a lokális optimumban. Fontos a jó inicializálás. Előre meg kell határozni K-t. Nem alkalmas zajos adatok és outlierek kezelésére Nem-konvex alakú klaszterek felderítésére alkalmatlan

Hogyan tudjuk meghatározni a klaszterek megfelelő számát? Általában ez egy megoldatlan probléma. De léteznek közelítő módszerek.

Ha k=1, akkor az objektív függvény értéke: 873.0

Ha k=2, akkor az objektív függvény értéke: 173.1

Ha k=3, akkor az objektív függvény értéke: 133.6

Ábrázoljuk az objektív függvényt a különböző k értékekre Látszik a meredek csökkenés k=2-nél Könyök megtalálása Sokszor nem ilyen egyértelmű a helyzet

Önszerveződő térképek Az önszerveződő térképet (Self-Organizing Map, SOM) Kohonen fejlesztette ki. Számos alkalmazásban hasznosnak bizonyult. Az egyik legnépszerűbb neurális hálózat modell. A kompetitív tanuló hálózatok kategóriájába tartozik. Felügyelet nélküli tanulást valósít meg, azaz nincs szükség emberi beavatkozásra a tanulás során, és nem sok ismeretre van szükség a bemeneti adat karakterisztikájáról.

Önszerveződő térképek Topológia megőrző leképezést nyújt a nagy-dimenziós térből a térkép egységeibe. A térkép egységei, vagy neuronok, általában egy két-dimenziós rácsot formálnak, és ezáltal a leképezés a nagydimenziós térből egy síkra történik. A topológia megőrző képesség azt jelenti, hogy a leképezés megőrzi a relatív távolságot a pontok között. Azok a pontok, amelyek közel vannak egymáshoz a bemeneti térben, azok egymáshoz közeli SOM egységekbe lesznek képezve. Az általánosító képesség azt jelenti, hogy a hálózat fel tud ismerni olyan bemeneteket is, amelyeket korábban még nem tapasztalt. Az új bemenet a neki megfelelő SOM egységbe lesz leképezve.

Az általános probléma Hogyan tud egy algoritmus felügyelet nélkül tanulni? azaz tanító nélkül

Önszerveződő térképek Kategorizáló módszer Egy neurális hálózatos technika Felügyelet nélküli

Bemenet és kimenet Tanító adatok: vektorok (X) p darab, n dimenziós vektor (x 1,1,x 1,2,,x 1,i,,x 1,n ) (x 2,1,x 2,2,,x 2,i,,x 2,n ) (x j,1,x j,2,,x 1,i,,x j,n ) (x p,1,x p,2,,x p,i,,x p,n ) a vektor komponensei valós számok Kimenetek: Egy m dimenziós vektor (Y) (y 1,y 2,,y i,,y m ) Mind a p tanító vektor az m klaszter közül az egyikbe lesz besorolva Melyik klaszterbe esik az adott tanító vektor? Általánosítás: egy új (x l,1,x l,2,,x l,i,,x l,n ) vektor az m klaszter közül melyikbe esik?

Hálózati architektúra Két réteg Bemenet: n egység (a tanító vektorok komponenseinek a száma) Kimenet: m egység (a klaszterek száma) A bemeneti egységek és a kimeneti egységek teljes összeköttetésben vannak súlyokkal Rétegen belüli összeköttetések A kimeneti réteg esetén Valamilyen topológia szerint Nincs súlyérték ezeknél az összeköttetéseknél

Hálózati architektúra Bemenetek n bemeneti egység Kimenetek m kimeneti egység minden kimeneti egységhez egy n dimenziós súlyvektor tartozik

Teljes SOM architektúra Tanítás A kimeneti réteg topológiájának megválasztása A bemeneteket a kimenetekkel összekötő súlyok tanítása A topológia és a térkép jelenlegi állapota alapján annak eldöntése, hogy mely súlyok kerülnek módosításra A távolsági mérték az idővel csökken, azaz az egy iterációban módosítandó súlyok száma folyamatosan csökken A tanulási ráta is csökken az idő függvényében Tesztelés A tanulás során megtanult súlyok alapján

A kimeneti réteg topológiája Általában térbeli módon nézzük pl. 1D vagy 2D elrendezés 1D elrendezés A topológia definiálja, hogy melyik kimeneti egységeknek melyek a szomszédai D(t) függvény definiálja a szomszédságot az idő függvényében (iterációról iterációra) Pl. 3 kimeneti egység B A C D(t)=1 azt jelenti, hogy a B egység és az A egység súlyait is módosítani kell, ha a bemenet a B egységre képződik

Példa: 2D kimeneti réteg topológia 50 egység Teljes összeköttetés súlyokkal 50 egység A D(t) függvény egy sugarat ad meg a kimeneti egységeken az idő függvényében (iteráció alapján). Általában kezdetben nagyobb a sugár, és később folyamatosan csökken

SOM topológiája Általában a SOM-t 2D topológiával használják, a kimenetek összekötve egymással Ilyen módon a végső kimenetet térben lehet interpretálni, mint egyfajta térképet

<latexit sha1_base64="1n1d0e0sph2ehpj1f/+tad6x86g=">aaaccnicbvbps8mwhe3nvzn/tt16cq5hax3rejwhyedf4wtrbltx0izdyto0jkkysj+abz+lby8or34bj34bs60h3xwq8njv/uh+z40ylapw+zzyk6tr6xv5zclw9s7uxnh/4f6gscdewielrcdfkjdkiawoyqqtcyicl5g2619p/fyjezkg/e6ni2ihamiprzfswnkkpz6mayfxr8y0z2gzogk79dozjyd50hdzvsr9uk7vqruz4dixm1icgvpo8as3checek4wq1j2g5gyeyquxyykhv4ssyswj4akqylhazf2mtslhsdaguavfppwbwfq74kebvkoa1cna6rgctgbiv953vh5dtuhpiov4xj+kbczqei4lqyoqcbysbemcauq/wrxcamela6vodswfzdejla9elk1b89lzuzwrh4cgwnqbia4ae1wa1raahg8g1fwdibgi/fmtiypetrnzdoh4a+mzx/zjjnw</latexit> <latexit sha1_base64="1n1d0e0sph2ehpj1f/+tad6x86g=">aaaccnicbvbps8mwhe3nvzn/tt16cq5hax3rejwhyedf4wtrbltx0izdyto0jkkysj+abz+lby8or34bj34bs60h3xwq8njv/uh+z40ylapw+zzyk6tr6xv5zclw9s7uxnh/4f6gscdewielrcdfkjdkiawoyqqtcyicl5g2619p/fyjezkg/e6ni2ihamiprzfswnkkpz6mayfxr8y0z2gzogk79dozjyd50hdzvsr9uk7vqruz4dixm1icgvpo8as3checek4wq1j2g5gyeyquxyykhv4ssyswj4akqylhazf2mtslhsdaguavfppwbwfq74kebvkoa1cna6rgctgbiv953vh5dtuhpiov4xj+kbczqei4lqyoqcbysbemcauq/wrxcamela6vodswfzdejla9elk1b89lzuzwrh4cgwnqbia4ae1wa1raahg8g1fwdibgi/fmtiypetrnzdoh4a+mzx/zjjnw</latexit> <latexit sha1_base64="1n1d0e0sph2ehpj1f/+tad6x86g=">aaaccnicbvbps8mwhe3nvzn/tt16cq5hax3rejwhyedf4wtrbltx0izdyto0jkkysj+abz+lby8or34bj34bs60h3xwq8njv/uh+z40ylapw+zzyk6tr6xv5zclw9s7uxnh/4f6gscdewielrcdfkjdkiawoyqqtcyicl5g2619p/fyjezkg/e6ni2ihamiprzfswnkkpz6mayfxr8y0z2gzogk79dozjyd50hdzvsr9uk7vqruz4dixm1icgvpo8as3checek4wq1j2g5gyeyquxyykhv4ssyswj4akqylhazf2mtslhsdaguavfppwbwfq74kebvkoa1cna6rgctgbiv953vh5dtuhpiov4xj+kbczqei4lqyoqcbysbemcauq/wrxcamela6vodswfzdejla9elk1b89lzuzwrh4cgwnqbia4ae1wa1raahg8g1fwdibgi/fmtiypetrnzdoh4a+mzx/zjjnw</latexit> <latexit sha1_base64="1n1d0e0sph2ehpj1f/+tad6x86g=">aaaccnicbvbps8mwhe3nvzn/tt16cq5hax3rejwhyedf4wtrbltx0izdyto0jkkysj+abz+lby8or34bj34bs60h3xwq8njv/uh+z40ylapw+zzyk6tr6xv5zclw9s7uxnh/4f6gscdewielrcdfkjdkiawoyqqtcyicl5g2619p/fyjezkg/e6ni2ihamiprzfswnkkpz6mayfxr8y0z2gzogk79dozjyd50hdzvsr9uk7vqruz4dixm1icgvpo8as3checek4wq1j2g5gyeyquxyykhv4ssyswj4akqylhazf2mtslhsdaguavfppwbwfq74kebvkoa1cna6rgctgbiv953vh5dtuhpiov4xj+kbczqei4lqyoqcbysbemcauq/wrxcamela6vodswfzdejla9elk1b89lzuzwrh4cgwnqbia4ae1wa1raahg8g1fwdibgi/fmtiypetrnzdoh4a+mzx/zjjnw</latexit> <latexit sha1_base64="txiwm5jsmotvrygflzpgh0jub5k=">aaaccnicbvdnssnagnzuv1r/qh69bivquiyncnadupdisykxhtaezxbtrt1swu4xpyq+gaefxymxi1dfwknv4zbnqvshlh1m5mp3gy/iteg9/m3kvlbx1jfym4wt7z3dvel+wb0ky0motuieyo6hfevmubsycnqjjmwbx2nbg13p/pyjlyqf4g7gexucpbdmzwsdltxi6cl9kepvqlylpfltucd6ljoxn86lik7va/uu5jkxmljcgvpu8avxd0kcuagey6w6jqicbetghnnjorcrgmeywgpa1vtggconsxezmcda6zt+kpurykbq74keb0qna08nawxdtejnxp+8bgx+w0myigkggswf8mnuqmjoijh7tficfkwjjplpv5pkicumoosr6a6sxy2xix1wu6xzt+elzimri4+o0deqiwtdoca6qs1ki4ke0st6r1pjxxgzpsbhpjozspld9afg5w+9apie</latexit> <latexit sha1_base64="txiwm5jsmotvrygflzpgh0jub5k=">aaaccnicbvdnssnagnzuv1r/qh69bivquiyncnadupdisykxhtaezxbtrt1swu4xpyq+gaefxymxi1dfwknv4zbnqvshlh1m5mp3gy/iteg9/m3kvlbx1jfym4wt7z3dvel+wb0ky0motuieyo6hfevmubsycnqjjmwbx2nbg13p/pyjlyqf4g7gexucpbdmzwsdltxi6cl9kepvqlylpfltucd6ljoxn86lik7va/uu5jkxmljcgvpu8avxd0kcuagey6w6jqicbetghnnjorcrgmeywgpa1vtggconsxezmcda6zt+kpurykbq74keb0qna08nawxdtejnxp+8bgx+w0myigkggswf8mnuqmjoijh7tficfkwjjplpv5pkicumoosr6a6sxy2xix1wu6xzt+elzimri4+o0deqiwtdoca6qs1ki4ke0st6r1pjxxgzpsbhpjozspld9afg5w+9apie</latexit> <latexit sha1_base64="txiwm5jsmotvrygflzpgh0jub5k=">aaaccnicbvdnssnagnzuv1r/qh69bivquiyncnadupdisykxhtaezxbtrt1swu4xpyq+gaefxymxi1dfwknv4zbnqvshlh1m5mp3gy/iteg9/m3kvlbx1jfym4wt7z3dvel+wb0ky0motuieyo6hfevmubsycnqjjmwbx2nbg13p/pyjlyqf4g7gexucpbdmzwsdltxi6cl9kepvqlylpfltucd6ljoxn86lik7va/uu5jkxmljcgvpu8avxd0kcuagey6w6jqicbetghnnjorcrgmeywgpa1vtggconsxezmcda6zt+kpurykbq74keb0qna08nawxdtejnxp+8bgx+w0myigkggswf8mnuqmjoijh7tficfkwjjplpv5pkicumoosr6a6sxy2xix1wu6xzt+elzimri4+o0deqiwtdoca6qs1ki4ke0st6r1pjxxgzpsbhpjozspld9afg5w+9apie</latexit> <latexit sha1_base64="txiwm5jsmotvrygflzpgh0jub5k=">aaaccnicbvdnssnagnzuv1r/qh69bivquiyncnadupdisykxhtaezxbtrt1swu4xpyq+gaefxymxi1dfwknv4zbnqvshlh1m5mp3gy/iteg9/m3kvlbx1jfym4wt7z3dvel+wb0ky0motuieyo6hfevmubsycnqjjmwbx2nbg13p/pyjlyqf4g7gexucpbdmzwsdltxi6cl9kepvqlylpfltucd6ljoxn86lik7va/uu5jkxmljcgvpu8avxd0kcuagey6w6jqicbetghnnjorcrgmeywgpa1vtggconsxezmcda6zt+kpurykbq74keb0qna08nawxdtejnxp+8bgx+w0myigkggswf8mnuqmjoijh7tficfkwjjplpv5pkicumoosr6a6sxy2xix1wu6xzt+elzimri4+o0deqiwtdoca6qs1ki4ke0st6r1pjxxgzpsbhpjozspld9afg5w+9apie</latexit> <latexit sha1_base64="oth4jzeaysvtrublcuxxbzf8wwg=">aaaca3icbzc7sgnbfizn4y3gw9rsi8egxmkwk4irlai2lhfce0hcmj2ctybmxpw5k4qljyxpymfjspuhlh0bj5sugv1h4jv/nmpm+b1yco22/wxllpzxvtfy64wnza3tnelu3r2oesxb5zgmvnnjgqqiwuwbepqxahz4ehre8hpabzyc0iik73auqydg/vd4gjm0vrd4af+1avkzt9oshmz46mqx6nsljbtiz6j/wzldicxv7xy/272ijwgeycxtulwnszmyhyjlgbfaiyay8shrq8tgyalqntrbykypjdojfqtmczfm7s+jlavajwlpdaymb3qxnjx/q7us9kudvirxghdy2un+iilgdjoi7qkfhoxiaonkml9spmckcts5fuwgzulgf8e9q1xwnnvzuq06dynpdsgrkrohxjaausf14hjonsglesmt69l6tsbw+6w1z81n9skvwr/fuxqwaw==</latexit> <latexit sha1_base64="oth4jzeaysvtrublcuxxbzf8wwg=">aaaca3icbzc7sgnbfizn4y3gw9rsi8egxmkwk4irlai2lhfce0hcmj2ctybmxpw5k4qljyxpymfjspuhlh0bj5sugv1h4jv/nmpm+b1yco22/wxllpzxvtfy64wnza3tnelu3r2oesxb5zgmvnnjgqqiwuwbepqxahz4ehre8hpabzyc0iik73auqydg/vd4gjm0vrd4af+1avkzt9oshmz46mqx6nsljbtiz6j/wzldicxv7xy/272ijwgeycxtulwnszmyhyjlgbfaiyay8shrq8tgyalqntrbykypjdojfqtmczfm7s+jlavajwlpdaymb3qxnjx/q7us9kudvirxghdy2un+iilgdjoi7qkfhoxiaonkml9spmckcts5fuwgzulgf8e9q1xwnnvzuq06dynpdsgrkrohxjaausf14hjonsglesmt69l6tsbw+6w1z81n9skvwr/fuxqwaw==</latexit> <latexit sha1_base64="oth4jzeaysvtrublcuxxbzf8wwg=">aaaca3icbzc7sgnbfizn4y3gw9rsi8egxmkwk4irlai2lhfce0hcmj2ctybmxpw5k4qljyxpymfjspuhlh0bj5sugv1h4jv/nmpm+b1yco22/wxllpzxvtfy64wnza3tnelu3r2oesxb5zgmvnnjgqqiwuwbepqxahz4ehre8hpabzyc0iik73auqydg/vd4gjm0vrd4af+1avkzt9oshmz46mqx6nsljbtiz6j/wzldicxv7xy/272ijwgeycxtulwnszmyhyjlgbfaiyay8shrq8tgyalqntrbykypjdojfqtmczfm7s+jlavajwlpdaymb3qxnjx/q7us9kudvirxghdy2un+iilgdjoi7qkfhoxiaonkml9spmckcts5fuwgzulgf8e9q1xwnnvzuq06dynpdsgrkrohxjaausf14hjonsglesmt69l6tsbw+6w1z81n9skvwr/fuxqwaw==</latexit> <latexit sha1_base64="oth4jzeaysvtrublcuxxbzf8wwg=">aaaca3icbzc7sgnbfizn4y3gw9rsi8egxmkwk4irlai2lhfce0hcmj2ctybmxpw5k4qljyxpymfjspuhlh0bj5sugv1h4jv/nmpm+b1yco22/wxllpzxvtfy64wnza3tnelu3r2oesxb5zgmvnnjgqqiwuwbepqxahz4ehre8hpabzyc0iik73auqydg/vd4gjm0vrd4af+1avkzt9oshmz46mqx6nsljbtiz6j/wzldicxv7xy/272ijwgeycxtulwnszmyhyjlgbfaiyay8shrq8tgyalqntrbykypjdojfqtmczfm7s+jlavajwlpdaymb3qxnjx/q7us9kudvirxghdy2un+iilgdjoi7qkfhoxiaonkml9spmckcts5fuwgzulgf8e9q1xwnnvzuq06dynpdsgrkrohxjaausf14hjonsglesmt69l6tsbw+6w1z81n9skvwr/fuxqwaw==</latexit> A SOM algoritmus Válasszuk meg a kimeneti réteg topológiáját Inicializáljuk a szomszédsági távolságot, D(0)-t egy pozitív értékre Inicializáljuk a bemenetek és kimenetek közötti súlyokat kicsi, véletlen értékekre Legyen t=1 Amíg van számítási kapacitás, ismételjük: 1. Vegyünk egy bemeneti tanító mintát (il ) 2. Számítsuk ki az Euklideszi távolság négyzetét il és minden egyes kimeneti egység nx súlyvektora (w j ) között: k=1 (i l,k w j,k (t)) 2 3. Válasszuk ki azt a j* kimeneti egységet, amelyre a 2. pontban számított érték a legkisebb 4. Módosítsuk az összes olyan súlyvektort, amely j*-tól beleesik a D(t) általi topológikus távolságba. A súlymódosítás: 5. Növeljük t-t. A tanulási ráta általában időben csökken: w j (t + 1) = w j (t)+ (t)(i l 0 < (t) apple (t 1) apple 1 w j (t))

Példa n=4, m=2 Tanító minták: Hálózati architektúra i1: (1,1,0,0) i2: (0,0,0,1) i3: (1,0,0,0) i4: (0,0,1,1) Bemeneti egységek Kimeneti egységek 1 2 Mit várunk kimenetként?

Mik a tanító minták közötti Euklideszi távolságok?

Euklideszi távolságok a tanító minták között Bemeneti egységek Kimeneti egységek 1 2 Mit várunk el a SOM-tól?

<latexit sha1_base64="xdtgzbfsn9p0btmf7cfh0hpojwg=">aaaco3icbvdltgixfo3gc8cx6tjni9g4igoiwi7ejutmqegyqjrlag2dzqttgmmeh3php7h058knxk17yzaxvk7sk5nze9t7jxdyprtjpfuzldw19y3spr21vbo7l9s/ufvbjcm0amad2fgias4etdtthdqhboj7hnre5gprb9+bvcwqtt0noeetkwbdrok2vj/xdd0ymrf7ptgs3c9sboausvju8gxcfwnxsoumxwpilboujhxuuyagx4/0c3mn4ctaf0uxfxmuothppbmdgey+ce05uapbdxuvjlizymfmu5gcknajguhxsef8ul04wx6gt4wzwmnamim0ttzvhthxlzr6nrlpxhur37wf+v+tg+lhtrczeuyabf1+niw41gfejikhtalvfgoeozkzwtede0monnnbjopi743/ilapucsub8r5ejuni4uo0de6q0vuqxv0jrqohsh6qc/odc2tr+vvmlvvy6szk+05rd9gfxwcg1mkvg==</latexit> <latexit sha1_base64="xdtgzbfsn9p0btmf7cfh0hpojwg=">aaaco3icbvdltgixfo3gc8cx6tjni9g4igoiwi7ejutmqegyqjrlag2dzqttgmmeh3php7h058knxk17yzaxvk7sk5nze9t7jxdyprtjpfuzldw19y3spr21vbo7l9s/ufvbjcm0amad2fgias4etdtthdqhboj7hnre5gprb9+bvcwqtt0noeetkwbdrok2vj/xdd0ymrf7ptgs3c9sboausvju8gxcfwnxsoumxwpilboujhxuuyagx4/0c3mn4ctaf0uxfxmuothppbmdgey+ce05uapbdxuvjlizymfmu5gcknajguhxsef8ul04wx6gt4wzwmnamim0ttzvhthxlzr6nrlpxhur37wf+v+tg+lhtrczeuyabf1+niw41gfejikhtalvfgoeozkzwtede0monnnbjopi743/ilapucsub8r5ejuni4uo0de6q0vuqxv0jrqohsh6qc/odc2tr+vvmlvvy6szk+05rd9gfxwcg1mkvg==</latexit> <latexit sha1_base64="xdtgzbfsn9p0btmf7cfh0hpojwg=">aaaco3icbvdltgixfo3gc8cx6tjni9g4igoiwi7ejutmqegyqjrlag2dzqttgmmeh3php7h058knxk17yzaxvk7sk5nze9t7jxdyprtjpfuzldw19y3spr21vbo7l9s/ufvbjcm0amad2fgias4etdtthdqhboj7hnre5gprb9+bvcwqtt0noeetkwbdrok2vj/xdd0ymrf7ptgs3c9sboausvju8gxcfwnxsoumxwpilboujhxuuyagx4/0c3mn4ctaf0uxfxmuothppbmdgey+ce05uapbdxuvjlizymfmu5gcknajguhxsef8ul04wx6gt4wzwmnamim0ttzvhthxlzr6nrlpxhur37wf+v+tg+lhtrczeuyabf1+niw41gfejikhtalvfgoeozkzwtede0monnnbjopi743/ilapucsub8r5ejuni4uo0de6q0vuqxv0jrqohsh6qc/odc2tr+vvmlvvy6szk+05rd9gfxwcg1mkvg==</latexit> <latexit sha1_base64="xdtgzbfsn9p0btmf7cfh0hpojwg=">aaaco3icbvdltgixfo3gc8cx6tjni9g4igoiwi7ejutmqegyqjrlag2dzqttgmmeh3php7h058knxk17yzaxvk7sk5nze9t7jxdyprtjpfuzldw19y3spr21vbo7l9s/ufvbjcm0amad2fgias4etdtthdqhboj7hnre5gprb9+bvcwqtt0noeetkwbdrok2vj/xdd0ymrf7ptgs3c9sboausvju8gxcfwnxsoumxwpilboujhxuuyagx4/0c3mn4ctaf0uxfxmuothppbmdgey+ce05uapbdxuvjlizymfmu5gcknajguhxsef8ul04wx6gt4wzwmnamim0ttzvhthxlzr6nrlpxhur37wf+v+tg+lhtrczeuyabf1+niw41gfejikhtalvfgoeozkzwtede0monnnbjopi743/ilapucsub8r5ejuni4uo0de6q0vuqxv0jrqohsh6qc/odc2tr+vvmlvvy6szk+05rd9gfxwcg1mkvg==</latexit> <latexit sha1_base64="txiwm5jsmotvrygflzpgh0jub5k=">aaaccnicbvdnssnagnzuv1r/qh69bivquiyncnadupdisykxhtaezxbtrt1swu4xpyq+gaefxymxi1dfwknv4zbnqvshlh1m5mp3gy/iteg9/m3kvlbx1jfym4wt7z3dvel+wb0ky0motuieyo6hfevmubsycnqjjmwbx2nbg13p/pyjlyqf4g7gexucpbdmzwsdltxi6cl9kepvqlylpfltucd6ljoxn86lik7va/uu5jkxmljcgvpu8avxd0kcuagey6w6jqicbetghnnjorcrgmeywgpa1vtggconsxezmcda6zt+kpurykbq74keb0qna08nawxdtejnxp+8bgx+w0myigkggswf8mnuqmjoijh7tficfkwjjplpv5pkicumoosr6a6sxy2xix1wu6xzt+elzimri4+o0deqiwtdoca6qs1ki4ke0st6r1pjxxgzpsbhpjozspld9afg5w+9apie</latexit> <latexit sha1_base64="txiwm5jsmotvrygflzpgh0jub5k=">aaaccnicbvdnssnagnzuv1r/qh69bivquiyncnadupdisykxhtaezxbtrt1swu4xpyq+gaefxymxi1dfwknv4zbnqvshlh1m5mp3gy/iteg9/m3kvlbx1jfym4wt7z3dvel+wb0ky0motuieyo6hfevmubsycnqjjmwbx2nbg13p/pyjlyqf4g7gexucpbdmzwsdltxi6cl9kepvqlylpfltucd6ljoxn86lik7va/uu5jkxmljcgvpu8avxd0kcuagey6w6jqicbetghnnjorcrgmeywgpa1vtggconsxezmcda6zt+kpurykbq74keb0qna08nawxdtejnxp+8bgx+w0myigkggswf8mnuqmjoijh7tficfkwjjplpv5pkicumoosr6a6sxy2xix1wu6xzt+elzimri4+o0deqiwtdoca6qs1ki4ke0st6r1pjxxgzpsbhpjozspld9afg5w+9apie</latexit> <latexit sha1_base64="txiwm5jsmotvrygflzpgh0jub5k=">aaaccnicbvdnssnagnzuv1r/qh69bivquiyncnadupdisykxhtaezxbtrt1swu4xpyq+gaefxymxi1dfwknv4zbnqvshlh1m5mp3gy/iteg9/m3kvlbx1jfym4wt7z3dvel+wb0ky0motuieyo6hfevmubsycnqjjmwbx2nbg13p/pyjlyqf4g7gexucpbdmzwsdltxi6cl9kepvqlylpfltucd6ljoxn86lik7va/uu5jkxmljcgvpu8avxd0kcuagey6w6jqicbetghnnjorcrgmeywgpa1vtggconsxezmcda6zt+kpurykbq74keb0qna08nawxdtejnxp+8bgx+w0myigkggswf8mnuqmjoijh7tficfkwjjplpv5pkicumoosr6a6sxy2xix1wu6xzt+elzimri4+o0deqiwtdoca6qs1ki4ke0st6r1pjxxgzpsbhpjozspld9afg5w+9apie</latexit> <latexit sha1_base64="txiwm5jsmotvrygflzpgh0jub5k=">aaaccnicbvdnssnagnzuv1r/qh69bivquiyncnadupdisykxhtaezxbtrt1swu4xpyq+gaefxymxi1dfwknv4zbnqvshlh1m5mp3gy/iteg9/m3kvlbx1jfym4wt7z3dvel+wb0ky0motuieyo6hfevmubsycnqjjmwbx2nbg13p/pyjlyqf4g7gexucpbdmzwsdltxi6cl9kepvqlylpfltucd6ljoxn86lik7va/uu5jkxmljcgvpu8avxd0kcuagey6w6jqicbetghnnjorcrgmeywgpa1vtggconsxezmcda6zt+kpurykbq74keb0qna08nawxdtejnxp+8bgx+w0myigkggswf8mnuqmjoijh7tficfkwjjplpv5pkicumoosr6a6sxy2xix1wu6xzt+elzimri4+o0deqiwtdoca6qs1ki4ke0st6r1pjxxgzpsbhpjozspld9afg5w+9apie</latexit> <latexit sha1_base64="1n1d0e0sph2ehpj1f/+tad6x86g=">aaaccnicbvbps8mwhe3nvzn/tt16cq5hax3rejwhyedf4wtrbltx0izdyto0jkkysj+abz+lby8or34bj34bs60h3xwq8njv/uh+z40ylapw+zzyk6tr6xv5zclw9s7uxnh/4f6gscdewielrcdfkjdkiawoyqqtcyicl5g2619p/fyjezkg/e6ni2ihamiprzfswnkkpz6mayfxr8y0z2gzogk79dozjyd50hdzvsr9uk7vqruz4dixm1icgvpo8as3checek4wq1j2g5gyeyquxyykhv4ssyswj4akqylhazf2mtslhsdaguavfppwbwfq74kebvkoa1cna6rgctgbiv953vh5dtuhpiov4xj+kbczqei4lqyoqcbysbemcauq/wrxcamela6vodswfzdejla9elk1b89lzuzwrh4cgwnqbia4ae1wa1raahg8g1fwdibgi/fmtiypetrnzdoh4a+mzx/zjjnw</latexit> <latexit sha1_base64="1n1d0e0sph2ehpj1f/+tad6x86g=">aaaccnicbvbps8mwhe3nvzn/tt16cq5hax3rejwhyedf4wtrbltx0izdyto0jkkysj+abz+lby8or34bj34bs60h3xwq8njv/uh+z40ylapw+zzyk6tr6xv5zclw9s7uxnh/4f6gscdewielrcdfkjdkiawoyqqtcyicl5g2619p/fyjezkg/e6ni2ihamiprzfswnkkpz6mayfxr8y0z2gzogk79dozjyd50hdzvsr9uk7vqruz4dixm1icgvpo8as3checek4wq1j2g5gyeyquxyykhv4ssyswj4akqylhazf2mtslhsdaguavfppwbwfq74kebvkoa1cna6rgctgbiv953vh5dtuhpiov4xj+kbczqei4lqyoqcbysbemcauq/wrxcamela6vodswfzdejla9elk1b89lzuzwrh4cgwnqbia4ae1wa1raahg8g1fwdibgi/fmtiypetrnzdoh4a+mzx/zjjnw</latexit> <latexit sha1_base64="1n1d0e0sph2ehpj1f/+tad6x86g=">aaaccnicbvbps8mwhe3nvzn/tt16cq5hax3rejwhyedf4wtrbltx0izdyto0jkkysj+abz+lby8or34bj34bs60h3xwq8njv/uh+z40ylapw+zzyk6tr6xv5zclw9s7uxnh/4f6gscdewielrcdfkjdkiawoyqqtcyicl5g2619p/fyjezkg/e6ni2ihamiprzfswnkkpz6mayfxr8y0z2gzogk79dozjyd50hdzvsr9uk7vqruz4dixm1icgvpo8as3checek4wq1j2g5gyeyquxyykhv4ssyswj4akqylhazf2mtslhsdaguavfppwbwfq74kebvkoa1cna6rgctgbiv953vh5dtuhpiov4xj+kbczqei4lqyoqcbysbemcauq/wrxcamela6vodswfzdejla9elk1b89lzuzwrh4cgwnqbia4ae1wa1raahg8g1fwdibgi/fmtiypetrnzdoh4a+mzx/zjjnw</latexit> <latexit sha1_base64="1n1d0e0sph2ehpj1f/+tad6x86g=">aaaccnicbvbps8mwhe3nvzn/tt16cq5hax3rejwhyedf4wtrbltx0izdyto0jkkysj+abz+lby8or34bj34bs60h3xwq8njv/uh+z40ylapw+zzyk6tr6xv5zclw9s7uxnh/4f6gscdewielrcdfkjdkiawoyqqtcyicl5g2619p/fyjezkg/e6ni2ihamiprzfswnkkpz6mayfxr8y0z2gzogk79dozjyd50hdzvsr9uk7vqruz4dixm1icgvpo8as3checek4wq1j2g5gyeyquxyykhv4ssyswj4akqylhazf2mtslhsdaguavfppwbwfq74kebvkoa1cna6rgctgbiv953vh5dtuhpiov4xj+kbczqei4lqyoqcbysbemcauq/wrxcamela6vodswfzdejla9elk1b89lzuzwrh4cgwnqbia4ae1wa1raahg8g1fwdibgi/fmtiypetrnzdoh4a+mzx/zjjnw</latexit> Tanító minták: i1: (1,1,0,0) i2: (0,0,0,1) Bemeneti egységek i3: (1,0,0,0) i4: (0,0,1,1) Legyen a szomszédság: 0 Kimeneti egységek 1 2 azaz minden iterációban csak a győztes kimeneti egység súlyvektorát módosítjuk Tanulási ráta: η(t)=0.6, ha 1<=t<=4 η(t)=0.5η(1), ha 5<=t<=8 η(t)=0.5η(5), ha 9<=t<=12 Kezdeti súlymátrix: véletlen 0 és 1 közötti értékek 1. egység: 2. egység: d 2=(Euklideszi távolság) 2 = súlymódosítás: apple 0.2 0.6 0.5 0.9 0.8 0.4 0.7 0.3 nx (i l,k w j,k (t)) 2 k=1 w j (t + 1) = w j (t)+ (t)(i l w j (t))

<latexit sha1_base64="w3sd37irurz2l7jz8oholnyl7ua=">aaacp3icbvdltgixfo3gc8cx6tjni9g4ijnebxykblxiikrcenipf2jodcztx0gm/jol/8clexdujg7dwyajufakvt05594+jh9xprtjvfq5ldw19y38pr21vbo7v9g/ufnhlck0achd2fkjas4endxthfqrbbl4ho790dxmv38aqvgobvu4gk5abol1gsxasn1cy/nhwetib0rl9jixsyftkuntuy/tephwgva8zkzn3crcllftzs3bhojez0hdqteposnwmnezukqzgt3ci9clarya0jqtpdrvshcsijwjhca2fyuicb2rabqnfsqa1unsacb4xcg93a+lwuljvp09kzbaqxhgm07zvkfa9gbif1471v1qj2eiijuior+oh3osqzxle/eybkr52bbcjtnvxxrijkhazg6bdnzfhy+tzrluk7k358v6nqsjj47qmtpdlqqgorpgddrefd2hn/sbptaz9w5nrc95a87kzg7rh1hf351bpu0=</latexit> <latexit sha1_base64="w3sd37irurz2l7jz8oholnyl7ua=">aaacp3icbvdltgixfo3gc8cx6tjni9g4ijnebxykblxiikrcenipf2jodcztx0gm/jol/8clexdujg7dwyajufakvt05594+jh9xprtjvfq5ldw19y38pr21vbo7v9g/ufnhlck0achd2fkjas4endxthfqrbbl4ho790dxmv38aqvgobvu4gk5abol1gsxasn1cy/nhwetib0rl9jixsyftkuntuy/tephwgva8zkzn3crcllftzs3bhojez0hdqteposnwmnezukqzgt3ci9clarya0jqtpdrvshcsijwjhca2fyuicb2rabqnfsqa1unsacb4xcg93a+lwuljvp09kzbaqxhgm07zvkfa9gbif1471v1qj2eiijuior+oh3osqzxle/eybkr52bbcjtnvxxrijkhazg6bdnzfhy+tzrluk7k358v6nqsjj47qmtpdlqqgorpgddrefd2hn/sbptaz9w5nrc95a87kzg7rh1hf351bpu0=</latexit> <latexit sha1_base64="w3sd37irurz2l7jz8oholnyl7ua=">aaacp3icbvdltgixfo3gc8cx6tjni9g4ijnebxykblxiikrcenipf2jodcztx0gm/jol/8clexdujg7dwyajufakvt05594+jh9xprtjvfq5ldw19y38pr21vbo7v9g/ufnhlck0achd2fkjas4endxthfqrbbl4ho790dxmv38aqvgobvu4gk5abol1gsxasn1cy/nhwetib0rl9jixsyftkuntuy/tephwgva8zkzn3crcllftzs3bhojez0hdqteposnwmnezukqzgt3ci9clarya0jqtpdrvshcsijwjhca2fyuicb2rabqnfsqa1unsacb4xcg93a+lwuljvp09kzbaqxhgm07zvkfa9gbif1471v1qj2eiijuior+oh3osqzxle/eybkr52bbcjtnvxxrijkhazg6bdnzfhy+tzrluk7k358v6nqsjj47qmtpdlqqgorpgddrefd2hn/sbptaz9w5nrc95a87kzg7rh1hf351bpu0=</latexit> <latexit sha1_base64="w3sd37irurz2l7jz8oholnyl7ua=">aaacp3icbvdltgixfo3gc8cx6tjni9g4ijnebxykblxiikrcenipf2jodcztx0gm/jol/8clexdujg7dwyajufakvt05594+jh9xprtjvfq5ldw19y38pr21vbo7v9g/ufnhlck0achd2fkjas4endxthfqrbbl4ho790dxmv38aqvgobvu4gk5abol1gsxasn1cy/nhwetib0rl9jixsyftkuntuy/tephwgva8zkzn3crcllftzs3bhojez0hdqteposnwmnezukqzgt3ci9clarya0jqtpdrvshcsijwjhca2fyuicb2rabqnfsqa1unsacb4xcg93a+lwuljvp09kzbaqxhgm07zvkfa9gbif1471v1qj2eiijuior+oh3osqzxle/eybkr52bbcjtnvxxrijkhazg6bdnzfhy+tzrluk7k358v6nqsjj47qmtpdlqqgorpgddrefd2hn/sbptaz9w5nrc95a87kzg7rh1hf351bpu0=</latexit> <latexit sha1_base64="xdtgzbfsn9p0btmf7cfh0hpojwg=">aaaco3icbvdltgixfo3gc8cx6tjni9g4igoiwi7ejutmqegyqjrlag2dzqttgmmeh3php7h058knxk17yzaxvk7sk5nze9t7jxdyprtjpfuzldw19y3spr21vbo7l9s/ufvbjcm0amad2fgias4etdtthdqhboj7hnre5gprb9+bvcwqtt0noeetkwbdrok2vj/xdd0ymrf7ptgs3c9sboausvju8gxcfwnxsoumxwpilboujhxuuyagx4/0c3mn4ctaf0uxfxmuothppbmdgey+ce05uapbdxuvjlizymfmu5gcknajguhxsef8ul04wx6gt4wzwmnamim0ttzvhthxlzr6nrlpxhur37wf+v+tg+lhtrczeuyabf1+niw41gfejikhtalvfgoeozkzwtede0monnnbjopi743/ilapucsub8r5ejuni4uo0de6q0vuqxv0jrqohsh6qc/odc2tr+vvmlvvy6szk+05rd9gfxwcg1mkvg==</latexit> <latexit sha1_base64="xdtgzbfsn9p0btmf7cfh0hpojwg=">aaaco3icbvdltgixfo3gc8cx6tjni9g4igoiwi7ejutmqegyqjrlag2dzqttgmmeh3php7h058knxk17yzaxvk7sk5nze9t7jxdyprtjpfuzldw19y3spr21vbo7l9s/ufvbjcm0amad2fgias4etdtthdqhboj7hnre5gprb9+bvcwqtt0noeetkwbdrok2vj/xdd0ymrf7ptgs3c9sboausvju8gxcfwnxsoumxwpilboujhxuuyagx4/0c3mn4ctaf0uxfxmuothppbmdgey+ce05uapbdxuvjlizymfmu5gcknajguhxsef8ul04wx6gt4wzwmnamim0ttzvhthxlzr6nrlpxhur37wf+v+tg+lhtrczeuyabf1+niw41gfejikhtalvfgoeozkzwtede0monnnbjopi743/ilapucsub8r5ejuni4uo0de6q0vuqxv0jrqohsh6qc/odc2tr+vvmlvvy6szk+05rd9gfxwcg1mkvg==</latexit> <latexit sha1_base64="xdtgzbfsn9p0btmf7cfh0hpojwg=">aaaco3icbvdltgixfo3gc8cx6tjni9g4igoiwi7ejutmqegyqjrlag2dzqttgmmeh3php7h058knxk17yzaxvk7sk5nze9t7jxdyprtjpfuzldw19y3spr21vbo7l9s/ufvbjcm0amad2fgias4etdtthdqhboj7hnre5gprb9+bvcwqtt0noeetkwbdrok2vj/xdd0ymrf7ptgs3c9sboausvju8gxcfwnxsoumxwpilboujhxuuyagx4/0c3mn4ctaf0uxfxmuothppbmdgey+ce05uapbdxuvjlizymfmu5gcknajguhxsef8ul04wx6gt4wzwmnamim0ttzvhthxlzr6nrlpxhur37wf+v+tg+lhtrczeuyabf1+niw41gfejikhtalvfgoeozkzwtede0monnnbjopi743/ilapucsub8r5ejuni4uo0de6q0vuqxv0jrqohsh6qc/odc2tr+vvmlvvy6szk+05rd9gfxwcg1mkvg==</latexit> <latexit sha1_base64="xdtgzbfsn9p0btmf7cfh0hpojwg=">aaaco3icbvdltgixfo3gc8cx6tjni9g4igoiwi7ejutmqegyqjrlag2dzqttgmmeh3php7h058knxk17yzaxvk7sk5nze9t7jxdyprtjpfuzldw19y3spr21vbo7l9s/ufvbjcm0amad2fgias4etdtthdqhboj7hnre5gprb9+bvcwqtt0noeetkwbdrok2vj/xdd0ymrf7ptgs3c9sboausvju8gxcfwnxsoumxwpilboujhxuuyagx4/0c3mn4ctaf0uxfxmuothppbmdgey+ce05uapbdxuvjlizymfmu5gcknajguhxsef8ul04wx6gt4wzwmnamim0ttzvhthxlzr6nrlpxhur37wf+v+tg+lhtrczeuyabf1+niw41gfejikhtalvfgoeozkzwtede0monnnbjopi743/ilapucsub8r5ejuni4uo0de6q0vuqxv0jrqohsh6qc/odc2tr+vvmlvvy6szk+05rd9gfxwcg1mkvg==</latexit> Első súly módosítás Tanító minta: i1 1. egység súlyai: d 2 =(0.2-1) 2 +(0.6-1) 2 +(0.5-0) 2 +(0.9-0) 2 =1.86 i1: (1,1,0,0) i2: (0,0,0,1) i3: (1,0,0,0) i4: (0,0,1,1) 2. egység súlyai: d 2 =(0.8-1) 2 +(0.4-1) 2 +(0.7-0) 2 +(0.3-0) 2 =0.98 1. egység: 2. egység: apple 0.2 0.6 0.5 0.9 0.8 0.4 0.7 0.3 A 2. egység nyer A nyertes egység súlyait módosítjuk Új súlyok: [0.8 0.4 0.7 0.3]+0.6([1 1 0 0]-[0.8 0.4 0.7 0.3])=[0.92 0.76 0.28 0.12] 1. egység: 2. egység: apple 0.2 0.6 0.5 0.9 0.92 0.76 0.28 0.12

<latexit sha1_base64="eelznlvhry++pcbdt9eadmumcxy=">aaacqnicbvbntwixeo3if65fqecvjutjibce8hej8eirexeslpbugach2920xspz8om8+am8+gs8ejf49wbhn0bbsdp5ew9mon1eyjnsxekrldny3nreye7ae/shh0e545n7fussqosgpjadjyjgteblm82he0ogvseh7u2uf3r7aarigbjt0xb6phkjnmsuaep1c13xgxetsectldnjzmymiovidv+avconaxnxk9h1u72eunvkoifvtsl2qqx+zvvzetnpgxgdocniozsa/dylowho5ipqlbolurvq92iinamczrybkqgjnzarda0uxafvi5cezpcfyqz4gehzhmzl9ndhthylpr5nks16y7wqlcj/tg6kh7vezeqyara0ewgycawdvdaud5geqvnuaeilm7tioiasug1st40hzuqp10grvkgxnntyvlflzciim3sorpcdqqibblattrbft+gnfac59wy9w3prmynnwgnpkfot1tc3mgqmba==</latexit> <latexit sha1_base64="eelznlvhry++pcbdt9eadmumcxy=">aaacqnicbvbntwixeo3if65fqecvjutjibce8hej8eirexeslpbugach2920xspz8om8+am8+gs8ejf49wbhn0bbsdp5ew9mon1eyjnsxekrldny3nreye7ae/shh0e545n7fussqosgpjadjyjgteblm82he0ogvseh7u2uf3r7aarigbjt0xb6phkjnmsuaep1c13xgxetsectldnjzmymiovidv+avconaxnxk9h1u72eunvkoifvtsl2qqx+zvvzetnpgxgdocniozsa/dylowho5ipqlbolurvq92iinamczrybkqgjnzarda0uxafvi5cezpcfyqz4gehzhmzl9ndhthylpr5nks16y7wqlcj/tg6kh7vezeqyara0ewgycawdvdaud5geqvnuaeilm7tioiasug1st40hzuqp10grvkgxnntyvlflzciim3sorpcdqqibblattrbft+gnfac59wy9w3prmynnwgnpkfot1tc3mgqmba==</latexit> <latexit sha1_base64="eelznlvhry++pcbdt9eadmumcxy=">aaacqnicbvbntwixeo3if65fqecvjutjibce8hej8eirexeslpbugach2920xspz8om8+am8+gs8ejf49wbhn0bbsdp5ew9mon1eyjnsxekrldny3nreye7ae/shh0e545n7fussqosgpjadjyjgteblm82he0ogvseh7u2uf3r7aarigbjt0xb6phkjnmsuaep1c13xgxetsectldnjzmymiovidv+avconaxnxk9h1u72eunvkoifvtsl2qqx+zvvzetnpgxgdocniozsa/dylowho5ipqlbolurvq92iinamczrybkqgjnzarda0uxafvi5cezpcfyqz4gehzhmzl9ndhthylpr5nks16y7wqlcj/tg6kh7vezeqyara0ewgycawdvdaud5geqvnuaeilm7tioiasug1st40hzuqp10grvkgxnntyvlflzciim3sorpcdqqibblattrbft+gnfac59wy9w3prmynnwgnpkfot1tc3mgqmba==</latexit> <latexit sha1_base64="eelznlvhry++pcbdt9eadmumcxy=">aaacqnicbvbntwixeo3if65fqecvjutjibce8hej8eirexeslpbugach2920xspz8om8+am8+gs8ejf49wbhn0bbsdp5ew9mon1eyjnsxekrldny3nreye7ae/shh0e545n7fussqosgpjadjyjgteblm82he0ogvseh7u2uf3r7aarigbjt0xb6phkjnmsuaep1c13xgxetsectldnjzmymiovidv+avconaxnxk9h1u72eunvkoifvtsl2qqx+zvvzetnpgxgdocniozsa/dylowho5ipqlbolurvq92iinamczrybkqgjnzarda0uxafvi5cezpcfyqz4gehzhmzl9ndhthylpr5nks16y7wqlcj/tg6kh7vezeqyara0ewgycawdvdaud5geqvnuaeilm7tioiasug1st40hzuqp10grvkgxnntyvlflzciim3sorpcdqqibblattrbft+gnfac59wy9w3prmynnwgnpkfot1tc3mgqmba==</latexit> <latexit sha1_base64="w3sd37irurz2l7jz8oholnyl7ua=">aaacp3icbvdltgixfo3gc8cx6tjni9g4ijnebxykblxiikrcenipf2jodcztx0gm/jol/8clexdujg7dwyajufakvt05594+jh9xprtjvfq5ldw19y38pr21vbo7v9g/ufnhlck0achd2fkjas4endxthfqrbbl4ho790dxmv38aqvgobvu4gk5abol1gsxasn1cy/nhwetib0rl9jixsyftkuntuy/tephwgva8zkzn3crcllftzs3bhojez0hdqteposnwmnezukqzgt3ci9clarya0jqtpdrvshcsijwjhca2fyuicb2rabqnfsqa1unsacb4xcg93a+lwuljvp09kzbaqxhgm07zvkfa9gbif1471v1qj2eiijuior+oh3osqzxle/eybkr52bbcjtnvxxrijkhazg6bdnzfhy+tzrluk7k358v6nqsjj47qmtpdlqqgorpgddrefd2hn/sbptaz9w5nrc95a87kzg7rh1hf351bpu0=</latexit> <latexit sha1_base64="w3sd37irurz2l7jz8oholnyl7ua=">aaacp3icbvdltgixfo3gc8cx6tjni9g4ijnebxykblxiikrcenipf2jodcztx0gm/jol/8clexdujg7dwyajufakvt05594+jh9xprtjvfq5ldw19y38pr21vbo7v9g/ufnhlck0achd2fkjas4endxthfqrbbl4ho790dxmv38aqvgobvu4gk5abol1gsxasn1cy/nhwetib0rl9jixsyftkuntuy/tephwgva8zkzn3crcllftzs3bhojez0hdqteposnwmnezukqzgt3ci9clarya0jqtpdrvshcsijwjhca2fyuicb2rabqnfsqa1unsacb4xcg93a+lwuljvp09kzbaqxhgm07zvkfa9gbif1471v1qj2eiijuior+oh3osqzxle/eybkr52bbcjtnvxxrijkhazg6bdnzfhy+tzrluk7k358v6nqsjj47qmtpdlqqgorpgddrefd2hn/sbptaz9w5nrc95a87kzg7rh1hf351bpu0=</latexit> <latexit sha1_base64="w3sd37irurz2l7jz8oholnyl7ua=">aaacp3icbvdltgixfo3gc8cx6tjni9g4ijnebxykblxiikrcenipf2jodcztx0gm/jol/8clexdujg7dwyajufakvt05594+jh9xprtjvfq5ldw19y38pr21vbo7v9g/ufnhlck0achd2fkjas4endxthfqrbbl4ho790dxmv38aqvgobvu4gk5abol1gsxasn1cy/nhwetib0rl9jixsyftkuntuy/tephwgva8zkzn3crcllftzs3bhojez0hdqteposnwmnezukqzgt3ci9clarya0jqtpdrvshcsijwjhca2fyuicb2rabqnfsqa1unsacb4xcg93a+lwuljvp09kzbaqxhgm07zvkfa9gbif1471v1qj2eiijuior+oh3osqzxle/eybkr52bbcjtnvxxrijkhazg6bdnzfhy+tzrluk7k358v6nqsjj47qmtpdlqqgorpgddrefd2hn/sbptaz9w5nrc95a87kzg7rh1hf351bpu0=</latexit> <latexit sha1_base64="w3sd37irurz2l7jz8oholnyl7ua=">aaacp3icbvdltgixfo3gc8cx6tjni9g4ijnebxykblxiikrcenipf2jodcztx0gm/jol/8clexdujg7dwyajufakvt05594+jh9xprtjvfq5ldw19y38pr21vbo7v9g/ufnhlck0achd2fkjas4endxthfqrbbl4ho790dxmv38aqvgobvu4gk5abol1gsxasn1cy/nhwetib0rl9jixsyftkuntuy/tephwgva8zkzn3crcllftzs3bhojez0hdqteposnwmnezukqzgt3ci9clarya0jqtpdrvshcsijwjhca2fyuicb2rabqnfsqa1unsacb4xcg93a+lwuljvp09kzbaqxhgm07zvkfa9gbif1471v1qj2eiijuior+oh3osqzxle/eybkr52bbcjtnvxxrijkhazg6bdnzfhy+tzrluk7k358v6nqsjj47qmtpdlqqgorpgddrefd2hn/sbptaz9w5nrc95a87kzg7rh1hf351bpu0=</latexit> Második súly módosítás Tanító minta: i2 1. egység súlyai: d 2 =(0.2-0) 2 +(0.6-0) 2 +(0.5-0) 2 +(0.9-1) 2 =0.66 2. egység súlyai: d 2 =(0.92-0) 2 +(0.76-0) 2 +(0.28-0) 2 +(0.12-1) 2 =2.28 Az 1. egység nyer A nyertes egység súlyait módosítjuk i1: (1,1,0,0) i2: (0,0,0,1) i3: (1,0,0,0) i4: (0,0,1,1) 1. egység: 2. egység: apple 0.2 0.6 0.5 0.9 0.92 0.76 0.28 0.12 Új súlyok: [0.2 0.6 0.5 0.9]+0.6([0 0 0 1]-[0.2 0.6 0.5 0.9])=[0.08 0.24 0.2 0.96] 1. egység: 2. egység: apple 0.08 0.24 0.2 0.96 0.92 0.76 0.28 0.12

<latexit sha1_base64="oxgzjk+e+isxlktcxtadpjbrmxs=">aaacqnicbvdltgixfo34xpgfunttsdsuyayiwi7ejutmregyqjrlgg2dzqttgmmej3phb7j0c1y4kbh1yrkmrtgttofk3hv7oh7emdko82itla+srq3nnuznre2d3fze/q0ky0mhsumeyrzpfhamokmz5tcojjda59dyr5ezeusepgkhunhjclobgqo2yjroy/xyhc+hirojhxat2cpexgzo0anie0ol8pzsvxabps+r1yqpdeak5lopoee2b6l/fvyvxzbmcvxxujkooaynxv7z64c0dkboyolsnwqkuwmrmleoe9ulfusejsgqokykeodqjmkge3xsnd4ehnisoxhq/pxiskduopbnp3nenvqszcz/ap1yd6rdhiko1ido/kjbzleo8sxq3gcsqozjiwivzlwv0zsicdumdttk4c7++k9oloq1ontdltsrwrg5diio0clyuqxv0rvqocai6bg9onc0tz6sn2tqfcxbl6xs5gd9gvx5bsb5pfk=</latexit> <latexit sha1_base64="oxgzjk+e+isxlktcxtadpjbrmxs=">aaacqnicbvdltgixfo34xpgfunttsdsuyayiwi7ejutmregyqjrlgg2dzqttgmmej3phb7j0c1y4kbh1yrkmrtgttofk3hv7oh7emdko82itla+srq3nnuznre2d3fze/q0ky0mhsumeyrzpfhamokmz5tcojjda59dyr5ezeusepgkhunhjclobgqo2yjroy/xyhc+hirojhxat2cpexgzo0anie0ol8pzsvxabps+r1yqpdeak5lopoee2b6l/fvyvxzbmcvxxujkooaynxv7z64c0dkboyolsnwqkuwmrmleoe9ulfusejsgqokykeodqjmkge3xsnd4ehnisoxhq/pxiskduopbnp3nenvqszcz/ap1yd6rdhiko1ido/kjbzleo8sxq3gcsqozjiwivzlwv0zsicdumdttk4c7++k9oloq1ontdltsrwrg5diio0clyuqxv0rvqocai6bg9onc0tz6sn2tqfcxbl6xs5gd9gvx5bsb5pfk=</latexit> <latexit sha1_base64="oxgzjk+e+isxlktcxtadpjbrmxs=">aaacqnicbvdltgixfo34xpgfunttsdsuyayiwi7ejutmregyqjrlgg2dzqttgmmej3phb7j0c1y4kbh1yrkmrtgttofk3hv7oh7emdko82itla+srq3nnuznre2d3fze/q0ky0mhsumeyrzpfhamokmz5tcojjda59dyr5ezeusepgkhunhjclobgqo2yjroy/xyhc+hirojhxat2cpexgzo0anie0ol8pzsvxabps+r1yqpdeak5lopoee2b6l/fvyvxzbmcvxxujkooaynxv7z64c0dkboyolsnwqkuwmrmleoe9ulfusejsgqokykeodqjmkge3xsnd4ehnisoxhq/pxiskduopbnp3nenvqszcz/ap1yd6rdhiko1ido/kjbzleo8sxq3gcsqozjiwivzlwv0zsicdumdttk4c7++k9oloq1ontdltsrwrg5diio0clyuqxv0rvqocai6bg9onc0tz6sn2tqfcxbl6xs5gd9gvx5bsb5pfk=</latexit> <latexit sha1_base64="oxgzjk+e+isxlktcxtadpjbrmxs=">aaacqnicbvdltgixfo34xpgfunttsdsuyayiwi7ejutmregyqjrlgg2dzqttgmmej3phb7j0c1y4kbh1yrkmrtgttofk3hv7oh7emdko82itla+srq3nnuznre2d3fze/q0ky0mhsumeyrzpfhamokmz5tcojjda59dyr5ezeusepgkhunhjclobgqo2yjroy/xyhc+hirojhxat2cpexgzo0anie0ol8pzsvxabps+r1yqpdeak5lopoee2b6l/fvyvxzbmcvxxujkooaynxv7z64c0dkboyolsnwqkuwmrmleoe9ulfusejsgqokykeodqjmkge3xsnd4ehnisoxhq/pxiskduopbnp3nenvqszcz/ap1yd6rdhiko1ido/kjbzleo8sxq3gcsqozjiwivzlwv0zsicdumdttk4c7++k9oloq1ontdltsrwrg5diio0clyuqxv0rvqocai6bg9onc0tz6sn2tqfcxbl6xs5gd9gvx5bsb5pfk=</latexit> <latexit sha1_base64="eelznlvhry++pcbdt9eadmumcxy=">aaacqnicbvbntwixeo3if65fqecvjutjibce8hej8eirexeslpbugach2920xspz8om8+am8+gs8ejf49wbhn0bbsdp5ew9mon1eyjnsxekrldny3nreye7ae/shh0e545n7fussqosgpjadjyjgteblm82he0ogvseh7u2uf3r7aarigbjt0xb6phkjnmsuaep1c13xgxetsectldnjzmymiovidv+avconaxnxk9h1u72eunvkoifvtsl2qqx+zvvzetnpgxgdocniozsa/dylowho5ipqlbolurvq92iinamczrybkqgjnzarda0uxafvi5cezpcfyqz4gehzhmzl9ndhthylpr5nks16y7wqlcj/tg6kh7vezeqyara0ewgycawdvdaud5geqvnuaeilm7tioiasug1st40hzuqp10grvkgxnntyvlflzciim3sorpcdqqibblattrbft+gnfac59wy9w3prmynnwgnpkfot1tc3mgqmba==</latexit> <latexit sha1_base64="eelznlvhry++pcbdt9eadmumcxy=">aaacqnicbvbntwixeo3if65fqecvjutjibce8hej8eirexeslpbugach2920xspz8om8+am8+gs8ejf49wbhn0bbsdp5ew9mon1eyjnsxekrldny3nreye7ae/shh0e545n7fussqosgpjadjyjgteblm82he0ogvseh7u2uf3r7aarigbjt0xb6phkjnmsuaep1c13xgxetsectldnjzmymiovidv+avconaxnxk9h1u72eunvkoifvtsl2qqx+zvvzetnpgxgdocniozsa/dylowho5ipqlbolurvq92iinamczrybkqgjnzarda0uxafvi5cezpcfyqz4gehzhmzl9ndhthylpr5nks16y7wqlcj/tg6kh7vezeqyara0ewgycawdvdaud5geqvnuaeilm7tioiasug1st40hzuqp10grvkgxnntyvlflzciim3sorpcdqqibblattrbft+gnfac59wy9w3prmynnwgnpkfot1tc3mgqmba==</latexit> <latexit sha1_base64="eelznlvhry++pcbdt9eadmumcxy=">aaacqnicbvbntwixeo3if65fqecvjutjibce8hej8eirexeslpbugach2920xspz8om8+am8+gs8ejf49wbhn0bbsdp5ew9mon1eyjnsxekrldny3nreye7ae/shh0e545n7fussqosgpjadjyjgteblm82he0ogvseh7u2uf3r7aarigbjt0xb6phkjnmsuaep1c13xgxetsectldnjzmymiovidv+avconaxnxk9h1u72eunvkoifvtsl2qqx+zvvzetnpgxgdocniozsa/dylowho5ipqlbolurvq92iinamczrybkqgjnzarda0uxafvi5cezpcfyqz4gehzhmzl9ndhthylpr5nks16y7wqlcj/tg6kh7vezeqyara0ewgycawdvdaud5geqvnuaeilm7tioiasug1st40hzuqp10grvkgxnntyvlflzciim3sorpcdqqibblattrbft+gnfac59wy9w3prmynnwgnpkfot1tc3mgqmba==</latexit> <latexit sha1_base64="eelznlvhry++pcbdt9eadmumcxy=">aaacqnicbvbntwixeo3if65fqecvjutjibce8hej8eirexeslpbugach2920xspz8om8+am8+gs8ejf49wbhn0bbsdp5ew9mon1eyjnsxekrldny3nreye7ae/shh0e545n7fussqosgpjadjyjgteblm82he0ogvseh7u2uf3r7aarigbjt0xb6phkjnmsuaep1c13xgxetsectldnjzmymiovidv+avconaxnxk9h1u72eunvkoifvtsl2qqx+zvvzetnpgxgdocniozsa/dylowho5ipqlbolurvq92iinamczrybkqgjnzarda0uxafvi5cezpcfyqz4gehzhmzl9ndhthylpr5nks16y7wqlcj/tg6kh7vezeqyara0ewgycawdvdaud5geqvnuaeilm7tioiasug1st40hzuqp10grvkgxnntyvlflzciim3sorpcdqqibblattrbft+gnfac59wy9w3prmynnwgnpkfot1tc3mgqmba==</latexit> Harmadik súly módosítás Tanító minta: i3 i1: (1,1,0,0) i2: (0,0,0,1) 1. egység súlyai: i3: (1,0,0,0) d 2 =(0.08-1) 2 +(0.24-0) 2 +(0.2-0) 2 +(0.96-0) 2 =1.87 i4: (0,0,1,1) 2. egység súlyai: d 2 =(0.92-1) 2 +(0.76-0) 2 +(0.28-0) 2 +(0.12-0) 2 =0.68 1. egység: 2. egység: apple 0.08 0.24 0.2 0.96 0.92 0.76 0.28 0.12 A 2. egység nyer A nyertes egység súlyait módosítjuk Új súlyok: [0.92 0.76 0.28 0.12]+0.6([1 0 0 0]-[0.92 0.76 0.28 0.12])=[0.97 0.30 0.11 0.05] 1. egység: 2. egység: apple 0.08 0.24 0.2 0.96 0.97 0.30 0.11 0.05

<latexit sha1_base64="ju8qlbcfpjyn4tj1hacwdmrmzq0=">aaacq3icbvc7tsmwfhv4e14frhalcsrujzrhulviyswspuhnvdnobbfwnmh2efxun2ngz+qpgfiowjfw0wjxopj1js69174+ycqz0o7zbm3mzs0vlc4t2yura+sblc2tk5vkkkkbjjyr1yfrwjmatmaaw3uqgcqhh054ezapd+5akpaisz1miyjjqla+o0qbq1fx/ragtorhtlrk9ymbgzg1p473dbloqsdeqq0p+37z0dgtrpq0wxulco5th0t0dvmvujvmafxxukwoohktxuxjjxkaxsa05usprpfqicdsm8phzpuzgptqwzkarpgcxkccvahhhpeme+f+is0rghfu94mcxeon49b0mvvu1o/axpyv1s103wtyjtjmg6dth/ozxzrbk0rxxcrqzydgecqz2rxtgyij1sz322tg/v7xx9e+rdvq7svrtemvysyhhbsldpcltletnamwaiokhtaleknj69f6tcbw+7r1xipnttepwb+fqnqmnw==</latexit> <latexit sha1_base64="ju8qlbcfpjyn4tj1hacwdmrmzq0=">aaacq3icbvc7tsmwfhv4e14frhalcsrujzrhulviyswspuhnvdnobbfwnmh2efxun2ngz+qpgfiowjfw0wjxopj1js69174+ycqz0o7zbm3mzs0vlc4t2yura+sblc2tk5vkkkkbjjyr1yfrwjmatmaaw3uqgcqhh054ezapd+5akpaisz1miyjjqla+o0qbq1fx/ragtorhtlrk9ymbgzg1p473dbloqsdeqq0p+37z0dgtrpq0wxulco5th0t0dvmvujvmafxxukwoohktxuxjjxkaxsa05usprpfqicdsm8phzpuzgptqwzkarpgcxkccvahhhpeme+f+is0rghfu94mcxeon49b0mvvu1o/axpyv1s103wtyjtjmg6dth/ozxzrbk0rxxcrqzydgecqz2rxtgyij1sz322tg/v7xx9e+rdvq7svrtemvysyhhbsldpcltletnamwaiokhtaleknj69f6tcbw+7r1xipnttepwb+fqnqmnw==</latexit> <latexit sha1_base64="ju8qlbcfpjyn4tj1hacwdmrmzq0=">aaacq3icbvc7tsmwfhv4e14frhalcsrujzrhulviyswspuhnvdnobbfwnmh2efxun2ngz+qpgfiowjfw0wjxopj1js69174+ycqz0o7zbm3mzs0vlc4t2yura+sblc2tk5vkkkkbjjyr1yfrwjmatmaaw3uqgcqhh054ezapd+5akpaisz1miyjjqla+o0qbq1fx/ragtorhtlrk9ymbgzg1p473dbloqsdeqq0p+37z0dgtrpq0wxulco5th0t0dvmvujvmafxxukwoohktxuxjjxkaxsa05usprpfqicdsm8phzpuzgptqwzkarpgcxkccvahhhpeme+f+is0rghfu94mcxeon49b0mvvu1o/axpyv1s103wtyjtjmg6dth/ozxzrbk0rxxcrqzydgecqz2rxtgyij1sz322tg/v7xx9e+rdvq7svrtemvysyhhbsldpcltletnamwaiokhtaleknj69f6tcbw+7r1xipnttepwb+fqnqmnw==</latexit> <latexit sha1_base64="ju8qlbcfpjyn4tj1hacwdmrmzq0=">aaacq3icbvc7tsmwfhv4e14frhalcsrujzrhulviyswspuhnvdnobbfwnmh2efxun2ngz+qpgfiowjfw0wjxopj1js69174+ycqz0o7zbm3mzs0vlc4t2yura+sblc2tk5vkkkkbjjyr1yfrwjmatmaaw3uqgcqhh054ezapd+5akpaisz1miyjjqla+o0qbq1fx/ragtorhtlrk9ymbgzg1p473dbloqsdeqq0p+37z0dgtrpq0wxulco5th0t0dvmvujvmafxxukwoohktxuxjjxkaxsa05usprpfqicdsm8phzpuzgptqwzkarpgcxkccvahhhpeme+f+is0rghfu94mcxeon49b0mvvu1o/axpyv1s103wtyjtjmg6dth/ozxzrbk0rxxcrqzydgecqz2rxtgyij1sz322tg/v7xx9e+rdvq7svrtemvysyhhbsldpcltletnamwaiokhtaleknj69f6tcbw+7r1xipnttepwb+fqnqmnw==</latexit> <latexit sha1_base64="oxgzjk+e+isxlktcxtadpjbrmxs=">aaacqnicbvdltgixfo34xpgfunttsdsuyayiwi7ejutmregyqjrlgg2dzqttgmmej3phb7j0c1y4kbh1yrkmrtgttofk3hv7oh7emdko82itla+srq3nnuznre2d3fze/q0ky0mhsumeyrzpfhamokmz5tcojjda59dyr5ezeusepgkhunhjclobgqo2yjroy/xyhc+hirojhxat2cpexgzo0anie0ol8pzsvxabps+r1yqpdeak5lopoee2b6l/fvyvxzbmcvxxujkooaynxv7z64c0dkboyolsnwqkuwmrmleoe9ulfusejsgqokykeodqjmkge3xsnd4ehnisoxhq/pxiskduopbnp3nenvqszcz/ap1yd6rdhiko1ido/kjbzleo8sxq3gcsqozjiwivzlwv0zsicdumdttk4c7++k9oloq1ontdltsrwrg5diio0clyuqxv0rvqocai6bg9onc0tz6sn2tqfcxbl6xs5gd9gvx5bsb5pfk=</latexit> <latexit sha1_base64="oxgzjk+e+isxlktcxtadpjbrmxs=">aaacqnicbvdltgixfo34xpgfunttsdsuyayiwi7ejutmregyqjrlgg2dzqttgmmej3phb7j0c1y4kbh1yrkmrtgttofk3hv7oh7emdko82itla+srq3nnuznre2d3fze/q0ky0mhsumeyrzpfhamokmz5tcojjda59dyr5ezeusepgkhunhjclobgqo2yjroy/xyhc+hirojhxat2cpexgzo0anie0ol8pzsvxabps+r1yqpdeak5lopoee2b6l/fvyvxzbmcvxxujkooaynxv7z64c0dkboyolsnwqkuwmrmleoe9ulfusejsgqokykeodqjmkge3xsnd4ehnisoxhq/pxiskduopbnp3nenvqszcz/ap1yd6rdhiko1ido/kjbzleo8sxq3gcsqozjiwivzlwv0zsicdumdttk4c7++k9oloq1ontdltsrwrg5diio0clyuqxv0rvqocai6bg9onc0tz6sn2tqfcxbl6xs5gd9gvx5bsb5pfk=</latexit> <latexit sha1_base64="oxgzjk+e+isxlktcxtadpjbrmxs=">aaacqnicbvdltgixfo34xpgfunttsdsuyayiwi7ejutmregyqjrlgg2dzqttgmmej3phb7j0c1y4kbh1yrkmrtgttofk3hv7oh7emdko82itla+srq3nnuznre2d3fze/q0ky0mhsumeyrzpfhamokmz5tcojjda59dyr5ezeusepgkhunhjclobgqo2yjroy/xyhc+hirojhxat2cpexgzo0anie0ol8pzsvxabps+r1yqpdeak5lopoee2b6l/fvyvxzbmcvxxujkooaynxv7z64c0dkboyolsnwqkuwmrmleoe9ulfusejsgqokykeodqjmkge3xsnd4ehnisoxhq/pxiskduopbnp3nenvqszcz/ap1yd6rdhiko1ido/kjbzleo8sxq3gcsqozjiwivzlwv0zsicdumdttk4c7++k9oloq1ontdltsrwrg5diio0clyuqxv0rvqocai6bg9onc0tz6sn2tqfcxbl6xs5gd9gvx5bsb5pfk=</latexit> <latexit sha1_base64="oxgzjk+e+isxlktcxtadpjbrmxs=">aaacqnicbvdltgixfo34xpgfunttsdsuyayiwi7ejutmregyqjrlgg2dzqttgmmej3phb7j0c1y4kbh1yrkmrtgttofk3hv7oh7emdko82itla+srq3nnuznre2d3fze/q0ky0mhsumeyrzpfhamokmz5tcojjda59dyr5ezeusepgkhunhjclobgqo2yjroy/xyhc+hirojhxat2cpexgzo0anie0ol8pzsvxabps+r1yqpdeak5lopoee2b6l/fvyvxzbmcvxxujkooaynxv7z64c0dkboyolsnwqkuwmrmleoe9ulfusejsgqokykeodqjmkge3xsnd4ehnisoxhq/pxiskduopbnp3nenvqszcz/ap1yd6rdhiko1ido/kjbzleo8sxq3gcsqozjiwivzlwv0zsicdumdttk4c7++k9oloq1ontdltsrwrg5diio0clyuqxv0rvqocai6bg9onc0tz6sn2tqfcxbl6xs5gd9gvx5bsb5pfk=</latexit> Negyedik súly módosítás Tanító minta: i4 i1: (1,1,0,0) i2: (0,0,0,1) 1. egység súlyai: i3: (1,0,0,0) d 2 =(0.08-0) 2 +(0.24-0) 2 +(0.2-1) 2 +(0.96-1) 2 =0.71 i4: (0,0,1,1) 2. egység súlyai: d 2 =(0.97-0) 2 +(0.30-0) 2 +(0.11-1) 2 +(0.05-1) 2 =2.73 1. egység: 2. egység: apple 0.08 0.24 0.2 0.96 0.97 0.30 0.11 0.05 Az 1. egység nyer A nyertes egység súlyait módosítjuk Új súlyok: [0.08 0.24 0.2 0.96]+0.6([0 0 1 1]-[0.08 0.24 0.2 0.96])=[0.03 0.10 0.68 0.98] 1. egység: 2. egység: apple 0.03 0.10 0.68 0.98 0.97 0.30 0.11 0.05

<latexit sha1_base64="r6jobj2ivmkpnxhx84i8tnxpfnw=">aaacm3icbvbns8naen34wenx1koxxaj4coko1lvbiwcpfawtnkvsttn26wytdjdicf1thvwf3hs8wlz6h9ymvbt1wsyp92bymrcmncntea/wwuls8spqyc1e39jc2nz2du9uneokvrrzwnzdooazavxnnid6iofeiyda2l8c+7v7kirf4lypemhgpctyh1gijdryromqukxkyus0za9dgxt4+ghs7pl5fdfdqzaby/ot58woqlr/hlto0xo9hhie+fnsrfnuws5z0i5pgohqlbolgqvenzminamchnaqkkgi7zmunawvjalvzpkjh/jqkg3ciaupoxgu/p7isktuiapnp1mvp2a9sfif10h1p9tmmehsdyjopuqkhosyjxpebsabaj4whfdjzk6y9ogkvjucbzobp3vxpkmeubeuf3naljemyrtqpjpax8hh56imrlafvrffj+gfvaor9ws9wspry9k6ye1n9tafwj9fx+wibg==</latexit> <latexit sha1_base64="r6jobj2ivmkpnxhx84i8tnxpfnw=">aaacm3icbvbns8naen34wenx1koxxaj4coko1lvbiwcpfawtnkvsttn26wytdjdicf1thvwf3hs8wlz6h9ymvbt1wsyp92bymrcmncntea/wwuls8spqyc1e39jc2nz2du9uneokvrrzwnzdooazavxnnid6iofeiyda2l8c+7v7kirf4lypemhgpctyh1gijdryromqukxkyus0za9dgxt4+ghs7pl5fdfdqzaby/ot58woqlr/hlto0xo9hhie+fnsrfnuws5z0i5pgohqlbolgqvenzminamchnaqkkgi7zmunawvjalvzpkjh/jqkg3ciaupoxgu/p7isktuiapnp1mvp2a9sfif10h1p9tmmehsdyjopuqkhosyjxpebsabaj4whfdjzk6y9ogkvjucbzobp3vxpkmeubeuf3naljemyrtqpjpax8hh56imrlafvrffj+gfvaor9ws9wspry9k6ye1n9tafwj9fx+wibg==</latexit> <latexit sha1_base64="r6jobj2ivmkpnxhx84i8tnxpfnw=">aaacm3icbvbns8naen34wenx1koxxaj4coko1lvbiwcpfawtnkvsttn26wytdjdicf1thvwf3hs8wlz6h9ymvbt1wsyp92bymrcmncntea/wwuls8spqyc1e39jc2nz2du9uneokvrrzwnzdooazavxnnid6iofeiyda2l8c+7v7kirf4lypemhgpctyh1gijdryromqukxkyus0za9dgxt4+ghs7pl5fdfdqzaby/ot58woqlr/hlto0xo9hhie+fnsrfnuws5z0i5pgohqlbolgqvenzminamchnaqkkgi7zmunawvjalvzpkjh/jqkg3ciaupoxgu/p7isktuiapnp1mvp2a9sfif10h1p9tmmehsdyjopuqkhosyjxpebsabaj4whfdjzk6y9ogkvjucbzobp3vxpkmeubeuf3naljemyrtqpjpax8hh56imrlafvrffj+gfvaor9ws9wspry9k6ye1n9tafwj9fx+wibg==</latexit> <latexit sha1_base64="r6jobj2ivmkpnxhx84i8tnxpfnw=">aaacm3icbvbns8naen34wenx1koxxaj4coko1lvbiwcpfawtnkvsttn26wytdjdicf1thvwf3hs8wlz6h9ymvbt1wsyp92bymrcmncntea/wwuls8spqyc1e39jc2nz2du9uneokvrrzwnzdooazavxnnid6iofeiyda2l8c+7v7kirf4lypemhgpctyh1gijdryromqukxkyus0za9dgxt4+ghs7pl5fdfdqzaby/ot58woqlr/hlto0xo9hhie+fnsrfnuws5z0i5pgohqlbolgqvenzminamchnaqkkgi7zmunawvjalvzpkjh/jqkg3ciaupoxgu/p7isktuiapnp1mvp2a9sfif10h1p9tmmehsdyjopuqkhosyjxpebsabaj4whfdjzk6y9ogkvjucbzobp3vxpkmeubeuf3naljemyrtqpjpax8hh56imrlafvrffj+gfvaor9ws9wspry9k6ye1n9tafwj9fx+wibg==</latexit> Tovább folytatva idő (t) 1 2 3 4 D(t) η(t) 1 2. egység 0 0.6 2 1. egység 0 0.6 3 2. egység 0 0.6 4 1. egység 0 0.6 Számos iteráció után: 1. egység: 2. egység: apple 0 0 0.5 1.0 1.0 0.5 0 0 Azt a klaszterezési eredményt kaptuk, amit vártunk?

<latexit sha1_base64="r6jobj2ivmkpnxhx84i8tnxpfnw=">aaacm3icbvbns8naen34wenx1koxxaj4coko1lvbiwcpfawtnkvsttn26wytdjdicf1thvwf3hs8wlz6h9ymvbt1wsyp92bymrcmncntea/wwuls8spqyc1e39jc2nz2du9uneokvrrzwnzdooazavxnnid6iofeiyda2l8c+7v7kirf4lypemhgpctyh1gijdryromqukxkyus0za9dgxt4+ghs7pl5fdfdqzaby/ot58woqlr/hlto0xo9hhie+fnsrfnuws5z0i5pgohqlbolgqvenzminamchnaqkkgi7zmunawvjalvzpkjh/jqkg3ciaupoxgu/p7isktuiapnp1mvp2a9sfif10h1p9tmmehsdyjopuqkhosyjxpebsabaj4whfdjzk6y9ogkvjucbzobp3vxpkmeubeuf3naljemyrtqpjpax8hh56imrlafvrffj+gfvaor9ws9wspry9k6ye1n9tafwj9fx+wibg==</latexit> <latexit sha1_base64="r6jobj2ivmkpnxhx84i8tnxpfnw=">aaacm3icbvbns8naen34wenx1koxxaj4coko1lvbiwcpfawtnkvsttn26wytdjdicf1thvwf3hs8wlz6h9ymvbt1wsyp92bymrcmncntea/wwuls8spqyc1e39jc2nz2du9uneokvrrzwnzdooazavxnnid6iofeiyda2l8c+7v7kirf4lypemhgpctyh1gijdryromqukxkyus0za9dgxt4+ghs7pl5fdfdqzaby/ot58woqlr/hlto0xo9hhie+fnsrfnuws5z0i5pgohqlbolgqvenzminamchnaqkkgi7zmunawvjalvzpkjh/jqkg3ciaupoxgu/p7isktuiapnp1mvp2a9sfif10h1p9tmmehsdyjopuqkhosyjxpebsabaj4whfdjzk6y9ogkvjucbzobp3vxpkmeubeuf3naljemyrtqpjpax8hh56imrlafvrffj+gfvaor9ws9wspry9k6ye1n9tafwj9fx+wibg==</latexit> <latexit sha1_base64="r6jobj2ivmkpnxhx84i8tnxpfnw=">aaacm3icbvbns8naen34wenx1koxxaj4coko1lvbiwcpfawtnkvsttn26wytdjdicf1thvwf3hs8wlz6h9ymvbt1wsyp92bymrcmncntea/wwuls8spqyc1e39jc2nz2du9uneokvrrzwnzdooazavxnnid6iofeiyda2l8c+7v7kirf4lypemhgpctyh1gijdryromqukxkyus0za9dgxt4+ghs7pl5fdfdqzaby/ot58woqlr/hlto0xo9hhie+fnsrfnuws5z0i5pgohqlbolgqvenzminamchnaqkkgi7zmunawvjalvzpkjh/jqkg3ciaupoxgu/p7isktuiapnp1mvp2a9sfif10h1p9tmmehsdyjopuqkhosyjxpebsabaj4whfdjzk6y9ogkvjucbzobp3vxpkmeubeuf3naljemyrtqpjpax8hh56imrlafvrffj+gfvaor9ws9wspry9k6ye1n9tafwj9fx+wibg==</latexit> <latexit sha1_base64="r6jobj2ivmkpnxhx84i8tnxpfnw=">aaacm3icbvbns8naen34wenx1koxxaj4coko1lvbiwcpfawtnkvsttn26wytdjdicf1thvwf3hs8wlz6h9ymvbt1wsyp92bymrcmncntea/wwuls8spqyc1e39jc2nz2du9uneokvrrzwnzdooazavxnnid6iofeiyda2l8c+7v7kirf4lypemhgpctyh1gijdryromqukxkyus0za9dgxt4+ghs7pl5fdfdqzaby/ot58woqlr/hlto0xo9hhie+fnsrfnuws5z0i5pgohqlbolgqvenzminamchnaqkkgi7zmunawvjalvzpkjh/jqkg3ciaupoxgu/p7isktuiapnp1mvp2a9sfif10h1p9tmmehsdyjopuqkhosyjxpebsabaj4whfdjzk6y9ogkvjucbzobp3vxpkmeubeuf3naljemyrtqpjpax8hh56imrlafvrffj+gfvaor9ws9wspry9k6ye1n9tafwj9fx+wibg==</latexit> Tanító minták: i1: (1,1,0,0) i2: (0,0,0,1) i3: (1,0,0,0) i4: (0,0,1,1) Bemeneti egységek Kimeneti egységek 1 2 Súlyok: 1. egység: apple 0 0 0.5 1.0 2. egység: 1.0 0.5 0 0 Melyik klaszterbe kerülnek a tanító minták?

<latexit sha1_base64="r6jobj2ivmkpnxhx84i8tnxpfnw=">aaacm3icbvbns8naen34wenx1koxxaj4coko1lvbiwcpfawtnkvsttn26wytdjdicf1thvwf3hs8wlz6h9ymvbt1wsyp92bymrcmncntea/wwuls8spqyc1e39jc2nz2du9uneokvrrzwnzdooazavxnnid6iofeiyda2l8c+7v7kirf4lypemhgpctyh1gijdryromqukxkyus0za9dgxt4+ghs7pl5fdfdqzaby/ot58woqlr/hlto0xo9hhie+fnsrfnuws5z0i5pgohqlbolgqvenzminamchnaqkkgi7zmunawvjalvzpkjh/jqkg3ciaupoxgu/p7isktuiapnp1mvp2a9sfif10h1p9tmmehsdyjopuqkhosyjxpebsabaj4whfdjzk6y9ogkvjucbzobp3vxpkmeubeuf3naljemyrtqpjpax8hh56imrlafvrffj+gfvaor9ws9wspry9k6ye1n9tafwj9fx+wibg==</latexit> <latexit sha1_base64="r6jobj2ivmkpnxhx84i8tnxpfnw=">aaacm3icbvbns8naen34wenx1koxxaj4coko1lvbiwcpfawtnkvsttn26wytdjdicf1thvwf3hs8wlz6h9ymvbt1wsyp92bymrcmncntea/wwuls8spqyc1e39jc2nz2du9uneokvrrzwnzdooazavxnnid6iofeiyda2l8c+7v7kirf4lypemhgpctyh1gijdryromqukxkyus0za9dgxt4+ghs7pl5fdfdqzaby/ot58woqlr/hlto0xo9hhie+fnsrfnuws5z0i5pgohqlbolgqvenzminamchnaqkkgi7zmunawvjalvzpkjh/jqkg3ciaupoxgu/p7isktuiapnp1mvp2a9sfif10h1p9tmmehsdyjopuqkhosyjxpebsabaj4whfdjzk6y9ogkvjucbzobp3vxpkmeubeuf3naljemyrtqpjpax8hh56imrlafvrffj+gfvaor9ws9wspry9k6ye1n9tafwj9fx+wibg==</latexit> <latexit sha1_base64="r6jobj2ivmkpnxhx84i8tnxpfnw=">aaacm3icbvbns8naen34wenx1koxxaj4coko1lvbiwcpfawtnkvsttn26wytdjdicf1thvwf3hs8wlz6h9ymvbt1wsyp92bymrcmncntea/wwuls8spqyc1e39jc2nz2du9uneokvrrzwnzdooazavxnnid6iofeiyda2l8c+7v7kirf4lypemhgpctyh1gijdryromqukxkyus0za9dgxt4+ghs7pl5fdfdqzaby/ot58woqlr/hlto0xo9hhie+fnsrfnuws5z0i5pgohqlbolgqvenzminamchnaqkkgi7zmunawvjalvzpkjh/jqkg3ciaupoxgu/p7isktuiapnp1mvp2a9sfif10h1p9tmmehsdyjopuqkhosyjxpebsabaj4whfdjzk6y9ogkvjucbzobp3vxpkmeubeuf3naljemyrtqpjpax8hh56imrlafvrffj+gfvaor9ws9wspry9k6ye1n9tafwj9fx+wibg==</latexit> <latexit sha1_base64="r6jobj2ivmkpnxhx84i8tnxpfnw=">aaacm3icbvbns8naen34wenx1koxxaj4coko1lvbiwcpfawtnkvsttn26wytdjdicf1thvwf3hs8wlz6h9ymvbt1wsyp92bymrcmncntea/wwuls8spqyc1e39jc2nz2du9uneokvrrzwnzdooazavxnnid6iofeiyda2l8c+7v7kirf4lypemhgpctyh1gijdryromqukxkyus0za9dgxt4+ghs7pl5fdfdqzaby/ot58woqlr/hlto0xo9hhie+fnsrfnuws5z0i5pgohqlbolgqvenzminamchnaqkkgi7zmunawvjalvzpkjh/jqkg3ciaupoxgu/p7isktuiapnp1mvp2a9sfif10h1p9tmmehsdyjopuqkhosyjxpebsabaj4whfdjzk6y9ogkvjucbzobp3vxpkmeubeuf3naljemyrtqpjpax8hh56imrlafvrffj+gfvaor9ws9wspry9k6ye1n9tafwj9fx+wibg==</latexit> Megoldás Tanító minták: i1: (1,1,0,0) i2: (0,0,0,1) i3: (1,0,0,0) Bemeneti egységek Kimeneti egységek 1 2 Súlyok: 1. egység: 2. egység: apple 0 0 0.5 1.0 1.0 0.5 0 0 i4: (0,0,1,1) i1: távolság az 1. egység súlyaitól: (1-0) 2+(1-0) 2 +(0-0.5) 2 +(0-1) 2 =3.25 i1: távolság az 2. egység súlyaitól: (1-1) 2+(1-0.5) 2 +(0-0) 2 +(0-0) 2 =0.25 (győztes) i2: távolság az 1. egység súlyaitól: (0-0) 2+(0-0) 2 +(0-0.5) 2 +(1-1) 2 =0.25 (győztes) i2: távolság az 2. egység súlyaitól: (0-1) 2+(0-0.5) 2 +(0-0) 2 +(1-0) 2 =2.25 i3: távolság az 1. egység súlyaitól: (1-0) 2+(0-0) 2 +(0-0.5) 2 +(0-1) 2 =2.25 i3: távolság az 2. egység súlyaitól: (1-1) 2+(0-0.5) 2 +(0-0) 2 +(0-0) 2 =0.25 (győztes) i4: távolság az 1. egység súlyaitól: (0-0) 2 +(0-0) 2 +(1-0.5) 2 +(1-1) 2 =0.25 (győztes) i4: távolság az 2. egység súlyaitól: (0-1) 2 +(0-0.5) 2 +(1-0) 2 +(1-0) 2 =3.25

<latexit sha1_base64="r6jobj2ivmkpnxhx84i8tnxpfnw=">aaacm3icbvbns8naen34wenx1koxxaj4coko1lvbiwcpfawtnkvsttn26wytdjdicf1thvwf3hs8wlz6h9ymvbt1wsyp92bymrcmncntea/wwuls8spqyc1e39jc2nz2du9uneokvrrzwnzdooazavxnnid6iofeiyda2l8c+7v7kirf4lypemhgpctyh1gijdryromqukxkyus0za9dgxt4+ghs7pl5fdfdqzaby/ot58woqlr/hlto0xo9hhie+fnsrfnuws5z0i5pgohqlbolgqvenzminamchnaqkkgi7zmunawvjalvzpkjh/jqkg3ciaupoxgu/p7isktuiapnp1mvp2a9sfif10h1p9tmmehsdyjopuqkhosyjxpebsabaj4whfdjzk6y9ogkvjucbzobp3vxpkmeubeuf3naljemyrtqpjpax8hh56imrlafvrffj+gfvaor9ws9wspry9k6ye1n9tafwj9fx+wibg==</latexit> <latexit sha1_base64="r6jobj2ivmkpnxhx84i8tnxpfnw=">aaacm3icbvbns8naen34wenx1koxxaj4coko1lvbiwcpfawtnkvsttn26wytdjdicf1thvwf3hs8wlz6h9ymvbt1wsyp92bymrcmncntea/wwuls8spqyc1e39jc2nz2du9uneokvrrzwnzdooazavxnnid6iofeiyda2l8c+7v7kirf4lypemhgpctyh1gijdryromqukxkyus0za9dgxt4+ghs7pl5fdfdqzaby/ot58woqlr/hlto0xo9hhie+fnsrfnuws5z0i5pgohqlbolgqvenzminamchnaqkkgi7zmunawvjalvzpkjh/jqkg3ciaupoxgu/p7isktuiapnp1mvp2a9sfif10h1p9tmmehsdyjopuqkhosyjxpebsabaj4whfdjzk6y9ogkvjucbzobp3vxpkmeubeuf3naljemyrtqpjpax8hh56imrlafvrffj+gfvaor9ws9wspry9k6ye1n9tafwj9fx+wibg==</latexit> <latexit sha1_base64="r6jobj2ivmkpnxhx84i8tnxpfnw=">aaacm3icbvbns8naen34wenx1koxxaj4coko1lvbiwcpfawtnkvsttn26wytdjdicf1thvwf3hs8wlz6h9ymvbt1wsyp92bymrcmncntea/wwuls8spqyc1e39jc2nz2du9uneokvrrzwnzdooazavxnnid6iofeiyda2l8c+7v7kirf4lypemhgpctyh1gijdryromqukxkyus0za9dgxt4+ghs7pl5fdfdqzaby/ot58woqlr/hlto0xo9hhie+fnsrfnuws5z0i5pgohqlbolgqvenzminamchnaqkkgi7zmunawvjalvzpkjh/jqkg3ciaupoxgu/p7isktuiapnp1mvp2a9sfif10h1p9tmmehsdyjopuqkhosyjxpebsabaj4whfdjzk6y9ogkvjucbzobp3vxpkmeubeuf3naljemyrtqpjpax8hh56imrlafvrffj+gfvaor9ws9wspry9k6ye1n9tafwj9fx+wibg==</latexit> <latexit sha1_base64="r6jobj2ivmkpnxhx84i8tnxpfnw=">aaacm3icbvbns8naen34wenx1koxxaj4coko1lvbiwcpfawtnkvsttn26wytdjdicf1thvwf3hs8wlz6h9ymvbt1wsyp92bymrcmncntea/wwuls8spqyc1e39jc2nz2du9uneokvrrzwnzdooazavxnnid6iofeiyda2l8c+7v7kirf4lypemhgpctyh1gijdryromqukxkyus0za9dgxt4+ghs7pl5fdfdqzaby/ot58woqlr/hlto0xo9hhie+fnsrfnuws5z0i5pgohqlbolgqvenzminamchnaqkkgi7zmunawvjalvzpkjh/jqkg3ciaupoxgu/p7isktuiapnp1mvp2a9sfif10h1p9tmmehsdyjopuqkhosyjxpebsabaj4whfdjzk6y9ogkvjucbzobp3vxpkmeubeuf3naljemyrtqpjpax8hh56imrlafvrffj+gfvaor9ws9wspry9k6ye1n9tafwj9fx+wibg==</latexit> Megoldás Tanító minták: i1: (1,1,0,0) i2: (0,0,0,1) i3: (1,0,0,0) Bemeneti egységek Kimeneti egységek 1 2 Súlyok: 1. egység: 2. egység: apple 0 0 0.5 1.0 1.0 0.5 0 0 i4: (0,0,1,1) az i1 és i3 minták a 2. egységhez az i2 és i4 minták az 1. egységhez

Evolúciós algoritmusok

Evolúciós algoritmusok A soft computing (lágy számítási) módszerek három fő területének egyike Fuzzy rendszerek Neurális hálózatok Evolúciós algoritmusok Alapelvük a megoldások egy populációján történő keresés, melyet a biológiából megismert törvényszerűségek vezérelnek A populáció egyedei a feladat egy-egy megoldását jelentik A populáció fejlődik, egyre jobb egyedeket kapunk

A kezdetek Az ötlet, hogy használjunk szimulált evolúciót mérnöki és tervezési problémák megoldására az 1950-es években megjelenik már Az 1960-as években kialakul a három fő klasszikus terület: Evolúciós programozás (Lawrence Fogel, 1962), Genetikus algoritmusok (Holland, 1975) Evolúciós Stratégiák (Rechenberg, 1965 & Schwefel, 1968) Az egyes technikák kifejlesztői megmutatták, hogy a módszerük alkalmas a következő probléma típusok megoldására Fogel előrejelzési problémákkal foglalkozott Rechenberg & Schwefel paraméter optimalizációs problémákkal Holland robusztus adaptív rendszerek fejlesztésével

Optimalizációs módszerek Determinisztikus Calculus alapú Hegymászó módszer Sztochasztikus Véletlen keresés Szimulált lehűtés Evolúciós algoritmusok: sztochasztikus módszerek, melyek a természetes evolúció folyamatát szimulálják felhasználva a legalkalmasabb egyed túlélésének törvényét

Terminológia Gén: funkcionális entitás, mely az egyed egy speciális tulajdonságát kódolja (pl. hajszín) Allél: a gén értéke (pl. szőke) Egyed: kromoszóma, egy megoldás jelölt a problémára Genotípus: egy egyed alléljainak egy speciális kombinációja Fenotípus: az egyed külső-belső tulajdonságainak összessége Locus: egy gén pozíciója a kromoszómán belül Populáció: egyszerre együtt élő egyedek összessége

A populáció evolúciója Egyedek eloszlása a 0. generációban Egyedek eloszlása a N. generációban

Genetikus algoritmus kezdeti populáció létrehozása egyedek rangsorolása szelekció keresztezés mutáció visszahelyettesítés

Az egyed Az egyed egy megoldás jelölt a problémára A probléma egy lehetséges megoldása valamilyen formában az egyedbe van kódolva pl. bináris, vagy valós Fitnesz érték (alkalmassági érték): az egyedeket valamilyen kritérium szerint értékeljük ki, aszerint, hogy mennyire jó megoldást adnak a feladatra Jobb egyednek nagyobb a fitnesz értéke, és nagyobb eséllyel él túl

Szelekciós módszerek többféle kiválasztási módszer terjedt el minél jobb az egyed, annál nagyobb az esély a kiválasztására Rulett kerék szelekció: az egyedek a fitnesz értékükkel arányos szeletet kapnak a gurításnál a nagyobb fitnesz értékű egyedek nagyobb eséllyel választódnak ki

Keresztezés (Crossover) Véletlenszerű keresztezési pont kiválasztása a két szülőn Utódok létrehozása az információ kicserélődésével a keresztezési pont alapján

Mutáció Gén értékének véletlenszerű megváltoztatása p m valószínűséggel (mutációs arány)

Egy példa (Goldberg) Egyszerű probléma: x 2 maximumának megkeresése a {0,1,,31} alaphalmazon Genetikus algoritmussal: Reprezentáció: bináris, pl. 01101 13 Populáció méret: 4 Keresztezés, mutáció Rulett kerék szelekció Véletlenszerű inicializálás

Egy példa: szelekció

Egy példa: keresztezés

Egy példa: mutáció

Alternatív keresztezés operátorok n-pontos: uniform:

Valós GA Keresztezés például: szülők: x 1,,x n és y 1,,y n utód 1 : αx+(1-α)y a másik utódra felcserélve pl.: (α = 0.5) Mutáció: x= x 1,,x n x = x 1,,x n x i,x i [LB i,ub i ]

Bakteriális evolúciós algoritmusok Természetből ellesett optimalizációs technika A baktériumok evolúciós folyamatán alapul Alkalmas bonyolult optimalizációs problémák megoldására Egyed: egy megoldás a problémára Intelligens keresési stratégia eléggé jó megoldás keresésére (kvázi optimum) Gyors konvergencia (feltételesen)

Az algoritmus Kezdeti populáció véletlenszerű létrehozása n. generáció Bakteriális mutáció végrehajtása minden egyeden Génátadás végrehajtása a populációban Ha megfelelő eredményt értünk el, akkor megállunk, különben folytatjuk a bakteriális mutációs lépéssel (n+1). generáció

Bakteriális mutáció 1. rész i. rész n. rész Egy rész véletlenszerű kiválasztása Az i. részt változtatjuk az N klón számú másolatban, de az eredeti baktériumban nem A legjobb baktérium átadja az i. részt a többi baktériumnak Ismételjük addig, amíg az összes részt ki nem választottuk

Génátadás 1. A populációt 2 részre osztjuk, jó egyedekre, és rossz egyedekre 2. Egy baktériumot véletlenszerűen kiválasztunk a jobbik alpopulációból (forrásbaktérium) egy másikat pedig a rossz egyedek közül (célbaktérium) 3. A forrásbaktérium egy része felülírja a célbaktérium egy részét jó egyedek rossz egyedek Ez a ciklus ismétlődik N inf -szer ( infekciók száma)

Paraméterek N gen : generációk száma N ind : egyedek száma N klón : másolatok (klónok) száma a bakteriális mutációban N inf : génátadások (infekciók) száma a génátadásnál

Különbségek a GA és a BEA között A GA az emlősállatok evolúciós folyamatát utánozza, míg a BEA a baktériumok fejlődését Az információ terjesztésére a GA a keresztezés operátort használja, a BEA pedig a génátadást A bakteriális mutáció hatékonyabb a GA klasszikus mutációjánál A bakteriális evolúciós algoritmusban nincs szelekció, viszont van osztódás

Evolúciós elméletek Jean-Baptiste Lamarck A szerzett tulajdonságok öröklésének elmélete Ha egy organizmus változik az élete során, hogy ezáltal jobban adaptálódjon a környezetéhez, ezeket a változásokat továbbadja az utódainak Charles Darwin A szerzett tulajdonságok nem öröklődnek Az organizmus élete során bekövetkező változásai nincsenek hatással a faj fejlődésére James M. Baldwin Új faktor az evolúcióban A szerzett tulajdonságok indirekten öröklődhetnek

Memetikus algoritmusok Az evolúciós algoritmusoknak lokális kereső operátorokkal történő olyan kombinációja, ahol a lokális keresés az evolúciós cikluson belül zajlik A memetikus algoritmusokat Moscato javasolta (~1989) A lokális keresést élethosszig tartó tanulásnak lehet tekinteni Terminológia: mém = a kulturális evolúció alapegysége ( génje ) (Dawkins: Az önző gén, 1976) mimema : utánzás

Miért kombináljuk őket? Evolúciós algoritmusok Nagy, durva keresési teret járnak be Nehézségek a finomhangolással Lokális kereső technikák Gyorsan optimizálnak, konvergálnak Lokális optimumokba ragadnak Hátrányok: A tanulás költséges A tanulás nem mindig jó

Bakteriális memetikus algoritmus Kezdeti populáció véletlenszerű létrehozása Bakteriális mutáció végrehajtása minden egyeden Lokális keresés végrehajtása minden baktériumon Génátadás végrehajtása a populációban Ha megfelelő eredményt értünk el, akkor megállunk, különben folytatjuk a bakteriális mutációs lépéssel Bakteriális mutáció Lokális keresés Gén átadás n. generáció (n+1). generáció

Genetikus programozás John Koza (~1990) A genetikus programozás a genetikus algoritmusok alapötletét alkalmazza a lehetséges programok terére Különbözőnek tűnő problémák különböző területekről átfogalmazhatók egy számítógépes program-keresési feladattá

Egy számítógépes program

Egy számítógépes program C nyelven int foo (int time) { int temp1, temp2; if (time > 10) temp1 = 3; else temp1 = 4; temp2 = temp1 + 1 + 2; return (temp2); }

Program fa (+ 1 2 (IF (> TIME 10) 3 4))

Véletlen programok létrehozása Rendelkezésre álló függvények: pl. F = {+, -, *, %, IF} Rendelkezésre álló terminálisok: pl. T = {X, Y, konstansok} A véletlen programok: szintaktikailag érvényesek végrehajthatók A fák különböző méretűek és alakúak lehetnek

Genetikus operátorok a GP-ben Reprodukció Mutáció Keresztezés Reprodukció: szülő kiválasztása (fitness alapján) változatlan lemásolása a populáció következő generációjába

Mutáció 1 szülő kiválasztása (fitness alapján) A fa egy pontjának kiválasztása A kiválasztott pontnál lévő részfa törlése Új részfa növesztése a mutációs pontnál hasonló módon, mint a kezdeti véletlen fa létrehozásánál Az eredmény egy szintaktikailag érvényes, végrehajtható program legyen A leszármazott elhelyezése a populáció következő generációjába

Keresztezés 2 szülő kiválasztása (fitness alapján) Az első szülő fájában egy pont véletlen kiválasztása A második szülő fájában egy pont véletlen kiválasztása A két kiválasztott ponthoz tartozó részfák kicserélése Az eredmények szintaktikailag érvényes, végrehajtható programok legyenek A leszármazottak elhelyezése a populáció következő generációjába

Előkészítő lépések A terminálisok halmazának meghatározása A függvények halmazának meghatározása A fitness mérték meghatározása A futtatás paramétereinek meghatározása A megállási feltétel meghatározása

Egy példa Koza könyvéből: szimbolikus regresszió Független változó (X) Függő változó (Y) -1.00 1.00-0.80 0.84-0.60 0.76-0.40 0.76-0.20 0.84 0.00 1.00 0.20 1.24 0.40 1.56 0.60 1.96 0.80 2.44 1.00 3.00

Előkészítő lépések Cél: Találjunk egy egybemenetű (X független változó) számítógépes programot, amelynek a kimenete megegyezik a kívánt kimenettel. 1 Terminális halmaz: T={X, konstansok} 2 Függvény halmaz: F={+, -, *, %} 3 Fitness: A program kimenetei és a kívánt kimenetek közötti különbségek abszolútértékeinek összege. 4 Paraméterek: Populáció mérete: M=4 5 Megállási feltétel: Ha kialakul egy olyan egyed, amelynél az abszolút hibák összege kisebb, mint 0.1.

Szimbolikus regresszió (x 2 +x+1) 4 véletlenszerűen létrehozott egyed populációja (0. generáció):

Szimbolikus regresszió (x 2 +x+1) A 4 egyed fitness értéke a 0. generációban: x+1 x 2 +1 2 x 0.67 1.00 1.70 2.67

Szimbolikus regresszió (x 2 +x+1) 1. generáció: (c) mutánsa (a) és (b) keresztezésének első leszármazottja (a) és (b) keresztezésének második leszármazottja (a) másolata mutációs pont a 2 -nél keresztezési pont a + -nál (a) és a legbaloldalibb x -nél (b) keresztezési pont a + -nál (a) és a legbaloldalibb x -nél (b)

Néhány egyéb evolúciós módszer Többkritériumú genetikus algoritmus Többpopulációs genetikus algoritmus Hangyakolóniák Vírus alapú evolúciós algoritmus Ragadozó-zsákmány módszer Méhkirálynő evolúciós algoritmus Mesterséges immunrendszerek Részecske-raj optimalizáció...

Mi a számítási intelligencia? A számítási intelligencia technikák legfontosabb közös jellemzője, hogy képesek elfogadható szuboptimális, közelítő megoldást adni, miközben a számítási bonyolultságot kezelhető, általában alacsony fokú polinom szintjén tartják

A bakteriális memetikus algoritmus alkalmazása az utazó ügynök probléma megoldására Az utazó ügynök probléma (Traveling Salesman Problem, TSP) célja a legolcsóbb út megtalálása városok egy halmazában úgy, hogy minden várost pontosan egyszer látogatunk meg és végül a kiindulási pontba térünk vissza Az irodalomban a városok közötti költségek az euklideszi távolsággal vannak megadva, a probléma szimmetrikus, a költségek konstansok Nehéz probléma Módosítások az eredeti TSP-n, hogy a való élethez közelebb kerüljön

A módosított utazó ügynök probléma Egy várost nem csak egyszer lehet meglátogatni A valóságban vannak olyan városok, melyeknek csak egy csatlakozásuk van a többihez Egy hosszabb út (több várost tartalmazó túra) olcsóbb is lehet A városok közötti költségek nem állandóak Valósághű modell Egy városban meg is lehet állni, és később folytatni a túrát, ha így jobban megéri A városok közti költségek nem csak az időtől függenek, hanem fuzzy számokkal is vannak leírva, ezáltal modellezve az út költségének pontatlanságát

Bakteriális mutáció TSP esetén Paraméterek: szegmens hossz (ebben a példában 3) klónok száma (ebben a példában 4) 8 3 4 1 11 9 7 6 2 5 12 10 1. szegmens 2. szegmens 3. szegmens 4. szegmens Véletlenszerű mutációs szegmens-sorrend kialakítása pl.: {3. szegmens, 1. szegmens, 4. szegmens, 2. szegmens} (ez azt jelenti, hogy a bakteriális mutációt először a 3. szegmensen hajtjuk végre) Létrehozzuk a klónokat és az adott szegmenset megváltoztatjuk a klónokban 1. klón: 2. klón: 3. klón: 4. klón: 8 3 4 1 11 9 6 7 2 5 12 10 8 3 4 1 11 9 67 62 27 5 12 10 8 3 4 1 11 9 27 67 26 5 12 10 8 3 4 1 11 9 7 62 26 5 12 10 a legjobb klón kiválasztása

Bakteriális mutáció TSP esetén A szegmensnek nem muszáj egymás melletti elemekből állni: 8 3 4 1 11 9 7 6 2 5 12 10 1. szegmens A módosított TSP-ben a városok száma nincs előre meghatározva, ezért különböző hosszúságú egyedek is előfordulhatnak a populációban. A módosított TSP-ben egy klón mutációja előtt véletlenszerűen döntünk a klón hosszának megváltoztatásáról.

Génátadás TSP esetén Paraméterek: szegmens hossz (ebben a példában 3) infekciók száma Forrásbaktérium: 4 5 8 10 11 2 7 6 9 3 12 1 Célbaktérium a génátadás előtt: 3 7 4 2 11 10 5 8 9 6 1 12 Célbaktérium a génátadás után: 3 4 2 11 7 6 9 10 5 8 1 12

Lokális keresés 2-opt: A C A C 1. 2. D B D B Lehetséges élpárak cseréje: AB + CD > AC + BD 3-opt: B A B A B A 1. 2. 3. E D E D E D F C F C F C Lehetséges élhármasok cseréje: A legjobbat kiválasztjuk.

További lehetőségek Determinisztikus egyedek a kezdeti populációban Útkonstrukciós heurisztikák Legközelebbi szomszéd Második legközelebbi szomszéd Alternáló Determinisztikus klón a bakteriális mutációban A klónokban az adott szegmens véletlenszerűen változik, de az egyik klónban determinisztikusan változtatjuk, megfordítjuk a városok sorrendjét az adott szegmensben

Szimulációs eredmény Klasszikus TSP Referencia probléma 131 várossal (www.tsp.gatech.edu, XQF131 ) Optimális megoldás: teljes költség =564