Mit látnak a robotok? Bányai Mihály Matemorfózis, 2017.

Átírás

1 Mit látnak a robotok? Bányai Mihály Matemorfózis, 2017.

2 Vizuális feldolgozórendszerek feladatai

3 Mesterséges intelligencia és idegtudomány

4 Mesterséges intelligencia és idegtudomány Párhuzamos problémák

5 Mesterséges intelligencia és idegtudomány Párhuzamos problémák MI: hogyan lehet leghatékonyabban megoldani?

6 Mesterséges intelligencia és idegtudomány Párhuzamos problémák MI: hogyan lehet leghatékonyabban megoldani? Idegtudomány: hogyan oldja meg az agy?

7 Mesterséges intelligencia és idegtudomány Párhuzamos problémák MI: hogyan lehet leghatékonyabban megoldani? Idegtudomány: hogyan oldja meg az agy? a hatékonyság a biológiai rendszereknél is fontos szempont

8 Mesterséges intelligencia és idegtudomány Párhuzamos problémák MI: hogyan lehet leghatékonyabban megoldani? Idegtudomány: hogyan oldja meg az agy? a hatékonyság a biológiai rendszereknél is fontos szempont Ötletek áramolnak mindkét irányba

9 Mi a látórendszer feladata?

10 Mi a látórendszer feladata?

11 Mi a látórendszer feladata?

12 Mi a látórendszer feladata?

13 Mi a látórendszer feladata?

14 Mi a látórendszer feladata? Objetumfelismerés, besorolás

15 Mi a látórendszer feladata? Objetumfelismerés, besorolás Tömörítés, memóriában tároláshoz

16 Mi a látórendszer feladata? Objetumfelismerés, besorolás Tömörítés, memóriában tároláshoz Képek generálása, elképzelése

17 A képek szerkezete Kompozicionalitás

18 A képek szerkezete Kompozicionalitás alapvető képelemek kombinációiból állnak elő az összetettebbek

19 A képek szerkezete Kompozicionalitás alapvető képelemek kombinációiból állnak elő az összetettebbek élek -> formák -> objektumok -> szituációk

20 A képek szerkezete Kompozicionalitás? alapvető képelemek kombinációiból állnak elő az összetettebbek? élek -> formák -> objektumok -> szituációk Thalamus Retina

21

22 A mesterséges neurális hálózatok kialakulása és működése

23 logikai eredmények Az MI kezdetei

24 logikai eredmények Az MI kezdetei digitális számítógép

25 logikai eredmények Az MI kezdetei digitális számítógép idegrendszeri mérések

26 Az MI kezdetei logikai eredmények kibernetika digitális számítógép idegrendszeri mérések

27 Az MI kezdetei logikai eredmények kibernetika digitális számítógép idegrendszeri mérések mesterséges idegsejt

28 Mesterséges neuron súlyok bemenetek x1 x2 x3 küszöb θ kimenet: -1,+1 xn bemenetek súlyozott összegét egy küszöbhöz hasonlítjuk

29 Mesterséges neuron súlyok bemenetek x1 x2 x3 küszöb θ kimenet: -1,+1 xn bemenetek súlyozott összegét egy küszöbhöz hasonlítjuk kétféle kimenet - a bemeneti kombinációk bináris osztályozása

30 Mesterséges neuron súlyok bemenetek x1 x2 x3 küszöb θ kimenet: -1,+1 xn bemenetek súlyozott összegét egy küszöbhöz hasonlítjuk kétféle kimenet - a bemeneti kombinációk bináris osztályozása lineáris szétválasztás

31 Mesterséges neuron súlyok bemenetek x1 x2 x3 küszöb θ kimenet: -1,+1 xn bemenetek súlyozott összegét egy küszöbhöz hasonlítjuk kétféle kimenet - a bemeneti kombinációk bináris osztályozása lineáris szétválasztás = x 1 w 1 + x 2 w 2 x 2 = w 1 w 2 x 1 + w 2

32 Logikai műveletek mesterséges idegsejttel

33 Logikai műveletek mesterséges idegsejttel

34 Első MI-tél A túlzott lelkesedés a 70-es évekre kiábrándulást eredményez

35 Első MI-tél A túlzott lelkesedés a 70-es évekre kiábrándulást eredményez Nyárra feladott házi feladat a 60-as évekből: olyan programot írni, ami felismeri, hogy milyen tárgy van egy képen

36 Első MI-tél A túlzott lelkesedés a 70-es évekre kiábrándulást eredményez Nyárra feladott házi feladat a 60-as évekből: olyan programot írni, ami felismeri, hogy milyen tárgy van egy képen nem jött össze

37 Első MI-tél A túlzott lelkesedés a 70-es évekre kiábrándulást eredményez Nyárra feladott házi feladat a 60-as évekből: olyan programot írni, ami felismeri, hogy milyen tárgy van egy képen nem jött össze Lineárisan nem szeparálható problémák hatékony kezelése problémás volt

38 Kizáró vagy megoldása

39 Kizáró vagy megoldása

40 Többrétegű neurális hálózat

41 A megfelelő súlyértékek keresése adott adathalmazon a hálózat a súlyainak egy beállításával vét valamennyi hibát

42 A megfelelő súlyértékek keresése adott adathalmazon a hálózat a súlyainak egy beállításával vét valamennyi hibát azokat a súlyértékeket keressük, amelyekre ez a hiba a legkisebb

43 A megfelelő súlyértékek keresése adott adathalmazon a hálózat a súlyainak egy beállításával vét valamennyi hibát azokat a súlyértékeket keressük, amelyekre ez a hiba a legkisebb a sok súly együttes beállítása nehéz optimalizálási feladat

44 A megfelelő súlyértékek keresése adott adathalmazon a hálózat a súlyainak egy beállításával vét valamennyi hibát azokat a súlyértékeket keressük, amelyekre ez a hiba a legkisebb a sok súly együttes beállítása nehéz optimalizálási feladat van algoritmus közelítő megoldás keresésére

45 Problémák tanulórendszerekben Különféle hibák kiegyensúlyozása Strukturális hiba: a modell optimális paraméterekkel is eltérhet a közelítő függvénytől (pl legjobban illeszkedő polinom szinuszfüggvényből származó adatra) Közelítési hiba: a paraméterek pontos hangolásához végtelen adatra lehet szükség

46 Problémák tanulórendszerekben Különféle hibák kiegyensúlyozása Strukturális hiba: a modell optimális paraméterekkel is eltérhet a közelítő függvénytől (pl legjobban illeszkedő polinom szinuszfüggvényből származó adatra) Közelítési hiba: a paraméterek pontos hangolásához végtelen adatra lehet szükség Pontosság vs. általánosítás A sokparaméteres modellek jól illeszkednek a meglévő adatra, de rosszul általánosítanak A magyarázó képességük is kisebb (lehet): Ockham borotvája

47 A második tél A 90-es évekre a súlytanuló algoritmusok erőforráskorlátokba futnak

48 A második tél A 90-es évekre a súlytanuló algoritmusok erőforráskorlátokba futnak számítási kapacitás

49 A második tél A 90-es évekre a súlytanuló algoritmusok erőforráskorlátokba futnak számítási kapacitás adatmennyiség

50 A második tél A 90-es évekre a súlytanuló algoritmusok erőforráskorlátokba futnak számítási kapacitás adatmennyiség Csak egy kanadai ügynökség ad neurális hálózatokra pénzt

51 A deep learning alkalmazásai vizuális feldolgozásra

52 Deep learning és képosztályozás A deep learning többrétegű neuronhálózatok súlyainak optimalizációja

53 Deep learning és képosztályozás A deep learning többrétegű neuronhálózatok súlyainak optimalizációja Ugyanaz, mint a 80-as években, jobb számítógépeken, több adattal és valamelyest fejlesztett algoritmusokkal

54 Deep learning és képosztályozás A deep learning többrétegű neuronhálózatok súlyainak optimalizációja Ugyanaz, mint a 80-as években, jobb számítógépeken, több adattal és valamelyest fejlesztett algoritmusokkal tipikus feladat: képek besorolása kategóriákba

55 Deep learninggel tanult képelemek

56 Konvolúciós háló Térbeli elhelyezkedésre érzéketlen elemzési és térbeli összegzési lépések ismétlődése

57 Tanult elemekből generált kép

58

59 Szemantikai elemzés

60 Stílus és tartalom dekomponálása

61 Tömörítés neurális hálózattal

62 Tömörítés neurális hálózattal

63 Rajz struktúrájának tanulása

64 Generatív és klasszifikációs hálózatok egymás ellen tanítva

65 Szövegből kép generálása

66 Létezik-e általános célú MI?

67 Optimális döntések tanulása neurális hálózattal Gerald Tesauro: TD- Gammon Többrétegű neuronhálózat

68 Optimális döntések tanulása neurális hálózattal Gerald Tesauro: TD- Gammon Többrétegű neuronhálózat Bemenet: a lehetséges lépések nyomán elért állapotok

69 Optimális döntések tanulása neurális hálózattal Gerald Tesauro: TD- Gammon Többrétegű neuronhálózat Bemenet: a lehetséges lépések nyomán elért állapotok Kimenet: a nyerés valószínűsége az adott állapotból

70 Optimális döntések tanulása neurális hálózattal Gerald Tesauro: TD- Gammon Többrétegű neuronhálózat Bemenet: a lehetséges lépések nyomán elért állapotok Kimenet: a nyerés valószínűsége az adott állapotból Ez alapján ki lehet választani, hogy melyik állapotba szeretnénk kerülni

71 Optimális döntések tanulása neurális hálózattal Gerald Tesauro: TD- Gammon Többrétegű neuronhálózat Bemenet: a lehetséges lépések nyomán elért állapotok Kimenet: a nyerés valószínűsége az adott állapotból Ez alapján ki lehet választani, hogy melyik állapotba szeretnénk kerülni

72 Számítógépes játékok tanulása Mnih et al, 2015

73 Mozgás tanulása

74 34

75 ?

76 Hogyan segítik az MI alkalmazások az agy megértését?

77 Hasonlóságok az agy vizuális rendszerével Thalamus Retina??

78 Különbözőségek a mesterséges és természetes neuronhálók között a deep learning hálózatokban általában egyirányú a feldolgozás, az agyban vannak visszacsatolások a súlyok beállításához használt algoritmus által megkövetelt információáramlás neurális megfelelőjét nem ismerjük

79 Neurális aktivitás predikciója konvolúciós hálókkal Yamins et al, 2014 Az agy objektumfelismerésben résztvevő neuronjainak átlagos aktivitását prediktáljuk a mesterséges háló mélyebb rétegeinek aktivációjával

80 Neurális aktivitás predikciója konvolúciós hálókkal Yamins et al, 2014 Az agy objektumfelismerésben résztvevő neuronjainak átlagos aktivitását prediktáljuk a mesterséges háló mélyebb rétegeinek aktivációjával Minél jobban teljesít a hálózat az objektumfelismerésben, annál jobban prediktálja a neurális aktivitást Prediktált neurális aktivitás Objektumfelismerési teljesítmény

81 Összefoglalás A mesterséges és természetes látórendszerek feladatai azonosak

82 Összefoglalás A mesterséges és természetes látórendszerek feladatai azonosak Az adatok legfontosabb tulajdonsága a kompozicionalitás

83 Összefoglalás A mesterséges és természetes látórendszerek feladatai azonosak Az adatok legfontosabb tulajdonsága a kompozicionalitás A rétegzett neurális hálózatok ezt használják ki

84 Összefoglalás A mesterséges és természetes látórendszerek feladatai azonosak Az adatok legfontosabb tulajdonsága a kompozicionalitás A rétegzett neurális hálózatok ezt használják ki A deep learning modellek jól teljesítenek képklasszifikációban, de alkalmasak képgenerálásra, tömörítésre is

85 Összefoglalás A mesterséges és természetes látórendszerek feladatai azonosak Az adatok legfontosabb tulajdonsága a kompozicionalitás A rétegzett neurális hálózatok ezt használják ki A deep learning modellek jól teljesítenek képklasszifikációban, de alkalmasak képgenerálásra, tömörítésre is Sok specifikus problémára adnak jó megoldást a legújabb módszerek

86 Összefoglalás A mesterséges és természetes látórendszerek feladatai azonosak Az adatok legfontosabb tulajdonsága a kompozicionalitás A rétegzett neurális hálózatok ezt használják ki A deep learning modellek jól teljesítenek képklasszifikációban, de alkalmasak képgenerálásra, tömörítésre is Sok specifikus problémára adnak jó megoldást a legújabb módszerek Lehet optimális cselekvéseket is tanulni neurális hálózatokkal

87 Összefoglalás A mesterséges és természetes látórendszerek feladatai azonosak Az adatok legfontosabb tulajdonsága a kompozicionalitás A rétegzett neurális hálózatok ezt használják ki A deep learning modellek jól teljesítenek képklasszifikációban, de alkalmasak képgenerálásra, tömörítésre is Sok specifikus problémára adnak jó megoldást a legújabb módszerek Lehet optimális cselekvéseket is tanulni neurális hálózatokkal De általános célú MI jelenleg nincs

88 Összefoglalás A mesterséges és természetes látórendszerek feladatai azonosak Az adatok legfontosabb tulajdonsága a kompozicionalitás A rétegzett neurális hálózatok ezt használják ki A deep learning modellek jól teljesítenek képklasszifikációban, de alkalmasak képgenerálásra, tömörítésre is Sok specifikus problémára adnak jó megoldást a legújabb módszerek Lehet optimális cselekvéseket is tanulni neurális hálózatokkal De általános célú MI jelenleg nincs Bár a mesterséges neuronhálók csak nagyon közvetetten merítenek ötletet biológiai rendszerekből, mégis használhatóak neurális aktivitás predikciójára