Neurális hálózatok.... a gyakorlatban

Átírás

1 Neurális hálózatok... a gyakorlatban

2 Java NNS Az SNNS Javás változata SNNS: Stuttgart Neural Network Simulator A Tübingeni Egyetemen fejlesztik /13. tavasz nagy.gabriella@nik.uni-obuda.hu 2

3 2012/13. tavasz 3

4 Letöltés nik.uni-obuda.hu/nagygabi JavaNNS-Win.zip 2012/13. tavasz 4

5 Használata Meglévő hálózat megnyitása *.net: a hálózat leírása *.pat: tanítóminta Control Panel/Patterns Learning set (tanításhoz használt minta) Validation set (ellenőrző minta) lapozható, a hálózaton látszik a bemenet-kimenet Update fülön: ellenőrzés 2012/13. tavasz nagy.gabriella@nik.uni-obuda.hu 5

6 Használata Új hálózat létrehozása Tools/Create/Layers... réteg típusának kiválasztása! (Unit type) Tools/Create/Connections... előrecsatolt hálózat (feed forward) Tanítás Control Panel/Initializing Control Panel/Learning tanító algoritmus és paramétereinek kiválasztása 2012/13. tavasz 6

7 2012/13. tavasz 7

8 AForge.NET Andrew Kirillov C# nyelven íródott forráskóddal, példákkal közzétéve forge.aspx 2012/13. tavasz 8

9 Letöltés nik.uni-obuda.hu/nagygabi neuralis_demo.zip NeuroFeladat.zip 2012/13. tavasz 9

10 Egyszerűsített változat Egy tanítható réteggel rendelkező hálózat osztályozási feladatra. Osztályok: ActivationNeuron ActivationLayer ActivationNetwork PerceptronLearning ThresholdFunction 2012/13. tavasz 10

11 Egyszerűsített változat Átviteli függvénye: egységugrás 2012/13. tavasz 11

12 Feladat Egészítsük ki a programot a tanult algoritmusokkal! neuron kimenetének számítása felügyeletes tanító algoritmus: súlytényezők korrekciója 2012/13. tavasz nagy.gabriella@nik.uni-obuda.hu 12

13 Segítség 2012/13. tavasz 13

14 Megoldás 1 double sum = 0.0; for (int i = 0; i < inputscount; i++) { sum += weights[i] * input[i]; } sum += threshold; // a kimenet az átviteli függvény értéke return (output = function.function(sum)); 2012/13. tavasz nagy.gabriella@nik.uni-obuda.hu 14

15 Megoldás 2 for (int i = 0; i < layer.neuronscount; i++) { double e = output[i] - networkoutput[i]; if (e!= 0) { ActivationNeuron neuron = layer[i]; for (int j = 0; j<neuron.inputscount; j++) { neuron[j] += learningrate*e*input[j]; } neuron.threshold += learningrate * e; error += Math.Abs(e); } } 2012/13. tavasz nagy.gabriella@nik.uni-obuda.hu 15

16 Felkészülést segítő kérdések Neurális hálózat tervezésénél mely jellemzőket kell előre eldönteni? Hogyan épül fel egy mesterséges neuron? Melyek a gyakran használt átviteli függvények? Jellemezd az előrecsatolt rétegelt topológiát! Jellemezd a visszacsatolt rétegelt topológiát! Mi a hiba visszaterjesztés lényege? Nevezz meg egy felügyeletes tanító szabályt! Nevezz meg egy önszerveződő tanító szabályt! Milyen összefüggéssel jellemezhetjük a hálózat hibáját? Képes-e a neurális hálózat ismeretlen (nem tanult) inputot feldolgozni? 2012/13. tavasz nagy.gabriella@nik.uni-obuda.hu 16

17 Felkészülést segítő kérdések Hogyan függ össze a tanítási tényező nagysága a tanítás időtartamával? Hogyan függ össze a tanítási tényező nagysága a tanítás pontosságával? Miért fontos a reprezentatívan választott tanító adatsor? Meg lehet-e oldani lineárisan nem elválasztható problémákat (XOR, két spirál probléma) egy tanítható rétegű hálózattal? Miért?/Miért nem? Tanítható réteg-e a bemeneti réteg? A kimeneti réteg? A rejtett rétegek? Mit jelent az, ha egy előrecsatolt rétegelt hálózatra azt mondjuk, hogy "teljesen összekötött"? 2012/13. tavasz nagy.gabriella@nik.uni-obuda.hu 17

18 Kiegészítő anyagok s449/intro.html 2012/13. tavasz 18