egy szisztolikus példa

Átírás

1 Automatikus párhuzamosítás egy szisztolikus példa

2 Áttekintés Bevezetés Példa konkrét szisztolikus algoritmus Automatikus párhuzamosítási módszer ötlet

3 Áttekintés Bevezetés Példa konkrét szisztolikus algoritmus Automatikus párhuzamosítási módszer ötlet

4 Áttekintés Bevezetés Példa konkrét szisztolikus algoritmus Automatikus párhuzamosítási módszer ötlet

5 Motiváció Növekvő igény a gyors adatfeldolgozásra Pl. néhány számításigényes feladatra: időjárás modellezés kép- illetve jelfeldolgozás szeizmológiai számítások tengeri áramlatok modellezése... megoldási lehetőségek: a hardver tökéletesítése fizikai korlátok párhuzamos programozás

6 Gyorsítás n processzor = n-szeres sebességnövekedés? pl. Proc. száma Idő Feladat 1 tyúk 10 nap alatt 10 tojás 10 tyúk 1 nap alatt 10 tojás (10-szer gyorsabban)

7 Gyorsítás n processzor = n-szeres sebességnövekedés? pl. Proc. száma Idő Feladat 1 tyúk 10 nap alatt 10 tojás 10 tyúk 1 nap alatt 10 tojás (10-szer gyorsabban) 1 nő 9 hónap alatt 1 gyerek 9 nő 1 hónap alatt...

8 Párhuzamosság párhuzamosság megvalósítása: a feladatot kisebb részekre bontjuk az egyes részfeladatokat szétosztjuk a processzorok között, melyek párhuzamosan dolgozhatnak szükség van a processzorok munkájának az összehangolására a részfeladat megoldása lehetőleg ne tartson rövidebb ideig, mint ami szükséges a feladat kiosztásához felmerülő kérdések: hogyan kapcsolódnak egymáshoz a processzorok (milyen párhuzamos architektúra) hogyan osszuk szét a feladatokat az egyes processzorok között

9 Különböző osztályozási kritériumok... Szorosan összekapcsolt rendszerek (shared memory) Gyengén összekapcsolt (szét)osztott rendszerek (distributed memory)

10 processzorok kapcsolatrendszere különböző topológiák Figure: Az összekötő hálózatok tengere [Par:02]

11 Szisztolikus architektúrák jellemzők: azonos (általában egyszerű) műveleteket végző processzorok (PE) szabályos struktúra, lokális kapcsolat a szomszédos PE-k közt szinkron működés (globális órajelre) globális be-/ kimenet (a szélen levő PE-ken keresztül) PE PE PE PE PE Memória Figure: Lineáris szisztolikus architektúra

12 Példa Hosszú egészek szorzása (szekvenciális alg.) Feladat: Adott két egész szám: A = a m 1 a m 2... a 1 a 0, illetve B = b n 1 b n 2... b 1 b 0. Számítsuk ki: C = c m+n 1 c m+n 2... c 1 c 0 = A B. a b c a b + c (a + b + c) Figure: Processzor, mely képes elvégezni két számjegy átviteles szorzását (illetve összeadását) Pl. A = 321, B = 987: A szekveciális algoritmus bonyolultsága: O(m n)

13 Példa Hosszú (tetszőleges pontosságú) egészek szorzása (online szisztolikus alg.) Lépés: $ $ y, r = d[1 7] = 7, 0 Eredmény: $ $ $ $ $ $ $, $... y y s r za xa zb xa xb ha 0 ha 1 hb 0 hb 1 xb y, r = d[xa xb], if s = $ xa $, $, if s = $ = xa Alg. bonyolultsága: O(m + n) Processzorok száma: Max{m, n}/2 d[a] = a mod β, a β

14 Példa Hosszú (tetszőleges pontosságú) egészek szorzása (online szisztolikus alg.) Lépés: $ $ 1 $ $ 7 $ y, r = d[ ] = 2, 2 Eredmény: 7 $ $ $, $... y y s r za xa zb xa xb ha 0 ha 1 hb 0 hb 1 xb y, r = d[r + hb 0 xa + + ha 0 xb], if s = 1 $, $, if s = $ = xa Alg. bonyolultsága: O(m + n) Processzorok száma: Max{m, n}/2 d[a] = a mod β, a β

15 Példa Hosszú (tetszőleges pontosságú) egészek szorzása (online szisztolikus alg.) Lépés: $ $ 1 2 $ 7 8 y, r = d[ ] = 8, 4 Eredmény: 27 $ $ $, $... y y s r za xa zb xa xb ha 0 ha 1 hb 0 hb 1 xb y, r = d[r + ha 1 hb hb 0 xa + + ha 0 xb], if s = 2 $, $, if s = $ = xa Alg. bonyolultsága: O(m + n) Processzorok száma: Max{m, n}/2 d[a] = a mod β, a β

16 Példa Hosszú (tetszőleges pontosságú) egészek szorzása (online szisztolikus alg.) Lépés: $ $ y, r = d[ ] = 6, 4 Eredmény: $ d[3 9] = 7, 2 y y s r za xa zb xa xb ha 0 ha 1 hb 0 hb 1 xb y, r = d[r + hb 1 za + + ha 1 zb + + hb 0 xa + + ha 0 xb], if s = 3 d[xa xb], if s = $ xa Alg. bonyolultsága: O(m + n) Processzorok száma: Max{m, n}/2 d[a] = a mod β, a β

17 Példa Hosszú (tetszőleges pontosságú) egészek szorzása (online szisztolikus alg.) Lépés: $ 7 8 y, r = d[ ] = 1, 1 Eredmény: 6827 Alg. bonyolultsága: O(m + n) $ d[ ] = 2, 0 Processzorok száma: Max{m, n}/2 y y s r za xa zb xa xb ha 0 ha 1 hb 0 hb 1 xb y, r = d[r + hb 1 za + + ha 1 zb + + hb 0 xa + + ha 0 xb + y ], if s = 4 d[r + hb 0 xa + + ha 0 xb], if s = 1 d[a] = a mod β, a β

18 Példa Hosszú (tetszőleges pontosságú) egészek szorzása (online szisztolikus alg.) Lépés: y, r = d[ ] = 3, 0 Eredmény: Alg. bonyolultsága: O(m + n) d[ ] = 0, 0 Processzorok száma: Max{m, n}/2 y y s r za xa zb xa xb ha 0 ha 1 hb 0 hb 1 xb y, r = d[r + hb 1 za + + ha 1 zb + + hb 0 xa + + ha 0 xb + y ], if s = 4 d[r + ha 1 hb hb 0 xa + + ha 0 xb], if s = 2 d[a] = a mod β, a β

19 Példa Hosszú (tetszőleges pontosságú) egészek szorzása (online szisztolikus alg.) Lépés: y, r = y y s r za xa zb xa xb ha 0 ha 1 hb 0 hb 1 xb Eredmény: Alg. bonyolultsága: O(m + n) Processzorok száma: Max{m, n}/2 d[a] = a mod β, a β

20 Automatikus párhuzamosítás ötlet Figure: Lineáris szisztolikus rács induktív (rekurzív) felépítése hasonlóság a szisztolikus rács induktív felépítése, illetve a feadat rekurzív megfogalmazása (funkcionális program argumentumának induktív dekompozíciója) között

21 Automatikus párhuzamosítás ötlet Két lépés: konkrét architektúra típus előzetes tanulmányozása cél: találni egy rekurzív összefüggést, mely az illető típusú architektúra működését jellemzi ugyanezt a logikát alkalmazzuk fordítva: ha sikerül a feladatnak egy olyan rekurzív leírását megadni, ami megfelel egy (vagy több) bizonyos architektúra működését jellemző leírásnak a feladatot (viszonylag) egyszerű levetíteni az illető típusú architektúrára.

22 Egy konkrét architektúra típus tanulmányozása Adatfolyam egy online szisztolikus tömbben, mely a bemenetet k = 2 lépést követően kezdi továbbítni. az Y = F [X ] eredménylista (az első 4 elem kivételével) kiszámolható rekurzívan X 4 illetve F [X 2 ] függvényében

23 A B kifejezés kifejtése kifejtés szabályai (polinomok szorzása esetén): skaláris elem hozzádása egy polinomhoz: két polinom összeadása: a + (b B) = (a + b) B (a A) + (b B) = (a + b) (A + B) skaláris elem szorzása egy polinommal: a (b B) = (a b) (a B) két polinom szorzása: (a A) (b B) = (a b) ((a B) + (b A) + (0 (A B)))

24 A B kifejezés kifejtése (polinomok szorzása esetén) A B = = (a 0 A1 ) (b 0 B1 ) a 0 = a 0 b 0 + = a 0 b 0 + B1 b 0 A1 0 (A 1 B 1 ) a 0 (b1 B2 ) = a 0 b 0, a 0 b 1 + b 0 b 0 (a1 A2 ) 0 A 1 B 1 a 0 a 1 + b 0 A 1 B 1 B2 A2

25 =... = a 0 b 0, a 0 b 1 + b 0 a 1, a 2 b 0 + a 1 b 1 + a 0 b 2 ), a 3 b 0 + a 2 b 1 + a 1 b 2 + a 0 b 3 ((a 0 B4 ) + (b 0 A4 )+ +(a 1 B3 ) + (b 1 A3 ) + (A 2 B 2 )) a kapott rekurzív összefüggés: H 0 [A] T 4 [B] H 0 [B] T 4 [A] T 4 [A B] = + H 1 [A] T 3 [B] H 1 [B] T 3 [A] T 2 [A] T 2 [B]

26 Az átmenetfüggvény meghatározása a kapott rekurzív összefüggés alapján a kifejezés elemeinek megfeleltetése az egyes regisztereknek: T 2 [A] T 2 [B] y T 4 [A B] y T 4 [A] xa, T 4 [B] xb T 3 [A] za, T 3 [B] zb H 0 [A] ha 0, H 0 [B] hb 0 H 1 [A] ha 1, H 1 [B] hb 1 Az első négy elem kiszámítását megadó összefüggésből hasonló módon kapjuk az átmenetfüggvény y kiszámítására vonatkozó részét az első négy lépésben (amikor a jobboldali szomszéd PE még nem szolgáltat semmiféle részeredményt).