1. Bevezetés. A számítógéptudomány ezt a problémát a feladat elvégzéséhez szükséges erőforrások (idő, tár, program,... ) mennyiségével méri.

Átírás

1 Számításelmélet Dr. Olajos Péter Miskolci Egyetem Alkalmazott Matematika Tanszék e mail: matolaj@uni-miskolc.hu 2011/12/I. Készült: Péter Gács and László Lovász: Complexity of Algorithms (Lecture Notes, Spring 1999) jegyzete alapján

2 1. Bevezetés 2 Az algoritmusok vagy struktúrák bonyolultságát számszerűen szeretnénk mérni. A bonyolultságra korlátokat ill. számszerű összefüggéseket kell adni. A számítógéptudomány ezt a problémát a feladat elvégzéséhez szükséges erőforrások (idő, tár, program,... ) mennyiségével méri. A bonyolultságelmélet három (különböző jellegű) részre oszlik: 1. Az algoritmus, idő, tár stb. fogalmak pontos bevezetése. Ehhez a matematikai gép különböző modelljeit kell definiálni és ezeken a számítások tár- és időigényét. Az erőforrások korlátozásával a megoldható feladatok köre is szűkül. Így kapunk különböző bonyolultsági osztályokat.

3 2. A legfontosabb algoritmusok erőforrás igényét kell vizsgálni ill. minél hatékonyabb algoritmusokat kell megadni (így lehet megállapítani, hogy egyes konkrét feladatok milyen bonyolultsági osztályokba esnek) Módszereket találni negatív eredmények bizonyítására, azaz annak igazolására, hogy egyes feladatok nem oldhatóak meg bizonyos erőforráskorlátozások mellett (így lehet megállapítani, hogy a bonyolultsági osztályok ténylegesen különböznek-e, ill. hogy nemüresek). Ide tartozik annak a vizsgálata is, hogy egy feladat algoritmikusan megoldható-e.

4 Ha egy feladatról kiderül, hogy csak nehezen oldható meg, az még nem szükségképpen negatív eredmény. Egyre több területen van szükség garantáltan bonyolult algoritmusokra (pl. véletlen számok generálása, kommunikációs protokollok, írások, adatvédelem... ). Ezek a bonyolultságelmélet fontos alkalmazási területei. 2. Jelölések, definíciók Egy tetszőleges véges rendezett halmazt ábécé -nek nevezzük. Jele: Σ A Σ ábécé elemeiből alkotott sorozatokat Σ felletti szavaknak nevezzük. Ezek közé tartozik az üres szó is, melyet jelöli. Egy szó hossza a benne szereplő betűk száma. 4

5 A Σ feletti n hosszúságú szavak halmazát Σ n -nel, az összes Σ feletti ( szavak halmazát (beleértve az üres szót) Σ -gal jelöljük Σ = Σ ). n A Σ egy tetszőleges részhalmazát n=0 nyelvnek nevezzük. Lexikografikus rendezés: egy α szó megelőz egy β szót, ha vagy a kezdőszelete (prefixe), vagy az első olyan betű, amely nem azonos a két szóban az α szóban kisebb (az ábécé rendezése szerint). Példa: Ha Σ = {0, 1}, akkor 0, 00, 01,..., 1, 10,.... Vegyük észre, hogy az 1 szót az összes 0-val kezdődő szó megelőzi. Növekvő rendezés: minden rövidebb szó megelőz minden hosszabb szót, az azonos hosszúságú szavak között lexikografikus rendezés. Példa: Ha Σ = {0, 1}, akkor 0, 1, 00, 01, 10, 11,.... 5

6 A logaritmus mindig 2-es alapú logaritmust jelöl (ha nincs külön feltüntetve). 6 A természetes, egész, racionális, valós számok jelölése: N, Z, Q, R. A nemnegatív esetekben + jel használata, pl. R +. Ha f és g két, természetes számokon értelmezett valós (esetleg komplex) értékű függvény, akkor f = O(g), ha c > 0 és n 0 N úgy hogy n n 0 esetén f(n) c g(n). f = o(g), ha f csak véges sok helyen nulla, és f(n) g(n) 0 ha n. f = Ω(g), ha g = O(f) (az O inverze). f = Θ(g), ha f = O(g) és g = O(f), azaz c 1, c 2 > 0 és n 0 N, hogy c 1 g(n) f(n) c 2 g(n).

7 Példa: 7 1. Mutassuk meg, hogy (n + 1) 2 = n 2 + O(n)! Megoldás: Tekintsük a következőket: (n + 1) 2 = n 2 + 2n + 1 n 2 + 3n = n 2 + c n = n 2 + O(n), ahol n 1, c = 3. Teljesült a O(n) feltétele, azaz az állítás bizonyítva van. További észrevételként megjegyezhető, hogy mivel 2n + 1 c n 2, (legyen pl. c = 2) ezért az állítás az (n + 1) 2 = O(n 2 ) alakban is felírható. 2. Igaz-e az az állítás, hogy n = O(n 3 )? Lehet-e élesíteni ezt az állítást?

8 Megoldás: Mivel n(n + 1) n = = n2 + n, 2 2 ezért megfelelő c > 0 valós szám esetén a fenti kifejezésre teljesül, hogy O(n 3 )-nal egyenlő. Tovább lehet élesíteni ezt, hiszen a lináris tagot a négyzetes taggal lehet becsülni, azaz teljesül az n = O(n 2 ). Megjegyzendő, hogy O(n) = O(n α ), ahol α 1 valós szám, de fordítva nem igaz, hiszen pl. O(n 2 ) O(n) (azaz nem szimmetrikus). 8

9 3. Számítási modellek Bevezetés Az algoritmus olyan matematikai eljárást jelent, mely valamilyen számítás vagy konstrukció elvégzésére vagy valamilyen függvény kiszámítására szolgál és melyet gondolkodás nélkül végre lehet hajtani. Minden matematikai gép valamilyen bemenetből valamilyen kimenetet állít elő. A bemenet és kimenet egy (rögzített) ábécé feletti szó vagy számok egy sorozata. A gép a számításhoz különböző erőforrásokat használ fel és a számítás bonyolultságát azzal mérjük, hogy az egyes erőforrásokból (tár, idő,... ) mennyit használ fel.

10 3.2. Számítási modellek történelem Véges automata: csak nagyon egyszerű függvények kiszámítására használható, túlságosan primitív. 2. Turing-gép: matematikailag a legtisztább és legismertebb. A. Turing angol matematikus vezette be 1936-ban. Lényege egy korlátos központi rész és egy végtelen tár. Ezen a gépen minden olyan számítás elvégezhető, melyet más matematikai gépen el tudtak végezni. Főleg elméleti kérdések vizsgálatára alkalmas, konkrét algoritmusok megadása nehézkes, kevésbé alkalmas. Memóriáját nem lehet közvetlenül elérni, ez a legnagyobb hátránya.

11 3. RAM-gép: a valódi számítógépek egy legegyszerűbb modellje. Ez a gép a memória egy tetszőleges rekeszét egyetlen lépéssel el tudja érni. A memória korlátlan és minden rekeszében tetszőlegesen nagy szám tárolható. A RAM-gépet tetszőleges programnyelven programozhatjuk. Konkrét algoritmusokhoz ezt érdemes használni. Megjegyzés: a RAM-gép és a Turing-gép egyenértékű, ugyanazok a függvények számíthatóak ki mindkettőn Logikai hálózat, Boole-függvények: nem egyenértékű az előző kettővel. Csak adott nagyságú bemenetet enged meg. Így csak véges számú feladatot tud megoldani, viszont rögzített méretű bemenet esetén minden függvény kiszámítható logikai hálózattal.

12 3.3. A Turing-gép 12 Egy Turing-gép a következőkből áll: k db mindkét irányban végtelen szalagból (k 1), a szalagok minden irányban végtelen sok mezőre vannak felosztva. Minden szalagnak van egy kitüntetett kezdőmezője, melyet 0-dik mezőnek is hívunk. Minden szalag minden mezőjére egy adott véges Σ ábécéből lehet jelet írni. Véges sok mező kivételével ez a jel az ábécé egy speciális karaktere: jelöli az üres mezőt. Minden szalaghoz tartozik egy író-olvasó fej, mely minden lépésben a szalag egy mezején áll. Van egy vezérlőegység. Ennek lehetséges állapotai egy véges Γ halmazt alkotnak. Ki van tüntetve egy START kezdőállapot és egy STOP végállapot.

13 Kezdetben a vezérlőegység a START állapotban van és az író-olvasó fejek a szalagok kezdőmezőjén állnak. Minden lépésben minden fej leolvassa a szalagjának adott mezőjén levő jelet. A vezérlőegység a leolvasott jelekből és saját állapotától függően három dolgot csinál: 1. átmegy új állapotba, 2. minden fejnek utasítást ad, hogy lépjen egyet jobbra, egyet balra vagy maradjon helyben, 3. minden fejnek utasítást ad, hogy azon a mezőn, melyen áll írja felül (adhatja azt az utasítást is, hogy ne írja felül). A gép megáll, ha a vezérlőegység a STOP állapotba jut. 13

14 3.4. Matematikai definíciók 14 Definíció: Turing-gép T = k, Σ, Γ, α, β, γ, ahol k 1 (k N), Σ és Γ véges halmazok, Σ és START, STOP Γ, továbbá α: Γ Σ k Γ β : Γ Σ k { 1, 0, 1} k γ : Γ Σ k Σ k tetszőleges leképezések (α adja az új állapotot, β azt, hogy merre lép, γ a szalagokra írt jeleket). Megjegyzés: Feltesszük, hogy a Σ ábécé rögzített és legalább két jelből áll a jelen kívül (pl. a 0 és az 1).

15 Megjegyzés: Ezen a definíción kívül még sokféle definíció van, de ezek lényegében ekvivalensek (pl. egyirányban végtelen szalagok, a szalagok száma legfeljebb 2 stb.). 15 Egy Turing-gép bemenetén az induláskor a szalagokra írt szavakat értjük. Mindig feltesszük, hogy ezek a 0-dik mezőtől kezdődően vannak a szalagokra írva. Definíció: Egy k-szalagos Turing-gép bemenete egy rendezett elem k-s, melynek minden eleme egy Σ -beli szó. Megjegyzés: Leggyakrabban csak a gép első szalagjára írunk nemüres szó bemenet. Ha x egy szó, akkor a bemenet (x,,,..., ).

16 A Turing-gép kimenete a megálláskor a szalagon levő rendezett elem k-s (ha csak egyetlen szóra vagyunk kíváncsiak és mást nem teszünk fel, akkor az utolsó szalagon levő szót értjük alatta). Célszerű feltenni, hogy a bemenet a jelet nem tartalmazza (különben nem lehetne eldönteni, hogy hol a bemenet vége nem lehetne eldönteni a határozza meg a bemenet hosszát feladat). A Σ \ { } ábécét Σ 0 -lal jelöljük. Minden függvény kiszámításához külön-külön Turing gépet kell kontsruálni, míg a programvezérlésű számítógépeken elegendő megfelelő programot írni. 16

17 Lehet olyan Turing-gépet konstruálni, amelyen alkalmas program -mal minden kiszámítható, amely bármely Turing-géppel kiszámítható Univerzális Turing-gépek szalagos Turing-gép

18 3.5. Univerzális Turing-gépek 18 Definíció: Legyen T = k + 1, Σ, Γ T, α T, β T, γ T és S = k, Σ, Γ S, α S, β S, γ S két Turing-gép (k 1). Legyen p Σ 0. Azt mondjuk, hogy a T a p programmal szimulálja S-et, ha tetszőleges x 1, x 2..., x k Σ 0 szavakra a T Turing-gép az x 1, x 2,..., x k, p bemenetre akkor és csak akkor áll meg véges sok lépésben, ha az S az x 1, x 2,..., x k bemenet esetén véges sok lépésben megáll, és megálláskor a T első k szalagján rendre ugyanaz áll, mint S szalagjain. Azt mondjuk, hogy a k + 1 szalagos Turing-gép univerzális a k szalagos Turing-gépekre nézve, ha bármely k szalagos Σ feletti S Turing-géphez létezik olyan p szó (program), melyekkel T szimulálja S-et.

19 Tétel: Minden k 1 számhoz és minden Σ ábécéhez létezik egy k + 1 szalagú univerzális Turing-gép. Bizonyítás: Alapgondolat: a T univerzális Turing-gép (k + 1)-edik szalagjára a szimulálandó S Turing-gép működését leíró táblázatot írjuk. Ezenkívül T felírja (magának), hogy a szimulált S gép éppen melyik állapotban van. Minden lépésben ennek és a többi szalagon olvasott jelnek megfelelően a táblázatból kikeresi, hogy S milyen állapotba megy át, mit ír a szalagokra és merre mozdulnak a fejek. Bizonyítás k + 2 szalagra: Legyen S = k, Σ, Γ S, α S, β S, γ S egy tetszőleges k szalagos Turing-gép. Az egyszerűség kedveért feltételezzük, hogy Σ tartalmazza a 0, 1 és 1 jeleket. 19

20 Bizonyítás: (folytatás) A Γ S \ STOP halmaz minden eleméhez rendeljünk egy Σ 0 feletti r hosszúságú szót. Az S gép egy adott helyzetének a kódja legyen a 20 gh 1 h 2... h k α S (g, h 1, h 2,..., h k )β S (g, h 1, h 2,..., h k )γ S (g, h 1, h 2,..., h k ), ahol g Γ S, h 1, h 2,..., h k Σ. Az ilyen szavakat tetszőleges sorrendben összefűzzük, így kapjuk az a S szót. Ezt fogjuk a (k + 1)-edik szalagra írni, a (k + 2)-edik szalagra pedig az S gép egy állapotát, amely kiinduláskor a START állapot neve. Ezután konstruálunk egy olyan T Turing-gépet, amely az S gép egy lépését úgy szimulálja, hogy a (k + 1)-edik szalagon kikeresi, hogy hol van (k + 2)-edik szalagon feljegyzett állapotnak, és az első k fej által olvasott jeleknek megfelelő feljegyzés, majd onnan

21 Bizonyítás: (folytatás) leolvassa a teendőket, felírja a (k + 2)-edik szalagra az új állapotot, az első k fejjel a megfelelő jeleket írja és a megfelelő irányba lép. 21 k + 1 szalagos Turing-gép: A (k + 2)-edik szalagtól úgy szabadulhatunk meg, hogy a (k + 2)-edik szalagon levő r-betűs szó (r db mező) tartalmát a (k + 1)-edik szalag ( 1)-edik, ( 2)-edik,...,( r)-edik helyére beírjuk. Ekkor azonban problémát okoz, hogy 2 fej kellene (egyik a pozitív felén, a másik a negatív felén). Ezt úgy oldjuk meg, hogy minden mezőt megduplázunk: a bal felében marad az eredetileg ott levő jel, a jobb felében pedig 1-es áll, ha ott állna a fej, feltéve ha két fej volna (a többi jobb oldali mező üresen marad). Így egyetlen fej szimulálni tudja mindkét eredeti fej mozgását.

22 22 Példa: A (k + 2) szalagos T Turing-gép a k = 1 esetben A gépnek 3 feje van. Γ: START, STOP állapotokon kívül; VISSZA, TOVÁBB-0, TOVÁBB-1, TOVÁBB-2, SZIMUL-0, SZIMUL-1, ÚJRA. Jelölje h(i) az i-dik fej által leolvasott betűt (i = 1, 2, 3). Az α, β, γ függvényeket az alábbi táblázattal írjuk le (ha nem mondunk új állapotot, akkor marad az eredeti). START: 1: ha h(2) = h(3) akkor a 2. és 3. fej jobbra lép; 2: ha h(2), h(3) és h(2) h(3) akkor TOVÁBB-0 és a 2, 3 jobbra lép; 8: ha h(3) = és h(2) h(1) akkor TOVÁBB-1 és 2 jobbra, 3 balra lép;

23 9: ha h(3) = és h(2) = h(1) akkor VISSZA, 2 jobbra és 3 balra lép; 23 18: ha h(3) és h(2) = akkor STOP ; TOVÁBB-0: 3: ha h(3) akkor 2 és 3 jobbra lép; 4: ha h(3) = akkor TOVÁBB-1 és 2 jobbra, 3 balra lép; TOVÁBB-1: 5: ha h(3) akkor 3 balra, 2 jobbra lép; 6: ha h(3) = akkor TOVÁBB-2, 2 jobbra lép; TOVÁBB-2: 7: START, 2 és 3 jobbra lép;

24 VISSZA: 16: ha h(2) de h(3) = akkor 2 balra lép; 24 10: ha h(3) akkor 3 balra lép; 11: ha h(3) = akkor SZIMUL-0 és 3 jobbra lép; SZIMUL-0: 12: ha h(3) akkor 3. fej a h(2) jelet írja és 2, 3 jobbra lép; 13: ha h(3) = akkor SZIMUL-1, az 1. fej a h(2) jelet írja, 2 jobbra és 3 balra lép; SZIMUL-1: 14: ÚJRA, az 1. fej lép h(2)-t; ÚJRA: 15: ha h(2) és h(3) akkor 2 és 3 balra lép;

25 17: ha h(2) = h(3) = akkor START, és 2, 3 jobbra lép. 25 Egy univerzális Turing-gép futása

26 Megjegyzés: Ha az előző bizonyításban konstruált (k + 1) szalagos univerzális Turing-géppel szimuláljuk a k szalagos Turing-gép működését, akkor tetszőleges bemenet esetén a lépésszám csak a szimuláló program hosszával arányos (tehát konstans) szorzótényezővel növekszik. Tétel: Minden k szalagos S Turing-géphez van olyan egy szalagos T Turing-gép, amely S-et helyettesíti abban az értelemben, hogy minden x Σ 0 szóra S akkor és csak akkor áll meg végessok lépésben az x bemenetre, ha T megáll az x bemeneten és megálláskor az S utolsó szalagján ugyanaz lesz írva, mint a T szalagjára. Továbbá, ha S N lépést tesz, akkor T O(N 2 ) lépést tesz. 26

27 Bizonyítás: Az S Turing-gép szalagjainak tartalmát a T gép egyetlen szalagján kell tárolni. Ehhez először a T szalagjára írt bemeneteket széthúzzuk, az i-edik mezőn álló jelet átmásoljuk a 2ki-edik mezőre: Az 1-től indulva jobbra lépegetve minden jelet 2k hellyel jobbra másolunk. Az 1, 2,..., 2k 1 helyre -ot írunk. A következő lépésben a (2k + 1)-edik helytől kezdve minden elemet újabb 2k-val jobbra írunk és így tovább... Ezek után a (2ki + 2j 2)-edik mező (1 j k) fog megfelelni a j-edik szalag i-dik mezejének, a (2ki + 2j 1)-edik mezőn pedig 1 vagy fog állni aszerint, hogy az S megfelelő feje az S számításának megfelelő lépésnél azon a mezőn áll-e vagy sem. Jelöljük meg egy-egy 0-val a szalag üres végeinek első páratlan 27

28 Bizonyítás: (folytatás) sorszámú mezejét. Így az S számításainak minden helyzetéhez megfeleltettük T -nek egy helyzetét. 28 Szimuláció: A T Turing-gép mindig tudja, hogy az S gép melyik állapotban van és hogy hol áll a fej (modulo 2k). Jobbról indulva végighalad a fej a szalagon. Ha egy páratlan sorszámú mezőn 1-est talál, akkor a következő mezőt leolvassa, és megjegyzi hogy mi a mező sorszáma (modulo 2k). Mire véget ér, tudja, hogy milyen jeleket olvas le az S. Innen kiszámítja, hogy mi lesz az S új állapota, mit írnak a fejek, és merre lépnek a fejek. Visszafelé indulva minden páratlan mezőn álló 1-esnél át tudja írni megfelelően az előző mezőt és el tudja mozdítani az 1-est szükség esetén 2k hellyel balra vagy jobbra (ha eközben átlép egy kezdő vagy táró 0-n, akkor azt is elmozdítja k hellyel a megfelelő irányba).

29 Bizonyítás: (folytatás) Tömörítés: Ha az S gép szimulációja befejeződik, akkor a 2ki-edik mező tartalmát át kell másolni az i-edik mezőre (így az egyszalagos T Turing-gép jó lesz, azaz T ugyanazt számolja ki, mint S). Lépésszám: Széthúzás + Szimuláció + Tömörítés Legyen M a T gépen összesen igénybe vett mezők száma. Ez M = O(N). A széthúzáshoz és a tömörítéshez O(M 2 ) idő kell. Az S gép egy lépésének szimulálásához O(M) lépés kell, így összesen O(M N). Így összesen 2 O(M 2 ) + O(M N) = O(N 2 ). 29

30 3.6. A RAM-gép 30 A RAM-gép minden memóriarekeszét közvetlenül el lehet érni (így közelebb áll a valódi számítógéphez, mint a Turing-gép). Ahhoz, hogy egy memóriarekeszt el lehessen érni, meg kell cimkézni a címet valahol tárolni kell egy másik rekeszben. A memóriarekeszek száma nem korlátos, a cím sem korlátos így a címet tartalmazó rekeszbe bármilyen nagy szám kerülhet (így eltávolodunk a valódi számítógéptől)! A rekesznek a tartalma maga is változhat a program futása során indirekt címzés. A RAM-gépben van egy programtár és egy memória.

31 A memória végtelen sok memóriarekeszből áll, minden rekeszben (i) van egy x[i] érték (tetszőleges egész szám, melyekből csak végessok nem nulla). 31 A programtár végtelen sok 0, 1, 2,... -vel címzett rekeszből áll, ebbe véges hosszúságú programot írhatunk, amely valamely gépi-kód-szerű programnyelven van írva. Elegendő csak az x[i] := 0; x[i] := x[i] + 1; x[i] := x[i] 1; x[i] := x[i] + x[j]; x[i] := x[i] x[j]; x[i] := x[x[j]]; x[x[i]] := x[j]; IF x[i] 0 THEN GOTO p (p valamelyik programsor kódja) utasításokat megengedni. A RAM-gép bemenete egy természetes számokból álló véges sorozat (amelyet az x[0], x[1], x[2],... memóriarekeszekbe írunk.).

32 A RAM-gép a fenti utasításokból álló tetszőleges véges programot végrehajtja, akkor áll meg, ha olyan programhoz ér, amelyben nincs utasítás. A kimeneten az x[i] rekeszek tartalmát értjük. A RAM-gépek futási idejét két paraméterrel jellemezhetjük (ugyanis a lépésszám önmagában nem jó mérőszám): a gép legfeljebb n lépést tesz; legfeljebb k jegyű (2-es számrendszerben felírt) számokon Ez O(nk) futási időt ad! Megmutatható, hogy egy RAM-gépen ugyanazt lehet kiszámítani, mint egy Turing-gépen, és a futási idejük sem különbözik túlságosan. Elegendő (az egyszerűség kedveért) 1-szalagos Turing-gépet tekinteni, amelynek ábécéje {, 0, 1}. 32

33 Tétel: Minden {, 0, 1} feletti Turing-géphez konstruálható egy olyan program a RAM-gépen, mely minden bemenetre ugyanazt a kimenetet számolja ki, mint a Turing-gép és ha a Turing-gép lépésszáma N, akkor a RAM-gép O(N) lépést tesz O(log N) jegyű számokkal. 33 Tétel: Minden RAM-gépre szóló programhoz van olyan Turing-gép, mely minden bemenetre ugyanazt a kimenetet számítja ki, mint a RAM-gép és ha a RAM-gép futási ideje N, akkor a Turing-gép lépésszáma O(N 2 ).

34 3.7. Boole-függvények és logikai hálózatok 34 Definíció: Az f : {0, 1} n {0, 1} leképezést Boole-függvénynek, az f(x 1,..., x n )-ben a változókat Boole-változóknak vagy Boole-biteknek nevezzük. Megjegyzés: Sok algoritmikus probléma esetén a bemenet n db Boole-változó, a kimenet 1 db bit. Például: legyen G egy N csúcsú gráf, határozzuk meg, ( hogy ) tartalmaz-e Hamilton-kört. Ebben az N esetben a gráf db Boole-változóval írható le: a csúcsok 2 1-től N-ig vannak beszámozva és x ij (1 i < j N) értéke 1, ha i és j között van él, 0 ha nincs. Az f(x 12, x 13,..., x n 1,n ) függvény értéke 1, ha van Hamilton-kör a G gráfban, 0, ha nincs. A probléma a Boole-függvény kiszámítása.

35 Megjegyzés: 4 db egyváltozós Boole-függvény van: az azonosan 0, az azonosan 1, az identikus és a negáció: x x = 1 x (ugyancsak használjuk a x-et is). 16 db kétváltozós Boole-függvény van (mivel 2 4 db leképezés van a {0, 1} 2 {0, 1} esetben), ezek közül néhány: konjunkció (logikai ÉS): 1, ha x = y = 1, x y = 0, egyébként, diszkonjunkció (logikai VAGY): 0, ha x = y = 0, x y = 1, egyébként, 35

36 Megjegyzés: (folytatás) 36 bináris összeadás (logikai kizáró VAGY): x y = x + y mod 2 Többváltozós esetben egy további érdekes függvény: Majoritás: MAJORIT Y (x 1,..., x n ) = Egyszerű tulajdonságok: 1, ha legalább n/2 változó 1, 0, egyébként, x (y z) = (x y) (x z) x (y z) = (x y) (x z) x (y z) = (x y) (x z)

37 Megjegyzés: (folytatás) 37 DeMorgan azonosságok: x y = x y x y = x y Definíció: Azokat a kifejezéseket, melyek a negáció, konjunkció és diszjunkció operátorokból állnak Boole-polinomoknak nevezzük. Tétel: Minden Boole-függvény kifejezhető Boole-polinomként.

38 Bizonyítás: Legyen a 1,..., a n {0, 1}, továbbá x i, ha a i = 1, z i = x i, ha a i = 0, 38 és E a1,...,a n (x 1,..., x n ) = z 1 z n. Megjegyezzük, hogy az E a1,...,a n (x 1,..., x n ) = 1 akkor és csak akkor teljesül, ha (x 1,..., x n ) = (a 1,..., a n ). Így f(x 1,..., x n ) = E a1,...,a n (x 1,..., x n ) f(a 1,...,a n )=1 A fenti formula speciális formájú.

39 Definíció: Egyetlen (negált) változóból álló Boole-polinomot literálnak, az olyan Boole-polinomot, mely az művelettel összekapcsolt (negált) változókból áll pedig elemi konjunkciónak nevezzük. Egy Boole-polinomot diszjunktív normál formának nevezünk, ha a művelettel összekapcsolt elemi konjunkciókból áll. Egy Boole-polinomot kielégíthetőnek nevezünk, ha nem azonosan 0. Egy diszjunktív k-normál formán olyan diszjunktív normál formát értünk, amelyben a konjunkciók legfeljebb k literált tartalmaznak. Az és a felcserélésével kapjuk az elemi diszjunkciót és a konjunktív normál formát. 39

40 Általános formalizmus: 40 Legyen G egy irányított gráf számozott csomópontokkal, mely nem tartalmaz irányított kört. Azokat a csomópontokat (forrás), melyek nem tartalmaznak bejövő élt bemeneti csomópontoknak nevezzük és egy literált (egy változó vagy negáltja) rendelünk hozzá. A kimenő éleket (nyelő) nem tartalmazó csomópontokat kimeneti csomópontoknak nevezzük. A gráf minden olyan v csomópontja, amely nem forrás, azaz d = d + (v) > 0 egy Boole-függvényt számol ki: F v : {0, 1} d {0, 1}. A csomópont bejövő élei valamilyen növekvő sorrendben vannak beszámozva és az F v változói ennek megfelelően vannak hozzárendelve. Ezt a gráfot hálózatnak nevezzük. A hálózat mérete a kapuk száma (beleértve a bemeneti kapukat is), mélysége a leghosszabb út a bemeneti csomópontoktól a kimeneti csomópontokig.

41 Minden H logikai hálózat egy Boole-függvényt határoz meg. Minden bemeneti csomóponthoz hozzárendeljük a megfelelő literál értékét. Ez lesz a bemeneti feladat vagy a számítás bemenete. Ebből minden v csomóponthoz kiszámolhatunk egy x(v) {0, 1} értéket: ha a bemeneti élek u 1,..., u d induló csomópontjai rendelkeznek értékkel, akkor a v az F v (x(u 1 ),..., x(u d )) értéket kapja. A nyelőknél kapott értékek lesznek a számítás eredménye. 41 Példa: A NOR hálózat kiszámolja az x y-t. Használjuk a x y = ( x NOR y), x = x NOR x formulákat. A feladat 3 lépésben számolható ki, mivel a hálózat leghosszabb útja 3 élből áll.

42 42 NOR hálózat kiszámolja a x y-t Természetesen minden Boole-függvény kiszámítható egy triviális egy mélységű hálózattal, melyben egy kapu (valószínűleg elég komplikált) közvetlenül kiszámolja a kimenetet a bemenetből. Ha minden kapu diszjunkció vagy konjukció, akkor a hálózatot Boole-hálózatnak nevezzük.

43 Tétel: Minden T Turing-gép és minden n, N 1 számpárok esetén van olyan n bemenetű, O(N) mélységű, legfeljebb másodfokú Boole-hálózat, hogy az (x 1,..., x n ) {0, 1} n bemeneten az 1-et számolja ki pontosan akkor ha a T Turing-gép 1. szalagjának 0-dik celláján N lépés után 1-es áll. Példa: 1. Készítsünk olyan Turing-gépe(ke)t, mely kiszámítja a következő leképezéseket: a) x 1... x m x m... x 1 b) x 1... x m x 1 x 1... x m x m c) x 1... x m x 1... x m x 1... x m d) x 1... x m x 1... x m x m... x 1 43

44 Megoldás: Legyen k = 2, azaz két szalagot használunk. Definiáljuk a Γ-kat a következőképpen (α, β, γ megadás): 44 a) START: (Σ, ) START; (1,0); (Σ, ), (, ) Γ 1 ; ( 1,0); (, ). Γ 1 : (Σ, ) Γ 1 ; ( 1,1); (Σ,Σ), (, ) STOP; (0,0); (, ). b) START: (Σ, ) Γ 1 ; (0,1); (Σ,Σ), (, ) STOP; (0,0); (, ). Γ 1 : (Σ, ) START; (1,1); (Σ,Σ).

45 c) START: (Σ, ) START; (1,1); (Σ,Σ), (, ) Γ 1 ; ( 1,0); (, ). Γ 1 : (Σ, ) Γ 1 ; ( 1,0); (Σ, ), (, ) Γ 2 ; (1,0); (, ), Γ 2 : (Σ, ) Γ 2 ; (1,1); (Σ,Σ), (, ) STOP; (0,0); (, ). d) Az előzőekből következik. 45

46 2. Határozzuk meg az n szám rákövetkezőjét, ahol 46 n = } {{ } n db! Megoldás: Az α, β, γ legyen a következő: START: 0 START; 0; 0, 1 START; 1; 1, STOP; 0; 1. Azaz ha 0-t olvas, akkor végtelen ciklusba kerül (kiszámító Turing-gép).

47 3. Készítsünk olyan Turing-gépet, mely az unárisan ábrázolt számról eldönti, hogy osztható-e 3-mal! (eldöntő T-gép). 47 Megoldás: Legyen T =< k, Σ, Γ, α, β, γ >, ahol k = 1, Σ = {0, 1, }. Az α, β, γ megadása a következő: START: 1 Γ 1 ; 1; 1, STOP; 0;, Γ 1 : 1 Γ 2 ; 1; 1, Γ 2 : 1 START; 1; 1. Ha a gép megáll, akkor osztható 3-mal, ha nem elfogadható állapotba kerül (Γ 1, vagy Γ 2, ), akkor nem.

48 4. Algoritmikus eldönthetőség 4.1. Rekurzív és rekurzíve felsorolható nyelvek 48 Legyen Σ egy véges ábécé, mely tartalmazza a -ot, Σ 0 = Σ \ { }. Definíció: Egy f : Σ 0 Σ 0 függvényt rekurzívnak vagy kiszámíthatónak nevezünk, ha van olyan T Turing-gép, amely bármely x Σ 0 bemenettel véges idő után megáll és az első szalagjára az f(x) szó lesz írva.

49 Definíció: Az L Σ 0 függvénye rekurzív. nyelvet rekurzívnak hívjuk, ha karakterisztikus f L (x) = 1, ha x L, 0, egyébként 49 Megjegyzés: Ha egy T Turing-gép ezt az f L függvényt számítja ki, akkor azt mondjuk, hogy T eldönti az L nyelvet. Minden véges nyelv rekurzív. Ha egy L nyelv rekurzív a komplementere Σ 0 \ L is az. Mivel kontinium sok nyelv van, a Turing-gépek száma viszont megszámlálható: van olyan nyelv, ami nem rekurzív.

50 Definíció: Az L nyelvet rekurzíve felsorolhatónak nevezzük, ha L = vagy van olyan kiszámító f : Σ 0 Σ 0 függvény, melynek értékkészlete L. Ez azt jelenti, hogy fel lehet sorolni az L elemeit: L = {f(ω 0 ), f(ω 1 ),...}, ahol Σ 0 = {ω 0, ω 1,...}. Megjegyzés: Minden legalább 2 elemű ábécé felett van olyan nyelv, amelyik nem rekurzíve felsorolható. A rekurzíve felsorolható nyelvek komplementere nem szükségképpen rekurzív, és nem is rekurzíve felsorolható. 50

51 Tétel: Egy L nyelv akkor és csak akkor rekurzíve felsorolható, ha van olyan T Turing-gép, amelynek első szalagjára x-et írva a gép akkor és csak akkor áll le véges sok lépésben, ha x L. Bizonyítás: Legyen L rekurzíve felsorolható és tegyük fel, hogy nem üres. Legyen L az f függvény értékkészlete. Készítsünk egy Turing-gépet, amely akkor és csak akkor áll meg véges sok lépésben, ha x L. A Turing-gép minden bemenetre sorra veszi az y Σ 0 szavakat (pl. növekvő sorrendben) és kiszámítja az f(y)-t, megáll ha f(y) = x. 51

52 Bizonyítás: (folytatás) Megfordítás: tegyük fel, hogy az L azokból a szavakból áll, melyekre a T Turing-gép véges sok lépésben megáll. Feltehetjük, hogy L nem üres, és legyen a L egy tetszőleges szó. Csináljunk egy T 0 Turing-gépet, amelynek az első szalagjára az i N-et írva a következő lépéseket hajtja végre: A T első szalagjára (amely T 0 -nak mondjuk a 2. szalagja) nagyság szerinti rendezésben az (i i 2 )-edik szót írja, legyen ez x (így minden szó végtelen sok i bemenetre kerül felírásra). Ezután a T Turing-géppel ezen bemeneten i lépést próbál végezni. Ha a T gép ezalatt leáll, akkor a T 0 első szalagjáról letörli az i-t, felírja az x-et és leáll. 52

53 Bizonyítás: (folytatás) 53 Ha a T gép ezalatt nem áll le, akkor a T 0 az első szalagról letörli az i-t és helyére beírja az a-t. Így a T által kiszámított függvény értékkészlete éppen L. Lemma: Minden rekurzív nyelv rekurzíve felsorolható. Bizonyítás: Legyen L rekurzív nyelv. Ha L üres, akkor L rekurzíve felsorolható a definíció miatt. Ezért feltehetjük, hogy L nem üres. Legyen a L. Tekintsük az x, ha x L, f(x) = a, ha x / L.

54 Bizonyítás: (folytatás) Ekkor van olyan Turing-gép, amely f-et számítja ki, ezért f rekurzív és értékészlete éppen L. 54 Lemma: Legyenek T 1, T 2 ugyanazon ábécé feletti Turing-gépek. Ekkor van olyan T 3 Turing-gép, melyre f T3 = f T1 f T2. Tétel: Egy L nyelv akkor és csak akkor rekurzív, ha mind az L nyelv, mind a Σ 0 \ L nyelv rekurzíve felsorolható. Bizonyítás: Ha L rekurzív, akkor a komplementere is. Az előző lemmából következik, hogy L és Σ 0 \ L rekurzíve felsorolható.

55 Bizonyítás: (folytatás) Megfordítva: Tegyük fel, hogy L és Σ 0 \ L is rekurzíve felsorolható. Van olyan f 1 : Σ 0 Σ 0 függvény, amelynek értékkészlete L, és olyan f 2 : Σ 0 Σ 0, amelynek értékkészlete Σ 0 \ L (azaz L-et és Σ 0 \ L-et sorolják fel). 55 Legyen f 3 : Σ 0 Σ 0 egy olyan függvény, amely azt figyeli, hogy egy tetszőleges x Σ 0 szót melyik függvény adja ki. Ehhez a 3 függvényhez lehet 3 Turing-gépet szerkeszteni, amely kiszámítja ezeket (f 3 = f 1 f 2 f T3 = f T1 f T2 ). Ebből a három függvényből lehet készíteni egyet és ehhez tartozó Turing-gépet is könnyű konstruálni, azaz L rekurzív, mert f L karakterisztikus függvény kiszámítható.

56 Tétel: Ha T k + 1 szalagos univerzális Turing-gép, akkor L T rekurzíve felsorolható, de nem rekurzív nyelv. Bizonyítás: Az első része az állításnak következik az előző lemmából (bizonyítás). Az állítás második részét az egyszerűség kedveért k = 1-re bizonyítjuk. Indirekt: tegyük fel, hogy L T rekurzív. Ekkor a Σ 0 \ L T -nek rekurzíve felsorolhatónak kellene lennie, így léteznie kell egy 1 szalagos T 1 Turing-gépnek, hogy x bemenet esetén pontosan akkor áll meg, ha x / L T. A T 1 szimulálható a T -vel úgy, hogy a T 2. szalagjára íruk egy p programot. Ekkor a p program T mindkét szalagjára írásakor az megáll, ha a T 1 megáll a szimuláció miatt. A T 1 definiált, a p-nél pontosan akkor áll meg, ha T nem áll meg a mindkét szalagon p-vel (azaz ha p / L T ). Ez ellentmondás. 56

57 57 Legyen T egy Turing-gép. A megállási probléma T -re nézve az, hogy meghatározzuk mindazon x bemeneteket, ahol a T megáll. Megjegyzés: Ha az L nyelv nem rekurzív, akkor azt mondjuk, hogy az L-et definiáló tulajdonság algoritmikusan eldönthetetlen. Church-tézis: Minden olyan probléma, amelyre eljárás (procedúra) szerkeszthető az Turing-géppel kiszámítható. Ez nem bizonyítható, ebben hinni kell, hittétel. Church-Turing tézis: Ami algoritmussal kiszámítható (eldönthető), az Turing értelemben is kiszámítható (eldönthető). Tétel: Van olyan 1 szalagos Turing-gép, melyre algoritmikusan eldönthetelen, hogy egy x bemenet esetén véges lépésen belül megáll-e.

58 Bizonyítás: Legyen T egy két szalagos univerzális Turing-gép, és konstruáljunk egy T 0 1 szalagos Turing-gépet (korábbi tétel miatt lehet). Ekkor a T 0 egy x bemeneten szimulálni fogja T működését mindkét szalagján x-szel indulva. Az előző tétel szerint erről eldönthetetlen, hogy egy x bemenet esetén véges időn belül megáll-e, így T 0 -ról is eldönthetetlen. 58 Következmény: Algoritmikusan eldönthetetlen, hogy egy Turing-gép az üres bemeneten véges időben megáll-e. Következmény: Algoritmikusan eldönthetetlen, hogy egy 1 szalagos Turing-gépre az L T nyelv üres-e.

59 Megjegyzés: Nyivánvaló, hogy az üres-e tulajdonság helyett semmilyen P tulajdonságot sem tudunk eldönteni, ha az a tulajdonság az üres nyelvnek megvan és a Σ 0-nak nincs, vagy fordítva. A nyelvnek egy tulajdonságát triviálisnak nevezzük, ha minden nyelvnek megvan, vagy egyiknek sem. Tétel: Rice Bármely nem-triviális nyelvtulajdonságról algoritmikusan eldönthetetlen, hogy egy T Turing-gép L T nyelvének megvan-e ez a tulajdonsága. 59

60 4.2. Algoritmikusan eldönthetetlen problémák 60 Hilbert 10. problémája (1900): Adott egy egész együtthatós n változós polinom. Döntsük el, hogy van-e a p(x 1,..., x n ) = 0 egyenletnek egész számokból álló megoldása! Hilbert sejtése: létezik olyan eljárás, amely egy adott diophantoszi egyenletről eldönti, hogy megoldható-e. Matyijaszevics (1970): Nincs ilyen eljárás, azaz algoritmikusan eldönthetetlen, hogy egy diophantoszi egyenlet megoldható-e. Dominó-probléma: Ki lehet-e rakni adott dominókészlettel a síkot úgy, hogy az egymáshoz illeszkedő oldalakon mindig ugyanaz a szám legyen? Könnyű olyan készletet adni (pl. egyetlen négyzet, minden

61 61 oldalán ugyanaz a szám), amellyel a síkot ki lehet rakni, és olyan is, amellyel nem (pl. egyetlen négyzet oldalán különböző számokkal). A dominó-probléma algoritmikusan eldönthetetlen. Algebrai probléma: Legyen adva a 1,..., a n. Az általuk generált szabadcsoporton az a 1, a 2,..., a n, a 1 1, a 1 2,..., a 1 n jelekből alkotott véges szavak ábécéjét értjük, amelyben nem fordul elő egymás mellett a i és a 1 i. Csoportok szóproblémája: Adott az a 1,..., a n szimbólumok által generált szabadcsoportban n + 1 db szó α 1,..., α n és β. Kérdés, hogy β benne van-e az α 1,..., α n által generált részcsoportban. Ez a probléma algoritmikusan eldönthetetlen.

62 5. Tár és idő 62 Legyen Σ egy m betűből álló ábécé, és legyen Σ 0 = Σ \ { }. A Turing-gépnek csak egy bemeneti (csak erről olvas), egy kimeneti (csak erre ír) és k 1 munkaszalagja lehet. Induláskor csak a bemenet szalagra van írva egy Σ 0 feletti szó. Egy Turing-gép időigénye az a time T (n) függvény, amely a gép lépésszámának a maximumát adja meg n hosszúságú bemenet esetén (feltesszük, hogy time T (n) n, mivel a Turing-gépnek el kell olvasni a bemenetet). A space T (n) függvényt (tárigény-függvény) úgy definiáljuk, mint a gép szalagjain azon különböző mezők maximális számát az n hosszúságú bemenetek esetén, amelyekre a gép

63 ír (így a bemenet által elfoglalt mezőket nem számítjuk a tárba). Nyilvánvaló, hogy space T (n) Definíció: Azt mondjuk, hogy a T Turing-gép polinomiális, ha időigénye O(f) valamely f polinomra, vagyis van olyan c > 0 konstans, hogy a T időigénye O(n c ), exponenciális, ha time T (n) = O(2 nc ) valamely c > 0-ra, polinomiális tárigényű, ha space T (n) = O(n c ), exponenciális tárigényű, ha space T (n) = O(2 nc ). Azt mondjuk, hogy L nyelv (L Σ ) időbonyolultsága f(n), ha a nyelv egy legfeljebb f(n) időigényű Turing-géppel eldönthető.

64 Definíció: (folytatás) legrövidebb út keresése 64 A legfeljebb f(n) időbonyolultságú nyelvek halmazát DTIME(f(n))-nel jelöljük. Azon nyelvek osztályát, amelyek polinomiális Turing-géppel eldöthetőek PTIME-mal, vagy egyszerűen P-vel jelöljük. Hasonlóan definiálhatjuk a DSPACE(f(n)) ill. PSPACE nyelvosztályokat Polinomiális idő A gyakorlatban fontos algoritmusok közül igen sok polinomiális. a. Kombinatorikai algoritmusok: összefüggőségi teszt (gráf esetén annak megállapítása, hogy összefüggő-e),

65 maximális folyam keresése 65 magyar-módszer párosítási algoritmus b. Aritmetikai algoritmusok: alapvető aritmetikai műveletek (egész számok összeadása, kivonása, szorzása, maradékos osztása) euklideszi algoritmus összeadás, kivonás, szorzás, moduló m vett maradékosztályok gyűrűjében c. Lineáris algebrai algoritmusok: vektorok összeadása, skaláris szorzása, mátrixok szorzása, invertálása, determinánsok kiszámítása Gauss-elimináció

66 5.2. Euklideszi algoritmus 66 Keressük az a és b legnagyobb közös osztóját. Tegyük fel, hogy a b. Ha a = 0, akkor lnko(a, b) = b, egyébként lnko(a, b) = lnko(a, r), ahol b = am + r. Tétel: Az euklideszi algoritmus polinomiális idejű. Pontosabban: O(log a + log b) aritmetikai műveletből áll, melyeket a, b-nél nem nagyobb természetes számokon kell elvégezni. Bizonyítás: Mivel 0 r < b, ezért az eljárás előbb-utóbb véget ér. Belátjuk, hogy polinomiális időben ér véget. Ehhez vegyük észre, hogy b a + r > 2r r < b ab 2 ar < 2. Ezért log(ab) iteráció után a két szám szorzata kisebb lesz, mint 1, azaz valamelyik 0, vagyis az algoritmus véget ér.

67 Bizonyítás: (folytatás) Mivel minden iteráció polinomiális időben elvégezhető, az euklideszi algoritmus polinomiális. 67 Megjegyzés: Ha az euklideszi algoritmust az lnko(a, b) = lnko(a, b a) alakban írjuk fel, akkor nem polinomiális! Lemma: Legyen a, b, m három természetes szám. Ekkor a b mod m kiszámítható polinomiális időben, pontosabban O(log b) aritmetikai művelettel, melyeket O(log m + log a) jegyű természetes számokon végzünk. Megjegyzés: Nem ismert, hogy kiszámítható-e polinomiális időben az a! mod m vagy az ( a b) mod m.

68 5.3. Determináns meghatározása 68 Legyen A = (a ij ) egy n n-es egész számokból álló mátrix. Tegyük fel, hogy K = max a ij, akkor az A mátrix felírásához legalább n 2 + log K bit kell. Másrészt det(a) n! K n, így det(a) leírásához elegendő log(n! K n ) + O(1) n(log n + log K) + O(1) (n! n n Stirling formula). Innen deta felírható polinomiálisan sok számjeggyel. Következmény: Mivel A 1 kiszámítható úgy, mint két determináns hányadosa, így A 1 is polinomiálisan sok számjeggyel felírható.

69 5.4. Általános tételek 69 Tétel: Lineáris gyorsítási tétel Minden T Turing-gép és c > 0 esetén létezik olyan ugyanazon ábécé felett értelmezett, ugyanazon nyelvet meghatározó S Turing-gép, melyre time S (n) c time T (n) + n. Tétel: Minden rekurzív f(n) függvény esetén létezik egy olyan L rekurzív nyelv, hogy L / DTIME(f(n)). Definíció: Az f : Z + Z + függvényt teljesen idő-konstruktívnak nevezzük, ha van olyan többszalagos Turing-gép, amely minden n hosszúságú bemenet esetén pontosan f(n) időléptéket használ. Példa: Példa: az n 2, 2 n, n! teljesen idő-konstruktív függvények.

70 Definíció: Az f : Z + Z + függvényt jól számolhatónak nevezzük, ha van olyan Turing-gép, amely az f(n)-t O(f(n)) idő alatt számolja ki. Lemma: a. Minden jól számolható f(n) függvényhez létezik olyan g(n) teljesen idő-konstruktív függvény, hogy f(n) g(n) const f(n). b. Minden teljesen idő-konstruktív g(n) függvényhez létezik olyan f(n) jól számolható függvény, hogy g(n) f(n) const g(n). c. Minden f rekurzív függvényhez létezik olyan g teljesen idő-konstruktív függvény, hogy f g. 70

71 Tétel: Ha f(n) teljesen idő-konstruktív függvény és g(n) log g(n) = o(f(n)), akkor létezik olyan L DTIME(f(n)) nyelv, amelyre L DTIME(g(n)). 71 Tétel: Hézag tétel Minden rekurzív ϕ(n) n függvény esetén létezik olyan rekurzív f(n) függyvény, hogy DTIME(ϕ(n)) = DTIME(f(n)). Így létezik olyan f rekurzív függvény, hogy DTIME(f(n) 2 ) = DTIME(f(n)), azonkívül még egy olyan, hogy ( DTIME 2 2f(n)) = DTIME(f(n)).

72 Tétel: Gyorsítási tétel Minden rekurzív g(n) függvény esetén van olyan L rekurzív nyelv, hogy minden olyan T Turing-géphez, amely az L nyelvet meghatározza létezik olyan az L nyelvet meghatározó S Turing-gép, hogy g(time S (n)) < time T (n). 72

73 6. Nemdeterminisztikus algoritmusok Nemdeterminisztikus Turing-gépek Egy nem determinisztikus Turing-gép egy T = k, Σ, Γ, α, β, γ rendezett 6-os, ahol k 1, k N, Σ és Γ véges halmazok, Σ, START, STOP Γ és α (Γ Σ k ) Γ β (Γ Σ k ) { 1, 0, 1} k γ (Γ Σ k ) Σ k tetszőleges relációk. A gép egy tetszőleges legális számolása lépéseknek egy olyan sorozata, ahol minden lépésben a vezérlőegység új állapotba megy át, a fejek új jeleket írnak a szalagokra és legfeljebb egyet lépnek jobbra vagy balra.

74 Eközben fenn kell állni a következőknek: ha a vezérlőegység állapota a lépés előtt g Γ és ha a fejek a szalagokról a h 1, h 2..., h k Σ jeleket olvassák le, akkor az új g állapotra, a beírt h 1, h 2,..., h k jelekre és a fejek ε 1, ε 2,..., ε k állapotára teljesül: 74 (g, h 1, h 2,..., h k, g ) α (g, h 1, h 2,..., h k, ε 1, ε 2,..., ε k ) β (g, h 1, h 2,..., h k, h 1, h 2,..., h k ) γ. Megjegyzés: Azaz egy nemdeterminisztikus Turing-gépnek ugyanazzal a bemenettel sok különböző legális számolása lehet.

75 Definíció: Azt mondjuk, hogy a T nemdeterminisztikus Turing-gép t időben elfogadja az x Σ 0 szót, ha az első szalagjára x-et, a többire az üres szót írva van a gépnek ezzel a bemenettel olyan legális számolása, amely legfeljebb t lépésből áll, és a megálláskor az első szalag 0 pozíciójában az 1 jel áll. Megjegyzés: Ugyanerre a szóra lehetnek más legális számolások, melyek sokkal tovább tartanak, esetleg meg sem állnak, vagy a szót elutasítják. Megjegyzés: Hasonlóan definiálhatjuk, hogy s tár felhasználásával fogadja el (azaz van olyan legális számolása a T -nek, amely az x szót legfeljebb s helyet felhasználva áll meg). 75

76 Definíció: 76 Azt mondjuk, hogy a nemdeterminisztikus Turing-gép felismeri az L Σ nyelvet, ha L pontosan azokból a szavakból áll, melyeket a T elfogad véges időben. Ha a gép minden x L szót f( x ) időben elfogad, ahol f : Z + Z +, akkor azt mondjuk, hogy a gép az L nyelvet f(n) időben ismeri fel. Hasonlóan definiáljuk az f(n) tárral való felismerhetőséget. Az f(n) időben ill. tárral nemdeterminisztikus Turing-géppel felismerhető nyelvek osztályát NTIME(f(n)) illetve NSPACE(f(n)) jelöli.

77 Megjegyzés: Az L nyelv nemdeterminisztikus felismerhetősége nem jelenti, hogy a komplementer nyelv (Σ \ L) is felismerhető (sőt minden rekurzíve felsorolható, de nem rekurzív nyelv ilyen). Definíció: Egy L nyelv akkor és csak akkor tartozik a co-ntime(f(n)) osztályba, ha a komplementer nyelv (Σ \ L) az NTIME(f(n)) osztályba tartozik. co-nspace(f(n)) osztály, ha Σ \ L az NSPACE(f(n)) osztályba tartozik. 77

78 Megjegyzés: 78 A determinisztikus Turing-gép egy speciális nemdeterminisztikus Turing-gépnek tekinthető. A nemdeterminisztikus Turing-géppel nem kívánunk valódi számolóeszközt modellezni, ezek a gépek a feladatok kitűzésének és nem a megoldásának eszközei. A nemdeterminisztikus Turing-gép egy szituációban többféle lépést tehet, ezeken nem tételezünk fel semmilyen valószínűségeloszlást, tehát nem beszélhetünk a számolás valószínűségéről (van ilyen, ezt randomizált Turing-gépnek nevezzük). Tétel: A nemdeterminisztikus Turing-géppel felismerhető nyelvek pontosan a rekurzíve felsorolható nyelvek.

79 Bizonyítás: Tegyük fel, hogy az L nyelv rekurzíve felsorolható. Ekkor van olyan T Turing-gép, amely akkor és csak akkor áll meg véges idő múlva egy x bemeneten, ha x L. Módosítjuk a T -t úgy, hogy az első szalag 0 mezejére 1-est írunk megállás előtt. Nyilván akkor és csak akkor van x-et elfogadó legális számolása, ha x L. Megfordítva: Tegyük fel, hogy L felismerhető egy nemdeterminisztikus Turing-géppel. Feltehetjük, hogy L nemüres és legyen a L. Álljon a L # a T Turing-gép összes véges legális számolásaiból. Nyilvánvaló, hogy L # rekurzív. Legyen S egy olyan Turing-gép, amely y bemenetre eldönti, hogy az L # -ban van-e, és ha igen, akkor olyan legális számolást ír le, amely egy x szót elfogad. Ha igen, akkor nyomtassa ki az x szót, ha nem, akkor nyomtassa ki az a szót. Nyilvánvaló, hogy az S által definiált rekurzív függvény értékkészlete éppen L. 79

80 6.2. Nemdeterminisztikus algoritusok bonyolultsága 80 Legyen Σ 0 egy véges ábécé, L Σ 0. Legyenek továbbá f és g függvények, ahol g(n) n. Azt mondjuk, hogy L-nek az L 0 DTIME(g(n)) nyelv f(n) hosszúságú g(n) idejű tanúja akkor és csak akkor, ha van olyan y Σ 0 szó, hogy y f( x ) és x&y L 0 (itt az & jel az x és y szavak elválasztására szolgál). Tétel: Minden L NTIME(f(n)) nyelvnek van O(f(n)) hosszúságú, lineáris idejű tanúja. Ha egy L nyelvnek van f(n) hosszúságú, g(n) idejű tanúja, akkor L NTIME(g(f(n) + n + 1)).

81 Következmény: Tetszőleges L Σ 0 ekvivalensek: nyelvre az alábbi tulajdonságok 81 L felismerhető nemdeterminisztikus Turing-gépen polinomiális időben. L-nek van polinomiális idejű és hosszúságú tanúja. Ebben a következményben kimondott tulajdonságú nyelvek osztályát NP-vel jelöljük. Azon L nyelvek, amelyekre Σ 0 \ L NP alkotják a co-np osztályt. P, NP és co-np osztályok kapcsolata

82 Megjegyzés: Számos nyelv a tanújával van megadva, pontosabban a tanú definíciójában szereplő L 0 nyelv és f(n) függvény által. Ilyen esetekben nemcsak azt kérdezhetjük, hogy egy adott x szó L-ban van-e (vagyis létezik-e olyan y, hogy y f(n) és x&y L 0 ), hanem igen fontos kérdés lehet, hogy találjunk egy ilyen x-hez tartozó y tanúszót. Ezt a feladatot az L nyelvhez tartozó kereső feladatnak nevezzük. Például: minden természetes számnak van prímfelbontása, de nem könnyű megtalálni. Mivel minden determinisztikus Turing-gép egyben nemdeterminisztikus is egyben, ezért nyilvánvaló, hogy DTIME(f(n)) NTIME(f(n)). 82

83 Tétel: Legyen f egy jól számolható függvény. Ekkor 83 NTIME(f(n)) DSPACE(f(n)), NSPACE(f(n)) c>0 DTIME(2cf(n) ). Tétel: Savitch-tétel Ha f(n) jól számolható és f(n) log n, akkor NSPACE(f(n)) DSPACE(f(n) 2 ) (azaz a tárigényt nem csökkenti jelentősen, ha nemdeterminisztikus Turing-gépet használunk). Következmény: Nincs értelme bevezetni a polinomiális tárral nemdeterminisztikus Turing-géppel felismerhető nyelvek osztályát, mert ez nem vezet új fogalomhoz, azaz PSPACE = NPSPACE.

84 6.3. Példák NP-beli nyelvekre 84 Gráfok A gráf alatt többszörös és hurokél nélküli úgynevezett egyszerű gráfot értünk (irányítatlan). Egy ilyen gráf egyértelműen leírható adjacencia mátrixának főátló feletti részével, amely sorfolytonosan írva egy {0, 1} n2 -beli szót alkot (n mindig a gráf csúcsainak számát jelenti). Így a gráfok egy tulajdonságát úgy tekinthetjük, mint a {0, 1} feletti nyelvet. Beszélhetünk arról, hogy egy gráf tulajdonság NP-ben van (ha nem így adjuk meg a gráfot, akkor sem változik a tulajdonság NP-beli volta, ugyanis ezeket a reprezentációkat könnyű egymásból polinomiális időben kiszámítani). Ilyen módon NP-ben vannak az alábbi gráf tulajdonságok:

85 a) Összefüggőség: Tanú: ( n 2) db út, minden pontpárra egy-egy. b) Nem összefüggőség: Tanú: a ponthalmaz egy valódi részhalmaza, melyet nem köt össze él a többi ponttal. c) Síkba rajzolhatóság: Első lehetőség: Tanú: a konkrét lerajzolhatóság. Ez mindig megvalósítható úgy, hogy az élek egyenes szakaszok, és így elegendő a csúcsok koordinátáit megadni. Vigyázni kell azonban, hogy a csúcsok koordinátái elvileg bármekkora nagyok lehetnek, így a tanú hosszára tett kikötés nem teljesül (bizonyítható, hogy mindig síkbarajzolható úgy is, hogy minden éle egyenes és minden csúcs koordinátái olyan egész számok, melyek jegyei polinomiálisak n-ben). Tétel: Euler tétel Egy összefüggő síkbeli n csúcsú és m élű gráf n + m 2 tartománnyal rendelkezik. 85

86 Másik lehetőség: Euler-formula: legyen n csúcsú, m élű gráf. Minden országban (vagy tartományban) megadjuk a határoló zárt élsorozatot. Ebben az esetben elegendő azt ellenőrizni, hogy minden él pontosan 2-ben van benne és az élsorozatok száma n + m 2. d) Síkba nem rajzolhatóság: Tanú: a síkba nem rajzolható részgráf. Tétel: Kuratowski tétel Egy gráf akkor és csak akkor síkba rajzolható, ha nem tartalmaz olyan részgráfot, mely élek felosztásával jön létre a teljes ötszög vagy a 3 ház 3 kút gráfból. 86

87 e) Teljes párosítás létezése: Tanú: a párosítás. f) Teljes párosítás nem létezése: Tétel: Frobenius tétel Egy G páros gráfban akkor és csak akkor van teljes párosítás, ha ugyanannyi alsó és felső pontja van, és az alsó pontjai közül választott bármely X ponthalmaznak legalább X szomszédja van. Így a tanú a teljes párosítás nem létezésére az X halmaz, amelynek nincs legalább X szomszédja. Tétel: Tutte tétel Egy G gráfban akkor és csak akkor van teljes párosítás, a gráf pontjainak X halmazát elhagyva, a maradék gráf páratlan pontszámú összefüggő komponenseinek a száma legfeljebb X. Tanú: az az X ponthalmaz, melyet elhagyva túl sok páratlan komponens keletkezik. 87

88 g) Hamilton kör létezése: Tanú: a Hamilton kör 88 h) Három színnel való szinezhetőség: Tanú: a szinezés Összefoglalva: A a)-f) tulajdonságok P-ben vannak: a,b esetben szélességi vagy mélységi kereséssel, c,d esetben polinomiális idejű algoritmus adott Hopcroft és Tarjan, e,f esetben magyar módszer (Egerváry, Kőnig), nem páros gráfokra Edmonds. A g) és h) tulajdonságokra nem ismert ilyen (polinomiális idejű) algoritmus.

89 Algebrai és számelméleti algoritmusok 89 Minden természetes számot tekinthetünk úgy, mint egy {0, 1} -beli szót (kettes számrendszerben felírva). Ebben az értelemben NP-ben vannak az alábbi tulajdonságok: i) Összetettség: Tanú: egy valódi osztó j) Prímség: Tétel: Egy n 2 természetes szám akkor és csak akkor prím, ha van olyan a természetes szám, melyre a n 1 1 (mod n), de a m 1 (mod n), ha 1 m < n 1. Így a tanú az n szám prímségére az a szám. k) Korlátos osztó létezése: az n számról nem elég azt eldönteni, hogy prím-e, hanem ha nem prím akkor egy valódi osztóját is meg szeretnénk találni.

90 Ha ezt meg tudjuk oldani akkor a teljes prímfelbontást ennek ismételgetésével meg tudjuk oldani. Probléma: Adott két természetes szám: n és k. Van-e n-nek k-nál nem nagyobb valódi osztója? Ez egy NP-beli probléma, Tanú: az osztó. l) Polinom irreducibilitása a Q felett: Tanú: egy valódi osztó. m) Ax b egyenlőtlenségrendszer esetén megoldás létezése: Legyen A egy m n-es egész mátrix, b pedig egy oszlopvektor. Tanú: a megoldás. NP-ben van. n) A megoldás nem létezése: Lemma: Farkas Ax b akkor és csak akkor nem oldható meg, ha az y T A = 0, y T b = 1, y 0 egyenlőtlenségrendszer megoldható. Tanú: az egyenlőtlenségrendszer megoldása. 90

91 Sok NP-beli tulajdonság tagadása is NP-ben van. 91 Igen sokszor igaz, hogy ha egy tulajdonság (nyelv) NP co-np-ben van, akkor P-ben is benne van. Ez nincs általánosan belátva (nem is várható). Más NP-beli problémák megadása polinomiálisan reménytelennek tűnik, nehezen kezelhetőek (pl. Hamilton-kör, gráf szinezés). Nem tudjuk, hogy ezek nincsennek-e P-ben, azaz, hogy NP = P igaz-e.

92 6.4. NP teljesség 92 Definíció: Azt mondjuk, hogy az L 1 Σ 1 nyelv polinomiálisan visszavezethető az L 2 Σ 2 nyelvre, ha van olyan polinomiális időben kiszámítható függvény f : Σ 1 Σ 2, hogy minden x Σ 1 szóra x L 1 f(x) L 2. Tétel: Ha L 1 polinomiálisan visszavezethető L 2 -re, és L 2 polinomiálisan visszavezethető L 3 -ra, akkor L 1 polinomiálisan visszavezethető L 3 -ra. Tétel: Ha egy nyelv P-ben van, akkor minden rá polinomiálisan visszavezethető nyelv is P-ben van. Ha egy nyelv NP-ben van, akkor minden rá polinomiálisan visszavezethető nyelv is NP-ben van.

93 Definíció: Egy NP-beli L nyelvet NP-teljesnek nevezünk, ha minden NP-beli nyelv polinomiálisan visszavezethető L-re. 93 Nyilvánvaló, hogy ha egy NP-teljes L 1 nyelv polinomiálisan visszavezethető egy L 2 nyelvre, akkor L 2 is NP-teljes. Első cél: egy NP-teljes nyelv megadása, utána (visszavezetéssel) sok más problémáról is bebizonyítjuk, hogy NP-teljes. Definíció: Egy Boole-polinomot kielégíthetőnek nevezünk, ha az általa definiált Boole-függvény nem azonosan 0. A Kielégíthetőség Probléma az, hogy adott f Boole-polinomról döntsük el, hogy kielégíthető-e. A problémát általában abban az esetben tekintjük, amikor a Boole-polinom egy konjunktív normálforma.

94 Minden konjunktív normálformát úgy is tekinthetünk, mint az x, 0, 1, +,, és jelekből álló ábécé fölötti szót (a változók indexeit kettes számrendszerben írjuk föl). Jelölje SAT a kielégíthető konjunktív normálformák által alkotott nyelvet. Tétel: Cook-Levin A SAT nyelv NP-teljes. Bizonyítás: Legyen L tetszőleges NP-beli nyelv. Ekkor létezik olyan T = k, Σ, Γ, α, β, γ nem-determinisztikus Turing-gép és léteznek olyan c, c 1 > 0 egész számok, hogy T L-et c 1 n c időben fölismeri. Feltehetjük, hogy k = 1. Tekintsünk egy tetszőleges h 1... h n Σ szót. Legyen N = c 1 n c. Vezessük be az alábbi változókat: 94

95 Bizonyítás: (folytatás) 95 x[n, g] (0 n N, g Γ), y[n, p] (0 n N, N p N), z[n, p, h] (0 n N, N p N, h Σ). Ha adott a T gép egy legális számolása, akkor adjuk ezeknek a változóknak a következő értéket: x[n, g] igaz, ha az n-edik lépés után a vezérlőegység a g állapotban van; y[n, p] igaz, ha az n-edik lépés után a fej a szalag p-edik mezején tartózkodik; z[n, p, h] igaz, ha az n-edik lépés után a szalag p-edik mezején a h jel áll. Nyilvánvaló, hogy az x, y, z változók a Turing-gép számolását egyértelműen meghatározzák (nem fog azonban a változók minden lehetséges értéke a Turing-gép egy számolásának megfelelni).