Marton József BME-TMIT. Adatbázisok VITMAB november 11.

Átírás

1 Marton József BME-TMIT Gajdos Sándor diasorának felhasználásával Adatbázisok VITMAB november 11.

2 A lekérdezés-feldolgozás folyamata I. Cél: az adatok adatbázisból való kinyerése Mivel: egyértelmű, deklaratív megfogalmazás Hogyan: lássuk...

3 A lekérdezés-feldolgozás folyamata II. 1. Elemzés (szintaktikus), fordítás helyesség-vizsgálat valamilyen belső reprezentációba hozzuk 2. Költségoptimalizálás Egyértelmű a lekérdezés, ill. a belső reprezentáció a kiértékelés módját és a lépések sorrjét tekintve? Formális módszerekkel ekvivalens alakok készítése Hogyan kell kiértékelni? Jobb-e egyik mint a másik (optimális)? Mi szerint optimális? Összefoglalva: optimalizációs stratégiák alapján végrehajtási terveket kell készíteni, amelyeket előbb értékelni kell, majd közülük a legjobbat kiválasztani 3. Kiértékelés

4 Példa I. SQL és relációalgebra Employee (employee id, last name, first name, birth date,... ) Project (project id, p name,... ) Works on (project id, employee id) select last_name from employee, works_on, project where employee.birth_date > and works_on.project_id = project.project_id and works_on.employee_id = employee.employee_id and project.p_name = Aquarius π last name ( (σbirth date> (E)) W ( σ p name= Aquarius (P)))

5 Példa II. Egy lehetséges relációalgebrai fa σ birth date= π last name works on σ p name= Aquarius project employee

6 A lekérdezés-feldolgozás folyamata III. 1. Példa: SQL, relációs algebrai fa 2. Elemi műveletek (kiértékelési primitívek). Relációs algebrai belső reprezentáció esetén ezek,,sorrje (egymásra épülése) a relációs algebrai fa. 3. Hogyan kell az egyes műveleteket: egy szelekciót végrehajtani? (lineáris, bináris, index?) És a join? 4. Hogyan kell a műveletek összességét kiértékelni? Materializáció/pipelining (workflow) 5. A végrehajtási terv: 5.1 műveletek és,,sorrjük (relációs algebrai fa) 5.2 algoritmus-hozzárelés 5.3 workflow-választás

7 Egy operandusú műveletek azonosságai 1. Szelekció kaszkádosítása: σ θ1 θ 2 (E) = σ θ1 (σ θ2 (E)) 2. A szelekció kommutativitása: σ θ1 (σ θ2 (E)) = σ θ2 (σ θ1 (E)) 3. Projekció kaszkádosítása: π L1 (π L2 (... π Ln (E)...)) = π L1 (E)

8 Illesztés-jellegű műveletek azonosságai 4. A Θ-illesztés és a Descartes-szorzat kapcsolata: 5. A Θ-illesztés kommutativitása: σ θ (E 1 E 2 ) = E 1 E 2 θ ) σ θ1 (E 1 E 2 = E 1 E 2 θ 2 θ 1 θ 2 E 1 θ E 2 = E 2 θ 6. A természetes illesztés asszociativitása (Descartes-szorzat hasonlóan): E 1 (E 1 E 2 ) E 3 = E 1 (E 2 E 3 )

9 Illesztés-jellegű műveletek azonosságai folytatás 7. A szelekció művelet disztributivitása a Θ-illesztés felett, ha a θ 0 csak E 1 -beli attribútumokat tartalmaz: σ θ0 (E 1 θ E 2 ) = σ θ0 (E 1 ) θ 8. A projekció disztributív a Θ-illesztés felett, ha L 1 és L 2 E 1, illetve E 2 -beli attribútumokat tartalmaz, és az illesztés feltételében csak L 1 L 2 -beli attribútumok vannak: π L1 L 2 (E 1 θ E 2 ) = (π L1 (E 1 )) θ E 2 (π L2 (E 2 ))

10 Heurisztikus (szabály-alapú) optimalizálás Tapasztalatok alapján: Átalakítási lépések 1. kiindulás: kanonikus alak 2. szelekciók süllyesztése (kaszkádosítás után) 3. levelek átrezése (asszociativitás) 4. Θ-illesztés bevezetése 5. projekció süllyesztése (újak bevezetése) Algoritmus- és workflow-hozzárelés Relációalgebrai kifejezés kanonikus alakja: egyetlen projekció egyetlen szelekció Descartes-szorzatok

11 Példa I. SQL és relációalgebra Employee (employee id, last name, first name, birth date,... ) Project (project id, p name,... ) Works on (project id, employee id) select last_name from employee, works_on, project where employee.birth_date > and works_on.project_id = project.project_id and works_on.employee_id = employee.employee_id and project.p_name = Aquarius π last name ( (σbirth date> (E)) W ( σ p name= Aquarius (P)))

12 Kiindulás Kanonikus alak π last name σ birth date= p name= Aquarius W.p id=p.p id W.e id=e.e id project employee works on

13 Átalakítás Szelekciók süllyesztése kaszkádosítás után π last name σ W.p id=p.p id σ W.e id=e.e id σ p name= Aquarius project σ birth date= works on employee

14 Átalakítás Levelek átrezése π last name σ W.e id=e.e id σ W.p id=p.p id σ birth date= employee σ p name= Aquarius works on project

15 Átalakítás Θ-illesztés bevezetése π last name W.e id=e.e id W.p id=p.p id σ birth date= σ p name= Aquarius works on employee project

16 Átalakítás Projekció süllyesztése újak bevezetése π last name W.e id=e.e id π W.e id π E.e id,e.last name W.p id=p.p id σ birth date= π P.p id π W.e id,w.p id employee σ p name= Aquarius works on project

17 Költség-alapú optimalizálás Áttekintés 1. Szintaktikai elemzés, fordítás 2. Költségoptimalizálás 3. Kiértékelés Költség-mérték lehetne: válaszidő, CPU idő, más erőforrás-szükséglet legyen a költség a diszk blokkok olvasásának és írásának a száma azzal a további megszorítással, hogy az írásba csak a köztes blokkírások számát számítjuk bele, hiszen a végeredmény kíırása mindenképpen szükséges. E alg : az algoritmus becsült költsége

18 Katalógusinformáció A relációkról n r : az r reláció rekordszáma b r : az r relációt tartalmazó blokkok száma s r : az r reláció egy rekordjának nagysága bájtokban f r : mennyi rekord fér az r reláció egy blokkjába V(A, r): hány különböző értéke fordul elő az A attribútumnak az r relációban. V(A, r) = π A (r). Speciálisan, ha az A kulcs, akkor V(A, r) = n r. SC(A, r): az A attribútumra egyenlőségi feltételt kielégítő rekordok átlagos száma, ha legalább egy rekord kielégíti ezt az egyenlőségi feltételt. Ha A szuperkulcs: SC(A, r) = 1. Általánosságban: SC(A, r) = nr V(A,r).

19 Katalógusinformáció Az indexekről f i : az átlagos pointer-szám a fa struktúrájú indexek csomópontjaiban, mint pl. a B* fáknál, azaz a csomópontokból induló ágak átlagos száma. HT i : az i index szintjeinek a száma, azaz az index magassága (Height of Tree). Az r relációt tartalmazó heap-szervezésű állományra épített B* fa esetén HT i = log fi b r, ill. hash-állománynál HTi = 1. LB i : az i index legalsó szintű blokkjainak a száma, azaz a levélszintű indexblokkok száma (Lowest level index Block).

20 Műveletek és algoritmusok szelekció egyenlőségi feltételre alap: lineáris, bináris indexelt: elsődleges index kulcson, elsődleges index nem kulcson, másodlagos index join típusai:, Θ-illesztés, külső illesztések algoritmusok: jön... egyéb műveletek rezés ismétlődések szűrése, projekció unió, metszet, különbség aggregáció

21 Szelekciós algoritmusok Egyenlőségi feltételre A1: Lineáris keresés: E A1 = b r A2: Bináris keresés: E A2 = log 2 b r + SC(A,r) f r 1 A3: Elsődleges index használatával, egyenlőségi feltételt a kulcson vizsgálunk: E A3 = HT i + 1 A4: Elsődleges index használatával egyenlőségi feltétel nem a kulcson: E A4 = HT i + SC(A,r) f r A5: Másodlagos index használatával: E A5 = HT i + SC(A, r) Ha az A egyediséget biztosít, akkor E A5 = HT i + 1.

22 Szelekciós algoritmusok Összehasonĺıtás-alapú szelekció σ A v (r) alakú lekérdezés becsült rekordszáma (c): Ha v értékét nem ismerjük: nr 2 ( Ha v ismert, és egyenletes az eloszlás: n r A6: Elsődleges index használatával: E A6 = HT i + br 2 Ha v ismert: E A6 = HT i + c fr A7: Másodlagos index használatával: E A7 = HT i + LB i 2 + nr 2 v min(a,r) max(a,r) min(a,r) )

23 Join-algoritmusok A nested loop join-algoritmus I. for minden t r r rekordra do for minden t s s rekordra do if a (t r, t s ) pár kielégíti az illesztés θ feltételét then a t r t s rekordot az eredményhez adjuk Költsége:,,worst-case : b r + n r b s ha s elfér a memóriában: b r + b s

24 Join-algoritmusok A block nested loop join-algoritmus for minden b r r blokkra do for minden b s s blokkra do for minden t r b r rekordra do for minden t s b s rekordra do if a (t r, t s ) pár kielégíti az illesztés θ feltételét then a t r t s rekordot az eredményhez adjuk,,worst-case költsége: b r + b r b s ha s elfér a memóriában: b r + b s

25 Join-algoritmusok A nested loop join-algoritmus család for minden t r r rekordra do for minden t s s rekordra do if a (t r, t s ) pár kielégíti az illesztés θ feltételét then a t r t s rekordot az eredményhez adjuk

26 Join-algoritmusok A nested loop join-algoritmus család for minden t r r rekordra do for minden t s s rekordra do if a (t r, t s ) pár kielégíti az illesztés θ feltételét then a t r t s rekordot az eredményhez adjuk for minden t r r rekordra do Lineáris keresés t r szerint: minden t s s rekordra

27 Join-algoritmusok A nested loop join-algoritmus család for minden t r r rekordra do for minden t s s rekordra do if a (t r, t s ) pár kielégíti az illesztés θ feltételét then a t r t s rekordot az eredményhez adjuk for minden t r r rekordra do Lineáris keresés t r szerint: minden t s s rekordra A nested loop join-algoritmus család: indexelt nested loop: indexelt keresés s-ben hash join: hash-keresés s-ben

28 Join-algoritmusok A merge join 1. r és s rezése a join attribútum szerint 2. a két reláció blokkjainak párhuzamos olvasása, találatok kíırása Költsége: b r + b s + a rezés költsége

29 Kifejezéskiértékelés módjai 1. Materializáció egyszerre egy művelet eredményének teljes kiszámítása részeredmény tárolása (,,költség-hátrány ) előnye: egyszerű implementálni 2. Pipelining egymásra épülő műveletek szimultán kiértékelése nem számítja ki előre a részeredményeket: igény- vagy termelőirányított előnye: kiküszöböli a materializáció,,költség-hátrányát hátránya: nem minden algoritmus ill. művelet támogatja

30 Végrehajtási terv (rezzük, hogy a másodpéldányokat kiejtsük) (merge join) πügyfél név betétes (hash join) (csővezeték) (csővezeték) σ fiók település = Bázel σ egyenleg < 1000 (1. index használatával) (lineáris olvasás használatával) fiók számla

31 Költség-alapú optimalizálás Végszó Egyszerre jó és rossz: minden ekvivalens alak vizsgálata optimális terv túl sok munka n reláció illesztése általános esetben: (2 (n 1))! (n 1)! n = 3: 6; n = 7: ; n = 10: több mint 17,6 milliárd Megoldás: heurisztikus költség-alapú optimalizálás emberi optimalizálás: a konkrét szemantika ismerete alapján nagyobb szabadságfok a módszerek körében szélsőséges helyzetekre jobban felkészíthető statikus