Modern adattárház építés Data Vault alapokon. Gollnhofer Gábor Meta Consulting Kft.

Átírás

1 Modern adattárház építés Data Vault alapokon Gollnhofer Gábor Meta Consulting Kft.

2 Bevezetés Ki kicsoda? Rövid bemutatkozás Miért vagyok itt? Eddigi DW-s tapasztalataim Mit szeretnék megtudni? Adminisztráció, környezet Kahoot.it Bevezetes és BudapestData_DWautomation_1_Intro 2

3 Modern adattárház építés workshop Témák Adattárház architektúrák Modern DW technológiák - szünet - Data Vault módszertan DW automatizáció - ebédszünet - Kapcsolódó workshopok (vizualizáció, gépi tanulás, big data) 3

4 Technológia & IT Üzlet & Management A tudás piramis (DIKW) Bölcsesség = alkalmazott tudás Tudás = az elemzés eredménye Információ = feldolgozott adatok (strukturált & kontextus) Nyers adatok = tények/megfigyelések strukturált, nem strukturált 4

5 Adatok vs. programok/szabályok/folyamatok 5

6 Az EDW-vel szembeni elvárások A vállalati adatvagyon integrált tárháza Stabil, megbízható működés Jó teljesítményű, méretezhető, bővíthető Költség hatékony Rugalmas, agilis Változó környezet, adatforrások, felhasználások Auditálható, a szabályoknak megfelelő (külső/belső) Adatok, folyamatok, lekérdezések/riportok Felhasználói módosítások (pl. csoportosítások) 6

7 Architektúra 7

8 Adattárház architektúra Hagyományos Data Lake Lambda Kappa Virtuális Egyéb? 8

9 Oracle Information Management & Big Data Reference Architecture Hagyományos / Lambda / Kappa / egyéb? 9

10 Lambda architektúra Az adatok relevanciája Forrás: 10

11 Kappa architektúra Kappa = egyszerűsített Lambda Forrás: Érdemes elolvasni: A brief introduction to two data processing architectures Lambda and Kappa for Big Data ( 11

12 Modern DW technológiák Adatbázisok Relációs NoSQL Adatmozgatás ETL/ELT Streaming CDC Kiaknázás Önkiszolgáló BI Data Science Alapelemek On-premise/Could/Hibrid Metaadatok/Governance Biztonság (GDPR?) 12

13 Adatbázisok Relációs vs. NoSQL In-memory vs. Diszk Row vs. Columnar ACID vs. CAP 13

14 Adatmozgatás ETL/ELT Streaming CDC 14

15 Adatmozgatás ETL/ELT ETL = Extract-Transform-Load A klasszikus felépítés Dedikált ETL szerver Teljesen(?) átalakított adatok töltődnek az adatbázisba Pl. Data Stage, Talend ELT = Extract-Load-Transform Ha már van adatkezelésre optimalizált szerver, használjuk! Az extraktált adatok töltődnek az adatbázisba, ott történik az átalakításuk Pl. WhereScape, Oracle Data Integrator ETLT? és egyéb kombinációk 15

16 Adatmozgatás Adatmozgatási modellek 16

17 Kiaknázás Önkiszolgáló BI Data Science Lásd. délutáni workshopok!!! Példa dashboard következő oldal 17

18 Kiaknázás (Dashboard) 18

19 Alapelemek On-prem/Could/Hibrid 19

20 Alapelemek Metaadatok/Governance 20

21 Szünet előtt: Kahoot.it _2

22 Mi a modellezés célja? Forrás: Insights into Modeling NoSQL A DATAVERSITY 2015 Report 22

23 Több vagy kevesebb modellezés? Forrás: Insights into Modeling NoSQL A DATAVERSITY 2015 Report 23

24 Hogyan modellezzünk? 24

25 Az 5 (6-7) kérdés (5Ws [+1H]) Ki (Who) Mit (What) Miért (Why) Hol (Where) Mikor (When) Hogyan (How) Rudyard Kipling: The Elephant's Child I keep six honest serving-men (They taught me all I knew); Their names are What and Why and When And How and Where and Who Plusz: Mennyi (how many) Kivel/kinek (to whom) Mivel (with what) 25

26 Több jó modell is létezhet!!! Specifikus vs. absztrakt A világegyetem modellje: 26

27 Specifikus vs. Absztrakt pl. rekurzív struktúrák 1. szint Forrás: Len Silverston, Paul Agnew: The Data Model Resource Book: Volume 3: Universal Patterns for Data Modeling 27

30 DW-s modellezési módszerek pozícionálása (forrás: Lars Rönnbäck) 30

31 Mi a Data Vault? Architektúra Többszintű Jól méretezhető Relációs és NoSQL támogatás Normalizált táblák egyértelműen összekötött halmaza Adatmodell Rugalmas Részletes adatok Történetiség kezelés (mindig, mindenhol) Egy vagy több üzleti területet támogat Hub & Spoke Módszertan A DW/BI legjobb gyakorlat (best-practice) alapján Ismételhető, konzisztens, optimalizált Projekttervezés, kockázatkezelés, verziókezelés, stb. The Data Vault is the optimal choice for modeling the EDW in the DW 2.0 framework. Bill Inmon 31

32 Data Vault 2.0 változások Adatmodell Hash-ek (ID-k helyett) Töltési template-ek Insert-only DW NoSQL modellezés Architektúra Information Mart (Business Vault, Data Mart) Virtualizáció NoSQL támogatás Módszertan Agile, CMMI és Six Sigma alapokon 32

33 Hibrid Data Vault 2.0 architektúra Forrás: Scalefree (Dan Linstedt & Michael Olschimke) 33

34 A Data Vault modellezés előnyei Teljes körű All the data all the time Auditálható, compliance Rugalmas Gyorsan kialakítható, módosítható Rugalmas, egyszerű struktúrák Egyszerűen tölthető (generálható ETL eljárások) Segíti az agilis IT-t Teljesítmény Gyors, parallel töltések Könnyen bővíthető, jól skálázható Stage töltések Data Vault töltések Adatpiacok betöltései Adatforrás Stage DV (H,L,S) BV (H,L,S,P,B) Dimenziók Tények Fontos szinkronizációs pontok 34

35 A Data Vault adatmodellezés Adatmodellezési módszer, mint a 3NF vagy dimenziós 3. normál forma (3NF) operatív rendszerek Dimenziós data mart / OLAP / elemzések Data Vault vállalati adattárház 3NF Data Vault Dimenziós Értékesítés Pénzügy Gyártás Vállalati adattárház Adatpiac 1 Adatpiac 2 Adatpiac 3 Adatpiac 4 35

36 A Data Vault modell alapelemei HUB Primary Key (HASH) Business Key Load Date & Time Record Source LINK Primary Key (HASH) HUB_1 Key HUB_n Key Load Date & Time Record Source Hub Az üzleti kulcsok (Business Key) egyedi listája Link A Hub-ok közötti kapcsolatok (mindig N:M) egyedi listája Satellite A leíró adatok, teljes történetiség kezeléssel A Sat-nak egy és csak egy szülő táblája van (Hub vagy Link) SAT Primary Key (HASH) HUB/LINK Key Load Date & Time Load End Date & Time Record Source 36

37 A Data Vault színei Hub, Link, Sat 37

38 A Data Vault elemei - HUB A Hub az adott entitáshoz tartozó egyedi üzleti kulcsokat (természetes kulcsokat) tartalmazza Soft integrációs pont a különböző forrásokból származó szemantikailag azonos elemekre. Struktúrája: DV HASH - mesterséges kulcs (MD5/SHA/stb. hash a BK-n) Forrás rendszeri kulcs (üzleti kulcs Business Key) - Lehet összetett kulcs is Betöltés timestamp (Load Date TS - LOAD_DTS) amikor először láttuk ezt a kulcsot a DW-ben (forrásadatban) Rekord forrás jelölő (RECORD_SRC) - nyomon követhetőséghez és spec. elemzésekhez Utolsó timestamp (Last Seen Date TS) - Opcionális amikor utoljára láttuk ezt a kulcsot a DW-ben (forrásadatban) 38

39 A Data Vault elemei - HUB A Hub az adott entitáshoz tartozó egyedi üzleti kulcsokat (természetes kulcsokat) tartalmazza. Ügyfél HUB Ugyfel_Hash Ugyfelszam Load_DTS Record_Src 7f2208d6f5c634e5bb5591d277ce8d1f CR1A CRM 28666b283ce0a0bfa26df a769 CR1A CRM 3c9ebb086069ce63856d9df46e0b4ab5 CC5A SALES 9e2208d6f5c634e5bb5591d277cea67c CC3A SALES 86aa6b283ce0a0bfa26df bc7f CR1A SALES 5d0dbb086069ce63856d9df46e0b3ecd CR2A SALES 4a3208d6f5c634e5bb5591d277ce97ea CC5A FINANCE 13ef6b283ce0a0bfa26df bde CC3A SALES 01a2bb086069ce63856d9df46e0b9875 CR2A SALES a3d208d6f5c634e5bb5591d277ce19bc CR1A CRM 39

40 A Data Vault elemei - HUB Jellemző HUB területek: Termék Ügyfél Dolgozó Szállító Érdeklődő Címek Telefonszámok Vevői rendelés Szállítói rendelés 40

41 A Data Vault elemei - LINK A Link az üzleti kulcsok közötti kapcsolatokat jelenti A Link részletezettsége (grain) a szülő kulcsai által definiált Minden Link egy adott Unit Of Work-öt (UOW) testesít meg A Link célja, hogy az adatelemek közötti legrészletesebb kapcsolatot tárolja (múlt, jelen és jövőbeli kapcsolatot is) Szabályai: Egy vagy több Hub vagy Link kulcsot (DV HASH) tartalmaz (FK a HUB/LINK felé) minimum egy FK kötelező Lehet saját satellite táblája/táblái A Load date-től a Last seen date-ig érvényes, vagy ahogy a link-satellite meghatározza Az adatpiacban Tény táblák lesznek belőle (jellemzően) 41

42 A Data Vault elemei - LINK A Link több-a-többes (N:M) kapcsolatot tesz lehetővé! Megengedett struktúrája: DV HASH mesterséges kulcs (HASH) Hub/Link kulcs(ok) idegen kulcs (FK: HASH), a kapcsolódó elemeket határozza meg (UOW és unique idx) Betöltés timestamp (Load Date TS) amikor először láttuk ezt a kapcsolatot Rekord forrás jelölő (RECORD_SRC) nyomon követhetőséghez és spec. elemzésekhez Utolsó timestamp (Last Seen Date TS) - Opcionális amikor utoljára láttuk ezt a kulcsot a DW-ben (forrásadatban) 42

43 A Data Vault elemei - LINK A Link az üzleti kulcsok közötti kapcsolatokat jelenti Ügyfél HUB Ugyfel_Hash Ugyfelszam Load_DTS Record_Src 7f2208d6f5c634e5bb5591d277ce8d1f CR1A CRM 28666b283ce0a0bfa26df a769 CR1A CRM 3c9ebb086069ce63856d9df46e0b4ab5 CC5A SALES Ügyfél - Kapcsolattartó LINK Ugyfel_Kapcsolattarto_Hash Ugyfel_Hash Kapcsolattarto_Hash Load_DTS Record_Src b f...1f e2...ef SALES 5d...cd cf...ba HR 4a...ea 3c...b5 e2...ef SALES 9e...7c 7f...1f cf...ba SALES Kapcsolattartó HUB Kapcsolattarto_Hash Kapcsolattarto_kod Load_DTS Record_Src e a46d9bc94311a2249de0c8ef GABORG SALES cf2b0d09b0567e0b3697f0e7adbc6eba GEDIT HR 43

44 A Data Vault elemei - LINK A Link-ek definiálásánál fontos: Link részletezettsége (Unit-of-Work UOW) Link meghatározó kulcsa (driving key) Link típus (sima, same-as, hierarchical, transactional, stb.) 44

45 LINK Unit-of-Work (UoW) 1. Kapcsolatok felbontása (linkek létrehozása) 45

46 LINK Unit-of-Work (UoW) 2. Kapcsolatok felbontása (helyesen) 46

47 LINK meghatározó kulcsa (Driving key) Szabályok/feltételezések: A Link kulcsa összetett kulcs De a Link üzleti PK-ja lehet szűkebb!!! Pl. egy dolgozó egy időben csak egy osztályon dolgozhat A Link történetét a SAT-ok kezelik Példa: Dolgozó 1; Osztály SY majd átmegy máshová Dolgozó 1; Osztály DW Hogyan követjük le? 47

48 LINK meghatározó kulcsa (Driving key) Példa: Hiába összetett a kulcs, csak a Dolgozó azonosítót (BusinessEntityID) követjük. Azaz, új LINK rekordot veszünk fel, Új SAT rekordot veszünk fel hozzá, és, a régi LINKhez tartozó SAT rekordot lezárjuk. A történetiség kezelést ez a kulcs vezérli (driving key) 48

49 A Data Vault elemei - SATELLITE A Satellite írja le a hub vagy link jellemzőit Történetiséget kezel, hasonlóan a Type-2 dimenzióhoz Megengedett struktúrája: Hub/Link kulcs (FK a Hub/Link PK-ra; HASH) Betöltés timestamp (Load Date TS) érvényesség kezdete Utolsó timestamp (Load End Date TS) érvényesség vége (opcionális insert only DW) Rekord forrás jelölő (RECORD_SRC) nyomon követhetőséghez és spec. elemzésekhez Hash diff (Opcionális; HASH alapú CDC-hez használható) Leíró/tartalmi jellegű attribútumok 49

50 A Data Vault elemei - SATELLITE Egy Hub v. Link Satellite-ja több Sat-ra is szétosztható: Oszlopok adattípusa alapján (vertical partitioning) Változási gyakoriság alapján Adatforrásai alapján (EZ A BEST PRACTICE!) SAT-ok felhasználási módjai: Effectivity Sat (mitől meddig érvényes a hivatkozott Link) Record Tracking Sat (mikor, mit, honnan kaptunk) Status Tracking (adott Hub/Link BK státuszát követi: I/U/D) Computed Sat (ha véletlenül a DV-ben kellene kalkulálni, pl. hogy ugyanazt kapja minden DM és csak egyszer futtassuk) 50

51 A Data Vault elemei - SATELLITE A Satellite írja le a hub vagy link jellemzőit és történetét Ügyfél HUB Ugyfel_Hash Ugyfelszam Load_DTS Record_Src 7f2208d6f5c634e5bb5591d277ce8d1f CR1A CRM 28666b283ce0a0bfa26df a769 CR1A CRM 3c9ebb086069ce63856d9df46e0b4ab5 CC5A SALES Ügyfélnév SAT Ugyfel_Hash Load_DTS Load_End_DTS Record_Src Hashdiff Csaladnev Keresztnev 7f2208d6f5c634e5bb5591d277ce8d1f CRM 7f22...8d1f Fülig Jimmy 28666b283ce0a0bfa26df a CRM a769 Piszkos Alfréd 3c9ebb086069ce63856d9df46e0b4ab null SALES 3c9e...4ab5 Szőke Ciklon 28666b283ce0a0bfa26df a null CRM bd57 Piszkos Fred 7f2208d6f5c634e5bb5591d277ce8d1f CRM a2ef...85b0 don Fülig Jimmy 7f2208d6f5c634e5bb5591d277ce8d1f null CRM 7f22...8d1f Fülig Jimmy 51

52 A Data Vault elemei - SATELLITE Jellemző SAT adatok: Státuszok Mennyiségek Dátumok Szöveges jellemzők 52

53 A Data Vault elemei - SATELLITE Satellite-ek típusai: Sima Multi-valued v. Multi-active (advanced *) Status tracking (advanced **) Effectivity (advanced **) Record tracking (advanced **) 53

54 Multi-active SATELLITE Egy HUB kulcshoz, egy időben több érvényes/aktív SAT rekord is tartozik (pl. ügyfél telefonszám) A SAT PK-ja a HUB_PK+LOAD_DATE + még valami! leíró jellemző [esetleg sub-sequence] 54

55 Egyéb tábla típusok Referencia táblák Referencia táblák Nem változó kódok és jellemzőik tárolására Pl. országkódok (ISO 3166), devizanem, igen/nem, férfi/nő, kód-leírás párok, stb. A DV része, a HUB-SAT struktúrákhoz hasonlóan épül fel Közvetlenül kapcsolódik a SAT-okhoz, nem építünk LINK-et 55

56 Egyéb tábla típusok PIT (Point-In-Time) táblák A DV lekérdezést és DM töltést segítő táblák Ha több SAT tartozik egy HUB/LINK táblához, akkor ezeknek eltérő lesz a története időszeleteket kell lekérdezni PIT tábla pl. HUB-SAT-SAT táblák adott időpillanatban érvényes sorait köti össze A virtualizált (view) DM megoldás egyik kulcs eleme! Néha csak limitált időtávig őrizzük csak meg az adatait Megengedett struktúrája: PIT szekvencia (ID) HUB/LINK hash key (FK) Snapshot Date SAT1 hash key, SAT1 Load Date SATn hash key, SATn Load Date 56

57 Egyéb tábla típusok Bridge táblák A DV lekérdezést és DM töltést segítő táblák Összetett pl. HUB-LINK-HUB-LINK-HUB kapcsolatok egyszerűsíthetők velük A hivatkozott táblák kulcsait köti össze Megengedett struktúrája: Bridge szekvencia (ID) Snapshot Date HUB/LINK1 hash key (FK) HUB/LINKn hash key (FK) opcionális: leíró jellemzők (SAT) [ha azonos a grain!] 57

58 Data Vault kialakítási alapelvek Célok Gyorsaság, rugalmasság, agilitás Megbízhatóság és compliancy ( All the data all the time ) Jó teljesítmény, méretezhetőség Egyszerűsítés (maximalizáljuk az el nem végzett munkát ) KISS (Keep It Simple & Stupid) A lehető legkevesebb kézi kódolás (használjunk kódgenerátorokat) Adatmodellező eszközök (pl. PowerDesigner, WhereScape 3D), ETL generátorok (pl. WhereScape RED) Nincsenek szintaktikus hibák! Egyszerűbb módosítani (csak újra kell generálni) 58

59 Data Vault kialakítási alapelvek Agilis módszerek támogatása Kis lépésekben is felépíthetjük a vállalati DW-t Rövid, gyors ciklusok (modellezés, táblák kialakítása, ETL kialakítása, feltöltés) FONTOS! Priorizáljuk az adatigényeket. Üzleti szabályok (soft) csak a DV utáni rétegben Hub - a hiányzó üzleti kulcsokat automatikusan felveszi Link - mindig N:M kapcsolatok (nem gond, ha változik a szabály) Párhuzamos feldolgozások Hub-ok egyszerre -> Link-ek egyszerre -> Sat-ok egyszerre DV 2.0-ban lehet minden párhuzamosan 59

60 Data Vault alapú adattárház kialakítása/áttérés Raw DV modell kialakítása Üzleti vagy természetes kulcsok - HUB Megkeresése, elemzése; A redundanciák kiszűrése, konszolidálás Kapcsolatok - LINK Az ezek közötti kapcsolatok megkeresése, elemzése Leíró jellegű adatok SAT A maradék adatok elemzése; Konszolidálás, csoportosítás; Hub vagy Link SAT? EDW kialakítása Alap ETL eljárások, hard business rule -ok, stb. Data Martok (és/vagy Business Data Vault) kialakítása Adatstruktúrák, eljárások ( soft business rule -ok), riportok, stb. 60

61 Adattárház automatizálás Tervezés Fejlesztés Működtetés 61

62 DW tervezés/fejlesztés automatizálás DW tervezés automatizálás célja: Az adattárházak tervezésének támogatása Az adattárház specifikus modellezési elemek kezelése ETL tervezés jobb támogatása Fejlesztés automatizálás célja: DW fejlesztés gyorsítása Egyenletes, jó minőségű megoldás készítés támogatása Hatékony, jó minőségű ETL kód generálás 62

63 DW tervezés/fejlesztés automatizálás Funkciócsoportjai Forrásadat profilozás Forrásmodell elemzés DW modell generálás ETL generálás Dokumentálás Üzemeltetés támogatás 63

64 DEMO PowerDesigner alapú DW fejlesztés automatizálás Egyéb megoldások: WhereScape AnalytixDS Quipu Attunity (volt BIReady) stb. 64

65 Kérdések & válaszok 65

66 Olvasnivalók Adatmodellezés: Data Modeling Made Simple - Enterprise Model Patterns - Data Warehouse & Data Vault: Building a Scalable Data Warehouse with Data Vault 2.0 Super Charge Your Data Warehouse Data Architecture: A Primer for... Modeling the Agile Data Warehouse with Data Vault The Official Data Vault Standards Document (Version 1.0) 66