Felhők teljesítményelemzése felhő alapokon



Hasonló dokumentumok
RHadoop. Kocsis Imre Budapesti Műszaki és Gazdaságtudományi Egyetem Méréstechnika és Információs Rendszerek Tanszék

Big Data elemzési módszerek

Virtualizált környezetek teljesítménymérése és elemzése

KÖFOP VEKOP A jó kormányzást megalapozó közszolgálat-fejlesztés

GENERÁCIÓS ADATBÁZISOK A BIG DATA KÜLÖNBÖZŐ TERÜLETEIN

The nontrivial extraction of implicit, previously unknown, and potentially useful information from data.

IBM felhő menedzsment

Számítási felhők: alkalmazási esetek és teljesítmény

A cloud szolgáltatási modell a közigazgatásban

Párhuzamos és Grid rendszerek

Számítási felhők: alkalmazási esetek és teljesítménymérés

Hadoop és használata az LPDS cloud-on

Automatikus infrastruktúra menedzsment és alkalmazástelepítés

MMK-Informatikai projekt ellenőr képzés 4

Utolsó módosítás: Dr. Pataricza András (Rendszermodellezés) és Kocsis Imre (Big Data elemzési módszerek) idevágó fóliáit felhasználva.

Bárányfelhő vagy viharfelhő? A felhő alapú megoldások biztonsági kérdései. Császár Rudolf Műszaki fejlesztési vezető Digital Kft.

INFORMÁCIÓTECHNOLÓGIA ÉS KOMMUNIKÁCIÓ FELHŐBŐL. HOUG 2013, Siófok

Alkalmazás és megjelenítés virtualizáció

MTA Cloud Use cases MTA Cloud workshop. Hernáth Szabolcs MTA WIGNER FK

Felhő rendszerek és felhő föderációk. Kacsuk Péter MTA SZTAKI

Hiperkonvergens infrastruktúra. Brenner Zoltán rendszermérnök

FELHŐ és a MAINFRAME. Irmes Sándor

Tarantella Secure Global Desktop Enterprise Edition

Innovatív x86. Kósa Gábor System x Brand Specialist gabor.kosa@hu.ibm.com

Windows Server 2012: a felhő OS

Oszlassuk el a Ködöt. Bordás Csaba. Ericsson. Mi a CloudTV és mi érhető el ebből a piacon? HTE MediaNet konferencia Egerszalók, október 5.

Teljesítménymodellezés

Big Data elemzési módszerek

Informatikai technológiák szakirány Rendszertervezés ágazat

Oracle Enterprise Manager: Az első teljesértékű felhő üzemeltetési megoldás

A T-Systems felhő koncepciója Frigó József

Strausz János. Cisco Magyarország Február Cisco and/or its affiliates. All rights reserved. 1

Tesztelési szintek Tesztautomatizálás

Webes alkalmazások fejlesztése 11. előadás. Alkalmazások felhőben Giachetta Roberto

Elosztott adatbázis-kezelő formális elemzése

Virtualizációs technológiák Linux alatt (teljesítményteszt)

Component Soft és tovább

Cloud computing. Cloud computing. Dr. Bakonyi Péter.

Korszerű Adatbázisok. Gombos Gergő

Az információs portáloktól a tudásportálokig

STANDARD DEVELOPMENT U.L. FACTORY SYSTEMS GROUP IT DEPARTMENT

Muppet: Gyors adatok MapReduce stílusú feldolgozása. Muppet: MapReduce-Style Processing of Fast Data

Oktatás felhőben: egy új oktatási modell bevezetése

TELJESÍTÉNYMÉRÉS FELHŐ ALAPÚ KÖRNYEZETBEN AZURE CLOUD ANALÍZIS

IT trendek és lehetőségek

2011. November 8. Boscolo New York Palace Budapest. Extrém teljesítmény Oracle Exadata és Oracle Exalogic rendszerekkel

BIG DATA ÉS GÉPI TANULÁS KÖRNYEZET AZ MTA CLOUD-ON KACSUK PÉTER, NAGY ENIKŐ, PINTYE ISTVÁN, HAJNAL ÁKOS, LOVAS RÓBERT

Webes alkalmazások fejlesztése 11. előadás. Alkalmazások felhőben. Alkalmazások felhőben Számítástechnikai felhő

Adatbázis és alkalmazás konszolidáció Oracle SPARC T4/5 alapon

Vizuális adatelemzés

Számítási felhők (Cloud Computing)

Mikor és hogyan érdemes virtualizálni?

Internet of Things. Dr. Szepessy Zsolt evopro Innovation Kft. HTE INFOKOM október /10/14

Slamovits Tibor Államigazgatásiüzletág-vezető EMC Magyarország

Cloud computing Dr. Bakonyi Péter.

Gigabit/s sebess«gű internetkapcsolatok m«r«se b ng«szőben

Korszerű Adatbázisok. Gombos Gergő

EGI-InSPIRE. Café Grid március 24. Szeberényi Imre 3/25/ EGI-InSPIRE RI

Felhő számítástechnika

SmartActive Squash - IoT sportanalitika a felhőben

Takács Gábor mérnök informatikus, okl. mérnöktanár

Networkshop Kaposvár Balaskó Á., Kozlovszky M., Karóczkai K., Márton I., Kacsuk P. MTA SZTAKI

Association of Enterprise Architects - AEA Magyar Tagozat rendezvénye

BSc Témalaboratórum (BME VIMIAL00) Előzetes tájékoztató előadás 2018 ősz. Dr. Ráth István

Utolsó módosítás:

GAZDASÁGFEJLESZTÉSI ÉS INNOVÁCIÓS OPERATÍV PROGRAM (GINOP) ÉVRE SZÓLÓ FEJLESZTÉSI KERETE ÉS MENETRENDJE

TECHNOLÓGIAI JÖVİKÉP. Felhınézetben. Tázló József mőszaki igazgató Cisco Systems Magyarország Cisco Systems, Inc. All rights reserved.

A virtualizáció a modern vállalati informatikai infrastruktúra alapja

Radware terhelés-megosztási megoldások a gyakorlatban

Utolsó módosítás:

Rendszermodellezés. Modellellenőrzés. Budapesti Műszaki és Gazdaságtudományi Egyetem Méréstechnika és Információs Rendszerek Tanszék

A Jövő Internet Nemzeti Kutatási Program bemutatása

Teljesen elosztott adatbányászat alprojekt

Fejlesztési tapasztalatok multifunkciós tananyagok előállításával kapcsolatban Nagy Sándor

Budapest Sysadmin Meetup Failover Cluster 1x1. Gál Tamás. Cloud Infrastructure TSP Microsoft Magyarország

VIRTUALIZÁCIÓS TECHNOLÓGIÁK EUCALYPTUS CLOUD PLATFORM

Bemutató Adatközponti címarchitektúra Cisco módra

Rendszertervezés ágazat

NIIF szolgáltatások a múzeumok számára

Miért jó nekünk kutatóknak a felhő? Kacsuk Péter MTA SZTAKI

A Blockchainés alkalmazásai. Mi van a digitális aranyláz mögött és az mire használható még?

Az információs rendszerek adatai

A GN2 PROJEKT ÉS KUTATÁSI EGYÜTTMŰKÖDÉS

IT trendek és lehetőségek. Puskás Norbert

Az információs rendszerek adatai

Privát felhő megoldások és tapasztalatok

MapReduce paradigma a CAP-tétel kontextusában. Adatb haladóknak. Balassi Márton Adatbázisok haladóknak 2012.

Optimalizáció ESX-től View-ig. Pintér Kornél ügyfélszolgála3 mérnök

Operációs rendszerek az iskolában

IoT rendszerfelügyelet

Hálózati szolgáltatások OpenStack környezetben

Érettségi tétel az IT vizsgán: Felhő

Vizuális adatelemzés

Teljesen elosztott adatfeldogozás és adatbányászat

Big Data tömeges adatelemzés gyorsan

HAMOR Soft. Korszerű ügyvitel Linuxon, Cloudban, táblagéppel, okostelefonnal. Bodosi Imre ügyvezető, rendszertervező. Sántha Loránt programozó

Everything Over Ethernet

A konkréttól az absztraktig és vissza -a modellvezérelt tervezés az informatikában

Felhasználók hitelesítése adatbiztonság szállításkor. Felhasználóknak szeparálása

Folyamatmodellezés és eszközei. Budapesti Műszaki és Gazdaságtudományi Egyetem Méréstechnika és Információs Rendszerek Tanszék

Átírás:

Felhők teljesítményelemzése felhő alapokon Kocsis Imre ikocsis@mit.bme.hu HTE Infokom 2014 Budapest University of Technology and Economics Department of Measurement and Information Systems 1

IT Szolgáltatásmenedzsment @FTSRG Vezető oktató: Prof. Pataricza András Felhő számítástechnika & virtualizáció o Virtualizációs technológiák és alkalmazásaik o Intelligens rendszerfelügyelet o Autonóm és hibatűrő informatikai rendszerek Exploratory Data Analysis (EDA) & Big Data o Intelligens adatelemzés o Big Data elemzési módszerek Apache Virtual Computing Lab o Alkalmazott oktatási felhő Szolgáltatásbiztonság tervezése és elemzése o Szolgáltatásbiztonságra tervezés o Rendszermodellezés 2

Teljesítményérzékeny alkalmazások felhőben?!? 3

Teljesítményérzékeny alkalmazások felhőben standard infrastruktúra vs Puha valósidő, QoS/QoE 4

Teljesítményérzékeny alkalmazások felhőben Virtual Desktop Infrastructure Telekommunikáció 5

Teljesítményérzékeny alkalmazások felhőben Extrafunkcionális követelmények: Áteresztőképesség, időzítés, rendelkezésreállás Kicsi problémák komoly hatással Carrier clouds! Virtual Desktop Infrastructure Telekommunikáció 6

Motiváció: telekonferencia a felhőben OS and hypervisor metrics HI Test automation LO Interference Hypervisor Lab 7

Rövid tranziens hiba lassú helyreállás Mintha kihúznánk a gépet 8 sec platform túlterhelés 30 sec kiesés 120 sec rossz QoS/QoE 8

Háttérben: a noisy neighbour jelenség Tenant Neighbor Hypervisor 9

IaaS teljesítmény jellemzése 10

Altalános IaaS: instabil/heterogén teljesítmény Ismeretlen ütemezés Noisy neighbours Cloud szolgáltatások? Hálózat? HW nem ismert Ismeretlen/nem vezérelhető terítés 11

CPU teljesítmény szondázása egy ismert felhőn Teljesítmény tesztek/ Benchmarkok? Túlkapacitás nem tudja kezelni Védelmek léteznek de ismerni kell az ellenfelet (és hatását) Túlkapacitás kezelheti 12

Teljesítményteszt/benchmark: elégtelen válasz Reprezentativitás? o Stabilitás? Homogenitás? o Ritka események Megismételhetőség? o Szolgáltató/bérlő Mikrobenchmarkok? o Alkalmazás-érzékenység? o Felhő funkciók (scale in és out)? 13

A felhő méréstechnika és alkalmazása MONITOROZÁS (Platform) hibamodell Alkalmazásérzékenységi modell Teljesítmény/ kapacitásmodell Megerősítő adatelemzés Strukturális védelem Felderítő adatelemzés Dinamikus védelem Finom felbontású tárolás Teljes adaptív adatgyűjtés Full stack instrumentáció Próbavásárlók és rutinszerű gyakorlatok BENCHMARK 14

Felhő teljesítmény adatelemzése: Big Data és EDA 15

Példa: VDI CPU Ready Time karakterizálása Ready : VM futásra kész, de nem fut o VDI: akadás Ritka események o Mintavételezés? Finom felbontás kell! Legalább több hónapnyi adat Nagyon széles adat Eredmény: ~QoE kapacitás + terhelés Big Data eszközök 16

Egy/A Big Data probléma At rest Big Data o Nincs update o Mindent elemzünk Elosztott tárolás Computation to data Not true, but a very, very good lie! (T.Pratchett, Nightwatch) 17

MapReduce Reduce [,[,, ]] [,[,, ]] [,[,, ]] [,[,, ]] [,[,, ]] SHUFFLE Map Distributed File System Algoritmika: változó 18

EDA: hipotézisek adatok vizuális bejárásából Cloud válaszidő ~ hálózati késleltetés Kliens ID ~ helye Kliensek helyei 19 Nagy adatra (még) nem skálázódik

Workflow? (Jelenleg) Interaktív EDA mintákon statisztika mintán Klasszikus eszközök Lassú EDA Big Data-n Big Data statisztika Hadoop, Storm, Cassandra, 20

A felhő méréstechnika & alkalmazása MONITOROZÁS (Platform) hibamodell Alkalmazásérzékenységi modell Teljesítmény/ kapacitásmodell Megerősítő adatelemzés Strukturális védelem Felderítő adatelemzés Dinamikus védelem Természetes platformja: a felhő Finom felbontású tárolás Folyamatos adatgyűjtés Full stack instrumentáció Próbavásárlók és rutinszerű gyakorlatok BENCHMARK 21