Az RMKI Grid-rendszere - KFKIhorvath/RIPNP-GRID/Talks/2006/... · 2006.02.23. Horváth Dezső: Az...

29
Az RMKI Grid-rendszere Mi az a GRID és mire jó? Minek Grid az RMKI-ba? Hogyan állt össze? Mit kezdünk vele? Hogyan üzemeltetjük? Horváth Dezső KFKI RMKI és ATOMKI

Transcript of Az RMKI Grid-rendszere - KFKIhorvath/RIPNP-GRID/Talks/2006/... · 2006.02.23. Horváth Dezső: Az...

Page 1: Az RMKI Grid-rendszere - KFKIhorvath/RIPNP-GRID/Talks/2006/... · 2006.02.23. Horváth Dezső: Az RMKI GRID-rendszere 3 Világháló és Grid Rejtett komplexitás (nem kell tudnom,

Az RMKI Grid-rendszere

Mi az a GRID és mire jó?

Minek Grid az RMKI-ba?

Hogyan állt össze?

Mit kezdünk vele?

Hogyan üzemeltetjük?

Horváth DezsőKFKI RMKI és ATOMKI

Page 2: Az RMKI Grid-rendszere - KFKIhorvath/RIPNP-GRID/Talks/2006/... · 2006.02.23. Horváth Dezső: Az RMKI GRID-rendszere 3 Világháló és Grid Rejtett komplexitás (nem kell tudnom,

2006.02.23. Horváth Dezső: Az RMKI GRID-rendszere 2

Mi az a Grid?

Osztott erőforrás automatikus gazdálkodással Szabad kapacitások ésszerű kihasználása Bárhonnan elérhető osztott adatbázis Heterogenitás: nemcsak azonos op-rendszerek

Országhatárokon átnyúló számítógép-füzér, a felhasználó számára egyetlen virtuális gép.

Gépek kihasználtsága a világban: PC-k: 5%, UNIX-szerverek: 10%, mainframe:

60%A Grid jellegzetességei

Page 3: Az RMKI Grid-rendszere - KFKIhorvath/RIPNP-GRID/Talks/2006/... · 2006.02.23. Horváth Dezső: Az RMKI GRID-rendszere 3 Világháló és Grid Rejtett komplexitás (nem kell tudnom,

2006.02.23. Horváth Dezső: Az RMKI GRID-rendszere 3

Világháló és Grid

Rejtett komplexitás (nem kell tudnom, program hol, adatok honnan)

Közös programok, adatállományok

Ami közös

Amiben különbözik Nemcsak infocsere, teljes együttműködés:

Programok futnak, ahol szabad kapacitásAdatokat megkeresi, ahol legközelebb

Page 4: Az RMKI Grid-rendszere - KFKIhorvath/RIPNP-GRID/Talks/2006/... · 2006.02.23. Horváth Dezső: Az RMKI GRID-rendszere 3 Világháló és Grid Rejtett komplexitás (nem kell tudnom,

2006.02.23. Horváth Dezső: Az RMKI GRID-rendszere 4

Grid-rendszerek itthon

DeskTopGrid (SZTAKI): 4185 felhasználó, 11752 gép világszerte, önkéntes beajánlással

KlaszterGrid (NIIFI): 9 felsőoktatási intézményben 500 PC szerverekkelFotelágy: nappal hallgatói labor (Windows)

éjjel Linux klaszter (Condor-pool) JiniGrid (Veszprémi Egyetem):

Java-alapú Grid-rendszer (web-technológia!) LHC Computing Grid, LCG (RMKI)

Page 5: Az RMKI Grid-rendszere - KFKIhorvath/RIPNP-GRID/Talks/2006/... · 2006.02.23. Horváth Dezső: Az RMKI GRID-rendszere 3 Világháló és Grid Rejtett komplexitás (nem kell tudnom,

2006.02.23. Horváth Dezső: Az RMKI GRID-rendszere 5

DeskTopGrid

Page 6: Az RMKI Grid-rendszere - KFKIhorvath/RIPNP-GRID/Talks/2006/... · 2006.02.23. Horváth Dezső: Az RMKI GRID-rendszere 3 Világháló és Grid Rejtett komplexitás (nem kell tudnom,

2006.02.23. Horváth Dezső: Az RMKI GRID-rendszere 6

BOINC: Berkeley Open Infrastructure for Network Computing

Page 7: Az RMKI Grid-rendszere - KFKIhorvath/RIPNP-GRID/Talks/2006/... · 2006.02.23. Horváth Dezső: Az RMKI GRID-rendszere 3 Világháló és Grid Rejtett komplexitás (nem kell tudnom,

2006.02.23. Horváth Dezső: Az RMKI GRID-rendszere 7

BOINC: Kredit-rendszer

Page 8: Az RMKI Grid-rendszere - KFKIhorvath/RIPNP-GRID/Talks/2006/... · 2006.02.23. Horváth Dezső: Az RMKI GRID-rendszere 3 Világháló és Grid Rejtett komplexitás (nem kell tudnom,

2006.02.23. Horváth Dezső: Az RMKI GRID-rendszere 8

Page 9: Az RMKI Grid-rendszere - KFKIhorvath/RIPNP-GRID/Talks/2006/... · 2006.02.23. Horváth Dezső: Az RMKI GRID-rendszere 3 Világháló és Grid Rejtett komplexitás (nem kell tudnom,

2006.02.23. Horváth Dezső: Az RMKI GRID-rendszere 9

CERN

Európai Részecskefizikai Laboratórium A legnagyobb ... 2500 alkalmazott (főként mérnök és

technikus) 6500 külső felhasználó (a világ

részecskefizikusainak kb. 50%-a) 250 hivatalos partner-intézet Építi a Nagy Hadron-ütköztetőt

Page 10: Az RMKI Grid-rendszere - KFKIhorvath/RIPNP-GRID/Talks/2006/... · 2006.02.23. Horváth Dezső: Az RMKI GRID-rendszere 3 Világháló és Grid Rejtett komplexitás (nem kell tudnom,

2006.02.23. Horváth Dezső: Az RMKI GRID-rendszere 10

Large Hadron Collider

Page 11: Az RMKI Grid-rendszere - KFKIhorvath/RIPNP-GRID/Talks/2006/... · 2006.02.23. Horváth Dezső: Az RMKI GRID-rendszere 3 Világháló és Grid Rejtett komplexitás (nem kell tudnom,

2006.02.23. Horváth Dezső: Az RMKI GRID-rendszere 11

Large Hadron Collider

A CERN gyorsítói (2007-től)

Page 12: Az RMKI Grid-rendszere - KFKIhorvath/RIPNP-GRID/Talks/2006/... · 2006.02.23. Horváth Dezső: Az RMKI GRID-rendszere 3 Világháló és Grid Rejtett komplexitás (nem kell tudnom,

2006.02.23. Horváth Dezső: Az RMKI GRID-rendszere 12

A CMS-detektor szelete

Page 13: Az RMKI Grid-rendszere - KFKIhorvath/RIPNP-GRID/Talks/2006/... · 2006.02.23. Horváth Dezső: Az RMKI GRID-rendszere 3 Világháló és Grid Rejtett komplexitás (nem kell tudnom,

2006.02.23. Horváth Dezső: Az RMKI GRID-rendszere 13

Page 14: Az RMKI Grid-rendszere - KFKIhorvath/RIPNP-GRID/Talks/2006/... · 2006.02.23. Horváth Dezső: Az RMKI GRID-rendszere 3 Világháló és Grid Rejtett komplexitás (nem kell tudnom,

2006.02.23. Horváth Dezső: Az RMKI GRID-rendszere 14

Page 15: Az RMKI Grid-rendszere - KFKIhorvath/RIPNP-GRID/Talks/2006/... · 2006.02.23. Horváth Dezső: Az RMKI GRID-rendszere 3 Világháló és Grid Rejtett komplexitás (nem kell tudnom,

2006.02.23. Horváth Dezső: Az RMKI GRID-rendszere 15

CMS-adatok Ütközés 25 ns-onként (40 MHz) 96 millió mérőcsatorna 15-20 p-p ütközés/esemény 1 MB eseményméret 10-15 PB mért adat/év Plusz a szimulációk Adattárolás, -analízis: Grid

Page 16: Az RMKI Grid-rendszere - KFKIhorvath/RIPNP-GRID/Talks/2006/... · 2006.02.23. Horváth Dezső: Az RMKI GRID-rendszere 3 Világháló és Grid Rejtett komplexitás (nem kell tudnom,

2006.02.23. Horváth Dezső: Az RMKI GRID-rendszere 16

H ↓

Ζ Ζ ↓ ↓

e+e– qq

Higgs-bozon

észlelése a

CMS-ben

Page 17: Az RMKI Grid-rendszere - KFKIhorvath/RIPNP-GRID/Talks/2006/... · 2006.02.23. Horváth Dezső: Az RMKI GRID-rendszere 3 Világháló és Grid Rejtett komplexitás (nem kell tudnom,

2006.02.23. Horváth Dezső: Az RMKI GRID-rendszere 17

LEP (†) ⇔ LHC

LEP-analízis: Adatok CERN-ben Itthonról CERN-ben futtattunk

LHC-analízis: Réteg-rendszer (Tier) Tier-0: CERN Tier-1: elsődleges adattár Tier-2: regionális analizáló központ

RMKI: Tier-2

Page 18: Az RMKI Grid-rendszere - KFKIhorvath/RIPNP-GRID/Talks/2006/... · 2006.02.23. Horváth Dezső: Az RMKI GRID-rendszere 3 Világháló és Grid Rejtett komplexitás (nem kell tudnom,

2006.02.23. Horváth Dezső: Az RMKI GRID-rendszere 18

CERN-i géppark fejlődése

Privát klaszter → központi szuper Apollo, Vax IBM VM, Cray (80-as évek)

Privát klaszter → privát szuper Vax, HP SHIFT-ek (90-es évek)

Privát klaszter → központi klaszter Linux Linux (2000 után)

Privát PC → GridLinux, Windows Linux, Windows (már megvan)

⇓ terv

Page 19: Az RMKI Grid-rendszere - KFKIhorvath/RIPNP-GRID/Talks/2006/... · 2006.02.23. Horváth Dezső: Az RMKI GRID-rendszere 3 Világháló és Grid Rejtett komplexitás (nem kell tudnom,

2006.02.23. Horváth Dezső: Az RMKI GRID-rendszere 19

A CMS követelménye T1-hez

CMS T1: CERN, Barcelona, Bologna, FNAL, Rutherford, Karlsruhe, Lyon, Taipei

RAW data: 1.5 MB/event;RECOnstructed: 0.25 MB/eventFull EVenT: RAW+RECO;Analysis Object Data

2008: L = 2x1033 cm-2s-1 T1 aktív kapacitás: 2,2 PB

FEVT / 7: 440 TBAOD full: 150 TBReprocessed: 640 TBMonte Carlo / 7: 770 TBAnal, kalib: 80 TBNehéz ion: 60 TBT2: Analízis

(300 CPU, 400 TB)

Page 20: Az RMKI Grid-rendszere - KFKIhorvath/RIPNP-GRID/Talks/2006/... · 2006.02.23. Horváth Dezső: Az RMKI GRID-rendszere 3 Világháló és Grid Rejtett komplexitás (nem kell tudnom,

2006.02.23. Horváth Dezső: Az RMKI GRID-rendszere 20

Több,mint 100

LCG- farm világ-szerte

Page 21: Az RMKI Grid-rendszere - KFKIhorvath/RIPNP-GRID/Talks/2006/... · 2006.02.23. Horváth Dezső: Az RMKI GRID-rendszere 3 Világháló és Grid Rejtett komplexitás (nem kell tudnom,

2006.02.23. Horváth Dezső: Az RMKI GRID-rendszere 21

Minek az RMKI-nak Grid? Hatékony hozzájárulás (CMS, ALICE)

és viszonylag olcsó Helyben épül és marad Általános infrastruktúrát fejleszt

nemcsak részecskefizikusoknak

biológia, anyagtudomány, elmélet Élenjáró kultúrát honosít Fizikusok tudják üzemeltetni

Page 22: Az RMKI Grid-rendszere - KFKIhorvath/RIPNP-GRID/Talks/2006/... · 2006.02.23. Horváth Dezső: Az RMKI GRID-rendszere 3 Világháló és Grid Rejtett komplexitás (nem kell tudnom,

2006.02.23. Horváth Dezső: Az RMKI GRID-rendszere 22

Hogyan állt össze? Hardver

RMKI-beruházás (2002) 25 Dual Athlon 1000+ PC, 1.8 TB HD

OTKA-műszerpályázat (2003): duplázás Tartozékok (UPS, hálózat, klíma, ajtózár ...):

egyéb pályázatokból OTKA tematikus (2005): + 4 TB HD + GB switch GVOP (2006): + 5 TB HD, + 20 CPU Összerakás és Linux-telepítés (Hajdu Csaba,

2003)

Page 23: Az RMKI Grid-rendszere - KFKIhorvath/RIPNP-GRID/Talks/2006/... · 2006.02.23. Horváth Dezső: Az RMKI GRID-rendszere 3 Világháló és Grid Rejtett komplexitás (nem kell tudnom,

2006.02.23. Horváth Dezső: Az RMKI GRID-rendszere 23

Szoftver (middleware)

LHC Computing Grid (LCG) telepítése:

Debreczeni Gergely (+ Csárdi G.), 2003.

RMKI LCG-1_0_0-t 7.-ként telepítette

Neve: BUDAPEST

Most LCG-2_7_0-t telepítettük, majd gLite

Részletek: http://www.lcg.kfki.hu

Page 24: Az RMKI Grid-rendszere - KFKIhorvath/RIPNP-GRID/Talks/2006/... · 2006.02.23. Horváth Dezső: Az RMKI GRID-rendszere 3 Világháló és Grid Rejtett komplexitás (nem kell tudnom,

2006.02.23. Horváth Dezső: Az RMKI GRID-rendszere 24

Néhány Grid-fogalom

Resource broker (RB): Grid-felhasználók portálja Certification Authority (CA):

Grid-használati jogosítvány kiadása (tűzfal!)RMKI adja, NIIFI fogja, helyben Regional Authority (RA)

Virtual Organization (VO): Felhasználói rendszer (4 LHC-kísérlet és HunGrid: ehhez saját CA kellett)

Work node (WN): mezei Grid-gép, amely számol Computing Element (CE): WN-t hajtja Storage Element (SE): Tárolóegység

Page 25: Az RMKI Grid-rendszere - KFKIhorvath/RIPNP-GRID/Talks/2006/... · 2006.02.23. Horváth Dezső: Az RMKI GRID-rendszere 3 Világháló és Grid Rejtett komplexitás (nem kell tudnom,

2006.02.23. Horváth Dezső: Az RMKI GRID-rendszere 25

Ami régen működik: NorduGrid Skandináv országok Grid-rendszere Saját middleware: Advance Resource

Connector, ARC , 2002 óta működik Nagyenergiájú fizika fejlesztette, de sokan

mások használják Koordinátor: Kónya Balázs, Lund Együttműködik LCG-vel, fogadott szimulált

LHC-adatokat (ATLAS Data challenge) http://www.nordugrid.org/

Page 26: Az RMKI Grid-rendszere - KFKIhorvath/RIPNP-GRID/Talks/2006/... · 2006.02.23. Horváth Dezső: Az RMKI GRID-rendszere 3 Világháló és Grid Rejtett komplexitás (nem kell tudnom,

2006.02.23. Horváth Dezső: Az RMKI GRID-rendszere 26

Magyar Grid Kompetencia Központ (MGKK)

Tagok: SZTAKI, NIIFI, ELTE, BME + RMKI (+ Veszprémi Egyetem)

Párhuzamos, egymással együtt nem működő itthoni Grid-rendszerek egységesítése.

Monitorozás, gépidő-elszámolás, WEB-portál fejlesztése

RMKI: Grid-felhasználás (és első magyar CA)(elméleti, részecske-, szilárdtest- és biofizika)

RMKI (és SZTAKI): HunGrid VO NIIFI: Országos CA készül, helyi RA-kkal

Page 27: Az RMKI Grid-rendszere - KFKIhorvath/RIPNP-GRID/Talks/2006/... · 2006.02.23. Horváth Dezső: Az RMKI GRID-rendszere 3 Világháló és Grid Rejtett komplexitás (nem kell tudnom,

2006.02.23. Horváth Dezső: Az RMKI GRID-rendszere 27

Mit kezdünk a Grid-ünkkel? CMS- és ALICE-analízis előkészítése LHC indulására

CMS (p-p ütközések): SUSY-részecskék kereséseCMS (nehézion-ütközések) és ALICE:

fázisátmenetek (kvark-gluon-plazma) Elméleti fizika

Komplex rendszerek (Ódor Géza, MFA)Rács-QCD (Lévai Péter)Gravitáció (Rácz István)Biofizika (Csárdi Gábor)

PHENIX-kísérlet, Brookhaven (Sziklai János)

Page 28: Az RMKI Grid-rendszere - KFKIhorvath/RIPNP-GRID/Talks/2006/... · 2006.02.23. Horváth Dezső: Az RMKI GRID-rendszere 3 Világháló és Grid Rejtett komplexitás (nem kell tudnom,

2006.02.23. Horváth Dezső: Az RMKI GRID-rendszere 28

Konklúzió Az RMKI Grid-rendszerét fizikusok

építették és működtetik (1 főállású és számos felhasználó mellékesen)

A működtetést és felhasználói támogatást EU-pályázatok támogatják

Fejlesztéshez saját forrás (megszűnt) és hazai pályázat szükséges

HunGrid VO (virtual organization) minden magyar kutatónak

Page 29: Az RMKI Grid-rendszere - KFKIhorvath/RIPNP-GRID/Talks/2006/... · 2006.02.23. Horváth Dezső: Az RMKI GRID-rendszere 3 Világháló és Grid Rejtett komplexitás (nem kell tudnom,

2006.02.23. Horváth Dezső: Az RMKI GRID-rendszere 29

Vége

END

FIN

КОНЕЦ

ENDE

FINE