Анти введение Big Data · в крупном инвестиционном банке?...

219
Владимир Красильщик, Яндекс Санкт -Петербург, Россия Анти-введение в Big Data

Transcript of Анти введение Big Data · в крупном инвестиционном банке?...

Page 1: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Владимир Красильщик, Яндекс

Санкт-Петербург, Россия

Анти-введение в Big Data

Page 2: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

2Анти-введение в Big Data

Что за чувак переключает слайды?

Page 3: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

2Анти-введение в Big Data

Что за чувак переключает слайды?

> Альма-матер: СПбГЭТУ “ЛЭТИ”

Page 4: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

2Анти-введение в Big Data

Что за чувак переключает слайды?

> Альма-матер: СПбГЭТУ “ЛЭТИ”

> До Luxoft: таможня РФ и Беларуси, Continental, Daimler-Chrysler, школы Баварии и Баден-Вюртенберга, T-Mobile

Page 5: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

2Анти-введение в Big Data

Что за чувак переключает слайды?

> Альма-матер: СПбГЭТУ “ЛЭТИ”

> До Luxoft: таможня РФ и Беларуси, Continental, Daimler-Chrysler, школы Баварии и Баден-Вюртенберга, T-Mobile> Luxoft: крупный инвестиционный банк

Page 6: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

2Анти-введение в Big Data

Что за чувак переключает слайды?

> Альма-матер: СПбГЭТУ “ЛЭТИ”

> До Luxoft: таможня РФ и Беларуси, Continental, Daimler-Chrysler, школы Баварии и Баден-Вюртенберга, T-Mobile> Luxoft: крупный инвестиционный банк

> Яндекс

Page 7: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

2Анти-введение в Big Data

Что за чувак переключает слайды?

> Альма-матер: СПбГЭТУ “ЛЭТИ”

> До Luxoft: таможня РФ и Беларуси, Continental, Daimler-Chrysler, школы Баварии и Баден-Вюртенберга, T-Mobile> Luxoft: крупный инвестиционный банк

> Яндекс

Page 8: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Какова цель выступления?

Page 9: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Big Data это …

4Анти-введение в Big Data

Page 10: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Big Data это …

> Big Data это когда петабайты данных

4Анти-введение в Big Data

Page 11: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Big Data это …

> Big Data это когда петабайты данных> Big Data это highload

4Анти-введение в Big Data

Page 12: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Big Data это …

> Big Data это когда петабайты данных> Big Data это highload> Big Data это hadoop

4Анти-введение в Big Data

Page 13: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Big Data это …

> Big Data это когда петабайты данных> Big Data это highload> Big Data это hadoop> Big Data это треш и угар

4Анти-введение в Big Data

Page 14: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Big Data это …

5

Page 15: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Big Data это …

5

Page 16: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Big Data это …

5

Page 17: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Big Data это …

6Анти-введение в Big Data

Page 18: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Big Data это …

6Анти-введение в Big Data

Page 19: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

7Анти-введение в Big Data

Page 20: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data
Page 21: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Big Data это набор мер и технологий, направленный на монетизацию имеющихся у компании данных

Page 22: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

9

НУ ДАВАЙ

РАССКАЖИ МНЕ БОЛЬШЕ О BIG DATA

Page 23: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Цель выступления - прочувствовать что такое Big Data

Page 24: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Почему доклад называется «анти-введение»?

Page 25: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

12

Вопрос

Анти-введение в Big Data

Page 26: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

12

Вопрос

Сколько транзакций в день обрабатывается в крупном инвестиционном банке?

Анти-введение в Big Data

Page 27: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

13

Транзакции

Анти-введение в Big Data

Page 28: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

13

Транзакции

Анти-введение в Big Data

Page 29: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

13

Транзакции

Анти-введение в Big Data

Page 30: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

13

Транзакции

Анти-введение в Big Data

Page 31: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

13

Транзакции

Анти-введение в Big Data

Page 32: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

13

Транзакции

Анти-введение в Big Data

Page 33: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

13

Транзакции

Анти-введение в Big Data

Page 34: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

13

Транзакции

Анти-введение в Big Data

Page 35: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

13

Транзакции

Анти-введение в Big Data

Page 36: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

13

Транзакции

Анти-введение в Big Data

Page 37: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

14

Вопрос

Анти-введение в Big Data

Page 38: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

14

Вопрос

Сколько транзакций в день обрабатывается в крупном инвестиционном банке?

Анти-введение в Big Data

Page 39: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

14

Вопрос

Сколько транзакций в день обрабатывается в крупном инвестиционном банке?

1. 1M

Анти-введение в Big Data

Page 40: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

14

Вопрос

Сколько транзакций в день обрабатывается в крупном инвестиционном банке?

1. 1M 2. 100M

Анти-введение в Big Data

Page 41: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

14

Вопрос

Сколько транзакций в день обрабатывается в крупном инвестиционном банке?

1. 1M 2. 100M3. 500M

Анти-введение в Big Data

Page 42: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

14

Вопрос

Сколько транзакций в день обрабатывается в крупном инвестиционном банке?

1. 1M 2. 100M3. 500M

до 500M

Анти-введение в Big Data

Page 43: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

15Анти-введение в Big Data

Page 44: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

29-05-2017 23:15

http://www.internetlivestats.com/twitter-statistics/

16

Page 45: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

29-05-2017 23:15

http://www.internetlivestats.com/twitter-statistics/

16

Page 46: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

17

http://www.internetlivestats.com/twitter-statistics/

Page 47: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

17

http://www.internetlivestats.com/twitter-statistics/

Page 48: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

18

Что такое …

Анти-введение в Big Data

Page 49: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

19

умные-решения.рф

Анти-введение в Big Data

Page 50: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

19

умные-решения.рф

Какие сейчас* самые популярные хештеги?

Анти-введение в Big Data

Page 51: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

19

умные-решения.рф

Какие сейчас* самые популярные хештеги?

Анти-введение в Big Data

Сейчас* - на настоящий момент с начала времён

Page 52: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

20

https://twitter.com/tophashtags

29-05-2017 12:31

Page 53: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

20

https://twitter.com/tophashtags

29-05-2017 12:31

Page 54: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

21

Инкрементальное решение

Анти-введение в Big Data

Page 55: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

21

Инкрементальное решение

Анти-введение в Big Data

Page 56: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

21

Инкрементальное решение

tweets

Анти-введение в Big Data

Page 57: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

21

Инкрементальное решение

мясорубкаtweets

Анти-введение в Big Data

Page 58: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

21

Инкрементальное решение

мясорубкаtweets

Анти-введение в Big Data

Page 59: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

21

Инкрементальное решение

мясорубка

hashtag#1

tweets

hashtag#N

hashtag#2

Анти-введение в Big Data

Page 60: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

21

Инкрементальное решение

мясорубка

hashtag#1

PostgreSQLtweets

hashtag#N

hashtag#2

Анти-введение в Big Data

Page 61: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

21

Инкрементальное решение

мясорубка

hashtag#1

PostgreSQLtweets

hashtag#N

hashtag#2

counter#1

counter#2

counter#N

……

Анти-введение в Big Data

Page 62: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

22

Инкрементальное решение

мясорубка

hashtag#1

PostgreSQLtweets

hashtag#N

hashtag#2

counter#1

counter#2

counter#N

……

Анти-введение в Big Data

Page 63: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

23

Инкрементальное распараллеленное решение

мясорубка

PostgreSQLtweets

hashtag#Nhashtag#2

counter#1

counter#2

counter#N

hashtag#1

мясорубка

мясорубка

tweets

tweets

hashtag#Nhashtag#2

hashtag#1

hashtag#Nhashtag#2

hashtag#1

Анти-введение в Big Data

Page 64: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

24

мясорубка

PostgreSQLtweets

hashtag#Nhashtag#2

counter#1

counter#2

counter#N

hashtag#1

мясорубка

мясорубка

hashtag#Nhashtag#2

hashtag#1

hashtag#Nhashtag#2

hashtag#1

tweets

tweets

Анти-введение в Big Data

Инкрементальное распараллеленное решение

Page 65: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

25

мясорубка

PostgreSQLtweets

hashtag#Nhashtag#2

counter#1

counter#2

counter#N

hashtag#1

мясорубка

мясорубка

hashtag#Nhashtag#2

hashtag#1

hashtag#Nhashtag#2

hashtag#1

tweets

tweets

Анти-введение в Big Data

Инкрементальное распараллеленное решение

Page 66: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

26

мясо~

PostgreSQLtweets

counter#1

counter#2

counter#N

hashtag#1

мясо~

мясо~

hashtag#2

hashtag#N

рубка

рубка

рубка

tweets

tweets

Анти-введение в Big Data

Инкрементальное распараллеленное решение без блокировок

Page 67: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Но есть две проблемы…

Page 68: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

28Анти-введение в Big Data

1. Решение плохо адаптируется под смежные задачи

Page 69: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

28

> Регионы

Анти-введение в Big Data

1. Решение плохо адаптируется под смежные задачи

Page 70: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

28

> Регионы

> Временные интервалы

Анти-введение в Big Data

1. Решение плохо адаптируется под смежные задачи

Page 71: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

28

> Регионы

> Временные интервалы

> Другие источники хэштегов: VK, FB, Instagram

Анти-введение в Big Data

1. Решение плохо адаптируется под смежные задачи

Page 72: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

29Анти-введение в Big Data

2. Люди дапускают ашибки

Page 73: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

30Анти-введение в Big Data

2. Люди дапускают ашибки 2. Люди допускают ошибки

Page 74: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

31

Мясорубка

List list = tweet.getHashtags();list.forEach(hashtag -> { long counter = getCurrentCounter(hashtag); counter++; setCurrentCounter(hashtag, counter);});

Анти-введение в Big Data

Page 75: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

32

Мисорубка

Анти-введение в Big Data

List list = tweet.getHashtags();list.forEach(hashtag -> { long counter = getCurrentCounter(hashtag); counter--; setCurrentCounter(hashtag, counter);});

Page 76: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

33

умные-решения.рф

Анти-введение в Big Data

Page 77: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

33

умные-решения.рф

Анти-введение в Big Data

Page 78: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

33

умные-решения.рф

Анти-введение в Big Data

Page 79: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

33

умные-решения.рф

Анти-введение в Big Data

Page 80: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

33

умные-решения.рф

Анти-введение в Big Data

Page 81: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

34

более-умные-решения.рф

Анти-введение в Big Data

Page 82: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

34

более-умные-решения.рф

1. Отвечает на вопрос какие сейчас* самые популярные хештеги.

Анти-введение в Big Data

Page 83: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

34

более-умные-решения.рф

1. Отвечает на вопрос какие сейчас* самые популярные хештеги.

2. Хорошо адаптируется под смежные задачи.

Анти-введение в Big Data

Page 84: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

34

более-умные-решения.рф

1. Отвечает на вопрос какие сейчас* самые популярные хештеги.

2. Хорошо адаптируется под смежные задачи.

3. Устойчиво к человеческим ошибкам.

Анти-введение в Big Data

Page 85: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Более умное решение

Анти-введение в Big Data

Page 86: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

35

Более умное решение

Анти-введение в Big Data

Page 87: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

35

Более умное решение

Анти-введение в Big Data

Page 88: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

35

tweets

Более умное решение

Анти-введение в Big Data

Page 89: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

35

tweets

Более умное решение

Анти-введение в Big Data

Page 90: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

35

tweets

Более умное решение

Анти-введение в Big Data

master dataset

Page 91: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

batch layer

35

tweets

Более умное решение

Анти-введение в Big Data

master dataset

Page 92: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

batch layer

35

tweets

Более умное решение

Анти-введение в Big Data

master dataset

Page 93: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

batch layer

35

tweets

service layer

Более умное решение

Анти-введение в Big Data

master dataset

Page 94: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

batch layer

35

tweets

service layer

batch view

Более умное решение

Анти-введение в Big Data

master dataset

Page 95: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

batch layer

35

tweets

service layerbatch viewbatch view

Более умное решение

Анти-введение в Big Data

master dataset

Page 96: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

batch layer

35

tweets

service layerbatch viewbatch view

batch view

Более умное решение

Анти-введение в Big Data

master dataset

Page 97: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

batch layer

35

tweets

service layerbatch viewbatch view

batch viewbatch view

Более умное решение

Анти-введение в Big Data

master dataset

Page 98: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

batch layer

35

tweets

tweets

service layerbatch viewbatch view

batch viewbatch view

Более умное решение

Анти-введение в Big Data

master dataset

Page 99: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

batch layer

35

tweets

tweets

service layerbatch viewbatch view

batch viewbatch view

speed layer

Более умное решение

Анти-введение в Big Data

master dataset

Page 100: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

batch layer

35

tweets

tweets

service layerbatch viewbatch view

batch viewbatch view

speed layer

realtime view

Более умное решение

Анти-введение в Big Data

master dataset

Page 101: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

batch layer

35

tweets

tweets

service layerbatch viewbatch view

batch viewbatch view

speed layer

batch viewrealtime

view

Более умное решение

Анти-введение в Big Data

master dataset

Page 102: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

batch layer

35

tweets

tweets

service layerbatch viewbatch view

batch viewbatch view

speed layer

batch viewrealtime

view

realtime view

Более умное решение

Анти-введение в Big Data

master dataset

Page 103: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

batch layer

35

tweets

tweets

service layerbatch viewbatch view

batch viewbatch view

speed layer

batch viewrealtime

view

batch viewrealtime

view

Более умное решение

Анти-введение в Big Data

master dataset

Page 104: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

batch layer

35

tweets

tweets

service layerbatch viewbatch view

batch viewbatch view

speed layer

batch viewrealtime

view

batch viewrealtime

view

query

Более умное решение

Анти-введение в Big Data

master dataset

Page 105: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

batch layer

35

tweets

tweets

service layerbatch viewbatch view

batch viewbatch view

speed layer

batch viewrealtime

view

batch viewrealtime

view

query

Более умное решение

Анти-введение в Big Data

master dataset

Page 106: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

batch layer

35

tweets

tweets

service layerbatch viewbatch view

batch viewbatch view

speed layer

batch viewrealtime

view

batch viewrealtime

view

query

Более умное решение

Анти-введение в Big Data

master dataset

Page 107: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

batch layer

35

tweets

tweets

service layerbatch viewbatch view

batch viewbatch view

speed layer

batch viewrealtime

view

batch viewrealtime

view

query

Более умное решение

Анти-введение в Big Data

master dataset

Page 108: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

36

Более умное решение

Анти-введение в Big Data

Page 109: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

36

t

A B C

Более умное решение

Анти-введение в Big Data

0

Page 110: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

36

t

A B C

Более умное решение

Анти-введение в Big Data

0

Page 111: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

36

t

A B

realtime A

C

Более умное решение

Анти-введение в Big Data

0

Page 112: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

36

t

A B

N

realtime A

C

Более умное решение

Анти-введение в Big Data

0

Page 113: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

36

t

A B

N

realtime A

C

Более умное решение

Анти-введение в Big Data

0

Page 114: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

36

t

A B

N

realtime A

C

Более умное решение

Анти-введение в Big Data

0

Page 115: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

36

t

A B

N

realtime A

batch A

C

Более умное решение

Анти-введение в Big Data

0

Page 116: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

36

t

A B

N

realtime A

batch A

C

Более умное решение

Анти-введение в Big Data

0

Page 117: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

36

t

A B

N

realtime A

batch A

C

Более умное решение

Анти-введение в Big Data

0

Page 118: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

36

t

A B

N

realtime A

batch A

realtime B

C

Более умное решение

Анти-введение в Big Data

0

Page 119: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

36

t

A B

N

realtime A

batch A

Y

realtime B

C

Более умное решение

Анти-введение в Big Data

0

Page 120: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

36

t

A B

N

realtime A

batch A

Y

realtime B

C

Более умное решение

Анти-введение в Big Data

0

Page 121: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

36

t

A B

N

realtime A

batch A

Y

realtime B

C

Более умное решение

Анти-введение в Big Data

0

Page 122: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

36

t

A B

N

realtime A

batch A

Y

realtime B

C

Более умное решение

Анти-введение в Big Data

0

Page 123: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

36

t

A B

N

realtime A

batch A

Y

realtime B

C

Более умное решение

Анти-введение в Big Data

0

Page 124: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

36

t

A B

N

realtime A

batch A

Y

realtime B

C

Более умное решение

Анти-введение в Big Data

0

Page 125: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

36

t

A B

N

realtime A

batch A

Y

realtime B

C

batch B

realtime C

Более умное решение

Анти-введение в Big Data

0

Page 126: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

36

t

A B

N

realtime A

batch A

Y

realtime B

C

batch B

realtime C

Более умное решение

Анти-введение в Big Data

0

Page 127: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

36

t

A B

N

realtime A

batch A

Y

realtime B

C

batch B

realtime C

Более умное решение

Z

Анти-введение в Big Data

0

Page 128: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

36

t

A B

N

realtime A

batch A

Y

realtime B

C

batch B

realtime C

Более умное решение

Z

Анти-введение в Big Data

0

Page 129: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

36

t

A B

N

realtime A

batch A

Y

realtime B

C

batch B

realtime C

Более умное решение

Z

Анти-введение в Big Data

0

Page 130: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

37

Лямбда-архитектура (Nathan Marz)

http://lambda-architecture.net

Анти-введение в Big Data

Page 131: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

*Realtime

38Анти-введение в Big Data

Быстрые данные (Fast data): время от момента получения данных до момента выделения из них ценной информации

Page 132: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Big Data – Определение #1

39Анти-введение в Big Data

Page 133: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Big Data – Определение #1

39Анти-введение в Big Data

Много данных как результат: > избыточности > иммутабельности > репликации

Page 134: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Какие технологии подходят для реализации master dataset?

Page 135: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Файловые хранилища

41Анти-введение в Big Data

Page 136: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Файловые хранилища

41Анти-введение в Big Data

> HDFS > WebDAV > Amazon S3

Page 137: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

NoSql базы данных

42Анти-введение в Big Data

Page 138: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

NoSql базы данных

42Анти-введение в Big Data

документо-ориентированные (Mongo, MarkLogic) и key-value (Cassandra, Hazelcast)

Page 139: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

NoSql базы данных

42Анти-введение в Big Data

документо-ориентированные (Mongo, MarkLogic) и key-value (Cassandra, Hazelcast)

распределенные

Page 140: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

PostgreSQL не подходит для реализации master dataset!

Page 141: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

PostgreSQL тоже подходит для реализации master dataset!

Page 142: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Big Data – Определение #2

45Анти-введение в Big Data

Page 143: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Big Data – Определение #2

45

3 технологических признака:

Анти-введение в Big Data

Page 144: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Big Data – Определение #2

45

3 технологических признака:

1) Гибкое хранилище и возможность делать разнообразные запросы (Mongo, Cassandra, HDFS, Postgres)

Анти-введение в Big Data

Page 145: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Каскадное хранилище

46Анти-введение в Big Data

Page 146: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Каскадное хранилище

46Анти-введение в Big Data

«Резиновая помойка»

Page 147: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Каскадное хранилище

46Анти-введение в Big Data

«Резиновая помойка»

Page 148: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Каскадное хранилище

46Анти-введение в Big Data

«Резиновая помойка»

HDFS, S3, WebDAV

Page 149: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Каскадное хранилище

46Анти-введение в Big Data

«Резиновая помойка»

HDFS, S3, WebDAV

Page 150: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Каскадное хранилище

46Анти-введение в Big Data

«Резиновая помойка» Хранилище фактов

HDFS, S3, WebDAV

Page 151: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Каскадное хранилище

46Анти-введение в Big Data

«Резиновая помойка» Хранилище фактов

HDFS, S3, WebDAV Mongo, MarkLogic, Postgres, Cassandra

Page 152: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Каскадное хранилище

46Анти-введение в Big Data

«Резиновая помойка» Хранилище фактов

HDFS, S3, WebDAV Mongo, MarkLogic, Postgres, Cassandra

Page 153: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Каскадное хранилище

46Анти-введение в Big Data

«Резиновая помойка» Хранилище фактов

HDFS, S3, WebDAV Mongo, MarkLogic, Postgres, Cassandra

SQL databases: Oracle, Postgres, MySql

Page 154: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Каскадное хранилище

46Анти-введение в Big Data

«Резиновая помойка» Хранилище фактов

HDFS, S3, WebDAV Mongo, MarkLogic, Postgres, Cassandra

SQL databases: Oracle, Postgres, MySql

Page 155: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Каскадное хранилище

46Анти-введение в Big Data

«Резиновая помойка» Хранилище фактов

HDFS, S3, WebDAV Mongo, MarkLogic, Postgres, Cassandra

SQL databases: Oracle, Postgres, MySql

NoSql databases: Parquet, ClickHouse, YT

Page 156: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Каскадное хранилище

46Анти-введение в Big Data

«Резиновая помойка» Хранилище фактов

HDFS, S3, WebDAV Mongo, MarkLogic, Postgres, Cassandra

SQL databases: Oracle, Postgres, MySql

NoSql databases: Parquet, ClickHouse, YT

Page 157: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Каскадное хранилище

46Анти-введение в Big Data

«Резиновая помойка» Хранилище фактов

HDFS, S3, WebDAV Mongo, MarkLogic, Postgres, Cassandra

SQL databases: Oracle, Postgres, MySql

Grids/Caches: Apache Ignite, GridGain, Coherence, Hazelcast

NoSql databases: Parquet, ClickHouse, YT

Page 158: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Про магазин и школьницу

47

https://habrahabr.ru/post/147284/ http://www.nytimes.com/2012/02/19/magazine/shopping-habits.html?pagewanted=all&_r=0

Page 159: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Big Data – Определение #2

48

3 технологических признака:

1) Гибкое хранилище и возможность делать разнообразные запросы (Mongo, Cassandra, HDFS, Postgres)

2) Надёжное “заведение” данных (Apache Storm, Spark Streaming, Apache Kafka)

Анти-введение в Big Data

Page 160: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Две проблемы распределенных систем

49Анти-введение в Big Data

Page 161: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Две проблемы распределенных систем

49Анти-введение в Big Data

Page 162: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Две проблемы распределенных систем

49

В распределенных системах существуют только две серьезные проблемы: 2. Доставить сообщение ровно один раз 1. Гарантировать порядок доставки сообщений 2. Доставить сообщение ровно один раз

Анти-введение в Big Data

Page 163: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Big Data – Определение #2

50

3 технологических признака:

1) Гибкое хранилище и возможность делать разнообразные запросы (Mongo, Cassandra, HDFS, Postgres)

2) Надёжное “заведение” данных (Apache Storm, Spark Streaming, Apache Kafka)

3) Крутые аналитические инструменты (Hadoop): query = function(all data)

Анти-введение в Big Data

Page 164: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Big Data – Определение #2

50

3 технологических признака:

1) Гибкое хранилище и возможность делать разнообразные запросы (Mongo, Cassandra, HDFS, Postgres)

2) Надёжное “заведение” данных (Apache Storm, Spark Streaming, Apache Kafka)

3) Крутые аналитические инструменты (Hadoop): query = function(all data)

Анти-введение в Big Data

Page 165: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Технологии Big Data или Pokemons?

Page 166: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

52Анти-введение в Big Data

Spoink?

Page 167: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

53

Spoink is a Pokemon!

Анти-введение в Big Data

Page 168: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

54Анти-введение в Big Data

Arvados?

Page 169: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

55

Arvados is a Big Data!

Анти-введение в Big Data

Page 170: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

56Анти-введение в Big Data

Horsea?

Page 171: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

57

Horsea is Pokemon!

Анти-введение в Big Data

Page 172: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

58Анти-введение в Big Data

Seahorse?

Page 173: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

59

Seahorse is a Big Data!

Анти-введение в Big Data

Page 174: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

60Анти-введение в Big Data

Pangool?

Page 175: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

61

Pangool is a Big Data!

Анти-введение в Big Data

Page 176: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

62Анти-введение в Big Data

Vulpix?

Page 177: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

63

Vulpix is Pokemon!

Анти-введение в Big Data

Page 178: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

64Анти-введение в Big Data

Flink?

Page 179: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

65

Flink is a Big Data!

Анти-введение в Big Data

Page 180: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

66Анти-введение в Big Data

Postgres?

Page 181: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

https://pixelastic.github.io/pokemonorbigdata/

67Анти-введение в Big Data

Page 182: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Big Data – Определение #3

68Анти-введение в Big Data

Page 183: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Big Data – Определение #3

68

Проектные признаки: 7V

Анти-введение в Big Data

Page 184: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Big Data – Определение #3

68

Проектные признаки: 7V1.Volume - Объемы

Анти-введение в Big Data

Page 185: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Big Data – Определение #3

68

Проектные признаки: 7V1.Volume - Объемы2.Variety - Разнообразие

Анти-введение в Big Data

Page 186: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Big Data – Определение #3

68

Проектные признаки: 7V1.Volume - Объемы2.Variety - Разнообразие3.Veracity - Достоверность

Анти-введение в Big Data

Page 187: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Big Data – Определение #3

68

Проектные признаки: 7V1.Volume - Объемы2.Variety - Разнообразие3.Veracity - Достоверность4.Velocity - Скорость

Анти-введение в Big Data

Page 188: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Big Data – Определение #3

68

Проектные признаки: 7V1.Volume - Объемы2.Variety - Разнообразие3.Veracity - Достоверность4.Velocity - Скорость5.Value - Ценность

Анти-введение в Big Data

Page 189: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Big Data – Определение #3

68

Проектные признаки: 7V1.Volume - Объемы2.Variety - Разнообразие3.Veracity - Достоверность4.Velocity - Скорость5.Value - Ценность6.Volatility - Неустойчивость

Анти-введение в Big Data

Page 190: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Big Data – Определение #3

68

Проектные признаки: 7V1.Volume - Объемы2.Variety - Разнообразие3.Veracity - Достоверность4.Velocity - Скорость5.Value - Ценность6.Volatility - Неустойчивость7.Visualisation - Визуализация

Анти-введение в Big Data

Page 191: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Big Data – Определение #4

69Анти-введение в Big Data

Page 192: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Big Data – Определение #4

69Анти-введение в Big Data

Big Data доставляет головную боль, в противном случае речь идет о старых добрых ETL, OLAP или CEP

Page 193: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Big Data – Определение #4

69Анти-введение в Big Data

ETL - Extract Transform Load OLAP - Online Analytical Processing CEP - Complex Event Processing

Big Data доставляет головную боль, в противном случае речь идет о старых добрых ETL, OLAP или CEP

Page 194: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

70

Почему болит голова?

Анти-введение в Big Data

Page 195: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

71

Почему болит голова?

t

Анти-введение в Big Data 71

Page 196: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

72

Почему болит голова?

t

A

realtime A

Анти-введение в Big Data 72

Page 197: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

73

Почему болит голова?

t

A B

realtime A

batch A

realtime B

Анти-введение в Big Data 73

Page 198: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

74

Почему болит голова?

t

A B

realtime A

batch A

realtime B

C

batch B

realtime C

Анти-введение в Big Data 74

Page 199: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

75

Почему болит голова?

t

A B

realtime A

batch A

realtime B

C

batch B

realtime C

D

Анти-введение в Big Data 75

batch C

realtime D

Page 200: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

76

https://twitter.com/tophashtags - это Big Data?

Анти-введение в Big Data 76

Page 201: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

76

https://twitter.com/tophashtags - это Big Data?

Анти-введение в Big Data 76

Page 202: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

76

https://twitter.com/tophashtags - это Big Data?

Анти-введение в Big Data 76

Page 203: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

76

https://twitter.com/tophashtags - это Big Data?

Анти-введение в Big Data 76

Page 204: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

А может Big Data на самом деле не нужна?

Page 205: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Вы не Яндекс

78

https://blog.bradfieldcs.com/you-are-not-google-84912cf44afbhttps://habrahabr.ru/company/infopulse/blog/330708/

Page 206: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Анти-заключение про Big Data

79Анти-введение в Big Data

Page 207: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Анти-заключение про Big Data> Постоянная адаптация к смежным задачам и устойчивость к человеческим ошибкам

79Анти-введение в Big Data

Page 208: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Анти-заключение про Big Data> Постоянная адаптация к смежным задачам и устойчивость к человеческим ошибкам> Лямбда-архитектура

79Анти-введение в Big Data

Page 209: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Анти-заключение про Big Data> Постоянная адаптация к смежным задачам и устойчивость к человеческим ошибкам> Лямбда-архитектура> Смешные технологии для компонентов лямбда-архитектуры

79Анти-введение в Big Data

Page 210: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Анти-заключение про Big Data> Постоянная адаптация к смежным задачам и устойчивость к человеческим ошибкам> Лямбда-архитектура> Смешные технологии для компонентов лямбда-архитектуры> Много данных из-за избыточности, иммутабельности и репликации

79Анти-введение в Big Data

Page 211: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Анти-заключение про Big Data> Постоянная адаптация к смежным задачам и устойчивость к человеческим ошибкам> Лямбда-архитектура> Смешные технологии для компонентов лямбда-архитектуры> Много данных из-за избыточности, иммутабельности и репликации> Технологические признаки: гибкое хранение, надежное заведение данных, крутые аналитические инструменты

79Анти-введение в Big Data

Page 212: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Анти-заключение про Big Data> Постоянная адаптация к смежным задачам и устойчивость к человеческим ошибкам> Лямбда-архитектура> Смешные технологии для компонентов лямбда-архитектуры> Много данных из-за избыточности, иммутабельности и репликации> Технологические признаки: гибкое хранение, надежное заведение данных, крутые аналитические инструменты> Проектные признаки 7V

79Анти-введение в Big Data

Page 213: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Анти-заключение про Big Data> Постоянная адаптация к смежным задачам и устойчивость к человеческим ошибкам> Лямбда-архитектура> Смешные технологии для компонентов лямбда-архитектуры> Много данных из-за избыточности, иммутабельности и репликации> Технологические признаки: гибкое хранение, надежное заведение данных, крутые аналитические инструменты> Проектные признаки 7V> Головная боль

79Анти-введение в Big Data

Page 214: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

Анти-заключение про Big Data> Постоянная адаптация к смежным задачам и устойчивость к человеческим ошибкам> Лямбда-архитектура> Смешные технологии для компонентов лямбда-архитектуры> Много данных из-за избыточности, иммутабельности и репликации> Технологические признаки: гибкое хранение, надежное заведение данных, крутые аналитические инструменты> Проектные признаки 7V> Головная боль> Нужна ли Вам Big Data?

79Анти-введение в Big Data

Page 215: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

СПАСИБО!

Анти-введение в Big Data

80

Вапросы[email protected] @dyer_the pgday 2017 Санкт-Петербург, Россия Вопросы?

Page 216: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

СПАСИБО!

Анти-введение в Big Data

80

Вапросы[email protected] @dyer_the pgday 2017 Санкт-Петербург, Россия Вопросы?

Page 217: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

СПАСИБО!

Анти-введение в Big Data

80

Вапросы[email protected] @dyer_the pgday 2017 Санкт-Петербург, Россия Вопросы?

Page 218: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

СПАСИБО!

Анти-введение в Big Data

80

Вапросы[email protected] @dyer_the pgday 2017 Санкт-Петербург, Россия Вопросы?

Page 219: Анти введение Big Data · в крупном инвестиционном банке? Анти-введение в Big Data. 14 ... Анти-введение в Big Data

СПАСИБО!

Анти-введение в Big Data

80

Вапросы[email protected] @dyer_the pgday 2017 Санкт-Петербург, Россия Вопросы?