Использование облачной платформы OpenStack для реализации...

24
Использование облачной платформы OpenStack для реализации механизмов обработки и хранения больших массивов данных взаимодействие с партнерами и клиентами 15 апреля 2014, Москва Мызгин Игорь,
  • Upload

    -
  • Category

    Business

  • view

    266
  • download

    2

Transcript of Использование облачной платформы OpenStack для реализации...

Page 1: Использование облачной платформы OpenStack для реализации механизмов обработки и хранения больших массивов

Использование облачной платформы OpenStack для реализации механизмов обработки и

хранения больших массивов данных

взаимодействие с партнерами и клиентами15 апреля 2014, Москва

Мызгин Игорь,

Page 2: Использование облачной платформы OpenStack для реализации механизмов обработки и хранения больших массивов

Что такое big data с точки зрения провайдера хостинга

План презентации

Три истории из жизни

Проблемы и ограничения

Вопросы?

Кто мы и что мы можем предложить

OpenStack? А почему не Hadoop?

Page 3: Использование облачной платформы OpenStack для реализации механизмов обработки и хранения больших массивов

История №1 про 1С и маркетинг

Служба ИТ: Рост баз 1С в 10 раз, дополнительно блейд-корзина серверов для обработки

Маркетинг: OLAP кубы

Жила-была компания, занималась «оптово-розничной торговлей», использовала продукты 1С.

Page 4: Использование облачной платформы OpenStack для реализации механизмов обработки и хранения больших массивов

Дайте тележку

денег?

Служба ИТ: «Дайте тележку денег?»

Маркетинг: «Эффективность каналов рекламы! Персонализация предложения!Ценообразование исходя из товарных остатков! Догнать и перегнать Я.Маркет!»

История №1 про 1С и маркетинг

ЧТО ДЕЛАТЬ?

Page 5: Использование облачной платформы OpenStack для реализации механизмов обработки и хранения больших массивов

Жил-был город и хотели градоначальники сделать его «умным», решили поставить видеокамеры по городу и хранить видео.

Архитектура «классическая» – видеокамеры, сервера сбора, централизованная СХД

История №2 про видеонаблюдение

Page 6: Использование облачной платформы OpenStack для реализации механизмов обработки и хранения больших массивов

ПИЛОТНОЕ ВНЕДРЕНИЕ – ПРОШЛО УСПЕШНО!!!

Требования: по видеокамере в каждый подъезд, хранить месяц и чтобы софтанализа видео мог все анализировать и искать

История №2 про видеонаблюдение

Page 7: Использование облачной платформы OpenStack для реализации механизмов обработки и хранения больших массивов

Проблемы:

ЧТО ДЕЛАТЬ?

3. Сервера анализа и поиска2. Объемы хранения

1. IOPS

История №2 про видеонаблюдение

информации

Page 8: Использование облачной платформы OpenStack для реализации механизмов обработки и хранения больших массивов

«продают» то, что уже найдено и скорее всего куплено.

Все помнят баннеры? Баннеры не эффективны уже много лет.

История №3 про предиктивность

Page 9: Использование облачной платформы OpenStack для реализации механизмов обработки и хранения больших массивов

БИХЕВИОРИЗМ И ПАТТЕРНЫ ПОВЕДЕНИЯ

Если собрать много данных о поведении человека в сети, проанализировать их, предположить о человеке гипотезы (мальчик\девочка, молодой\пожилой, в браке\холост и т.д.) – можно с высокой долей вероятности предложить человеку то, с чем он себя ассоциирует в обществе.

История №3 про предиктивность

Page 10: Использование облачной платформы OpenStack для реализации механизмов обработки и хранения больших массивов

Как?

Надо обработать все тесты «герой какого ты фильма\в каком городе ты должен жить\в какой эпохе стоило родиться»

Формирование критериев и поиск критериев исходя из накопленной информации

Анализ не структурированной информации

История №3 про предиктивность

1

2

Page 11: Использование облачной платформы OpenStack для реализации механизмов обработки и хранения больших массивов

Комплекс алгоритмов и механизмов – это и будем называть BigData

Рост вверх и «топка ассигнациями» заменяется на рост вширь и переработку алгоритмов сбора, хранения, обработки, консолидации информации.

Все три истории – о смене парадигмы.

Кто виноват и что делать?

Page 12: Использование облачной платформы OpenStack для реализации механизмов обработки и хранения больших массивов

Все истории имеют happy end.

Везде: Гибридная инфраструктура, которая сочетает в себе классические услуги хостинга и облачную платформу на базе OpenStack.

Все три истории реальные

Но причем тут Webzilla и OpenStack?!

Page 13: Использование облачной платформы OpenStack для реализации механизмов обработки и хранения больших массивов

Кто мы? Чем занимаемся?

Page 14: Использование облачной платформы OpenStack для реализации механизмов обработки и хранения больших массивов

Немного фактов о нас

> 1500Международных клиентов

1.5 тбит\сек пропускной способности

> 18KСерверов > 1K

Используемых серверных стоек

7Tier 1 провайдеров

13Точек присутствия

5Дата-центров

700+ гбит\сектрафика

> 1KЧастных стыков с партнерами

Факты о Webzilla

Page 15: Использование облачной платформы OpenStack для реализации механизмов обработки и хранения больших массивов

13 точек присутствия по всему миру

Кто мы? Чем занимаемся?

Page 16: Использование облачной платформы OpenStack для реализации механизмов обработки и хранения больших массивов

OpenStack? Но почему не Hadoop?

Hadoop – комплекс технологий и механизмов для распределенного хранения и обработки больших массивов данных (не обязательно структурированных) с помощью распределенных вычислений

Openstack - платформа управления распределенными вычислениями и хранением больших объемов данных с

обеспечением необходимой инфраструктуры (сетевой, управления жизненным циклом сущностей, системы

безопасности и мониторинга и т.д.)

Тренд на интеграцию поддержки Hadoop в платформу OpenStack.

Page 17: Использование облачной платформы OpenStack для реализации механизмов обработки и хранения больших массивов

WEBZILLA INSTANT FILES / INSTANT SERVERS

Механизмы горизонтального масштабирования computing tasks и хранения данных

API совместимость с Amazon Web Services и c Rackspace

Амстердам и Даллас Платформа OpenStack

Page 18: Использование облачной платформы OpenStack для реализации механизмов обработки и хранения больших массивов

Гибкое регулирование количества ресурсов и оплата по потреблению

Построение приватных сетей и виртуальных частных облаков

SSD диски для операций интенсивного ввода-вывода

Мгновенное масштабирование

WEBZILLA INSTANT SERVERS

Page 19: Использование облачной платформы OpenStack для реализации механизмов обработки и хранения больших массивов

Трехкратное резервирование данных Бесплатная

репликация между ЦОДами

Защита от случайного удаления

Неограниченное версионирование данных

100% pay-as-you-go Неограниченный размер хранилища

WEBZILLA INSTANT SERVERS

Page 20: Использование облачной платформы OpenStack для реализации механизмов обработки и хранения больших массивов

2Разделение на условно постоянные элементы и изменяемые элементы

Бизнес-приложения определяют требования к инфраструктуре 1

Гибридная инфраструктура

Page 21: Использование облачной платформы OpenStack для реализации механизмов обработки и хранения больших массивов

Сочетание аренды оборудования с предоставлением пулов ресурсов через механизмы виртуализации

Постоянные элементы

Page 22: Использование облачной платформы OpenStack для реализации механизмов обработки и хранения больших массивов

Программно определяемые инфрастуктуры

Горизонтальное масштабирование

Динамическое изменение конфигураций приложений через API инфраструктуры

Платформа Webzilla Instant Servers/Instant Files

Переменные элементы

Page 23: Использование облачной платформы OpenStack для реализации механизмов обработки и хранения больших массивов

Максимизация предоставления ресурсов за минимум денег по модели гибридной инфраструктуры

3

2

1

Инфраструктура для BigData проектов

Поддержка legacy applications (тот же 1С условный) с их специфическими требованиями (IOPS, latency, etc)

Преимущества гибридных инфраструктур

Page 24: Использование облачной платформы OpenStack для реализации механизмов обработки и хранения больших массивов

Спасибо за внимание! Ваши вопросы?

Мызгин Игорь,взаимодействие с партнерами и клиентами

[email protected]+7 916 779 74 70+7 926 302 00 75

ENTERPRISE HOSTING SOLUTIONS

ПРОМО: Экономия 25% при миграции на гибридную инфраструктуру