(주)데이터스트림즈 발표자료: 실시간 IoT 기반의 빅데이터 분석 서비스

42
© 2016 DataStreams Corp. All Rights Reserved. IoT 와 와와와 와와와와 와와 와와와와와와와 BC 와와 와와 와와와

Transcript of (주)데이터스트림즈 발표자료: 실시간 IoT 기반의 빅데이터 분석 서비스

Page 1: (주)데이터스트림즈 발표자료: 실시간 IoT 기반의 빅데이터 분석 서비스

© 2016 DataStreams Corp. All Rights Reserved.

IoT 와 실시간 빅데이터 활용

데이터스트림즈BC 본부

상무 전완기

Page 2: (주)데이터스트림즈 발표자료: 실시간 IoT 기반의 빅데이터 분석 서비스

목차

© 2016 DataStreams Corp. All Rights Reserved.

1. 데이터 시대의 도래2.IoT 와 활용3.IoT, 실시간 그리고 분석 4. 데이터 거버넌스와 빅데이터 분석 플랫폼5. 결론

Page 3: (주)데이터스트림즈 발표자료: 실시간 IoT 기반의 빅데이터 분석 서비스

© 2016 DataStreams Corp. All Rights Reserved.

4 차 산업혁명실제와 가상의 통합으로 사물들이 자동 . 지능적으로 제어되는 가상물리 시스템 구축

3/51

INDUSTRIAL REVOLUTION TIMELINE

Page 4: (주)데이터스트림즈 발표자료: 실시간 IoT 기반의 빅데이터 분석 서비스

© 2016 DataStreams Corp. All Rights Reserved.

규모 (Volume)처리할 수 있는 데이터 양의 증가속도 (Velocity)빠른 속도로 데이터가 생성되고 소비됨다양성 (Variety)정 / 비정형의 모든 데이터 스트림으로 바뀜

스마트 시대

Big DataH/W

1990

가치 (Value)데이터 활용과 융합

왜 Big Data 인가 ?기업 경쟁력과 인식의 변화

Data2010

S/W2000

데이터와 경쟁력

4/51

Page 5: (주)데이터스트림즈 발표자료: 실시간 IoT 기반의 빅데이터 분석 서비스

© 2016 DataStreams Corp. All Rights Reserved.

실시간 빅데이터로의 이동실시간성 업무와 서비스의 증가

‘ 애널리틱스 3.0’ 실시간 빅데이터 분석 시대 도래

[ 출처 ] : IDG Tech Focus , 실시간 & IoT : 빅데이터 분석의 새로운 도전과 해법 5/51

Page 6: (주)데이터스트림즈 발표자료: 실시간 IoT 기반의 빅데이터 분석 서비스

© 2016 DataStreams Corp. All Rights Reserved.

트래픽의 폭발적 증가NOW

FUTURE

6/51

Page 7: (주)데이터스트림즈 발표자료: 실시간 IoT 기반의 빅데이터 분석 서비스

© 2016 DataStreams Corp. All Rights Reserved.

정보시스템의 목적Data service is final destination of information system.

Infrastructure Services

Applications Services

System management Services

Security Services

Data Services

IT 자원의 운영과 관리를 위한 물리적 기반환경과 기술요소H/W Platform, Operation System, Storage, System S/W, Interface Gateway, etc

데이터의 접근 , 공유 , 활용 , 보관 및 관리를 지원하기 위해 요구되는 제반 기술환경DBMS, DW, DM, ETL,BI, Big Data, IoT …

어플리케이션 개발 및 유지보수 제반 기술 및 지원환경사용자 인터페이스 , 개발방법론 , 개발언어 , 통합개발환경 (IDE), 모델링 및 설계 , 형상관리 등

IT 자원의 운영과 관리를 위한 제반 기술 및 지원도구자산관리 , 구성관리 , 변경관리 , 성능관리 , 장애 / 문제관리 , 전사적 아키텍처 관리 (EA) 등

IT 시스템 통제관리 및 보안 관리에 관한 기술환경 및 적용 기술요소인증 및 권한관리 , 시스템 보한 , 암호화 , 침입탐지 , Audit, 방화벽 등

7/51

Page 8: (주)데이터스트림즈 발표자료: 실시간 IoT 기반의 빅데이터 분석 서비스

© 2016 DataStreams Corp. All Rights Reserved.

Why Big Data ?

혁신 시장 및 소비자 행동 예측 , 비즈니스 모델 혁신 신사업 발굴

경쟁력 원가절감을 통한 제품 차별화 , 투명성 증가 기업 경쟁력 강화

생산성 품질 향상 , 프로세스 개선 , 작업의 효율성 개선 생산성 향상숨겨지고 관심없고 버려진 데이터에서 새로운 가치를 찾자 !!

8/51

Page 9: (주)데이터스트림즈 발표자료: 실시간 IoT 기반의 빅데이터 분석 서비스

© 2016 DataStreams Corp. All Rights Reserved.

스마트 시대에서 강자 ?

9

산업혁명시기에는 증기가 세상을 바꾸는 동력이었고 , 기술의 시기에는 IT 가 삶을 바꿔왔지만 , 스마트 시대에서 강자는 데이터를 가진 자

Industrialization

Information Age Smart Age

Steam, Coal

IT, SW, Network

Big Data

?

Electronic Age Computers

Semi-Conductors,

9/51

Page 10: (주)데이터스트림즈 발표자료: 실시간 IoT 기반의 빅데이터 분석 서비스

목차

© 2016 DataStreams Corp. All Rights Reserved.

1. 데이터 시대의 도래2.IoT 와 활용3.IoT, 실시간 그리고 분석 4. 데이터 거버넌스와 빅데이터 분석 플랫폼5. 결론

Page 11: (주)데이터스트림즈 발표자료: 실시간 IoT 기반의 빅데이터 분석 서비스

© 2016 DataStreams Corp. All Rights Reserved.

IoT ?

Page 12: (주)데이터스트림즈 발표자료: 실시간 IoT 기반의 빅데이터 분석 서비스

© 2016 DataStreams Corp. All Rights Reserved.

IoT World

Page 13: (주)데이터스트림즈 발표자료: 실시간 IoT 기반의 빅데이터 분석 서비스

© 2016 DataStreams Corp. All Rights Reserved.

Smart + phone

13/51

Page 14: (주)데이터스트림즈 발표자료: 실시간 IoT 기반의 빅데이터 분석 서비스

© 2016 DataStreams Corp. All Rights Reserved.

IoT for Smart System

14/51

Page 15: (주)데이터스트림즈 발표자료: 실시간 IoT 기반의 빅데이터 분석 서비스

© 2016 DataStreams Corp. All Rights Reserved.

IoT - 센서

15/51

Page 16: (주)데이터스트림즈 발표자료: 실시간 IoT 기반의 빅데이터 분석 서비스

© 2016 DataStreams Corp. All Rights Reserved.

IoT - 통신

16/51

Page 17: (주)데이터스트림즈 발표자료: 실시간 IoT 기반의 빅데이터 분석 서비스

© 2016 DataStreams Corp. All Rights Reserved.

IoT - 상호 연계

17/51

Page 19: (주)데이터스트림즈 발표자료: 실시간 IoT 기반의 빅데이터 분석 서비스

© 2016 DataStreams Corp. All Rights Reserved.

시나리오 2

수집 전략 최적화트럭 연료 비용 절감

수집량 예측내부 프로세스 최적화

생산량 예측내부 샐산 프로세스 최적화

최소비용으로 자동 처리 프로세스 모니터링

19/51

태양광으로 발전하는 압축 쓰레기통

Page 20: (주)데이터스트림즈 발표자료: 실시간 IoT 기반의 빅데이터 분석 서비스

© 2016 DataStreams Corp. All Rights Reserved.

시나리오 3

[Source: “Sensing as a Service Model for Smart Cities Supported by Internet of Things” , TRANSACTIONS ON EMERGING TELECOMMUNICATIONS TECHNOLOGIES 2014 20/51

Page 21: (주)데이터스트림즈 발표자료: 실시간 IoT 기반의 빅데이터 분석 서비스

© 2016 DataStreams Corp. All Rights Reserved.

the next big thing in Retail ?

1

1

1

11

2

344

5

1. Asset tracking track & trace of as-

sets(packages, shelves, pallets, shopping carts)

2. Smart Parking

3. Smart Locker

4. Smart thermome-ter monitor refrigeration

units5. Smart building energy monitoring &

facility management

Page 22: (주)데이터스트림즈 발표자료: 실시간 IoT 기반의 빅데이터 분석 서비스

© 2016 DataStreams Corp. All Rights Reserved.

IoT 데이터 활용 시나리오고객 로그 분석 활용을 통한 의사결정 지원 및 마케팅 활용 ∙

① IoT 상황 인식 데이터 수집② 이용자 중심 컨텐츠 발굴 적용

① ① ①

② ②

- [ 여객 ]: 좌석 및 플랫폼 안내 , 승차권 구입 등 - [ 교통 ]: 환승 및 대중교통 정보 안내 , 스케쥴 관리 - [ 여행 / 쇼핑 ]: 볼 거 리 , 먹 거 리 , 즐 길 거 리 등 의 여행정보 및 제휴사 연계 - [ 시설 / 안전 ]: 시설물 정보 및 장 애 인 알 람 정 보 , 안전사고 · 화재 등의 이벤트 발생에 따른 대응 체계 강화

실시간 IoT 서비스

22/51

Page 23: (주)데이터스트림즈 발표자료: 실시간 IoT 기반의 빅데이터 분석 서비스

© 2016 DataStreams Corp. All Rights Reserved.

기업의 변화 - 제조 , S/W 기업 ?

항공기 터보 엔진부터 의료 , 조명 , 전기 , 석유가스 , 운송 , 에너지관리 등GE 가 소프트웨어 기업으로의 변신

소프트웨어와 사물인터넷 (IoT; Internet of Things) 분야에 대대적인 투자데이터를 활용한 공장 효율화 솔루션에 승부

기계만 팔지 않고 기계에 빅데이터를 관리・분석하는 소프트웨어를 얹어 고객의 생산성을 높이는 서비스까지 함께 팔겠다는 전략

GE 산업인터넷 플랫폼 , 프레딕스™ (Predix™)

23/51

Page 24: (주)데이터스트림즈 발표자료: 실시간 IoT 기반의 빅데이터 분석 서비스

목차

© 2016 DataStreams Corp. All Rights Reserved.

1. 데이터 시대의 도래2.IoT 와 활용3.IoT, 실시간 그리고 분석 4. 데이터 거버넌스와 빅데이터 분석 플랫폼5. 결론

Page 25: (주)데이터스트림즈 발표자료: 실시간 IoT 기반의 빅데이터 분석 서비스

© 2016 DataStreams Corp. All Rights Reserved.

실시간 Big Data 분석

새로운 빅데이터 솔루션

다양한수집 고속저장 실시간 분석

비즈니스 담당자 IT 담당자

장비 로그비즈니스 데이터 센서 정보 이벤트

Source : 2015 Cap Gemini Study “ The Deciding Factor : Big Data & Decision Making”

실시간 데이터분석의 Needs

25/51

Page 26: (주)데이터스트림즈 발표자료: 실시간 IoT 기반의 빅데이터 분석 서비스

© 2016 DataStreams Corp. All Rights Reserved.

Business Platform for Real-Time

Page 27: (주)데이터스트림즈 발표자료: 실시간 IoT 기반의 빅데이터 분석 서비스

© 2016 DataStreams Corp. All Rights Reserved.

Real-Time : O2O교통 O2O 플랫폼 장악 나선 ‘카카오 제국’

지도를 중심으로 모든 서비스가 연결카카오맵 길찾기 카카오버스와 카카오지하철의 실시간 정보 연동 제공 카카오지하철 앱 지도와 연동돼 현 위치를 중심으로 가까운 지하철역 위치와 그에 따른 최적 경로 제공카카오택시와 카카오내비 연동 대리기사 호출 서비스

Page 28: (주)데이터스트림즈 발표자료: 실시간 IoT 기반의 빅데이터 분석 서비스

© 2016 DataStreams Corp. All Rights Reserved.

Real-Time : OmniChannel

마케팅 실행Campaign

Offering

On-

line

Web

Mobile

SNS

Open Market

IoT

Off-

line 가맹점

대형유통…

기타

컨텍센터…

제휴사

Data Interface

On-line Data 수집

Data 통합 / 처리 마케팅 기획

Off-line Data 취합기타 내부 Data 수집

외부 마케팅Data 수집

Data Processing

Data 저장

분석 모델링

고객 분석

마케팅 Insight 도출

Omni Channel 마케팅 기획

고객 중심으로 채널을 통합하여 일관된 Communication 제공으로 고객 경험 강화 및 판매를 증대시키는 채널전략 실행

28/51

Page 29: (주)데이터스트림즈 발표자료: 실시간 IoT 기반의 빅데이터 분석 서비스

© 2016 DataStreams Corp. All Rights Reserved.

Real-Time : OmniChannel 예시매장 방문 고객 인식 및 이동경로에 따른 실시간 정보 및 개인화된 프로모션 제공

Source : http://gigaom.com/2013/09/10/with-ibeacon-apple-is-going-to-dump-on-nfc-and-embrace-the-internet-of-things/

29/51

Page 30: (주)데이터스트림즈 발표자료: 실시간 IoT 기반의 빅데이터 분석 서비스

© 2016 DataStreams Corp. All Rights Reserved.

Real-Time : 실시간 도로 위험 기상 정보

도로 상의 각종 센서 및 기상 데이터 실시간 분석을 통한 도로 위험 정보 제공

30/51

Page 31: (주)데이터스트림즈 발표자료: 실시간 IoT 기반의 빅데이터 분석 서비스

© 2016 DataStreams Corp. All Rights Reserved.

외부침입 대응의 활용 시나리오 ( 시스템 )

축적된 통합 로그 분석을 통한 위험감지 및 위험요소의 상관성 분석

Firewall

IPS

IDS

DDOS

VPN

WAS

●●●

정보수집 및취약점 파악

서비스 거부공격

●●●

웹 해킹 시도

악성코드 공격

경유지 악용

잘못된 확장자 스캐닝 탐지Robots.txt 탐색 시도

●●●

Brute Force 공격 탐지

1:1 다량 접속 시도

Sweep 시도

N:1 DDoS 시도

파라메터 변조Cross Site

Scripting 시도

위험분류 탐지대상 선택 위험 세분화

[Source IP 접속빈도 랭킹 ] [Destination IP 접속빈도 랭킹 ] [Port 변경 접속빈도 랭킹 ]

Real-Time : 외부침입 보안분석

31/51

Page 32: (주)데이터스트림즈 발표자료: 실시간 IoT 기반의 빅데이터 분석 서비스

© 2016 DataStreams Corp. All Rights Reserved.

AlphaGo vs. 이세돌 9 단머신러닝과 트리탐색 알고리즘의 조합을 기반으로한 AlphaGo 는 하루 수 만 개의 기보를 학습 . 인공신경망 ‘정책망 (Policy network)’, ‘ 가치망 (Value Network)’ 으로 구성 ,

• Machine Learning, Deep Learning • Tree Search Algorithm

• Monte carlo tree search• 1,202 CPUs & 176 GPUs

Real-Time : Machine Learning

• Parallel Distributed Computing

이미지 출처 : SBS

의료기상기후 예측

32/51

Page 33: (주)데이터스트림즈 발표자료: 실시간 IoT 기반의 빅데이터 분석 서비스

목차

© 2016 DataStreams Corp. All Rights Reserved.

1. 데이터 시대의 도래2.IoT 와 활용3.IoT, 실시간 그리고 분석 4. 데이터 거버넌스와 빅데이터 분석 플랫폼5. 결론

Page 34: (주)데이터스트림즈 발표자료: 실시간 IoT 기반의 빅데이터 분석 서비스

© 2016 DataStreams Corp. All Rights Reserved.

빅데이터 활용과 고민Robo-Advisor

AI

O2O

Real-Time

Data Governance

Security

Data QualityMetadata Management

In-Memory

34/51

Page 35: (주)데이터스트림즈 발표자료: 실시간 IoT 기반의 빅데이터 분석 서비스

© 2016 DataStreams Corp. All Rights Reserved.

데이터 거버넌스의 필요성

Page 36: (주)데이터스트림즈 발표자료: 실시간 IoT 기반의 빅데이터 분석 서비스

© 2016 DataStreams Corp. All Rights Reserved.

Big Data Governance데이터에 대한 품질과 표준 , 프라이버시 , 메타 데이터 , 수명관리 등의 관리체계를 수립하고 , 관련 조직과 규정을 정립하며 , 이를 자동화하는 ( 시스템 구축 ) 데이터 관점에서의 IT 관리 체계

데이터 관리 원칙 , 정책 , 지침

데이터 표준

데이터 구조

데이터 품질

기준 정보

데이터 통합

36/51

Page 37: (주)데이터스트림즈 발표자료: 실시간 IoT 기반의 빅데이터 분석 서비스

© 2016 DataStreams Corp. All Rights Reserved.

One stop Data Governance

37/51

Page 38: (주)데이터스트림즈 발표자료: 실시간 IoT 기반의 빅데이터 분석 서비스

© 2016 DataStreams Corp. All Rights Reserved.

Real-Time Analysis

Unified Database

Real-time Searching and Pro-cessingReal-Time data

Analysis DB

실시간 IoT 데이터 처리

38/51

• In-depth Analysis• Operational Analysis• Large Scale Structured

Data Management

Real-Time

Page 39: (주)데이터스트림즈 발표자료: 실시간 IoT 기반의 빅데이터 분석 서비스

© 2016 DataStreams Corp. All Rights Reserved.

통합 Big Data 플랫폼 Real Time Monitoring

• Performance Tuning• Emergency Management

Data Platform

Quality Mgmt.Metadata Mgmt Master Data MgmtImpact Analysis Data Lineage MgmtData Governance

Enterprise Data Hub

file file File

In-mem-ory

HIVE

HBASE

Aug-mented

ETL

RDBMS

AnalyticsFramework

DataVirtualiza-

tionHadoop /

HDFS

ExtractTransformCleanse

ValidationTransport

Reporting

AdvancedAnalytics

Visualization

BI/OLAP

AnalyticsPlatform

Legacy(ERP, CRM)

(Structured)

(unstructured /Streaming Data)

Big Data*(Web/Social/

IoT)

DataSource

s

39/51

Page 40: (주)데이터스트림즈 발표자료: 실시간 IoT 기반의 빅데이터 분석 서비스

목차

© 2016 DataStreams Corp. All Rights Reserved.

1. 데이터 시대의 도래2.IoT 와 활용3.IoT, 실시간 그리고 분석4. 데이터 거버넌스와 빅데이터 분석 플랫폼5. 결론

Page 41: (주)데이터스트림즈 발표자료: 실시간 IoT 기반의 빅데이터 분석 서비스

© 2016 DataStreams Corp. All Rights Reserved.

Conclusion

데이터를 가진 자가 강자다 !?

활용하는자가 강자입니다 .

41/51

Page 42: (주)데이터스트림즈 발표자료: 실시간 IoT 기반의 빅데이터 분석 서비스

본 사 : ( 주 ) 데이터스트림즈 서울시 서초구 사임당로 28 청호나이스빌딩 6 층 T 02 3473 9077 F 02 3473 9084 E [email protected]연 구 소 : ( 주 ) 데이터스트림즈 R&D 센터 경기도 성남시 분당구 대왕판교로 670 유스페이스몰 2 B 동 601 호 T 02 3473 9077 F 02 3473 9084중국법인 : 100-102 Pohang center 28F, Wangjing technology business park, Chaoyang District, Beijing E [email protected]

www.datastreams.co.kr

감사합니다 .