B14 「今」を分析するストリームデータ処理技術とその可能性 by Kazunori...

© Hitachi、 Ltd. 2012. All rights reserved.

株式会社日立製作所情報・通信システム社ＩＴプラットフォーム事業本部

田村和則

「今」を分析するストリームデータ処理技術とその可能性

db tech showcase 2013 Osaka 2013.5.29

© Hitachi, Ltd. 2013. All rights reserved.


セッションの要約

ストリームデータ処理って何なの？データベースと何が違うの？

どうやって使うの？どんなところで使われてるの？

で、実際どうなの？

といった疑問を解決します。

0-1

そして今日から、データ処理方式の選択肢のひとつに

「ストリームデータ処理」を加えてもらいたい

2 © Hitachi, Ltd. 2013. All rights reserved.


Contents １．ストリームデータ処理が生まれた背景２．ストリームデータ処理の原理と特長３．ストリームデータ処理の適用事例４．まとめ



通話ログ

電力メーター

カーナビつぶやき

コンテンツダウンロード

ＳＮＳ

ネット購入

データベース

監視映像

ＢｉｇＤａｔａ

人の発信

モノの発信

環境・気象データ

設備監視

ＧＰＳ

動画・画像・音声

スマートフォン

診断画像・電子カルテ

物流トレース

運行情報

ＩＣカード利用

人の移動

1-1 ビッグデータ時代がやってきた！



ITシステムから生成されるデータ

機械から生成されるデータ

■ データがデジタル化されている ■ センサー技術の進展により、今まで分からなかったことが分かる ■ ブロードバンドの普及により、どこからでも大量のデータを取得できる

モノやヒトのデータを活用した新たなビジネスが期待されている

設備情報

1-2

環境情報

携帯電話位置情報

ICカード …

システムログ業務ログ

アクセスログメール

SNSログ …

ビッグデータ時代におけるデータの変化

ありとあらゆるところから、データが湧き出てくる

6


項目センサーデータ空間データ

データ種別温度、湿度、振動、圧力・・・ GPS、RFID、電子乗車券…

データ型波形位置情報、軌跡

活用例機器診断人流分析、物流分析

0

50

100

150

11:59 12:00 12:01 12:02 12:03 12:04

【時間軸】

【ﾒｯｾｰｼﾞ

】

◎予兆

◎発生

◎復旧

1-3 ビッグデータ時代におけるデータの活用方法

■ 時々刻々と絶え間なく、データが発生し続ける ■ 「今」を高速かつ高度に分析（傾向/相関/軌跡分析など）して、現場に即座にアクションすることが重要

1点の値ではなく、時系列な値の変化に意味がある

波形軌跡

7


1-4

個客指向マーケティング流通分野

医療分野オーダーメイド医療

金融分野顧客細分型金融・保険サービス

行政分野世論分析・意思決定支援

予防保守・運用サービス保守分野

電力需給予測サービス電力分野

車流分析予測サービス交通分野

通信状況分析サービス通信分野

ビッグデータ時代におけるデータの活用例

ヒトの情報

モノの情報

8


ビッグデータ処理要件

リアルタイムに今が分かる

自分にあったサービスが得られる

新たな気づきを得るネット購入

金融取引ログ

電力メーター

ＩＣカード利用

ＳＮＳ

ブログ

自動改札

１.リアルタイム処理

２.蓄積・検索

３.集計・分析

1-5 ビッグデータ時代のITに求められること

データの利活用サイクルに応じたデータ処理技術が必要

9


ビッグデータの利活用を支えるプラットフォーム

時間

異常度

異常

警戒正常

故障予兆

大量の情報をリアルタイム処理

１.リアルタイム処理

大量の情報を対象とした分析

診断対象同機種平均

稼動データ

時間

P1P2P3P4

３.集計・分析

大量の情報を高速検索・効率保管

履歴データ

２.蓄積・検索

uCosminexus Stream Data Platform

uCosminexus Elastic Application Data store

Hitachi Advanced Data Binderプラットフォーム

Hadoop

uCosminexus Grid Processing Server ストリームデータ処理基盤

インメモリ型データグリッド

グリッドバッチ

時系列データストア技術

1-6

ビッグデータの利活用サイクルに応じたミドルウェアをご提供

10


新しいようで、実は長く研究され続けている技術

Stanford STREAM

MIT他 Aurora

U.C. Berkeley TelegraphCQ

Wisconsin Niagara

他に、Cornell Univ. New York Univ. AT&T などが研究推進

ストリームデータ処理の研究の歴史 2-1

■ 米国の有力大学のDBグループで研究開始（2002～） ■ 学術成果の学会発表（2003～） ■ 日立「uCosminexus Stream Data Platform」リリース（2008～） ■ 2013年現在も主要学会で研究発表継続中

日立から研究員派遣

12


2-2

データ種別，処理モデルストック型

・データを事前に準備・データサイズ有限

デー

タ格

納位

置

DB DB

サーバ

フロー型・データ到着時に処理・データサイズ無限

メモリ

ストレージ

ファイルサーバ

ファイル 1960年代～: 構造型DB

1970年代～: RDB2

凡例: 1 In-Memory DB, 2 Relational DB, 3 Materialized View (実体化ビュー)

関係データベース

ストレージベースのストック型データ処理技術

適用アプリ: アルゴリズムトレーディング，コンプライアンスチェック，不正監視・検知，…

ストリームデータ処理，複雑イベント処理

ストリームデータベース

サーバ 2000年～: 研究開始

・超高速イベント処理を実現・クエリインタフェース提供

により開発工数削減 CEP

適用アプリ: 銀行トランザクション，チケット予約，通話課金，…

ｵﾌﾞｼﾞｪｸﾄｷｬｯｼｭ

サーバ

インメモリデータベース

IMDB1

1980年代～: 研究開始 DB

サーバ 1990年代～: 商用化

インメモリベースのストック型データ処理技術

分散ｵﾌﾞｼﾞｪｸﾄｷｬｯｼｭ

DB DB

サーバ 1990年代～: 時系列DB

1980年代～: Temporal DB

データ処理での時間の取り扱い技術

1990年代～: MV差分更新

差分データ処理技術

サーバ MV3

構造型データベース

ストリームデータ処理の位置付け

13


2-3

取引情報

商品データ売上データ

事業活動

情報

DB操作で集計・分析

ストック型データ処理(従来DBMS)

データ

DB DB

データをDBにストック(蓄積)してから，データを集計・分析する。

一括処理データ保存必要

操作ログ

RFID POSデータ

センサデータ

実世界データ

データが発生する度に，逐次，データを集計・分析する。

リアルタイム処理データ保存不要

リアルタイム集計・分析

リアルタイム表示

フロー型データ処理(ストリーム)

ストリームデータ処理

データの量と質の変化

ストリームデータ処理の動作原理

データ発生時にリアルタイムに処理するフロー型データ処理

14


事前登録

稼動情報

通信データ

ICカード

稼動監視

ネットワーク

入力情報

集計・分析結果

分析シナリオ分析結果

ダッシュボード (見える化)

結果ファイル

uCosminexus Stream Data Platform

株a,15

ストリームデータ処理基盤

スライディング・ウインドウ

株a,1 株b,2

株a 計15 株b 計6

時系列データ分析

株a,1 株b,2

株a,4 株b,6

株a,9

株a,3 株b,4

株a,5 株a,6

2-4 ストリームデータ処理の要素技術と特長

■ ウィンドウ演算により、時系列データの分析を簡単に実現 ■ インメモリ差分計算により、超高速処理を実現 ■ 分析シナリオは、SQLを拡張したCQLで記述

「今」を高速かつ高度に分析するための技術

CQLによるシナリオ記述

インメモリ差分計算

15


ウィンドウ演算

時系列データ 100 99 2 1 0 101 102

スライディング･ウィンドウで切り取られた処理対象の時系列データ

■ スライディング・ウィンドウの種類・データの数（ＲＯＷＳ）例：直近の100取引分を対象にする・時間（ＲＡＮＧＥ）例：直近3分間分を対象にする・グループ分け（ＰＡＲＴＩＴＩＯＮ）) 例：各銘柄の最新5取引分を対象にする

2-5

■ スライディング・ウィンドウにより、時系列データの分析範囲を定義 ■ 分析に必要なデータだけを抽出することで、データ処理を効率化 ■ 分析シナリオに複数種のスライディングウィンドウを提供

無限に続く時系列データを効率よく処理

16


インメモリ差分計算

株価指数の計算処理の例

A社，xxx円，xxx株

B社，xxx円，xxx株

C社，xxx円，xxx株

：

xxxxx 時価総額

株価，株式数 A社，yyy円，yyy株

B社，xxx円，xxx株

C社，xxx円，xxx株

：

yyyyy A社，xxx円，xxx株 xxxxx A社，yyy円，yyy株－＋

分析対象データ、中間計算結果はメモリ中に保持

変化のあった株価のみを演算

スライディング・ウインドウスライディング・ウインドウ

2-6

■ インメモリデータ処理により、ディスクI/Oを排除 ■ 中間結果を利用した差分計算により、大量データ処理時の負荷を軽減 ■ 分析対象のデータ数に依存しない、一意の計算量で処理を実現

圧倒的な超高速処理を実現

17


クエリ言語CQL（Continuous Query Language）

IStream( Select id, Sum(val) as S From str [Rows 3] Group by id)

…ストリーム化演算

CQLの例

選択、結合集合演算など

ストリーム化演算時系列データ

中間結果入力・出力

2-7

■ SQLを拡張した言語であるため、習得は容易 ■ ウィンドウ演算により時系列データの分析範囲を定め、関係演算を実行 ■ アプリケーションの個別開発と比較して、開発効率を大幅に向上

幅広い業務に対応可能なクエリ言語を提供

…ウィンドウ演算

処理モデル

リレーションウィンドウ演算

関係演算

18


ストリームデータ処理基盤通信

パケット

ファイル

ストリームデータ処理基盤ーアプリケーションフレームワーク

入出力ｱﾀﾞﾌﾟﾀｰ定義分析シナリオ定義ダッシュボード定義

アプリケーション開発時に作成する部分

出力AP

ファイル

入力データ出力結果

イベント

データ抽出処理ダッシュボード

出力処理

ストリームデータ処理基盤のプログラム構成 2-8

出力ｱﾀﾞﾌﾟﾀｰストリーム処理

入力AP

入力ｱﾀﾞﾌﾟﾀｰ

CQL： Continuous Query Language

■ シンプルなプログラム構成と簡単な分析シナリオ定義により、システム開発や分析シナリオの開発や変更を短期間で実施可能 ■ uCSDP-AF使用時は定義作成だけでアプリケーション作成不要

分析シナリオ定義、入出力APのシンプルなプログラム構成

19


2-9 ストリームデータ処理実用化に向けた機能

＃機能名機能詳細効果

1 イベント発生時刻モードの選択機能

処理時刻軸を発生源時刻と受付時刻から選択

・対応範囲拡大

2 入力データ順序性保証機能

入力データの時刻情報逆転時、順序を補正

・開発工数削減・安定稼働

3 時刻解像度機能すべての入力データを保持せず、単位時間の統計情報を保持

・リソース削減・安定稼働

4 Eagerｽｹｼﾞｭｰﾙ機能

複数のクエリを1つのクエリ処理として一括処理

・ﾚｲﾃﾝｼ向上

5 入出力ｱﾀﾞﾌﾟﾀｰ機能

HTTPやファイルなど、標準的な入出力処理を標準提供

・開発工数削減

20


syslog Proxylog 認証log

syslog Proxylog 認証log ＩＴシステムで発生する各種ログ

センサーから出力される数値データ

クルマやヒトの位置情報

DB、ファイル

今を見える化

リアルタイム監視

価値あるデータに変換

データ発生と同時に瞬時に分析

3-1 ストリームデータ処理でできること

22


設備・環境監視

交通状況モニタリング Webサービス監視

株式指数算出配信

ITから実世界まで幅広い分野に適用

3-2 ストリームデータ処理の適用分野

センサーネット管理 23


株価指数算出配信

売買システム

相場ユーザ

システム

入力AP

電文受信/ フィルタ処理

電文組立/ 配信処理

uCosminexus Stream Data Platform 株価株価指数

処理性能

スループット 8,000件/秒以上

レイテンシ 10ミリ秒以下（1～10ミリ秒）

従来サービス指数高速配信

配信間隔 1秒毎指数構成銘柄の値段の変化毎

指数高速配信システム

ストリームデータ処理基盤出力AP

指数計算処理

集計・分析シナリオ

参考：2011年2月22日付弊社ニュースリリース「東京証券取引所の指数高速配信サービスが開始～世界最高水準、TOPIXをミリ秒レベルで配信～」 http://www.hitachi.co.jp/New/cnews/month/2011/02/0222.html

3-3

■ 株価が変動する度に株価指数を算出、ミリ秒レベルでユーザ配信 ■ 株価指数計算の高速化により、配信サービスのサービスレベルを大幅に向上 ■ 株価指数計算の柔軟性確保により、システム運用コストも低減

24


Webサービスのサービスレベル監視

応答時間

現在の値

時間

しきい値検知

外れ値検知（予兆検知）

SLOしきい値

ベースライン

正常範囲（ベースラインから

算出）

リアルタイム監視画面

ホーム画面

過去の情報（ベースライン）と比較して

いつもと違う傾向を検知（外れ値検知）

しきい値検知より早く

予兆の検知が可能 SLO : Service Level Objective

統合システム運用管理 JP1/IT Service Level Management

3-4

■ 大量のWebアクセスデータから、「今」を高速かつ高度に分析 ■ Webサービスのサービスレベル（応答時間やエラー率など）の見える化と監視 ■ データの傾向から、「いつもと違う」障害の予兆をリアルタイム検知

25


交通状況モニタリング

自動車車両位置情報

ストリームデータ処理基盤 uCosminexus Stream Data Platform

分析シナリオ

速度計算

走行方向計算

密度計算

渋滞検出

事故検出

車両ＩＤ（緯度,経度）渋滞情報

データ入力約2,000件/秒

赤：低速黄：中速緑：高速

始点：一つ前の位置終点：最新の位置

各車両走行状況渋滞・事故検知

この位置で渋滞・事故が発生

3-5

事故情報

Ⓒ2008 Google

Ⓒ2008 Zenrin

■ 車両位置情報を収集・分析し、交通状況をリアルタイムにモニタリング ■ 各車両の速度や進行方向を分析、周辺車両の状況により渋滞や事故を検知

26


データセンター空調制御

分析1 相関/

傾向分析

判定

分析シナリオ

事前登録

分析2

データセンターレイアウトの表示

サーバ別詳細情報の表示サーバ室温状況のモニタリン

グ

熱溜り検知・アラーム通知

熱溜りのイベント

パトライトによるアラーム

コールドアイル：空調機が送り出してサーバが吸収する冷気を集めた空間

熱溜り

冷気不足による熱の回り込み

日立センサーネット情報システム

AirSenseⅡ

吸気温度と排気温度の相関分析

室温上昇の傾向分析

ストリームデータ処理基盤

サーバ室

無線通信による

サーバ室温情報の逐次収集

室温情報を表示したいサーバをクリック

ホットアイル：サーバの排熱を集めた空間

3-6

■ 無線温度センサーから収集した室温データを、発生と同時に瞬時に分析 ■ サーバ機器の吸排気温度の傾向・相関分析により、熱溜りを検知し対策

27


日立・横浜事業所「快適ecoプロジェクト」 3-7

■ 2012年7月、日立・横浜事業所の新社屋オープン ■ 太陽光発電、ﾀﾞﾌﾞﾙｽｷﾝｶｰﾃﾝｳｫｰﾙ、ﾗｲﾄｳｪﾙなどの最新のeco設備を導入 ■ 新社屋全体がビッグデータとスマートシティの実証実験室



日立・横浜事業所「快適ecoプロジェクト」 3-8

社員の声アンケート､在席情報…

設備情報室温､湿度､騒音､電力量…

外部情報気象情報、災害情報…

快適ecoモニター

快適とecoの実現設備制御の最適化社員のecoマインド醸成

■ 快適とeco、人と設備をビッグデータ処理技術が融合 ■ ヒトとモノの情報をリアルタイムに収集・分析し、現場に即座にフィードバック ■ スケジューラや在席管理システムとの連携も計画中

29


製造・生産ライン

品質予測製造監視

リアルタイム監視によるリスクマネジメント

システム稼動監視

相関分析予兆検知

気象、環境、エネルギー

物理×ＩＴセキュリティ

人流分析画像監視

コンプライアンスチェック

不正検出内部統制

交通サービス

運行監視渋滞予測

金融・証券

自動取引取引監視

携帯電話サービス

位置情報サービス

新たな付加価値による新ビジネスの創造

自動運転・予防保全によるビジネス機会拡大

まとめ 4-1

使用量監視気象解析

■ ビッグデータから「今｣を分析するストリームデータ処理技術をご紹介 ■ この新しいデータ処理技術が切り拓いていく新しい価値は無限大 ■ これから、データ処理方式の選択肢のひとつに加えてもらいたい

31


さいごに（セッションの要約）

ストリームデータ処理って何なの？データベースと何が違うの？

どうやって使うの？どんなところで使われてるの？

で、実際どうなの？

といった疑問を解決します。

4-2

そして今日から、データ処理方式の選択肢のひとつに

「ストリームデータ処理」を加えてもらいたい



• Javaは，Oracle Corporation 及びその子会社，関連会社の米国及びその他の国における登録商標です。

• その他、記載の会社名、製品名は、それぞれの会社の商標または登録商標です。

• 製品の改良により予告なく記載されている仕様が変更になることがあります。

他社商品名、商標等の引用に関する表示

33


株式会社日立製作所情報・通信システム社ＩＴプラットフォーム事業本部

田村和則

「今」を分析するストリームデータ処理技術とその可能性

db tech showcase 2013 Osaka 2013.5.29


B14 「今」を分析するストリームデータ処理技術とその可能性 by Kazunori...

Technology

Transcript of B14 「今」を分析するストリームデータ処理技術とその可能性 by Kazunori...