エキスパートに聞く!クラウドで実現する ビッグデータ...

22
2017 年 10 ⽉ 10 ⽇ ⽇本アイ・ビー・エム株式会社 IBMクラウド事業本部 コンサルティング・アーキテクト 平⼭ エキスパートに聞く!クラウドで実現する ビッグデータ活⽤ - IBM Bluemix - Data platform Conference Tokyo 2017

Transcript of エキスパートに聞く!クラウドで実現する ビッグデータ...

Page 1: エキスパートに聞く!クラウドで実現する ビッグデータ …dataplatform.jp/program/files/A-3-3.pdf · 2017 年10 ⽉10 ⽇ ⽇本アイ・ビー・エム株式会社

2017 年 10 ⽉ 10 ⽇⽇本アイ・ビー・エム株式会社IBMクラウド事業本部コンサルティング・アーキテクト平⼭ 毅

エキスパートに聞く!クラウドで実現するビッグデータ活⽤ - IBM Bluemix -

Data platformConference Tokyo 2017

Page 2: エキスパートに聞く!クラウドで実現する ビッグデータ …dataplatform.jp/program/files/A-3-3.pdf · 2017 年10 ⽉10 ⽇ ⽇本アイ・ビー・エム株式会社

© 2017 IBM Corporation

⾃⼰紹介

平⼭ 毅 (ひらやま つよし)IBM Consulting Architect

WatsonとAnalyticsを融合した新⽣IBMクラウド事業本部で技術⾯をリードしています。最近は次世代コンピューティングのプロジェクトにも従事しています

【共著】

Page 3: エキスパートに聞く!クラウドで実現する ビッグデータ …dataplatform.jp/program/files/A-3-3.pdf · 2017 年10 ⽉10 ⽇ ⽇本アイ・ビー・エム株式会社

© 2017 IBM Corporation

IBM Bluemix の ラインナップとバリュー

インフラストラクチャー

デベロッパーツール

コンテナー Cloud Foundry サーバーレス ランタイム

セキ

ュリ

ティ

& コ

ンプ

ライ

アン

メッセージング ロードバランサー

アプリケーション・セキュリティ

API &インテグレーション DevOps

データベース データ データマネジメント

アナリティクス ビジュアリゼーション

Discovery Conver-sation

NaturalLanguage

Speech &Vision

Retrieve &Rank

Tradeoff Analytics

コンピューティング ストレージ ネットワーク

Public Dedicatedマルチテナント シングルテナント

Local

IBM Cloudシングルテナント

お客様環境

VMwareバーチャルサーバー

ベアメタル

ファイルブロック オブジェクト VPNパブリック

プライベート CDN

コグニティブ

データ&アナリティクス

インダストリー IoT ブロックチェーン ヘルス フィナンシャル

サービス メディアWeather ビデオ

Cost & Speed

Innovation

豊富なデジタルイノベーションを促進するサービスラインナップオープンかつハイブリッドなクラウド提供モデル

Page 4: エキスパートに聞く!クラウドで実現する ビッグデータ …dataplatform.jp/program/files/A-3-3.pdf · 2017 年10 ⽉10 ⽇ ⽇本アイ・ビー・エム株式会社

© 2017 IBM Corporation

Bluemix のコンセプト”コンポーザブル”

パートナー

お客様のアイデアを、即、製品化するために、サービス、インフラ基盤、データをトータルに提供でき、“コンポーザブル(組み合わせ)”に最も先進のクラウド・プラットフォーム

IBM

お客様所有オープンソース

Internet of Things

モバイル

アプリ実⾏環境

コグニティブコンピューティング

アナリティクス

セキュリティー

データベース

コンポーザブル

Page 5: エキスパートに聞く!クラウドで実現する ビッグデータ …dataplatform.jp/program/files/A-3-3.pdf · 2017 年10 ⽉10 ⽇ ⽇本アイ・ビー・エム株式会社

© 2017 IBM Corporation

ランタイムとサービスをマッピングする“バインド”

ランタイムコンテナ環境 イベント実⾏環境コンテナ

インテグレーション(API)

IoT

データベースアナリティクス

Watson

DevOps

モバイルクラウドネイティブアプリケーション

REST

REST

REST

REST

DBConnection

DeploymentPipeline

ランタイム サービス

バインド

Page 6: エキスパートに聞く!クラウドで実現する ビッグデータ …dataplatform.jp/program/files/A-3-3.pdf · 2017 年10 ⽉10 ⽇ ⽇本アイ・ビー・エム株式会社

© 2017 IBM Corporation

豊富なBluemix Data Services カタログ

Page 7: エキスパートに聞く!クラウドで実現する ビッグデータ …dataplatform.jp/program/files/A-3-3.pdf · 2017 年10 ⽉10 ⽇ ⽇本アイ・ビー・エム株式会社

© 2017 IBM Corporation

従来の「DB2」は 新しい名前「Db2」へ

旧名称 新規名称データベース DB2 Linux, Unix and

Windows (LUW)Db2

DB2 for i Db2 for iDB2 for z/OS Db2 for z/OSDB2 on Cloud Db2 HosteddashDB for Transactions Db2 on Cloud

データウェアハウス

dashDB for Analytics Db2 Warehouse on ClouddashDB Local Db2 Warehouse

新しいブランド名&新しい製品名IBM Db2

Db2 で実現するのは ” Data Without Limits”

Page 8: エキスパートに聞く!クラウドで実現する ビッグデータ …dataplatform.jp/program/files/A-3-3.pdf · 2017 年10 ⽉10 ⽇ ⽇本アイ・ビー・エム株式会社

© 2017 IBM Corporation

Bluemix Data Services の⼤きなカテゴリー

分析⽤トランザクション⽤

⾮構造化データ

構造化データ

DataConnectETL

Watson Analytics直観的ビジュアル分析ツール

Db2wahouse

Page 9: エキスパートに聞く!クラウドで実現する ビッグデータ …dataplatform.jp/program/files/A-3-3.pdf · 2017 年10 ⽉10 ⽇ ⽇本アイ・ビー・エム株式会社

© 2017 IBM Corporation

Bluemix Data Services 具体的なカテゴリーNoSQL SQL Analytics

IBM

Com

poseThirdParty

CloudantNoSQL DB

IBM Graph

DataConenct IBM DB2 on Cloud

SQL Database

MongoDBby Compose

Redisby Compose

Redis Cloud

PostgreSQLby Compose

ClearDB MySQLDatabase

Db2warehouse

CupenyaInsights

Namara.ioCatalog

ビジネス

ElephantSQL TinyQueries

Apache Spark BigInsights forApache Hadoop

BigData並列分散

StreamingAnalytics

BigDataストリーム

Weather Company Datafor IBM Bluemix

Insightsfor Twitter

GeospatialAnalytics

情報

Elasticsearchby Compose

検索

WatsonML

予測

IBM DataStageon Cloud

IBM Master DataManagement on Cloud

InfoSphere

Lift

Page 10: エキスパートに聞く!クラウドで実現する ビッグデータ …dataplatform.jp/program/files/A-3-3.pdf · 2017 年10 ⽉10 ⽇ ⽇本アイ・ビー・エム株式会社

© 2017 IBM Corporation

Bluemix Data Services によるデータフロー

10

Db2 warehouse

データ分析

Data Connect

データ取得

ApacheKafka(Message Hub)

Streams

Cloudant

Redis

データ配置

PostgresDB2

MongoDB

ObjectStorage

センサー

インターネット

ソーシャルメディア

顧客の会話

内部外部データソース

バックオフィスアプリケーショ

Notebooks

データ可視化

WatsonML

反復

Lift

DataScienceExperience

Page 11: エキスパートに聞く!クラウドで実現する ビッグデータ …dataplatform.jp/program/files/A-3-3.pdf · 2017 年10 ⽉10 ⽇ ⽇本アイ・ビー・エム株式会社

© 2017 IBM Corporation

Bluemix データクレンジングサービス

Page 12: エキスパートに聞く!クラウドで実現する ビッグデータ …dataplatform.jp/program/files/A-3-3.pdf · 2017 年10 ⽉10 ⽇ ⽇本アイ・ビー・エム株式会社

© 2017 IBM Corporation

Watson Data Platform

探す - Find 共有 - Share 共創 - Collaboratecommon data, pipelines and projects

analytics operating system

ガバナンス

HadoopNoSQL / SQLObject store

Discovery / ExplorationMachine learning

Models development

Reports / DashboardsApplications

APIs

IntegrationMatching / Quality

Streaming保存

分析データ取込 デプロイ

データ・サイエンティスト

ビジネスアナリスト アプリ開発者 データエンジニア

Iterate

データ・ソース•オンプレ/クラウド•構造化/⾮構造化•ストリーム/記録済みデータ•外部データ/企業内データ

Watson Data Platform

開発者分析者分析、モデル作成、機械学習ツールなど

レポート、KPI参照&可視化、ダッシュボード

アプリ開発、アドオン、スコアリング組込み

データ加⼯・フロー、データプロビジョニング

・Sparkベースのデータレイク・「分析者」と「開発者」の両ユーザータイプをサポートするプラットフォーム

Page 13: エキスパートに聞く!クラウドで実現する ビッグデータ …dataplatform.jp/program/files/A-3-3.pdf · 2017 年10 ⽉10 ⽇ ⽇本アイ・ビー・エム株式会社

© 2017 IBM Corporation

IBM ホートンワークスの協業概要

Public Dedicatedマルチテナント シングルテナント

Localシングルテナント

HDPHDF

Big SQL

Information Server

Cloudant

IBMCloud Object

Storage

Db2 Db2warehouse

RDB DWH NoSQL Object Storage

IBM Data Science ExperienceAPI Connect

【提携概要】・IBMからHDP、HDFの再販・ホートンワークス社からData Science Experience、Big SQLの再販

IBMが注⼒しているのはSpark

Page 14: エキスパートに聞く!クラウドで実現する ビッグデータ …dataplatform.jp/program/files/A-3-3.pdf · 2017 年10 ⽉10 ⽇ ⽇本アイ・ビー・エム株式会社

© 2017 IBM Corporation

IBM Cloud Object Storage

個別のエンドポイント

プライベートIPが返るエンドポイント

Amazon S3と同じ認証キー

・旧CleversafeでS3互換APIでマルチリージョンに分散配置・4つのストレージクラスがあり、Spark連動にも対応

Flex:Watsonでストレージクラスを最適化

Page 15: エキスパートに聞く!クラウドで実現する ビッグデータ …dataplatform.jp/program/files/A-3-3.pdf · 2017 年10 ⽉10 ⽇ ⽇本アイ・ビー・エム株式会社

© 2017 IBM Corporation

Db2 Warehouse Private・旧dashDB Local をコンテナ提供モデルとして、マルチクラウド対応・Sparkエンジンを統合し、インメモリとカラムナ型を統合し、MPPでスケールアウトも可能

Page 16: エキスパートに聞く!クラウドで実現する ビッグデータ …dataplatform.jp/program/files/A-3-3.pdf · 2017 年10 ⽉10 ⽇ ⽇本アイ・ビー・エム株式会社

© 2017 IBM Corporation

IBM Open Data

データガバナンス

オペレーショナルデータ管理

⾮構造化データ管理・集計

⾼度分析・機械学習

リアルタイム分析&ストリーミング

データ活⽤環境

データ

⼤量かつ多様なデータをハイブリッド環境に収集・整備し、最新のオープンソース・ソフトウェアを活⽤して分析することを可能に

社内外の価値あるデータを分析に取り⼊れ、差別化につながる洞察を可能に

• データを保有する企業との戦略的提携• Analytics Exchange

お客様の変⾰を⽀援するために、分析をするための開かれた「データ活⽤環境」および「データ」を提供

Page 17: エキスパートに聞く!クラウドで実現する ビッグデータ …dataplatform.jp/program/files/A-3-3.pdf · 2017 年10 ⽉10 ⽇ ⽇本アイ・ビー・エム株式会社

© 2017 IBM Corporation

IBM Data on Cloud

データ価値の向上(データ突合)

データ利活⽤のセルフサービス化

眠っているデータのマネタイズ(データサービス事業の⽴ち上げ)

社外データへのアクセス

社内データの効率的活⽤

データ活⽤基盤の構築

データ提供企業

データ利⽤企業

データ テクノロジー/サービス

・気象データ・地図データ・購買情報(T-point/Ponta)・Twitter情報

・分析ツール(Watson/Analytics)

・データ統合環境(API Connect/InfoShpere/DB)

・セキュリティー

データ・オン・クラウド

データ・サービス取引の場

IBMのデータ・オン・クラウドは、データ/テクノロジー/サービスを取引し、ビジネス価値を創出する場(マーケットプレイス)を提供

Page 18: エキスパートに聞く!クラウドで実現する ビッグデータ …dataplatform.jp/program/files/A-3-3.pdf · 2017 年10 ⽉10 ⽇ ⽇本アイ・ビー・エム株式会社

© 2017 IBM Corporation

IBM Data First Method

Cost Reduction Modernization Insight-Driven Operations Transformation

Data Management Track

Data ScienceTrack

Data LakeTrack

Business of DataTrack

バックオフィスや業務システムの

データマネジメントに要するコストの

低減

⾰新的なデータ管理のテクノロジーから⾼い価値が得られるよう、オープンソースやクラ

ウドの適⽤を推進

データ活⽤をベースにし、新たなアプリケーションを構築し、全く新たなビジネス・モデルを⽴ち上

げる

企業のあらゆる領域でビジネス機会が得られるよう、セルフ・サービスによるデータ・アクセスと⾼度な分析を

活⽤

データ活⽤成熟度低 ⾼

データ活⽤の現状とあるべき将来像を理解し、成熟度を⾼めることによってビジネスを成功に導く、IBMの知⾒をベースとしたメソドロジー

Page 19: エキスパートに聞く!クラウドで実現する ビッグデータ …dataplatform.jp/program/files/A-3-3.pdf · 2017 年10 ⽉10 ⽇ ⽇本アイ・ビー・エム株式会社

© 2017 IBM Corporation

まとめ:AnalyticsからCognitiveへ

現状把握何が起こったのか

予測将来何が起こるのか

最適化学習

構造化データ

半構造化データ

次に取るべき最適なアクションを判別。共有・指⽰を⾏う

⾮構造化データ(テキスト・⾳声・画像)

⾃然⾔語処理対話型インターフェース

いつかはWatson。でも、まずは構造化・半構造化データを整えて、

Predictive Analytics(予測分析)の段階まで⾏きましょう。

分析対象データの幅を広げることで、より価値あるインサイトを導き出し、コグニティブ・ビジネスを実現。アナリティクスシステムは可⽤性要件も極めて⾼くなく拡張性が求めれるため、クラウドが最適であり、Watsonと分析サービスが豊富なBlumixは注⽬すべきプラットフォーム

Page 20: エキスパートに聞く!クラウドで実現する ビッグデータ …dataplatform.jp/program/files/A-3-3.pdf · 2017 年10 ⽉10 ⽇ ⽇本アイ・ビー・エム株式会社

© 2017 IBM Corporation

〜宣伝〜

SPSSModelerClient

Db2Modeler

予測分析環境

予測モデル

分析活⽤

アプリ基盤Web API

スコアリング・サービス

〜活⽤の⾼度化〜機械学習した予測モデルを

Webサービス化

⭐コーディングレスで即時にデプロイ可能

コグニティブ・システム

本日発売

Page 21: エキスパートに聞く!クラウドで実現する ビッグデータ …dataplatform.jp/program/files/A-3-3.pdf · 2017 年10 ⽉10 ⽇ ⽇本アイ・ビー・エム株式会社

© 2017 IBM Corporation

Thank youご清聴ありがとうございました。

Page 22: エキスパートに聞く!クラウドで実現する ビッグデータ …dataplatform.jp/program/files/A-3-3.pdf · 2017 年10 ⽉10 ⽇ ⽇本アイ・ビー・エム株式会社

© 2017 IBM Corporation

この資料に含まれる情報は可能な限り正確を期しておりますが、日本アイ・ビー・エム株式会社の正式なレビューを受けておらず、当資料に記載された内容に関して日本アイ・ビー・エムは何ら保証するものではありません。ワークショップ、セッション、および資料は、IBMまたはセッション発表者によって準備され、それぞれ独自の見解を反映したものです。それらは情報提供の目的のみで提供されており、いかなる参加者に対しても法律的またはその他の指導や助言を意図したものではなく、またそのような結果を生むものでもありません。本講演資料に含まれている情報については、完全性と正確性を期するよう努力しましたが、「現状のまま」提供され、明示または暗示にかかわらずいかなる保証も伴わないものとします。本講演資料またはその他の資料の使用によって、あるいはその他の関連によって、いかなる損害が生じた場合も、IBMは責任を負わないものとします。本講演資料に含まれている内容は、IBMまたはそのサプライヤーやライセンス交付者からいかなる保証または表明を引きだすことを意図したものでも、IBMソフトウェアの使用を規定する適用ライセンス契約の条項を変更することを意図したものでもなく、またそのような結果を生むものでもありません。本講演資料でIBM製品、プログラム、またはサービスに言及していても、IBMが営業活動を行っているすべての国でそれらが使用可能であることを暗示するものではありません。本講演資料で言及している製品リリース日付や製品機能は、市場機会またはその他の要因に基づいてIBM独自の決定権をもっていつでも変更できるものとし、いかなる方法においても将来の製品または機能が使用可能になると確約することを意図したものではありません。本講演資料に含まれている内容は、参加者が開始する活動によって特定の販売、売上高の向上、またはその他の結果が生じると述べる、または暗示することを意図したものでも、またそのような結果を生むものでもありません。パフォーマンスは、管理された環境において標準的なIBMベンチマークを使用した測定と予測に基づいています。ユーザーが経験する実際のスループットやパフォーマンスは、ユーザーのジョブ・ストリームにおけるマルチプログラミングの量、入出力構成、ストレージ構成、および処理されるワークロードなどの考慮事項を含む、

数多くの要因に応じて変化します。したがって、個々のユーザーがここで述べられているものと同様の結果を得られると確約するものではありません。記述されているすべてのお客様事例は、それらのお客様がどのようにIBM製品を使用したか、またそれらのお客様が達成した結果の実例として示されたものです。実際の環境コストおよびパフォーマンス特性は、お客様ごとに異なる場合があります。IBM,IBMロゴ、ibm.com,は、世界の多くの国で登録されたInternationalBusinessMachinesCorporationの商標です。他の製品名およびサービス名等は、それぞれIBMまたは各社の商標である場合があります。現時点での IBMの商標リストについては、www.ibm.com/legal/copytrade.shtmlをご覧ください。