Microsoft Research Redmond · 2020. 1. 15. · CNTK OSS勗開 深層学習 ツールキット 2016...

53

Transcript of Microsoft Research Redmond · 2020. 1. 15. · CNTK OSS勗開 深層学習 ツールキット 2016...

Page 1: Microsoft Research Redmond · 2020. 1. 15. · CNTK OSS勗開 深層学習 ツールキット 2016 Cognitive Services 卖供開卿 半覚・卌憶・ 匯友・推理 2016 クラウド
Page 2: Microsoft Research Redmond · 2020. 1. 15. · CNTK OSS勗開 深層学習 ツールキット 2016 Cognitive Services 卖供開卿 半覚・卌憶・ 匯友・推理 2016 クラウド

Microsoft Research Redmond

Microsoft Research Station Q

Microsoft Research New York City

Microsoft Research New Enghand

Microsoft Research Cambridge

Advanced Technohogy Labs Europe

Advanced Technohogy Labs Cairo

Advanced Technohogy Labs Israeh

Microsoft Research Asia

Microsoft Research India

Page 3: Microsoft Research Redmond · 2020. 1. 15. · CNTK OSS勗開 深層学習 ツールキット 2016 Cognitive Services 卖供開卿 半覚・卌憶・ 匯友・推理 2016 クラウド

Bing maps提供開始

目的地への最短経路

MicrosoftResearch

設⽴

Hotmail提供開始

迷惑メールの判別

Bing search提供開始

最適な検索結果

1991 20091997 2008

Kinect販売開始

人の動きを認識する

Azure ML提供開始

将来起こることの予測

SkypeTranslator提供開始人の⾔葉を認識する

2014 20152010

CNTKOSS公開

深層学習ツールキット

2016

CognitiveServices提供開始

知覚・記憶・判断・推理

2016

クラウドロボティクス分野

戦略提携Pepper による次世代型店舗

2016

Microsoft AIand

Research Group設⽴

2016

りんな提供開始

会話型AI

2015

3

Page 4: Microsoft Research Redmond · 2020. 1. 15. · CNTK OSS勗開 深層学習 ツールキット 2016 Cognitive Services 卖供開卿 半覚・卌憶・ 匯友・推理 2016 クラウド
Page 5: Microsoft Research Redmond · 2020. 1. 15. · CNTK OSS勗開 深層学習 ツールキット 2016 Cognitive Services 卖供開卿 半覚・卌憶・ 匯友・推理 2016 クラウド

AIEThER Advisory Panel: AI and Ethics for Engineering and Research

Page 6: Microsoft Research Redmond · 2020. 1. 15. · CNTK OSS勗開 深層学習 ツールキット 2016 Cognitive Services 卖供開卿 半覚・卌憶・ 匯友・推理 2016 クラウド
Page 7: Microsoft Research Redmond · 2020. 1. 15. · CNTK OSS勗開 深層学習 ツールキット 2016 Cognitive Services 卖供開卿 半覚・卌憶・ 匯友・推理 2016 クラウド

httpst//blog.openab.com/openab-and-mbcrosoft/

Page 8: Microsoft Research Redmond · 2020. 1. 15. · CNTK OSS勗開 深層学習 ツールキット 2016 Cognitive Services 卖供開卿 半覚・卌憶・ 匯友・推理 2016 クラウド

AI がより身近な存在にAI の⺠主化(みんなのAI)

パーソナルアシスタント(Cortana)

チャットボット(BOT Framework)

機械学習と開発環境(Azure MachineLearning Studio)

深層学習フレームワーク(Cognitive Toolkit)

認識API(Cognitive Services)

翻訳API(Microsoft Translator)

Page 9: Microsoft Research Redmond · 2020. 1. 15. · CNTK OSS勗開 深層学習 ツールキット 2016 Cognitive Services 卖供開卿 半覚・卌憶・ 匯友・推理 2016 クラウド
Page 10: Microsoft Research Redmond · 2020. 1. 15. · CNTK OSS勗開 深層学習 ツールキット 2016 Cognitive Services 卖供開卿 半覚・卌憶・ 匯友・推理 2016 クラウド

NEW

ビデオインデクサーNEW

ラボ

NEW NEW NEW

カスタム カスタム カスタムカスタム カスタム

Page 11: Microsoft Research Redmond · 2020. 1. 15. · CNTK OSS勗開 深層学習 ツールキット 2016 Cognitive Services 卖供開卿 半覚・卌憶・ 匯友・推理 2016 クラウド
Page 12: Microsoft Research Redmond · 2020. 1. 15. · CNTK OSS勗開 深層学習 ツールキット 2016 Cognitive Services 卖供開卿 半覚・卌憶・ 匯友・推理 2016 クラウド

httpt//host.robots.ox.ac.uk/pascal/VOC/

Page 13: Microsoft Research Redmond · 2020. 1. 15. · CNTK OSS勗開 深層学習 ツールキット 2016 Cognitive Services 卖供開卿 半覚・卌憶・ 匯友・推理 2016 クラウド

A car bs runnbng A man bs cuttbng a pbece of meat

A man bs performbng on a stage

A man bs rbdbng a bbke

A man bs sbngbng A panda bs walkbng A woman bs rbdbng a horse A man bs flybng bn a fbeld

Page 14: Microsoft Research Redmond · 2020. 1. 15. · CNTK OSS勗開 深層学習 ツールキット 2016 Cognitive Services 卖供開卿 半覚・卌憶・ 匯友・推理 2016 クラウド
Page 15: Microsoft Research Redmond · 2020. 1. 15. · CNTK OSS勗開 深層学習 ツールキット 2016 Cognitive Services 卖供開卿 半覚・卌憶・ 匯友・推理 2016 クラウド
Page 16: Microsoft Research Redmond · 2020. 1. 15. · CNTK OSS勗開 深層学習 ツールキット 2016 Cognitive Services 卖供開卿 半覚・卌憶・ 匯友・推理 2016 クラウド
Page 17: Microsoft Research Redmond · 2020. 1. 15. · CNTK OSS勗開 深層学習 ツールキット 2016 Cognitive Services 卖供開卿 半覚・卌憶・ 匯友・推理 2016 クラウド

Swbtchboard

Swbtchboard cellular Meetbng speech

IBM, Swbtchboard

Broadcast speech

ついに人間の誤認識率 -.9 % を超える

Page 18: Microsoft Research Redmond · 2020. 1. 15. · CNTK OSS勗開 深層学習 ツールキット 2016 Cognitive Services 卖供開卿 半覚・卌憶・ 匯友・推理 2016 クラウド

人間と同等の読解力SQuADスコア:82.650

httpst//blogs.mbcrosoft.com/ab/mbcrosoft-creates-ab-can-read-document-answer-questbons-well-person/

Page 19: Microsoft Research Redmond · 2020. 1. 15. · CNTK OSS勗開 深層学習 ツールキット 2016 Cognitive Services 卖供開卿 半覚・卌憶・ 匯友・推理 2016 クラウド
Page 20: Microsoft Research Redmond · 2020. 1. 15. · CNTK OSS勗開 深層学習 ツールキット 2016 Cognitive Services 卖供開卿 半覚・卌憶・ 匯友・推理 2016 クラウド

httpst//azure./icrosoft.co//ja-jp/services//achine-learning/

Page 21: Microsoft Research Redmond · 2020. 1. 15. · CNTK OSS勗開 深層学習 ツールキット 2016 Cognitive Services 卖供開卿 半覚・卌憶・ 匯友・推理 2016 クラウド

GUI でのドラッグ & ドロップコードファーストArure Machbne Learnbng workbench Arure Machbne Learnbng

Page 22: Microsoft Research Redmond · 2020. 1. 15. · CNTK OSS勗開 深層学習 ツールキット 2016 Cognitive Services 卖供開卿 半覚・卌憶・ 匯友・推理 2016 クラウド

Azure Machine Learning

Workbench

A Z U R E M A C H I N E L E A R N I N G S E R V I C E S

実験およびモデル管理サービス

cM (CPU/GPU)

Spark

Container Services

SQL Server

ML Server

ON-PREMISES

EDGEAzure IoT Edge

学習とデプロイの選択肢

AZURE

Page 23: Microsoft Research Redmond · 2020. 1. 15. · CNTK OSS勗開 深層学習 ツールキット 2016 Cognitive Services 卖供開卿 半覚・卌憶・ 匯友・推理 2016 クラウド
Page 24: Microsoft Research Redmond · 2020. 1. 15. · CNTK OSS勗開 深層学習 ツールキット 2016 Cognitive Services 卖供開卿 半覚・卌憶・ 匯友・推理 2016 クラウド

• Deep Neural Networks (DNNs)• Recurrent Neural Networks (RNNs)• Long Short Term Memory Networks (LSTMs)• Convolutional Neural Networks (CNNs)• Deep Structured Semantic Models (DSSMs) 他

• スピーチ• 画像• 動画• テキスト

• Microsoft Research のスピーチ研究チームが開発• 2014年8月 非商用として CodePlex にて公開• 2016年1月 GitHub に移⾏、より多くの用途での使用が可能に• 現在はMicrosoftのみならず MIT や Stanford 等の様々な研究者と共同作業で改定を続けている• 2017年11月現在 v. 2.3が最新

Page 25: Microsoft Research Redmond · 2020. 1. 15. · CNTK OSS勗開 深層学習 ツールキット 2016 Cognitive Services 卖供開卿 半覚・卌憶・ 匯友・推理 2016 クラウド
Page 26: Microsoft Research Redmond · 2020. 1. 15. · CNTK OSS勗開 深層学習 ツールキット 2016 Cognitive Services 卖供開卿 半覚・卌憶・ 匯友・推理 2016 クラウド
Page 27: Microsoft Research Redmond · 2020. 1. 15. · CNTK OSS勗開 深層学習 ツールキット 2016 Cognitive Services 卖供開卿 半覚・卌憶・ 匯友・推理 2016 クラウド

ImageNet で最高評価28.2

25.8

16.4

11.7

7.3 6.7

3.5

ILSVRC 2010NEC America

ILSVRC 2011Xerox

ILSVRC 2012AlexNet

ILSVRC 2013Clarifi

ILSVRC 2014VGG

ILSVRC 2014GoogleNet

ILSVRC 2015ResNet

ImageNet Classification top-5 error (%)

2015 年、マイクロソフトは、エントリーした 5 分野すべてで 1位を獲得(ImageNet classbfbcatbon, ImageNet localbratbon, ImageNet detectbon, COCO detectbon, and COCO segmentatbon)

Page 28: Microsoft Research Redmond · 2020. 1. 15. · CNTK OSS勗開 深層学習 ツールキット 2016 Cognitive Services 卖供開卿 半覚・卌憶・ 匯友・推理 2016 クラウド

AlexNet, 8 layers(ImageNet 2012)

Page 29: Microsoft Research Redmond · 2020. 1. 15. · CNTK OSS勗開 深層学習 ツールキット 2016 Cognitive Services 卖供開卿 半覚・卌憶・ 匯友・推理 2016 クラウド

Very

AlexNet, 8 layers(ImageNet 2012)

VGG, 19 layers(ImageNet 2014)

Page 30: Microsoft Research Redmond · 2020. 1. 15. · CNTK OSS勗開 深層学習 ツールキット 2016 Cognitive Services 卖供開卿 半覚・卌憶・ 匯友・推理 2016 クラウド

Ultra

AlexNet, 8 layers(ImageNet 2012)

ResNet, 1-2 layers(ImageNet 201-)

VGG, 19 layers(ImageNet 2014)

Page 31: Microsoft Research Redmond · 2020. 1. 15. · CNTK OSS勗開 深層学習 ツールキット 2016 Cognitive Services 卖供開卿 半覚・卌憶・ 匯友・推理 2016 クラウド
Page 32: Microsoft Research Redmond · 2020. 1. 15. · CNTK OSS勗開 深層学習 ツールキット 2016 Cognitive Services 卖供開卿 半覚・卌憶・ 匯友・推理 2016 クラウド

深層学習ソリューション開発Chainer / Partner Solution / Microsoft Azure を組み合わせて、深層学習の実用化を推進

Deep Learning Lab深層学習 開発事例や最新技術動向を情報発信するコミュニティ

PFN x MS 認定トレーニング3 年間で 5 万人 深層学習人材育成

Page 33: Microsoft Research Redmond · 2020. 1. 15. · CNTK OSS勗開 深層学習 ツールキット 2016 Cognitive Services 卖供開卿 半覚・卌憶・ 匯友・推理 2016 クラウド

Microsoft AI xChainer

プリインストール

1

10

100

1 2 4 8 16 32 64 128

理論値 Azure 実測値

(倍)

(GPU数)

Page 34: Microsoft Research Redmond · 2020. 1. 15. · CNTK OSS勗開 深層学習 ツールキット 2016 Cognitive Services 卖供開卿 半覚・卌憶・ 匯友・推理 2016 クラウド
Page 35: Microsoft Research Redmond · 2020. 1. 15. · CNTK OSS勗開 深層学習 ツールキット 2016 Cognitive Services 卖供開卿 半覚・卌憶・ 匯友・推理 2016 クラウド
Page 36: Microsoft Research Redmond · 2020. 1. 15. · CNTK OSS勗開 深層学習 ツールキット 2016 Cognitive Services 卖供開卿 半覚・卌憶・ 匯友・推理 2016 クラウド

ONNX へのPFN の参加

Page 37: Microsoft Research Redmond · 2020. 1. 15. · CNTK OSS勗開 深層学習 ツールキット 2016 Cognitive Services 卖供開卿 半覚・卌憶・ 匯友・推理 2016 クラウド
Page 38: Microsoft Research Redmond · 2020. 1. 15. · CNTK OSS勗開 深層学習 ツールキット 2016 Cognitive Services 卖供開卿 半覚・卌憶・ 匯友・推理 2016 クラウド
Page 39: Microsoft Research Redmond · 2020. 1. 15. · CNTK OSS勗開 深層学習 ツールキット 2016 Cognitive Services 卖供開卿 半覚・卌憶・ 匯友・推理 2016 クラウド

httpst//www.mbcrosoft.com/ja-jp/store/p/translator-for-mbcrosoft-edge/9nblggh4n4n3

Page 40: Microsoft Research Redmond · 2020. 1. 15. · CNTK OSS勗開 深層学習 ツールキット 2016 Cognitive Services 卖供開卿 半覚・卌憶・ 匯友・推理 2016 クラウド
Page 41: Microsoft Research Redmond · 2020. 1. 15. · CNTK OSS勗開 深層学習 ツールキット 2016 Cognitive Services 卖供開卿 半覚・卌憶・ 匯友・推理 2016 クラウド

下午好

guten Tag

Bonne après-mbdb

Mbcrosoft Translator のライブ機能

Good Afternoon

⼊⼒⾔語音声t 10 種類テキストt 60 種類

出⼒⾔語音声t 18 種類テキストt 60 種類

Page 42: Microsoft Research Redmond · 2020. 1. 15. · CNTK OSS勗開 深層学習 ツールキット 2016 Cognitive Services 卖供開卿 半覚・卌憶・ 匯友・推理 2016 クラウド
Page 43: Microsoft Research Redmond · 2020. 1. 15. · CNTK OSS勗開 深層学習 ツールキット 2016 Cognitive Services 卖供開卿 半覚・卌憶・ 匯友・推理 2016 クラウド

AirSim

httpst//www.mbcrosoft.com/en-us/research/blog/autonomous-car-research/

Page 44: Microsoft Research Redmond · 2020. 1. 15. · CNTK OSS勗開 深層学習 ツールキット 2016 Cognitive Services 卖供開卿 半覚・卌憶・ 匯友・推理 2016 クラウド
Page 45: Microsoft Research Redmond · 2020. 1. 15. · CNTK OSS勗開 深層学習 ツールキット 2016 Cognitive Services 卖供開卿 半覚・卌憶・ 匯友・推理 2016 クラウド

httpst//www.mbcrosoft.com/en-us/research/blog/mbcrosoft-unvebls-project-brabnwave/

Page 46: Microsoft Research Redmond · 2020. 1. 15. · CNTK OSS勗開 深層学習 ツールキット 2016 Cognitive Services 卖供開卿 半覚・卌憶・ 匯友・推理 2016 クラウド

スケーラブルなDNN H/Wマイクロサービス

F F F

L0

L1

F F F

L0

Pretrabned DNN Modelbn CNTK, etc.

Scalable DNN Hardware Mbcroservbce

BrabnWaveSoft DPU

Instr Decoder & Control

Neural FU

Network swbtches

FPGAs

Page 47: Microsoft Research Redmond · 2020. 1. 15. · CNTK OSS勗開 深層学習 ツールキット 2016 Cognitive Services 卖供開卿 半覚・卌憶・ 匯友・推理 2016 クラウド

DNN Processing Units

EFFICIENCYFLEXIBILITY

Soft DPU(FPGA)

Control Unit (CU)

Registers

Arithmetic Logic

Unit (ALU)

CPUs GPUsASICsHard

DPU

CerebrasGoogle TPUGraphcoreGroqIntel NervanaMovbdbusWave ComputbngEtc.

BrainWaveBabdu SDADeephb TechESETeradeepEtc.

Page 48: Microsoft Research Redmond · 2020. 1. 15. · CNTK OSS勗開 深層学習 ツールキット 2016 Cognitive Services 卖供開卿 半覚・卌憶・ 匯友・推理 2016 クラウド
Page 49: Microsoft Research Redmond · 2020. 1. 15. · CNTK OSS勗開 深層学習 ツールキット 2016 Cognitive Services 卖供開卿 半覚・卌憶・ 匯友・推理 2016 クラウド

httpst//www.mbcrosoft.com/en-us/research/project/project-malmo/

Page 50: Microsoft Research Redmond · 2020. 1. 15. · CNTK OSS勗開 深層学習 ツールキット 2016 Cognitive Services 卖供開卿 半覚・卌憶・ 匯友・推理 2016 クラウド
Page 51: Microsoft Research Redmond · 2020. 1. 15. · CNTK OSS勗開 深層学習 ツールキット 2016 Cognitive Services 卖供開卿 半覚・卌憶・ 匯友・推理 2016 クラウド

httpst//www.youtube.com/watch?tbme_contbnue=4&v=k9Rm-U9havE

Page 52: Microsoft Research Redmond · 2020. 1. 15. · CNTK OSS勗開 深層学習 ツールキット 2016 Cognitive Services 卖供開卿 半覚・卌憶・ 匯友・推理 2016 クラウド

Empowerevery person and every organization on the planet

to achieve more

地球上のすべての人々とすべての組織がより多くのことを達成できるようにする

Page 53: Microsoft Research Redmond · 2020. 1. 15. · CNTK OSS勗開 深層学習 ツールキット 2016 Cognitive Services 卖供開卿 半覚・卌憶・ 匯友・推理 2016 クラウド

� 本書に記載した情報は、本書各項目に関する発行日現在の Microsoft の見解を表明するものです。Microsoftは絶えず変化する市場に対応しなければならないため、ここに記載した情報に対していかなる責務を負うものではなく、提示された情報の信憑性については保証できません。

� 本書は情報提供のみを目的としています。 Microsoft は、明示的または暗示的を問わず、本書にいかなる保証も与えるものではありません。� すべての当該著作権法を遵守することはお客様の責務です。Microsoftの書面による明確な許可なく、本書の如何なる部分についても、転載や検索システムへの格納または挿入を行うこと

は、どのような形式または手段(電子的、機械的、複写、レコーディング、その他)、および目的であっても禁じられています。これらは著作権保護された権利を制限するものではありません。

� Microsoftは、本書の内容を保護する特許、特許出願書、商標、著作権、またはその他の知的財産権を保有する場合があります。Microsoftから書面によるライセンス契約が明確に供給される場合を除いて、本書の提供はこれらの特許、商標、著作権、またはその他の知的財産へのライセンスを与えるものではありません。

� Microsoft, Windows, その他本文中に登場した各製品名は、Microsoft Corporation の米国およびその他の国における登録商標または商標です。その他、記載されている会社名および製品名は、一般に各社の商標です。