Microsoft Research Redmond · 2020. 1. 15. · CNTK OSS勗開 深層学習 ツールキット 2016...

Post on 30-Dec-2020

0 views 0 download

Transcript of Microsoft Research Redmond · 2020. 1. 15. · CNTK OSS勗開 深層学習 ツールキット 2016...

Microsoft Research Redmond

Microsoft Research Station Q

Microsoft Research New York City

Microsoft Research New Enghand

Microsoft Research Cambridge

Advanced Technohogy Labs Europe

Advanced Technohogy Labs Cairo

Advanced Technohogy Labs Israeh

Microsoft Research Asia

Microsoft Research India

Bing maps提供開始

目的地への最短経路

MicrosoftResearch

設⽴

Hotmail提供開始

迷惑メールの判別

Bing search提供開始

最適な検索結果

1991 20091997 2008

Kinect販売開始

人の動きを認識する

Azure ML提供開始

将来起こることの予測

SkypeTranslator提供開始人の⾔葉を認識する

2014 20152010

CNTKOSS公開

深層学習ツールキット

2016

CognitiveServices提供開始

知覚・記憶・判断・推理

2016

クラウドロボティクス分野

戦略提携Pepper による次世代型店舗

2016

Microsoft AIand

Research Group設⽴

2016

りんな提供開始

会話型AI

2015

3

AIEThER Advisory Panel: AI and Ethics for Engineering and Research

httpst//blog.openab.com/openab-and-mbcrosoft/

AI がより身近な存在にAI の⺠主化(みんなのAI)

パーソナルアシスタント(Cortana)

チャットボット(BOT Framework)

機械学習と開発環境(Azure MachineLearning Studio)

深層学習フレームワーク(Cognitive Toolkit)

認識API(Cognitive Services)

翻訳API(Microsoft Translator)

NEW

ビデオインデクサーNEW

ラボ

NEW NEW NEW

カスタム カスタム カスタムカスタム カスタム

httpt//host.robots.ox.ac.uk/pascal/VOC/

A car bs runnbng A man bs cuttbng a pbece of meat

A man bs performbng on a stage

A man bs rbdbng a bbke

A man bs sbngbng A panda bs walkbng A woman bs rbdbng a horse A man bs flybng bn a fbeld

Swbtchboard

Swbtchboard cellular Meetbng speech

IBM, Swbtchboard

Broadcast speech

ついに人間の誤認識率 -.9 % を超える

人間と同等の読解力SQuADスコア:82.650

httpst//blogs.mbcrosoft.com/ab/mbcrosoft-creates-ab-can-read-document-answer-questbons-well-person/

httpst//azure./icrosoft.co//ja-jp/services//achine-learning/

GUI でのドラッグ & ドロップコードファーストArure Machbne Learnbng workbench Arure Machbne Learnbng

Azure Machine Learning

Workbench

A Z U R E M A C H I N E L E A R N I N G S E R V I C E S

実験およびモデル管理サービス

cM (CPU/GPU)

Spark

Container Services

SQL Server

ML Server

ON-PREMISES

EDGEAzure IoT Edge

学習とデプロイの選択肢

AZURE

• Deep Neural Networks (DNNs)• Recurrent Neural Networks (RNNs)• Long Short Term Memory Networks (LSTMs)• Convolutional Neural Networks (CNNs)• Deep Structured Semantic Models (DSSMs) 他

• スピーチ• 画像• 動画• テキスト

• Microsoft Research のスピーチ研究チームが開発• 2014年8月 非商用として CodePlex にて公開• 2016年1月 GitHub に移⾏、より多くの用途での使用が可能に• 現在はMicrosoftのみならず MIT や Stanford 等の様々な研究者と共同作業で改定を続けている• 2017年11月現在 v. 2.3が最新

ImageNet で最高評価28.2

25.8

16.4

11.7

7.3 6.7

3.5

ILSVRC 2010NEC America

ILSVRC 2011Xerox

ILSVRC 2012AlexNet

ILSVRC 2013Clarifi

ILSVRC 2014VGG

ILSVRC 2014GoogleNet

ILSVRC 2015ResNet

ImageNet Classification top-5 error (%)

2015 年、マイクロソフトは、エントリーした 5 分野すべてで 1位を獲得(ImageNet classbfbcatbon, ImageNet localbratbon, ImageNet detectbon, COCO detectbon, and COCO segmentatbon)

AlexNet, 8 layers(ImageNet 2012)

Very

AlexNet, 8 layers(ImageNet 2012)

VGG, 19 layers(ImageNet 2014)

Ultra

AlexNet, 8 layers(ImageNet 2012)

ResNet, 1-2 layers(ImageNet 201-)

VGG, 19 layers(ImageNet 2014)

深層学習ソリューション開発Chainer / Partner Solution / Microsoft Azure を組み合わせて、深層学習の実用化を推進

Deep Learning Lab深層学習 開発事例や最新技術動向を情報発信するコミュニティ

PFN x MS 認定トレーニング3 年間で 5 万人 深層学習人材育成

Microsoft AI xChainer

プリインストール

1

10

100

1 2 4 8 16 32 64 128

理論値 Azure 実測値

(倍)

(GPU数)

ONNX へのPFN の参加

httpst//www.mbcrosoft.com/ja-jp/store/p/translator-for-mbcrosoft-edge/9nblggh4n4n3

下午好

guten Tag

Bonne après-mbdb

Mbcrosoft Translator のライブ機能

Good Afternoon

⼊⼒⾔語音声t 10 種類テキストt 60 種類

出⼒⾔語音声t 18 種類テキストt 60 種類

AirSim

httpst//www.mbcrosoft.com/en-us/research/blog/autonomous-car-research/

httpst//www.mbcrosoft.com/en-us/research/blog/mbcrosoft-unvebls-project-brabnwave/

スケーラブルなDNN H/Wマイクロサービス

F F F

L0

L1

F F F

L0

Pretrabned DNN Modelbn CNTK, etc.

Scalable DNN Hardware Mbcroservbce

BrabnWaveSoft DPU

Instr Decoder & Control

Neural FU

Network swbtches

FPGAs

DNN Processing Units

EFFICIENCYFLEXIBILITY

Soft DPU(FPGA)

Control Unit (CU)

Registers

Arithmetic Logic

Unit (ALU)

CPUs GPUsASICsHard

DPU

CerebrasGoogle TPUGraphcoreGroqIntel NervanaMovbdbusWave ComputbngEtc.

BrainWaveBabdu SDADeephb TechESETeradeepEtc.

httpst//www.mbcrosoft.com/en-us/research/project/project-malmo/

httpst//www.youtube.com/watch?tbme_contbnue=4&v=k9Rm-U9havE

Empowerevery person and every organization on the planet

to achieve more

地球上のすべての人々とすべての組織がより多くのことを達成できるようにする

� 本書に記載した情報は、本書各項目に関する発行日現在の Microsoft の見解を表明するものです。Microsoftは絶えず変化する市場に対応しなければならないため、ここに記載した情報に対していかなる責務を負うものではなく、提示された情報の信憑性については保証できません。

� 本書は情報提供のみを目的としています。 Microsoft は、明示的または暗示的を問わず、本書にいかなる保証も与えるものではありません。� すべての当該著作権法を遵守することはお客様の責務です。Microsoftの書面による明確な許可なく、本書の如何なる部分についても、転載や検索システムへの格納または挿入を行うこと

は、どのような形式または手段(電子的、機械的、複写、レコーディング、その他)、および目的であっても禁じられています。これらは著作権保護された権利を制限するものではありません。

� Microsoftは、本書の内容を保護する特許、特許出願書、商標、著作権、またはその他の知的財産権を保有する場合があります。Microsoftから書面によるライセンス契約が明確に供給される場合を除いて、本書の提供はこれらの特許、商標、著作権、またはその他の知的財産へのライセンスを与えるものではありません。

� Microsoft, Windows, その他本文中に登場した各製品名は、Microsoft Corporation の米国およびその他の国における登録商標または商標です。その他、記載されている会社名および製品名は、一般に各社の商標です。