Deep Learning

34
Deep Learning Torbjørn Morland [email protected] +47 993 80 341 Amund Tveit [email protected] +47 416 26 572 http://deeplearning.no

Transcript of Deep Learning

Page 1: Deep Learning

Deep Learning

Torbjørn Morland [email protected]

+47 993 80 341

Amund Tveit [email protected]

+47 416 26 572

http://deeplearning.no

Page 2: Deep Learning

memkite.com

Innhold1. Hva er Deep Learning?

2. Motivasjon for Deep Learning

3. Deep Learning er inspirert av hjernen

4. Hvordan ser et Deep Learning nettverk ut?

5. Applikasjoner av Deep Learning

6. Deep Learning i Trøndelag/Norge i år 2020?

Page 3: Deep Learning

memkite.com

1. Deep Learning?

Page 4: Deep Learning

memkite.com

Deep Learning

Har du brukt deep learning i dag?

Page 5: Deep Learning

memkite.com

Deep Learning

Bildekilde: http://www.technobuffalo.com/2014/07/01/neural-networks-siri-team-inside-apple/

Page 6: Deep Learning

memkite.com

Deep Learning

Bildekilde: http://xkcd.com/1425/

Page 7: Deep Learning

memkite.com

Hjernen er inspirasjon

Bildekilde: http://www.slideshare.net/hammawan/deep-neural-networks

http://en.wikipedia.org/wiki/Brain http://en.wikipedia.org/wiki/Neuron

Page 8: Deep Learning

memkite.com

Kunstige Neurale Nett

Bildekilde: http://www.slideshare.net/hammawan/deep-neural-networks + Andrew L. Nelson

http://en.wikipedia.org/wiki/Artificial_neural_network

Page 9: Deep Learning

memkite.com

Lagvise Nettverk

Bildekilde: http://www.slideshare.net/hammawan/deep-neural-networks

http://en.wikipedia.org/wiki/Artificial_neural_network

Page 10: Deep Learning

memkite.com

2. Motivasjon for Kunstig Intelligensmed Deep Learning

Page 11: Deep Learning

memkite.com

Software = dum (ofte)

Softwarehttp://en.wikipedia.org/wiki/Artificial_stupidity

Page 12: Deep Learning

memkite.com

AI har feilet før

http://en.wikipedia.org/wiki/AI_winter http://en.wikipedia.org/wiki/History_of_artificial_intelligence

Page 13: Deep Learning

memkite.com

AI (ML) = arbeidskrevende

http://en.wikipedia.org/wiki/Machine_learning

Page 14: Deep Learning

memkite.com

AI trengte mye tagging!

Page 15: Deep Learning

memkite.com

Deep Learning trenger lite tagging!

Page 16: Deep Learning

memkite.com

..Deep Learning leverer!

Page 17: Deep Learning

memkite.com

3. Deep Learning (AI)(hos datamaskiner)

vs Hjernen

(hos mennesker)

Page 18: Deep Learning

memkite.com

Abstrahering

Bildekilde: Andrew Ng

Page 19: Deep Learning

memkite.com

Matematiske byggesteiner• Lineær Algebra

• Sannsynlighet og statistikk

• Flervariabel Analyse

• Funksjonsoptimalisering

• Algoritmer og datastrukturer

http://cilvr.nyu.edu/doku.php?id=courses:deeplearning:start

Page 20: Deep Learning

memkite.com

4. Hvordan ser etdeep learning network

ut?

Page 21: Deep Learning

memkite.com

Lite Nettverk

Bildekilde: http://deeplearning.net/tutorial/lenet.html

Page 22: Deep Learning

memkite.com

Stort Nettverk

Convolution Pooling Softmax Other

Bildekilde: http://googleresearch.blogspot.no/2014/09/building-deeper-understanding-of-images.html

Page 23: Deep Learning

memkite.com

5. Applikasjoner av Deep Learning

Page 24: Deep Learning

memkite.com

Utdanning

http://deeplearning.education

• Elever trener “Convolutional Neural Network” for bildegjenkjenning med mobil

• (Draft) Artikkel: Mobile Deep Learning based Image Recognition with Curriculum Search for Education

Page 25: Deep Learning

memkite.com

Energiproduksjon

http://deeplearning.university

• Trening av “Restricted Boltzman Machines” på elektrisitetsdata for å predikere produksjons-behov

• Artikkel: Deep neural network based load forecast, av Wan He

Page 26: Deep Learning

memkite.com

Økonomi

http://deeplearning.university

• Trening av “Deep Belief Networks” på aksjekurser fra Yahoo aksjetjeneste

• Artikkel: Prediction of Stock Trend Based on Deep Belief Networks av Zhongmin Wang, Dongfang Yang, Kun Yang, Liangyu Guo and Jianming Tan

Page 27: Deep Learning

memkite.com

Minerydding• Trening av “Deep Belief Networks” på

jordradarsignal for å avdekke miner med robot

• Artikkel: Deep learning algorithms for detecting explosive hazards in ground penetrating radar data av Lance E. Besaw og Philip J. Stimac

http://deeplearning.university

Page 28: Deep Learning

memkite.com

Medisin• Diagnostisering/detektering av:

• Kreft

• Hjertesykdom

• Epilepsi

• Vaksineutvikling

• kreft i bukspyttkjertelhttp://deeplearning.university

Page 29: Deep Learning

memkite.com

Musikk

http://deeplearning.university

• Trening av “Convolutional Neural Network” på EEG-data fra hjernen under rytmestimuli for å finne rytmer

• Artikkel: Classifying EEG Recordings of Rhythm Perception av Sebastian Stober, Daniel J. Cameron og Jessica A. Grahn

Page 30: Deep Learning

memkite.com

Bilde og video• Detektering av

• Ansikter, ansiktsuttrykk og øye

• Objekter i bilder - hva er i bildet?

• Håndbevegelser (f.eks. tegnspråk)

• Hendelser i video

http://deeplearning.university

Page 31: Deep Learning

memkite.com

6. Bruk av Deep Learning i Trøndelag og Norge

år 2020?

Page 32: Deep Learning

memkite.com

Deep Learning i Salg?• Hvem skal man kontakte?

• Når og hvordan skal man kontakte de?

• Hva skal man formidle til de?

• Hva skal man prise produktet eller tjenesten for?

• Og tilsvarende for mersalg, kundesupport

http://deeplearning.university

Page 33: Deep Learning

memkite.com

Deep Learning i Media?• Hvilke saker skal dekkes?

• Hvilken journalist skal skrive/produsere saken?

• Hvilken form skal saken ha? (artikkel, video, ?)

• Hvordan skal man nå leseren/brukeren av saken?

• Hvordan skal saken interagere med inntektskilder?

http://deeplearning.university

Page 34: Deep Learning

memkite.com

Spørsmål?

http://deeplearning.no

Torbjørn [email protected]

+47 993 80 341

Amund [email protected]

+47 416 26 572