10.3.2004IT meets science1 Lernende Software Priv.Doz. Dr. Barbara Hammer, Forschernachwuchsgruppe...
-
Upload
adolf-rathe -
Category
Documents
-
view
104 -
download
0
Transcript of 10.3.2004IT meets science1 Lernende Software Priv.Doz. Dr. Barbara Hammer, Forschernachwuchsgruppe...
![Page 1: 10.3.2004IT meets science1 Lernende Software Priv.Doz. Dr. Barbara Hammer, Forschernachwuchsgruppe Lernen mit Neuronalen Methoden auf Strukturierten Daten,](https://reader035.fdocument.pub/reader035/viewer/2022062623/55204d7f49795902118d0d45/html5/thumbnails/1.jpg)
10.3.2004 IT meets science 1
Lernende Software
Priv.Doz. Dr. Barbara Hammer,Forschernachwuchsgruppe
Lernen mit Neuronalen Methoden auf Strukturierten Daten,
Universität Osnabrück
![Page 2: 10.3.2004IT meets science1 Lernende Software Priv.Doz. Dr. Barbara Hammer, Forschernachwuchsgruppe Lernen mit Neuronalen Methoden auf Strukturierten Daten,](https://reader035.fdocument.pub/reader035/viewer/2022062623/55204d7f49795902118d0d45/html5/thumbnails/2.jpg)
10.3.2004 IT meets science 2
Lernende Software
Wozu?
Wie?
Wer?
![Page 3: 10.3.2004IT meets science1 Lernende Software Priv.Doz. Dr. Barbara Hammer, Forschernachwuchsgruppe Lernen mit Neuronalen Methoden auf Strukturierten Daten,](https://reader035.fdocument.pub/reader035/viewer/2022062623/55204d7f49795902118d0d45/html5/thumbnails/3.jpg)
10.3.2004 IT meets science 3
Wozu …
![Page 4: 10.3.2004IT meets science1 Lernende Software Priv.Doz. Dr. Barbara Hammer, Forschernachwuchsgruppe Lernen mit Neuronalen Methoden auf Strukturierten Daten,](https://reader035.fdocument.pub/reader035/viewer/2022062623/55204d7f49795902118d0d45/html5/thumbnails/4.jpg)
10.3.2004 IT meets science 4
Lernende Software – wozu?
Das e-mail Programm lernt anhand von Beispielen, persönlich wichtige e-mails von spam zu unterscheiden.
![Page 5: 10.3.2004IT meets science1 Lernende Software Priv.Doz. Dr. Barbara Hammer, Forschernachwuchsgruppe Lernen mit Neuronalen Methoden auf Strukturierten Daten,](https://reader035.fdocument.pub/reader035/viewer/2022062623/55204d7f49795902118d0d45/html5/thumbnails/5.jpg)
10.3.2004 IT meets science 5
Lernende Software – wozu?
Eine komplexe industrielle Anlage
An dieser Stelle könnte eine sensorgesteuerte Qualitätsüberwachung stehen, die automatisch Fehlfabrikationen erkennt.
![Page 6: 10.3.2004IT meets science1 Lernende Software Priv.Doz. Dr. Barbara Hammer, Forschernachwuchsgruppe Lernen mit Neuronalen Methoden auf Strukturierten Daten,](https://reader035.fdocument.pub/reader035/viewer/2022062623/55204d7f49795902118d0d45/html5/thumbnails/6.jpg)
10.3.2004 IT meets science 6
Lernende Software – wozu?
Der Zeitungskiosk um die Ecke
Helfen könnte eine Prognose des zu erwartenden Abverkaufs.
![Page 7: 10.3.2004IT meets science1 Lernende Software Priv.Doz. Dr. Barbara Hammer, Forschernachwuchsgruppe Lernen mit Neuronalen Methoden auf Strukturierten Daten,](https://reader035.fdocument.pub/reader035/viewer/2022062623/55204d7f49795902118d0d45/html5/thumbnails/7.jpg)
10.3.2004 IT meets science 7
Lernende Software – wozu?
Ein Kreditinstitut
Eine automatische Analyse der Kreditwürdigkeit des Kunden hätte das verhindert.
![Page 8: 10.3.2004IT meets science1 Lernende Software Priv.Doz. Dr. Barbara Hammer, Forschernachwuchsgruppe Lernen mit Neuronalen Methoden auf Strukturierten Daten,](https://reader035.fdocument.pub/reader035/viewer/2022062623/55204d7f49795902118d0d45/html5/thumbnails/8.jpg)
10.3.2004 IT meets science 8
Lernende Software – wozu?
Lernen bei zu automatisierenden Problemen die nicht exakt modelliert werden
können die evtl. sogar regelmäßig
nachgebessert werden müssen für die Beispieldaten vorhanden sind
![Page 9: 10.3.2004IT meets science1 Lernende Software Priv.Doz. Dr. Barbara Hammer, Forschernachwuchsgruppe Lernen mit Neuronalen Methoden auf Strukturierten Daten,](https://reader035.fdocument.pub/reader035/viewer/2022062623/55204d7f49795902118d0d45/html5/thumbnails/9.jpg)
10.3.2004 IT meets science 9
Wie …
![Page 10: 10.3.2004IT meets science1 Lernende Software Priv.Doz. Dr. Barbara Hammer, Forschernachwuchsgruppe Lernen mit Neuronalen Methoden auf Strukturierten Daten,](https://reader035.fdocument.pub/reader035/viewer/2022062623/55204d7f49795902118d0d45/html5/thumbnails/10.jpg)
10.3.2004 IT meets science 10
… abstrakt
![Page 11: 10.3.2004IT meets science1 Lernende Software Priv.Doz. Dr. Barbara Hammer, Forschernachwuchsgruppe Lernen mit Neuronalen Methoden auf Strukturierten Daten,](https://reader035.fdocument.pub/reader035/viewer/2022062623/55204d7f49795902118d0d45/html5/thumbnails/11.jpg)
10.3.2004 IT meets science 11
Lernende Software – wie?
Eingabe
Informationsverarbeitung im
Gehirn auf der Basis von
Erfahrungswissen
Ausgabe
![Page 12: 10.3.2004IT meets science1 Lernende Software Priv.Doz. Dr. Barbara Hammer, Forschernachwuchsgruppe Lernen mit Neuronalen Methoden auf Strukturierten Daten,](https://reader035.fdocument.pub/reader035/viewer/2022062623/55204d7f49795902118d0d45/html5/thumbnails/12.jpg)
10.3.2004 IT meets science 12
Lernende Software – wie?
Eingabe
Ein künstliches
Neuronales Netz
Ausgabe
![Page 13: 10.3.2004IT meets science1 Lernende Software Priv.Doz. Dr. Barbara Hammer, Forschernachwuchsgruppe Lernen mit Neuronalen Methoden auf Strukturierten Daten,](https://reader035.fdocument.pub/reader035/viewer/2022062623/55204d7f49795902118d0d45/html5/thumbnails/13.jpg)
10.3.2004 IT meets science 13
Lernende Software – wie?
Ein künstliches Neuronales Netz
Eingabe Ausgabe
Betriebsmodus:
... ein Stück Software, das zu einer gegebenen Eingabe die gewünschte Ausgabe liefert
... durch das Zusammenspiel einfacher Basiselemente, der künstlichen Neuronen, kann ein komplexer nichtlinearer Zusammenhang realisiert werden
![Page 14: 10.3.2004IT meets science1 Lernende Software Priv.Doz. Dr. Barbara Hammer, Forschernachwuchsgruppe Lernen mit Neuronalen Methoden auf Strukturierten Daten,](https://reader035.fdocument.pub/reader035/viewer/2022062623/55204d7f49795902118d0d45/html5/thumbnails/14.jpg)
10.3.2004 IT meets science 14
Lernende Software – wie?
Ein künstliches Neuronales Netz
Eingabe Ausgabe
Lernmodus:
... die Basiselemente und deren Zusammenspiel werden nicht programmiert, sondern gelernt
... automatische Lernprogramme können die Parameter des Netz´ so einstellen, daß es auf gegebenen Beispieldaten ein korrektes Verhalten zeigt
![Page 15: 10.3.2004IT meets science1 Lernende Software Priv.Doz. Dr. Barbara Hammer, Forschernachwuchsgruppe Lernen mit Neuronalen Methoden auf Strukturierten Daten,](https://reader035.fdocument.pub/reader035/viewer/2022062623/55204d7f49795902118d0d45/html5/thumbnails/15.jpg)
10.3.2004 IT meets science 15
Lernende Software – wie?
Ein künstliches Neuronales Netz
Eingabe Ausgabe
Lernmodus - Testbetrieb:
... um sicher zu gehen, daß das Netz korrekt funktioniert, testet man das Verhalten auf repräsentativen Beispieldaten, die nicht zum Training verwandt wurden
... der Testfehler schätzt die Anzahl der Fehler im laufenden Betrieb
![Page 16: 10.3.2004IT meets science1 Lernende Software Priv.Doz. Dr. Barbara Hammer, Forschernachwuchsgruppe Lernen mit Neuronalen Methoden auf Strukturierten Daten,](https://reader035.fdocument.pub/reader035/viewer/2022062623/55204d7f49795902118d0d45/html5/thumbnails/16.jpg)
10.3.2004 IT meets science 16
… ein Beispiel
![Page 17: 10.3.2004IT meets science1 Lernende Software Priv.Doz. Dr. Barbara Hammer, Forschernachwuchsgruppe Lernen mit Neuronalen Methoden auf Strukturierten Daten,](https://reader035.fdocument.pub/reader035/viewer/2022062623/55204d7f49795902118d0d45/html5/thumbnails/17.jpg)
10.3.2004 IT meets science 17
Lernende Software – wie?
spam oder
nicht spam
Vorverarbeitunge-mail
Betriebsmodus:
Lernmodus:
Beispiele von
spam und nicht-spam mails
Lernprogramm
![Page 18: 10.3.2004IT meets science1 Lernende Software Priv.Doz. Dr. Barbara Hammer, Forschernachwuchsgruppe Lernen mit Neuronalen Methoden auf Strukturierten Daten,](https://reader035.fdocument.pub/reader035/viewer/2022062623/55204d7f49795902118d0d45/html5/thumbnails/18.jpg)
10.3.2004 IT meets science 18
Lernende Software – wie?
spam oder
nicht spam
Vorverarbeitunge-mail
Testbetrieb:
Beispiele von
spam und nicht-spam mails
???
![Page 19: 10.3.2004IT meets science1 Lernende Software Priv.Doz. Dr. Barbara Hammer, Forschernachwuchsgruppe Lernen mit Neuronalen Methoden auf Strukturierten Daten,](https://reader035.fdocument.pub/reader035/viewer/2022062623/55204d7f49795902118d0d45/html5/thumbnails/19.jpg)
10.3.2004 IT meets science 19
… Klassifikation von Spektraldaten
thanks: Dr. Thomas Villmann
![Page 20: 10.3.2004IT meets science1 Lernende Software Priv.Doz. Dr. Barbara Hammer, Forschernachwuchsgruppe Lernen mit Neuronalen Methoden auf Strukturierten Daten,](https://reader035.fdocument.pub/reader035/viewer/2022062623/55204d7f49795902118d0d45/html5/thumbnails/20.jpg)
10.3.2004 IT meets science 20
Lernende Software – wie?
Klassifikation von SpektraldatenKlassifikation der
Vegetationsform in:
Pinien
Fichten
Mischwald
Wasser
Grasland
Alpin
Trockenboden
...
![Page 21: 10.3.2004IT meets science1 Lernende Software Priv.Doz. Dr. Barbara Hammer, Forschernachwuchsgruppe Lernen mit Neuronalen Methoden auf Strukturierten Daten,](https://reader035.fdocument.pub/reader035/viewer/2022062623/55204d7f49795902118d0d45/html5/thumbnails/21.jpg)
10.3.2004 IT meets science 21
Lernende Software – wie?
LANDSAT TM Satelliten-basierte Sensoren liefern
Charaketeristika für 6 relevante Spektralbereiche
mit einer Auflösung von 30x30m2
Wasser
Vegetation
Boden
![Page 22: 10.3.2004IT meets science1 Lernende Software Priv.Doz. Dr. Barbara Hammer, Forschernachwuchsgruppe Lernen mit Neuronalen Methoden auf Strukturierten Daten,](https://reader035.fdocument.pub/reader035/viewer/2022062623/55204d7f49795902118d0d45/html5/thumbnails/22.jpg)
10.3.2004 IT meets science 22
Lernende Software – wie?
LANDSAT TM Daten für eine Gegend von Colorado, 1907x1784 Pixel
![Page 23: 10.3.2004IT meets science1 Lernende Software Priv.Doz. Dr. Barbara Hammer, Forschernachwuchsgruppe Lernen mit Neuronalen Methoden auf Strukturierten Daten,](https://reader035.fdocument.pub/reader035/viewer/2022062623/55204d7f49795902118d0d45/html5/thumbnails/23.jpg)
10.3.2004 IT meets science 23
Lernende Software – wie?
6-dim Spektraldaten
eines PixelsVegetationsform
trainiert für 5% der Fläche
Fehler im Testbetrieb für die gesamte Fläche: < 9%
![Page 24: 10.3.2004IT meets science1 Lernende Software Priv.Doz. Dr. Barbara Hammer, Forschernachwuchsgruppe Lernen mit Neuronalen Methoden auf Strukturierten Daten,](https://reader035.fdocument.pub/reader035/viewer/2022062623/55204d7f49795902118d0d45/html5/thumbnails/24.jpg)
10.3.2004 IT meets science 24
Lernende Software – wie?
![Page 25: 10.3.2004IT meets science1 Lernende Software Priv.Doz. Dr. Barbara Hammer, Forschernachwuchsgruppe Lernen mit Neuronalen Methoden auf Strukturierten Daten,](https://reader035.fdocument.pub/reader035/viewer/2022062623/55204d7f49795902118d0d45/html5/thumbnails/25.jpg)
10.3.2004 IT meets science 25
… Prognose des Regenabfluß
thanks: Dipl.Systemwiss. Marc Strickert
Prof. Dr. Holger Lange
![Page 26: 10.3.2004IT meets science1 Lernende Software Priv.Doz. Dr. Barbara Hammer, Forschernachwuchsgruppe Lernen mit Neuronalen Methoden auf Strukturierten Daten,](https://reader035.fdocument.pub/reader035/viewer/2022062623/55204d7f49795902118d0d45/html5/thumbnails/26.jpg)
10.3.2004 IT meets science 26
Lernende Software – wie?
Großlysimeter St.Arnold
20x20m2
3.5m
![Page 27: 10.3.2004IT meets science1 Lernende Software Priv.Doz. Dr. Barbara Hammer, Forschernachwuchsgruppe Lernen mit Neuronalen Methoden auf Strukturierten Daten,](https://reader035.fdocument.pub/reader035/viewer/2022062623/55204d7f49795902118d0d45/html5/thumbnails/27.jpg)
10.3.2004 IT meets science 27
Lernende Software – wie?
Aufgabe: prognostiziere aus den letzten k
Werten den Regenabfluß für den nächsten Tag
?
![Page 28: 10.3.2004IT meets science1 Lernende Software Priv.Doz. Dr. Barbara Hammer, Forschernachwuchsgruppe Lernen mit Neuronalen Methoden auf Strukturierten Daten,](https://reader035.fdocument.pub/reader035/viewer/2022062623/55204d7f49795902118d0d45/html5/thumbnails/28.jpg)
10.3.2004 IT meets science 28
Lernende Software – wie?
Ergebnis: 82% richtige Klassifikation auf der Trainingsmenge
70% richtige Klassifikation auf der Testmenge
00.5
1
1.52
2.53
3.54
4.5
0 200 400 600 800 1000
median
1-step prediction
runo
ff in
tensi
ty [
mm
/d]
days since 11 / 01 / 1968
![Page 29: 10.3.2004IT meets science1 Lernende Software Priv.Doz. Dr. Barbara Hammer, Forschernachwuchsgruppe Lernen mit Neuronalen Methoden auf Strukturierten Daten,](https://reader035.fdocument.pub/reader035/viewer/2022062623/55204d7f49795902118d0d45/html5/thumbnails/29.jpg)
10.3.2004 IT meets science 29
Lernende Software – wie?
0
1
2
3
4
5
6
1825 2190 2555 2920 3285 3650
runoff inte
nsi
ty [
mm
/d]
days since 11 / 01 / 1968
originaldeterministic
simulation start
stochastic
Langzeitprognose
![Page 30: 10.3.2004IT meets science1 Lernende Software Priv.Doz. Dr. Barbara Hammer, Forschernachwuchsgruppe Lernen mit Neuronalen Methoden auf Strukturierten Daten,](https://reader035.fdocument.pub/reader035/viewer/2022062623/55204d7f49795902118d0d45/html5/thumbnails/30.jpg)
10.3.2004 IT meets science 30
… Fehlererkennung bei Kolbenmaschinen
thanks: Dipl.Systemwiss. Thorsten Bojer
Prognost Systems GmbH
![Page 31: 10.3.2004IT meets science1 Lernende Software Priv.Doz. Dr. Barbara Hammer, Forschernachwuchsgruppe Lernen mit Neuronalen Methoden auf Strukturierten Daten,](https://reader035.fdocument.pub/reader035/viewer/2022062623/55204d7f49795902118d0d45/html5/thumbnails/31.jpg)
10.3.2004 IT meets science 31
Lernende Software – wie?
Online-Fehlererkennung bei Kolbenmaschinen
![Page 32: 10.3.2004IT meets science1 Lernende Software Priv.Doz. Dr. Barbara Hammer, Forschernachwuchsgruppe Lernen mit Neuronalen Methoden auf Strukturierten Daten,](https://reader035.fdocument.pub/reader035/viewer/2022062623/55204d7f49795902118d0d45/html5/thumbnails/32.jpg)
10.3.2004 IT meets science 32
Lernende Software – wie?
Fehlerdetektion aufgrund von Sensorsignalen
zeitabhängige Signale: Druck, Schwingungen
Prozeß-Characteristiken
Merkmale des pV Diagramms
…
Sensoren
![Page 33: 10.3.2004IT meets science1 Lernende Software Priv.Doz. Dr. Barbara Hammer, Forschernachwuchsgruppe Lernen mit Neuronalen Methoden auf Strukturierten Daten,](https://reader035.fdocument.pub/reader035/viewer/2022062623/55204d7f49795902118d0d45/html5/thumbnails/33.jpg)
10.3.2004 IT meets science 33
Lernende Software – wie?
Daten je nach Maschinenbestückung ca. 30 Zeitreihen mit je 36 Einträgen, je 6 Werte ca. 20 Auswertungen pro Zeitintervall ca. 40 globale Merkmaleca. 15 Klassen, wenige (~100) Trainingsmuster
Maschine Klassifikationsgüte des neuronalen Netz`
1, train
test
98.2 (96.3-100)
97.2 (93.5-100)
2, train
test
99.1 (98.4-100)
97.7 (97.6-100)
![Page 34: 10.3.2004IT meets science1 Lernende Software Priv.Doz. Dr. Barbara Hammer, Forschernachwuchsgruppe Lernen mit Neuronalen Methoden auf Strukturierten Daten,](https://reader035.fdocument.pub/reader035/viewer/2022062623/55204d7f49795902118d0d45/html5/thumbnails/34.jpg)
10.3.2004 IT meets science 34
… abstrakt
![Page 35: 10.3.2004IT meets science1 Lernende Software Priv.Doz. Dr. Barbara Hammer, Forschernachwuchsgruppe Lernen mit Neuronalen Methoden auf Strukturierten Daten,](https://reader035.fdocument.pub/reader035/viewer/2022062623/55204d7f49795902118d0d45/html5/thumbnails/35.jpg)
10.3.2004 IT meets science 35
Lernende Software – wie?
Bereitstellen von Beispieldaten Vorverarbeitung der Daten Training eines Netzes Testbetrieb ein fertiges neuronales Netz zur
Modellierung des Zusammenhangs Eingabe/Ausgabe
eine Umgebung, die das automatische Training eines geeigneten Netz´ ermöglicht
![Page 36: 10.3.2004IT meets science1 Lernende Software Priv.Doz. Dr. Barbara Hammer, Forschernachwuchsgruppe Lernen mit Neuronalen Methoden auf Strukturierten Daten,](https://reader035.fdocument.pub/reader035/viewer/2022062623/55204d7f49795902118d0d45/html5/thumbnails/36.jpg)
10.3.2004 IT meets science 36
Wer …
![Page 37: 10.3.2004IT meets science1 Lernende Software Priv.Doz. Dr. Barbara Hammer, Forschernachwuchsgruppe Lernen mit Neuronalen Methoden auf Strukturierten Daten,](https://reader035.fdocument.pub/reader035/viewer/2022062623/55204d7f49795902118d0d45/html5/thumbnails/37.jpg)
10.3.2004 IT meets science 37
Lernende Software – wer?
Trainingsprogramme für Neuronale Netze gibt es frei verfügbar (Hochschulentwicklungen), in Lizenzsoftware integriert (z.B. Mathematica, Matlab, ...) oder als eigen- ständige käuflich erwerbliche Tools (z.B. von Siemens).
Es gibt viele verschiedene Modelle Neuronaler Netze für verschiedenste Aufgaben.
Das Training Neuronaler Netze erfordert Kenntnisse über das prinzipielle Vorgehen, in der Regel sind spezielle Adaptationen nötig.
Der Betrieb eines fertig trainierten Netz´ erfordert keine Vorkenntnisse und ist in beliebige Programme integrierbar.
![Page 38: 10.3.2004IT meets science1 Lernende Software Priv.Doz. Dr. Barbara Hammer, Forschernachwuchsgruppe Lernen mit Neuronalen Methoden auf Strukturierten Daten,](https://reader035.fdocument.pub/reader035/viewer/2022062623/55204d7f49795902118d0d45/html5/thumbnails/38.jpg)
10.3.2004 IT meets science 38
Lernende Software – wer?
Bereitstellen von Beispieldaten Vorverarbeitung der Daten Training eines Netzes Testbetrieb ein fertiges neuronales Netz zur
Modellierung des Zusammenhangs Eingabe/Ausgabe
eine Umgebung, die das automatische Training eines geeigneten Netz´ ermöglicht
... IT
... IT/science
... science
... science
Ein Programm in
beliebiger
Programmiersprache,
das unabhängig
benutzt werden kann
Erfordert in der Regel
eine speziell
entwickelte Umgebung
und ein paar
Kenntnisse
in der Anwendung.
![Page 39: 10.3.2004IT meets science1 Lernende Software Priv.Doz. Dr. Barbara Hammer, Forschernachwuchsgruppe Lernen mit Neuronalen Methoden auf Strukturierten Daten,](https://reader035.fdocument.pub/reader035/viewer/2022062623/55204d7f49795902118d0d45/html5/thumbnails/39.jpg)
10.3.2004 IT meets science 39
Lernende Software – wer?
Neuronale Netze sind ein ideales Gebiet für
IT-Science Kooperationen im Rahmen von
Diplom- und Masterarbeiten
Praktika
Projekten
Auftragsarbeiten
![Page 40: 10.3.2004IT meets science1 Lernende Software Priv.Doz. Dr. Barbara Hammer, Forschernachwuchsgruppe Lernen mit Neuronalen Methoden auf Strukturierten Daten,](https://reader035.fdocument.pub/reader035/viewer/2022062623/55204d7f49795902118d0d45/html5/thumbnails/40.jpg)
10.3.2004 IT meets science 40
Lernende Software – wer?
Universität Osnabrück – Mathematik/Informatik
Forschernachwuchsgruppe LNM –
B.Hammer, K.Gersmann, M.Strickert
http://www.informatik.uni-osnabrueck.de/lnm
Gruppe Neuroinformatik – Prof.M.Riedmiller
http://www.informatik.uni-osnabrueck.de/asg