was denken denkende maschinen?
TRANSCRIPT
Zürcher Fachhochschule
Was denken denkende Maschinen? WI-Award, Crowne Plaza Zürich, 20.10.2016
Thilo Stadelmann
Zürcher Fachhochschule 2
Was? Wie? Wohin?
1 Was ist passiert?
(Eine kurze Geschichte der letzten Monate)
Zürcher Fachhochschule 3
Zürcher Fachhochschule 4
Zürcher Fachhochschule 5
Zürcher Fachhochschule 6
Zürcher Fachhochschule 7
Zürcher Fachhochschule 8
Generierte Sprache
«aus Texteingabe»
Generierte Musik
«ohne Inhaltsvorgabe»
Zürcher Fachhochschule 9
Zürcher Fachhochschule 10
Zürcher Fachhochschule 11
Zürcher Fachhochschule 12
Zürcher Fachhochschule 13
…und die Liste liesse sich fortsetzen!
Zürcher Fachhochschule 14
…und die Liste liesse sich fortsetzen!
Zürcher Fachhochschule 15
…und die Liste liesse sich fortsetzen!
Zürcher Fachhochschule 16
Was ist passiert? Der ImageNet Wettbewerb
1000 Kategorien
1 Mio. Beispiele …
Zürcher Fachhochschule 17
Was ist passiert? Der ImageNet Wettbewerb
1000 Kategorien
1 Mio. Beispiele …
A. Krizhevsky verwendet als erster ein
sog. «Deep Neural Network» (CNN)
Zürcher Fachhochschule 18
Was ist passiert? Der ImageNet Wettbewerb
1000 Kategorien
1 Mio. Beispiele …
A. Krizhevsky verwendet als erster ein
sog. «Deep Neural Network» (CNN)
Zürcher Fachhochschule 19
Was ist passiert? Der ImageNet Wettbewerb
1000 Kategorien
1 Mio. Beispiele …
A. Krizhevsky verwendet als erster ein
sog. «Deep Neural Network» (CNN)
2015: Computer haben “Sehen” gelernt
4.95% Microsoft (06. Februar)
Besser als Menschen (5.10%)
4.80% Google (11. Februar)
4.58% Baidu (11. Mai)
3.57% Microsoft (10. Dezember)
Zürcher Fachhochschule 20
Was? Wie? Wohin?
2 Wie geht das?
(Was denken denkende Maschinen?)
Zürcher Fachhochschule 21
Grundlage Induktives überwachtes Lernen
Annahme • Ein an genügend viele Beispiele
angepasstes Modell…
• …wird auch auf
unbekannte Daten generalisieren
Methode • Suchen der Parameter einer
gegebenen Funktion…
• …so dass für alle Beispiele Eingabe (Bild)
auf Ausgabe («Auto») abgebildet wird
Quelle: http://lear.inrialpes.fr/job/postdoc-large-scale-classif-11-img/attribs_patchwork.jpg
Zürcher Fachhochschule 22
Suche der Parameter einer Funktion??
Neuron
Merkmale (z.B. Pixel)
Anpassbare Parameter
Entscheidung
(Schwellwert)
Ergebnis (z.B. «Auto»)
𝑦
Zürcher Fachhochschule 23
Suche der Parameter einer Funktion??
Neuron Neuronales Netz
Merkmale (z.B. Pixel)
Anpassbare Parameter
Entscheidung
(Schwellwert)
Ergebnis (z.B. «Auto»)
𝑦
Zürcher Fachhochschule 24
Idee: Mehr Tiefe zum Lernen von Merkmalen
(0.2, 0.4, …)
Containerschiff
Tiger
Klassische Bild-
verarbeitung
(0.4, 0.3, …)
Merkmalsextraktion
(SIFT, SURF, LBP, HOG, etc.)
Containerschiff
Tiger
Mit Convolutional
Neural Networks
(CNNs)
Nimmt rohe Pixel entgegen,
Merkmale werden mitgelernt!
Klassifikation
(SVM, Neuronales Netz, etc.)
…
…
Zürcher Fachhochschule 25
Was «sieht» das Neuronale Netz? Hierarchien komplexer werdender Merkmale
Quelle: https://www.pinterest.com/explore/artificial-neural-network/
Zürcher Fachhochschule 26
Was? Wie? Wohin?
3 Wohin führt das?
(Ein Ausblick)
Zürcher Fachhochschule 27
Was ich nicht erwarte
Zürcher Fachhochschule 28
Was ich nicht erwarte
Zürcher Fachhochschule 29
Was ich nicht erwarte
Zürcher Fachhochschule 30
Was ich erwarte
Zürcher Fachhochschule 31
Was ich erwarte
Zürcher Fachhochschule 32
Was ich erwarte
Zürcher Fachhochschule 33
Was ich erwarte
Zürcher Fachhochschule 34
Was ich erwarte
Zürcher Fachhochschule 35
Schlussfolgerungen
• «Denkende rechnende» Maschinen sind immer noch inselbegabt
• Aber: «Deep Learning» hat zu Quantensprung in Mustererkennungsaufgaben geführt
• Für andere Datenanalyseaufgaben sind andere Verfahren besser geeignet
• Angst ist unangebracht – aber Herausforderungen wollen gestaltet werden:
technisch, ethisch, wirtschaftlich, gesellschaftlich
Mehr zu mir: • Leiter ZHAW Datalab, Vice President SGAICO, Board Data+Service
• 058 934 72 08
• www.zhaw.ch/~stdm
Mehr zum Thema: • KI: http://www.s-i.ch/en/fachgruppen-und-sektionen/sgaico/
• Verband Data & Service Science: www.data-service-alliance.ch
• Gemeinsame Projekte: [email protected]
Fragen Sie gerne an.
Zürcher Fachhochschule 36
ANHANG
Zürcher Fachhochschule 37
Was «sieht» das Neuronale Netz? Hierarchien komplexer werdender Merkmale
Quelle: http://vision03.csail.mit.edu/cnn_art/data/single_layer.png