magellium company presentation...facebook développe deepface, un programme capable de reconnaitre...
TRANSCRIPT
![Page 1: Magellium Company presentation...Facebook développe DeepFace, un programme capable de reconnaitre les visages et les personnes dans les photos ave les mêmes performane qu’un être](https://reader030.vdocuments.pub/reader030/viewer/2022041104/5f05464f7e708231d41226fd/html5/thumbnails/1.jpg)
PUTTING KNOWLEDGE ON THE MAP
Magellium
![Page 2: Magellium Company presentation...Facebook développe DeepFace, un programme capable de reconnaitre les visages et les personnes dans les photos ave les mêmes performane qu’un être](https://reader030.vdocuments.pub/reader030/viewer/2022041104/5f05464f7e708231d41226fd/html5/thumbnails/2.jpg)
Domaines d’activité
2 20
/09
/20
17
pro
pri
été
Mag
elliu
m
2003 création
150+ employés
2 sites Paris
Toulouse*
14,2 M€ CA 2016
Observation de la terre Géo-information
Imagerie & applications
Intégrée au groupe ARTAL depuis le 1er Septembre 2016
![Page 3: Magellium Company presentation...Facebook développe DeepFace, un programme capable de reconnaitre les visages et les personnes dans les photos ave les mêmes performane qu’un être](https://reader030.vdocuments.pub/reader030/viewer/2022041104/5f05464f7e708231d41226fd/html5/thumbnails/3.jpg)
Offres & marchés
3
pro
pri
été
Mag
elliu
m
Etudes scientifiques & techniques
Développement logiciel & intégration de systèmes
30 % Energie & Transport
10 % Autres
30 % Espace
Consulting & assistance technique
30 % Défense
& Sécurité
20
/09
/20
17
![Page 4: Magellium Company presentation...Facebook développe DeepFace, un programme capable de reconnaitre les visages et les personnes dans les photos ave les mêmes performane qu’un être](https://reader030.vdocuments.pub/reader030/viewer/2022041104/5f05464f7e708231d41226fd/html5/thumbnails/4.jpg)
Offres & marchés
4
pro
pri
été
Mag
elliu
m
Etudes scientifiques & techniques
Développement logiciel & intégration de systèmes
Consulting & assistance technique
20
/09
/20
17
Deep Learning
Groupe de travail et R&D
interne
4 experts
Plus d’un an d’expérience
Partenariats académiques
![Page 5: Magellium Company presentation...Facebook développe DeepFace, un programme capable de reconnaitre les visages et les personnes dans les photos ave les mêmes performane qu’un être](https://reader030.vdocuments.pub/reader030/viewer/2022041104/5f05464f7e708231d41226fd/html5/thumbnails/5.jpg)
PUTTING KNOWLEDGE ON THE MAP
Le Deep Learning
appliqué au traitement des images
satellite, un retour d’expérience
20/09/2017
5 24
/10
/20
17
Pro
per
ty o
f M
agel
lium
![Page 6: Magellium Company presentation...Facebook développe DeepFace, un programme capable de reconnaitre les visages et les personnes dans les photos ave les mêmes performane qu’un être](https://reader030.vdocuments.pub/reader030/viewer/2022041104/5f05464f7e708231d41226fd/html5/thumbnails/6.jpg)
Le Deep Learning
Qu’est-ce que c’est ?
Comment on fait ?
6
Pro
per
ty o
f M
agel
lium
Cas d’usage
Points durs
Principes de base
Concepts théoriques
20
/09
/20
17
![Page 7: Magellium Company presentation...Facebook développe DeepFace, un programme capable de reconnaitre les visages et les personnes dans les photos ave les mêmes performane qu’un être](https://reader030.vdocuments.pub/reader030/viewer/2022041104/5f05464f7e708231d41226fd/html5/thumbnails/7.jpg)
PUTTING KNOWLEDGE ON THE MAP
Le
Deep Learning
Qu’est-ce que c’est ?
![Page 8: Magellium Company presentation...Facebook développe DeepFace, un programme capable de reconnaitre les visages et les personnes dans les photos ave les mêmes performane qu’un être](https://reader030.vdocuments.pub/reader030/viewer/2022041104/5f05464f7e708231d41226fd/html5/thumbnails/8.jpg)
Machine learning
«Apprendre à une machine à reproduire un résultat, un comportement »
8
Pro
per
ty o
f M
agel
lium
Données d’apprentissage
Modèle
Vérité
Sorties du modèle
Comparaison
Optimisation
- Jouer aux échecs - Parler - Lire - Traduire - Reconnaitre une personne, un objet - Se déplacer
20
/09
/20
17
![Page 9: Magellium Company presentation...Facebook développe DeepFace, un programme capable de reconnaitre les visages et les personnes dans les photos ave les mêmes performane qu’un être](https://reader030.vdocuments.pub/reader030/viewer/2022041104/5f05464f7e708231d41226fd/html5/thumbnails/9.jpg)
Machine learning – une brève histoire
9
Pro
per
ty o
f M
agel
lium
Alan Turing invente le « test de Turing » qui permet de déterminer si une machine est « intelligente »
1950
Google crée AlphaGo, un programme capable de battre 5 fois de suite le champion du monde de Go, jeu considéré le plus complexe au monde.
Amazon et Microsoft lancent leurs outils de Machine Learning
Facebook développe DeepFace, un programme capable de reconnaitre les visages et les personnes dans les photos avec les mêmes performance qu’un être humain
Développement de Google Brain et de réseaux de neurones pour la reconnaissance d’objets
Apparition du terme « Deep Learning » pour désigner les nouveaux programmes de reconnaissance d’objets dans les images et les vidéos
Deep Blue (IBM) bat Gary Kasparov, alors champion du monde, aux échecs
Invention du perceptron par Frank Rosenblatt (Cornell University). Premier réseau de neurones. Inspiré des théories cognitives.
Arthur Samuel crée le premier programme de Machine Learning pour jouer aux échecs et progresser au fur et à mesure des parties jouées
2016
2015
2014
2011
2006
1997
1957
1952
20
/09
/20
17 Premières puces de calcul dédiées au calcul neural (Apple A11 bionic neural engine, NPU,
…) 2017
![Page 10: Magellium Company presentation...Facebook développe DeepFace, un programme capable de reconnaitre les visages et les personnes dans les photos ave les mêmes performane qu’un être](https://reader030.vdocuments.pub/reader030/viewer/2022041104/5f05464f7e708231d41226fd/html5/thumbnails/10.jpg)
Introduction aux réseaux de neurones
10
Pro
per
ty o
f M
agel
lium
2
4/1
0/2
01
7
Exemple : classification d’image
Cat
Dog
Bird
Umbrella
Car
Plane
…
Features
𝑿 Classification
20
/09
/20
17
![Page 11: Magellium Company presentation...Facebook développe DeepFace, un programme capable de reconnaitre les visages et les personnes dans les photos ave les mêmes performane qu’un être](https://reader030.vdocuments.pub/reader030/viewer/2022041104/5f05464f7e708231d41226fd/html5/thumbnails/11.jpg)
Modèle linéaire
11
Pro
per
ty o
f M
agel
lium
Vecteur en entrée 𝑿 ∈ ℝ𝑀 Probabilités en sortie 𝑷 ∈ ℝ𝑁
𝑊1𝑿 + 𝐵1 = 𝑷
Poids 𝑊1 ∈ ℝ𝑀×𝑁
Biais 𝐵1 ∈ ℝ𝑁
𝑐𝑙𝑎𝑠𝑠𝑒 = 𝑎𝑟𝑔𝑚𝑎𝑥(𝑷)
neurone
Construction d’un modèle simple – Perceptron / SVM à noyau linéaire
20
/09
/20
17
Input Output
![Page 12: Magellium Company presentation...Facebook développe DeepFace, un programme capable de reconnaitre les visages et les personnes dans les photos ave les mêmes performane qu’un être](https://reader030.vdocuments.pub/reader030/viewer/2022041104/5f05464f7e708231d41226fd/html5/thumbnails/12.jpg)
Réseau de neurones
12
Pro
per
ty o
f M
agel
lium
Passage à deux couches
Vecteur en entrée 𝑿 ∈ ℝ𝑀
Vecteur caché 𝒀 ∈ ℝ𝐾
Probabilités en sortie 𝑷 ∈ ℝ𝑁
𝑊1𝑿+ 𝐵1 = 𝒀
Couche 1 𝑊1 ∈ ℝ𝑀×𝐾 𝐵1 ∈ ℝ
𝐾
Couche 2 𝑊2 ∈ ℝ𝐾×𝑁 𝐵2 ∈ ℝ
𝑁
𝑊2𝒀 + 𝐵2 = 𝑷
𝑟𝑒𝑙𝑢(𝑊1𝑿+ 𝐵1) = 𝒀
ReLU – Rectified Linear Unit
Input Hidden layer Output
Réseau de neurones « Fully Connected »
Sigmoïde Tangente hyperbolique
20
/09
/20
17
![Page 13: Magellium Company presentation...Facebook développe DeepFace, un programme capable de reconnaitre les visages et les personnes dans les photos ave les mêmes performane qu’un être](https://reader030.vdocuments.pub/reader030/viewer/2022041104/5f05464f7e708231d41226fd/html5/thumbnails/13.jpg)
Apprentissage - Optimisation
13
Pro
per
ty o
f M
agel
lium
Optimisation – trouver les poids et les biais qui permettent de résoudre le problème posé
Couche 1 𝑊1 ∈ ℝ𝑀×𝐾 𝐵1 ∈ ℝ
𝐾 𝑀 + 1 × 𝐾 variables
Couche 2 𝑊2 ∈ ℝ𝐾×𝑁 𝐵2 ∈ ℝ
𝑁 𝐾 + 1 × 𝑁 variables
𝑊2 𝑟𝑒𝑙𝑢(𝑊1𝑿+ 𝐵1) + 𝐵2 = 𝑷
Exemple : N = 4, K=64, M=32 2372 variables à optimiser
Jeu de données d’apprentissage (𝑿𝒕𝒓𝒖𝒆 , 𝑷𝒕𝒓𝒖𝒆)
Fonction coût : Softmax 𝜎 𝑃 𝑖 =𝑒𝑃𝑖
𝑒𝑃𝑘𝑁𝑘=1
Cross entropy 𝐻 𝜎(𝑷), 𝑷𝒕𝒓𝒖𝒆 = − 𝑷𝒕𝒓𝒖𝒆,𝒊 log (𝝈(𝑷)𝒊)𝑖
𝑃 =−0.30.22.4
𝜎(𝑃) =0.060.090.85
𝑃𝑡𝑟𝑢𝑒 = 0 0 1 𝐻 𝜎 𝑃 , 𝑃𝑡𝑟𝑢𝑒 = 0.16
𝑃𝑡𝑟𝑢𝑒 = 1 0 0 𝐻 𝜎 𝑃 , 𝑃𝑡𝑟𝑢𝑒 = 2.86
Exemple numérique
20
/09
/20
17
![Page 14: Magellium Company presentation...Facebook développe DeepFace, un programme capable de reconnaitre les visages et les personnes dans les photos ave les mêmes performane qu’un être](https://reader030.vdocuments.pub/reader030/viewer/2022041104/5f05464f7e708231d41226fd/html5/thumbnails/14.jpg)
Réseau de neurones
14
Pro
per
ty o
f M
agel
lium
Problèmes • Convergence de la méthode d’optimisation • Trouver une « bonne » solution • Temps de calcul • Calcul efficace des gradients
Solutions Stochastic Gradient Descent (SGD) Gros jeux de données, représentatifs, … GPU + Calculs par batch Back-propagation / Chain-rule
20
/09
/20
17
Calcul de gradient – Back-propagation
• Calcul d’erreur
• Stockage des valeurs intermédiaires : cartes d’activation
• Rétro-propagation de l’erreur et calcul des gradients
• Ajustement des poids
![Page 15: Magellium Company presentation...Facebook développe DeepFace, un programme capable de reconnaitre les visages et les personnes dans les photos ave les mêmes performane qu’un être](https://reader030.vdocuments.pub/reader030/viewer/2022041104/5f05464f7e708231d41226fd/html5/thumbnails/15.jpg)
Traitement des images
15
Pro
per
ty o
f M
agel
lium
Méthode « à l’ancienne » calcul de features
Méthode deep « naïve » reshape + fully-connected
20
/09
/20
17
8 x 8
64
![Page 16: Magellium Company presentation...Facebook développe DeepFace, un programme capable de reconnaitre les visages et les personnes dans les photos ave les mêmes performane qu’un être](https://reader030.vdocuments.pub/reader030/viewer/2022041104/5f05464f7e708231d41226fd/html5/thumbnails/16.jpg)
Réseau de neurones convolutifs
16
Pro
per
ty o
f M
agel
lium
Couches de convolution
• Utilisation d’un noyau de convolution
• Parcours de l’image
• Extraction d’information avec invariance
par translation
• Noyaux de convolution multi-couches
20
/09
/20
17
![Page 17: Magellium Company presentation...Facebook développe DeepFace, un programme capable de reconnaitre les visages et les personnes dans les photos ave les mêmes performane qu’un être](https://reader030.vdocuments.pub/reader030/viewer/2022041104/5f05464f7e708231d41226fd/html5/thumbnails/17.jpg)
Réseau de neurones convolutifs
17
Pro
per
ty o
f M
agel
lium
Réduction des dimensions
« Pooling » Max / moyenne / …
Pas ou « Stride » > 1
20
/09
/20
17
![Page 18: Magellium Company presentation...Facebook développe DeepFace, un programme capable de reconnaitre les visages et les personnes dans les photos ave les mêmes performane qu’un être](https://reader030.vdocuments.pub/reader030/viewer/2022041104/5f05464f7e708231d41226fd/html5/thumbnails/18.jpg)
Réseau de neurones convolutifs
18
Pro
per
ty o
f M
agel
lium
Paramètres : - Taille du noyau de convolution - « profondeur » de la couche - Stride / pooling
LeNet-5, Yann Le Cun (1990)
Y. Le Cun et al., « Handwritten digit recognition with a back-propagation network », in Advances in neural information processing systems 2, NIPS 1989, 1990, p. 396–404.
Reconnaissance de caractères (32x32) 2 convolutions / 2 fully-connected
GoogLeNet, Inception, R-CNN (2014)
Reconnaissance d’objets (Imagenet) 59 convolutions / 5 fully-connected / pooling …
20
/09
/20
17
Noyaux de convolution Filtres de Gabor
Calcul de features Classification
![Page 19: Magellium Company presentation...Facebook développe DeepFace, un programme capable de reconnaitre les visages et les personnes dans les photos ave les mêmes performane qu’un être](https://reader030.vdocuments.pub/reader030/viewer/2022041104/5f05464f7e708231d41226fd/html5/thumbnails/19.jpg)
La révolution ?
19
Pro
per
ty o
f M
agel
lium
La raison
Conséquence
Intelligence
Données
Données
Intelligence
Avant Après
20
/09
/20
17
![Page 20: Magellium Company presentation...Facebook développe DeepFace, un programme capable de reconnaitre les visages et les personnes dans les photos ave les mêmes performane qu’un être](https://reader030.vdocuments.pub/reader030/viewer/2022041104/5f05464f7e708231d41226fd/html5/thumbnails/20.jpg)
PUTTING KNOWLEDGE ON THE MAP
Le
Deep Learning
Un cas concret
![Page 21: Magellium Company presentation...Facebook développe DeepFace, un programme capable de reconnaitre les visages et les personnes dans les photos ave les mêmes performane qu’un être](https://reader030.vdocuments.pub/reader030/viewer/2022041104/5f05464f7e708231d41226fd/html5/thumbnails/21.jpg)
Cas d’usage
Détection de bâtiments dans des images satellites
21
Pro
per
ty o
f M
agel
lium
2
4/1
0/2
01
7
![Page 22: Magellium Company presentation...Facebook développe DeepFace, un programme capable de reconnaitre les visages et les personnes dans les photos ave les mêmes performane qu’un être](https://reader030.vdocuments.pub/reader030/viewer/2022041104/5f05464f7e708231d41226fd/html5/thumbnails/22.jpg)
Préparation des données
Jeux de données pour l’apprentissage
22
Pro
per
ty o
f M
agel
lium
2
4/1
0/2
01
7
Images PHR, 50cm Haute-Garonne 328 images de 10000x10000 pixels composition colorée RGB Vecteur Open Street Map, Batiments environ 1M de polygones
Objectif Produire des couples de vignettes 224x224 (image/masque batiment)
+ vérification, filtrage
+ augmentation des données
Equilibre du jeu de données …
![Page 23: Magellium Company presentation...Facebook développe DeepFace, un programme capable de reconnaitre les visages et les personnes dans les photos ave les mêmes performane qu’un être](https://reader030.vdocuments.pub/reader030/viewer/2022041104/5f05464f7e708231d41226fd/html5/thumbnails/23.jpg)
Construction du réseau
Nombreuses structures existantes
23
Pro
per
ty o
f M
agel
lium
2
4/1
0/2
01
7
http://www.asimovinstitute.org/neural-network-zoo/
La construction du réseau dépend de
La nature du problème à résoudre
(segmentation, classification, etc…)
La quantité de données disponible
La puissance de calcul disponible (+ mémoire)
![Page 24: Magellium Company presentation...Facebook développe DeepFace, un programme capable de reconnaitre les visages et les personnes dans les photos ave les mêmes performane qu’un être](https://reader030.vdocuments.pub/reader030/viewer/2022041104/5f05464f7e708231d41226fd/html5/thumbnails/24.jpg)
Construction du réseau
Architecture U-Net
24
Pro
per
ty o
f M
agel
lium
Image
Down-sampling (convolutions) Up-sampling
Segmentation
Features
20
/09
/20
17
![Page 25: Magellium Company presentation...Facebook développe DeepFace, un programme capable de reconnaitre les visages et les personnes dans les photos ave les mêmes performane qu’un être](https://reader030.vdocuments.pub/reader030/viewer/2022041104/5f05464f7e708231d41226fd/html5/thumbnails/25.jpg)
Apprentissage
25
Pro
per
ty o
f M
agel
lium
2
0/0
9/2
01
7
Gestion de l’optimisation
GeForce GTX 1080 – 8GB
100k itérations par batchs de 12 samples
Environ 40h de calculs
Suivi de l’apprentissage
• Suivi de la fonction coût et de la précision
• Jeu de validation -> éviter le sur-apprentissage (overfitting)
Fonction coût
- Régularisations L1 ou L2 - Complexité ++
Méthode d’optimisation
- Plusieurs méthodes - Hyper-paramètres
Augmentation de données « in-the-loop »
Variabilité ++ Luminosité / contraste / teinte / saturation
Hard-example mining
Présenter plus fréquemment les cas difficiles
![Page 26: Magellium Company presentation...Facebook développe DeepFace, un programme capable de reconnaitre les visages et les personnes dans les photos ave les mêmes performane qu’un être](https://reader030.vdocuments.pub/reader030/viewer/2022041104/5f05464f7e708231d41226fd/html5/thumbnails/26.jpg)
Implémentation
26
Pro
per
ty o
f M
agel
lium
2
0/0
9/2
01
7
Nombreuses bibliothèques existantes, la plupart en Python
Notre choix
+ Keras
A développer : La 1ère fois La 2ème fois
![Page 27: Magellium Company presentation...Facebook développe DeepFace, un programme capable de reconnaitre les visages et les personnes dans les photos ave les mêmes performane qu’un être](https://reader030.vdocuments.pub/reader030/viewer/2022041104/5f05464f7e708231d41226fd/html5/thumbnails/27.jpg)
Résultats
27
Pro
per
ty o
f M
agel
lium
2
4/1
0/2
01
7
![Page 28: Magellium Company presentation...Facebook développe DeepFace, un programme capable de reconnaitre les visages et les personnes dans les photos ave les mêmes performane qu’un être](https://reader030.vdocuments.pub/reader030/viewer/2022041104/5f05464f7e708231d41226fd/html5/thumbnails/28.jpg)
Résultats
28
Pro
per
ty o
f M
agel
lium
2
4/1
0/2
01
7
![Page 29: Magellium Company presentation...Facebook développe DeepFace, un programme capable de reconnaitre les visages et les personnes dans les photos ave les mêmes performane qu’un être](https://reader030.vdocuments.pub/reader030/viewer/2022041104/5f05464f7e708231d41226fd/html5/thumbnails/29.jpg)
Résultats
29
Pro
per
ty o
f M
agel
lium
2
4/1
0/2
01
7
![Page 30: Magellium Company presentation...Facebook développe DeepFace, un programme capable de reconnaitre les visages et les personnes dans les photos ave les mêmes performane qu’un être](https://reader030.vdocuments.pub/reader030/viewer/2022041104/5f05464f7e708231d41226fd/html5/thumbnails/30.jpg)
Résultats
30
Pro
per
ty o
f M
agel
lium
2
4/1
0/2
01
7
![Page 31: Magellium Company presentation...Facebook développe DeepFace, un programme capable de reconnaitre les visages et les personnes dans les photos ave les mêmes performane qu’un être](https://reader030.vdocuments.pub/reader030/viewer/2022041104/5f05464f7e708231d41226fd/html5/thumbnails/31.jpg)
Synthèse des points durs
31
Pro
per
ty o
f M
agel
lium
2
4/1
0/2
01
7
Construction de réseaux de neurones Demande un peu de savoir-faire et d’expérience Lecture bibliographie souvent suffisante
Apprentissage du réseau Effort d’adaptation aux librairies Deep Savoir faire non négligeable sur la méthodologie
Jeux de données Recul spécifique indispensable Notions particulières d’équilibre, de fiabilité des jeux de données Discipline particulière d’augmentation des données
![Page 32: Magellium Company presentation...Facebook développe DeepFace, un programme capable de reconnaitre les visages et les personnes dans les photos ave les mêmes performane qu’un être](https://reader030.vdocuments.pub/reader030/viewer/2022041104/5f05464f7e708231d41226fd/html5/thumbnails/32.jpg)
PUTTING KNOWLEDGE ON THE MAP
Merci ! Thomas RISTORCELLI
Unité IA
François De Vieilleville
Unité EO
franç[email protected]
Sébastien Bosch
Unité GEO