![Page 1: Arbres de décision - GitHub Pages · 2021. 2. 5. · Poursetcontres • Lesméthodesbaséessurdesarbressontsimplesetutilespourl’interprétation. • Cependant](https://reader036.vdocuments.pub/reader036/viewer/2022062610/610f1783bbb92e43ad7dd093/html5/thumbnails/1.jpg)
Arbres de décision
masedki.github.io
ven. 13 mars 2020
![Page 2: Arbres de décision - GitHub Pages · 2021. 2. 5. · Poursetcontres • Lesméthodesbaséessurdesarbressontsimplesetutilespourl’interprétation. • Cependant](https://reader036.vdocuments.pub/reader036/viewer/2022062610/610f1783bbb92e43ad7dd093/html5/thumbnails/2.jpg)
Outline
3. Arbres de décision uniques
4. Agrégation par la moyenne : bagging
![Page 3: Arbres de décision - GitHub Pages · 2021. 2. 5. · Poursetcontres • Lesméthodesbaséessurdesarbressontsimplesetutilespourl’interprétation. • Cependant](https://reader036.vdocuments.pub/reader036/viewer/2022062610/610f1783bbb92e43ad7dd093/html5/thumbnails/3.jpg)
Méthodes basées sur des arbres
• Nous décrivons ici des méthodes basées sur des arbres pour la classification etla régression.
• Cela implique de stratifier ou segmenter l’espace des prédicteurs en un certainnombre de régions simples.
• Comme les règles des partitionnement peuvent être résumées par un arbre, cetype d’approches sont connues comme des méthodes à arbres de décision.
![Page 4: Arbres de décision - GitHub Pages · 2021. 2. 5. · Poursetcontres • Lesméthodesbaséessurdesarbressontsimplesetutilespourl’interprétation. • Cependant](https://reader036.vdocuments.pub/reader036/viewer/2022062610/610f1783bbb92e43ad7dd093/html5/thumbnails/4.jpg)
Pours et contres
• Les méthodes basées sur des arbres sont simples et utiles pour l’interprétation.
• Cependant, elles ne sont pas capables de rivaliser avec les meilleures approchesd’apprentissage supervisé en terme de qualité de prédiction.
• Nous discuterons aussi (dans l’avenir en M2) de bagging, forêts aléatoires(random forests), et boosting. Ces méthodes développent de nombreux arbres dedécision qui sont ensuite combinés pour produire une réponse consensus.
![Page 5: Arbres de décision - GitHub Pages · 2021. 2. 5. · Poursetcontres • Lesméthodesbaséessurdesarbressontsimplesetutilespourl’interprétation. • Cependant](https://reader036.vdocuments.pub/reader036/viewer/2022062610/610f1783bbb92e43ad7dd093/html5/thumbnails/5.jpg)
Les bases des arbres de décision
• Les arbres de décision sont utiles aussi bien pour des problèmes de régressionque de classification.
• Nous commençons par présenter des problèmes de régression et nous viendronsensuite à la classification.
![Page 6: Arbres de décision - GitHub Pages · 2021. 2. 5. · Poursetcontres • Lesméthodesbaséessurdesarbressontsimplesetutilespourl’interprétation. • Cependant](https://reader036.vdocuments.pub/reader036/viewer/2022062610/610f1783bbb92e43ad7dd093/html5/thumbnails/6.jpg)
Données de salaire au baseball: comment les stratifier ?Le salaire est codé par des couleurs : les faibles valeurs sont en bleu, puis vert, les plusfortes valeurs en orange puis rouge.
![Page 7: Arbres de décision - GitHub Pages · 2021. 2. 5. · Poursetcontres • Lesméthodesbaséessurdesarbressontsimplesetutilespourl’interprétation. • Cependant](https://reader036.vdocuments.pub/reader036/viewer/2022062610/610f1783bbb92e43ad7dd093/html5/thumbnails/7.jpg)
L’arbre de décision sur ces données
![Page 8: Arbres de décision - GitHub Pages · 2021. 2. 5. · Poursetcontres • Lesméthodesbaséessurdesarbressontsimplesetutilespourl’interprétation. • Cependant](https://reader036.vdocuments.pub/reader036/viewer/2022062610/610f1783bbb92e43ad7dd093/html5/thumbnails/8.jpg)
Détails de la précédente figure
• C’est un arbre de régression pour prédire le log des salaires des joueurs, basé sur
• l’expérience (Years)• le nombre de succès (Hits)
• Pour chaque nœud interne, l’étiquette (de la forme Xj < tk) indique la branche degauche émanant du nœud et la branche droite correspond à Xj ≥ tk.
• Cet arbre a deux nœuds internes et trois nœuds terminaux ou feuilles. Le nœud leplus haut dans la hiérarchie est la racine.
• L’étiquette des feuilles est la réponse moyenne des observations qui satisfontaux critères pour la rejoindre.
![Page 9: Arbres de décision - GitHub Pages · 2021. 2. 5. · Poursetcontres • Lesméthodesbaséessurdesarbressontsimplesetutilespourl’interprétation. • Cependant](https://reader036.vdocuments.pub/reader036/viewer/2022062610/610f1783bbb92e43ad7dd093/html5/thumbnails/9.jpg)
Résultats• En tout, l’arbre distingue trois classes de joueurs en partitionnant l’espace des
variables explicatives en trois régions : R1 = {X : Years < 4.5},R2 = {X : Years ≥ 4.5, Hits < 117.5} etR3 = {X : Years ≥ 4.5, Hits ≥ 117.5}.
![Page 10: Arbres de décision - GitHub Pages · 2021. 2. 5. · Poursetcontres • Lesméthodesbaséessurdesarbressontsimplesetutilespourl’interprétation. • Cependant](https://reader036.vdocuments.pub/reader036/viewer/2022062610/610f1783bbb92e43ad7dd093/html5/thumbnails/10.jpg)
Interprétation des résultats
• Years est le facteur le plus important pour expliquer Salary : les joueurs demoindre expérience gagnent moins que les joueurs expérimentés
• Sachant qu’un joueur a peu d’expérience, le nombre de Hits l’année passéen’influence pas son salaire
• Mais, parmis les joueurs expérimentés, le nombre de Hits de l’année passéeaffecte son salaire (positivement)
• C’est sûrement une simplification de la réalité, mais comparé à un modèle derégression (linéaire par exemple), la fonction de régression est simple à décrire,interpréter et expliquer.
![Page 11: Arbres de décision - GitHub Pages · 2021. 2. 5. · Poursetcontres • Lesméthodesbaséessurdesarbressontsimplesetutilespourl’interprétation. • Cependant](https://reader036.vdocuments.pub/reader036/viewer/2022062610/610f1783bbb92e43ad7dd093/html5/thumbnails/11.jpg)
Détails sur la construction de l’arbre
Algorithme CART (Classification and Regression Trees)
1. Division de l’espace des prédicteurs en J régions distinctes, non recouvrantes:R1, R2, . . . RJ.
2. Pour toute nouvelle observation des prédicteurs X = x0, on regarde dans quellerégion on tombe, disons Rℓ. La prédiction est la moyenne des valeurs observéesdans la partie de l’ensemble d’entrainement qui tombent dans Rℓ.
![Page 12: Arbres de décision - GitHub Pages · 2021. 2. 5. · Poursetcontres • Lesméthodesbaséessurdesarbressontsimplesetutilespourl’interprétation. • Cependant](https://reader036.vdocuments.pub/reader036/viewer/2022062610/610f1783bbb92e43ad7dd093/html5/thumbnails/12.jpg)
Détails sur la construction de l’arbre (suite)
• Pour limiter l’espace des partitions possibles, les arbres de décision divisentl’espace en rectangles ou boîtes parallèles aux axes.
• Le but est de trouver les boîtes R1, . . . , RJ qui minimisent un critère desmoindres carrés, ici
SSE =J∑
j=1
∑i:xi∈Rj
(yi − yRj
)2,
où yRj est la réponse moyenne sur les observations d’entrainement qui tombentdans Rj.
![Page 13: Arbres de décision - GitHub Pages · 2021. 2. 5. · Poursetcontres • Lesméthodesbaséessurdesarbressontsimplesetutilespourl’interprétation. • Cependant](https://reader036.vdocuments.pub/reader036/viewer/2022062610/610f1783bbb92e43ad7dd093/html5/thumbnails/13.jpg)
Détails sur la construction de l’arbre (suite)
• Malheureusement, il est impossible de traverser l’ensemble des partitionnementsde l’espace des prédicteurs en J boîtes.
• Pour cette raison, on met en place un algorithme glouton, top-down qui construitl’arbre binaire de façon récursive.
• L’algorithme démarre à la racine de l’arbre et sépare ensuite l’espace desprédicteurs en ajoutant progressivement des nœuds.
• On parle d’algorithme glouton car à chaque étape de la construction de l’arbre, onconstruit la meilleur division possible du nœud en deux sous-nœuds.
![Page 14: Arbres de décision - GitHub Pages · 2021. 2. 5. · Poursetcontres • Lesméthodesbaséessurdesarbressontsimplesetutilespourl’interprétation. • Cependant](https://reader036.vdocuments.pub/reader036/viewer/2022062610/610f1783bbb92e43ad7dd093/html5/thumbnails/14.jpg)
L’algorithme de construction de l’arbre T0 (phase 1)
InitialisationNœud racine : on place l’ensemble de l’échantillon d’estimation à la racine de l’arbre
Récurrence sur chaque nœudOn partionne chaque nœud en deux classes:
R1(j, s) = {X : Xj ≤ s}, R2(j, s) = {X : Xj > s}
en cherchant j et s qui minimisent
RSSnew =∑
i:xi∈R1(j,s)
(yi − y1
)2
+∑
i:xi∈R2(j,s)
(yi − y2
)2
(1)
où ym = ave(yi
∣∣∣xi ∈ Rm(j, s))est la réponse moyenne des données
d’apprentissage qui tombent dans la région Rm(j, s) pour m = 1 ou m = 2.Trouver le couple (j, s) optimal est un problème relativement facile lorsque le nombrede variables p n’est pas trop grand.
![Page 15: Arbres de décision - GitHub Pages · 2021. 2. 5. · Poursetcontres • Lesméthodesbaséessurdesarbressontsimplesetutilespourl’interprétation. • Cependant](https://reader036.vdocuments.pub/reader036/viewer/2022062610/610f1783bbb92e43ad7dd093/html5/thumbnails/15.jpg)
Exemples de récurrence binaire
|
t1
t2
t3
t4
R1
R1
R2
R2
R3
R3
R4
R4
R5
R5
X1
X1X1
X2
X2
X2
X1 ≤ t1
X2 ≤ t2 X1 ≤ t3
X2 ≤ t4
![Page 16: Arbres de décision - GitHub Pages · 2021. 2. 5. · Poursetcontres • Lesméthodesbaséessurdesarbressontsimplesetutilespourl’interprétation. • Cependant](https://reader036.vdocuments.pub/reader036/viewer/2022062610/610f1783bbb92e43ad7dd093/html5/thumbnails/16.jpg)
Exemples de récurrence binaire
• En haut à gauche : exemple de partition qui ne peut être le résultat d’une partitionbinaire
• En haut à droite : résultat d’une partition binaire récursive
• En bas à gauche : l’arbre binaire correspondant à la partition en haut à droite
• En bas à droite : surface de prédiction associé à cet arbre
![Page 17: Arbres de décision - GitHub Pages · 2021. 2. 5. · Poursetcontres • Lesméthodesbaséessurdesarbressontsimplesetutilespourl’interprétation. • Cependant](https://reader036.vdocuments.pub/reader036/viewer/2022062610/610f1783bbb92e43ad7dd093/html5/thumbnails/17.jpg)
Algorithme (suite…)
Phase 1 : Construction de T0
Initialisation[…]
Récurrence sur chaque nœud[…]
TerminaisonOn arrête de diviser un nœud de T0 lorsqu’il y a peu d’observations (disons 5).
![Page 18: Arbres de décision - GitHub Pages · 2021. 2. 5. · Poursetcontres • Lesméthodesbaséessurdesarbressontsimplesetutilespourl’interprétation. • Cependant](https://reader036.vdocuments.pub/reader036/viewer/2022062610/610f1783bbb92e43ad7dd093/html5/thumbnails/18.jpg)
Critère d’arrêt
• La récurrence jusqu’à 5 observations par noeud terminal est arbitraire
• Trop d’étapes de partitionnement : beaucoup de feuilles (noeuds terminaux),modèle trop complexe, petit biais mais grande variance, sur-apprentissage
• Peu d’étapes de partitionnement: peu de feuilles, modèle trop simple, grand biaismais petite variance, sous-apprentissage
![Page 19: Arbres de décision - GitHub Pages · 2021. 2. 5. · Poursetcontres • Lesméthodesbaséessurdesarbressontsimplesetutilespourl’interprétation. • Cependant](https://reader036.vdocuments.pub/reader036/viewer/2022062610/610f1783bbb92e43ad7dd093/html5/thumbnails/19.jpg)
Une première idée
• Division d’une région R en deux régions R1 et R2 on considère la somme descarrés des résidus avant la division
RSSold =∑i∈R
(yi − y
)2
où y est la moyenne de la variable réponse des données qui se situent dans larégion R. Avec la division optimale, la réduction de RSS
RSSold − RSSnew
• On peut choisir un seuil h et décider de la significativité d’une partition
• Si la réduction du RSS est supérieure à h on applique le split sinon on arrête
![Page 20: Arbres de décision - GitHub Pages · 2021. 2. 5. · Poursetcontres • Lesméthodesbaséessurdesarbressontsimplesetutilespourl’interprétation. • Cependant](https://reader036.vdocuments.pub/reader036/viewer/2022062610/610f1783bbb92e43ad7dd093/html5/thumbnails/20.jpg)
Une première idée (suite)
• L’idée est raisonnable mais trop locale
• Une partition peut être jugée non-significative et peut cacher d’autres partitionsplus significatives
![Page 21: Arbres de décision - GitHub Pages · 2021. 2. 5. · Poursetcontres • Lesméthodesbaséessurdesarbressontsimplesetutilespourl’interprétation. • Cependant](https://reader036.vdocuments.pub/reader036/viewer/2022062610/610f1783bbb92e43ad7dd093/html5/thumbnails/21.jpg)
Sur-apprentissage
L’arbre T0 obtenu est trop profond. Faire un compromis entre
• sur-apprentissage : trop profond
• arbre trop peu précis (grande erreur de prédiction): trop peu profond
Solution : élagage de T0 appelé Cost complexity pruning
![Page 22: Arbres de décision - GitHub Pages · 2021. 2. 5. · Poursetcontres • Lesméthodesbaséessurdesarbressontsimplesetutilespourl’interprétation. • Cependant](https://reader036.vdocuments.pub/reader036/viewer/2022062610/610f1783bbb92e43ad7dd093/html5/thumbnails/22.jpg)
Élagage
Une stratégie consiste à construire un très grand arbre, puis à l’élaguer afin d’obtenir unsous-arbre.
• Comment détermine-t-on le meilleur moyen d’élaguer l’arbre ?
• Sélectionner un sous-arbre menant à l’erreur de test la plus faible.
• Nous pouvons estimer l’erreur de test en utilisant la validation croisée (chaquesous-arbre : explosion combinatoire !!).
• Sélectionner un petit ensemble de sous-arbres à prendre en compte.
• L’élagage du maillon le plus faible permet de considérer une séquence d’arbresindexés par un paramètre de réglage non négatif α.
![Page 23: Arbres de décision - GitHub Pages · 2021. 2. 5. · Poursetcontres • Lesméthodesbaséessurdesarbressontsimplesetutilespourl’interprétation. • Cependant](https://reader036.vdocuments.pub/reader036/viewer/2022062610/610f1783bbb92e43ad7dd093/html5/thumbnails/23.jpg)
Élagage : détails
Introduire un paramètre α qui règle le compromis, et minimiser le critère pénalisé perte+ pénalité défini pour T ⊂ T0 par
Cα(T) =|T|∑
m=1
∑xi∈Rm(T)
(yi − ym
)2+ α|T|,
où
• |T| est nombre de feuilles de T
• ym = ave(yi
∣∣∣xi ∈ Rm(T))
• On notera Tα le sous-arbre qui minimise Cα(T) à α fixé
• Rôle de α ? Cas particuliers α = 0 et α → +∞ !!
![Page 24: Arbres de décision - GitHub Pages · 2021. 2. 5. · Poursetcontres • Lesméthodesbaséessurdesarbressontsimplesetutilespourl’interprétation. • Cependant](https://reader036.vdocuments.pub/reader036/viewer/2022062610/610f1783bbb92e43ad7dd093/html5/thumbnails/24.jpg)
Élagage : Calcul des minima Tα du critère pénalisé
1. On construit une suite d’arbres itérativement
• On part de T0
• À chaque étape, on supprime le nœud interne de tel sorte à produire la plus petiteaugmentation de
|T|∑m=1
∑xi∈Rm(T)
(yi − ym
)2
• On s’arrête lorsque l’arbre est réduit à un seul nœud (racine)
2. Tous les minima T = Tα des fonctions T 7→ Cα(T) sont dans cette suite
![Page 25: Arbres de décision - GitHub Pages · 2021. 2. 5. · Poursetcontres • Lesméthodesbaséessurdesarbressontsimplesetutilespourl’interprétation. • Cependant](https://reader036.vdocuments.pub/reader036/viewer/2022062610/610f1783bbb92e43ad7dd093/html5/thumbnails/25.jpg)
Élagage : Choix de α par validation croisée K-folds
• Diviser le jeu de données d’apprentissage en K-folds
• Pour k = 1, . . . , K :
• Calculer les minima Tα du critère pénalisé sur l’ensemble du jeu de données privédu kième fold
• Pour chaque Tα , calculer l’erreur de prédiction moyenne des données du kième foldcomme une fonction err−k(α) de α
• Choisir la valeur de α∗ qui minimise la fonction moyenne 1K
∑Kk=1 err−k(α)
• Renvoyer Tα∗ calculé par élagage sur l’ensemble du jeu de donnéesd’apprentissage
![Page 26: Arbres de décision - GitHub Pages · 2021. 2. 5. · Poursetcontres • Lesméthodesbaséessurdesarbressontsimplesetutilespourl’interprétation. • Cependant](https://reader036.vdocuments.pub/reader036/viewer/2022062610/610f1783bbb92e43ad7dd093/html5/thumbnails/26.jpg)
Illustration : Hitters dataset
2 4 6 8 10
0.0
0.2
0.4
0.6
0.8
1.0
Tree Size
Mean S
quare
d E
rror
Training
Cross−Validation
Test
![Page 27: Arbres de décision - GitHub Pages · 2021. 2. 5. · Poursetcontres • Lesméthodesbaséessurdesarbressontsimplesetutilespourl’interprétation. • Cependant](https://reader036.vdocuments.pub/reader036/viewer/2022062610/610f1783bbb92e43ad7dd093/html5/thumbnails/27.jpg)
Exemple : coût de soins
• Compétition kaggle https://www.kaggle.com/mirichoi0218/insurance
• À l’aide de la fonction rpart, ajuster un arbre de décision sans élagage pourprédire la variable medv en fonction des autres variables présentes dans le jeu dedonnées.
• Utiliser la fonction rpart.control pour construire un arbre en continuant lesdécoupages dans les feuilles qui contiennent au moins 5 observations (paramètreminsplit=5) et sans contrainte sur la qualité du découpage (paramètre cp=0)
• Visualiser l’arbre obtenu à l’aide de la fonction rpart.plot• Évaluer l’erreur de prédiction du modèle sur le jeu de données test
• Découvrir l’élagage effectué automatiquement à l’aide de la fonction plotcp
• À l’aide de la fonction prune, extraire l’arbre obtenu par élagage correspondant àl’erreur minimale par validation croisée
• Tracer le nouvel arbre obtenu par élagage et évaluer son erreur de prédiction surle jeu de données test
![Page 28: Arbres de décision - GitHub Pages · 2021. 2. 5. · Poursetcontres • Lesméthodesbaséessurdesarbressontsimplesetutilespourl’interprétation. • Cependant](https://reader036.vdocuments.pub/reader036/viewer/2022062610/610f1783bbb92e43ad7dd093/html5/thumbnails/28.jpg)
Arbres de classification
• Similaires aux arbres de régression, sauf qu’ils sont utilisés pour prédire uneréponse catégorielle
• Pour un arbre de classification, on prédit à l’aide la classe la plus fréquente danscette feuille parmi les données d’entrainement
![Page 29: Arbres de décision - GitHub Pages · 2021. 2. 5. · Poursetcontres • Lesméthodesbaséessurdesarbressontsimplesetutilespourl’interprétation. • Cependant](https://reader036.vdocuments.pub/reader036/viewer/2022062610/610f1783bbb92e43ad7dd093/html5/thumbnails/29.jpg)
Classification : différence avec la régression
• Rappelons qu’en régression, on vise à réduire les moindres carrés (ou sommedes carrés des résidus) notés RSS qui sert à mesurer l’erreur du modèle
• En classification, on a besoin d’une d’une mesure d’erreur appropriée
• Réponse catégorielle Y ∈{1, 2, . . . , K
}donc la prédiction
f(x) ∈{1, 2, . . . , K
}
![Page 30: Arbres de décision - GitHub Pages · 2021. 2. 5. · Poursetcontres • Lesméthodesbaséessurdesarbressontsimplesetutilespourl’interprétation. • Cependant](https://reader036.vdocuments.pub/reader036/viewer/2022062610/610f1783bbb92e43ad7dd093/html5/thumbnails/30.jpg)
Taux d’erreur pour la classification
• Si la feuille m représente la région Rm avec Nm observations, on définit
pmk =1
Nm
∑xi∈Rm
1{yi = k},
la proportion d’observations du nœud m appartenant à la kième classe.
• On assigne une nouvelle observation dans la région Rm à la classecm = argmaxk pmk (vote à la majorité simple)
![Page 31: Arbres de décision - GitHub Pages · 2021. 2. 5. · Poursetcontres • Lesméthodesbaséessurdesarbressontsimplesetutilespourl’interprétation. • Cependant](https://reader036.vdocuments.pub/reader036/viewer/2022062610/610f1783bbb92e43ad7dd093/html5/thumbnails/31.jpg)
Mesures d’impureté
En classification, les différentes mesures d’impureté Qm(T) d’une feuille m sont
• Taux de mauvais classement :
1
Nm
∑xi∈Rm
1{yi = cm} = 1 − pmcm
• Indice de Gini : ∑k=k′
pmkpmk′ =∑k
pmk(1 − pmk)
• Entropie :−
∑k
pmk ln pmk
![Page 32: Arbres de décision - GitHub Pages · 2021. 2. 5. · Poursetcontres • Lesméthodesbaséessurdesarbressontsimplesetutilespourl’interprétation. • Cependant](https://reader036.vdocuments.pub/reader036/viewer/2022062610/610f1783bbb92e43ad7dd093/html5/thumbnails/32.jpg)
Mesures d’impureté
• Si Rm est presque pure, la plupart des observations proviennent d’une seuleclasse, alors l’indice de Gini et l’entropie prendraient des valeurs plus petites quele taux de mauvais classement
• L’indice de Gini et l’enropie sont plus sensibles à la pureté des nœuds
• Pour évaluer la qualité d’une partition, l’indice de Gini et l’entropie sont souventutilisés comme mesure d’erreur (plus que le taux de mauvais classement)
• Chacune de ces trois mesures peut être utilisée lors de l’élagage d’un arbre
• Le taux de mauvais classement est préférable si on vise une meilleure précisionde prédiction de l’arbre élagué final
![Page 33: Arbres de décision - GitHub Pages · 2021. 2. 5. · Poursetcontres • Lesméthodesbaséessurdesarbressontsimplesetutilespourl’interprétation. • Cependant](https://reader036.vdocuments.pub/reader036/viewer/2022062610/610f1783bbb92e43ad7dd093/html5/thumbnails/33.jpg)
Jeu de données Pima
rm(list=ls())require(rpart)require(rpart.plot)require(MASS)data(”Pima.tr”)data(”Pima.te”)
• Reprendre les étapes de l’exemple de régression pour ajus ter un arbre de décision visant à prédire type(diabète : Yes or No) en fonction des autres variables présentes dans le jeu de données..
![Page 34: Arbres de décision - GitHub Pages · 2021. 2. 5. · Poursetcontres • Lesméthodesbaséessurdesarbressontsimplesetutilespourl’interprétation. • Cependant](https://reader036.vdocuments.pub/reader036/viewer/2022062610/610f1783bbb92e43ad7dd093/html5/thumbnails/34.jpg)
Avantages et inconvénients des arbres
▲ Les arbres sont faciles à expliquer à n’importe qui. Ils sont plus faciles àexpliquer que les modèles linéaires
▲ Les arbres peuvent être représentés graphiquement, et sont interprétables mêmepar des non-experts
▲ Ils peuvent gérer des variables explicatives catégorielles sans introduire desvariables binaires
▼ Malheureusement, ils n’ont pas la même qualité prédictives que les autresapproches d’apprentissage.
Cependant, en agrégeant plusieurs arbres de décision, les performances prédictivess’améliorent substantiellement.
![Page 35: Arbres de décision - GitHub Pages · 2021. 2. 5. · Poursetcontres • Lesméthodesbaséessurdesarbressontsimplesetutilespourl’interprétation. • Cependant](https://reader036.vdocuments.pub/reader036/viewer/2022062610/610f1783bbb92e43ad7dd093/html5/thumbnails/35.jpg)
Outline
3. Arbres de décision uniques
4. Agrégation par la moyenne : bagging
![Page 36: Arbres de décision - GitHub Pages · 2021. 2. 5. · Poursetcontres • Lesméthodesbaséessurdesarbressontsimplesetutilespourl’interprétation. • Cependant](https://reader036.vdocuments.pub/reader036/viewer/2022062610/610f1783bbb92e43ad7dd093/html5/thumbnails/36.jpg)
Agrégation par Bagging
• L’agrégation bootstrap ou bagging est méthode de réduction de la variance enapprentissage statistique. Elle est particulièrement utile sur les arbres dedécision.
• Rappelons que, sur un ensemble de n observations indépendantes Z1, . . . , Zn,chacune de variance σ2, la variance de la moyenne Z est σ2/n.
• En pratique, il n’est pas possible de moyenner des arbres de décision construitssur de multiples ensembles d’entrainement (pas assez de données observées)
![Page 37: Arbres de décision - GitHub Pages · 2021. 2. 5. · Poursetcontres • Lesméthodesbaséessurdesarbressontsimplesetutilespourl’interprétation. • Cependant](https://reader036.vdocuments.pub/reader036/viewer/2022062610/610f1783bbb92e43ad7dd093/html5/thumbnails/37.jpg)
Bagging pour la régression
• Au lieu de cela, on peut bootstrapper en ré-échantillonnant plusieurs fois lesdonnées d’entrainement.
• Alors, à partir de B échantillons bootstrap, on entraine une méthoded’apprentissage pour ajuster B fonctions de régressions, notées f∗b(x),b = 1, . . . , B
• La fonction de régression bagguée est alors
fbag(x) =1
B
B∑b=1
f∗b(x)
![Page 38: Arbres de décision - GitHub Pages · 2021. 2. 5. · Poursetcontres • Lesméthodesbaséessurdesarbressontsimplesetutilespourl’interprétation. • Cependant](https://reader036.vdocuments.pub/reader036/viewer/2022062610/610f1783bbb92e43ad7dd093/html5/thumbnails/38.jpg)
Bagging pour la classification
• Sur un problème de classification, f∗b(x) renvoie une classe possible pourchaque échantillon bootstrap b.
• La décision finale fbag(x) se prend par un vote à la majorité simple parmi les Bprédictions des classifieurs bootstrap.
![Page 39: Arbres de décision - GitHub Pages · 2021. 2. 5. · Poursetcontres • Lesméthodesbaséessurdesarbressontsimplesetutilespourl’interprétation. • Cependant](https://reader036.vdocuments.pub/reader036/viewer/2022062610/610f1783bbb92e43ad7dd093/html5/thumbnails/39.jpg)
Intuitivement
• Cela fonctionne mieux pour les méthodes d’apprentissage à faible biais et à fortevariance
• C’est le cas des arbres de décision, en particulier les arbres profonds.
• Sur des gros jeux de données d’entrainement, faire parfois dusous-échantillonnage bootstrap.
![Page 40: Arbres de décision - GitHub Pages · 2021. 2. 5. · Poursetcontres • Lesméthodesbaséessurdesarbressontsimplesetutilespourl’interprétation. • Cependant](https://reader036.vdocuments.pub/reader036/viewer/2022062610/610f1783bbb92e43ad7dd093/html5/thumbnails/40.jpg)
Erreur Out-Of-Bag (OOB)
• Il y a une façon simple d’estimer l’erreur de test quand on fait du bagging.
• La clé du bagging est l’entrainement de nombreux f(x) sur des échantillonsbootstraps. On peut donc utiliser les observations hors du bième bootstrap pourévaluer chaque f∗b(x).
• Ce qui donne l’algorithme ci-dessous.
1. Pour chaque observation (xi, yi), calculer yoobi la prédiction en n’utilisant que lesestimateurs f∗b(x) qui n’ont pas vu cette observation dans leur entrainement
2. Évaluer l’erreur entre yoobi et les yi (erreur quadratique moyenne ou taux demauvaise classification)
![Page 41: Arbres de décision - GitHub Pages · 2021. 2. 5. · Poursetcontres • Lesméthodesbaséessurdesarbressontsimplesetutilespourl’interprétation. • Cependant](https://reader036.vdocuments.pub/reader036/viewer/2022062610/610f1783bbb92e43ad7dd093/html5/thumbnails/41.jpg)
Erreur Out-Of-Bag pour l’estimation de l’erreur de test
• La probabilité qu’une observation i ne fasse pas partie d’un échantillon bootstrapest de
(1 − 1
n
)n ≈ 1e .
• Le nombre d’observations qui ne font pas partie d’un tirage bootstrap estn
(1 − 1
n
)n ≈ ne . Ces observations sont dites out-of-bag.
• Sur B tirages bootstrap, il y a environ Be échantillon qui ne contiennent pas
l’observation i.
• Les arbres de décisions ajustés sur ces échantillons servent à prédire la réponsede l’observation i. Il y a environ B
e prédictions.
• On fait la moyenne des ces prédictions pour la régression ou prendre le vote àmajorité simple pour la classification pour calculer la prédiction bagguée del’observation i qu’on notera f∗(xi).
![Page 42: Arbres de décision - GitHub Pages · 2021. 2. 5. · Poursetcontres • Lesméthodesbaséessurdesarbressontsimplesetutilespourl’interprétation. • Cependant](https://reader036.vdocuments.pub/reader036/viewer/2022062610/610f1783bbb92e43ad7dd093/html5/thumbnails/42.jpg)
Estimation de l’erreur de test par OOB
• L’erreur quadratique moyenne (∝ moindres carrés) OOB pour la régression
1
n
n∑i=1
(yi − f∗(xi)
)2.
• L’erreur de classification OOB
1
n
n∑i=1
1{yi = f∗(xi)}.
• L’erreur OOB est l’équivalente d’une erreur de test.
• Lorsque B est grand, on peut montrer que l’erreur OOB est équivalente à l’erreurcalculée par validation-croisée one-leave-one-out.
![Page 43: Arbres de décision - GitHub Pages · 2021. 2. 5. · Poursetcontres • Lesméthodesbaséessurdesarbressontsimplesetutilespourl’interprétation. • Cependant](https://reader036.vdocuments.pub/reader036/viewer/2022062610/610f1783bbb92e43ad7dd093/html5/thumbnails/43.jpg)
Mesurer l’importance des variables
• Le bagging améliore la précision d’un modèle au détriment de son interprétation
• On peut obtenir un résumé général de l’importance d’une variable à l’aide desmoindres carrés pour le bagging d’arbres de régression et l’indice de Gini pour lebagging d’arbres de classification.
• Pour chaque arbre de régression (ou classification) ajusté sur un échantillonbootstrap, on calcule le nombre de fois où les moindres carrés (ou l’indice de Ginipour la classification) a diminué par une partition d’une variable j. On fait lamoyenne de cet indicateur sur les B échantillons bootstraps.
• Une grande valeur de cet indicateur indique une importance de la variable j
![Page 44: Arbres de décision - GitHub Pages · 2021. 2. 5. · Poursetcontres • Lesméthodesbaséessurdesarbressontsimplesetutilespourl’interprétation. • Cependant](https://reader036.vdocuments.pub/reader036/viewer/2022062610/610f1783bbb92e43ad7dd093/html5/thumbnails/44.jpg)
Garanties théoriques : un peu de notations
• On note l’échantillon Dn = {(x1, y1), . . . , (xn, yn)} et on rappelle la fonctionde régression
m∗(x) = E[Y|X = x
].
• Pour x ∈ Rp, on considère l’erreur quadratique moyenne d’un estimateur m et sadécomposition biais-variance
E[(
m(x) − m∗(x))2
]=
(E
(m(x)
)− m∗(x)
)2+ Var
(m(x)
).
• Soit l’estimateur mbag(x) =1B
∑Bb=1 mb(x) obtenue par l’aggrégation des
régresseurs m1, . . . , mB. Remarquons que si on suppose les régresseursm1, . . . , mB i.i.d, on a
E[mbag(x)
]= E
[m1(x)
]et Var
[mbag(x)
]=
1
BVar
[m1(x)
].
même biais mais la variance diminue
![Page 45: Arbres de décision - GitHub Pages · 2021. 2. 5. · Poursetcontres • Lesméthodesbaséessurdesarbressontsimplesetutilespourl’interprétation. • Cependant](https://reader036.vdocuments.pub/reader036/viewer/2022062610/610f1783bbb92e43ad7dd093/html5/thumbnails/45.jpg)
Garanties théoriques : boostrap
• Le fait de considérer des échantillons bootstrap introduit un aléa supplémentairedans l’estimateur. Afin de prendre en compte cette nouvelle source d’aléatoire, onnote θb = θb
(Dn
)l’échantillon bootstrap de l’étape b et m(·, θb) l’estimateur
construit à l’étape b. On écrira l’estimateur final mB(x) =1B
∑Bb=1 m(x, θb).
• Conditionnellement à Dn, les θ1, . . . , θB sont i.i.d. Par la loi des grandsnombres
limB→∞
mB(x) = limB→∞
1
B
B∑b=1
m(x, θb) = Eθ
[m(x, θ)|Dn
]p.s.
• L’espérance est ici calculée par rapport à la loi de θ. On déduit de ce résultat que,contrairement au boosting, prendre B trop grand ne va pas sur-ajusterl’échantillon. Dit brutalement, prendre la limite en B revient à considérer unestimateur moyen calculé sur tous les échantillons bootstrap. Le choix de B n’estdonc pas crucial pour la performance de l’estimateur, il est recommandé de leprendre le plus grand possible (en fonction du temps de calcul).
![Page 46: Arbres de décision - GitHub Pages · 2021. 2. 5. · Poursetcontres • Lesméthodesbaséessurdesarbressontsimplesetutilespourl’interprétation. • Cependant](https://reader036.vdocuments.pub/reader036/viewer/2022062610/610f1783bbb92e43ad7dd093/html5/thumbnails/46.jpg)
Garanties théoriques : premier résultat
• Deux techniques sont généralement utilisées pour générer les échantillonsbootstrap
1. θb
(Dn
)est obtenu en tirant n observations avec remise dans Dn , chaque
observation ayant la même probabilité d’être tirée 1n .
2. θb
(Dn
)est obtenu en tirant ℓ observations (avec ou sans remise) dans Dn avec
ℓ < n.
• Théorème de Biau & Devroye (2010) Si ℓ = ℓn tel que limn→∞
ℓn = +∞ et
limn→∞
ℓnn = 0 alors l’estimateur m(x) = Eθ
[m(x, θ)|Dn
]est universellement
consistant.
![Page 47: Arbres de décision - GitHub Pages · 2021. 2. 5. · Poursetcontres • Lesméthodesbaséessurdesarbressontsimplesetutilespourl’interprétation. • Cependant](https://reader036.vdocuments.pub/reader036/viewer/2022062610/610f1783bbb92e43ad7dd093/html5/thumbnails/47.jpg)
Garanties théoriques : biais et variance
• σ2(x) = Var(m(x, θb)
)• ρ(x) = corr
(m(x, θ1), m(x, θ2)
), le coefficient de corrélation entre deux
estimateurs que l’on agrège (calculés sur deux échantillons bootstrap).
• La variance σ2(x) et la corrélation ρ(x) sont calculées par rapport aux lois deDn et de θ. On suppose que les estimateurs m(x, θ1), . . . , m(x, θB) sontidentiquement distribués.
•
• Proposition On a :
VarB(mB(x)
)= ρ(x)σ2(x) +
1 − ρ(x)
Bσ2(x).
Par conséquentVar
[m(x)
]= ρ(x)σ2(x).
![Page 48: Arbres de décision - GitHub Pages · 2021. 2. 5. · Poursetcontres • Lesméthodesbaséessurdesarbressontsimplesetutilespourl’interprétation. • Cependant](https://reader036.vdocuments.pub/reader036/viewer/2022062610/610f1783bbb92e43ad7dd093/html5/thumbnails/48.jpg)
Exemple : reprendre les deux exemples Boston et bes
• La fonction bagging du package ipred permet du faire du bagging
![Page 49: Arbres de décision - GitHub Pages · 2021. 2. 5. · Poursetcontres • Lesméthodesbaséessurdesarbressontsimplesetutilespourl’interprétation. • Cependant](https://reader036.vdocuments.pub/reader036/viewer/2022062610/610f1783bbb92e43ad7dd093/html5/thumbnails/49.jpg)
Forêts aléatoires très proche du bagging
• C’est la même idée que le bagging à l’exception …
• À chaque partition, on ne considère que m variables explicatives au hasard parmiles p variables explicatives du problème.
• Souvent m ≈ √p.
![Page 50: Arbres de décision - GitHub Pages · 2021. 2. 5. · Poursetcontres • Lesméthodesbaséessurdesarbressontsimplesetutilespourl’interprétation. • Cependant](https://reader036.vdocuments.pub/reader036/viewer/2022062610/610f1783bbb92e43ad7dd093/html5/thumbnails/50.jpg)
Forêts aléatoires
• À chaque pas, la partition est contrainte sur un petit nombre m de variablesexplicatives choisies au hasard.
• Permet d’avoir des arbres différents.
• Deux arbres similaires sont hautement corrélés, la moyenne d’arbres hautementcorrélés ne peut produire une réduction importante de la variance. Penser au casextrême où tous les arbres sont les mêmes.
• La moyenne d’arbres non-corrélés ou faiblement corrélés permet une réductionimportante de la variance.
• Une forêt aléatoire produit des arbres moins corrélés.
• Une forêt aléatoire est équivalente à un bagging si m = p.
![Page 51: Arbres de décision - GitHub Pages · 2021. 2. 5. · Poursetcontres • Lesméthodesbaséessurdesarbressontsimplesetutilespourl’interprétation. • Cependant](https://reader036.vdocuments.pub/reader036/viewer/2022062610/610f1783bbb92e43ad7dd093/html5/thumbnails/51.jpg)
Illustration : données d’expression de gênes
0 100 200 300 400 500
0.2
0.3
0.4
0.5
Number of Trees
Te
st
Cla
ssific
atio
n E
rro
r
m=p
m=p/2
m= p
• Résultats de forêts aléatoires pour prédire les 15 classes à partir du niveaud’expression de 500 gènes
• L’erreur de test (évaluée par OOB) dépend du nombre d’arbres. Les différentescouleurs correspondent à différentes valeurs de m.
• Les forêts aléatoires améliorent significativement le taux d’erreur de CART(environ 45.7%)
![Page 52: Arbres de décision - GitHub Pages · 2021. 2. 5. · Poursetcontres • Lesméthodesbaséessurdesarbressontsimplesetutilespourl’interprétation. • Cependant](https://reader036.vdocuments.pub/reader036/viewer/2022062610/610f1783bbb92e43ad7dd093/html5/thumbnails/52.jpg)
Table of Contents
3. Arbres de décision uniques
4. Agrégation par la moyenne : bagging