Arbres de décision

Introduction

Dans ce chapitre, nous allons apprendre la méthode d'apprentissage dans Sklearn qui est appelée arbres de décision.

Les arbres de décision (DT) sont la méthode d'apprentissage supervisé non paramétrique la plus puissante. Elles peuvent être utilisées pour les tâches de classification et de régression. L'objectif principal des arbres de décision est de créer un modèle prédisant la valeur de la variable cible en apprenant des règles de décision simples déduites des caractéristiques des données. Les arbres de décision ont deux entités principales : le nœud racine, où les données sont divisées, et les nœuds de décision ou feuilles, où l'on obtient la sortie finale.

Decision Tree Algorithms

Les différents algorithmes d'arbre de décision sont expliqués ci-dessous -

ID3

Il a été développé par Ross Quinlan en 1986. Il est également appelé Iterative Dichotomiser 3. L'objectif principal de cet algorithme est de trouver les caractéristiques catégorielles, pour chaque nœud, qui apporteront le plus grand gain d'information pour les cibles catégorielles. Il permet à l'arbre de croître jusqu'à sa taille maximale puis, pour améliorer la capacité de l'arbre sur des données non vues, il applique une étape d'élagage. Le résultat de cet algorithme est un arbre à plusieurs voies.