{"word_count": 586, "character_count": 3613}
 Un petit mot sur les courbes dites ROC, pour Receiver Operating Characteristic. Pour cela, on suppose que l'on dispose d'un prédicteur d'un variable prenant des valeurs 0 et 1 (pour simplifier), ou mieux encore "positif" et "négatif". Peu importe le prédicteur, on peut considérer une régression logistique, une analyse discriminante, un classificateur nonparamétrique.... Bref, pour l'ensemble de nos observations, on a une valeur observée  et une valeur prédite . En fait, comme je l'expliquais ici, on dispose plus précisément d'un score . La règle d'affectation est alors simple: on se fixe un seuil , etsi , alors   est "positif"si , alors   est "négatif"On peut alors construire une matrice dite de confusion, qui est simplement un table de contingence,                valeur observée valeur prédite "positif""négatif""positif"TPFP"négatif"FNTNoù TP désigne les vrais positifs (true positive), TN  les vrais négatifs (true negative),FP désigne les faux positifs (false positive) ou erreur de type I (dans une terminologie de théorie de la décision, ou de théorie des tests), et FN désigne les faux négatifs (false negative) ou erreur de type II.On peut alors définir toute une batterie d'indicateurs permettant de juger de la qualité de notre prédicteur (ou plutôt de notre score),TPR = TP / P = TP / (TP + FN) appelé sensibilité, correspondant au taux de vrais positifs (true positive rate)FPR = FP / N = FP / (FP + TN) correspondant au taux de faux positifs (false positive rate)ACC = (TP + TN) / (P + N) appelé précision ou accuracy,SPC = TN / N = TN / (FP + TN) = 1 − FPR appelé spécificité ou taux de vrais négatifs (True Negative Rate)PPV = TP / (TP + FP) le taux de positifs prédits (positive predictive value)NPV = TN / (TN + FN) le taux de négatifs prédits (negative predictive value)FDR = FP / (FP + TP) correspondant au false discovery rateBref, on convertit cette matrice en probabilités conditionnelles, et beaucoup de notions peuvent être définie en changeant le conditionnement.On peut aussi essayer de visualiser ces quantités. La représentation graphique la plus connue est probablement la courbe ROC, Receiver Operating Characteristic. L'idée est simple: il s'agit de juger du modèle, indépendmment du seuil s choisi. Ou plutôt de se donner un outils permettant de choisir le seuil s. On définie alors la fonction de sensibilitéet la fonction de spécificitéLa courbe ROC est alors la courbeSi cette courbe coïncide avec la diagonale, c’est que le modèle n’est pas plus performant qu’un modèle aléatoire (où on attribue la classe au hasard). Plus la courbe ROC s’approche du coin supérieur gauche, meilleur est le modèle, car il permet de capturer le plus possible de vrais positifs avec le moins possible de faux positifs. Notons que de part sa construction, la courbe ROC est invariante par toute transformation monotone croissante de la fonction de score (ce qui peut être particulièrement intéressant si on s'amuse à "normaliser" la fonction de score).De plus, on notera que l'aire sous la courbe ROC doit pouvoir être vu comme une mesure de la qualité de l'ajustement. Le dessin ci-dessous montre la construction de la courbe ROC pour un échantillon discriminé de manière assez simple, par analyse discriminante.Si on regarde une relecture probabiliste, on obtient la courbe suivante,Il existe une autre courbe relativement classique, appelée courbe de lift. Cette dernière correspond à la courbe de Lorenz (que j'avais évoquée ici). On pose alorset la courbe de lift est alors la courbe . Là aussi, un calcul d'aire donne un indicateur de la qualité, et on retrouve l'indice de Gini.