{"word_count": 396, "character_count": 3052}
En préparant une intervention pour mardi prochain, j'épluchais les résultats renvoyés pour un exercice, et j'ai eu un résultat assez étrange avec un modèle de classification. J'avais donné la même base cet automne à l'ensae, et j'avais donc près d'une trentaine d'autres modèles, pour comparer (disons plutôt que sur la même base de test, j'ai une trentaine de prévisions). Les observations noires sont celles obtenues cet automne (le trait correspond aux meilleurs AUC sur la base de test), et les observations rouges sont celles que j'ai obtenu pour l'intervention de mardi (là encore, le trait vertical correspond aux meilleurs modèles, au sens du AUC), sur une observation de la base de test,Ce sont les probabilités prédites (mais j'ai enlevé l'échelle).Pour presque toutes mes observations, les poids rouges sont bien au dessus des autres... Mais cela n'enlève en rien le fait que l'AUC obtenu (pour les deux modèles rouges) est très bon. C'est effectivement un résultat important (et connu) : le critère AUC (mais plus généralement la courbe ROC en entier) n'indique en rien si la valeur prédite est bonne, ou pas. Il nous dit juste si l'ordre obtenu est correct. Si les valeurs les plus importantes sont effectivement les valeurs pour lesquelles on a un 1, l'AUC sera très bon.C'est ce qu'on peut observer sur le petit exemple ci-dessous. Considérons un modèle logistique simulé assez simple,&#62; n=1e3&#62; set.seed(1)&#62; x1=rnorm(n)&#62; x2=runif(n)&#62; u=-3+x2+x1&#62; p=exp(u)/(1+exp(u))&#62; y=rbinom(n,prob=p,size=1)&#62; library(ROCR)&#62; df=data.frame(y,x1,x2)&#62; mean(df$y)[1] 0.116&#62; reg=glm(y~.,data=df,family=binomial)&#62; p=predict(reg,type="response")&#62; mean(p)[1] 0.116&#62; pred1=prediction(p, df$y)&#62; L=performance(pred1, "tpr", "fpr")L'AUC est ici&#62; auc=performance(pred1, "auc")@y.values[[1]]&#62; auc[1] 0.7681191et la courbe ROC est la suivante,&#62; plot(unlist(L@x.values),unlist(L@y.values),+ type="s",col="blue")Supposons que l'on change la constante du modèle logistique,&#62; reg$coefficients[1]=0Dans ce cas, notre prévision est assez mauvaise, car la probabilité moyenne prédite est ici&#62; u=reg$coefficients[1]+reg$coefficients[2]*+ df$x1+reg$coefficients[3]*df$x2&#62; p=exp(u)/(1+exp(u))&#62; mean(p)[1] 0.6060676(on est loin des 11,6% de 1 dans la base). Pourtant le AUC est bon&#62; pred1=prediction(p, df$y)&#62; L=performance(pred1, "tpr", "fpr")&#62; auc=performance(pred1, "auc")@y.values[[1]]&#62; auc[1] 0.7681191(c'est en fait la même valeur qu'auparavant, ce qui a du sens puisque la courbe ROC est identique)&#62; lines(unlist(L@x.values),unlist(L@y.values),+ type="s",col="red")Autrement dit, ces outils, classiquement utilisés pour juger la qualité d'un classifieur, ne permettent en aucun cas de dire que la probabilité prédite a du sens. Ces critères permettent juste de dire qu'on identifie assez bien les personnes qui ont le plus de chance d'avoir la réponse 1. Ce qui n'est pas si mal... mais c'est un autre problème que celui d'avoir une probabilité qui soit pertinente.