{"word_count": 384, "character_count": 3169}
Juste avant les vacances, Jean-Pierre Liégeois, un jeune lecteur du var, me demandais par courriel, "à partir d'une régression logistique (ou d'une matrice de confusion 2x2), comment programmer en R, un programme qui construit la courbe ROC associée". Avant d'aller plus loin (et de répondre a la question), je vais renvoyer vers un vieux billet sur les matrices de confusion. L’idée est que l'on suppose que l'on dispose d'un prédicteur d'une variable prenant des valeurs 0 et 1 (ou pour reprendre la terminologie classique "positif" et "négatif"), par exemple un modèle logistique. Formellement, pour l'ensemble de nos observations, on a une valeur observée  et (comme je l'expliquais dans un autre billet) et d'un score [latex]\widehat{S}[/latex]. Et c'est ce score qu'on va utiliser pour construire la courbe ROC. Ce score sera utilise pour prédire  . La règle d'affectation est alors simple: on se fixe un seuil , et si , alors  est "positif" si , alors  est "négatif"On peut alors construire une matrice dite de confusion, qui est simplement un table de contingence,valeur observée valeur prédite"positif""négatif""positif"TPFP"négatif"FNTNoù TP désigne les vrais positifs (true positive), TN les vrais négatifs (true negative),FP désigne les faux positifs (false positive) ou erreur de type I (dans une terminologie de théorie de la décision, ou de théorie des tests), et FN désigne les faux négatifs (false negative) ou erreur de type II.Quid de la mise en œuvre sous R ? Commençons par générer des données, et estimons un modèle de régression.set.seed(1)n=50X=rnorm(n)Y=rbinom(n,size=1,prob=exp(2*X-1)/(1+exp(2*X-1)))B=data.frame(Y,X)reg=glm(Y~X,family=binomial,data=B)S=predict(reg,type="response")On a maintenant notre observation (variable prenant les valeurs 0 ou 1) et notre score. On va ensuite pouvoir choisir plusieurs valeurs possible pour le seuil, et visualiser le taux de vrais positifs, en fonction du taux de faux positifs.plot(0:1,0:1,xlab="False Positive Rate",ylab="True Positive Rate",cex=.5)for(s in seq(0,1,by=.01)){Ps=(S&#62;s)*1FP=sum((Ps==1)*(Y==0))/sum(Y==0)TP=sum((Ps==1)*(Y==1))/sum(Y==1)points(FP,TP,cex=.5,col="red")}On a alors le graphique suivant,Si on relit les points, on a alors la courbe ROC,FP=TP=rep(NA,101)plot(0:1,0:1,xlab="False Positive Rate",ylab="True Positive Rate",cex=.5)for(s in seq(0,1,by=.01)){Ps=(S&#62;s)*1FP[1+s*100]=sum((Ps==1)*(Y==0))/sum(Y==0)TP[1+s*100]=sum((Ps==1)*(Y==1))/sum(Y==1)}lines(c(FP),c(TP),type="s",col="red")En fait, le code est assez simple, et il traîne dans différents packages de R, e.g.library(ROCR)pred=prediction(P,Y)perf=performance(pred,"tpr", "fpr")plot(perf,colorize = TRUE)On peut aussi s'amuser a bootstrapper l’échantillon pour construire des intervalles de confiance, ou ajuster des modèles théoriques,library(verification)roc.plot(Y,P, xlab = "False Positive Rate",ylab = "True Positive Rate", main = "", CI = TRUE,n.boot = 100, plot = "both", binormal = TRUE)ou encore (toujours avec des bornes de confiance obtenues par bootstrap)library(pROC)PROC=plot.roc(Y,P,main="", percent=TRUE,ci=TRUE)SE=ci.se(PROC,specificities=seq(0, 100, 5))plot(SE, type="shape", col="light blue")