{"word_count": 443, "character_count": 4776}
Le statisticien et économiste Alfred Sauvy est resté dans les mémoires pour avoir inventé en 1952 le terme "tiers-monde". Mais on lui a aussi attribué la paternité de la phrase suivante « dans toute statistique, l’inexactitude du nombre est compensée par la précision des décimales ». J'ai du l'entendre alors que j’étais étudiant, et depuis, elle me suit partout.J'y repensais l'autre jour, quand Mathieu Gallard mentionnait sur Twitter le graphique suivant (correspondant a la popularité du président de la république, en France, dans les 18 mois qui suivent l’élection).Le tweet disait (entre autres) "@EmmanuelMacron est à ce stade de son quinquennat légèrement moins populaire que @fhollande". Pour rappel, ces courbes "de popularité" sont construites par un sondage, avec a chaque fois environ 1000 personnes interrogées ("sur la taille de l'échantillon on est toujours entre 950 et 970 interviews" me disait Mathieu). Bon, tous ceux qui ont des souvenirs de cours de stats se souviennent qu'avec 1000 personnes interrogées, 2 points de différence, c'est rarement significatif. Mais plus globalement, compte tenu de la marge d'erreur, je me suis demande pourquoi les courbes n’étaient pas lissées ? Ça éviterait les discussions stériles pour une variation de 2 points par exemple..Si on reprend les données brutes (merci Mathieu), on a icirate=read.csv2("http://freakonometrics.free.fr/satisfaction.csv")plot(rate[,2],type="b",ylim=c(.2,.75),xlim=c(0,20),pch=19)lines(rate[,3],type="b",col="red")lines(rate[,4],type="b",col="blue")lines(rate[,5],type="b",col="dark green")text(18.15,rate[17,2],"EM")text(18.15,rate[17,3],"FH",col="red")text(18.15,rate[17,4],"NS",col="blue")text(18.15,rate[17,5],"JC",col="dark green")ce qui donne le même que dans le tweet (même si je n'ose pas interpoler linéairement les valeurs manquantes - il y en a deux dans mon fichier)Prenons la courbe la plus récente, celle d'Emmanuel Macron (avec en plus les valeurs manquantes pour pimenter un peu) et rajoutons les intervalles de confiance ponctuels.plot(rate$EM,type="b",ylim=c(.2,.5))p=rate$EMn=length(p)arrows(1:n,p-2/sqrt(1000)*sqrt(p*(1-p)),1:n,p+2/sqrt(1000)*sqrt(p*(1-p)),code=3,angle=90,length=.1,col="blue")Personnellement, j'aurais bien voulu (1) lisser tout ça, (2) rajouter quelque chose qui s’apparente a des bandes de confiance. Mais avec des erreurs de mesure (c'est comme ça qu'on peut interpréter le fait que les points viennent d'un sondage), je ne sais pas trop quoi faire. J'ai tenté la méthode suivante : le tire au hasard des points dans l'intervalle de confiance, puis je lisse sur ce nouveau jeu de points. Et je répète mille foislibrary(mgcv)Y=matrix(NA,73,1000)for(s in 1:1000){  x=(1:n)[!is.na(p)]  pna=p[!is.na(p)]  ps=rnorm(length(x),pna,1/sqrt(1000)*sqrt(pna*(1-pna)))  b=data.frame(x=x,y=ps)  reg=gam(y~s(x),data=b)  yp=predict(reg,newdata=data.frame(x=seq(0,18,by=.25)))  Y[,s]=yp  if(s&#60;100) lines(seq(0,18,by=.25),yp,col="light blue")} lines(seq(0,18,by=.25),apply(Y,1,mean),col="red",lwd=2)lines(seq(0,18,by=.25),apply(Y,1,function(x) quantile(x,.95)),col="red",lty=2)lines(seq(0,18,by=.25),apply(Y,1,function(x) quantile(x,.05)),col="red",lty=2)On voit que notre courbe lissée est réaliste, voire même les pseudo-bandes de confiance autour. Pour obtenir ces trois courbes, on peut utiliser la fonction suivantecourbe=function(j=1){p=rate[,1+j]n=length(p)Y=matrix(NA,73,1000)for(s in 1:1000){  x=(1:n)[!is.na(p)]  pna=p[!is.na(p)]  ps=rnorm(length(x),pna,1/sqrt(1000)*sqrt(pna*(1-pna)))  b=data.frame(x=x,y=ps)  reg=gam(y~s(x),data=b)  yp=predict(reg,newdata=data.frame(x=seq(0,18,by=.25)))  Y[,s]=yp} data.frame(x=seq(0,18,by=.25),pred=apply(Y,1,mean),upr=apply(Y,1,function(x) quantile(x,.975)),lwr=apply(Y,1,function(x) quantile(x,.025)))}Sur les quatre colonnes de notre tableau, ça donneplot(rate[,2],type="b",ylim=c(0,.8),xlim=c(0,20),col="white")Y=courbe(4)polygon(c(Y$x,rev(Y$x)),c(Y$upr,rev(Y$lwr)),col=rgb(0,1,0,.4),border=NA)lines(Y$x,Y$pred,col="dark green",lwd=2)text(18.65,Y$pred[73],"JC",col="dark green")Y=courbe(3)polygon(c(Y$x,rev(Y$x)),c(Y$upr,rev(Y$lwr)),col=rgb(0,0,1,.4),border=NA)lines(Y$x,Y$pred,col="blue",lwd=2)text(18.65,Y$pred[73],"NS",col="blue")Y=courbe(2)polygon(c(Y$x,rev(Y$x)),c(Y$upr,rev(Y$lwr)),col=rgb(1,0,0,.4),border=NA)lines(Y$x,Y$pred,col="red",lwd=2)text(18.65,Y$pred[73],"FH",col="red")Y=courbe(1)polygon(c(Y$x,rev(Y$x)),c(Y$upr,rev(Y$lwr)),col="grey",border=NA)lines(Y$x,Y$pred,col="black",lwd=2)text(18.65,Y$pred[73],"EM",col="black")Pourquoi les instituts de sondages, qui produisent les courbes de popularité, ne montrent pas ce genre de courbes ? Elles sont - a mon avis - aussi justes que celles qu'ils fournissent, au centième près, jouant sur une précision que l'incertitude ne devrait pas autoriser...