{"word_count": 1481, "character_count": 12167}
Lorsque j'étais petit (il y a fort longtemps, à une époque où je regardais pas mal la télévision) il y avait une publicité pour les pastilles kiss cool,Et quand je présente la régression multiple à mes étudiants, je ne peux m'empêcher d'y penser... Mais avant d'aller plus loin sur le parallèle, faisons un peu de mathématiques.Les techniques de régression permettent d'avoir des jolis théorèmes, souvent d'une portée incroyablement générale (moyennant quelques petites hypothèses techniques). Par exemple le théorème de Frisch-Waugh, en régression multiple, dont j'ai déjà parlé dans des vieux billets. Un des corolaires est que lorsque les variables explicatives dans un modèle de régression sont orthogonales, la régression multiple correspond à une collection de régressions simples (autrement dit, les estimateurs par moindres carrés coïncident). Formellement, si on considère le modèle[latex display="true"]y_i=\beta_0+\beta_1x_{1,i}+\beta_2x_{2,i}+\varepsilon_i[/latex](avec les hypothèses usuelles des modèles de régression) alors, si les variables [latex]x_1[/latex] et [latex]x_2[/latex] sont non-corrélées, [latex]\widehat{\beta}_1[/latex] coïncide avec [latex]\widehat{b}_1[/latex] dans le modèle[latex display="true"]y_i=b_0+b_1x_{1,i}+\eta_i[/latex]On peut faire une petite simulation pour confirmer (sinon, bien entendu, on peut regarder la démonstration qui se trouve dans tous les livres d'économétrie, qui est d'ailleurs un simple résultat d'algèbre linéaire, ou de géométrie, avec des projections successives sur des sous-espaces orthogonaux - même si c'est à Michael Lovell que l'on doit l'approche géométrique).library(mnormt)r = 0S = matrix(c(1,r,r,1),2,2)n = 1000set.seed(1)X = rmnorm(n,c(0,0),S)E = rnorm(n,0,.3)Y = 2+X[,1]-2*X[,2]+Ebase = data.frame(Y=Y-mean(Y),X1=X[,1]-mean(X[,1]),X2=X[,2]-mean(X[,2]))Petite note technique: je vais centrer les variables, histoire de ne pas avoir à garder la constante dans mon modèle (qui va compliquer les notations, et potentiellement embrouiller un peu le billet). La constante est nulle ici, on le voit,reg = lm(Y~X1+X2,data=base)summary(reg)Coefficients:              Estimate Std. Error t value  Pr(|t|)    (Intercept)  7.449e-18  9.777e-03     0.0        1    X1           1.012e+00  9.171e-03   110.3    2e-16 ***X2          -1.988e+00  9.719e-03  -204.6    2e-16 ***Bref, je régresse sans constantereg = lm(Y~0+X1+X2,data=base)summary(reg)Coefficients:    Estimate Std. Error t value  Pr(|t|)    X1  1.011520   0.009166   110.3   2e-16 ***X2 -1.988321   0.009714  -204.7   2e-16 ***Maintenant, on va regarder les deux régressions simplereg1 = lm(Y~0+X1,data=base)summary(reg1)Coefficients:   Estimate Std. Error t value Pr(|t|)    X1  1.01300    0.06006   16.86   2e-16 ***quand on régresse juste sur la première variable, et pour la seconde, on obtientreg2 = lm(Y~0+X2,data=base)summary(reg2)Coefficients:   Estimate Std. Error t value Pr(|t|)    X2 -1.98916    0.03528  -56.39   2e-16 ***Autrement dit, nos estimateurs sont très proches (si on avait laissé la constante, ils coïncideraient).Maintenant, le gros soucis est que ce résultat n'est plus valide lorsque les variables explicatives sont corrélées. Le théorème de Frisch-Waugh nous explique comment ces estimateurs divergent, mais le point ici est que si les variables sont corrélées, utiliser les régressions simples donne deux estimateurs biaisés des vrais paramètres (du modèle multiple). Recommençons l'exercice précédantr=.9S=matrix(c(1,r,r,1),2,2)set.seed(1)X=rmnorm(n,c(0,0),S)Y = 2+X[,1]-2*X[,2]+Ebase = data.frame(Y=Y-mean(Y),X1=X[,1]-mean(X[,1]),X2=X[,2]-mean(X[,2]))reg = lm(Y~X1+X2,data=base)summary(reg)reg = lm(Y~0+X1+X2,data=base)summary(reg)Coefficients:   Estimate Std. Error t value Pr(|t|)    X1  0.98740    0.02205   44.79   2e-16 ***X2 -1.97321    0.02229  -88.54   2e-16 ***(on retrouve des valeurs proches de celles utilisées pour simuler nos données, donc tout va bien). En revanche, pour les régressions simples, on obtientreg1 = lm(Y~0+X1,data=base)summary(reg1)Coefficients:   Estimate Std. Error t value Pr(|t|)    X1 -0.78784    0.02726   -28.9   2e-16 ***etreg2 = lm(Y~0+X2,data=base)summary(reg2)Coefficients:   Estimate Std. Error t value Pr(|t|)    X2 -1.06543    0.01607  -66.31   2e-16 ***Autrement dit, [latex]\widehat{b}_1\neq \widehat{\beta}_1[/latex] (et pareil pour le second). Ce qui signifie que si on construit une prévision à partir de ce modèle, [latex]\widetilde{y}_i=\widehat{b}_1x_{1,i}+\widehat{b}_2x_{2,i}[/latex], on sera potentiellement très loin de la "bonne" prévision [latex]\widehat{y}_i=\widehat{\beta}_1x_{1,i}+\widehat{\beta}_2x_{2,i}[/latex] (qui sera sans biais, etc, je renvoie ici vers n'importe quel cours d'économétrie). On peut le voir sur un dessin,Yp=reg1$coefficients[1]*base$X1+reg2$coefficients[1]*base$X2plot(base$Y,predict(reg),ylim=range(Yp),col=rgb(0,0,1,.5),cex=.7,xlab="observé",ylab="prédit")abline(a=0,b=1,lty=2)points(base$Y,Yp,col=rgb(1,0,0,.5),cex=.7)abline(lm(predict(reg)~base$Y),col="blue")abline(lm(Yp~base$Y),col="red")En bleu, on a les prévisions avec le modèle linéaire multiple, et en rouge, en faisant deux régressions indépendantes... Si on regarde sur la droite, le modèle rouge sur-valorise, ou disons sur-estime largement, alors qu'il sous-valorise à gauche. La différence entre les deux droites s’interprète ici comme un biais. Sur le graphique ci-dessous, on peut visualiser la distribution des [latex]\widetilde{y}_i=\widehat{b}_1x_{1,i}+\widehat{b}_2x_{2,i}[/latex], en rouge, et les [latex]\widehat{y}_i=\widehat{\beta}_1x_{1,i}+\widehat{\beta}_2x_{2,i}[/latex] , en bleu. Cet excès de dispersion, de variance, qu'on observe sur les points rouges, j'interprète ça comme de la polarisationplot(density(Yp),col="red")lwd=2)lines(density(predict(reg)),col="blue",lwd=2)En fait, ce que raconte le théorème de Frisch-Waugh (et je renvoie à mon précédant billet pour plus de détails), c'est qu'on a le droit de faire plusieurs régressions, mais en cascade ! et surtout pas indépendamment : je peux expliquer [latex]y[/latex] avec la première variable [latex]x_1[/latex], et ensuite régresser le résidu (ce qu'on n'a pas pu expliquer) sur la seconde [latex]x_2[/latex]. Cette méthode donnera la même prévision que le modèle multiple.On peut aller un peu plus loin: on peut jouer sur la valeur de la corrélation, pour mesure l'écart entre les deux prévisions (ici je prévois pour une observation au hasard, la 78ème)comp=function(r){S=matrix(c(1,r,r,1),2,2)set.seed(1)X=rmnorm(n,c(0,0),S)Y = 2+X[,1]-2*X[,2]+Ebase = data.frame(Y=Y-mean(Y),X1=X[,1]-mean(X[,1]),X2=X[,2]-mean(X[,2]))reg = lm(Y~0+X1+X2,data=base)reg1 = lm(Y~0+X1,data=base)reg2 = lm(Y~0+X2,data=base)y1=predict(reg)y2=reg1$coefficients[1]*base$X1+reg2$coefficients[1]*base$X2c(y1[78],y2[78],(y2[78]-y1[78])/y1[78])}vR=seq(0,.98,by=.02)vc=Vectorize(comp)(vR)plot(vR,vc[3,]*100,ylab="Différence relative (%)",xlab="Corrélation",type="l")On prédit ici pour une observation avec un large [latex]y_i[/latex], ce qui correspondait à la partie de droite du graphique précédant (avec les points rouges et bleus).C'est ce que j'appelle le deuxième effet kiss-cool. Quand on est dans le premier cas, avec les variables indépendantes (corrélation nulle, c'est à dire à gauche sur ma figure), on explique ce qu'on peut avec la première variable, et on rajoute l'impact de la seconde. Et [latex]\widetilde{y}_i\sim\widehat{y}_i[/latex]. Le soucis ici est que je n'ai pas le droit de considérer deux modèles indépendants lors que les variables sont très corrélées. Une partie de l'explication fournie par la seconde variable était déjà inclue dans la première. Par exemple avec deux variables très (positivement) corrélées, la prévision qu'on obtient en ajoutant les deux effets estimés indépendamment avec deux régressions simple [latex]\widetilde{y}_i=\widehat{b}_1x_{1,i}+\widehat{b}_2x_{2,i}[/latex], on sur-estime de 50% à 70% la "vraie" prévision [latex]\widehat{y}_i=\widehat{\beta}_1x_{1,i}+\widehat{\beta}_2x_{2,i}[/latex].Tous les chercheurs savent savent ça... on parle ici de résultats du tout premier cours de modèles linéaires. Et malgré tout, en pratique, on continue à utiliser cette seconde méthode. Un exemple bien connu est celui de l'évaluation (des étudiants, des chercheurs, peu importe). Par exemple, quand on évalue un dossier de financement pour un chercheur, on nous demande de mettre un score pour les publications scientifiques (nombre, qualité, etc) pour l'encadrement d'étudiants (nombre, niveau, etc) pour la qualité de l’environnement (prestige du labo, etc) etcEt à la fin, on somme tout. Mais on le voit, ces variables sont très très corrélées: si vous êtes dans un labo prestigieux, vous attirez beaucoup de candidatures d'étudiants (et des bons), et avoir beaucoup d'étudiants va permettre d'avoir plus de publications (si on ajoute son nom comme co-auteur). Bref, on est typiquement dans un modèle à double (voire triple) effet kiss-cool. Quelqu'un dans un bon labo aura un bon score sur le troisième item, mais aussi un bon sur le nombre d'étudiants, et aussi sur les publications. Ajouter ces scores est stupide, car on a une spirale infernale (les bons sont sur-évalués, et les moins bon, sous-évalués), c'est ce que racontait mon premier dessin, avec les points rouges et bleus. C'est un effet clivant de polarisation forte.Si on voulait faire les choses proprement, ce que dit le le théorème de Frisch-Waugh, c'est que les scores devraient être attribués en corrigeant de la corrélation entre les variables on peut commencer par calculer un score pour la qualité de l’environnement (prestige du labo, etc) à environnement donné, calculer un score pour l'encadrement d'étudiants (nombre, niveau, etc) à environnement donné, et à encadrement d'étudiants donné, calculer un score pour les publications etcC'est comme la situation que je voyais en France, où on pouvait avoir une variable qui tenait compte d'un prestige du chercheur (par exemple, être chercheur CNRS donnait un bonus) et une autre sur le dossier de publications. Sauf que les deux sont corrélés. Et la plupart des classements d'universités sont construits à partir de scores qui sont loin d'être indépendants.Bref, tant que l'évaluation se fera en sommant des scores qui sont construits sur des critères souvent très corrélés, on polarise fortement la population.Est-ce gênant? A priori oui. Car le message que cela envoie est qu'il existe deux classes, les bons, et les mauvais, alors qu'en réalité, le niveau est beaucoup plus homogène qu'il n'y paraît.  Un petit effet positif se retrouve démultiplié par le fait qu'il va se répercuter (positivement) sur plein d'autres variables. C'est mon effet kiss-cool. Mais on pourrait se dire que c'est un problème de distribution des notes finales. Si l'ordre est préservé, on pourrait se dire que ce n'est pas très grave. Malheureusement, ce n'est pas le cas.Si on quitte un instant le cas de la corrélation très forte, les rangs des prédictions (c'est à dire les rangs des chercheurs une fois donnés les notes [latex]\widehat{y}_i[/latex] ou [latex]\widetilde{y}_i[/latex] ) sont moins corrélés si la corrélation sous-jacente est importante (mais pas trop)comp=function(r){S=matrix(c(1,r,r,1),2,2)set.seed(1)X=rmnorm(n,c(0,0),S)Y = 2+X[,1]-2*X[,2]+Ebase = data.frame(Y=Y-mean(Y),X1=X[,1]-mean(X[,1]),X2=X[,2]-mean(X[,2]))reg = lm(Y~0+X1+X2,data=base)reg1 = lm(Y~0+X1,data=base)reg2 = lm(Y~0+X2,data=base)y1=predict(reg)y2=reg1$coefficients[1]*base$X1+reg2$coefficients[1]*base$X2cor(y1,y2,method="spearman")}vR=seq(0,.98,by=.02)vc=Vectorize(comp)(vR)plot(vR,vc,ylab="Corrélation de rangs",xlab="Corrélation",type="l")Autrement dit, si les variables [latex]x_1[/latex] et [latex]x_2[/latex] sont très peu corrélées, on a les mêmes rangs  (globalement). En revanche, si la corrélation entre les variables [latex]x_1[/latex] et [latex]x_2[/latex] augmente, le rang des [latex]\widetilde{y}_i[/latex] est de moins en moins cohérent avec celui entre les [latex]\widehat{y}_i[/latex]  (qui devrait être celui que l'on recherche).Bref, il serait temps de comprendre enfin sérieusement les conséquences de ce joli papier, publié il y a presque 90 ans