{"word_count": 654, "character_count": 7697}
De manière un peu rituelle, je commence toujours mon cours de régression en revenant sur un point important de la statistique : les abus de notation !  Car tout le monde utilise les mêmes lettres (surtout les grecques) pour désigner des objets de nature différente. Dans la majorité des livres, on pourra nous dire sur la même page que [latex]\widehat{\theta}=2.35[/latex] et que [latex]\text{Var}(\widehat{\theta})=1.07[/latex], autrement dit [latex]\widehat{\theta}[/latex] peut désigner en même temps un nombre (dans le premier cas) et une variable aléatoire (dans le second). C'est pour le moins déroutant ! En fait, la raison est assez simple. La statistique commence toujours par un échantillon [latex]\{y_1,y_2,\cdots,y_n\}[/latex], des données, des chiffres. Si on reste là, on fait du descriptif. L'étape classique est ensuite de supposer que les observations [latex]y_i[/latex] sont des réalisations de variables aléatoires [latex]Y_i[/latex], qu'on supposera bien souvent indépendantes et identiquement distribuées. Et [latex]\widehat{\theta}[/latex] sera alors une statistique, c'est à dire une fonction de mes observations. Je peux alors définir [latex]\widehat{\theta}=t(y_1,\cdots,y_n)[/latex] comme étant la statistique observée sur mon échantillon, mais je peux aussi considérer [latex]\widehat{\theta}=t(Y_1,\cdots,Y_n)[/latex], qui est alors une variable aléatoire, mais avec la même notation. Si on voulait aider à comprendre, on utiliserait [latex]\widehat{\Theta}[/latex], mais bon, les choses sont ce qu'elles sont... Et en économétrie, ça devient rapidement un cauchemar quand on commence à parler des résidus... Autre particularité en statistique, c'est que si on distingue l'espérance et la moyenne (empirique), on a un seul mot pour parler de la variance, que ce soit pour une variable aléatoire, ou un vecteur de [latex]\mathbb{R}^n[/latex]. On aura ainsi [latex display="true"]\mathbb{E}[Y]=\int y dF(y)[/latex]et[latex display="true"]\overline{y}=\widehat{\mathbb{E}}[\boldsymbol{y}]=\frac{1}{n}\sum_{i=1} y_i[/latex]alors que[latex display="true"]\text{Var}[Y]=\int [y-\mathbb{E}[Y]]^2 dF(y)[/latex]et[latex display="true"]\widehat{\text{Var}}[\boldsymbol{y}]=\frac{1}{n}\sum_{i=1} (y_i-\overline{y})^2[/latex]Considérons un problème de régression maintenant, avec un modèle de la forme [latex]y_i=\boldsymbol{x}_i^\top\boldsymbol{\beta}+\varepsilon_i[/latex]. Ici, [latex]\varepsilon_i[/latex] est un nombre réel, inconnu. Dans une écriture matricielle, on a [latex]\boldsymbol{y}=\boldsymbol{X}\boldsymbol{\beta}+\boldsymbol{\varepsilon}[/latex], où cette fois [latex]\boldsymbol{\varepsilon}[/latex] est un vecteur de [latex]\mathbb{R}^n[/latex] (et oui, je suis désolé mais ici [latex] \boldsymbol{X}[/latex] désigne la matrice des covariates, et non pas un vecteur aléatoire... je ferais un billet un jour pour parler du fait que parfois on dit que les [latex] \boldsymbol{x}[/latex] sont donnés et des fois - comme on conditionne suivant [latex] \boldsymbol{X}[/latex], autrement dit, on les voit comme aléatoires). On peut parfois faire une hypothèse quant à la distribution des résidus. Autrement dit, les [latex]\varepsilon_i[/latex] sont vues comme des réalisations de variables aléatoires [latex]\varepsilon_i[/latex], ainsi que [latex]\boldsymbol{\varepsilon}[/latex]. On notera ainsi [latex]\boldsymbol{\varepsilon}\sim\mathcal{N}(\boldsymbol{0},\boldsymbol{\Sigma})[/latex]. Ah oui, autre point juste pour perdre les élèves : [latex]\text{Var}(\boldsymbol{\varepsilon})=\boldsymbol{\Sigma}[/latex] alors que [latex]\text{Var}(\varepsilon_i)=\sigma^2[/latex]... Bon, ici comme on suppose les observations indépendentes, et identiquement distribuées, on supposera que [latex]\text{Var}(\boldsymbol{\varepsilon})=\boldsymbol{\Sigma}=\sigma^2\mathbb{I}[/latex].Encore une fois, [latex]\boldsymbol{\varepsilon}[/latex] est (par définition) non observable. Par contre, on peut estimer ces résidus : à partir d'un estimateur [latex]\widehat{\boldsymbol{\beta}}[/latex] de [latex]\boldsymbol{\beta}[/latex], on peut définir [latex display="true"]\widehat{\boldsymbol{\varepsilon}}=\boldsymbol{y}-\widehat{\boldsymbol{y}}=\boldsymbol{y}-\boldsymbol{x}^\top\widehat{\boldsymbol{\beta}}[/latex]Histoire de clarifier, je vais plutôt noter  [latex]\widehat{\boldsymbol{e}}[/latex] ces résidus estimés, en utilisant l'estimateur par moindres carrés de [latex]\boldsymbol{\beta}[/latex]. On peut noter que [latex]\widehat{\boldsymbol{e}}=(\mathbb{I}-\boldsymbol{H})\boldsymbol{y}[/latex] où classiquement [latex]\boldsymbol{H}=\boldsymbol{X}(\boldsymbol{X}^\top\boldsymbol{X})^{-1}\boldsymbol{X}^\top[/latex] est la matrice de projection sur l'espace engendré par toutes les combinaisons linéaires des variables explicatives. Mais là encore, on peut voir le vecteur (numérique) [latex]\widehat{\boldsymbol{e}}[/latex] comme la réalisation d'une variable aléatoire [latex]\widehat{\boldsymbol{E}}[/latex]. En particulier, [latex display="true"]\widehat{\boldsymbol{E}}=(\mathbb{I}-\boldsymbol{H})\boldsymbol{Y}=(\mathbb{I}-\boldsymbol{H})\boldsymbol{\varepsilon}[/latex]où [latex]\boldsymbol{\varepsilon}[/latex] est notre vecteur aléatoire, centré, de matrice de variance-covariance [latex]\text{Var}(\boldsymbol{\varepsilon})=\sigma^2\mathbb{I}[/latex]. On peut alors en déduire que[latex display="true"]\mathbb{E}[\widehat{\boldsymbol{E}}]=(\mathbb{I}-\boldsymbol{H})\mathbb{E}[\boldsymbol{\varepsilon}]=\boldsymbol{0}[/latex]et[latex display="true"]\text{Var}[\widehat{\boldsymbol{E}}]=(\mathbb{I}-\boldsymbol{H})\text{Var}[\boldsymbol{\varepsilon}](\mathbb{I}-\boldsymbol{H})^\top=\sigma^2(\mathbb{I}-\boldsymbol{H})[/latex](car [latex](\mathbb{I}-\boldsymbol{H})[/latex] est idenpotent). Cette dernière relation est particulièrement importante, car on notera que [latex]\text{Var}(\widehat{\boldsymbol{E}})\neq\sigma^2\mathbb{I}[/latex]. En particulier, si on prend un résidu estimé au hasard [latex]\text{Var}(\widehat{E}_i)=\sigma^2(1-\boldsymbol{H}_{i,i})[/latex] (on avait parlé longuement de [latex]\boldsymbol{H}_{i,i}[/latex] dans un billet récent, on leverage, en particulier on avait vu que [latex]\boldsymbol{H}_{i,i}\in[0,1][/latex] (on avait discuté la borne inférieur, qui peut être améliorée, en fait [latex]\boldsymbol{H}_{i,i}\in(0,1][/latex]) de telle sorte que [latex]\text{Var}(\widehat{E}_i)\leq\sigma^2[/latex]. Si on poursuit un peu, on peut regarder la somme des carrés estimés, et noter que[latex display="true"]\mathbb{E}\big[\sum_{i=1}^n \widehat{E}_i^2\big]=\mathbb{E}[\text{trace}( \widehat{\boldsymbol{E}}\widehat{\boldsymbol{E}}^\top)] =\text{trace}(\mathbb{E}[\text{trace}( \widehat{\boldsymbol{E}}\widehat{\boldsymbol{E}}^\top])[/latex]i.e.[latex display="true"]\mathbb{E}\big[\sum_{i=1}^n \widehat{E}_i^2\big]=\sigma^2\text{trace}(\mathbb{I}-\boldsymbol{H})[/latex]or [latex]\text{trace}(\mathbb{I}-\boldsymbol{H})=n-p[/latex] donc[latex display="true"]\widehat{\sigma}^2=\frac{1}{n-p}\sum_{i=1}^n \widehat{E}_i^2[/latex]est un estimateur sans biais de [latex]\sigma^2[/latex]. Et classiquement, on considèrera les résidus Studentisés[latex display="true"]\widehat{R}_i=\frac{\widehat{E}_i}{\widehat{\sigma}\sqrt{1-\boldsymbol{H}_{i,i}}}[/latex]Si je voulais résumer un peu, on pourrait dire que[latex display="true"]\text{Var}(\boldsymbol{E})=\sigma^2\mathbb{I}[/latex][latex display="true"]\widehat{\text{Var}}(\boldsymbol{E})=\widehat{\sigma}^2\mathbb{I}[/latex][latex display="true"]\text{Var}(\widehat{\boldsymbol{E}})=\sigma^2(\mathbb{I}-\boldsymbol{H})[/latex][latex display="true"]\widehat{\text{Var}}(\widehat{\boldsymbol{E}})=\widehat{\sigma}^2(\mathbb{I}-\boldsymbol{H})[/latex]En espérant que ça clarifie un peu...(?)