{"word_count": 536, "character_count": 3980}
Vendredi, nous devrions aborder un peu la problématique des tests asymptotiques. Avant, rappelons que l'estimateur du maximum de vraisemblance de  vérifie la propriété asymptotique suivante.Or on a une propriété intéressante sur les convergences de vecteurs Gaussiens (pour rester assez général). Soit  une suite de vecteurs aléatoires telle que  où . Alorsoù  (pour un paramètre univarié, ça sera alors ). Mais ce résultat n'est intéressant que si  est connue. En fait, si on a la suite des variances vérifie , alorsTraduit sur notre estimateur du maximum de vraisemblance, cela signifie queou encoreTrois tests peut alors être mis en œuvre (et tant qu'à faire, on peut essayer de l'illustrer sur un exemple: encore et toujours du pile/face).&#62; set.seed(1)&#62; n=20&#62; X=sample(0:1,size=n,replace=TRUE)&#62; p=seq(0,1,by=.01)&#62; logL=function(p){sum(log(dbinom(X,size=1,prob=p)))}&#62; LL=sapply(p,logL)&#62; plot(p,LL,type="l",col="red",lwd=2)&#62; p0=.5&#62; points(p0,logL(p0),pch=3,cex=1.5,lwd=2)&#62; abline(v=p0,lty=2)On a alors 20 tirages de pile ou face, on a obtenu 11 piles, et on se demande si la pièce est "juste".Mais avant toute chose, commençons par calculer l'estimateur du maximum de vraisemblance, ainsi que le score et l'information de Fisher. Dans ce modèle de variables de Bernoulli, on connaît des formes explicites de ces quantités. Mais ici, on va utiliser la méthode la plus générale qui soit, i.e. on va maximiser la log-vraisemblance, puis on va calculer le score et l'information de Fisher à la valeur de  que l'on souhaite tester.&#62; neglogL=function(p){-sum(log(dbinom(X,size=1,prob=p)))}&#62; pml=optim(fn=neglogL,par=p0,method="BFGS")$parWarning messages:1: In dbinom(x, size, prob, log) : NaNs produced2: In dbinom(x, size, prob, log) : NaNs produced&#62; nx=sum(X==1)&#62; f = expression(nx*log(p)+(n-nx)*log(1-p))&#62; Df = D(f, "p")&#62; Df2 = D(Df, "p")&#62; p=p0&#62; score=eval(Df)&#62; (IF=-eval(Df2))[1] 80&#62; 1/(p0*(1-p0)/n)[1] 80On note que l'information de Fisher calculée par double différenciation de la log-vraisemblance est identique à la formule analytique. Pour rappels, on aTrois tests (équivalent asymptotiquement comme on le verra en cours) sont alors possibles.Tout d'abord le test de Wald propose de travailler sur la différence entre l'estimateur du maximum de vraisemblance, et la valeur que l'on cherche à tester (comme le montre le dessin ci-dessous). Cette différence doit être "petite" si  est la vraie valeur.On peut alors utiliser la statistique suivanteAsymptotiquement, en utilisant le résultat évoqué au début, cette statistique tend, sous l'hypothèse que  est la vraie valeur, vers une loi du chi-deux.&#62; alpha=0.05&#62; (T=(pml-p0)^2*IF)[1] 0.1999970&#62; T&#60;qchisq(1-alpha,df=1)[1] TRUEIci, on accepte l'hypothèse que la pièce n'est pas pipée.Ensuite le test du rapport de vraisemblance propose de travailler sur les valeurs de la log-vraisemblance. Là encore, cette différence doit être "petite" si  est la vraie valeur. Graphiquement, on mesure une distance normaliséeLa statistique est celle d'un test bilatéral,On pose alors(le 2 sera détaillé un peu en cours, c'est mis là de manière à avoir trois tests équivalents). Asymptotiquement, on peut montrer que cette statistique tend, sous l'hypothèse que  est la vraie valeur, vers une loi du chi-deux.&#62; (T=2*(logL(pml)-logL(p0)))[1] 0.2003347&#62; T&#60;qchisq(1-alpha,df=1)[1] TRUELà encore, on accepte l'hypothèse que la pièce n'est pas pipée.Enfin, le test du score propose de travailler sur la pente de la log-vraisemblance en  . Cette pente doit être "petite" si  est la vraie valeur.La pente correspond au score,La statistique de test est alors iciEt là encore, asymptotiquement, on peut montrer que cette statistique tend, sous l'hypothèse que  est la vraie valeur, vers une loi du chi-deux.&#62; (T=slope^2/IF)[1] 0.2&#62; T&#60;qchisq(1-alpha,df=1)[1] TRUEEt le test accepte ici encore l'hypothèse que la pièce n'est pas pipée.