{"word_count": 3387, "character_count": 24953}
Suite à mon rapide billet sur l'article donnant les conclusions d'une étude des effets de la e-cigarette (et la comparaison avec le patch pour arrêter de fumer), j'avais entendu cette phrase "ça veut dire quoi 'statistiquement non significatif' ?". Comme c'est une très bonne question, qui plus est relativement complexe, j'ai pris un peu de temps pour y répondre... Il ne s'agit pas de complexité mathématique, en s'entend car tous les cours de statistique abordent cette notion, mais plus d'une notion complexe à vulgariser. On va revenir un peu sur l'histoire des tests de significativité et sur les travaux de Ronald Fisher (pour comprendre l'origine des 5% utilisé comme seuil lors de l'utilisation de la [latex]p[/latex]-value), mais il est possible d'aller voir directement les exemples. Un peu d'histoireSi on veut commencer par la préhistoire, les travaux les plus anciens qui posent la question de la significativité sont ceux de John Arbuthnot, en 1710. En prenant 82 années de données de natalité, à Londres, il avait observé que chacune des années, il y avait eu plus de naissances de garçons que de filles (évoqué dans Hacking (1975)).Il s'était demandé, avec la terminologie d'il y a plus de 300 ans, si cette différence pouvait être jugée comme 'statistiquement significative'. Je pense que l'on peut utiliser le terme 'statistiquement' car John Arbuthnot pose la question en termes probabilistes, très clairement,Un siècle plus tard, Pierre-Simon de Laplace a présenté ce que l'on peut interpréter comme un 'test de significativité', là encore avec notre terminologie actuelle. Il avait en effet noté, en prenant des mesures sur des baromètres que les observations à 9 heures du matin et 4 heures de l'après midi était différentes. Significativement différentes. Et là encore posé la question en terme probabiliste (que l'on verra formalisé bien plus tard), en se demandant s'il est 'extrêmement probable' qu'il y ait une différence entre les deux mesures. Il avait alors fait un test de comparaison des valeurs moyennes,  et noté que la différence excédait plusieurs écart-types, ce qu'il jugeait alors significativement important.  A la fin du XIXème siècle, Francis Edgeworth reprendra cette idée (sur la comparaison de moyennes) lorsqu'il écrira en 1885,où on retrouve les premières idées qui serviront de base aux travaux ultérieurs. Car pour bien comprendre l'origine de la notion de significativité en statistique, il faut relire les travaux de Ronald Fisher des années 20, mais aussi de Student (William Gosset) et Karl Pearson. Ronald Fisher s'interroge, dans son papier de 1921, sur la valeur d'un coefficient de corrélation (c'est dans ce papier qu'il introduit formelle sa transformation avec une tangente hyperbolique [latex]z = {1 \over 2}\ln\left({1+r \over 1-r}\right) = \text{arctanh}(r)[/latex] pour faire un test de nullité d'un coefficient de corrélation), où il noteAussi, dans le papier, une valeur (ici une corrélation) peut être jugée comme 'significative' (c'est à dire 'significativement non nulle'). Encore une fois, l'idée n'est pas nouvelle, Edgeworth aurait dit 'non accidentelle' mais Fisher pose ici la terminologie, en parlant de 'significativité'. L'année suivante, en 1922, il parle de l'idée de tester la significativité, dans le cadre d'un modele de régression (on est toujours dans le contexte de la corrélation) ou en 1924, on retrouve l'idée de tester la significativité, Mais c'est surtout dans son livre Statistical Methods for Research Workers que l'on va trouver une formalisation claire (et très illustrée) de cette idée, et surtout la connecter à la notion de [latex]p[/latex]-value (on ne peut pas parler de significatité sans parler de [latex]p[/latex]-value). Pour l'anecdote, dans l'ouvrage de Ronald Fisher, on y parle de [latex]p[/latex]-value (oui, avec une majuscule). Cela dit, la paternité de la [latex]p[/latex]-value est à attribuer davantage à Pearson, par exemple dans son papier datant de 1900,  ou encore, sur un autre exemple  avec en plus l'interprétation usuelle en terme de significativité (sans toutefois utiliser ce terme), puisque Pearson dit qu'on a 1 chance sur 8 d'avoir une valeur aussi improbable. Plus loin, il dit aussi qu'arriver avec 1 chance sur 70 peut être qualifier de très improbable (un long débat suivra sur le seuil à partir duquel, effectivement, un événement peut être qualifié d'improbable)  Mais revenons au livre de Ronald Fisher, et plus spécifiquement au chapitre 4, qui propose précisément d'étudier la 'significativité de la différence entre deux moyennes'On y retrouve le test de Pearson basé sur la statistique du chi-deux, comme test d'ajustement (goodness of fit) et d'indépendance.   et la comparaison de la [latex]p[/latex]-value avec (ce qui va correspondre aux mythiques) 5%. Il parle plus loin d'une 'ligne conventionnelle' que l'on tracera à 5%,  Il faut d’ailleurs un lien entre une [latex]p[/latex]-value à 5% (correspondant à un événement qui survient avec 1 chance sur 20) et le fait de s'éloigner de 2 écart-types de la moyenne pour une loi normale (qui survient avec 1 chances sur 22)  Tout au long du livre, on retrouve évoqué le chiffre mythique 5% qui restera à la postérité. Le plus intéressant pour apprendre comme juger la significativité d'une valeur, on peut regarder les exemples, comme l'exemple 11  l'exemple 12,  l'exemple 27,   ou encore l'exemple 32 (pour en prendre juste quelques uns)  (on retrouve l'utilisation de 2 écart-types pour une loi normale). La discussion amorcée dans ce livre sera poursuivie dans son papier de 1926, qui commence avec  Le papier est passionnant, car il pose les bases de ce que font tous les statisticiens depuis 80 ans (il n'est pas surprenant de voir cet article reproduit dans le second volume des Breakthroughs in Statistics),  où le seuil de 5% est encore utilisé. Il ne cesse tout au long de l'article de justifier cette règle de 'un sur vingt', tout en autorisant d'autres valeurs, comme 2%,  ou 10% (Fisher semble moins orthodoxe que certains utilisateurs de la notion de significativité)   Il faudra ensuite attendre les travaux de Jerzy Neyman et Egon Pearson. qui vont axiomatiser et formaliser les tests statistiques, mais ça dépasse (de loin) l'objectif de mon billet d'aujourd'hui. Donc on va repousser à plus tard la présentation de leurs apports. Pour illustrer tout ce qu'on vient de voir, considérons deux exemples simples. Petit exemple, tester l'indépendanceComme Ronald Fisher, commençons par ce qui me semble le plus simple car on n'a pas besoin de parler modèle probabiliste ici. On se demande si deux variables sont indépendantes, ou pas. Deux cas peuvent se présenter: on a des variables continues, et on veut voir si elles sont non-corrélées (oui, pour commencer on va simplifier, et dire que si elles sont non-corrélées... ça va se traduire par une notion que l'on peut assimiler - rapidement - à une notion d'indépendance. Promis, d'ici 6 mois il y aura des dizaines de billets sur le sujet sur le blog puisque je redonne mon cours sur la dépendance cet hiver). Je laisse les plus motivés jouer avec les données qui traînent sur le blog pour voir si la taille et le poids sont corrélées, ou utiliser un exemple que j'avais l'habitude de présenter dans mes cours de modèles de régression, où on se demande si - chez les femmes - le tour de poitrine et le tour de taille sont corrélés. on a des variables catégorielles, par exemple la couleur des yeux, et la couleur des cheveux. Et on se demande si les deux sont couleurs sont indépendantes, ou pas.Regardons ce dernier exemple, avec un petit jeu de 25 observations.&#62; X=c(rep("Brun",8+5),rep("Blond",9+3))&#62; Y=c(rep("Noisette",8),rep("Bleu",5),rep("Noisette",3),rep("Bleu",9))On peut résumer l'information dans un tableau de contingence,&#62; T=as.matrix(table(X,Y))&#62; T       YX       Bleu Noisette  Blond    9        3  Brun     5        8On va essayer de comparer ce tableau avec ce qu'on devait avoir si les deux variables étaient indépendantes (car c'est ce que l'on souhaite tester : on veut savoir si le tableau que l'on a est significativement différent de ce qu'on aurait avec des variables indépendantes). Il faut ici ressortir la définition de l'indépendance entre deux variables aléatoires, [latex]\mathbb{P}(X\in\mathcal A\text{ et }Y\in\mathcal B) = \mathbb{P}(X\in\mathcal A) \times\mathbb{P}(Y\in\mathcal B)[/latex] pour tout [latex]\mathcal A[/latex] et [latex]\mathcal B[/latex]. Par exemple [latex]\mathcal A[/latex] peut être avoir des cheveux blonds, et [latex]\mathcal B[/latex] avoir des yeux bleus. Pour rappel, on avait en tout 25 personnes ayant ces deux caractéristiques en même temps, donc empiriquement, on avait observé une probabilité de 9/25 soit 36% (c'est le terme de gauche). Pour le terme de droite, on notera que [latex]\mathbb{P}(X\in\mathcal A)[/latex], c'est la probabilité d'avoir les cheveux blonds. Empiriquement, on en avait 9+3 sur 25, soit 48%. Et [latex]\mathbb{P}(Y\in\mathcal B)[/latex] c'est la probabilité d'avoir les yeux bleus. Or on avait 9+5 personnes avec ces caractéristiques, soit 56%. Si les deux variables étaient indépendantes, avec la formule précédente, la probabilité d'avoir à la fois les cheveux blonds et les yeux bleus serait 48% x 56%, soit 26.88%. A comparer aux 36% observés. En fait, au lieu de comparer des pourcentages, on peut aussi comparer des nombres: comme il y a 25 personnes en tout, 26.88% signifie que dans notre groupe, 6.72 personnes devraient avoir les cheveux blonds et les yeux bleus. On peut s'amuser à faire ces calculs pour tous les [latex]\mathcal A[/latex] et [latex]\mathcal B[/latex].&#62; Tind=chisq.test(T)$expected&#62; Tind       YX       Bleu Noisette  Blond 6.72     5.28  Brun  7.28     5.72Visuellement, on peut mettre ça en forme,(sur le graphique de droite, les traits noirs correspondent aux nombres sous hypothèse d'indépendance, et en couleur, les valeurs observées). Bon, maintenant, il faut réfléchir un peu... On se demande si nos deux tableaux sont proches ou pas. Ou, pour utiliser notre mot de la journée, significativement proches. Alors là, ça va devenir technique le temps d'un rapide paragraphe. Dans chaque case du tableau, on compte des gens. Sur nos [latex]n[/latex] personnes, on peut s'attendre à en observer un nombre aléatoire, noté [latex]N_{\mathcal{A},\mathcal{B}}[/latex], qui suit une loi binomiale [latex]N_{\mathcal{A},\mathcal{B}}\sim\mathcal{B}(n,\mathbb{P}(X\in\mathcal A\text{ et }Y\in\mathcal B))[/latex] (c'est la définition de la loi binomiale). On notera que quand [latex]n[/latex] est grand, la loi normale est alors proche de la loi Gaussienne. Dans chaque case, on a des lois normales (non indépendantes, car les nombres sont contraints, par exemple au total, il faut [latex]n[/latex] personnes), et en prenant les carrés des lois normales (centrées et réduites), on va obtenir une loi du chi-deux (je renvoie vers un précédant billet pour les aspects techniques). Prendre le carré est intéressant, et naturel, car ça fait penser à une distance Euclidienne (usuelle). On va alors poser[latex display="true"]Q=\sum_{\mathcal{A},\mathcal{B}} \frac{[n_{\mathcal{A},\mathcal{B}}-n_{\mathcal{A},\mathcal{B}}^\perp]^2}{n_{\mathcal{A},\mathcal{B}}^\perp}[/latex][latex]n_{\mathcal{A},\mathcal{B}}[/latex] est le nombre de personnes observées, de caractéristiques (jointes) [latex]\mathcal A[/latex] et [latex]\mathcal B[/latex]. et [latex]n^\perp_{\mathcal{A},\mathcal{B}}[/latex] est ce qu'on aurait si les variables étaient indépendantes (calculé auparavant), soit[latex display="true"]n^\perp_{\mathcal{A},\mathcal{B}}=n\times \frac{n_{\mathcal{A}}}{n}\times \frac{n_{\mathcal{B}}}{n}[/latex]avec les notations naturelles. Ici,&#62; sum((T-Tind)^2/Tind)[1] 3.380994Bon... on en fait quoi maintenant de ce 3.38 ? C'est là qu'on utilise le petit résultat évoqué auparavant, qui nous dit que, si [latex]n[/latex] est grand, et que les variables sont effectivement indépendantes, alors [latex]Q[/latex] va suivre une loi du chi-deux (en l’occurrence à 1 degré de liberté, pour tenir compte des diverses contraintes). On va alors se demander s'il est possible, ou vraisemblable, d'avoir 3.38 avec une loi du chi-deux.&#62; pchisq(3.380994,df=1)[1] 0.9340477&#62; 1-pchisq(3.380994,df=1)[1] 0.06595227Aussi, une loi du chi-deux à un degré de liberté a 93.4% chances d'être inférieure à la valeur obtenue, ou encore[latex]\mathbb{P}(Q&#62;3.38) \approx 6.59\%[/latex] avec [latex]Q\sim \chi^2(1)[/latex]C'est cette grandeur que l'on appelle [latex]p[/latex]-value et que l'on va essayer de comparer au seuil désormais mythique de 5%, si cette probabilité est inférieure à 5%, on va rejeter l'hypothèse d'indépendance si cette probabilité est supérieure à 5%, on va retenir l'hypothèse d'indépendance (pour faire simple)&#62; chisq.test(T,correct=FALSE)Pearson's Chi-squared testdata:  TX-squared = 3.381, df = 1, p-value = 0.06595Les plus attentifs devraient me faire remarquer que c'est vaseux mon histoire : tout ce que je raconte est valide si [latex]n[/latex] est grand, et dire que 25 c'est grand... c'est limite ! Tout d'abord, je dirais que c'est ce qui est utilisé dans un paquet d'études en médecine (peut-être un peu plus, mais guère plus). Ensuite je dirais que, malheureusement, la plupart des résultats que l'on voit dans les cours de statistiques sont de ce genre, à savoir des résultats asymptotiques, valides seulement si [latex]n[/latex] est grand (c'est pareil en économie, ou des tests asymptotiques sont parfois évoqués avec 25 années d’observations). Mais heureusement, en s'accrochant un peu, on peut s'affranchir de cette hypothèse. A condition de faire un peu de bootstrap. En fait, l'idée est très très simple. On peut utiliser des générateurs de nombres aléatoires pour générer des tableaux de contingences pour lesquels les variables sont indépendantes. Car générer des variables aléatoires indépendantes, c'est ce qui est le plus simple. En fait, ici, on va se contenter de mélanger les variables,&#62; s=1&#62; set.seed(s)&#62; Xs=sample(X)&#62; Ys=sample(Y)En faisant une permutation, je m'assure d'avoir autant de personnes dont la couleur des cheveux est [latex]\mathcal A[/latex] que dans la population initiale (je ne fais que permuter) et de personnes dont la couleur des yeux est [latex]\mathcal B[/latex]. Par contre, comme je mélange indépendamment, je suis certain que les variables sont indépendantes,&#62; Ts=as.matrix(table(Xs,Ys))&#62; Ts       YsXs      Bleu Noisette  Blond    7        5  Brun     7        6Générer un tableau de contingence, c'est juste pour illustrer, car l'idée est de générer mille (ou plus encore) tableaux de contingence obtenus en simulant des variables indépendantes, et de voir ce que cette statistique du chi-deux donne&#62; Q=rep(NA,1000)&#62; for(s in 1:1000){+ set.seed(s)+ Xs=sample(X)+ Ys=sample(Y)+ Ts=as.matrix(table(Xs,Ys))+ Q[s]=sum((Ts-Tind)^2/Tind)}Si on regarde les valeurs obtenues&#62;  table(Q) Q0.0509906759906761  0.337162837162837   1.06560106560107   1.92411754911755                298                262                200                133   3.38099400599401   4.81185481185481    6.9971694971695   9.00037462537462                 60                 33                  9                  3   11.9141275391275    14.489676989677                  1                  1autrement dit, dans 29.8% des scénarios, on avait une distance (un statistique) valant 0.05, dans 26.2% des scénarios, on avait 0.33, et dans 20% des scénarios, on avait 1.06. Etc. Si on cumule on obtient&#62;  cumsum(table(Q))/100.0509906759906761  0.33162837162837   1.06560106560107    1.92411754911755 3.38099400599401    4.81185481185481    6.9971694971695     9.00037462537462 11.9141275391275     14.489676989677 Pour rappel, on avait eu&#62;  sum((T-Tind)^2/Tind) [1] 3.380994qui peut effectivement être obtenu avec des variables indépendantes. Mais seulement dans 6% des scénarios. En fait, dans 95.3% des scénarios, on a eu une valeur inférieure ou égale à celle obtenue sur notre échantillon. Et dans 4.7% des scénarios, on a strictement dépassé cette valeur. On pourrait parler de [latex]p[/latex]-value obtenue par bootstrap, ou rééchantillonage. On voit que l'on flirte ici avec le seuil des 5%... Visusellement, on a&#62; plot(c(0,as.numeric(names(table(Q)))),c(0,+ cumsum(table(Q))/10),type="s",xlab="",ylab="")&#62; abline(v=sum((T-Tind)^2/Tind),lty=2)&#62; lines(seq(0,15,by=.01),pchisq(seq(0,15,by=.01),1)*100,col="red")Ici, on est bien embêté pour conclure quoi que ce soit... Ce qui est amusant, c'est qu'avec un échantillon plus grand (trois fois plus grand par exemple), et les mêmes pourcentages, il n'y a plus aucune ambiguïté,&#62; T=T*3&#62; T       YX       Bleu Noisette  Blond   27        9  Brun    15       24&#62;  Tind=chisq.test(T)$expected&#62; Tind Y X Bleu Noisette Blond 20.16 15.84 Brun 21.84 17.16que l'on peut encore visualiser ci-dessous,Ici, on obtient une [latex]p[/latex]-value de l'ordre de 0.1%,&#62;  chisq.test(T,correct=FALSE)Pearson's Chi-squared testdata:  TX-squared = 10.143, df = 1, p-value = 0.001449On peut aussi faire du bootstrap si on trouve que 75 observations, c'est trop faible, mais la conclusion est la même, Petit exemple, sur la comparaison de moyenne de deux groupesCette fois, on a deux populations, et on se demande si les deux groupes sont 'comparables'. On peut penser à comparer le nombre de personnes guéries au sein de deux populations, une qui a eu un placebo, et l'autre un médicament. Cela dit, cet exemple simple est en fait compliqué car 'guérie' n'est peut-être pas une notion claire. Prenons plutôt des quantités que l'on peut mesurer. Disons la taille des gens, et demandons nous si dans un groupe, les gens sont significativement plus grands que dans l'autre. Je vais tricher un peu... je vais prendre deux populations que je sais être différentes, a priori. Un groupes d'hommes, et un groupes de femmes. On va noter [latex]\{x_1,\cdots,x_{n_X}\}[/latex] et [latex]\{y_1,\cdots,y_{n_Y}\}[/latex] ces deux échantillons, car il va falloir formaliser un minimum.&#62; Davis=read.table(+ "http://socserv.socsci.mcmaster.ca/jfox/Books/Applied-Regression-2E/datasets/Davis.txt")&#62; Davis[12,c(2,3)]=Davis[12,c(3,2)] &#62; Davis=Davis[order(Davis$height),]&#62; attach(Davis)&#62; set.seed(1)&#62; X=sample(height[sex=="F"],size=6)&#62; Y=sample(height[sex=="M"],size=5)On a ici 5 personnes dans le premier groupe et 6 personnes dans le second. Et on se demande si les tailles sont significativement différentes entre les deux groupes,&#62; (mx=mean(X))[1] 165.5&#62; (sx=sd(X))[1] 4.679744&#62; (my=mean(Y))[1] 178&#62; (sy=sd(Y))[1] 7.968689On veut savoir si l'écart entre 165,5 cm et 178 cm est significativement différent de zéro (on pourrait aussi se demander s'il est significativement positif, mais ça serait une autre histoire). On va faire une hypothèse ici : on va supposer que nos échantillons sont obtenus comme des tirages de variables aléatoires, indépendantes, [latex]x_i=X_i(\omega)[/latex] et [latex]y_j=Y_j(\omega)[/latex]. Le modèle qu'on va supposer est que la taille des gens suit une loi normale, conditionnellement à leur sexe,[latex display="true"]\left\{\begin{array}{l}X_i\sim\mathcal{N}(\mu_X,\sigma_X^2) \\Y_j\sim\mathcal{N}(\mu_Y,\sigma_Y^2)\end{array}\right.[/latex]Si on veut visualiser nos données, on peu utiliser&#62; u=seq(150,200,by=.25)&#62; v1=dnorm(u,mx,sx)&#62; v2=dnorm(u,my,sy)&#62; plot(u,v1,col="red",type="l",ylim=c(0,.09),axes=FALSE)&#62; axis(1)&#62; lines(u,v2,col="blue")&#62; points(X,rep(.075,length(X)),col="red")&#62; points(Y,rep(.075,length(Y)),col="blue")&#62; abline(v=mx,lty=2,col="red")&#62; abline(v=my,lty=2,col="blue")&#160;Le plus simple aurait été de supposer que les deux lois ont la même variance, mais quand on regarde les densités sur le graphique ci-dessus, il faut rester crédible. Bref, on va utiliser le test de Welch. L'idée est d'utiliser un petit exercice de probabilité. Soient [latex]\{X_1,\cdots,X_{n_X}\}[/latex] et [latex]\{Y_1,\cdots,Y_{n_Y}\}[/latex] des variables aléatoires, Gaussiennes (comme supposé juste avant de faire un dessin) et indépendantes. Posons alors[latex display="true"]\overline{X}=\frac{1}{n_X}\sum_{i=1}^{n_X} X_i[/latex]et[latex display="true"]s_X=\frac{1}{n_X-1}\sum_{i=1}^{n_X} [X_i-\overline{X}]^2[/latex](avec les quantités similaires pour le second échantillon) alors si [latex]\mu_X=\mu_Y[/latex], et si on note[latex display="true"]s = \sqrt{{s_X^2 \over n_X} + {s_Y^2 \over n_Y}}.[/latex]la variable aléatoire[latex display="true"]T = {\overline{X} - \overline{Y} \over s[latex]va suivre une loi de Student (connue depuis les travaux de William Gosset), avec[latex display="true"]\frac{(s_X^2/n_X + s_Y^2/n_Y)^2}{(s_X^2/n_X)^2/(n_X-1) + (s_Y^2/n_Y)^2/(n_Y-1)}[/latex]degrés de liberté. On notera qu'il ne s'agit pas ici d'un résultat asymptotique. Par contre, il repose intégralement sur une hypothèse - forte - de normalité des tailles des individus. L'idée est alors la même qu'auparavant : on va calculer cette statistique sur notre échantillon,&#62; nx=length(X)&#62; ny=length(Y)&#62; s=sqrt(sx^2/nx+sy^2/ny)&#62; T=(mx-my)/s&#62; T[1] -3.091371et se demander s'il est vraisemblable d'avoir une telle valeur avec une loi de Student. Le nombre de degrés de liberté est ici&#62; d=(sx^2/nx+sy^2/ny)^2/((sx^2/nx)^2/(nx-1)+(sy^2/ny)^2/(ny-1))&#62; d[1] 6.218682On pourrait alors calculer[latex]\mathbb{P}(T&#62;t)[/latex] où [latex]T\sim\mathcal{S}td(d)[/latex]mais ça serait un test pour savoir si la différence est significativement positive, ce qui n'est pas ce qu'on avait dit que l'on cherchait : on veut ici significativement non-nulle.[latex]\mathbb{P}(\vert T\vert&#62; \vert t\vert)[/latex] où [latex]T\sim\mathcal{S}td(d)[/latex]Si on veut visualiser un peu tout ça, on peut utiliser&#62; u=seq(-4,4,by=.01)&#62; v=dt(u,df=d)&#62; plot(u,v,type="l")&#62; abline(v=T,col="red")&#62; u=seq(-4,T,length=100)&#62; polygon(c(u,rev(u)),c(dt(u,df=d),rep(0,100)),col="red",border=NA)Pour calculer ces probabilités, on utilise&#62; pt(T,d)+(1-pt(-T,d))[1] 0.02038577et comme la loi de Student est symétrique par rapport à l’origine,&#62; pt(T,d)*2           [1] 0.02038577Aussi, la [latex]p[/latex]-value est de l'ordre de 2%, ce qui est suffisamment petit pour dire que, oui, nos moyennes sont différentes. C'est d'ailleurs ce que renvoie la commande&#62; t.test(X,Y)Welch Two Sample t-testdata:  X and Yt = -3.0914, df = 6.219, p-value = 0.02039alternative hypothesis: true difference in means is not equal to 095 percent confidence interval: -22.31039  -2.68961sample estimates:mean of x mean of y     165.5     178.0On avait vu tout à l'heure que l'idée de la valeur de 5% était liée au scénario qui se répète avec 1 chance sur 20 : si on pouvait générer d'autres échantillons, indépendants, alors 1 fois sur 20 on devrait atteindre une statistique de test de l'ordre de celle observée. Pour générer des échantillons vraiment indépendants, on avait utilisé du bootstrap, en rééchantillonnant dans notre population de test. Ici, on a bien plus que nos 11 observations, on en a en réalité 200. On peut se demande ce qui se serait passé si on avait constitué d'autres échantillons,&#62; Diff=rep(NA,1000)&#62; for(s in 1:1000){+ set.seed(s)+ X=sample(height[sex=="F"],size=6)+ Y=sample(height[sex=="M"],size=5) + Diff[s]=(mean(X)-mean(Y))/(sqrt(sd(X)^2/nx+sd(Y)^2/ny))}&#62; hist(Diff,col="light blue",border="white")Sur aucun échantillon, la moyenne du premier groupe n'a dépassé la moyenne du second. Alors qu'on aurait pu penser en avoir une vingtaine (2% des mille scénarios générés). Ceci vient peut-être du fait que l'hypothèse de normalité pour les tailles peut être trop restrictive... Pour aller plus loinLe billet aura été un peu long, mais on aura eu le temps de voir en détails d'où vient cette notion de significativité statistique, et ses liens avec la [latex]p[/latex]-value. On aura même eu le temps de voir sur deux exemples l'importance des hypothèses sous-jacentes, en particulier si le test est asymptotique, ou s'il repose sur des hypothèses fortes de lois. Mais ce n'était qu'une courte mise en bouche. Pour aller plus loin, je suggère la lecture de Berkson, J. (1942). Tests of significance considered as evidence, Hoover, K.D. &#38; Siegle, M.V. (2008) Sound and fury: McCloskey and significance testing in economics, Liberman, M. (2013). "Significance", in 1885 and today et le passionnant Hall, P. and Selinger, B. (1986). Statistical significance: balancing evidence against doubt. Et sur les [latex]p[/latex]-value, Goodman, S. (2002) A Dirty Dozen:Twelve P-Value Misconceptions. Je devrais aussi citer Ziliak, S. &#38; McCloskey, D. (2008). The cult of statistical significance, mais je ne l'ai pas encore lu. Par contre, Xi'an en parlait sur son blog. Et si j'étais courageux, je tenterais une lecture bayésienne de ce billet.... promis, dès que je trouve un peu de temps !