Échantillons, statistiques empiriques et fluctuations

Un échantillon aléatoire est décrit avant observation par des variables $X_1,\ldots,X_n$. Après observation, vous obtenez des nombres $x_1,\ldots,x_n$. La moyenne empirique $\bar X_n=\frac1n\sum X_i$ est donc une variable aléatoire, tandis que la valeur calculée $\bar x$ est un nombre. Une loi d'échantillonnage décrit les valeurs que pourrait prendre une statistique si vous répétiez le prélèvement dans les mêmes conditions.

Supposons les $X_i$ indépendantes, de même loi, d'espérance $\mu$ et de variance finie $\sigma^2$. La moyenne empirique est centrée sur $\mu$ et sa variance vaut $\sigma^2/n$. Les moyennes fluctuent moins que les observations individuelles.

Deux variances descriptives sont courantes : $v_n=\frac1n\sum(x_i-\bar x)^2$ et la variance corrigée $s^2=\frac1{n-1}\sum(x_i-\bar x)^2$, pour $n\geq2$. Annoncez toujours la convention. Sous les hypothèses précédentes, $S^2$ est un estimateur sans biais de $\sigma^2$, contrairement à la version divisée par $n$.

Si la population est normale, $\bar X_n$ est exactement normale de variance $\sigma^2/n$. Sans normalité, le théorème central limite donne une convergence en loi de $\sqrt n(\bar X_n-\mu)/\sigma$ vers la normale centrée réduite, si $0<\sigma^2<\infty$. Il ne dit pas qu'un échantillon de taille quelconque est déjà normal. La vitesse et la qualité de l'approximation dépendent de la distribution.

Pour l'échantillon fictif $(2,4,4,6)$, $n=4$ et $\bar x=4$. Les écarts sont $-2,0,0,2$ ; la somme des carrés vaut $8$. La variance non corrigée vaut donc $8/4=2$, et la variance corrigée $8/3\simeq2{,}67$. Leurs unités sont le carré de l'unité des observations.

Dans une autre situation, la variance de population est connue et vaut $36$. Pour $n=9$ observations indépendantes, $\operatorname{Var}(\bar X_9)=36/9=4$ ; l'écart type de la moyenne vaut $2$. Avec $n=36$, la variance tombe à $1$ et l'écart type à $1$. Multiplier la taille par quatre divise l'écart type par deux, et non par quatre.

La figure compare, pour une population normale fictive d'espérance $10$ et d'écart type $6$, les lois exactes de la moyenne pour $n=1$, $9$ et $36$. Toutes sont centrées sur $10$, mais leurs écarts types sont $6$, $2$ et $1$. Les courbes sont des densités : une hauteur n'est pas une probabilité ponctuelle.

L'aire sous chaque courbe est égale à un. La courbe plus étroite est aussi plus haute, ce qui conserve cette aire ; cela traduit la concentration des moyennes près de l'espérance.