Concentration, loi des grands nombres et TCL

Les théorèmes limites décrivent le comportement d'une suite de variables ou d'estimateurs. La loi des grands nombres donne une convergence vers l'espérance sous ses hypothèses ; le théorème central limite décrit une loi limite des fluctuations normalisées. Ces conclusions sont distinctes d'une borne de probabilité valable à taille finie.

Bienaymé-Tchebychev assure $P(|X-\mu|\ge\varepsilon)\le\sigma^2/\varepsilon^2$ pour une variable d'espérance $\mu$ et de variance finie $\sigma^2$, avec $\varepsilon>0$. Pour une moyenne de variables indépendantes de même espérance $\mu$ et de même variance finie, la borne devient $\sigma^2/(n\varepsilon^2)$. Elle démontre la convergence en probabilité de cette moyenne vers $\mu$, sans supposer la normalité ni que la borne est serrée.

Pour une moyenne de $n$ observations indépendantes de même espérance $\mu$ et de variance 4, on veut $P(|\bar X_n-\mu|\ge0{,}5)\le0{,}01$. Il suffit que $4/(n\times0{,}25)\le0{,}01$, donc $n\ge1600$. Cette taille est une condition suffisante issue de la borne, pas le minimum exact de la vraie probabilité. Une connaissance de la loi peut donner une borne plus fine.

Les trois lignes du tableau donnent la variance individuelle, la borne 16/n puis la taille suffisante 1600. La lettre n désigne un nombre entier d'observations ; une borne non entière demanderait d'arrondir vers le haut. La garantie concerne la moyenne autour de son espérance commune et suppose ici l'indépendance des observations.