Concentration et loi des grands nombres — cours de Terminale
Inégalité de Bienaymé-Tchebychev, Concentration de la moyenne, Fréquence d'un succès, Loi faible des grands nombres Lecture ≈ 4 min.
1. Inégalité de Bienaymé-Tchebychev
Soit X une variable aléatoire d'espérance μ et de variance finie V(X). Pour tout réel δ > 0 :
P(|X − μ| ≥ δ) ≤ V(X)δ2.
Forme complémentaire : P(|X − μ| < δ) ≥ 1 − V(X)δ2.
Sur l'événement |X − μ| ≥ δ, on a (X − μ)2 ≥ δ2. Donc :
V(X) = E[(X − μ)2] ≥ δ2P(|X − μ| ≥ δ).
En divisant par δ2, on obtient l'inégalité.
Une variable a une moyenne 50 et une variance 16. Pour δ = 8 :
P(|X − 50| ≥ 8) ≤ 1664 = 0,25. Donc P(42 < X < 58) ≥ 0,75. L'inégalité fournit une garantie universelle, souvent moins précise que la probabilité exacte lorsque la loi est connue.
2. Concentration de la moyenne
Si X1, ..., Xn sont indépendantes, de même espérance μ et de même variance σ2, alors pour tout δ > 0 :
P(|Mn − μ| ≥ δ) ≤ σ2nδ2.
On a E(Mn) = μ et V(Mn) = σ2n. Il suffit d'appliquer Bienaymé-Tchebychev à Mn.
Une mesure a une variance 9. On veut garantir par Tchebychev que la moyenne de n mesures indépendantes diffère de la moyenne théorique de moins de 0,5 avec une probabilité au moins 0,95.
Il suffit que 9/[n × 0,52] ≤ 0,05, soit 90,25n ≤ 0,05. Donc n ≥ 90,0125 = 720. Cette condition est suffisante, pas nécessaire.
3. Fréquence d'un succès
Dans n épreuves de Bernoulli indépendantes de paramètre p, soit Sn le nombre de succès. La fréquence Fn = Sn/n est la moyenne de n variables de Bernoulli.
E(Fn) = p et V(Fn) = p1 − pn. Ainsi :
P(|Fn − p| ≥ δ) ≤ p1 − pnδ2 ≤ 14nδ2.
La dernière inégalité utilise p(1 − p) ≤ 14.
Pour n = 2500 et δ = 0,05, la majoration indépendante de p donne :
P(|F2500 − p| ≥ 0,05) ≤ 1/[4 × 2500 × 0,052] = 0,04.
Donc la fréquence se trouve à moins de 0,05 de p avec une probabilité au moins 0,96.
4. Loi faible des grands nombres
Pour une suite de variables indépendantes et de même loi, possédant une espérance μ et une variance finie, la moyenne empirique Mn converge en probabilité vers μ :
pour tout δ > 0, P(|Mn − μ| ≥ δ) → 0.
Par l'inégalité précédente, 0 ≤ P(|Mn − μ| ≥ δ) ≤ σ2nδ2. Le majorant tend vers 0 ; le théorème des gendarmes conclut.
Quand la taille de l'échantillon augmente, il devient très probable que la moyenne observée soit proche de l'espérance. Le théorème ne dit ni que chaque observation est proche de la moyenne, ni que l'égalité exacte finit par se produire, ni qu'une courte série doit être régulière.
5. Simulation et fluctuation
from random import random
def frequences(p, n):
succes = 0
evolution = []
for k in range(1, n + 1):
if random() < p:
succes += 1
evolution.append(succes / k)
return evolutionDeux simulations donnent des trajectoires différentes. La loi des grands nombres porte sur la probabilité d'un écart, pas sur une trajectoire déterministe.
- Inverser le sens de l'inégalité de Tchebychev : elle majore la probabilité d'être loin.
- Oublier le carré de δ.
- Présenter la borne comme une probabilité exacte.
- Affirmer qu'une fréquence « devient égale » à p ; elle se concentre autour de p.