chap 7

Chapitre 7

Convergence en probabilité et loi des grands nombres Toutes les variables aléatoires de ce chapitre sont définies sur un même espace probabilisé (Ω, A, P). On considère une suite de variables aléatoires indépendantes suivant toutes une même loi intégrable. Un résultat intuitif mais fondamental est le fait que la moyenne empirique des n premières variables, c’est-à-dire

X1 + · · · + Xn , “converge vers” l’espérance E(X1 ) n

commune à toutes ces variables. Un tel résultat sera qualifié de loi des grands nombres. Il joue un rôle essentiel en statistique puisqu’il permet d’estimer un paramètre (comme l’espérance) d’une loi inconnue en se basant sur des observations indépendantes de celleci : pour n assez grand, la moyenne empirique de n observations indépendantes fournit un estimateur de l’espérance. Évidemment, pour contrôler l’erreur d’estimation, il faudrait avoir une vitesse de convergence dans le résultat précédent. Cette question sera l’objet du chapitre suivant. Pour commencer, nous allons voir ce que l’on entend par “converge vers”. En probabilité, on peut envisager plusieurs modes de convergence (voir aussi le chapitre suivant).

7.1 Convergence en probabilité Définition 7.1.1. Soit (Xn )n∈N une suite de variables aléatoires. On dit que Xn converge en probabilité vers une variable aléatoire X si pour tout ε > 0,

lim P (|Xn − X| > ε) = 0.

n→+∞

Remarque 7.1.2. 1. Une définition équivalente est, par passage au complémentaire : pour tout ε > 0, limn→+∞ P(|Xn − X| ≤ ε) = 1.

2. Puisque c’est pour tout ε > 0, dans la définition, on peut remplacer P(|Xn − X| > ε) par P(|Xn − X| ≥ ε). 3. Si elle existe la limite X est unique à une égalité presque sûre près. En effet, si X et X 0 sont deux limites en probabilité de la suite (Xn ), alors pour tout ε > 0,

ε ε P(|X − X 0 | > ε) ≤ P(|X − Xn | > ) + P(|Xn − X 0 | > ) −−−−−→ 0. 2 2 n→+∞ Par continuité monotone séquentielle (prendre ε = k1 ) on obtient P(X 6= X 0 ) = 0.

CHAPITRE 7. CONVERGENCE EN PROBABILITÉ ET LOI DES GRANDS NOMBRES Exemple 7.1.3. Soit Xn une suite de variables aléatoires de lois respectives B( n1 ). Xn est à valeurs dans {0, 1} et donc pour tout ε ∈]0, 1[, P(|Xn | > ε) = P(Xn = 1) = n1 . On a montré que Xn → 0 en probabilité.

7.2 Loi faible des grands nombres Ce résultat a été démontré pour la première fois par Jacques Bernoulli (1713) dans le cas particulier des variables qui portent son nom. Théorème 7.2.1 (Loi faible des grands nombres). Soit (Xn )n≥1 une suite de variables aléatoires de même loi, dans L2 et deux à deux non corrélées et Sn = X1 + · · · + Xn . Alors,

Sn −−−−−→ E(X1 ) en probabilité. n n→+∞
Démonstration. Les Xi ayant toutes la même loi, on a E Snn = n1 (E(X1 ) + · · · + E(Xn )) = E(X1 ). De plus, elles sont deux à deux non corrélées, donc   1 V(X1 ) Sn = 2 (V(X1 ) + · · · + V(Xn )) = V . n n n Par l’inégalité de Bienaymé-Tchebychev, on obtient, pour tout ε > 0,

  Sn V(X1 ) − E(X1 ) > ε ≤ −−−−−→ 0. P n n ε2 n→+∞

Ce qui prouve le résultat.

Remarque 7.2.2. 1. En statistique, on dit que Snn est un estimateur convergent de E(X1 ). La dernière inégalité permet d’obtenir un intervalle de confiance pour E(X1 ). 2. La loi faible de grands nombres s’applique en particulier si les variables aléatoires sont indépendantes, de même loi et dans L2 . 3. Plus généralement, on dira qu’une suite quelconque (Xn )n≥1 vérifie une loi faible des grands nombres si Snn converge en probabilité. S −nE(X )

4. Une autre façon de formuler la conclusion du théorème est que n n 1 converge vers 0 en probabilité. En fait, en reprenant la démonstration, on peut montrer que Sn −nE(X1 ) → 0 en probabilité pour tout α > 21 (exercice). Que se passe-t-il pour α = 12 ? nα Exemple 7.2.3. Soit (Xn )n≥1 une suite de variables aléatoires indépendantes de même loi U([0, 1]). Alors n1 (X1 + · · · + Xn ) −−−−−→ 12 en probabilité. n→+∞

Pour finir cette section, remarquons que l’on a en fait montré un résultat plus fort : Sous les conditions du théorème 7.2.1, Snn converge vers E(X1 ) dans L2 , i.e.

E



2 !   Sn Sn − E(X1 ) =V −−−−−→ 0. n→+∞ n n

Plus généralement, la convergence de Xn vers X dans un espace Lp , p > 0, entraîne la convergence en probabilité de Xn vers X (utiliser l’inégalité de Markov). La réciproque est fausse. C’est évidemment faux si les Xn ne sont pas dans Lp pour le p en question, mais c’est aussi le cas, par exemple pour la suite de variables aléatoires Xn dans L1 de lois respectives PXn = (1 − n1 )δ0 + n1 δn qui converge en probabilté vers 0 mais pas dans L1 . En particulier, la convergence en probabilité n’entraîne pas la convergence des espérances.