Feuille2 - M2 Statistiques

Université Pierre et Marie Curie M2 de Statistique Année 2016–2017

Mise à Niveau en Statistique Mathématique Tabea Rebafka

Feuille d’exercice N◦ 2 Estimation de paramètres

Exercice 1. Loi exponentielle Soit X = (X1 , . . . , Xn ) un échantillon de loi exponentielle E(θ) de paramètre θ > 0 ayant comme densité fθ (x) = θe−θx 1{x > 0} . ¯n. 1. Montrer que l’estimateur du maximum de vraisemblance vaut θˆn = 1/X 2. Calculer le risque quadratique de θˆn . Montrer que le risque quadratique tend vers 0 quand n tend vers l’infini et en particulier que l’estimateur θˆn est asymptotiquement sans biais. Est-ce que l’estimateur θˆn est consistant ? 3. Déterminer la loi limite de θˆn . Calculer l’information de Fisher du modèle. Est-ce que θˆn est asymptotiquement efficace ? Exercice 2. Loi de Bernoulli Supposons que les observations x = (x1 , . . . , xn ) sont n réalisations indépendantes d’une variable aléatoire X de loi Bernoulli de paramètre p ∈]0, 1[ inconnu. 1. (a) Estimer p par la méthode des moments et du maximum de vraisemblance. (b) Calculer le risque quadratique de l’estimateur du maximum de vraisemblance pˆn de p. Montrer que pˆn est consistant et déterminer sa loi asymptotique. 2. (a) Notons v = p(1 − p) la variance de la loi de Bernoulli B(p). La statistique vˆn = x¯n (1 − x¯n ) est un estimateur de v. Montrer que vˆn est consistant pour v. (b) À partir de vˆn , proposer un estimateur sans biais v˜n de v. (c) Déterminer la loi asymptotique de v˜n . Exercice 3. On considère dans R2 le carré K = {(x, y) : |x| + |y| < 1} et on désigne par 1K la fonction indicatrice de K. 1. Pour quelle valeur du réel α la fonction α1K est–elle une densité de probabilité ? La valeur α étant ainsi déterminée, on considère le couple de variables (X, Y ) ayant la densité α1K . 2. Déterminer les lois marginales de X et Y . 3. Les variables aléatoires X et Y sont–elles indépendantes ? 4. Déterminer la loi des variables aléatoires X + Y et X − Y . Sont–elles indépendantes ?

1

Exercice 4. Loi double exponentielle 1. Soit X = (X1 , . . . , Xn ) un échantillon de loi double exponentielle ou loi de Laplace, dont la densité est donnée par fθ (x) =

1 − |x| e θ , 2θ

x∈R,

avec θ ∈ Θ =]0, +∞[. (a) Tracer la densité fθ pour différentes valeurs de θ. (b) Calculer l’estimateur du maximum de vraisemblance de θ. Est-il unique et presque sûrement bien défini ? Est-il consistant et asymptotiquement normal ? 2. On considère maintenant un échantillon X = (X1 , . . . , Xn ) de loi double exponentielle avec un paramètre de position µ. Plus précisément, la densité s’écrit 1 fµ (x) = e−|x−µ| , 2

x∈R,

où µ ∈ R = Θ. a) Tracer la densité fµ pour différentes valeurs de µ. b) Calculer l’estimateur du maximum de vraisemblance de θ. Est-il unique et presque sûrement bien défini ? Que dire de la consistance et de la loi limite de l’estimateur ? Exercice 5. Loi de Pareto Soient n variables aléatoires i.i.d. X1 , . . . , Xn , de densité de Pareto fθ (x) =

θ xθ+1

1{x ≥ 1} ,

où θ > 0 est un paramètre inconnu que l’on souhaite estimer. 1. On suppose d’abord que l’ensemble des paramètres est Θ = {θ > 1}. Estimer θ par la méthode des moments. 2. On suppose maintenant que l’ensemble des paramètres est Θ = {θ > 0}. Montrer que la méthode des moments n’est pas applicable. Estimer θ par la méthode des moments généralisée et par celle du maximum de vraisemblance. 3. Donner la loi limite de l’estimateur du maximum de vraisemblance. 4. Calculer l’information de Fisher I(θ). Est-ce que l’estimateur du maximum de vraisemblance est asymptotiquement efficace ? Exercice 6. Pour tout p > 0, on désigne par fp (x) la densité par rapport à la mesure de Lebesgue sur R donnée par fp (x) =

p+1 (1 − |x|)p 1]−1,1[ (x) . 2

On dispose de n observations i.i.d. X1 , . . . , Xn de densité fp . 1. Calculer l’estimateur pˆn du maximum de vraisemblance. 2. Déterminer la loi de Y = − log(1 − |X1 |). 3. Montrer que l’estimateur pˆn est consistant et donner la loi limite de asymptotiquement efficace ? 2

√

n(ˆ pn − p). Est-il

Exercice 7. Modèles non-réguliers Considérons le modèle uniforme {U [0, θ], θ > 0}. Soient X1 , . . . , Xn des variables aléatoires i.i.d. de loi U [0, θ]. 1. Est-ce que le modèle vérifient les conditions de régularité du Théorème de la borne de Cramer-Rao ? 2. Déterminer l’estimateur du maximum de vraisemblance θˆnM V , et calculer son biais et sa variance. Noter que son risque quadratique converge vers 0 à la vitesse 1/n2 . 3. Parmi les estimateurs de la forme cθˆnM V , c ∈ R, déterminer celui qui a un risque quadratique minimal. On note cet estimateur θ˜n . Déduire que l’estimateur du maximum de vraisemblance θˆnM V est inadmissible. 4. Chercher les lois limites de n(θˆM V − θ) et de n(θ˜n − θ). n

3