Probabilités – Exercices (PC 1–9)
École Polytechnique MAP311 Aléatoire (cours de Sylvie Méléard) Olivier Rioul
[email protected] 2015
MAP311 – Aléatoire
TABLE DES MATIÈRES
Olivier Rioul
Table des matières 1 Petite classe 1
3
2 Petite Classe 2
7
3 Petite classe 3
11
4 Petite classe 4
15
5 Petite classe 5
19
6 Petite classe 6
23
7 Petite classe 7
25
8 Petite classe 8
29
9 Petite classe 9
31
2
MAP311 – Aléatoire
1 PETITE CLASSE 1
Olivier Rioul
1 Petite classe 1 Pré-requis : — expérience aléatoire et espace d’états Ω, événements aléatoires ; — probabilité discrète, loi uniforme et calcul combinatoire ; — tribu, tribu borélienne, espace de probabilité (Ω, A , P) ; — conditionnement (par un événement), formule de Bayes ; — événements indépendants ; 1) (von Mises, 1939) Votre prof de petite classe parie qu’au moins deux d’entre vous sont nés le même jour. On veut savoir s’il a raison (en moyenne). Pour simplifier, on supposera que le 29 février n’existe pas. La réponse dépend du nombre n d’élèves (supposé 6 365. . . ) a) Identifier l’espace d’états Ω et calculer le probabilité P de coïncidence par dénombrement. b) Faire une approximation 1 − x ' e −x (x > 0 petit) pour trouver numériquement la condition sur n pour que P > 1/2. c) Application. Un algorithme RSA protège l’authentification lors de l’utilisation d’un carte bleue. La sécurité de cet algorithme se font sur le fait qu’il est difficile de factoriser un certain grand nombre N connu de tous (typiquement égal à un produit de deux grands nombres premiers inconnus). On cherche à trouver un diviseur de N à l’aide de tirages aléatoires. Quel algorithme proposez vous ? Quel est sa complexité ? Application sur un PC à 10GHz : N = un nombre de 96 chiffres (utilisé pour les CB jusqu’en 1999) ; un de 232 chiffres (utilisé actuellement). 2) a) Est-il possible qu’un événement A soit indépendant de lui-même ? que deux événements incompatibles A, B soient indépendants ? Sinon, le démontrer. Si oui, caractériser ces événements. b) Trouver trois événements A, B,C indépendants deux à deux, mais non indépendants ; Trouver trois événements A, B,C de probabilités non nulles tels que P (A ∩ B ∩ B ∩C ) = P (A)P (B )P (C ) mais non indépendants. 3) (Bayes, 1763, Laplace, 1774) L’inférence baysienne est la démarche permettant de réviser la probabilité d’une hypothèse H (hypothesis) en présence d’une nouvelle donnée E (evidence). 0 < P (H ) < 1 est la probabilité a priori, et P (H |E ) est la probabilité a posteriori. Bayes nous dit : « E favorise H si et seulement si E est plus vraisemblable en supposant H vraie qu’en la supposant fausse. » a) Le démontrer en comparant P (H ) et P (H |E ) par la formule de Bayes. P (H |E ) (H ) b) Le démontrer en comparant directement les côtes C (H ) = PP(H c ) et C (H |E ) = P (H c |E ) . On établira une formule fondamentale sous la forme d’un rapport de vraisemblance :
Λ=
3
C (H |E ) . C (H )
MAP311 – Aléatoire
1 PETITE CLASSE 1
Olivier Rioul
c) Pale X : Il y a 25% des X qui ne prépareront pas l’examen de MAP311 ; on estime qu’un X a dans ce cas 40% de chances de le réussir, alors que s’il le prépare, sa chance de succès monte à 80%. Quelle est la probabilité que si un élève échoue, il n’ait pas préparé l’examen ? d) Qui veut gagner des millions : On estime d’un français sur 3 sait que Lima est la capitale du Pérou ; un candidat au jeu « Qui veut gagner des millions » répond au hasard s’il ne sait pas ; s’il a répondu juste, a-t-il répondu au hasard ? 4) Une compagnie d’assurance assure autant de conducteurs que de conductrices ; chaque année, la probabilité qu’un conducteur (respectivement une conductrice) déclare un accident est α (respectivement β), indépendamment des autres années et des autres conducteurs. Pour un assuré donné, les occurrences d’accidents sont indépendantes d’une année sur l’autre. Si un assuré (homme ou femme) déclare un accident dans l’année, quelle est la probabilité qu’il le fasse de nouveau l’année suivante ? Comparer à la probabilité d’occurrence d’un accident dans l’année. 5) Soit Ω un ensemble de cardinal |Ω| = n. On choisit deux parties A, B de Ω « au hasard ». Qu’est ce que cela signifie ? a) Calculer la probabilité que |B | = k et que de A ⊂ B sachant que |B | = k. b) En déduire P (A ⊆ B ) et P (A ∩ B = ∅).
4
MAP311 – Aléatoire
1 PETITE CLASSE 1
Olivier Rioul
Pour s’entraîner. . . Combinatoire 6) (“Birthday attacks” ou attaque de Yuval en cryptographie) Un protocole de signature de contrat par internet consiste d’abord à appliquer une fonction de hachage au texte. Disponible publiquement, cette fonction calcule le « résumé crypté » du texte sur b bits (très sensible au texte initial). Le destinataire du contrat appose son accord en signant électroniquement le résumé. Alice cherche à faire signer par Bob un contrat frauduleux ; elle rédige deux contrats, un honnête et un malhonnête. Elle modifie ensuite les deux textes à volonté (par exemple en introduisant des espaces) en espérant au bout du compte obtenir le même résumé crypté sur b bits pour les deux versions. Elle présente ensuite le contrat honnête à Bob qui le signe, puis attache la signature de Bob au contrat malhonnête. On cherche à concevoir la fonction de hachage disponible sur internet pour qu’elle soit robuste à ce type d’attaque cryptographique. a) Alice produit n/2 versions du contrat honnête et n/2 versions du contrat malhonnête, afin d’obtenir un résumé crypté identique (parmi 2b possibilités). Evaluer la probabilité P que parmi les n textes, deux d’entre eux aient le même résumé crypté ; en déduire une majoration de la probabilité d’attaque réussie. b) Peut-on, avec un ordinateur à 1GHz, réussir l’attaque pour le hachage MD5 (Rivest, 128 bits) ? SHA-1 (160 bits) ? SHA-256 ? 7) Alice et Bob jouent à pile ou face ; Bob gagne dès qu’au bout de 5 lancers, trois « pile » ou trois « face » consécutifs sont apparus. Le jeu est-il équilibré ? Sinon, qui est avantagé ? 8) Alice et Bob continuent à jouer à pile ou face ; Alice gagne dès que la configuration « face,pile,pile » apparaît, alors que Bob gagne dès le configuration « pile,pile,face » apparaît. Le jeu est-il équilibré ? Sinon, qui est avantagé ?
Inférence baysienne 9) Résoudre, avec la méthode des côtes, les exercices 2.5.6, 2.5.7, 2.6.5, 2.6.7, 2.6.8, et imaginer d’autres exercices. 10) Pari : Trois cartes cachées : 1 toute rouge, 1 toute blanche, 1 avec une face rouge et une face blanche ; on tire un carte au hasard et on expose une face au hasard : elle est rouge ; quelle est la probabilité que l’autre face soit blanche ? 11) Fille ou garçon : On suppose qu’il y a autant de chance d’avoir une fille ou un garçon à la naissance. Votre voisin vous dit qu’il a deux enfants. Lorsque vous sonnez à sa porte, un fille ouvre. Quelle est la probabilité que votre voisin ait un garçon si 1o dans les familles avec un garçon et une fille, la fille ouvre avec un probabilité p ; 2o dans les familles avec plusieurs enfants, l’ainé ouvre la probabilité q ? 12) Le gaucher : L’inspecteur chargé d’une enquête criminelle est à un certain stade convaincu à 60% de la culpabilité d’un suspect. On découvre alors une nouvelle pièce à conviction permettant d’affirmer que le criminel recherché est gaucher. Or 7% des individus dans la population sont gauchers. Comment l’inspecteur doit-il réapprécier la culpabilité du suspect, s’il se trouve que celui-ci est gaucher ? Pour résoudre cet exercice on identifiera les suspects innocents à des personnes quelconques de la population (ce qui est critiquable).
5
MAP311 – Aléatoire
1 PETITE CLASSE 1
6
Olivier Rioul
MAP311 – Aléatoire
2 PETITE CLASSE 2
Olivier Rioul
2 Petite Classe 2 Pré-requis : — théorème de Borel-Cantelli — variable aléatoire X (ω) ; — lois discrètes : de Bernoulli(p), géométrique(p), binomiale B(n, p), de Poisson P (θ) ; — espérance (discrète) : moyenne, variance, écart-type ; — fonction génératrice, moments ; — couple aléatoire (discret) : lois conjointe, marginales ; — loi (discrète) conditionnelle, indépendance ; 13) Une particule se déplace sur Z en partant de l’origine 0 : elle se déplace de +1 (vers la droite) avec la probabilité p, de -1 (vers la gauche) avec la probabilité 1 − p, ses déplacements successifs étant indépendants. Quelle est la probabilité que la particule ne repasse qu’un nombre fini de fois à l’origine ? 14) Lois sans mémoire : On modélise le temps d’attente d’une panne d’un composant electronique par une v.a. X à valeurs dans N∗ de sorte que P (X = t ) est la probabilité de panne au t ième coup d’horloge. On suppose que si le composant fonctionne à l’instant t 0 ∈ N, la probabilité qu’il tombe en panne après t nouveaux coups d’horloge est indépendante de t 0 . Trouver la loi de X . 15) On considère des v.a. X à valeurs entières, on note E (X ) l’espérance de X (si elle existe). a) Trouver une v.a. X n’admettant pas d’espérance (ni finie, ni infinie). b) Soit X une v.a. à valeurs dans N admettant une espérance. Montrer la formule utile : E (X ) =
X
P (X > n)
n >1
Cette formule reste-t-elle valable si E (X ) = +∞ ? c) Un sauteur tente de franchir des hauteurs successives ; le nième essai est réussi avec une probabilité n1 , les essais sont indépendants les uns des autres et le sauteur est éliminé au premier échec. Combien de sauts en moyenne le sauteur réussit-il ? d) Vous rentrez en voiture et cherchez une place de parking en faisant le tour du quartier ; au nième tour, vous avez une chance sur n + 1 de trouver une place. Combien de tours sont nécessaires, en moyenne, pour vous garer ? 16) Trouver toutes les v.a. (discrètes) indépendantes d’elles-même. 17) Soit X et Y deux v.a. binaires (à valeurs dans {0, 1}) uniformes indépendantes (i.i.d.), et Z = X + Y mod 2. Montrer que X , Y , Z sont indépendantes deux à deux mais ne sont pas indépendantes. 18) (Problème du collectionneur) Vous collectionnez les images Kopémon dans des paquets de chips. Il y a n = 250 images à collectionner. Combien vous faudra-t-il manger, en moyenne, de paquets de chips pour avoir la collection complète ? Avec quel écart-type ? 7
MAP311 – Aléatoire
2 PETITE CLASSE 2
Olivier Rioul
19) (Wald, 1945) Soit N une v.a. représentant le nombre de cyclones dans une région donnée par an et X la v.a. donnant le nombre de blessés lors d’un cyclone (supposée indépendante de N ). a) Déterminer la moyenne du nombre total Y de blessés (dus aux cyclones) par an en fonction de E (N ) et de E (X ). b) Même question pour la fonction génératrice et la variance. c) Appliquer ces résultats au cas où N suit une distribution de Poisson (Y est appelé Poisson composé).
8
MAP311 – Aléatoire
2 PETITE CLASSE 2
Olivier Rioul
Pour s’entraîner. . . Borel-Cantelli 20) Trouver une suite d’événements A n ne se réalisant qu’un nombre fini de fois presque sûrement, P tels que n P (A n ) = +∞. 21) (Borel, 1909) Un singe tape au hasard sur un clavier comportant 50 touches. On suppose que les caractères sont tapés de façon indépendante et uniforme (suite i.i.d.). a) Avec quelle probabilité le singe finit-il par écrire « abracadabra » ? Soit T le nombre de caractères mis pour que la suite « abracadabra » de 11 caractères apparaisse. Montrer que pour t < −10) 10 + 5011 , P (T 6 t ) 6 (t50 11 . b) En déduire une estimation du temps moyen mis par le singe pour écrire «abracadabra» si le singe tape à raison d’une touche par seconde.
Formule du crible 22) (de Moivre, 1718, Da Silva, 1854, Sylvester, 1883, Poincaré, 1896) On veut démontrer la formule du crible : n X X P (A 1 ∪ A 2 ∪ · · · ∪ A n ) = (−1)k+1 P (A i 1 ∩ A i 2 ∩ · · · ∩ A i k ). 16i 1 n un nombre fini de fois. Ce résultat reste-t-il valable si les X n (de mêmes lois que X ) sont dépendantes ? 38) On considère un circuit électronique constituée de n composants indépendants. La durée de vie de chaque composant suit une loi exponentielle de paramètre λ > 0. Trouver la durée moyenne de vie du circuit dans les deux cas suivants : a) (série) le circuit ne fonctionne que lorsque tous ses composants fonctionnent. b) (parallèle) le circuit fonctionne lorsqu’au moins un de ses composants fonctionne. 39) Soit X une v.a. réelle à densité et f une fonction C 1 réelle strictement monotone sur R. a) Montrer que Y = f (X ) est à densité et déterminer sa densité en fonction de celle de X . Expliquer en quoi l’écriture formelle p X (x) d x = p Y (y) d y permet de retrouver ce résultat. b) Application : Y = σX + m où σ > 0, pour X centrée réduite ; retrouver le cas gaussien. c) Y = −X et Y = |X |. 40) (Loi log-normale) a) Déterminer la loi de Y = e X où X est une v.a. normale centrée. Trouver sa moyenne, ses moments et sa variance. Quelle est la loi de 1/Y ? b) En admettant que la formule donnant E (e k X ) est valable pour tout k ∈ C, montrer que E (Y k sin 2πX ) = 0 et en déduire que Y n’est pas caractérisée de façon unique par ses σ2 moments. 11
MAP311 – Aléatoire
3 PETITE CLASSE 3
Olivier Rioul
41) On appelle coefficient de dissymétrie d’une v.a. réelle X son moment d’ordre 3 centré normalisé : γ = E ((X − µ)3 )/σ3 où µ et σ désignent la moyenne et l’écart-type. a) Trouver une variable de dissymétrie γ = 0 mais dont la distribution n’est pas symétrique. b) Encore plus fort, trouver une variable à densité non symétrique dont tous les moments d’ordre impair sont nuls.
12
MAP311 – Aléatoire
3 PETITE CLASSE 3
Olivier Rioul
Pour s’entraîner. . . Variables aléatoires réelles 42) Soit X 1 , X 2 , . . . , X n des v.a. réelles à valeurs respectives dans les ensembles de mesures finies F 1 , . . . , F n , et soit X = (X 1 , X 2 , . . . , X n ) le vecteur aléatoire à valeurs dans F = F 1 × F 2 × · · · × F n . Montrer que les X i sont indépendantes et à densité uniforme si et seulement si X est à densité uniforme. 43) Pour tout x ∈ [0, 1], on note x i le nième chiffre après la virgule dans la décomposition binaire de x (il est entendu que le développement binaire de 1 est 1 = 0, 111111 · · · ). Montrer que les variables P de Bernoulli (X i )i >1 sont i.i.d. uniformes si et seulement si X = i >1 X i 2−i suit une loi uniforme sur [0, 1] (mesure de Lebesgue). 44) (Lois de mélange) Soit N une v.a. à valeurs dans N et (X n )n >0 une suite quelconque de v.a. réelles à densité, indépendantes de N . Trouver la loi de X N , ainsi que sa moyenne lorsque E (|X n |) 6 c où c est une constante. 45) (Lois du min et du max) Soient X , Y deux v.a. réelles indépendantes. On note Z = max(X , Y ) et T = min(X , Y ) (de sorte que X + Y = Z + T ). Trouver les lois de Z et T en fonction de celles de X et Y , et en déduire que les fonctions de répartition vérifient l’identité F X + F Y = F Z + F T . Cette identité reste-t-elle vraie si les v.a. X et Y sont dépendantes ? Lorsque X et Y sont indépendantes, montrer que si T et Z sont indépendantes si et seulement s’il existe c ∈ R tel que X 6 c 6 Y p.s. ou Y 6 c 6 X p.s. 46) (Rényi, 1962) On considère une suite i.i.d. (X i )i >1 de v.a. réelles (représentant des performances sportives, des volumes de précipitation d’eau de pluie par année, etc.). On note Rn =
n X
1X i >X n
i =1
le rang de X n parmi {X 1 , X 2 , . . . , X n } et on dit que X n établit un record à l’instant n si R n = 1. a) Pour éviter de traiter les cas d’ex-æquo, on suppose que les X i sont à densité. Justifier cette hypothèse. b) Montrer que la suite R 1 , R 2 , . . . , R n détermine complètement l’ordre des v.a. X 1 , . . . , X n . c) En déduire la loi de (R 1 , R 2 , . . . , R n ) : les R i sont-elles indépendantes ? d) En déduire qu’il y a presque sûrement dans la suite (X i )i >1 un nombre infini de records. e) Donner une approximation du nombre de records moyen jusqu’à l’instant n.
13
MAP311 – Aléatoire
3 PETITE CLASSE 3
14
Olivier Rioul
MAP311 – Aléatoire
4 PETITE CLASSE 4
Olivier Rioul
4 Petite classe 4 Pré-requis : — inégalités de Markov, de Bienaymé-Chebyshev, de Jensen ; — vecteur aléatoire sur Rn , lois marginales ; — espace L 2 , inégalité de Cauchy-Schwarz, covariance ; ¡ ¢ — calcul de loi (méthode E h(X ) en dimension n, jacobien). 47) (Moyenne et médiane) Soit X une v.a. réelle à densité. Une médiane de X est une valeur µ ∈ R telle que P (X 6 µ) = P (X > µ). a) Montrer que X admet toujours une médiane. b) Si X est intégrable, montrer que la médiane minimise la quantité E (|X − µ|). c) Si X est de carré intégrable, montrer que la moyenne m = E (X ) minimise la quantité E (|X − m|2 ). d) Comparer alors moyenne m = E (X ) et médiane µ au vu de cette propriété, et en déduire un majorant simple de |m − µ| en fonction de l’écart-type σ. 48) (Cantelli, 1910) Soit X une v.a. réelle de moyenne m et de variance σ2 , et a > 0. En minimisant sur θ > 0 la borne de Markov appliquée à X − m + θ, démontrer l’inégalité 2 P (X − m > a) 6 σ2σ+a 2 . La comparer à celle de Bienaymé-Chebyshev. 49) (Box & Muller, 1958) On désire simuler une v.a. gaussienne X (centrée, réduite) à partir de réalisations d’une v.a. uniforme sur [0, 1]. a) Pourquoi la méthode d’inversion de la fonction de répartition pose problème ? b) On considère Y indépendante et de même loi que X . À partir de (X , Y ), faire un passage en coordonnées polaires (R, Θ) et déterminer les lois de R (loi de Rayleigh) et de Θ. c) Trouver la loi conjointe de U = e −R
2
/2
et U 0 =
Θ 2π .
d) En déduire une méthode de simulation d’une v.a. gaussienne. 50) (Lois gamma, bêta et de Dirichlet) On rappelle que la loi gamma est définie par la densité p(x) =
λα α−1 −λx x e Γ(α)
(x > 0).
On fixe une fois pour toutes le paramètre λ. a) Soit X 1 , X 2 , . . . , X n des v.a. indépendantes de lois gamma d’indices α1 , α2 , . . . , αn , resP pectivement. Montrer que S = n1 X i et ( XS1 , XS2 , . . . , X n−1 S ) sont indépendantes et trouver leurs lois. En déduire la formule Qn Ï Z Y n αi −1 =1 Γ(αi ) ··· yi d y i = iP Γ( ni=1 αi ) P i =1 y i >0,
n i =1
y i =1
reliant les intégrales eulériennes du premier et du deuxième type. 15
MAP311 – Aléatoire
b) Trouver les lois de chaque
4 PETITE CLASSE 4
Xi S
Olivier Rioul
.
51) Un générateur pseudo-aléatoire fournit une réalisation d’une suite U0 ,U1 ,U2 , . . . ,Un , . . . de v.a. i.i.d. uniformes sur [0, 1]. On s’arrête dès que le produit U0U1 · · ·U N est inférieur à un seuil donné θ ∈]0, 1[. Quelle est la loi de N que cette procédure permet de simuler ?
16
MAP311 – Aléatoire
4 PETITE CLASSE 4
Olivier Rioul
Pour s’entraîner. . . Inégalités 52) On note ρ = ρ(X , Y ) le coefficient de corrélation entre deux v.a. réelles (non déterministes) X et Y ∈ L 2 . Montrer que |ρ| 6 1 et caractériser le cas d’égalité. 53) (Weierstrass, 1885, Bernstein, 1911) Soit f une fonction continue sur [0, 1] et X une v.a. binomiale de paramètre p et de longueur n. On pose B n (p) = E ( f ( Xn )). a) Soit ε > 0. Majorer |B n (p) − f (p)| en distinguant les deux cas | Xn − p| < ε et | Xn − p| > ε. b) En déduire le théorème d’approximation polynomiale de Weierstrass. 54) Soit X une v.a. réelle de carré intégrable et 0 < a < E (|X |). Établir la minoration P (|X | > a) > (E (|X |)−a)2 . E (X 2 )
55) (Rogers, 1888, Minkowski, 1896, Hölder, 1889, Liapounov, 1901, Riesz, 1910) Soit p, q > 0. Montrer l’inégalité de Liapounov : 1
1
E (|X |p ) p 6 E (|X |q ) q
(0 < p < q),
l’inégalité de Hölder (qui généralise celle de Cauchy-Schwarz) : 1
1
E (|X Y |) 6 E (|X |p ) p E (|Y |q ) q 1
( p1 + q1 = 1)
1
1
et l’inégalité de Minkowski : E (|X +Y |p ) p 6 E (|X |p ) p +E (|Y |p ) p (p > 1). (Il est entendu que ces quantités sont bien définies. On pourra appliquer l’inégalité de Jensen, valable pour des fonctions R2+ → R+ .) 56) (Cramér, 1938, Chernov, 1952, Hoeffding, 1963) Soit X une v.a. telle que X ∈ [a, b] p.s. a) Montrer que la variance de X est 6 (b − a)2 /4. b) En déduire, avec une formule de Taylor, que pour tout λ > 0, log E (e λX ) 6
λ2 (b−a)2 . 8
c) Démontrer l’inégalité de concentration : P (X > t ) 6 e
−2
t2 (b−a)2
57) Soit X , Y indépendantes intégrables. On suppose E (Y ) = 0. Montrer que E (|X − Y |) > E (|X |). 58) Soit X , Y i.i.d. intégrables. Montrer que E (|X |) 6 E (|X − Y |) 6 E (|X + Y |).
Changement de variables aléatoires 59) Soit X , Y deux v.a. gaussiennes centrées, réduites, et indépendantes. Trouver la loi de Z = YX et celle de Z1 . Pour quelles valeurs de α ∈ R la v.a. Z α est-elle intégrable ? Trouver une méthode simple pour simuler Z . 60) (Statistiques d’ordre ; Laplace, 1818, Wilks, 1942) Soit U1 ,U2 , . . . ,Un des v.a. indépendantes uniformes sur [0, 1], et notons U(1) ,U(2) , . . . ,U(n) les v.a. obtenues en ordonnant les Ui par ordre croissant. Déterminer la loi conjointe des U(i ) , puis celle des U(i ) −U(i −1) , i = 1 à n (avec la convention U(0) = 0). En reconnaissant une loi de Dirichlet, trouver une méthode permettant de simuler les U(i ) sans recourir à une procédure de tri coûteuse (complexité en O(n log2 n)).
17
MAP311 – Aléatoire
4 PETITE CLASSE 4
18
Olivier Rioul
MAP311 – Aléatoire
5 PETITE CLASSE 5
Olivier Rioul
5 Petite classe 5 Pré-requis : — vecteurs aléatoires, indépendance, décorrélation ; — lois et espérances conditionnelles (par une autre v.a. discrète ou à densité), — somme de v.a. indépendantes : variance, produit de convolution ; 61) Disons qu’une v.a. Y est totalement dépendante d’une autre X si Y = f (X ) p.s. pour une fonction (mesurable) f . Si X et Y sont indépendantes, une v.a. totalement dépendante de (X , Y ) qui est indépendante de X est-elle totalement dépendante de Y ? (Pour fixer les idées, on pourra choisir X , Y ∼ N (0, 1)). 62) (Décorrélation vs. indépendance) On rappelle que si deux v.a. réelles X et Y sont indépendantes, alors elles sont décorrélées (de coefficient de corrélation ρ(X , Y ) = 0). Montrer que la réciproque est fausse sur des exemples de v.a. X , Y décorrélées et dépendantes où : 1o Y = X 2 ; 2o X 2 + Y 2 = 1 ; 3o X + Y et X − Y sont i.i.d ; 4o X et Y sont de même loi gaussienne centrée. 63) (Karhunen, 1946, Hotelling, 1953, Loève, 1955) Soit X un vecteur aléatoire centré à valeurs dans Rn dont les composantes sont de carré intégrable. a) Montrer qu’il existe une matrice orthogonale A telle que les composantes de Y = AX sont décorrélées (deux à deux). b) En déduire que toute matrice symétrique positive est la matrice de covariance d’un vecteur aléatoire (réciproque de la proposition 4.8.8). 64) (Paradoxe de l’attente à un guichet) Alice, Bruno et Charlie arrivent en même temps à la poste devant deux guichets libres. Les services d’Alice et Bruno commencent immédiatement tandis que Charlie attend son tour. Les durées de service au guichet d’Alice, Bruno et Charlie sont représentées par des v.a. i.i.d. exponentielles A, B,C . Quelle est la probabilité que Charlie ne soit pas le dernier à quitter la poste ? 65) (Mélange Gamma-Poisson) On modélise classiquement un décompte N de phénomènes rares par une loi de Poisson de paramètre Θ. Ce Θ est lui-même modélisé par une v.a. de loi gamma d’indice r entier et de paramètre λ. Trouver et reconnaître la loi de N . Calculer sa moyenne et sa variance et comparer à la loi de Poisson.
19
MAP311 – Aléatoire
5 PETITE CLASSE 5
Olivier Rioul
Pour s’entraîner. . . Corrélation et covariance 66) On considère deux v.a. réelles intégrables X et Y et les trois assertions suivantes : 1o Y est indépendante de X . 2o Y est fonctionnellement décorrélée de X : E (Y |X ) = E (Y ) p.s. ; 3o Y est (linéairement) décorrélée de X : Cov(X , Y ) = 0 ; Montrer que 1o =⇒ 2o =⇒ 3o et exhiber des contre-exemples qui montrent que les implications réciproques sont fausses. 67) Soit X et Y deux v.a. réelles de carrés intégrables, centrées et réduites, de coefficient de corrélation ρ. En considérant la v.a. |X 2 − Y 2 |, montrer et interpréter l’inégalité ¯ ¯ q ¯E (max(X 2 , Y 2 )) − 1¯ 6 1 − ρ 2 Calculer E (max(X , Y )) en fonction de ρ dans le cas où X − Y est gaussienne. 68) On considère un vecteur aléatoire (X 1 , X 2 , . . . , X n ) de matrice de covariance K . Montrer que ce vecteur est dégénéré (c’est-à-dire K est singulière) si et seulement si les v.a. X i sont linéairement dépendantes : a 1 X 1 + a 2 X 2 + · · · + a n X n = c p.s. où les a i ne sont pas tous nuls. En déduire qu’un vecteur gaussien admet une densité si et seulement s’il est non dégénéré.
Lois conditionnelles 69) (Détection binaire optimale) On considère un bit aléatoire B (à valeurs dans {0, 1}) transmis dans un canal de communication bruité. On observe une v.a. à densité Y en sortie du canal et on cherche à retrouver le bit émis sous la forme f (Y ) où f : R → {0, 1} de sorte à minimiser la probabilité d’erreur P e = P (B 6= f (Y )). a) Montrer que la fonction f optimale est donnée par : f (y) =
( 1 si P (B = 1|Y = y) >
1 2
;
0 sinon
(détecteur “MAP” qui maximise la probabilité a posteriori). b) Décrire la méthode de détection optimale pour le modèle de canal à bruit additif gaussien : Y = B +Z , où Z est une v.a. gaussienne centrée qui représente un bruit thermique, indépendant de B , et le bit B est uniforme sur {0, 1}. 70) (Paradoxe de l’attente aux guichets) Des clients numérotés de 1 à n se présentent en même temps à n caisses libres de supermarché. Les temps de paiement de chaque client sont modélisées par des des v.a. exponentielles indépendantes T1 , T2 , . . . , Tn de paramètres respectifs λ1 , λ2 , . . . , λn (inversement proportionnels aux volumes des courses de chaque client). Soit M = arg min Ti le premier client ayant terminé ses courses. Montrer que M et T M = mini Ti sont indépendantes, et que T M et les temps d’attente restants Ti − T M (i 6= M ) des autres clients sont conditionnellement indépendants sachant M . Dans chaque cas, donner les lois correspondantes, et interpréter les résultats. A quelle condition M , T M et les Ti − T M sont-elles indépendantes ?
20
MAP311 – Aléatoire
5 PETITE CLASSE 5
Olivier Rioul
Espérance conditionnelle 71) (Estimation non-linéaire aux moindres carrés) On souhaite déterminer la meilleure approximation d’une v.a. réelle de carré intégrable Y ∈ L 2 par une fonction d’une v.a. réelle observée X de la forme ¡ f (X ) ∈¢L 2 , au sens des moindres carrés (dans L 2 ), c’est-à-dire qui minimise la quantité E (Y − f (X ))2 . Montrer que l’approximation optimale est l’espérance conditionnelle f ∗ (X ) = E¡(Y |X ). En ¡ ¢ ¢ 2 déduire et interpréter la formule de la variance totale : E (Y − E (Y |X )) = Var(Y ) − Var E (Y |X ) . 72) Soit X 1 , X 2 , . . . , X n des v.a. indépendantes et intégrables, et S = X 1 + X 2 + . . . + X n . Calculer E (X i |S) dans les cas où les X i sont : 1o identiquement distribuées ; 2o binomiales de même paramètre p (de longueurs n i ) ; 3o poissonniennes (de paramètres λi ).
21
MAP311 – Aléatoire
5 PETITE CLASSE 5
22
Olivier Rioul
MAP311 – Aléatoire
6 PETITE CLASSE 6
Olivier Rioul
6 Petite classe 6 Pré-requis : — convergence d’une suite de v.a. : en probabilité, en moyenne (L 1 ), presque sûre ; — convergence dominée ; — lois des grands nombres : faible, forte ; — Application statistique (Glivenko-Cantelli) 73) Déterminer si la suite (X n )n de v.a. indépendantes converge vers 0, selon la valeur de k entier > 0 et du mode de convergence choisi, dans les cas suivants : a) X n est une v.a. de Bernoulli de paramètre p n = b) X n est une v.a. de Poisson de paramètre λn =
1 nk
1 nk
;
;
c) X n est une v.a. binaire à valeurs dans {0, n 2 } avec P (X n = n 2 ) =
1 . nk
d) Pour ce dernier exemple avec k = 2, la loi des grands nombres est-elle satisfaite ? 74) Soit (X n )n >1 une suite de v.a. i.i.d. intégrables. a) Montrer que
Xn n
b) En déduire que
→ 0 p.s. maxn1 X i n
→ 0 p.s.
75) Bob mise tous les jours un millième de sa fortune à pile ou face avec Alice. a) Comment évolue sa fortune p.s. ? b) Comment évolue sa fortune dans L 1 ? 76) Soit (X n )n >1 une suite de v.a. i.i.d. de loi N (µ, σ2 ). Trouver la limite presque sûre de ´ ³1 X n e Xi . ln n i =1
77) (Kullback, Leibler, 1951) Soit (X n )n >1 une suite de v.a. discrètes de loi inconnue. On fait l’hypothèse que les X i suivent ou bien la distribution p(x) = P (X = x), ou bien une autre distribution q(x). On note Dn =
n 1X p(X i ) ln n i =1 q(X i )
(divergence empirique)
a) Trouver le signe de E (D n ) en fonction de l’hypothèse sur la loi des X i . b) En déduire un test statistique permettant de déterminer en convergence presque sûre laquelle des deux lois est la bonne. 78) (Shannon, 1948, Khinchine, McMillan, 1953, Breiman, 1957) Pour tout suite i.i.d. (X n )n >1 de v.a. à valeurs dans un ensemble fini de taille M , on note p(x 1 , x 2 , . . . , x n ) = P (X 1 = x 1 , X 2 = x 2 , . . . , X n = x n ). a) Trouver la limite presque sûre de − n1 ln p(X 1 , X 2 , . . . , X n ) et interpréter le résultat (qualifié de propriété d’équipartition asymptotique). b) Pour quelle loi la limite est-elle minimale ? maximale ?
23
MAP311 – Aléatoire
6 PETITE CLASSE 6
Olivier Rioul
Pour s’entraîner. . . Convergences d’une suite de v.a. 79) Soit (Un )n >1 une suite de v.a. indépendantes et uniformes sur un intervalle [a, b]. Trouver les limites en probabilité et presque sûres de min(U1 ,U2 , . . . ,Un ) et max(U1 ,U2 , . . . ,Un ). P P P 80) Donner un exemple de série X n convergente p.s. telle que E ( n X n ) 6= n E (X n ). 81) (Proposition 5.1.8 améliorée) Montrer que X n → X en probabilité si et seulement si de toute sous-suite X nk on peut extraire une sous-sous-suite X n 0 → X p.s. k
(On pourra utiliser Borel-Cantelli pour des événements bien choisis du type |X nk − X | > 2−k .) En déduire une nouvelle preuve rapide de la proposition 5.1.10 : si X n → X en probabilité, alors pour toute fonction continue, f (X n ) → f (X ) en probabilité. 82) (Kolmogorov, 1933) Soit (X n )n >1 une suite de v.a. réelles indépendantes. On note AN la tribu engendrée par tous les événements (boréliens) de la forme {(X N , X N +1 , . . . , X N +k ) ∈ A k }k >0 et on T considère un événement E ∈ N >0 AN , dit asymptotique. Par exemple, l’événement {X n converge quand n → ∞} est asymptotique. Montrer que pour tout N > 0, E est indépendant de tout événement du type {(X 1 , X 2 , . . . , X N −1 ) ∈ A N }, et en déduire que E est indépendant de lui-même : quelle peut être sa probabilité ? (Cette propriété est connue sous le nom de loi du tout ou rien). P Application. Montrer que si n1 ni=1 X i converge vers X p.s., alors la limite est constante : X = c p.s. (Considérer la fonction de répartition de X .)
Loi des grands nombres 83) (Chebyshev, 1867) On considère un tableau triangulaire, c’est-à-dire pour tout n > 1, une séquence X 1,n , X 2,n , . . . , X n,n de v.a. ∈ L 2 décorrélées deux à deux, de même moyenne m (indépendante de n) et de variances respectives σ21 , σ22 , . . . , σ2n telles que σ21 + σ22 + · · · + σ2n = o(n 2 ) (ce qui est toujours le cas si σ2n ne dépend pas de n). Démontrer la loi faible des grands nombres : n 1 X X k,n → m n k=1
en moyenne quadratique, en moyenne et en probabilité.
24
MAP311 – Aléatoire
7 PETITE CLASSE 7
Olivier Rioul
7 Petite classe 7 Pré-requis : — fonction caractéristique, exemples ; — convergence en loi : fonction de réparition, théorème de Lévy ; — cas d’une somme de v.a. indépendantes, liens avec les moments ; — théorème central limite (cas i.i.d. scalaire). ; 84) a) Calculer la fonction caractéristique de la loi laplacienne de paramètre λ > 0 définie par la densité λ −λ|x| e (x ∈ R). 2 b) En déduire la fonction caractéristique de la loi de Cauchy de paramètre a > 0 définie par la densité 1 a (x ∈ R). · 2 π a + x2 P c) Trouver alors la limite de la loi de n1 ni=1 X i quand n → ∞, où les X i sont i.i.d. de loi de Cauchy. Ce résultat contredit-il la loi des grands nombres ? 85) Si ϕ X +Y (u) = ϕ X (u)ϕY (u), les v.a. réelles X et Y sont-elles indépendantes ? 86) (Bernstein, 1941) Soit X , Y des v.a.r. indépendantes de carré intégrable et de moyenne nulle, telles que X + Y et X − Y soient indépendantes. Montrer que X et Y sont i.i.d. gaussiennes. n −λn 87) Soit X n une v.a. de Poisson de paramètre entier λn → ∞. Montrer que Xp converge en
λn
loi vers une limite à préciser. 88) Soit f une fonction réelle continue et bornée. Trouver les limites quand n → ∞ des quantités suivantes : Z 1 Z 1 ³ x1 + x2 + · · · + xn ´ a) ··· f d x1 d x2 · · · d xn n 0 0 X 1 ³k ´ f (nx)k e −nx (x > 0) b) n k >0 k! c) e −n
n nk X k=0 k!
89) (Slutsky, 1925) Toutes les convergences énoncés ici sont en loi. a) Est-il toujours vrai que si X n → X et Yn → Y , alors (X n , Yn ) → (X , Y ) ? b) Montrer, à l’aide des fonctions caractéristiques, que si X n → X et Yn → c (constante), alors le couple (X n , Yn ) → (X , c). c) En déduire les résultats utiles : X n + Yn → X + c et X n Yn → c X . d) Soit (X n )n >1 une suite de v.a. i.i.d. positives, de moyennes = 1 et de variances = σ2 . On p p P pose S n = ni=1 X i . Trouver la limite en loi de S n − n.
25
MAP311 – Aléatoire
7 PETITE CLASSE 7
Olivier Rioul
Pour s’entraîner. . . Fonction caractéristique 90) Si X et Y sont i.i.d., alors la distribution de X − Y est symétrique. Y a-t-il réciproque ? 91) Soit X 1 , X 2 , . . . , X n des v.a. indépendantes suivant des lois gamma d’indices α1 , α2 , . . . , αn et de même paramètre λ. Trouver, à l’aide de la fonction caractéristique, la loi de X 1 + X 2 + · · · + X n . Peut-on étendre ce résultat au cas où les paramètres des X i ne sont pas égaux ? 92) Le nombre N de communications mensuelles d’une ligne téléphonique suit une loi de Poisson d’intensité θ > 0, et chaque temps de communication, indépendamment des autres et de N , suit une loi exponentielle de paramètre λ. Trouver la fonction caractéristique, la moyenne, la variance et décrire la loi de la durée totale mensuelle d’occupation de la ligne. 93) On considère deux v.a. réelles symétriques i.i.d. X et Y telles que pour tout a, b > 0, a X + bY a même loi que (a + b)X . Trouver a et la loi de X et Y . 94) On considère deux v.a. réelles i.i.d. X et Y , de carré intégrable, telles que X + Y suit la même loi que a X pour un certain a ∈ R. Trouver a et la loi de X et Y . Donner une autre solution si on ne suppose pas X , Y de carré intégrable.
Convergence en loi 95) (a) Si une suite X n de v.a. discrètes de distribution p n (x) converge en loi vers une v.a. X discrète de distribution p(x), la suite des distributions p n (x) converge-t-elle vers p(x) ? (b) Si une suite X n de v.a. à densité p n (x) converge en loi vers une v.a. X à densité p(x), la suite des densités p n (x) converge-t-elle vers p(x) ? 96) Etudier la convergence en loi d’une v.a. exponentielle de paramètre λn > 0 de limite λ quand n → ∞, où 0 6 λ 6 +∞. 97) Montrer que la convergence en loi vers une constante équivaut à la convergence en probabilité vers cette même constante. 98) Soit X n uniforme sur {0, n1 , n2 , · · · , n−1 n }. Trouver la limite en loi de la suite X n . Montrer que cependant P (X n ∈ Q) ne converge pas vers P (X ∈ Q) et essayer d’expliquer ce phénomène. 99) Etudier la convergence en loi de la suite avec λ > 0.
Xn n , où
X n suit une loi géométrique de paramètre p n =
λ n
100) (Scheffé, 1947) Soit X n et X des v.a. réelles admettant les densités respectives p n (x) et p(x). Montrer que si p n (x) → p(x) pour presque tout x, alors X n → X en loi. (Utiliser le théorème de convergence dominée pour la mesure de Lebesgue en distinguant les cas où p n (x) < p(x) et p n (x) > p(x).) Ce résultat admet-il une réciproque ? 101) Donner un exemple de suite (X n )n de v.a. réelles pour laquelle la suite des fonctions caractéristiques ϕ X n (ω) converge pour tout ω ∈ R mais qui diverge en loi. 102) (Khintchine, 1928) Démontrer la loi faible des grands nombres (en convergence en probabilité) pour des v.a. i.i.d. intégrables (sans supposer l’existence de variances finies), à l’aide de la fonction caractéristique. 103) (Gumbel, 1958) Soit (X n )n >1 une suite de v.a. i.i.d. exponentielles de paramètre λ. On note M n = maxn1 X i . Trouver une suite αn → +∞ telle que M n − αn converge en loi vers une limite non triviale.
26
MAP311 – Aléatoire
7 PETITE CLASSE 7
Olivier Rioul
Théorème central limite (et variantes) 104) (Liapounov, 1901) Généraliser le théorème central limite pour des v.a. X n indépendantes de même P moyenne, de même variance et admettant des moments d’ordre 3 tels que ni=1 E (|X i − m|3 ) = o(n 3/2 ) (sans les supposer de même loi). 105) (Processus de Gauss-Markov) On définit la suite de v.a. réelles (X n )n >1 par récurrence : X 1 suit une loi N (0, 1), et pour tout n > 1, X n sachant X n−1 = x n−1 , X n−2 = x n−2 , . . . , X 1 = x 1 suit une loi 1 Pn N (x n−1 , 1). Trouver la limite en loi de n 3/2 i =1 X i . 106) Soit (X n )n >1 une suite de v.a. binaires i.i.d. uniformes sur {−1, 1}. Calculer la limite en loi de P S n = ni=1 2−i X i . 107) Soit (X n )n >1 une suite de v.a. i.i.d. centrées et réduites. Calculer la limite en loi de p p X 1 + 2X 2 + · · · + nX n Sn = . n 108) Soit (Un )n >1 une suite de v.a. i.i.d. uniformes sur [0, 1]. Trouver la limite en loi de Améliorer ce résultat à l’aide du théorème central limite.
p n U1U2 · · ·Un .
109) Soit (X n )n >1 une suite de v.a. i.i.d. de densité f bornée, symétrique, continue en 0 et telle que f (0) > 0. Trouver la limite en loi de la moyenne harmonique Hn , telle que 1 = Hn (On donne la valeur de l’intégrale
R
R
1−cos x x2
1 X1
+ X12 + · · · + X1n n
d x = lim A→∞
RA A
sin x x dx
= π.)
110) On suppose que le suite (X n )n >1 de v.a. i.i.d. vérifie le théorème central limite, qui est un résultat de convergence en loi. On veut montrer, par l’absurde, que cette convergence ne peut avoir lieu en p probabilité. On note Yn = S nσ−nm la somme réduite d’indice n. n a) Si c’était le cas, montrer que la différence Y2n − Yn entre les sommes réduites d’indice 2n et n tend vers 0 en probabilité. b) Montrer par ailleurs que Y2n = et conclure.
p1 (Yn 2
+ Yn0 ) où Yn0 converge en loi vers la même limite que Yn ;
27
MAP311 – Aléatoire
7 PETITE CLASSE 7
28
Olivier Rioul
MAP311 – Aléatoire
8 PETITE CLASSE 8
Olivier Rioul
8 Petite classe 8 Pré-requis : — vecteurs gaussiens ; — intervalle et niveau de confiance ; — introduction à l’estimation 111) Est-il possible que deux v.a. gaussiennes X et Y soient 1o de somme X + Y non gaussienne ? 2o composantes d’un vecteur (X , Y ) non gaussien ? 3o telles que (X , Y ) admette une densité non gaussienne ? 112) (Estimation aux moindres carrés (cas gaussien)) Soit X et Y des v.a. conjointement gaussiennes (c’est-à-dire composantes d’un même vecteur gaussien). a) Montrer que X et Y − aX sont indépendantes pour une constante a à déterminer. b) En déduire l’expression de E (Y |X ). Interpréter ce résultat à la lumière du titre de cet exercice. c) Si Y = f (X ), montrer que f est une fonction affine. 113) Soit (Un )n >1 une suite de v.a. i.i.d. uniformes sur un intervalle [0, θ] où θ est un paramètre inconnu à estimer. a) Montrer que M n = maxn1 Ui → θ p.s. b) Améliorer ce résultat en cherchant une suite αn → +∞ telle que αn (θ − M n ) converge en loi vers une limite non triviale. P c) Comparer à l’estimation de θ par n2 ni=1 Ui obtenue en utilisant le théorème central limite. On comparera les intervalles de confiance pour un niveau de confiance donné. 114) On considère un échantillon i.i.d. (X 1 , X 2 , . . . , X n ) pour la loi de Bernoulli (p) (p est inconnu quelconque ∈]0, 1[). Trouver un estimateur non biaisé de p ; existe-il un estimateur non p biaisé du ratio 1−p ? 115) On considère un échantillon X (de taille n = 1) pour la loi de Poisson (λ). Trouver un estimateur non biaisé de e −3λ (pour tout λ > 0). Qu’en pensez-vous ? 116) Soit f une fonction monotone bornée (donc intégrable) sur [0, 1]. On souhaite calculer R1 l’intégrale I = 0 f (x) d x à l’aide d’un générateur de v.a. (X n )n i.i.d. uniformes sur [0, 1]. ¡ a) Question préalable : montrer que si X et Y sont i.i.d. uniformes sur [0, 1], on a E ( f (X )− ¢ f (Y ))( f (1 − X ) − f (1 − Y )) 6 0. En déduire que Cov( f (X ), f (1 − X )) 6 0. b) Comparer les performances des estimateurs In =
2n 1 X f (X i ) 2n i =1
I n0 =
n 1 X f (X i ) + f (1 − X i ) 2n i =1
qui requièrent tous deux 2n applications de la fonction f . c) Application. Donner pour le cas d’école f (x) = x 2 le nombre n minimal permettant d’obtenir avec 95% de chances une précision de calcul de 1%.
29
MAP311 – Aléatoire
8 PETITE CLASSE 8
Olivier Rioul
Pour s’entraîner. . . Vecteurs gaussiens 117) A l’aide d’un générateur de réalisations de v.a. gaussiennes centrées et réduites indépendantes, trouver une méthode de simulation d’un vecteur gaussien centré de matrice de covariance donnée. 118) (Moments d’ordre supérieur) Soit X 1 , X 2 , . . . , X n des composantes (non nécessairement distinctes) d’un même vecteur gaussien centré. Puisque la loi de ce vecteur est uniquement déterminé par les coefficients E (X i X j ) de sa matrice de covariance, il existe une formule donnant E (X 1 X 2 · · · X n ) en fonction des E (X i X j ). Trouver cette formule. a) Commencer par le cas où les X i sont égales à Y b) Considérer ensuite une v.a. de la forme Y = u 1 X 1 + u 2 X 2 + · · · + u n X n . 119) (Lois du khi et du khi-deux, Pearson, 1900 ; définition 6.2.7) Soit X = (X 1 , X 2 , . . . , X n ) un vecteur de gaussien de composantes i.i.d. centrées et réduites. On note χ = kX k (norme euclidienne). Trouver la loi de χ2 et de χ.
Intervalle et niveau de confiance 120) (Estimation de la variance) Soit X 1 , X 2 , . . . , X n une suite i.i.d. de variables aléatoires réelles de carré intégrable, de moyenne m et de variance σ2 . On cherche respectivement à estimer m et σ2 par Xn = S n2 =
n 1X Xi n i =1
n 1X (X i − X n )2 n i =1
(moyenne empirique) (variance empirique)
a) Calculer les biais E (X n ) − m et E (S n2 ) − σ2 de ces estimateurs. b) Que peut-on dire de l’efficacité de ces estimateurs (pour la convergence presque sûre et en probabiité) ? 121) Combien de personnes aurait-il fallu interroger dans un sondage pour savoir à 95% que G. W. Bush allait être élu en Floride en 2000, sachant qu’il l’a été par 4000 voix d’écart sur 6 millions de votants ? 122) (Échantillonnage d’importance) On cherche à calculer par une méthode de Monte-Carlo l’intégrale R I = f (x)p(x) d x, où p est une densité de probabilité, à l’aide de tirages i.i.d. (X n )n de densité p(x) de probabilité q. On note w le rapport (fonction d’importance) w(x) = q(x) et on considère l’estimateur pondéré : n 1X w(X i ) f (X i ) In = n i =1 Vérifier sa limite presque sûre et donner une condition sous laquelle il vérifie le théorème central limite. Trouver alors le choix optimal de la densité q (qui minimise la variance de I n ).
Estimation 123) On considère un échantillon i.i.d. (X 1 , X 2 , . . . , X n ) pour la loi uniforme sur l’intervalle [0, θ]. Trouver l’estimateur de θ maximisant la vraisemblance (pour tout θ > 0). Est-il biaisé ? 124) On considère un échantillon i.i.d. (X 1 , X 2 , . . . , X n ) pour la loi laplacienne (double exponentielle) de densité 12 e −|x−θ| . Trouver l’estimateur de θ maximisant la vraisemblance (pour tout θ ∈ R).
30
MAP311 – Aléatoire
9 PETITE CLASSE 9
Olivier Rioul
9 Petite classe 9 Pré-requis : — ouverture aux processus aléatoires suites récurrentes aléatoires : marche aléatoire (ruine d’un joueur), processus de branchement (extinction), files d’attente (stabilité).
Révisions de tous les exercices : . . . choisir des exercices au hasard parmi ceux non faits en petites classes, et les faire . . . . . . le contrôle de l’année précédente . . .
31
MAP311 – Aléatoire
9 PETITE CLASSE 9
Olivier Rioul
Pour s’entraîner. . . Problème : Paradoxe de l’attente du bus sur une ligne où les passages sont prévus toutes les P minutes. On ne connait pas l’horaire exact des passages de sorte que les instants de passage des bus sont modélisés par des variables aléatoires T1 < T2 < · · · < Tn < Tn+1 < · · ·
A
LLONS PRENDRE LE BUS
où Tn désigne l’instant de passage du nième bus de la journée. On suppose que les chauffeurs de bus ne se concertent pas entre eux et que le traffic est stable, de sorte que les délais de passage ∆n = Tn+1 − Tn
(n > 1)
sont des variables aléatoires i.i.d. de même moyenne E(∆n ) = P > 0 (période moyenne de passage des bus). On note N t le nombre de bus passés avant l’instant t . Ainsi N t = n ⇐⇒ Tn < t 6 Tn+1 On arrive à l’instant t . Le dernier bus est passé à l’instant T Nt et le temps passé à attendre le bus est donc A = T Nt +1 − t .
Le trafic est fluide On suppose dans cette partie que le trafic est parfaitement fluide de sorte que chaque bus passe exactement toutes les P minutes. On adopte alors le modèle suivant : T Nt est une v.a. uniforme sur l’intervalle [t − P, t [. 1) Justifier ce modèle et calculer alors l’attente moyenne du bus.
Le trafic est dense La circulation est très perturbée. On pose T0 = 0 et on suppose désormais que l’instant de passage de chaque bus se fait au hasard entre les instants de passage des bus précédent et suivant : pour tout n > 1, la v.a. Tn sachant Tn−1 = t n−1 et Tn+1 = t n+1 , suit une loi uniforme dans l’intervalle ]t n−1 , t n+1 [ : p Tn |Tn−1 =tn−1 ,Tn+1 =tn+1 (t n ) =
1 t n+1 − t n−1
(t n−1 < t n < t n+1 ).
On note p(δ) la densité de probabilité commune aux ∆n (n > 0). 2) Montrer la relation p(t n − t n−1 )p(t n+1 − t n ) =
p Tn+1 |Tn−1 =tn−1 (t n+1 ) t n+1 − t n−1
pour tous t n−1 < t n < t n+1 . 3) En déduire que ∆n suit une loi exponentielle de paramètre λ =
1 P
(fréquence de passage des bus).
4) Montrer que le vecteur T = (T1 , . . . , Tn+1 ) suit la densité p T (t 1 , t 2 , . . . , t n+1 ) = λn+1 e −λtn+1 10
