THEORIE ELEMENTAIRE DES PROBABILITES

Théorie élémentaire des Probabilités – Rappels d'analyse combinatoire

THEORIE ELEMENTAIRE DES PROBABILITES

Définitions Une épreuve ou une expérience, c'est la réalisation de certaines conditions à l'issue desquelles un événement E peut se produire ou ne pas se produire. Exemple : Epreuve : Evénement : Lancer d'un dé Ö sortie d'un 6 Crue d'une rivière Ö présence d'eau sur la route qui borde la rivière L'épreuve est aléatoire dans la mesure où son résultat ne peut être prévu avec certitude. Par convention, l'événement E auquel on s'intéresse est l'événement favorable. La probabilité c'est le nombre de cas favorables sur le nombre de cas possibles Si on a n épreuves et k événements favorables E, la fréquence relative de E a pour valeur k/n =n'E qui est une estimation de la probabilité p qu'à un événement E de se produire à l'issue d'une épreuve. La probabilité est la limite vers laquelle tend la fréquence relative n'E quand n tend vers l'infini 8 Exemple du jet de pièces de monnaie : la fréquence relative liée à l'apparition du coté "face" de la pièce tend vers 0,5 mais sans garantir que cette valeur soit strictement exacte (même après 10 000 jets) : expérience de Kerrich (1946).

Propriétés fondamentales des probabilités Si on considère un événement E 1 alors P(E 1 ) est la probabilité d'observer E1 à l'issue d'une épreuve. Comme pour les fréquences relatives on a 0 ≤ P(E 1 ) ≤ 1 •

Si P(E 1 ) = 1

l'événement est dit certain

•

Si P(E 1 ) = 0

l'événement est dit impossible

Probabilité d'observer l'un ou l'autre de plusieurs événements (propriété additivité) : soit une épreuve à laquelle on associe deux événements E 1 et E 2 : •

Si les deux événements ne peuvent se produire simultanément on a affaire à des

événements exclusifs ou incompatibles et P(E1 ou E2) = P(E1) +P(E2)

1

Théorie élémentaire des Probabilités – Rappels d'analyse combinatoire

•

Si les deux événements peuvent se produire en même temps ou ne sont pas

nécessairement exclusifs on a

P(E1 ou E2) = P(E1) + P(E2) – P(E1 et E2)

•

D'où d'une manière générale

P(E1 ou E2) ≤ P(E1) + P(E2)

•

Si on a m événements (E1, E2, …, Em) mutuellement exclusifs, on trouve par

récurrence que

P(E1 ou E2 ou … ou Em) = P(E1) + P(E2) + … + P(Em)

• Si m événements sont mutuellement exclusifs et si l'un d'entre eux doit nécessairement se réaliser, les événements sont dits complémentaires ou complètement exclusifs et on a

P(E1 ou E2 ou … ou Em) = P(E1) + … + P(Em) = 1

On peut montrer qu'avec trois événements non nécessairement exclusifs on aboutit à : P(E1 ou E2 ou E3) = P(E1) + P(E2) + P(E3) – P(E1 et E2) – P(E1 et E3) – P(E2 et E3) + P(E1 et E2 et E3)

Probabilité et théorie des ensembles On peut également raisonner en terme d'ensembles. Supposons que pour une expérience (ou épreuve) aléatoire donnée, Ω constitue l'ensemble des résultats possibles. Tout événement aléatoire favorable E1 correspond alors à un sous-ensemble de Ω. On associe à E1 un nombre P(E1) appelé probabilité, qui représente le rapport de l'aire de E1 sur l'aire de Ω. On a alors : •

0 ≤ P(E 1 ) ≤ 1

•

P(Ω) = 1

•

P(∅) = 0

pour tout E1 ⊂ Ω avec ∅ = ensemble vide

Ω

Ω

E1

E1 E2

E2 •

Événements exclusifs :

•

Evénements compatibles

P(E1 ou E2) = P(E1 ∪ E2) = P(E1) + P(E2)

P(E1 ∪ E2) = P(E1) + P(E2) - P(E1 ∩ E2)

P(E1 et E2) = P(E1 ∩ E2) = 0

D'où P(E1 ∩ E2) = P(E1) + P(E2) - P(E1 ∪ E2)

2

Théorie élémentaire des Probabilités – Rappels d'analyse combinatoire

La probabilité conditionnelle Soit une épreuve aléatoire pouvant conduire à la réalisation de deux événements E1 et E2 non nécessairement exclusifs. Lorsque P(E2) est non nulle, on définit la probabilité conditionnelle ou liée de E1 sous la condition E2 par :

P(E1|E2) = P(E1 et E2) / P(E2)

Et de même si P(E1) est non nulle : P(E2|E1) = P(E1 et E2) / P(E1) Cette définition conduit à la propriété de multiplicativité ou de la probabilité composée qui reste valable même si P(E1) et P(E2) sont nuls : P(E1 et E2) = P(E1) P(E2|E1) = P(E2) P(E1|E2) Pour m événements on démontre par récurrence que : P(E1 et … et Em) = P(E1) P(E2|E1) … P(Em|E1 … Em-1)

L'indépendance stochastique L'événement E1 est dit stochastiquement indépendant de E2 si la probabilité de voir se réaliser E1 ne dépend pas de la réalisation ou de la non-réalisation de E2, c'est à dire : P(E1|E2) = P(E1|E2) = P(E1)

où E est la non-réalisation de E

D'où P(E1 et E2) = P(E1) P(E2) La notion d'indépendance stochastique s'applique également à plus de deux événements aléatoires. On dit que m événements sont stochastiquement indépendants si pour tout ensemble formé de k de ces événements : P(E1 et … et Ek) = P(E1) … P(Ek) Il faut cependant noter que l'indépendance stochastique de m événements deux à deux n'entraîne pas nécessairement l'indépendance stochastique de l'ensemble des m événements. 8 Exemple : jet simultané de deux dés : si E1 = chiffre impair sur un dé ; E2 = chiffre impair sur l'autre dé et E3 = la somme des deux est impaire alors ces événements sont indépendants deux à deux, mais : P(E1 et E2 et E3) = 0 et non pas P(E1) P(E2) P(E3) = (1/2) 3

3

Théorie élémentaire des Probabilités – Rappels d'analyse combinatoire

Les tirages successifs sans remise et les tirages simultanés de plusieurs individus dans une population finie ne sont pas des expériences aléatoires indépendantes. Quand on fait des tirages successifs dans une population finie, il faut remettre les individus après chaque tirage pour que les tirages soient indépendants.

Réalisation d'au moins un événement parmi m événements indépendants et non complémentaires : Soit k événements indépendants, alors les événements contraires le sont aussi. P(E1 et E2 et … et Em) = P(E1) P(E2) … P(Em) = [1- P(E1)] [1- P(E2)] … [1- P(Em)] P(E1 ou E2 ou … ou Em) = 1 - [1- P(E1)] [1- P(E2)] … [1- P(Em)] Si les m événements ont la même probabilité p, on a P(E1 ou E2 ou … ou Em) = 1 – (1-p)m 8 Application : calcul de la probabilité d'avoir au moins une fois un débit décennale au cours des n prochaines années : Le débit décennale est définit par une probabilité P(E) = 0,1 d'où P(E) = 0,9 Si on fait l'hypothèse de l'indépendance des années successives, alors : P(Eannée 1 ou Eannée 2 ou … ou Eannée n) = 1 – (1-0,1)n Si n = 10 ans, on a 65% de chance de voir un débit décennal sur cette période.

Formule de la probabilité complète – Théorème de Bayes Soit E1 , E2 , … , Em , m événements constituant un système complet d'événements. A chaque réalisation de Ej est associé un autre événement A avec une certaine probabilité P(A|Ej) appelée probabilité à priori. La probabilité de voir apparaître A, c'est à dire la probabilité complète s'écrit : P(A) = Σ P(A et Ej) = Σ P(Ej) P(A| Ej)

Théorème de Bayes : on vient d'observer A et on cherche P(Ej |A) appelée probabilité à postériori. Comme on sait que P(A et Ej) = P(A) P(Ej |A) = P(Ej) P(A| Ej) et on en déduit P(Ej |A) = P(Ej) P(A| Ej) / P(A) = P(Ej) P(A| Ej) / Σ P(Ej) P(A| Ej)

4

Théorie élémentaire des Probabilités – Rappels d'analyse combinatoire

8 Application : Une première urne contient une boule blanche et une boule noire. Une seconde urne contient deux boules blanches et une boule noire. On tire au hasard une boule de la première urne et on la met dans la seconde. On tire ensuite au hasard une boule de la seconde urne. Cette boule est noire. Quelle est alors la probabilité que la première boule tirée ait été blanche ? Les probabilités connues à priori sont : E1 : boule blanche

P(B1) = ½

E2 : boule noire

P(N1) = ½

A : boule noire

P(N|B1) = ¼ P(N|N1) = ½

La probabilité totale de N est P(N) = P(N et B1) + P(N et N1) puisque N dépend de B1 et N1. P(N) = P(B1) P(N|B1) + P(N1) P(N|N1) = ½ × ¼ + ½ × ½ = 3/8 La probabilité à postériori est P(B1|N) = P(B1) P(N|B1) / P(N) = ½ × ¼ /(3/8) = 1/3 Remarque : on commet de graves erreurs quand les probabilités à priori sont mal connues.

Entropie d'un système complet de k événements :

H=−

k

∑ P(E j ) log 2 P(E j ) j=1

Elle mesure l'incertitude associée à la réalisation d'un événement (le désordre d'une situation). L'entropie est maximale si les événements sont équiprobables : tout peut arriver !

5

Théorie élémentaire des Probabilités – Rappels d'analyse combinatoire

RAPPELS D'ANALYSE COMBINATOIRE •

Principe fondamental : Soit une épreuve 1 ayant n1 résultats possibles et une épreuve 2

ayant n2 résultats possibles. Alors la succession des deux épreuves donnera n1 × n2 résultats possibles.

•

Factorielle : on définit la factorielle du nombre n par l'expression : et 0! = 1

n! = n × ( n − 1) × ( n − 2 ) × ... × 2 × 1

n

quand n est grand, on peut utiliser l'approximation de STIRLING : n! ≅ 2 πn × n × e

−n

• Tirage de r objets dans un ensemble fini de n objets, avec remise : à chaque tirage il y a la même probabilité de tirer un objet. Donc si on tire r objets dans n avec remise, la série des r

r objets peut être constituée de n × n × ... × n = n façons différentes.

• Tirage de r objets dans un ensemble fini de n objets, sans remise : on distingue alors deux types d'ensemble de séries : Les séries dont les objets sont différents (sans remise) et où leur ordre est aussi différent : Arrangements Les séries dont seulement les objets sont différents (on ne les distingue plus aussi par leur ordre) : Combinaisons r

Ö Arrangement : A n = n( n − 1)( n − 2 )...( n − r + 1) =

r An r = Ö Combinaison : C n =

r!

•

n! ( n − r )!

n! ( n − r )! r!

Nombre de combinaisons de 0 à n éléments issues d'un ensemble de n éléments : 2n

On le démontre avec l'expression du binôme de Newton pour x=1 Binôme de Newton : (1 + x) Avec x=1 on trouve

n

n

0 0 n

1 1 n −1

= Cn 1 x + Cn 1 x 0

1

n n 0

+ ... + C n 1 x

n

( 2 ) = C n + C n + ... + C n

Autre problème ayant la même solution : r tirages avec remise dans un ensemble de 2 éléments

= 2r

(exemple : effectif de l'ensemble des nombres binaires de r chiffres)

6