PROBABILITES CONDITIONNELLES ET THEOREME DE BAYES

Principes et Méthodes de la Biostatistique

Chapitre 2

PROBABILITES CONDITIONNELLES ET THEOREME DE BAYES A- PROBABILITES CONDITIONNELLES Commençons par un cas très simple. Disposant d’un dé parfait, on se demande quelle est la probabilité d’observation d’un 1 sachant que le résultat est impair. Tout à fait intuitivement, on dira, à juste titre, que cette probabilité est 1/3 : 1 événement élémentaire favorable (le 1) sur 3 événements conduisant à l’événement « impair ». De façon plus formelle, considérons deux événements A et B, sous ensembles de l’ensemble des événements élémentaires d’une épreuve E. Nous cherchons à définir la probabilité de l’événement B sachant que A est réalisé. Il faut se limiter au sous-ensemble A et chercher la « masse » relative de la partie de B contenue dans A par rapport à la masse de A. Ceci conduit naturellement à la définition de la probabilité conditionnelle : Pr{A et B} Pr{B si A}= Pr{A} On utilise également la notation Pr{B/A} pour désigner la probabilité conditionnelle. On la désigne aussi parfois par le vocable «probabilité a posteriori», par opposition à P{B} appelée «probabilité a priori». A partir de la définition, on peut facilement vérifier que 1) Pr{B/A}=0 si A ∩ B = ∅ (A et B incompatibles). 2) Pr{B/A}=1 si A ∩ B = A (A implique B). 3) 0≤Pr(B/A}≤1. La probabilité conditionnelle est donc bien comprise entre 0 et 1 ; de plus elle satisfait à Pr{B1 ∪ B2 / A} = Pr{B1 / A} + Pr{B2 / A} − Pr{B1 ∩ B2 / A}.

La probabilité conditionnelle a donc bien les propriétés d’une probabilité. Pr{A et B} On peut définir de façon symétrique Pr{A/ B} = . Pr{B} De ces relations on tire que Pr{A et B} = Pr{A} Pr{B / A} = Pr{B} Pr{A / B}, qu’on peut exprimer concrètement sous la forme suivante : la probabilité que A et B se réalisent est égale au produit de la probabilité que A se réalise par la probabilité que B se réalise une fois A réalisé. (idem en intervertissant A et B).

Probabilités conditionnelles et Théorème de Bayes

4

Principes et Méthodes de la Biostatistique

B- THEOREME DE BAYES

Ce théorème (ou formule de Bayes) est l’un des plus célèbres de la statistique. Les relations précédentes permettent d’écrire que Pr{B / A} =

Pr{B} Pr{A/ B} Pr{A et B} = Pr{A} Pr{A}

Mais A est la réunion des 2 événements incompatibles {A et B} d’une part, {A et B } de l’autre. Comme Pr{A et B} = Pr{B} Pr{A / B} (avec une expression analogue pour B ), on en tire : Pr{B} Pr{A / B} Pr{B / A} = Pr{B}Pr{A / B}+ Pr{B}Pr{A / B} Cette formule paraît fort rébarbative ; en fait, on peut très facilement s’en souvenir en l’interprétant de façon concrète. En effet, que nous dit-elle ? Tout simplement que la probabilité a posteriori est proportionnelle (ou égale à un facteur multiplicatif près, k) au produit de la probabilité a priori par l’autre probabilité a posteriori, soit Pr{B / A} = k Pr{B}Pr{A / B} . Comment trouver le facteur k ? Très aisément, en écrivant une formule analogue pour B , soit Pr{B / A} = k Pr{B }Pr{A / B}. Comme Pr{B / A} + Pr{B / A} = 1 (les 2 événements sont complémentaires), on en déduit k qui est l’inverse de la somme des deux produits de probabilités. Exemple : on sait que dans la population 5 hommes sur 100 sont daltoniens, contre 25 femmes sur 10 000. Un daltonien est choisi au hasard dans la population ; quelle est la probabilité que ce soit un homme ? (on admettra qu’il y a autant d’hommes que de femmes dans la population). On a (avec des notations évidentes) :  1 5  Pr{H / D} = k Pr{H}Pr{D / H} = k 2 100  Pr{F / D} = k Pr{F}Pr{D / F} = k 1 25  2 10000 1 5 20 2 100 Donc Pr{H / D} = = 1 5 1 25 21 + 2 100 2 10000

Probabilités conditionnelles et Théorème de Bayes

5

Principes et Méthodes de la Biostatistique

Il est encore plus simple de considérer la table qui croise sexe et daltonisme et de la remplir avec les éléments dont on dispose. H F Total D (1) (2) (1) + (2) D (3) (4) (3) + (4) Total 0.5 0.5 1 1 5 1 25 et la case (2) est , la probabilité demandée 2 100 2 10000 (1) 20 est tout simplement = . La formule de Bayes se ramène donc à des considérations (1) + (2) 21 élémentaires de simple bon sens.

La case (1) est Pr{H et D}=

L’exercice ci-après montre une extension immédiate du théorème de Bayes : devant un malade, on hésite entre 3 maladies M1, M2, M3 (et seulement elles) de probabilités p1, p2, p3. On effectue un examen E dont le résultat peut être positif ou négatif. On sait que les probabilités que l’examen soit positif sont Se1, Se2, Se3 (sensibilité de E vis-à-vis de chacune des maladies). On effectue E ; il est négatif. Que deviennent les probabilités des 3 maladies ? C’est facile :  Pr{M / E −} = k Pr{M }Pr{E − / M } = k p (1 − Se ) 1 1 1 1 1   Pr{M2 / E −} = k Pr{M2}Pr{E − / M2 } = k p2 (1 − Se2 )   Pr{M3 / E −} = k Pr{M3}Pr{E − / M3} = k p3 (1 − Se3 )

k étant l’inverse de la somme Σpi(1-Sei).

C- INDEPENDANCE EN PROBABILITE

Par définition, deux événements A et B sont indépendants en probabilité si Pr{A et B}=Pr{A}*Pr{B} Si A et B sont indépendants, A est aussi indépendant du complémentaire de B, B du complémentaire de A, et les deux complémentaires sont indépendants. En effet du tableau cidessous : A A Total B P(AB) = P(A)P(B) P(A B) P(B) B P(AB ) P(AB ) P(B ) Total P(A) P(A) 1

on tire, par exemple, que

P(A B) = P(B) − P( AB) = P(B) − P(A)P(B) = P(B)(1 − P(A)) = P(B)P(A ), qui montre l’indépendance de A et B.

Probabilités conditionnelles et Théorème de Bayes

6

Principes et Méthodes de la Biostatistique

De la définition d’indépendance de A et B, on déduit que Pr{B/A) =

Pr{A et B} =Pr{B}. Pr{A}

Si deux événements sont indépendants, la connaissance du fait que l’un s’est réalisé ou non, ne modifie en rien la probabilité de l’autre ; la probabilité a posteriori est égale à la probabilité a priori. Cette propriété est à l’origine du mot « indépendance en probabilité ». Exemple : Une boîte contient quatre tickets numérotés 112, 121, 211, 222. On en choisit un au hasard et on considère les événements A1={1 est en première position}, A2={1 est en 1 seconde position}, A3={1 est en troisième position}. Clairement Pr{A1}=Pr{A2}=Pr{A3} = 2 1 et Pr{A1A2}=Pr{A1A3}=Pr{A2A3}= . Les trois événements sont indépendants deux à deux 4 (mais, attention, on en ne peut en déduire que Pr{A1A2A3}=Pr{A1}Pr{A2}Pr{A3} ; en effet, le 1 premier terme est nul, alors que le second vaut ). 8

Dans cet exemple, les événements considérés étaient définis à partir de la même expérience (ou épreuve). Il peut en être autrement : le résultat du jet de 2 pièces de monnaie peut être défini comme résultat de l’épreuve consistant à jeter 2 pièces identiques ou comme résultat de 2 épreuves différentes, consistant chacune à jeter une pièce (ou successivement la même pièce). Si les probabilités des résultats d’un jet ne sont en rien modifiées par le résultat de l’autre, les deux événements sont indépendants. Si on a jeté dix fois une pièce de monnaie exacte, et que les dix tirages ont montré face, la probabilité de face au onzième tirage est 1 toujours . Comme contre exemple, les résultats de tirages successifs dans une urne 2 contenant des boules de deux couleurs et dans laquelle on ne remet pas la boule que l’on vient de tirer ne sont pas indépendants.

A SAVOIR

Probabilité conditionnelle : Pr{B/A}=

Pr{ A et B} Pr{A}

Pr{A et B}= Pr{A} Pr{B/A}= Pr{B} Pr{A/B} Théorème de Bayes : Pr{B/A} =k Pr{B} Pr{A/B} (k facteur de proportionnalité) Indépendance de deux événements : Pr{A et B}=Pr{A} Pr{B} Pr{B / A} = Pr{B / A} = Pr{B}

Probabilités conditionnelles et Théorème de Bayes

7