Presentation bayesien

21
1 RJAIBI JIHEN M2.SML Réseaux bayésiens Réseaux bayésiens 02 décembre 2013

Transcript of Presentation bayesien

Page 1: Presentation bayesien

1

RJAIBI JIHEN M2.SML

Réseaux bayésiensRéseaux bayésiens

02 décembre 2013

Page 2: Presentation bayesien

2

PLAN DE LA PRESENTATION

1. Introduction aux Réseaux bayésiens

2. Théorème de Bayes

3. Réseaux byésiens naif

4. Notion de causalité

5. Apprentissage

6. Des applications des Réseaux bayésiens

7. Conclusion

8. Bibliographiesa

>> Plan de la présentation

1

Page 3: Presentation bayesien

3

1. Introduction aux Réseaux bayésiens

>> Introduction aux Réseaux bayésiens\Généralité

2

Page 4: Presentation bayesien

4

1. Introduction aux Réseaux bayésiens

>> Introduction aux Réseaux bayésiens\Approches probabilistes

3

Approches probabilistes

Chaque état de changement (événement) dans le monde réel peut être modélisé sous forme

de probabilité.

Par exemple, modéliser certains états de changement d’une voiture, d’un corps

humain, d’un marché financier, etc.

La probabilité d'un événement A est un nombre compris entre 0 et 1

Si P(A) = 1 alors la chance pour laquelle l'événement A aura lieu est certaine

Deux événements A et B sont dits indépendants si P(A,B) = P(A) . P(B)

Etant donné que l'événement B s’est produit, la probabilité de l’événement A se produira

est x, et s’écrit P(A|B) = x

Page 5: Presentation bayesien

5

1. Introduction aux Réseaux bayésiens

>> Introduction aux Réseaux bayésiens\Réseaux bayésiens\Définition

4

Réseaux bayésiens (1/2)

Définition

Les réseaux bayésiens sont la combinaison des approches probabilistes et la théorie de graphes.

Autrement dit, ce sont des modèles qui permettent de représenter des situations de raisonnement

probabiliste à partir de connaissances incertaines.

Ils sont aussi connus sous le nom de "belief networks", "causal networks".

Un réseau bayésien est un graphe acyclique orienté(1) i.e. c'est un graphe orienté sans

circuit.

Chaque nœud d’un réseau bayésien porte une étiquette qui est un des attributs de

problème.

(1) On dit souvent: un DAG. De l’anglais directed acyclic graph.

Page 6: Presentation bayesien

6

Réseaux bayésiens

1. Introduction aux Réseaux bayésiens

>> Introduction aux Réseaux bayésiens\Réseaux bayésiens\Exemple

5

Réseaux bayésiens (2/2)

Exemple

B

A C

A et C sont conditionnellement indépendants alors on peut dire

la probabilité P(A|B,C) = P(A|B)

C’est-à-dire que la probabilité de A ne dépend que celle de B

La probabilité jointe de toutes les variables est

P(A,B,C) = P(A|B) . P(B) . P(C|B)

Page 7: Presentation bayesien

7

Module Cognition et Connaissance

Réseaux bayésiens

2. Théorème de Bayes

>> Théorème de Bayes

6

Révérend Thomas Bayes, 1702-1761, un théologien et mathématicien britannique qui a écrit

une loi de base de probabilité qui est maintenant appelée le théorème de Bayes.

Deux événement A et B qui sont conditionnellement dépendants et un contexte c, le théorème

de Bayes peut être représenté comme ci-dessous :

P(B|A,c) est la probabilité a posteriori ou la probabilité de B après avoir pris en compte

l'effet de A dans un contexte c,

P(B|c) est la probabilité a priori de l'événement B,

P(A|B,c) est la probabilité de A si l'on suppose que B est vrai dans un contexte c. Elle est

appelée aussi la "vraisemblance",

P(A|c) est la normalisation.

Page 8: Presentation bayesien

8

2. Théorème de Bayes

>> Théorème de Bayes\Exemple

7

Exemple

Supposez que vous habitez à Londres, Angleterre, et d'après votre connaissance, pendant

l'hiver, il pleut 50% du temps et que c'est nuageux 80% du temps (quelquefois c'est nuageux

sans pluie). Vous savez, bien sûr, que 100% du temps, s'il pleut, alors c'est aussi nuageux.

Quelle est la chance que vous pensez qu'il va pleuvoir sachant qu'il soit simplement nuageux?

En appliquant la règle de Bayes, on peut calculer ceci

Pl : il pleut à Londres

N : Il est nuageux

Donc, 5/8 du temps, à Londres pendant hiver, si c'est nuageux, alors c'est pluvieux.

Page 9: Presentation bayesien

9

Module Cognition et Connaissance

Réseaux bayésiens

3. Notion de causalité

>> Notion de causalité

8

Il s’agit de la notion de « causes » et « effets »

Si A et B sont en relation causale, on les relie par une flèche orientée.

A

B

Page 10: Presentation bayesien

10

3. Notion de causalité

>> Notion de causalité\Exemple

9

Exemple (1/2)

Ce matin-là, alors que le temps est clair et sec, M. Homles sort de sa maison. Il s’aperçoit que

la pelouse de son jardin est humide. Il se demande alors s’il a plu pendant la nuit, où s’il a

simplement oublié de débrancher son arroseur automatique. Il jette alors un coup d’œil à la

pelouse de son voisin, M. Watson, et s’aperçoit qu’elle est également humide. Il en déduit

alors qu’il a probablement plu, et il décide de partir au travail sans vérification son arroseur

automatique.

Page 11: Presentation bayesien

11

Module Cognition et Connaissance

Réseaux bayésiens

3. Notion de causalité

>> Notion de causalité\Exemple

10

Exemple (2/2)

Prenons

• A : J’ai oublié de débrancher mon arroseur automatique.

• P : Il a plu pendant la nuit.

• J : L’herbe de mon jardin est humide.

• W : L’herbe du jardin de M. Watson est humide.

A

J

P

W

Page 12: Presentation bayesien

12

>> Inférences

11

Page 13: Presentation bayesien

13

6. Des applications des réseaux bayésiens (1/2)

>> Des applications des réseaux bayésiens

16

Marketing/Finance :

• ATT : détection de fraudes pour les factures de téléphone

• Altaprofit : optimisation de portefeuilles

Informatique :

• Microsoft : différents assistants de résolution de problèmes, l’assistant Office.

• MODIST : évaluation de la qualité pour des développements logiciels

• Reconnaissance de la parole, d’objets 3D…

• Diagnostic

Page 14: Presentation bayesien

14

6. Des applications des réseaux bayésiens (2/2)

>> Des applications des réseaux bayésiens

17

Médecine :

• Aide au diagnostic de problèmes cardio-vasculaires

• Surveillance transfusionnelle, ...

Industrie :

• NASA : (Vista) aide au diagnostic de pannes en temps réel pour les systèmes de

propulsion de la navette

• Lockheed Martin : système de contrôle d’un véhicule sous-marin autonome

• Ricoh : aide au télédiagnostic

• EDF : modélisation de groupes électrogènes

Environnement :

• Prédiction des pics d’ozone

• Prévisions météo

Page 15: Presentation bayesien

15

6. Des applications des réseaux bayésiens

>> Des applications des réseaux bayésiens\Exemples\AutoClass(NASA)

18

Exemples

AutoClass (NASA)

• Création de classes « naturelles » à partir de données numériques

• Appartenance probabiliste

• Gestion de données manquantes

Page 16: Presentation bayesien

16

Réseaux bayésiens

6. Des applications des réseaux bayésiens

>> Des applications des réseaux bayésiens\Exemples\Nombreuses utilisations …

19

Exemples

De nombreuses utilisations pour la NASA et pour d’autres

Page 17: Presentation bayesien

17

Réseaux bayésiens

6. Des applications des réseaux bayésiens

>> Des applications des réseaux bayésiens\Exemples\Aide au diagnostic médical

20

Exemples

Aide au diagnostic médical

Diagnostique d’une maladie pulmonaire à partir de:

• les symptômes du patient

• ses activités

• les résultats de la radiographie

Page 18: Presentation bayesien

18

Réseaux bayésiens

6. Des applications des réseaux bayésiens

>> Des applications des réseaux bayésiens\Construction d’un réseau bayésien

21

Construction d’un réseaux bayésien

La construction d’un réseau bayésien se fait en 4 étapes:

1 - création des variables représentant l’univers

2 - définition de l’ensemble des valeurs possibles pour chaque variable

3 - définition des relations de dépendances entre les variables

4 - attribution des probabilités conditionnelles

Page 19: Presentation bayesien

19

Module Cognition et Connaissance

Réseaux bayésiens

7. Conclusion

>> Conclusion\Les réseaux bayésiens

23

Les réseaux bayésiens

Formalisme mathématique rigoureux basé sur des règles.

Outil puissant pour l’aide à la décision et au diagnostic.

Intelligence artificielle: exploitation des connaissances incertaines.

Limites: causalité, complexité.

Page 20: Presentation bayesien

20

Merci de votre attention

?

Questions

Page 21: Presentation bayesien

21

Module Cognition et Connaissance

Réseaux bayésiens

8. Bibliographies

[1] : Pearl, J. (1988). Probabilistic Reasoning in Intelligent Systems: Networks of Plausible

Inference. Morgan Kaufmann, San Mateo, CA.

[2] : Howard, R. A., & Matheson, J. E. (1981). Influence diagrams. In Howard, R. A., &

Matheson,

J. (Eds.), The Principles and Applications of Decision Analysis, page 720–762. Strategic

Decisions Group, CA.

[3] : Antoine Cornuéjols, Laurent Miclet, Apprentissage artificiel: Concepts et algorithmes,

édition Eyrolles, page 364-365.

[4] : Stutz, J. & P. Cheeseman, "A Short Exposition on Bayesian Inference and Probability."

June 1994. National Aeronautic and Space Administration Ames Research Centre:

Computational Sciences Division, Data Learning Group,

[5] : Thomas Richardson. Bayes Net course, Helsinki, April 1997. Lecture 4 part 2, page 5.

http://www.cs.helsinki.fi/research/cosco/Calendar/BNCourse/Notes.html

[6] : Todd A. Stephenson. An introduction to Bayesian network theory and usage. IDIAP-RR 00-

03, febuary 2003