Presentation bayesien
Transcript of Presentation bayesien
1
RJAIBI JIHEN M2.SML
Réseaux bayésiensRéseaux bayésiens
02 décembre 2013
2
PLAN DE LA PRESENTATION
1. Introduction aux Réseaux bayésiens
2. Théorème de Bayes
3. Réseaux byésiens naif
4. Notion de causalité
5. Apprentissage
6. Des applications des Réseaux bayésiens
7. Conclusion
8. Bibliographiesa
>> Plan de la présentation
1
3
1. Introduction aux Réseaux bayésiens
>> Introduction aux Réseaux bayésiens\Généralité
2
4
1. Introduction aux Réseaux bayésiens
>> Introduction aux Réseaux bayésiens\Approches probabilistes
3
Approches probabilistes
Chaque état de changement (événement) dans le monde réel peut être modélisé sous forme
de probabilité.
Par exemple, modéliser certains états de changement d’une voiture, d’un corps
humain, d’un marché financier, etc.
La probabilité d'un événement A est un nombre compris entre 0 et 1
Si P(A) = 1 alors la chance pour laquelle l'événement A aura lieu est certaine
Deux événements A et B sont dits indépendants si P(A,B) = P(A) . P(B)
Etant donné que l'événement B s’est produit, la probabilité de l’événement A se produira
est x, et s’écrit P(A|B) = x
5
1. Introduction aux Réseaux bayésiens
>> Introduction aux Réseaux bayésiens\Réseaux bayésiens\Définition
4
Réseaux bayésiens (1/2)
Définition
Les réseaux bayésiens sont la combinaison des approches probabilistes et la théorie de graphes.
Autrement dit, ce sont des modèles qui permettent de représenter des situations de raisonnement
probabiliste à partir de connaissances incertaines.
Ils sont aussi connus sous le nom de "belief networks", "causal networks".
Un réseau bayésien est un graphe acyclique orienté(1) i.e. c'est un graphe orienté sans
circuit.
Chaque nœud d’un réseau bayésien porte une étiquette qui est un des attributs de
problème.
(1) On dit souvent: un DAG. De l’anglais directed acyclic graph.
6
Réseaux bayésiens
1. Introduction aux Réseaux bayésiens
>> Introduction aux Réseaux bayésiens\Réseaux bayésiens\Exemple
5
Réseaux bayésiens (2/2)
Exemple
B
A C
A et C sont conditionnellement indépendants alors on peut dire
la probabilité P(A|B,C) = P(A|B)
C’est-à-dire que la probabilité de A ne dépend que celle de B
La probabilité jointe de toutes les variables est
P(A,B,C) = P(A|B) . P(B) . P(C|B)
7
Module Cognition et Connaissance
Réseaux bayésiens
2. Théorème de Bayes
>> Théorème de Bayes
6
Révérend Thomas Bayes, 1702-1761, un théologien et mathématicien britannique qui a écrit
une loi de base de probabilité qui est maintenant appelée le théorème de Bayes.
Deux événement A et B qui sont conditionnellement dépendants et un contexte c, le théorème
de Bayes peut être représenté comme ci-dessous :
P(B|A,c) est la probabilité a posteriori ou la probabilité de B après avoir pris en compte
l'effet de A dans un contexte c,
P(B|c) est la probabilité a priori de l'événement B,
P(A|B,c) est la probabilité de A si l'on suppose que B est vrai dans un contexte c. Elle est
appelée aussi la "vraisemblance",
P(A|c) est la normalisation.
Où
8
2. Théorème de Bayes
>> Théorème de Bayes\Exemple
7
Exemple
Supposez que vous habitez à Londres, Angleterre, et d'après votre connaissance, pendant
l'hiver, il pleut 50% du temps et que c'est nuageux 80% du temps (quelquefois c'est nuageux
sans pluie). Vous savez, bien sûr, que 100% du temps, s'il pleut, alors c'est aussi nuageux.
Quelle est la chance que vous pensez qu'il va pleuvoir sachant qu'il soit simplement nuageux?
En appliquant la règle de Bayes, on peut calculer ceci
Pl : il pleut à Londres
N : Il est nuageux
Donc, 5/8 du temps, à Londres pendant hiver, si c'est nuageux, alors c'est pluvieux.
Où
9
Module Cognition et Connaissance
Réseaux bayésiens
3. Notion de causalité
>> Notion de causalité
8
Il s’agit de la notion de « causes » et « effets »
Si A et B sont en relation causale, on les relie par une flèche orientée.
A
B
10
3. Notion de causalité
>> Notion de causalité\Exemple
9
Exemple (1/2)
Ce matin-là, alors que le temps est clair et sec, M. Homles sort de sa maison. Il s’aperçoit que
la pelouse de son jardin est humide. Il se demande alors s’il a plu pendant la nuit, où s’il a
simplement oublié de débrancher son arroseur automatique. Il jette alors un coup d’œil à la
pelouse de son voisin, M. Watson, et s’aperçoit qu’elle est également humide. Il en déduit
alors qu’il a probablement plu, et il décide de partir au travail sans vérification son arroseur
automatique.
11
Module Cognition et Connaissance
Réseaux bayésiens
3. Notion de causalité
>> Notion de causalité\Exemple
10
Exemple (2/2)
Prenons
• A : J’ai oublié de débrancher mon arroseur automatique.
• P : Il a plu pendant la nuit.
• J : L’herbe de mon jardin est humide.
• W : L’herbe du jardin de M. Watson est humide.
A
J
P
W
12
>> Inférences
11
13
6. Des applications des réseaux bayésiens (1/2)
>> Des applications des réseaux bayésiens
16
Marketing/Finance :
• ATT : détection de fraudes pour les factures de téléphone
• Altaprofit : optimisation de portefeuilles
Informatique :
• Microsoft : différents assistants de résolution de problèmes, l’assistant Office.
• MODIST : évaluation de la qualité pour des développements logiciels
• Reconnaissance de la parole, d’objets 3D…
• Diagnostic
14
6. Des applications des réseaux bayésiens (2/2)
>> Des applications des réseaux bayésiens
17
Médecine :
• Aide au diagnostic de problèmes cardio-vasculaires
• Surveillance transfusionnelle, ...
Industrie :
• NASA : (Vista) aide au diagnostic de pannes en temps réel pour les systèmes de
propulsion de la navette
• Lockheed Martin : système de contrôle d’un véhicule sous-marin autonome
• Ricoh : aide au télédiagnostic
• EDF : modélisation de groupes électrogènes
Environnement :
• Prédiction des pics d’ozone
• Prévisions météo
15
6. Des applications des réseaux bayésiens
>> Des applications des réseaux bayésiens\Exemples\AutoClass(NASA)
18
Exemples
AutoClass (NASA)
• Création de classes « naturelles » à partir de données numériques
• Appartenance probabiliste
• Gestion de données manquantes
16
Réseaux bayésiens
6. Des applications des réseaux bayésiens
>> Des applications des réseaux bayésiens\Exemples\Nombreuses utilisations …
19
Exemples
De nombreuses utilisations pour la NASA et pour d’autres
17
Réseaux bayésiens
6. Des applications des réseaux bayésiens
>> Des applications des réseaux bayésiens\Exemples\Aide au diagnostic médical
20
Exemples
Aide au diagnostic médical
Diagnostique d’une maladie pulmonaire à partir de:
• les symptômes du patient
• ses activités
• les résultats de la radiographie
18
Réseaux bayésiens
6. Des applications des réseaux bayésiens
>> Des applications des réseaux bayésiens\Construction d’un réseau bayésien
21
Construction d’un réseaux bayésien
La construction d’un réseau bayésien se fait en 4 étapes:
1 - création des variables représentant l’univers
2 - définition de l’ensemble des valeurs possibles pour chaque variable
3 - définition des relations de dépendances entre les variables
4 - attribution des probabilités conditionnelles
19
Module Cognition et Connaissance
Réseaux bayésiens
7. Conclusion
>> Conclusion\Les réseaux bayésiens
23
Les réseaux bayésiens
Formalisme mathématique rigoureux basé sur des règles.
Outil puissant pour l’aide à la décision et au diagnostic.
Intelligence artificielle: exploitation des connaissances incertaines.
Limites: causalité, complexité.
20
Merci de votre attention
?
Questions
21
Module Cognition et Connaissance
Réseaux bayésiens
8. Bibliographies
[1] : Pearl, J. (1988). Probabilistic Reasoning in Intelligent Systems: Networks of Plausible
Inference. Morgan Kaufmann, San Mateo, CA.
[2] : Howard, R. A., & Matheson, J. E. (1981). Influence diagrams. In Howard, R. A., &
Matheson,
J. (Eds.), The Principles and Applications of Decision Analysis, page 720–762. Strategic
Decisions Group, CA.
[3] : Antoine Cornuéjols, Laurent Miclet, Apprentissage artificiel: Concepts et algorithmes,
édition Eyrolles, page 364-365.
[4] : Stutz, J. & P. Cheeseman, "A Short Exposition on Bayesian Inference and Probability."
June 1994. National Aeronautic and Space Administration Ames Research Centre:
Computational Sciences Division, Data Learning Group,
[5] : Thomas Richardson. Bayes Net course, Helsinki, April 1997. Lecture 4 part 2, page 5.
http://www.cs.helsinki.fi/research/cosco/Calendar/BNCourse/Notes.html
[6] : Todd A. Stephenson. An introduction to Bayesian network theory and usage. IDIAP-RR 00-
03, febuary 2003