Reconnaissance de la langue des signes (simplifiée) à partir de données monoculaires Equipe :...

18
Reconnaissance de la langue des signes (simplifiée) à partir de données monoculaires Equipe : VAISSET Antoine, MATHEOSSIAN Dimitri Encadrant : E. GUILLOU, M. BARNACHON Janvier 2011

Transcript of Reconnaissance de la langue des signes (simplifiée) à partir de données monoculaires Equipe :...

Page 1: Reconnaissance de la langue des signes (simplifiée) à partir de données monoculaires Equipe : VAISSET Antoine, MATHEOSSIAN Dimitri Encadrant : E. GUILLOU,

Reconnaissance de la langue des signes (simplifiée) à partir de données monoculaires

Equipe : VAISSET Antoine, MATHEOSSIAN Dimitri

Encadrant : E. GUILLOU, M. BARNACHON

Janvier 2011

Page 2: Reconnaissance de la langue des signes (simplifiée) à partir de données monoculaires Equipe : VAISSET Antoine, MATHEOSSIAN Dimitri Encadrant : E. GUILLOU,

2

Plan

Reconnaissance de la langue des signesDétections de la mainRécupérer et comparer les données

◦ Défauts de convexité (convexity defects)◦ Moments de Hu (Hu moments)◦ Recherche de modèles (template

matching)Améliorations à apporterConclusion

Page 3: Reconnaissance de la langue des signes (simplifiée) à partir de données monoculaires Equipe : VAISSET Antoine, MATHEOSSIAN Dimitri Encadrant : E. GUILLOU,

3

Reconnaissance de la langue des signesDétections de la mainRécupérer et comparer les données

◦ Défauts de convexité (convexity defects)◦ Moments de Hu (Hu moments)◦ Recherche de modèles (template

matching)Améliorations à apporterConclusion

Page 4: Reconnaissance de la langue des signes (simplifiée) à partir de données monoculaires Equipe : VAISSET Antoine, MATHEOSSIAN Dimitri Encadrant : E. GUILLOU,

4

Reconnaissance de la langue des signes - Détails

Reconnaître les lettres d’une langue des signes

Restrictions :◦Alphabet Français◦Temps réelle◦Une seule caméra (qualité grand

public)◦Pas de capteur

Page 5: Reconnaissance de la langue des signes (simplifiée) à partir de données monoculaires Equipe : VAISSET Antoine, MATHEOSSIAN Dimitri Encadrant : E. GUILLOU,

5

Reconnaissance de la langue des signes - Différents langages

LDS Américaine

LDS Française

Page 6: Reconnaissance de la langue des signes (simplifiée) à partir de données monoculaires Equipe : VAISSET Antoine, MATHEOSSIAN Dimitri Encadrant : E. GUILLOU,

6

Reconnaissance de la langue des signes - Les étapesPour reconnaître un signe il faut :

◦Au préalable avoir une BDD de signes :

◦Et pendant l’acquisition d’image : Détecter la main Récupérer des informations Les comparer

Page 7: Reconnaissance de la langue des signes (simplifiée) à partir de données monoculaires Equipe : VAISSET Antoine, MATHEOSSIAN Dimitri Encadrant : E. GUILLOU,

7

Reconnaissance de la langue des signesDétections de la mainRécupérer et comparer les données

◦ Défauts de convexité (convexity defects)◦ Moments de Hu (Hu moments)◦ Recherche de modèles (template

matching)Améliorations à apporterConclusion

Page 8: Reconnaissance de la langue des signes (simplifiée) à partir de données monoculaires Equipe : VAISSET Antoine, MATHEOSSIAN Dimitri Encadrant : E. GUILLOU,

8

Détections de la mainDétection de la couleur de peauSélection d’une plage de couleursSoustraction de fond

Page 9: Reconnaissance de la langue des signes (simplifiée) à partir de données monoculaires Equipe : VAISSET Antoine, MATHEOSSIAN Dimitri Encadrant : E. GUILLOU,

9

Reconnaissance de la langue des signesDétections de la mainRécupérer et comparer les données

◦ Défauts de convexité (convexity defects)◦ Moments de Hu (Hu moments)◦ Recherche de modèles (template

matching)Améliorations à apporterConclusion

Page 10: Reconnaissance de la langue des signes (simplifiée) à partir de données monoculaires Equipe : VAISSET Antoine, MATHEOSSIAN Dimitri Encadrant : E. GUILLOU,

10

Méthodes testéesDéfauts de convexité[En: convexity defects]

Figure 1

Figure 2

Page 11: Reconnaissance de la langue des signes (simplifiée) à partir de données monoculaires Equipe : VAISSET Antoine, MATHEOSSIAN Dimitri Encadrant : E. GUILLOU,

11

Méthodes testéesDéfauts de convexité[En: convexity defects]

Figure 1

Figure 2 Figure 3

Page 12: Reconnaissance de la langue des signes (simplifiée) à partir de données monoculaires Equipe : VAISSET Antoine, MATHEOSSIAN Dimitri Encadrant : E. GUILLOU,

12

Méthodes testéesMoments de Hu[En: Hu moments]

Même méthode que les défauts de convexités, mais :◦Nombre de valeurs à comparer fixés à 7◦Calculs différents◦Valeurs invariantes après mise à l’échelle

et/ou rotation◦Simple à mettre en place◦Moins performants que les descripteurs de

Fourrier (15 à 17% de reconnaissance en plus)

Page 13: Reconnaissance de la langue des signes (simplifiée) à partir de données monoculaires Equipe : VAISSET Antoine, MATHEOSSIAN Dimitri Encadrant : E. GUILLOU,

13

Méthodes testéesRecherche de modèles[En: template matching]

Page 14: Reconnaissance de la langue des signes (simplifiée) à partir de données monoculaires Equipe : VAISSET Antoine, MATHEOSSIAN Dimitri Encadrant : E. GUILLOU,

14

Méthodes testéesRecherche de modèles

Page 15: Reconnaissance de la langue des signes (simplifiée) à partir de données monoculaires Equipe : VAISSET Antoine, MATHEOSSIAN Dimitri Encadrant : E. GUILLOU,

15

Reconnaissance de la langue des signesDétections de la mainRécupérer et comparer les données

◦ Défauts de convexité (convexity defects)◦ Moments de Hu (Hu moments)◦ Recherche de modèles (template

matching)Améliorations à apporterConclusion

Page 16: Reconnaissance de la langue des signes (simplifiée) à partir de données monoculaires Equipe : VAISSET Antoine, MATHEOSSIAN Dimitri Encadrant : E. GUILLOU,

16

Améliorations à apporterDétection de la main (variation

de luminosité)Recherche de critères

discriminantsRecherche et implémentation

d’un classificateur

Page 17: Reconnaissance de la langue des signes (simplifiée) à partir de données monoculaires Equipe : VAISSET Antoine, MATHEOSSIAN Dimitri Encadrant : E. GUILLOU,

17

Reconnaissance de la langue des signesDétections de la mainRécupérer et comparer les données

◦ Défauts de convexité (convexity defects)◦ Moments de Hu (Hu moments)◦ Recherche de modèles (template

matching)Améliorations à apporterConclusion

Page 18: Reconnaissance de la langue des signes (simplifiée) à partir de données monoculaires Equipe : VAISSET Antoine, MATHEOSSIAN Dimitri Encadrant : E. GUILLOU,

18

Conclusion