Discrimination de courbes par SVM

download Discrimination de courbes par SVM

of 82

  • date post

    11-May-2015
  • Category

    Science

  • view

    88
  • download

    0

Embed Size (px)

description

Séminaire du GREMAQ, Université Toulouse I, France 7 avril 2006

Transcript of Discrimination de courbes par SVM

  • 1.SVM & FDA Toulouse, 7 avril 2006 Nathalie V Analyse des donnes fonctionnelles Principe des SVM Noyaux pour FDA Approche par projection Approche par splines dinterpolation Approche par rgression inverse Discrimination de courbes par SVM Nathalie Villa-Vialaneix quipe GRIMM, Universit Toulouse Le Mirail villa@univ-tlse2.fr GREMAQ, 7 avril 2006

2. SVM & FDA Toulouse, 7 avril 2006 Nathalie V Analyse des donnes fonctionnelles Principe des SVM Noyaux pour FDA Approche par projection Approche par splines dinterpolation Approche par rgression inverse Thmatiques de recherche dveloppes NN pour FDA (approche par rgression inverse) 3. SVM & FDA Toulouse, 7 avril 2006 Nathalie V Analyse des donnes fonctionnelles Principe des SVM Noyaux pour FDA Approche par projection Approche par splines dinterpolation Approche par rgression inverse Thmatiques de recherche dveloppes NN pour FDA SVM pour FDA (approche par rgression inverse) (approches proj., spline, FIR. . . ) 4. SVM & FDA Toulouse, 7 avril 2006 Nathalie V Analyse des donnes fonctionnelles Principe des SVM Noyaux pour FDA Approche par projection Approche par splines dinterpolation Approche par rgression inverse Thmatiques de recherche dveloppes NN pour FDA SVM pour FDA (approche par rgression inverse) (approches proj., spline, FIR. . . ) Projets GEODE 5. SVM & FDA Toulouse, 7 avril 2006 Nathalie V Analyse des donnes fonctionnelles Principe des SVM Noyaux pour FDA Approche par projection Approche par splines dinterpolation Approche par rgression inverse Thmatiques de recherche dveloppes NN pour FDA SVM pour FDA (approche par rgression inverse) (approches proj., spline, FIR. . . ) Projets GEODE ENAC 6. SVM & FDA Toulouse, 7 avril 2006 Nathalie V Analyse des donnes fonctionnelles Principe des SVM Noyaux pour FDA Approche par projection Approche par splines dinterpolation Approche par rgression inverse Thmatiques de recherche dveloppes NN pour FDA SVM pour FDA (approche par rgression inverse) (approches proj., spline, FIR. . . ) Projets GEODE ENAC FRAMESPA 7. SVM & FDA Toulouse, 7 avril 2006 Nathalie V Analyse des donnes fonctionnelles Principe des SVM Noyaux pour FDA Approche par projection Approche par splines dinterpolation Approche par rgression inverse Thmatiques de recherche dveloppes NN pour FDA SVM pour FDA (approche par rgression inverse) (approches proj., spline, FIR. . . ) Projets GEODE ENAC FRAMESPA 8. SVM & FDA Toulouse, 7 avril 2006 Nathalie V Analyse des donnes fonctionnelles Principe des SVM Noyaux pour FDA Approche par projection Approche par splines dinterpolation Approche par rgression inverse Sommaire 1 Analyse des donnes fonctionnelles 2 Principe des SVM 3 Noyaux pour FDA Approche par projection Approche par splines dinterpolation Approche par rgression inverse 9. SVM & FDA Toulouse, 7 avril 2006 Nathalie V Analyse des donnes fonctionnelles Principe des SVM Noyaux pour FDA Approche par projection Approche par splines dinterpolation Approche par rgression inverse Sommaire 1 Analyse des donnes fonctionnelles 2 Principe des SVM 3 Noyaux pour FDA Approche par projection Approche par splines dinterpolation Approche par rgression inverse 10. SVM & FDA Toulouse, 7 avril 2006 Nathalie V Analyse des donnes fonctionnelles Principe des SVM Noyaux pour FDA Approche par projection Approche par splines dinterpolation Approche par rgression inverse Les donnes fonctionnelles : Dnition Donnes classiques : chaque observation est un vecteur de RD ; 11. SVM & FDA Toulouse, 7 avril 2006 Nathalie V Analyse des donnes fonctionnelles Principe des SVM Noyaux pour FDA Approche par projection Approche par splines dinterpolation Approche par rgression inverse Les donnes fonctionnelles : Dnition Donnes classiques : chaque observation est un vecteur de RD ; Donnes fonctionnelles : chaque observation est une fonction dun espace de dimension innie (L2 , par exemple ; espace de Hilbert, en gnral). 12. SVM & FDA Toulouse, 7 avril 2006 Nathalie V Analyse des donnes fonctionnelles Principe des SVM Noyaux pour FDA Approche par projection Approche par splines dinterpolation Approche par rgression inverse Exemples Reprsentation temporelle (reconnaissance vocale 1 ) 0 2000 4000 6000 8000 1.00.50.00.51.0 Temps (ms) Frequences Boat Goat But : Reconnatre le mot. . . 1 Donnes disponibles sur http ://www.math.univ-montp2.fr/biau/bbwdata.tgz 13. SVM & FDA Toulouse, 7 avril 2006 Nathalie V Analyse des donnes fonctionnelles Principe des SVM Noyaux pour FDA Approche par projection Approche par splines dinterpolation Approche par rgression inverse Exemples Courbe de rponse (chimiomtrie 1 ) 0 20 40 60 80 100 2345 Longueur donde Absorbance But : Dterminer le taux de graisse. . . 1 Tecator database disponible sur http ://lib.stat.cmu.edu/datasets/tecator 14. SVM & FDA Toulouse, 7 avril 2006 Nathalie V Analyse des donnes fonctionnelles Principe des SVM Noyaux pour FDA Approche par projection Approche par splines dinterpolation Approche par rgression inverse Exemple de problmes en FDA (1) Problmes dinversion doprateurs X = E(X X) E(X) E(X) est de Hilbert-Schmidt 1 X est non born (ce nest pas un oprateur continu de L2 ) ! ! 15. SVM & FDA Toulouse, 7 avril 2006 Nathalie V Analyse des donnes fonctionnelles Principe des SVM Noyaux pour FDA Approche par projection Approche par splines dinterpolation Approche par rgression inverse Exemple de problmes en FDA (1) Problmes dinversion doprateurs X = E(X X) E(X) E(X) est de Hilbert-Schmidt 1 X est non born (ce nest pas un oprateur continu de L2 ) ! ! Consquence au niveau de lestimation n X = 1 n n i=1 xi xi X X est mal conditionn ncessit de pnalisation ou de rgularisation. 16. SVM & FDA Toulouse, 7 avril 2006 Nathalie V Analyse des donnes fonctionnelles Principe des SVM Noyaux pour FDA Approche par projection Approche par splines dinterpolation Approche par rgression inverse Les donnes fonctionnelles en pratique Soit X une variable alatoire fonctionnelle, on ne connat jamais compltement les observations (xi)i=1,...,n de X ! 17. SVM & FDA Toulouse, 7 avril 2006 Nathalie V Analyse des donnes fonctionnelles Principe des SVM Noyaux pour FDA Approche par projection Approche par splines dinterpolation Approche par rgression inverse Les donnes fonctionnelles en pratique Soit X une variable alatoire fonctionnelle, on ne connat jamais compltement les observations (xi)i=1,...,n de X ! on dispose de xi(ti 1 ), . . . , xi(ti D ) ; dans le pire cas, le nombre et la place des points de discrtisation dpendent de lobservation. 18. SVM & FDA Toulouse, 7 avril 2006 Nathalie V Analyse des donnes fonctionnelles Principe des SVM Noyaux pour FDA Approche par projection Approche par splines dinterpolation Approche par rgression inverse Exemple de problmes en FDA (2) Dun point de vue pratique... reprsenter les fonctions observes et les fonctions paramtres ; 19. SVM & FDA Toulouse, 7 avril 2006 Nathalie V Analyse des donnes fonctionnelles Principe des SVM Noyaux pour FDA Approche par projection Approche par splines dinterpolation Approche par rgression inverse Exemple de problmes en FDA (2) Dun point de vue pratique... reprsenter les fonctions observes et les fonctions paramtres ; n < D, les observations pour un mme individu sont fortement corrles (fonction sous-jacente) problmes mal poss, mthodes usuelles souvent inapplicables directement. 20. SVM & FDA Toulouse, 7 avril 2006 Nathalie V Analyse des donnes fonctionnelles Principe des SVM Noyaux pour FDA Approche par projection Approche par splines dinterpolation Approche par rgression inverse Sommaire 1 Analyse des donnes fonctionnelles 2 Principe des SVM 3 Noyaux pour FDA Approche par projection Approche par splines dinterpolation Approche par rgression inverse 21. SVM & FDA Toulouse, 7 avril 2006 Nathalie V Analyse des donnes fonctionnelles Principe des SVM Noyaux pour FDA Approche par projection Approche par splines dinterpolation Approche par rgression inverse Rappel sur le principe SVM Le problme Soit X H et Y {1; 1}. On cherche dterminer la valeur de Y connaissant la variable X. 22. SVM & FDA Toulouse, 7 avril 2006 Nathalie V Analyse des donnes fonctionnelles Principe des SVM Noyaux pour FDA Approche par projection Approche par splines dinterpolation Approche par rgression inverse Rappel sur le principe SVM Le problme Soit X H et Y {1; 1}. On cherche dterminer la valeur de Y connaissant la variable X. Les donnes On dispose de n ralisations indpendantes de (X, Y) : (x1, y1), . . . , (xn, yn). 23. SVM & FDA Toulouse, 7 avril 2006 Nathalie V Analyse des donnes fonctionnelles Principe des SVM Noyaux pour FDA Approche par projection Approche par splines dinterpolation Approche par rgression inverse Discrimination linaire marge optimale 24. SVM & FDA Toulouse, 7 avril 2006 Nathalie V Analyse des donnes fonctionnelles Principe des SVM Noyaux pour FDA Approche par projection Approche par splines dinterpolation Approche par rgression inverse Discrimination linaire marge optimale 25. SVM & FDA Toulouse, 7 avril 2006 Nathalie V Analyse des donnes fonctionnelles Principe des SVM Noyaux pour FDA Approche par projection Approche par splines dinterpolation Approche par rgression inverse Discrimination linaire marge optimale w marge : 1 w 2 Vecteur Support 26. SVM & FDA Toulouse, 7 avril 2006 Nathalie V Analyse des donnes fonctionnelles Principe des SVM Noyaux pour FDA Approche par projection Approche par splines dinterpolation Approche par rgression inverse Discrimination linaire marge optimale w marge : 1 w 2 Vecteur Support On cherche w tel que : minw,b w, w , sous les contraintes : yi( w, xi + b) 1, 1 i n. 27. SVM & FDA Toulouse, 7 avril 2006 Nathalie V Analyse des donnes fonctionnelles Principe des SVM Noyaux pour FDA Approche par projection Approche par splines dinterpolation Approche par rgression inverse Discrimination linaire marge souple 28. SVM & FDA