Post on 03-Apr-2015
Ingénierie des Langues et de la Parole (ILP)Notes de cours
Ce cours sera bilingue anglais-français
M2R-IAW-SLE-ILP
Christian BoitetGETALP, LIG-campus, 385 av. de la bibliothèque, BP 53
F-38041 Grenoble cedex 9, FranceChristian.Boitet@imag.fr, http://clips.imag.fr/geta,
http://www-clips.imag.fr/geta/User/christian.boitet/M2R-SLE-ILP/
accès multilingue :
http://service.aximag.fr/xwiki/bin/view/imag/M2R-SLE-ILP-[en|fr]
Ch. Boitet Diapos pour le cours d’ILP/SLE 2/28
I. Problématique du traitement automatique des langues naturelles (TALN)
I.1 Buts : stocker, étudier, et utiliser les connaissances linguistiques
1.1 Représentation et traitement des textes et corpus
i. Systèmes d'écriture et codage
ii. Concordances et études diverses
iii. Types de corpus stockés (simples, balisés, annotés, arborés, parallèles, oraux, multimodaux…)
Ch. Boitet Cours CL 3/28
Représentation, construction et utilisation des dictionnaires
i. Représentation des "ressources lexicales"a. Dictionnaires (types divers, mono/multilingues)
b. Lexiques (lien avec la terminologie)
c. Bases lexicales
ii. Construction des ressources lexicalesa. Utilisation de ressources existantes
b. Extraction à partir de corpus (récent)
c. Coopération via le Web (début)
iii. Utilisation des ressources lexicalesa. Consultation "normale"
b. Filtrage et production de sous-ensembles à la volée
c. Aides diverses (lecture active…)
d. Extraction de dictionnaires d'applications
Ch. Boitet Cours CL 4/28
Représentation, construction et utilisation de grammaires
i. Grammaires et automates
ii. Mise au point d'un modèle linguistique
iii.Évaluation de théories et applications diverses
iv. Utilisations de grammaires et automatesa. Correction (orthographique, grammaticale, stylistique…)
b. Indexation
c. Résumé et extraction d'information
d. Traduction
e. Génération multilingue
Ch. Boitet Cours CL 5/28
Applications et recherches actuelles
ÉcritCorrection
Indexation
RI (recherche d'information)
TAO (traduction automatisée par ordinateur)
Résumé, classification
Questions/Réponses (Q&A)
OralSynthèse de parole
Reconnaissance de parole
Multimodalité
Dialogue
Evaluation
Ch. Boitet Cours CL 6/28
I.3 Problèmes spécifiques du TALN : le non-déterminisme, le flou, la taille
• Non-déterminismeinhérent à la nature des languesambiguïtés en analyse
synonymie en génération
correspondance entre langues
• conduit à un problème majeur d'explosion combinatoire.Cet aspect distingue très fortement le TALN du traitement des langages formels.
Ch. Boitet Cours CL 7/28
i. Ambiguïtés
• Définition: à une représentation à un certain niveau d'abstraction correspond plus d'une représentation à un niveau plus élevé.
• Exemples.
• Sources à tous les niveaux, du signal à la pragmatique. ("La porte !").
• Ambiguïtés inhérentes à la langue, et ambiguïtés "parasites" provenant des systèmes de description et/ou de traitement eux-mêmes.
• Caractère fallacieux : les humains ne "voient" pas l'ambiguïté — mais la ressentent quand elle conduit à des incompréhensions, des contresens, et… des accidents.
Ch. Boitet Cours CL 8/28
ii. Synonymie
• Définition: à une représentation à un certain niveau d'abstraction correspond plus d'une représentation à un niveau moins élevé.
• C'est le pendant de l'ambiguïté.
Ch. Boitet Cours CL 9/28
3.2 Flou
• i. Impossibilité d'une sémantique "totale"Fait d'expérience : on ne peut jamais "tout exprimer" en langue naturelle.
Passage du continu au discret ? Peut-être, mais pas seulement. Zadeh, inventeur de la "logique floue" : il y a un problème central de définissabilité. Voir le site de BISC (Berkeley Initiative on Soft Computing)
• ii. Impossibilité d'une axiomatisation exacteLa langue ne se laisse pas formaliser ou axiomatiser exactement.
Elle est intrinsèquement "productive" : à partir de toute axiomatisation proposée, on peut fabriquer des contre-exemples, en surgénération ou en sous-génération.
Parallèle avec le caractère productif des formules vraies de l'arithmétique (théorème de Gödel).
Nécessité de travailler dans l'approximatif, et donc de concevoir des applications jamais figées, en modification constante, et capables de traiter "l'inconnu".
Exemple le plus simple: les "mots inconnus".
Ch. Boitet Cours CL 10/28
3.3 Taille
• i. Données lexicalesAu minimum 6000 entrées de dictionnaire pour la transcription phonétique du français, du thaï…
Au minimum 3000 entrées pour la TA : METEO (mots inconnus = toponymes identiques)
Environ 50000 entrées générales et 50-100K entrées par domaine en TA (5,44M en ATLAS-II v13)
• ii. Grammaires et automates2 pages en SYGMOR pour une génération morphologique et graphémique exhaustive du français
30 pages en ATEF pour une analyse morphologique exhaustive du russe (15000 règles en EnCo!)
150 pages en ROBRA pour une génération structurale du français
400 pages en ROBRA (150 + 300 règles) pour une analyse heuristique du français
chiffres comparables avec d'autres LSPL.
• iii. CorpusAu minimum 1M mots pour la construction de dicos, la TA statistique…
LanguageWeaver: 50M mots alignés dans 2 langues pour construire un système de TA
Ch. Boitet Cours CL 11/28
II. Notions linguistiques de base : les niveaux (de la phonologie à la pragmatique)
• II.1 La langue et ses aspects classiques1.1 Peut-on parler de langue ? (langue, langage, dialecte…)1.2 Lexique et grammaire : notions de base1.3 Diversité des aspects de la langue
• II.2 Niveaux de description linguistiqueNiveaux "structurants"
• Phonologie• Morphologie• Syntaxe• Sémantique• Pragmatique
Niveaux d'actualisation• Détermination, nombre, genre, personne…• Aspect, temps, modalité…
Ch. Boitet Cours CL 12/28
2.1 Phonologie
• i. Sons (phonons)
• ii. Phones
• iii. PhonèmesLes unités ne se dégagent que par leurs rapports mutuels (Saussure).
Notion de « paire distinctive »
• En allemand, ‘r’ (grasseyé) ≠ ‘ch’ (Ach-laut)
• En français, ‘r’ (grasseyé) ≈ ‘r’ (roulé)
Ch. Boitet Cours CL 13/28
2.2 Morphologie
• i. Graphèmes et morpheÜ et Ue en allemand, morphe = suite de graphèmes (±interprétation)
• ii. Flexion: formes et lexèmes (lemmes)Déclinaison (noms, adjectifs, participes) et conjugaison (verbes)
• iii. Dérivation (lexico-sémantique)Une dérivation a 3 niveaux : <sémantique, syntaxique, morphologique>
…par ordre d’importance
• iv. CompositionHauptbahnhofgepäckaufbewahrung (consigne à bagages de la gare principale)
Quatre-vingt-dix-huit, composés chimiques…
Ch. Boitet Cours CL 14/28
2.3 Syntaxe
• i. SyntagmesGroupes de mots ayant une fonction
En général connexes, sinon "discontinuité"
• ii. Fonctions syntaxiquesSujet (réel, formel), objet (direct, indirect), épithète, attribut, complément
d'agent, circonstant, modificateur, quantificateur…
• iii. Relations de dépendance profondeRelations sémantiques ("cas profonds")
Différence entre prédicat "linguistique" (syntaxe profonde) et "sémantique"
manquer_de (X=I, Y=II) & manquer_à (X=II, Y=I) : MANQUER (I, II)
Ch. Boitet Cours CL 15/28
2.4 Sémantique
• i. Prédicats et argumentsarguments (0, 1, 2, [3]
• ii. Relations sémantiques (cas profonds)agent, coagent, objet, coobjet, bénéficiaire, but, cause, moyen, possession, modification, localisation (temps/espace, ubi/quo/unde/qua), concession, mesure, prix, fréquence…
• iii. Traits sémantiques (propriétés)concret, abstrait, personne, humain, animal, plante, document, contenant, unité de mesure, surface, volume, science, moyen de transport…
Ch. Boitet Cours CL 16/28
Différences entre arguments et circonstants
• Les arguments sont uniques et nécessaires (à la compréhension)Si un argument n’est pas exprimé, il faut que l’auditeur/lecteur puisse l’inférer du contexte (ou il le demandera !)
• Les circonstants sont optionnels et (éventuellement) multiplesIl prend chaque jour [temps] un café après le déjeuner [temps].
• Impossibilité d’affecter fiablement une RS à un argumentX donne Y à Z (pour T)
• X agent (volitif)? — Jean [agent???] donne l’impression de…• Z, T bénéficiaire, destinataire, but, patient…?• Y objet (modifié par l’action, transféré…?) — X donne l’heure à Y
Certaines théories (comme UNL) cherchent à affecter des « RS standard »• Ça ne marche pas… car les RS des arguments sont très lexicalisées• Une bonne approche: FrameNet (Fillmore)
‘donner’(X=‘donateur’, Y=‘don’, Z=‘donataire’)
Ch. Boitet Cours CL 17/28
2.5 Pragmatique
• i. Assertion et négation3 types de négation: négation propositionnelle, privation, réfutation,
• ii. Impérativiténiveau profond ("faire cuire 3mn" a valeur impérative)
• iii. Interrogativitéidem
• En "montant d'un niveau", il faut parler des actes de parole (de discours, de dialogue)Searle, Austin, etc. Voir cours sur le dialogue. Important en pratique !
Ch. Boitet Cours CL 18/28
II.3 Autres dimensions de l'analyse linguistique
3.1 Actualisation
• i. Nombrecardinal, ordinal, comptabilité/continuité
• ii. Personnenous inclusif ou exclusif, de majesté ou de modestie…
• iii. Modalité
• iv. Aspect
• v. Tempsbien sûr, il y a des niveaux plus ou moins "profonds" (irréel, achevé,
perfectif, time) ou "surfaciques" (conditionnel, perfectif, tense)
Ch. Boitet Cours CL 19/28
3.2 Quantification
• i. Quantificateurs linguistiques et portéeUn, tous, certains, peu, beaucoup, la majorité…
• ii. Lien avec la déiction (, désignation)
Peu de gens lisent beaucoup de livres
Beaucoup de livres sont lus par peu de gens
Ch. Boitet Cours CL 20/28
3.3 Désignation
• i. Déterminationun, le, ou rien ? Désignation d'instance, de classe ?
• ii. Anaphore et cataphorereprise en arrière (supra) ou en avant (infra).
• Il marchait dans la ville. Il faisait froid. Jean, car c'était lui…
• iii. Ellipsele [code] source, un [roman policier de la] série noire
OK, je prendrai la seconde. rue (Straße f.), chambre (Zimmer n.) ?
Ch. Boitet Cours CL 21/28
3.4 Rhétorique
• i. EmphaseC'est vraiment tout à fait ça, ces principes qui sont les nôtres…
• ii. ThématisationC'est X qui… Paul, lui, est parti
(oral)
Vous avez réservé cet hôtel ?
Vous avez réservé cet hôtel ?
Vous avez réservé cet hôtel ?
Vous avez réservé cet hôtel ?
Ch. Boitet Cours CL 22/28
3.5 Analyse en triade statutaire de Zemb
• i. Rhèmece qu'on dit
• ii. Thèmede quoi on le dit
• iii. Phèmecomment on le dit (assertion/négation, modalité)
En discours, le thème est supposé exister, même si le phème changeJean a pris une veste hier Jean a pris une veste hierPas de veste à prendre (ou pas) Il y a une veste !
• C’est très important pour la traduction!Je ne l’ai pas bousculé exprès Ich habe ihn [ absichtlich nicht | nicht absichtlich ] gestoßen
Ch. Boitet Cours CL 23/28
III. Les connaissances utilisables en TALN
• III.1 Sources de connaissances dans un système de TALN1.1 Types de connaissances à considérer dans les applications
• i. Connaissances linguistiquesa. LangagièresConnaissances sur la langue "standard" (lexique, morphologie, syntaxe…)
• b. TypologiquesConnaissances sur la typologie visée (termes et sens préférés et interdits,
tours, expressions, préférences observées au niveau du style et de la résolution d'ambiguïtés…)
Ch. Boitet Cours CL 24/28
ii. Connaissances sémantiques
• a. StatiquesFaits et règles d'un domaine formalisé (ontologie)
• b. DynamiquesSituations, agents et leurs représentations internes.
Nécessité ici d'un apprentissage à partir du contenu des "messages linguistiques".
Ch. Boitet Cours CL 25/28
iii. Connaissances pragmatiques
• a. Intentions explicites Actes de parole, force illocutoire…
Fils de discours et de dialogue
Très important pour le traitement du dialogue, en CHM ou en dialogue humain médiatisé.
• b. Intentions implicitesAspects réflexifs, intentions cachées, ironie, etc.
Ch. Boitet Cours CL 26/28
1.2 Connaissances réellement utilisables dans des systèmes de TALN
• On met les connaissances "qu'on peut" et surtout "qu'on doit" dans des dictionnaires, grammaires, thésaurus.
• Exemple : « le courrier est arrivé ce matin » est soit imperfectif soit perfectif.
• On peut proposer le choix : « le courrier est arrivé ce matin PENDANT que quelque chose se passait »« le courrier est arrivé ce matin ET PUIS quelque chose s'est passé »
• et l'on obtiendra alors l'information permettant de bien traduire dans une langue où l'aspect est important, comme le russe ou l'anglais :
« the mail arrived this morning (while I was shaving). »« the mail has arrived this morning (and then I left). »
Ch. Boitet Cours CL 27/28
Représentations formalisées d’énoncés
Niveauxlinguistiques
Organisationlinguistiqueprincipale
Structuregéométrique
Structurealgébrique
CorrespondanceStructure—Texte
Portée
Surface
Profond
1-stratal
n- stratal
Syntagmes(constituants)
Dépendances
Relationslogiques etsémantiques
Chaîne
Graphe dechaînes
Arborescence
Graphe /Réseau
Hypergraph
EtiquetteEtiqu.structurée
Traitsbooléens
Attributsstructurés
Structuresde traits
concrète (texte≈lisible depuis lastructure
totalementabstrait (ex.UNL)
Phrase(≈ tous)
Paragraphe
Page(Ariane-G5,
Sygmart)
Document
Ch. Boitet Cours CL 28/28
Formalized representations of utterances