Post on 16-Jul-2020
Anaïs Lefeuvre, Jean-Yves Antoine, Willy Allegre
Ethique conséquentialiste et TALNUne typologie de risque adaptée aux technologies langagières
Anaïs Lefeuvre, Jean-Yves Antoine, Willy Allegre
Anaïs Lefeuvre, Jean-Yves Antoine, Willy Allegre
Sciences et technologies du numériqueNouveaux comportementssociété connectée
Nouvelles possibilitésbig data
Nouveaux acteursrobotique, agents virtuels
Technologies langagières, actrices de la révolution numérique
• Recherche d’information, fouille de texte, dialogue homme-machine
Anaïs Lefeuvre, Jean-Yves Antoine, Willy Allegre
Société numérique : questionnementsInquiétudes au sein de la société civile
• Respect de la vie privée• Droit à l’oubli numérique• Contrôle étatique (Loi Renseignement)
Focus sur l’anonymisation des données
- pratiques plus que productions- simple respect du cadre juridique (Loi Informatique et Liberté)
Technologies langagières
Interrogations chez les scientifiques
• CERNA-ALLISTENE : réflexion éthique institutionnalisée dans le domaine de la robotique
Prise de conscience trop limitée ?
Anaïs Lefeuvre, Jean-Yves Antoine, Willy Allegre
‘in
Démarche éthique et recherche
Droit Hétéro-régulation (étatique) basée sur l’interditð S’impose au chercheur
Ethique Auto-régulation basée sur des principes morauxð Elaboré par une communauté : société civile, chercheurs….
Précède et guide de plus en plus le droit (jurisprudence)
Chercheur lanceur d’alerte
Le chercheur est parfois le seul qui à comprendre ou anticiper les enjeux éthiques liés à l’émergence d’une nouvelle technologie [Axel Kahn]
Anaïs Lefeuvre, Jean-Yves Antoine, Willy Allegre
ObjectifMéthodologie pour guider une réflexion éthique en TALN
Anaïs Lefeuvre, Jean-Yves Antoine, Willy Allegre
EthiqueEthique déontologique Théorie de la justice (John Rawls, 1987)
• Respect de principes moraux guidant nos actions• La réflexion éthique porte sur l’établissement de ces principes,
dans le cadre d’un débat contradictoire et équitable
Ethique conséquentialiste Utilitarisme, principe responsabilité (Hans Jonas, 1990)
• Approche téléologique : focalisation sur les conséquences des actions• La réflexion éthique porte sur l’évitement de conséquences néfastes
Proposition Etude conséquentialiste sous forme d’analyse de risque
Anaïs Lefeuvre, Jean-Yves Antoine, Willy Allegre
Analyse du risque : trois composantes
Facteur de RisqueElément pouvant entraîner une situation imprévue
VulnérabilitéObjet qui subit le risque et conséquence sur l’objet
Criticité C = I × PI : impact du risque (gravité)P : probabilité d’occurrence
Typologie de facteurs de risques adaptée au TAL
RisqueDéfinition
Référentiel ISO Guide 73 effet de l’incertitude sur l’atteinte des objectifseffet : écart, positif et/ou négatif, par rapport à une attente
Anaïs Lefeuvre, Jean-Yves Antoine, Willy Allegre
$
1. Individu 1.1. Risque physique 1.1.1 1.1.1.1
…1.1.2
….
1.2. Risque cognitif
1.3. Risque psychique
2. Société 2.1. Risque sur le lien individu - société
2.2. Risque sur le système social
Niveau 2composante
Niveaux suivantsconséquence(type d’impact)
Typologie de facteurs de risque
Niveau 1objet
Catégorisation des facteurs de risque par vulnérabilité : grille d’analyse
Facteurs de risque
Anaïs Lefeuvre, Jean-Yves Antoine, Willy Allegre
Risques pour l’individu
$
1. Individu 1.1. Risque physique
1.2. Risque cognitif
1.3. Risque psychique
2. Société 2.1. Risque sur le lien individu - société
2.2. Risque sur le système social
Anaïs Lefeuvre, Jean-Yves Antoine, Willy Allegre
• Atteinte à l’intégrité physique de l’individu par suite de l’usage d’un système technique• Peut concerner également le TAL
1.1. Risque physique
1.1.1. Impact sur l’utilisateur
1.1.1.1. Atteinte physique externe
1.1.1.2. Atteinte physiologique interne
1.1.2. Impact sur l’environnement
physique
Logistique : commande vocaleð lombalgieð trouble musculo-squelettiques
[INRS, fiche sécurité ED135]
Risque physique
Anaïs Lefeuvre, Jean-Yves Antoine, Willy Allegre
• Altération de certaines fonctions cognitives ou de l’état cognitif général de l’utilisateur• Structuration des impacts par fonctions mentales de la classification CIF de l’OMS [OMS 2001]
Risque cognitif
Recherche d’information
Google Effect – influence de l’usage d’un moteur de recherche sur la mémoire à long terme [Sparrow et al. 2011]
ð Impact mémoire
Aide à la composition langagière
• Aide à la communication • Correction orthographique• Traduction automatique
ð Impact compétences langagières
Anaïs Lefeuvre, Jean-Yves Antoine, Willy Allegre
• perturbation de l’état psychologique de l’individu permanent ou temporaire• Structuration des impacts inspirée des classifications de l’OMS (CSM-10) [OMS 2006]
Risque psychique
1.3. Risque psychique
1.3.1. Effets durables 1.3.1.1. Troubles de l’humeur
1.3.1.2. Troubles anxieux
1.3.1.3. Troubles personnalité
1.3.2. Effets temporaires 1.3.2.1 Fatigue psychique
1.3.2.2. Stress / choc émotionnel
Robots, Agents conversationnels animé (ACA), synthèse vocale sur mesure : visée anthropomorphiqueð Troubles de la personnalité ? Transferts ?
Dans les cas où l’apparence ou la voix humaines sont imitées, [on] s’interrogera sur les effets que pourrait avoir cette imitation, y compris hors des usages [prevus] [Cerna 2014]
Anaïs Lefeuvre, Jean-Yves Antoine, Willy Allegre
Risques sociétaux
$
1. Individu 1.1. Risque physique
1.2. Risque cognitif
1.3. Risque psychique
2. Société 2.1. Risque sur le lien individu - société
2.2. Risque sur le système social
Anaïs Lefeuvre, Jean-Yves Antoine, Willy Allegre
• Rapport de l’individu à la société / dans la société• Au-delà du respect des droits individuels
Risque sur le lien social
Détection d’auteurs(Authorship Authentification)
ð Respect de la vie privée
Myriadisation / CrowdsoursingRéalisation de ressources linguistiques
ð Droit du travail [Sagot et al. 20011]
2.1. Lien social
2.1.2. Relation à la technologie 2.1.2.1. Technologie invisible
2.1.2.2. Dialogue Homme-Machine
2.1.3. Droits et libertés individuelles
2.1.3.1. Respect de la vie privée
2.1.3.2. Droit du travail
2.1.3.3. Responsabilité
2.1.3.4. Liberté d’expression
2.1.3.5. Propriété intellectuelle
2.1.1. Relation inter-individu
Anaïs Lefeuvre, Jean-Yves Antoine, Willy Allegre
Nouveaux acteurs : bots, robots et agents conversationnels animés…
Risque sur le lien social
Relation à la technologie : dialogue homme-machineSi une ressemblance quasi parfaite est visée, le chercheur doit avoir conscience que la démarche biomimétique peut brouiller la frontière entre un être vivant et un artefact [Cerna 2014]
Relation inter-individuPour les projets (…) qui ont trait au développement de la robotique affective, le chercheur s’interrogera sur les répercussions éventuelles de son travail sur les capacités de socialisation de l’utilisateur [Cerna 2014]
Relation à la technologie : technologie invisibleGénération automatique de comptes-rendus électoraux [Le Monde 2015]
Droits et libertés : responsabilité• Statut juridique des robots et agents autonomes [Robolaw 2014, Bensoussan 2015]• Responsabilité voitures autonomes, drones (législation Nevada)
2.1.2.1.
2.1.2.2
2.1.3.5
2.1.1.
Anaïs Lefeuvre, Jean-Yves Antoine, Willy Allegre
• modification du système social : politique, économique, culture
Risque sur le système social
2.2. Risque sur le système social
2.2.1. Risque politique
2.2.2. Risque économique
2.2.3. Risque socio-culturel
Recherche d’information textuelle« Bourse des mots »
ð Capitalisme linguistique [Kaplan 2014]
Traduction automatiqueAnglais langue pivot + machine learning
ð Créolisation numérique [Kaplan 2014]
Anaïs Lefeuvre, Jean-Yves Antoine, Willy Allegre
Conclusion• La technologie n’est pas un objet neutre : impact individuel et sociétal du TAL• Le TAL participe à la réparation /augmentation de l’humain (transhumanisme)
ð Nécessité d’une réflexion éthique soutenue sur nos recherches
Perspectives
• Typologie à éprouver : risques sociétaux … voire plus universels• Hiérarchie ð ontologie (facteurs multi-risques, raisonnement…)• Etude de criticité : expérimentation sur les compétences langagières (RTR Risques)
Remerciements Christian Toinard, Benjamin Nguyen, Adrien Granger
Anaïs Lefeuvre, Jean-Yves Antoine, Willy Allegre
Anaïs LefeuvreLI, Université François Rabelais de Tours, Blois
Jean-Yves AntoineLI, Université François Rabelais de Tours, Blois
Willy AllègreLaboratoire d’Electronique, CMRFF de Kerpape, Ploemeur
Anaïs Lefeuvre, Jean-Yves Antoine, Willy Allegre
Risque
• Mathématisation [Huygens, Bernouilli, Pascal]
• Incertitude liée à un processus• Aléa positif ou négatif • Maîtrise du risque industriel : normes
• Estimation coût/bénéfice
ISO Norme 73 effet de l’incertitude sur l’atteinte des objectifseffet : écart, positif et/ou négatif, par rapport à une attente
UE 2006 risque : probabilité qu’un évènement se produiserisque potentiel grave : situation dans laquelle il existe une forte probabilité pour qu’un danger grave provoqué par un médicament (…) affecte la santé publique
Temps modernes Révolution industrielle et « anthropocène »
• Fatalisme : risque accepté
XVII° XIX°
Anaïs Lefeuvre, Jean-Yves Antoine, Willy Allegre
Aide à la composition langagière – altération par insuffisance de stimulation cognitive
Risque cognitif
1. Individu 1.2. Risque cognitif 1.2.1. Altération fonction 1.2.1.2 Retard cognitif 1.2.1.2.4. Langage
1. Individu 1.2. Risque cognitif 1.2.1. Altération fonction 1.2.1.2 Retard cognitif 1.2.1.2.5. Mémoire
• Aide à la communication pour personnes handicapées, correction orthographique, traduction automatique
1. Individu 1.2. Risque cognitif 1.2.1. Altération fonction 1.2.1.2 Régression cognitive 1.2.1.2.4. Langage
Mémoire altérée• Google Effect – influence de l’utilisation d’un moteur de recherche sur les stratégies de mémorisation à long terme
[Sparrow et al. 2011]• Abandon de l’écriture cursive pour la saisie numérique sur clavier – stimulation inférieure d’aires motrices activées en
même temps que certaines aires motrices [Longcamp 2003]