TASFR T30527-b-fr Contrôle de la conformité des comportements individuels dagents cognitifs...

TASFR

T30527-b-fr

Contrôle de la conformité des comportements individuels d’agents cognitifs autonomes

Caroline Chopinaud Amal El Fallah Seghrouchni

Patrick Taillibert23/25 Novembre 2005 – JFSMA’05 (Calais)

2

Contexte et Problématique

Systèmes critiques Systèmes embarqués, temps réels Conception au moyen des systèmes multiagents

Confiance dans le comportement du SMA En accord avec les spécifications Pas de comportements inattendus.

3

Problème de confiance

Caractère imprévisible des SMA

Autonomie des agents Prendre seul ses décisions [Barber 99]

Émergence du comportement du système Comportements attendus Comportements inattendus

Possible échec de l’application

Apparition de comportements indésirables

4

Problème supplémentaire

Bugs du système Vérification classique pas sûre à 100%

Model Checking sur un modèle du système (très coûteux) Tests non exhaustifs Démonstration automatique lourde et complexe

SMA accroît les difficultés de validation Modélisation (explosion d’états)

Indéterminisme Distribution Communication asynchrone

Apparition d’erreurs en conditions réelle d’exécution

5

Objectif!

Garantir qu’un SMA ne génèrera pas de comportements

indésirables

6

Plan de l’exposé

Le contrôle d’agent

La description du contrôle

Génération des agents autocontrôlés

7


3 étapes :

Surveillance du comportement des agents

Détection des comportements indésirables

Régulation du comportement des agents problématiques

8

Surveillance du comportement

Monitoring (software) : Observation et compréhension du comportement

d’un programme au cours de son exécution Instrumentation des programmes pour observer

les événements Insertion de sondes logicielles Manuelle ou automatique

Instrumentation automatique Comportement des agents Facilite le travail du développeur Réduit le risque d’erreur

9


3 étapes :




10

Détection des comportements indésirables (1)

Normes

Définition des comportements ou des situations idéales

Contraintes/indications sur le comportement Éviter des conflits Restreindre les possibilités d’action des agents Confiance entre les agents

Accepter et respecter les normes au moment de la prise de décision

11

Détection des comportementsindésirables (2)

Utilisation de lois Normes non prises en compte au moment de la

prise de décision Séparation de la définition du contrôle et de

l’implémentation des agents

Matérialisent les exigences significatives du fonctionnement du système

Définissent les comportements souhaités ou redoutés

Détection de transgression des lois

12


3 étapes :




13

Régulation du comportement

Effectuée par les agents eux-mêmes Capacité de raisonnement Informations de transgression

Stratégie de régulation Fournie par le développeur Associée à la transgression d’une loi

14

Plan de l’exposé



La génération des agents autocontrôlés

15

Description des lois

Fournit un ensemble de concepts de base Utilisés dans les lois Utilisés pour décrire l’application et le modèle

d’agent Étendus pour raffiner la description

Par le concepteur du modèle et de l’application Reliés à l’implémentation du modèle d’agent

Définition de liens par les concepteurs

Fournit un langage de lois Description d’actions ou d’états

Redoutés Souhaités

Notion de temps ou de relation temporelle

16

Concepts de base

Agent Caractéristique

Message Objet But Plan Connaissance

Action CreationAgent ReceptionMessage EnvoiMessage Migration

17

Langage de description (1)

Opérateurs déontiques. Interdiction (FORBIDDEN) Obligation (OBLIGED)

Actions Agent do Action Action ou changement de valeur d’une Caractéristique

Etats Agent be State Etat résultant d’une Action ou valeur d’une Caractéristique

Notion temporelle BEFORE/AFTER (une action ou un temps) IF (un état)

Enchaînement d’actions/états THEN

Conjonction d’actions/états AND

18


Sémantique

Logique déontique dynamique [Meyer85] Variante de la logique déontique [vonWright51]

Logique modale Obligation / Interdiction / Permission / Facultatif Exprime la différence en l’idéal et le réel (violation)

Relation temporelle entre actions et états du monde

19


Logique déontique dynamique Soit A1,A2 des actions et E, un état du monde

A1 ; A2 : A1 est suivie de A2 A1 & A2 : A1 et A2 sont simultanées E A1/A2 : si E alors A1 sinon A2 A1 U A2 : A1 ou A2 A1 : not A1

[A1]E : E est vrai après l’exécution de A1 <A1>E : Il existe un moyen d’exécuter A1 pour que

E soit vraie

F : Interdiction O : Obligation P : Permission

20


Sous ensemble de la logique déontique dynamique Ne permet pas d’exprimer

Permission Négation d’opérateurs déontiques <A>E A1 U A2

Permet d’exprimer des lois du type:

FORBIDDEN (agt do EnvoiMessage) AFTER (agt do EnvoiMessage) AND BEFORE (1)

FORBIDDEN (agA do Migration) IF (agB be Migration)

OBLIGED (agA do EnvoiMessage and content = ‘A’) AND (agA do EnvoiMessage and content = ‘B’)

21

Plan de l’exposé



La génération des agents autocontrôlés

22

Agent autocontrôlés (1)

Génération automatique à partir de Programme de comportement Ensemble de lois associées Liens entre les concepts et l’implémentation

Autocontrôle Principe de l’observateur Architecture d’agent spécifique

23

Principe de l’observateur

PROGRAMME SOUS

SURVEILLANCEMODELE

CONTROLEUR

CONNEXIONS

24

Principe de l’observateur

MODELEPROGRAMME

Début S1

Début S2

Fin S1

Fin S2

25

Agent autocontrôlé (2)

Principe de l’observateur [Diaz 1994]

Installer au sein des agents Modélisation des lois sous forme de réseau de

Petri Relier les lois au programme des agents par des

points de contrôle

26

Génération automatique (1)

Insertion des points de contrôle (instrumentation)

Utilisation du tissage Principe de la programmation par aspect [Wampler

2003] Injection de code à partir de la définition de point de

jonction.

Au niveau des événements décrits dans les lois A partir de la description des liens

concepts/implémentation

27


Génération automatique du réseau de Petri.

LOI

{Réseaux de Petri}

RESEAU DE PETRI

Utilisation d’une table de correspondance langage/réseau de Petri

28


FORBIDDEN (ACT2) AFTER (ACT1) AND BEFORE (1)[ACT1]F(ACT2)[time(ACT1,1)]

ACT1 ACT2

[1,1]

[ACT1] [time(1)] F(ACT2)

[ACT1]…[time(ACT1,1)]

29

Architecture de contrôle

Partie Comportement

Partie Contrôle

Informations

Infos transgression

Stratégies deRégulation

ComportementSurveillance ducomportement

Détection de transgression

30

Fonctionnement du contrôle

ClauseAction1(…)PC(EV1)………PC(EV2)ClauseAction2(…)

Code de l’agent

[1,1]

Information de transgression

FORBIDDEN (agent do action2) after (agent do action1) andbefore (1)

31

Conclusion

Contrôle d’agent Au moyen des lois Effectué par les agents eux-mêmes

Concepts de base pour décrire le système Langage de description des concepts Langage de description des liens concepts/code

Langage de description des lois Générateur d’agent

Instrumentation du code par tissage pour détecter les événements décrit dans les lois

Génération de réseau de Petri représentant la loi pour vérifier son respect grâce à la méthode de l’observateur

32

Perspectives

Application à des lois multiagents (contrôle distribué) Répartition des réseaux de Petri entre les agents Echange entre les parties contrôle pour détecter les

transgressions (flux des jetons)

Implémentation du framework SCAAR Le langage de loi Les langages de descriptions des concepts et des liens Le générateur d’agent (instrumentation et architecture

de contrôle)

Régulation des comportements

33

…MERCI!!!

Fin…

TASFR T30527-b-fr Contrôle de la conformité des comportements individuels dagents cognitifs...

Documents

Transcript of TASFR T30527-b-fr Contrôle de la conformité des comportements individuels dagents cognitifs...