tasfr t30527-b-fr contrôle de la conformité des comportements individuels dagents cognitifs...
Post on 03-Apr-2015
108 Views
Preview:
TRANSCRIPT
TASFR
T30527-b-fr
Contrôle de la conformité des comportements individuels d’agents cognitifs autonomes
Caroline Chopinaud Amal El Fallah Seghrouchni
Patrick Taillibert23/25 Novembre 2005 – JFSMA’05 (Calais)
2
Contexte et Problématique
Systèmes critiques Systèmes embarqués, temps réels Conception au moyen des systèmes multiagents
Confiance dans le comportement du SMA En accord avec les spécifications Pas de comportements inattendus.
3
Problème de confiance
Caractère imprévisible des SMA
Autonomie des agents Prendre seul ses décisions [Barber 99]
Émergence du comportement du système Comportements attendus Comportements inattendus
Possible échec de l’application
Apparition de comportements indésirables
4
Problème supplémentaire
Bugs du système Vérification classique pas sûre à 100%
Model Checking sur un modèle du système (très coûteux) Tests non exhaustifs Démonstration automatique lourde et complexe
SMA accroît les difficultés de validation Modélisation (explosion d’états)
Indéterminisme Distribution Communication asynchrone
Apparition d’erreurs en conditions réelle d’exécution
5
Objectif!
Garantir qu’un SMA ne génèrera pas de comportements
indésirables
6
Plan de l’exposé
Le contrôle d’agent
La description du contrôle
Génération des agents autocontrôlés
7
Le contrôle d’agent
3 étapes :
Surveillance du comportement des agents
Détection des comportements indésirables
Régulation du comportement des agents problématiques
8
Surveillance du comportement
Monitoring (software) : Observation et compréhension du comportement
d’un programme au cours de son exécution Instrumentation des programmes pour observer
les événements Insertion de sondes logicielles Manuelle ou automatique
Instrumentation automatique Comportement des agents Facilite le travail du développeur Réduit le risque d’erreur
9
Le contrôle d’agent
3 étapes :
Surveillance du comportement des agents
Détection des comportements indésirables
Régulation du comportement des agents problématiques
10
Détection des comportements indésirables (1)
Normes
Définition des comportements ou des situations idéales
Contraintes/indications sur le comportement Éviter des conflits Restreindre les possibilités d’action des agents Confiance entre les agents
Accepter et respecter les normes au moment de la prise de décision
11
Détection des comportementsindésirables (2)
Utilisation de lois Normes non prises en compte au moment de la
prise de décision Séparation de la définition du contrôle et de
l’implémentation des agents
Matérialisent les exigences significatives du fonctionnement du système
Définissent les comportements souhaités ou redoutés
Détection de transgression des lois
12
Le contrôle d’agent
3 étapes :
Surveillance du comportement des agents
Détection des comportements indésirables
Régulation du comportement des agents problématiques
13
Régulation du comportement
Effectuée par les agents eux-mêmes Capacité de raisonnement Informations de transgression
Stratégie de régulation Fournie par le développeur Associée à la transgression d’une loi
14
Plan de l’exposé
Le contrôle d’agent
La description du contrôle
La génération des agents autocontrôlés
15
Description des lois
Fournit un ensemble de concepts de base Utilisés dans les lois Utilisés pour décrire l’application et le modèle
d’agent Étendus pour raffiner la description
Par le concepteur du modèle et de l’application Reliés à l’implémentation du modèle d’agent
Définition de liens par les concepteurs
Fournit un langage de lois Description d’actions ou d’états
Redoutés Souhaités
Notion de temps ou de relation temporelle
16
Concepts de base
Agent Caractéristique
Message Objet But Plan Connaissance
Action CreationAgent ReceptionMessage EnvoiMessage Migration
17
Langage de description (1)
Opérateurs déontiques. Interdiction (FORBIDDEN) Obligation (OBLIGED)
Actions Agent do Action Action ou changement de valeur d’une Caractéristique
Etats Agent be State Etat résultant d’une Action ou valeur d’une Caractéristique
Notion temporelle BEFORE/AFTER (une action ou un temps) IF (un état)
Enchaînement d’actions/états THEN
Conjonction d’actions/états AND
18
Langage de description (2)
Sémantique
Logique déontique dynamique [Meyer85] Variante de la logique déontique [vonWright51]
Logique modale Obligation / Interdiction / Permission / Facultatif Exprime la différence en l’idéal et le réel (violation)
Relation temporelle entre actions et états du monde
19
Langage de description (3)
Logique déontique dynamique Soit A1,A2 des actions et E, un état du monde
A1 ; A2 : A1 est suivie de A2 A1 & A2 : A1 et A2 sont simultanées E A1/A2 : si E alors A1 sinon A2 A1 U A2 : A1 ou A2 A1 : not A1
[A1]E : E est vrai après l’exécution de A1 <A1>E : Il existe un moyen d’exécuter A1 pour que
E soit vraie
F : Interdiction O : Obligation P : Permission
20
Langage de description (4)
Sous ensemble de la logique déontique dynamique Ne permet pas d’exprimer
Permission Négation d’opérateurs déontiques <A>E A1 U A2
Permet d’exprimer des lois du type:
FORBIDDEN (agt do EnvoiMessage) AFTER (agt do EnvoiMessage) AND BEFORE (1)
FORBIDDEN (agA do Migration) IF (agB be Migration)
OBLIGED (agA do EnvoiMessage and content = ‘A’) AND (agA do EnvoiMessage and content = ‘B’)
21
Plan de l’exposé
Le contrôle d’agent
La description du contrôle
La génération des agents autocontrôlés
22
Agent autocontrôlés (1)
Génération automatique à partir de Programme de comportement Ensemble de lois associées Liens entre les concepts et l’implémentation
Autocontrôle Principe de l’observateur Architecture d’agent spécifique
23
Principe de l’observateur
PROGRAMME SOUS
SURVEILLANCEMODELE
CONTROLEUR
CONNEXIONS
24
Principe de l’observateur
MODELEPROGRAMME
Début S1
Début S2
Fin S1
Fin S2
25
Agent autocontrôlé (2)
Principe de l’observateur [Diaz 1994]
Installer au sein des agents Modélisation des lois sous forme de réseau de
Petri Relier les lois au programme des agents par des
points de contrôle
26
Génération automatique (1)
Insertion des points de contrôle (instrumentation)
Utilisation du tissage Principe de la programmation par aspect [Wampler
2003] Injection de code à partir de la définition de point de
jonction.
Au niveau des événements décrits dans les lois A partir de la description des liens
concepts/implémentation
27
Génération automatique (2)
Génération automatique du réseau de Petri.
LOI
{Réseaux de Petri}
RESEAU DE PETRI
Utilisation d’une table de correspondance langage/réseau de Petri
28
Génération automatique (3)
FORBIDDEN (ACT2) AFTER (ACT1) AND BEFORE (1)[ACT1]F(ACT2)[time(ACT1,1)]
ACT1 ACT2
[1,1]
[ACT1] [time(1)] F(ACT2)
[ACT1]…[time(ACT1,1)]
29
Architecture de contrôle
Partie Comportement
Partie Contrôle
Informations
Infos transgression
Stratégies deRégulation
ComportementSurveillance ducomportement
Détection de transgression
30
Fonctionnement du contrôle
ClauseAction1(…)PC(EV1)………PC(EV2)ClauseAction2(…)
Code de l’agent
[1,1]
Information de transgression
FORBIDDEN (agent do action2) after (agent do action1) andbefore (1)
31
Conclusion
Contrôle d’agent Au moyen des lois Effectué par les agents eux-mêmes
Concepts de base pour décrire le système Langage de description des concepts Langage de description des liens concepts/code
Langage de description des lois Générateur d’agent
Instrumentation du code par tissage pour détecter les événements décrit dans les lois
Génération de réseau de Petri représentant la loi pour vérifier son respect grâce à la méthode de l’observateur
32
Perspectives
Application à des lois multiagents (contrôle distribué) Répartition des réseaux de Petri entre les agents Echange entre les parties contrôle pour détecter les
transgressions (flux des jetons)
Implémentation du framework SCAAR Le langage de loi Les langages de descriptions des concepts et des liens Le générateur d’agent (instrumentation et architecture
de contrôle)
Régulation des comportements
33
…MERCI!!!
Fin…
top related