Gestion de données provenant de réseaux de capteurs sans fil

28
Gestion de données provenant de réseaux de capteurs sans fil David Sarramia

Transcript of Gestion de données provenant de réseaux de capteurs sans fil

Page 1: Gestion de données provenant de réseaux de capteurs sans fil

Gestion de données provenant de réseaux de capteurs sans fil

David Sarramia

Page 2: Gestion de données provenant de réseaux de capteurs sans fil

Cloud environnemental• Délivrable du Challenge 1 de l’I-Site : Agro-écosystèmes durables dans un

contexte de changement global

• Une ambition importante :• Création d’un « grand » observatoire de l’environnement en Auvergne, unique en Europe.

• Des objectifs scientifiques à fort impact :• Concevoir un environnement numérique interconnecté valorisant les données

environnementales existantes ou à acquérir.

• Automatiser le monitoring de données à distance par la mise au point de nouveaux systèmes de capteurs sans fil.

• Accroitre notre compréhension des compartiments environnementaux face au changement global (évolutions, interactions).

• Comprendre l’impact de ces compartiments sur les agroécosystèmes et réciproquement.

• Conceptualiser les interrelations entre les compartiments pour comprendre, modéliser et prédire le comportement des agroécosystèmes.

• Accompagner l’aide à la décision (agriculteurs, entreprises, collectivités territoriales).2

Page 3: Gestion de données provenant de réseaux de capteurs sans fil

Périmètre géographique

33

Page 4: Gestion de données provenant de réseaux de capteurs sans fil

Les données à (in)gérer

Base de données

Données spatiales, GPS

Image, audio, vidéo

Capteurs

Fichiers

Page 5: Gestion de données provenant de réseaux de capteurs sans fil

Solution proposée : data lake

5

COLLECT

INGEST

BLEND, TRANSFORM,ANALYZE PUBLISH, DISTRIBUTE

Page 6: Gestion de données provenant de réseaux de capteurs sans fil

Eléments d’un data lake

• Gestion des données– Collection/Ingestion de données en temps réel

– Ingestion fichiers, base de données

– Stockage pérenne : • base de données NoSQL

• système de fichiers

• Traitement des données– Recherche, transformation, visualisation,

restitution/export

• Publication– Catalogue

6

Page 7: Gestion de données provenant de réseaux de capteurs sans fil

Recherche

Analyse

Visualisation

?

?

Réseau de capteurs

Au temps t

7

Page 8: Gestion de données provenant de réseaux de capteurs sans fil

Recherche

Analyse

Visualisation

?

?

?

Au temps t + 1 mois

8

Réseau de capteurs

Page 9: Gestion de données provenant de réseaux de capteurs sans fil

Recherche

Analyse

Visualisation

?

?

Données deréférence

?

Au temps t + 1 an

9

Réseau de capteurs

Page 10: Gestion de données provenant de réseaux de capteurs sans fil

Approche suite Elastic

10

StockerRechercher

Analyser

Ingérer :Recevoir

TransformerTransférer

Visualiser

Extraire

Page 11: Gestion de données provenant de réseaux de capteurs sans fil

Approche suite Elastic

11

• Elasticsearch (licence Apache)

– Moteur de recherche

– Indexe / Stocke - distribué

– Orienté document• Texte, Nombres, Date, Coordonnées géographiques

– JSON - java

– Mappings, paramètres d’index

– Aggrégations

– …

• Logstash

– Collecte les données (flux, base de données, fichiers…)• À la demande

• En service

– Par le producteur de la donnée et/ou consommateur de données

– Dans un ou plusieurs index

– Transforme (nom, type, date…)

– Analyse

– En temps quasi réel

• Kibana– Visualisation

– Interrogation

Page 12: Gestion de données provenant de réseaux de capteurs sans fil

Exemples

• Réseau de capteurs sans fils

– Mesures météo & radioactivité (bd)

– Nœud sans fil (json)

• Zatu

– Position des arbres (csv)

– Mesures de niveau de radioactivité (csv)

• Bouée Aydat

– Mesures (txt)

12

Page 13: Gestion de données provenant de réseaux de capteurs sans fil

Réseau de capteurs sans fils

13

Sensors/actuators

SQLDatabase

InternetGateway

Binary file

ELK stack node

Data CollectionData Producer

Data Logger

ES

Connectivity

Sto

rage

Data processing

Search & analyticsengine

Datavisualisation &

navigation

Third partydata

Net

wo

rk

End User

x4

x1

Prélèvements, mesure

//

Réseau de capteurs

Fichiers

Page 14: Gestion de données provenant de réseaux de capteurs sans fil

Réseau de capteurs sans fils

Flux

//

Description des données

Base de données MySQLRequête SQLSynchronisation (5 min)

Création d’alias pour faciliter les requêtes/visualisation

Page 15: Gestion de données provenant de réseaux de capteurs sans fil

Réseau de capteurs sans fils

15

Page 16: Gestion de données provenant de réseaux de capteurs sans fil

Réseau de capteurs sans fils

16

Flux

//

Description des données Fichiers

Json Elasticsearch

Page 17: Gestion de données provenant de réseaux de capteurs sans fil

Réseau de capteurs sans fils

17

Page 18: Gestion de données provenant de réseaux de capteurs sans fil

ZATU - arbres

18

Positionnement des arbres sur lesquels un prélèvement a été réalisé

Flux

//

Description des données

Fichiers

Page 19: Gestion de données provenant de réseaux de capteurs sans fil

ZATU - arbres

19

Positionnement des arbres sur lesquels un prélèvement a été réalisé

Page 20: Gestion de données provenant de réseaux de capteurs sans fil

ZATU - radioactivité

Flux

//

Description des données

Fichiers

Mesures provenant d’un Colibri (csv) :• Positionnement GPS de chaque mesure• Niveau de radioactivité

Page 21: Gestion de données provenant de réseaux de capteurs sans fil

ZATU - radioactivité

21

Mesures provenant d’un Colibri (csv) :Positionnement GPS de chaque mesureNiveau de radioactivité

(couleur = niveau relatif)

GET gamma_colibri_rophin/_search{

"query": {"bool" : {

"must" : {"match_all" : {}

},"filter" : {

"geo_polygon" : {"location" : {

"points" : [[3.5459891613159016, 46.01295812457846],[3.5592929180297688, 46.01295812457846],[3.5592929180297688, 46.002704419144706],[3.5459891613159016, 46.002704419144706],[3.5459891613159016, 46.01295812457846]

]}

}}

}}

}

Page 23: Gestion de données provenant de réseaux de capteurs sans fil

Aydat - bouée

23

Graphique de la température (capteur 0001)

Page 24: Gestion de données provenant de réseaux de capteurs sans fil

Aydat - bouée

24

Graphique de plusieurs capteurs @ nombre de mesures

Page 25: Gestion de données provenant de réseaux de capteurs sans fil

Aydat - bouée

• Dashboard

25

Page 26: Gestion de données provenant de réseaux de capteurs sans fil

Conclusion

• Projet extrêmement ambitieux avec des enjeux scientifiques et technologiques majeurs.

• Livrable au carrefour du challenge 1 de CAP 20-25

• Unique : Consortium, contours scientifique, taille, les caractéristiques des objets d’étude et les objectifs.

26

Page 27: Gestion de données provenant de réseaux de capteurs sans fil

Crédits

• Alexandre Claude (LPC)

• Equipe CEBA (Gilles Mailhot, Vincent Breton, Francis Ogereau, Jeremy Mezhoud)

• Antoine Mahul (mésocentre Clermont)

• Equipe mésocentre Clermont

Page 28: Gestion de données provenant de réseaux de capteurs sans fil

Merci de votre attention