Cours Big Data Chap5

1

Chapitre 5

NoSQL

Amal ABID – Cours GI3 ENIS

SQL

Il était une fois

2Amal ABID – Cours GI3 ENIS

CLI_ID

PAN_ID

Modèle de données relationnel


SQL

• Un langage de requête plus ou moins normé.

• Tout information est décrite par des listes de n-uplets

• Opérations puissantes :

– Sélection (where)

– Projection (select)

– Produit cartésien (join)

– Union

– Intersection

– Différence


Transactions ACID

• Pas de modification partielle : Une transaction est une unité logique de travail quidoit être achevée soit avec la totalité de ses modifications de données ou aucuned'entre elles n'est effectuée.

Atomique (Atomic)

• A la fin de la transaction, les données doivent être dans un état cohérent.

• Assuré par les contraintes d’intégrités.

• Mais aussi et surtout par le développeur.

Cohérente (Consistant)

• Les modifications d’une transaction doivent être indépendantes des autrestransactions : Les modifications ne sont pas visibles par les autres tant que latransaction n’a pas été validée.

Isolées

• Une fois validés, les données sont permanentes jusqu’à leur prochaine modification.

Durable


Marché mature

• Utilisé depuis des dizaines d’années

• De nombreux fournisseurs et de nombreux outils :

– Oracle

– SQL Server

– Mysql

– Postgresql

– MariaDB (clone de Mysql)

– MS Access


Bases de données relationnelles

7

• Entités - relation

• Simple

• UniverselModèle

• SQL

• Puissant

• Ad-hocRequête

• ACIDTransaction

• Utilisé massivement

• Nombreux moteurs sur le marché

• Nombreux outilsMaturité


Mise en œuvre d’un SGBD-R (1/4)

8

Serveur Applicatif

Base de données

HTTPJDBC



9

Serveurs ApplicatifsBase de données

HTTP JDBC



10

Serveurs ApplicatifsBase de données

HTTP JDBC


11

Base de données

HTTP

JDBC



Scalabilité verticale

Montée en charge difficile

• Les règles d’intégrité compliquent la montée horizontale

• Montée en charge verticale

– Coût non linéaire

– Atteint une limite

– Point unique de défaillance


Scalabilité horizontale difficile

Coût des transactions ACID

• La lecture est éparpillée

– Lecture d’un panier de N articles

– 2 requêtes

– 2 IO pour lire le panier

– N+1 IO pour les articles

• L’écriture est lente

– IO synchronisés

• La durée d’une requête est difficile à prévoir

– Select * from t where id = ?

– Select * from t where date < (select max(date) from ot)


Le modèle Entité Relation peu exploité

• Le modèle Entité-Relation est souvent peu exploité

• Utilisation du CRUD

• Utilisation de caches

– Memcache

– Ehcache

• Correspondance ORM

– C’est le modèle objet qui est privilégié


Limites des SGBD classiques

• SGBD Relationnels offrent :

– Un système de jointure entre les tables permettant de construire des

requêtes complexes impliquant plusieurs entités.

– Un système d’intégrité référentielle permettant de s’assurer que les liens

entre les entités sont valides.

• Contexte fortement distribué : Ces mécanismes ont un coût considérable :

– Avec la plupart des SGBD relationnels, les données d’une BD liées entre

elles sont placées sur le même nœud du serveur.

– Si le nombre de liens important, il est de plus en plus difficile de placer les

données sur des nœuds différents.

• SGBD Relationnels sont généralement transactionnels ⇒ Gestion de

transactions respectant les contraintes ACID (Atomicity, Consistency, Isolation,

Durability).



• Constat :

– Essor des très grandes plate-formes et applications Web (Google, Facebook,

Twitter, LinkedIn, Amazon,...).

– Volume considérable de données à gérer par ces applications nécessitant une

distribution des données et leur traitement sur de nombreux serveurs.

– Ces données sont souvent associées à des objets complexes et hétérogènes.

⇒ Limites des SGBD traditionnels (relationnels et transactionnels) basés sur

SQL.

⇒ D’où, nouvelles approches de stockage et de gestion des données :

Permettant une meilleure scalabilité dans des contextes fortement

distribués.

Permettant une gestion d’objets complexes et hétérogènes sans avoir à

déclarer au préalable l’ensemble des champs représentant un objet.

Regroupées derrière le terme NoSQL (Not Only SQL), proposé par Carl

Strozzi, ne se substituant pas aux SGBD Relationnels mais les complètant

en comblant leurs faiblesses.



• Nécessaire de distribuer les traitements de données entre différents serveurs.

• Difficile de maintenir les contraintes ACID à l’échelle du système distribué

entier tout en maintenant des performances correctes.

⇒ La plupart des SGBD NoSQL relâchent les contraintes ACID, ou même ne

proposent pas de gestion de transactions.

• BDs NoSQL :

– Ce n’est pas (comme son nom le laisse supposer) NoSQL (pas de SQL).

– Privilégier donc NOSQL plutôt que NoSQL.

• BDsnon-relationnelles et largement distribuées.

• Permet une analyse et une organisation rapides des données de très grands

volumes et de types de données disparates.

• Appelées également :

– Cloud Databases.

– Non-Relational Databases.

– Big Data Databases...


NOT ONLY SQL

Repenser les bases de données


Pourquoi NoSQL ? (1/3)

21

Big User :



22

Big Data (Gros volumes de données + variété) :



23

Montée en charge (1/2) :



24

Montée en charge (2/2) :


Généralité : Montée en charge linéaire

• Deux critères

– Volume des données

– Nombre de requêtes

• Twitter

– Janvier 2010 : 50 M/j

– Juin 2011 : 200 M/j

• Le coût doit augmenter linéairement


Généralité : Performances - temps d’accès

Il est plus rapide d’interroger une autre machine que de lire

sur le disque local

26

•10 nsMémoire

•50 µsRéseau

local

•10 msDisque


Généralité : Performances prédictibles

• La performance des opérations doit être prédictible

• Amazon :

– Perte de 1 % de chiffre d’affaire si le temps d’affichage des

pages augmente de 0,1 s

– Plan qualité interne : Temps de réponse doit être < 300 ms pour

99,9 % des requêtes pour un pic de 500 requêtes par secondes

• Google pénalise les sites dont les pages s’affichent en plus de

1,5 s


Généralité : Prise en compte des pannes

• La panne est la règle

• Amazon :

– Un Datacenter de 100 000 disques.

– Entre 6 000 et 10 000 disques en panne par an.

– (25 disques par jour).

• Les sources de panne sont nombreuses

– Matériel serveur (disque)

– Matériel réseau

– Alimentation électrique

– Anomalies logicielles

– Mises à jour des logiciels et des OS.


Théorème CAP (1/5)

• Après la modification d’une donnée, tous les clients lisent la nouvelle valeur.

Consistency(Cohérence)

• Le système répond toujours aux requêtes dans un temps borné (timeout)

Avalibility(Disponibilité)

• Le système continue à fonctionner si le réseau qui relie les nœuds est scindé en deux.

• La chute d’un nœud est une forme particulière de partition.

Partition Tolerance(Tolérance aux

pannes)

Théorème CAP« You can have at most two of these properties for any sharded-datasystem. » Eric A. Brewer — 19 juillet 2000

Vous devez comprendre le théorème de la CAP lorsque vous parlez de bases dedonnées NoSQL ou en fait lors de la conception de tout système distribué.


• En théorie, il est impossible de satisfaire à toutes les 3 exigences.

• CAP oblige un système distribué de suivre 2 des 3 exigences.

• Par conséquent, tous les bases de données actuelles NoSQL

suivent les différentes combinaisons de C, A, P du théorème CAP.

• Voici une brève description des trois combinaisons CA, CP, AP :

– CA – Situés dans un cluster unique, tous les nœuds sont toujours

en contact. Lorsqu'une partition se produit, le système bloque.

– CP - Certaines données peuvent ne pas être accessibles, mais le

reste est toujours conforme/précis.

– AP - Le système est toujours disponible sous le partitionnement,

mais quelques-unes des données renvoyées peuvent être

inexacts/imprécises.

30



31


CA

• Perte de message détectée

• L’écriture échoue

CP

• Attente et rejet jusqu’à ce que le message soit transmis

• Réponse potentiellement trop tardive

AP

• Validation de l’écriture

• État incohérent

Exemple :

Illustration: Après qu’un premier utilisateur modifie une valeur sur l’un des noeuds dusystème, un second utilisateur voulant lire cette valeur sur un autre noeud doit attendreleur synchronisation pour garantir la cohérence. Or, ce temps incompressible d’attente, surun système très chargé et très vaste, va considérablement influencer la disponibilité(exemple poste : cohérence plutôt que disponibilité).


32

Théorème CAP (4/5)Illustration:• Supposons que soit assuré par réplication consistance et disponibilité, dans le cas de

l’exemple, supposons 2 serveurs de BD dans 2 Data-Centers différents, et que l’on perde la

connexion réseau entre les 2 Data-Centers, faisant que les 2 BD sont incapables de

synchroniser leurs états.

• Si vous parvenez à gérer les opérations de lecture/écriture sur ces 2 BD, il peut être prouvé

que les 2 serveurs ne seront plus consistants.

• Une application bancaire gardant à tout moment l’état de votre compte est l’exemple parfait

du problème des enregistrements inconsistants :

- Si un client retire 1000 dinars à Tunis, cela doit être

immédiatement répercuté à Sfax, afin que le système sache

exactement combien il peut retirer à tout .

- Si le système ne parvient pas à le faire, cela

pourrait mécontenter de nombreux clients.

• Si les banques décident que la consistance est très

importante, et désactivent les opérations d’écriture lors de la

panne, alors la disponibilité du cluster sera perdu puisque

tous les comptes bancaires dans les 2 villes seront désormais

gelés jusqu’à ce que le réseau soit de nouveau opérationnel.

33


Consistency

AvalibilityPartition Tolerance

CA CP

AP

SQL / RDBMSSQL Server

OracleMySQL

NoSQLCouchDBCassandra

NoSQLHBase

MongoDB


34

Exemple Choix d’Amazon

Lors qu’un client clique

sur le bouton « acheter »

Faut-il ?


• L'acronyme de BASE a été définie par Eric Brewer, qui est également connu pour

formuler le théorème CAP. Le théorème CAP affirme que tout système à état

partagé en réseau ne peut avoir que deux des trois propriétés désirables.

• Néanmoins, en gérant explicitement les partitions, les concepteurs peuvent

optimiser la cohérence et la disponibilité, atteignant ainsi un compromis des trois.

• Propriétés BASE

– Basically Available: le système doit toujours être accessible (ou indisponible

sur de courtes périodes)

– Soft state: l’état de la BD n’est pas garanti à un instant donné (les mises à jour

ne sont pas immédiates : cf. cohérence à terme)

– Eventual consistency: la cohérence des données à un instant donné n’est pas

primordiale (mais assurée à terme : verrouillage optimiste en reportant à plus

tard la vérification de l’intégrité)

• Les systèmes étendus modernes et à grande échelle, y compris le cloud, utilisent

l’approche BASE combinée par l’approche ACID.

BASE

36

ACID vs BASE

ACID

• Atomique

• Cohérent

• Isolé

• Durable

• Cohérence forte

• Transactions

• Schéma

• Évolutions difficiles

BASE

• Basiquement diponible

• Souple état

• Eventuelle consistence

• Cohérence faible

• Procédure de réconciliation

• Pas de schéma

• Évolutions faciles

• Rapide

• Favorise la disponibilité

Continuum


• Définition

– SGBD non fondé sur l’architecture des SGBDR, open source, distribué, horizontally

scalable (montée en charge par ajout de serveurs)

• Origine

– « Les SGBDR en font trop, alors que les produits NoSQL font exactement ce dont vous

avez besoin » selon J. Travis (lors de la rencontre meetup NoSQL de San Francisco du

11/6/2009)

– Gestion des BD géantes des sites web de très grande audience

– Exemple des SGBD d’annuaires : grande majorité des accès aux BD consistent en lectures

sans modification (ainsi, seule la persistance doit être vérifiée)

• « Consensus » actuel

– Les SGBD NoSQL ne replacent pas les SGBDR mais les complètent en palliant leurs

faiblesses

• UnQL (Unstructured Query Language)

– 2011 : début d’une spécification d’un langage de manipulation standardisé (pour formaliser

le requêtage des collections des BD NoSQL) 37

SGBD NoSQL (1/3)

• Simplification en renonçant aux fonctionnalités classiques des SGBDR :

– Redondance (via réplication)

– Pas forcément de schéma normalisé, initialement voire à terme

– Pas de tables mais des collections

– Rarement du SQL (L4G déclaratif, complet au sens de Turing depuis SQL-99)

mais API simple ou langage spécialisé

– Pas forcément de jointure mais multiplication des requêtes,

cache/réplication/données non normalisées, données imbriquées

– Transactions pas forcément ACID mais plutôt BASE

– P s’impose pour un système distribué : AP (accepte de recevoir des données

éventuellement incohérentes) voire CP (attendre que les données soient

cohérentes)

38

SGBD NoSQL (2/3)


• Gestion des mégadonnées (big data) du web, des objets connectés, etc.

• Structure des données hétérogène et évolutive

• Données complexes et pas toujours renseignées

• Environnement distribué : données répliquées et accédées d’un peu partout (dans le monde),

traitement répartis

• Techniques de partionnement des BD : sharding, hachage cohérent (consistent hashing)

• Contrôle de concurrence multi-version (Multi-Version Concurrency Control (MVCC))

– Modification d’une donnée non par écrasement des anciennes données par les nouvelles

mais en indiquant que les anciennes données sont obsolètes et en ajoutant une nouvelle

version (seule la plus récente étant correcte) … ce qui nécessite une purge régulière des

données obsolètes

• Performances linéaires avec la montée en charge (les requêtes obtiennent toujours aussi

rapidement une réponse) 39

SGBD NoSQL (3/3)

• Il existe quatre types courants des bases de données NoSQL. Chacune de

ces catégories a ses spécifiques attributs et limites. Il n'y a pas une solution

qui est mieux que tous les autres, mais il y a certaines bases de données qui

sont mieux pour résoudre à certains problèmes.

• Afin de clarifier les bases de données NoSQL, nous discuterons les

catégories les plus courantes :

– Clef-valeur

– Bases orientées colonnes

– Bases orientées documents

– Graphe

40

NoSQL Catégories - Présentation


• Définition

– BD = 1 tableau associatif unidimensionnel

– Le stockage clé-valeur est le type le plus élémentaire de base de données NoSQL.

– Chaque objet de la base représenté par un couple (clé,valeur) est identifié par une

clé unique qui est le seul moyen d’accès à l’objet

– Les clés sont triées en ordre lexicographique

– Les stockages clé-valeur suivent les aspects CA du théorème CAP.

• Opérations

– Les 4 opérations CRUD :

• create(clé,valeur) : crée un couple (clé,valeur)

• read(clé) : lit une valeur à partir de sa clé

• update(clé,valeur) : modifie une valeur à partir de sa clé

• delete(clé) : supprime un couple à partir de sa clé

– Souvent interface HTTP REST disponible depuis n'importe quel langage 41

NoSQL Catégories - Clef-valeur (1/6)

• Cas d’utilisation

– Dépôt de masses de données avec des besoins de requêtage simple pour des

analyses en temps-réel: sessions web et fichiers de log, profils utilisateurs,

données de capteurs, gestion de caches, contenu du panier de shopping, valeurs

individuelles comme les couleurs, numéro de compte par défaut, etc.

• Logiciels

– Amazon Dynamo (Riak est l’implémentation open source).

– Redis (projet sponsorisé par VMWare).

– Voldemort (développé par Linkedln en interne puis passage en open source).

– Oracle NoSQL Database

• Types

– Les données de base de données sont stockées comme table de hachage où chaque

clef est unique et la valeur peut être String, Objet sérialisé, BLOB (basic large

object) etc.

– Une clé peut être Strings, Hashes, Lists, Sets, Sorted Sets et les valeurs sont

stockées contre ces clés.


43

Clef Valeur

- Simple / Répartition facile

- Très performant / Requêtes optimales à temps constants / Performances prédictibles

- Disponibilité

- Bonne mise à l’échelle / Evolutivité des valeurs

- Convient parfaitement à l’utilisation d’un cache

- Interrogation seulement sur la clé

- Complexité des valeurs à gérer dans les programmes

- Pas de requêtes Adhoc ni filtres complexes

- Toutes les jointures doivent être faites dans le code

- Pas de contraintes

- Pas de triggers



Critiques

44

NoSQL Catégories - Clef-valeur (4/6)Schéma des données


45


Exemple 1 :


46


Exemple 2 :


• Définition

– Données stockées en colonnes.

– C’est une évolution de la BD clé/valeur.

– La colonne est l’entité de base représentant un champ de

donnée, chaque colonne est définie par un couple (clé,valeur)

avec une estampille (pour gérer les versions et les conflits)

NoSQL Catégories - Orientées colonnes (1/8)

− Une super-colonne est une colonne contenant d’autres colonnes

− Une famille de colonnes regroupe plusieurs colonnes ou supercolonnes où les

colonnes sont regroupées par ligne et chaque ligne est identifiée par un identifiant

unique et par un nom unique

− Les stockages orientés colonnes peuvent améliorer les performances des requêtes

car ils peuvent accéder à des données spécifiques d’une colonne.

− Modèle proche d’une table dans un SGBDR mais ici le nombre de colonnes :− est dynamique.

− peut varier d’un enregistrement à un autre ce qui évite de retrouver des colonnes

ayant des valeurs NULL.

− Les notions de colonne, super-colonne et famille de colonnes seront détaillées dans

le chapitre suivant « HBase: BD orientée colonne ».47

• Opérations

− Les requêtes doivent être prédéfinies en fonction de l’organisation en colonnes (et

super-colonnes et familles de colonnes) choisie.


– Analyse de données, traitement analytique en ligne (OnLine Analytical Processing

(OLAP)), exploration de données (data mining), entrepôt de données (data

warehouse), gestion de données semi-structurées, jeux de données scientifiques,

génomique fonctionnelle, journalisation d’événements et de compteurs, analyses de

clientèle et recommandation, stockage de listes (messages, posts, commentaires, ...),

traitements massifs

– Ex. : Netflix (logging et analyse de sa clientèle), eBay Inc. (optimisation de la

recherche), Adobe Systems Incorporated (traitement de données structurées et

d’informatique décisionnelle (Business Intelligence (BI))), sociétés de TV

(connaissance de leur audience et gestion du vote des spectateurs)

• Logiciels

– BigTable, HBase, Cassandra, SimpleDB


49


- Bonne mise à l’échelle horizontale.

- Efficace avec l’indexation sur les colonnes et pour des requêtes temps-réel connues à l’avance.

- Supporte des données tabulaires à schéma variable et des données semi-structurées (facile d’ajouter/fusionner des colonnes et d’ajouter une colonne/super-colonne à n’importe quelle ligne d’une colonne/super-colonne).

- Nombre de colonnes dynamique (variable d’un enregistrement à un autre permettant d’éviter les indéterminations)

- Ne supporte pas les données structurées complexes ou interconnectées.

- Maintenance nécessaire pour la modification de structure en colonne.

- Ajout de ligne couteux.

- Requêtes doivent être pré-écrites.



- Pas de triggers

Critiques


NoSQL Catégories - Orientées colonnes (4/8)Schéma des données

• Les notions de colonnes et famille de colonnes seront détaillées dans le chapitre

suivant « HBase: BD orientée colonne ».


Exemple 1 :

Amal ABID – Cours GI3 ENIS51

52


Exemple 2 :


53


Une colonne pourrait rassembler plusieurs données stockées dans des lignesqui s'étendent sur plusieurs tables d'une base de données relationnelle.

Exemple 3 :


54


Exemple 4 :


• Définition

– BD = collection de documents

– Modèle clé-valeur où la valeur est un

document (lisible par un humain) au format

semi-structuré hiérarchique (XML, YAML,

JSON ou BSON, etc.)

– Document (structure arborescente) =

collection de couples (clé,valeur)

− Un document est un ensemble de clé-valeur où la clé permet d'accéder à sa valeur.

− Valeur de type simple ou composée de plusieurs couples (clé,valeur)

− Les documents ne sont pas généralement forcés d'avoir un schéma. Ils sont donc

flexibles et faciles à modifier.

− Pouvoir de récupérer, via une seule clé, un ensemble d’informations structurées de

manière hiérarchique− Dans les bases relationnelles, cela impliquerait plusieurs jointures.

NoSQL Catégories - Orientées documents (1/6)


• Opérations

− Les opérations CRUD du modèle clé-valeur

− Souvent interface HTTP REST disponible

− Requêtage (API ou langage) possible sur les valeurs des documents


– Outils de gestion de contenu (Content Management System (CMS)), catalogues de

produits, web analytique, analyse temps réel, enregistrement d’événements,

stockage de profils utilisateurs, systèmes d’exploitation, gestion de données semi-

structurées

• Logiciels

– CouchDB, RavenDB, MongoDB, Terrastore



57


- Performances élevées

- Bonne mise à l’échelle

- Modèle simple augmenté de la richesse des documents semi-structurés.

- Expressivité des requêtes

- Schéma de BD évolutif, efficace pour les interrogations par clé

- Peut être limité pour les interrogations par le contenu des documents.

- Limité aux données hiérarchiques, inadapté pour les données interconnectées, baisse des performances pour de grandes requêtes.



- Pas de triggers

Critiques


58



Schéma des données

59


Exemple 1 :


60


Exemple 2 :

Un document JSON pourrait, par exemple, prendre toutes les donnéesstockées dans une ligne qui s'étend sur 20 tables d'une base de donnéesrelationnelle et de les regrouper dans un seul document/objet.


• Définition

– Une base de données de type graphe stocke

les données dans un graphe.

– Elle est basée sur les théories des graphes.

– Elle est capable de représenter élégamment

n'importe quel type de données d'une

manière hautement accessible.

− La gestion d’un graphe (a priori orienté) c.-à-d. la modélisation, le stockage et la

manipulation de données complexes liées par des relations non-triviales ou

variables

− Chaque nœud représente une entité (comme un étudiant ou une entreprise) et

chaque arc représente un lien ou relation entre deux nœuds.

− Quand le nombre de nœuds augmente, le coût d'une étape local (ou hop) reste

le même.

− Conçues pour les données dont les relations sont représentées comme graphes,

et ayant des éléments interconnectés, avec un nombre indéterminé de relations

entre elles.

− Adapté aux traitements des données des réseaux sociaux

NoSQL Catégories - Graphe (1/8)

61

• Opérations

− SPARQL pour les SGBD NoSQL Graphe RDF

− API et langages spécialisés de programmation et de requêtes sur les graphes


– Moteurs de recommandation, informatique décisionnelle, web sémantique, internet

des objets (internet of things (IoT)), sciences de la vie et calcul scientifique

(bioinformatique, …), données géospatiales, données liées, données hiérarchiques

(catalogue des produits, généalogie, …), réseaux sociaux, réseaux de transport,

services de routage et d’expédition, services financiers (chaîne de financement,

dépendances, gestion des risques, détection des fraudes, …), données ouvertes

(open data)

• Logiciels

– Neo4J, OrientDB, Titan



63

Modèle relationnelle

• Tables

• Lignes

• Colonnes

• Jointure

Modèle de graphe

• Ensemble de sommets et des arêtes.

• Sommets

• Paires clef-valeur

• Arrêtes



64

- Modèle riche et évolutif

- Bien adapté aux situations où il faut modéliser beaucoup de relations.

- Nombreux langages et API bien établis et performants

- Répartition des données peut être problématique pour de gros volumes de données, fragmentation (sharding)

Critiques



65



Schéma des données

66


• Bases qui permettent d’étudier globalement les relations entre entités.

Exemple 1 : Graphe social




Exemple 2 :

68


Exemple 3 :


• Les applications interactives ont beaucoup évolué ces 15 dernières années,

tout particulièrement la gestion des données de ces applications. Le Big Data,

le nombre d'utilisateur croissant (Big Users) et l'architecture Cloud sont à la

source de l'adoption du NoSQL.

• NoSQL s'impose de plus en plus comme une solution alternative viable aux

base de données relationnelles; de plus en plus d'entreprises reconnaissent

que le déploiement d'applications à grande échelle est meilleure lorsqu'il est

fait sur un cluster standard utilisant du matériel "commodité", et sans schéma

de donnée.

69

Conclusion


70

Annexe (1/4)



Annexe (2/4)

Montée en charge difficile


SGBDR

NoSQL

Scalabilitéhorizontale difficile

Scalable


NoSQL

Annexe (4/4)

Cours Big Data Chap5

Data & Analytics

Transcript of Cours Big Data Chap5