[PDF] LE DATAWAREHOUSE ET LES SYSTEMES MULTIDIMENSIONNELS





Previous PDF Next PDF



LE DATAWAREHOUSE ET LES SYSTEMES MULTIDIMENSIONNELS

Le Data Warehouse et les Systèmes. Multidimensionnels Définition d'un Datawarehouse (DW). • Le Datawarehouse est une collection de données.



Bases de Données Avancées - DataWareHouse et NoSQL

d'où la naissance du concept. Entrepôt de Données = Data Warehouse. Les DWH sont physiquement séparés des SGBD opérationnels (BD opérationnelles). 11/69 



Datawarehouse and OLAP

caractéristiques data warehouse data mart utilisateur toute l'entreprise un département. BD. SQL type serveur BD MD OLAP.







Business Intelligence - M1DAC DataWarehouse

30 janv. 2017 Datawarehouse. Le terme entrepôt de données (ou base de données décisionnelle ou encore data warehouse) désigne une.



Le Data Warehouse et les Systèmes Multidimensionnels

Définition d'un Data warehouse (DW). • Le Data warehouse (entrepôt de données) est une collection de données orientées sujet intégrées





Modélisation Dimensionnelle : le fondement du DatawareHouse

13 déc. 2011 •Une méthode alternative : Data Vault. Kimball. Inmon. Processus. Bottom-Up. Top-Down. Organisation. Datamarts. Datawarehouse.



Data warehouse - Wikipedia

Data Warehouse Architecture A data warehouse system has two main architectures: the data flow architecture and the system architecture The data flow architecture is about how the data stores are arranged within a data warehouse and how the data flows from the source systems to the users through these data stores



Data Warehousing and OLAP Technology

“A data warehouse is a subject-oriented integrated time- variant and nonvolatile collection of data in support of management’s decision-making process ”—W H Inmon Operational Data: Data used in day-to-day needs of company Informational Data: Supports other functions such as planning and forecasting



Introduction to Data Warehousing and Business Intelligence

Data Warehousing • Solution: new analysis environment (DW) where data are Subject oriented (versus function oriented) Integrated (logically and physically) Time variant (data can always be related to time) Stable (data not deleted several versions) Supporting management decisions (different organization)



Searches related to datawarehouse filetype:pdf

setting up the data warehouse enterprises had to hire a team of database administrators to keep their queries running fast and protect against data loss Traditional data warehouse architectures and on-premises data warehousing pose many challenges: • They are difficult to scale and have long lead times for hardware procurement and upgrades

What is online integrated data warehouse?

    Online Integrated Data Warehousing represent the real-time Data warehouses stage data in the warehouse is updated for every transaction performed on the source data These data warehouses assemble data from different areas of business, so users can look up the information they need across other systems.

What data is stored in a data warehouse?

    "AAtomic" data, that is, data at the greatest level of detail, are stored in the data warehouse. Dimensional data marts containing data needed for specific business processes or specific departments are created from the data warehouse. Data warehouses often resemble the hub and spokes architecture.

What is a hybrid data warehouse?

    The data warehouse provides a single source of information from which the data marts can read, providing a wide range of business information. The hybrid architecture allows a data warehouse to be replaced with a master data management repository where operational (not static) information could reside.

What is the difference between data warehouse data and operational data?

    While operational systems reflect current values as they support day-to-day operations, data warehouse data represents a long time horizon (up to 10 years) which means it stores mostly historical data. It is mainly meant for data mining and forecasting.
LE DATAWAREHOUSE ET LES SYSTEMES MULTIDIMENSIONNELS 1 1

Le Data Le Data WarehouseWarehouse

et les Systèmes et les Systèmes

Multidimensionnels

Multidimensionnels

Copyright J. Akoka - I. Comyn-Wattiau2

1. Définition d'un Datawarehouse (DW)

•Le Datawarehouseest une collection de données orientées sujet, intégrées, non volatiles et historisées, organisées pour le support d 'un processus d 'aide à la décision (Inmon, 94). 2

Copyright J. Akoka - I. Comyn-Wattiau3

1. Définition d'un Datawarehouse

1. 1 Données orientées sujet

• Données structurées par thèmes (sujets majeurs de l'entreprise) et non suivant les processus fonctionnels. • Le sujet est transversal aux structures fonctionnelles et organisationnelles de l'entreprise. On peut accéder aux données utiles sur un sujet. • L'intégration des différents sujets se fait dans une structure unique.

Copyright J. Akoka - I. Comyn-Wattiau4

1. Définition d'un Datawarehouse

1. 1 Données orientées sujet

• Il n 'y a pas de duplication des informations communes à plusieurs sujets. • La base de données est construite selon les thèmes qui touchent aux métiers de l'entreprise (clients, produits, risques, rentabilité, ...). • Les données de base sont toutefois issues des Systèmes d'Information Opérationnels (SIO). 3

Copyright J. Akoka - I. Comyn-Wattiau5

1. Définition d'un Datawarehouse

1. 2. Données intégrées

• Les données, issues de différentes applications de production, peuvent exister sous toutes formes différentes. • Il faut les intégrer afin de les homogénéiser et de leur donner un sens unique, compréhensible par tous les utilisateurs. • Elle doivent posséder un codage et une description unique.

Copyright J. Akoka - I. Comyn-Wattiau6

1. Définition d'un Datawarehouse

1. 2 Données intégrées

• La phase d'intégration est longue et pose souvent des problèmes de qualification sémantique des données à intégrer (synonymie, homonymie, etc...). • Ce problème est amplifié lorsque des données externes sont à intégrer avec les données du SIO. 4

Copyright J. Akoka - I. Comyn-Wattiau7

1. Définition d'un Datawarehouse

1. 3 Données non-volatiles

• Une information est considérée volatile quand les données sont régulièrement mises à jour comme dans les

Systèmes d'Information Opérationnels.

• Dans un SIO, les requêtes portent sur les données actuelles. Il est difficile de retrouver un ancien résultat. • Dans un DW, il est nécessaire de conserver l 'historique de la donnée. Ainsi, une même requête effectuée à deux mois d'intervalle en spécifiant la date de référence de la donnée, donnera le même résultat.

Copyright J. Akoka - I. Comyn-Wattiau8

1. Définition d'un Datawarehouse

1. 4 Données historisées

• Dans un SIO, les transactions se font en temps réel, et les données sont mises à jour constamment. L 'historique des valeurs de ces données sont conservées car elles sont inutiles. • Dans un DW, la donnée n'est jamais mise à jour. • Les données du DW s 'ajoutent aux données déjà engrangées. 5

Copyright J. Akoka - I. Comyn-Wattiau9

1. Définition d'un Datawarehouse

• Le DW stocke donc l'historique des valeurs que la donnée aura prises au cours du temps. • Un référentiel de temps est alors associé à la donnée afin d'être capable d'identifier une valeur particulière dans le temps. • Les utilisateurs possèdent un accès aux données courantes ainsi qu'à des données historisées.

1. 4 Données historisées

Copyright J. Akoka - I. Comyn-Wattiau10

1. Définition d'un Datawarehouse

1. 5 Support d 'un processus d 'aide à la décision

• Un DW est un système d 'information dédié aux applications décisionnelles dont les principales contraintes sont : • des requêtes complexes à plusieurs niveaux d 'agrégation • la nécessité de disposer d 'informations synthétiques (" reporting » de gestion, analyse des ventes, gestion de la masse salariale, etc) • le stockage des données sous une forme multi- dimensionnelle • des mises à jour périodiques 6

Copyright J. Akoka - I. Comyn-Wattiau11

2. Objectifs d'un Datawarehouse

• permet le développement d 'applications décisionnelles et de pilotage de l 'entreprise et de ses processus • joue un rôle de référentiel pour l 'entreprise puisqu 'il permet de fédérer des données souvent éparpillées dans différentes bases de données • offre une vision globale et orientée métiers de toutes les données que manipule l 'entreprise • permet de faire face aux changements du marché et de l 'entreprise • offre une information compréhensible, utile et rapide

Copyright J. Akoka - I. Comyn-Wattiau12

3. Architecture d'un Datawarehouse

Bases multidimensionnelles

Datamarts

Outil frontal

OLAP

Outils

multidimensionnels MOLAP

Requeteur

ou tableau

Outil ROLAP

Bases de

production

Extraction

Transformation

Chargement

Rafraîchissement

Bases externes

Data WarehouseDictionnaire

Outils

d'administration 7

Copyright J. Akoka - I. Comyn-Wattiau13

3. Architecture d'un Datawarehouse

3. 1 Les Bases de Données

• Bases de production de l'entreprise • Bases créées par les utilisateurs • Bases de données externes à l'entreprise (Nielsen, INSEE, ...) qui nécessitent leur identification, leur rapatriement et leur intégration.

Copyright J. Akoka - I. Comyn-Wattiau14

3. Architecture d'un Datawarehouse

3. 2 Opérations sur les données

• Extraire les données de leur environnement d'origine (bases de données relationnelles, fichiers plats, ...). • Utiliser une technique appropriée pour n 'extraire que les données nécessaires : données créées ou modifiées depuis la dernière opération d'extraction.EXTRACTION 8

Copyright J. Akoka - I. Comyn-Wattiau15

3. Architecture d'un Datawarehouse

3. 2 Opérations sur les données

• Une même donnée peut avoir une structure ou une valeur différente en fonction de la base (production, externe, utilisateurs) dont elle provient. • On peut être confronté à des redondances (un même client peut apparaître avec différents attributs et propriétés selon la source consultée).TRANSFORMATION

Copyright J. Akoka - I. Comyn-Wattiau16

3. Architecture d'un Datawarehouse

3. 2 Opérations sur les données

• Il faut supprimer certaines données aberrantes qui risqueraient de fausser les analyses. • Il faut donc épurer et transformer les données.TRANSFORMATION 9

Copyright J. Akoka - I. Comyn-Wattiau17

3. Architecture d'un Datawarehouse

3. 2 Opérations sur les données

• Effectuer sur les données des opérations de calcul et d'agrégation. • Remplacer certaines bases si aucune solution d'extraction satisfaisante n'est possible. CHARGEMENT/RAFRAICHISSEMENT

Copyright J. Akoka - I. Comyn-Wattiau18

3. Architecture d'un Datawarehouse

3. 2 Opérations sur les données

• Mettre en place des procédures de chargement (nocturnes?) et de restauration (en cas de problème). • Si la disponibilité du système ne peut être interrompue, envisager la mise en place de systèmes redondants.CHARGEMENT/RAFRAICHISSEMENT 10

Copyright J. Akoka - I. Comyn-Wattiau19

3. Architecture d'un Datawarehouse

3. 2 Opérations sur les données

• On peut automatiser tout ou partie des opérations décrites. • Des outils sont disponibles : Extract d'ETI, Genio de

Leonard 's Logic, ...

• Le développement d'outils spécifiques est envisageable mais risque d 'alourdir les tâches.LES OUTILS

Copyright J. Akoka - I. Comyn-Wattiau20

3. Architecture d'un Datawarehouse

3. 3 Dictionnaire de Données

• Le dictionnaire de données regroupe les méta-données. • Une méta-donnée représente une donnée sur les données. Il s'agit de l'ensemble des informations qui permettent de qualifier une donnée, notamment par sa provenance, sa qualité, etc... • les méta-données permettent de préciser de quelle table provient la donnée,à quelles dates et heures elle en a été extraite, l'état de la base à cet instant, etc... 11

Copyright J. Akoka - I. Comyn-Wattiau21

3. Architecture d'un Datawarehouse

3. 3 Dictionnaire de Données

• Une méta-donnée permet de " remonter la chaîne » et de reconstituer l'ensemble d'événements et données qui ont servi à obtenir l'information associée. • Le dictionnaire de données contient toutes les informations permettant d'exploiter les données. • C'est un référentiel destiné aux utilisateurs et à l'administrateur du DW. • A ce jour, il n'existe pas de normes en ce qui concerne la structure et la gestion des dictionnaires de données. Chaque outil propose sa solution et son approche.

Copyright J. Akoka - I. Comyn-Wattiau22

3. Architecture d'un Datawarehouse

3. 4 Les Data-Marts

• Un data-mart est un DW focalisé sur un sujet particulier, souvent au niveau départemental ou métier. • C 'est donc un mini DW lié à un métier particulier de l 'entreprise (finance, commercial, ...). • Un DW est souvent volumineux (plusieurs centaines de Go voire quelques To ) avec des performances inappropriées (temps de réponse trop longs). Un Data-mart, quant à lui, comporte moins de 50 Go, ce qui permet des performances acceptables. • La création d'un data-mart peut être un moyen de débuter un projet de DW (projet pilote). 12

Copyright J. Akoka - I. Comyn-Wattiau23

3. Architecture d'un Datawarehouse

3. 5 Les bases multidimensionnelles et les outils OLAP

3.5.1 Les modèles de

données

Modèles de présentation

Modèles de diffusion

Modèles d'intégration

Bases de données opérationnelles

Copyright J. Akoka - I. Comyn-Wattiau24

3. Architecture d'un Datawarehouse

3. 5 Les bases multidimensionnelles et les outils OLAP

3.5.1 Les modèles de données

• Le modèle d 'intégration unifie les données opérationnelles. • Le modèle de diffusion représente le modèle conceptuel des données. Il correspond aux bases multidimensionnelles (serveur

OLAP).

• Le modèle de présentation est un complément au modèle conceptuel. C'est à travers ce modèle que l'utilisateur voit les données. Il correspond à différents outils physiques : les tableurs, les requêteurs, les outils clients OLAP, etc... 13

Copyright J. Akoka - I. Comyn-Wattiau25

3. Architecture d'un Datawarehouse

3. 5 Les bases multidimensionnelles et les outils OLAP

3.5.2 Les outils OLAP (On-Line Analytical Processing)

• OLAP caractérise l'architecture nécessaire à la mise en place d 'un système d 'information décisionnel. • OLAP s'oppose à OLTP (On-LineTransactional Processing) qui caractérise les SIO.

Copyright J. Akoka - I. Comyn-Wattiau26

3. Architecture d'un Datawarehouse

3. 5 Les bases multidimensionnelles et les outils OLAP

3.5.2 Les outils OLAP (On-Line Analytical Processing)

• OLAP constitue l'ensemble des outils multidimensionnels nécessaires à l'accès, le stockage et la manipulation des données utiles pour un SID ou pour un EIS. • OLAP désigne les outils d 'analyse s'appuyant sur les bases de données multidimensionnelles. 14

Copyright J. Akoka - I. Comyn-Wattiau27

3. Architecture d'un Datawarehouse

3. 5 Les bases multidimensionnelles et les outils OLAP

3.5.3 Les 12 règles de E.F. CODD (1993)

Vue multidimensionnelle: Les données sont structurées en dimensions métiers. Transparence : L 'utilisateur doit pouvoir utiliser les logiciels habituels (tableurs, ...) sans percevoir la présence d 'un outil OLAP. Accessibilité: L 'outil doit se charger d 'accéder aux données stockées dans n 'importe quel type de bases de données (interne + externe) et le faire simultanément. Performance continue dans les restitutions: A mesure que le nombre de dimensions ou la taille de la base augmente, l'utilisateur ne doit pas subir de baisse sensible de performance.

Copyright J. Akoka - I. Comyn-Wattiau28

3. Architecture d'un Datawarehouse

3. 5 Les bases multidimensionnelles et les outils OLAP

3.5.3 Les 12 règles de E.F. CODD (1993)

Architecture client-serveur : Tout produit OLAP doit fonctionner en mode C/S avec une répartition des traitements. Dimension générique : Chaque dimension (avec l'analyse)doit être équivalent aux autres à la fois dans sa structure et dans ses capacités opérationnelles. Une seule structure logique dans l'ensemble des dimensions. Gestion dynamique des matrices creuses: OLAP doit gérer les cellules non renseignées de manière optimale. Support multi-utilisateurs: OLAP doit assurer un accès simultané aux données, gérer l'intégrité et la sécurité de ces données. 15

Copyright J. Akoka - I. Comyn-Wattiau29

3. Architecture d'un Datawarehouse

3. 5 Les bases multidimensionnelles et les outils OLAP

3.5.3 Les 12 règles de E.F. CODD (1993)

Opérations entre les dimensions : OLAP doit gérer des calculs associés entre les dimensions sans faire appel à l 'utilisateur pour définir le contenu de ces calculs Manipulation intuitive : Minimiser le recours à des menus ou les allers et retours avec l 'interface utilisateur Flexibilité des restitutions: convivialité des états de gestion ou des états de sortie - ergonomie Nombre de dimensions et niveaux de hiérarchie illimité: l 'outil doit gérer au moins quinze dimensions et ne pas limiter le nombre de niveaux hiérarchiques.

Copyright J. Akoka - I. Comyn-Wattiau30

3. Architecture d'un Datawarehouse

3. 5 Les bases multidimensionnelles et les outils OLAP

3.5.4 Fast Analysis of Shared Multidimensional Information (FASMI)

Analyse : fournir des possibilités d 'analyse (statistiques et autres) Rapide : l 'essentiel des réponses doit être rendu dans un délai de moins de cinq secondes Information: accéder à l 'ensemble des données indépendamment de leur localisation Multidimensionnelle :fournir une vue conceptuelle multidimensionnelle Partagée: être accessible à un grand nombre d 'utilisateurs et ne pas limiter le nombre de niveaux hiérarchiques. 16

Copyright J. Akoka - I. Comyn-Wattiau31

3. Architecture d'un Datawarehouse

3. 5 Les bases multidimensionnelles et les outils OLAP

3.5.5 Les outils relationnels OLAP

Outils relationnels : requêteurs, infocentres, jointures complexes exemple : Business Objects Hypercubes relationnels: les données sont stockées dans une BD relationnelle, mais avec une structure adaptée aux données multi- dimensionnelles exemple : SGBD relationnels OLAP relationnel (ROLAP): ces outils utilisent directement le modèle relationnel. Au travers des méta-données, ils permettent de transformer l 'analyse multidimensionnelle en requêtes SQL : distinguent les axes d 'analyse et les faits à observer (modèles en étoile ou en flocon)

Copyright J. Akoka - I. Comyn-Wattiau32

3. Architecture d'un Datawarehouse

3. 5 Les bases multidimensionnelles et les outils OLAP

3.5.6 Intégration Infocentre Hypercube

Principe proche de l 'OLAP relationnel Intégration d 'un outil d 'infocentre et d 'un outil d 'analyse multidimensionnelle dans une même interface située sur le poste client L 'outil d 'infocentre assure la gestion d 'un référentiel commun, la sélection des données et leur valorisation L 'outil multidimensionnel assure la création d 'un hypercube, l 'implémentation des fonctionalités OLAP (consolidation, zoom avant, glisser-déplacer, gestion des seuils, etc.) 17

Copyright J. Akoka - I. Comyn-Wattiau33

3. Architecture d'un Datawarehouse

3. 5 Les bases multidimensionnelles et les outils OLAP

3.5.7 Les outils multidimensionnels MOLAP

Les BD multidimensionnelles sont propriétaires (pas de standard) Les données sont dynamiquement structurées et compressées (optimisation de l 'espace disque) Les données sont organisées en dimensions et hiérarchies Les formules de calcul sont généralement complexes Les temps de réponse sont constants

Copyright J. Akoka - I. Comyn-Wattiau34

3. Architecture d'un Datawarehouse

3. 5 Les bases multidimensionnelles et les outils OLAP

3.5.7 Les outils multidimensionnels MOLAP

La constitution de la base se fait selon le processus suivant extraction des données provenant des SGBD ou fichiers décomposition des données en dimensions, attributs et variables calcul des consolidations chargement de l 'hypercube selon la structure dimensionnelle choisie L 'interrogation de la base possède les caractéristiques suivantes : interface graphique (drill down, slice and dice, etc) gestion des seuils et des alertes (codage couleurs) temps de réponse court et constant

SQL non implémenté

Exemple : Oracle Express

18

Copyright J. Akoka - I. Comyn-Wattiau35

3. Architecture d'un Datawarehouse

3. 6 Les limites du multidimensionnel

Format et langage propriétaire Structure figée Accès au détail difficile Peu d 'outils disponibles Outils d 'administration insuffisants Difficulté de réaliser des sélections sur un hypercube Pas de standard ni pour la structure physique ni pour l 'interrogation Manque de souplesse et absence de gestion de méta-données

Copyright J. Akoka - I. Comyn-Wattiau36

3. Architecture d'un Datawarehouse

3. 7 Conclusion

Un marché florissant nombreux outils (ROLAP,MOLAP,..) concentration du nombre d 'éditeurs de logiciels Nécessité de méthodologie de conception démarche modélisation conceptuelle et logique implication des utilisateurs Un avenir réel l 'informatique opérationnelle est mature la demande des utilisateurs est importante la technologie est disponible.quotesdbs_dbs31.pdfusesText_37
[PDF] Le Data Warehouse et les Systèmes Multidimensionnels

[PDF] Procédure APB - ESITC Caen

[PDF] Gestion de projet - calcul des dates et calcul des marges - AUNEGE

[PDF] Académie de Bordeaux CALENDRIER - Educationgouv

[PDF] session 2018 du BTS - BTS tertiaires - Calendrier - Educationgouv

[PDF] session 2018 - Educationgouv

[PDF] CAPEPS INTERNE ET CAER MATERIELS - Educationgouv

[PDF] Calendrier des inscriptions aux concours en Région Centre - Onisep

[PDF] Calendrier prévisionnel 2016-2017 Des préparations aux concours

[PDF] calendrier interregional 2018 prévisionnel des concours et - CDG05

[PDF] école supérieure de journalisme de lille - ESJ Lille

[PDF] PLANNING CONCOURS GIEpdf - La Gendarmerie recrute

[PDF] ISG PROGRAMME BUSINESS & MANAGEMENT 3+2

[PDF] Calendrier des concours 2018 - CIG Petite Couronne

[PDF] concours paces - CPCM