Format de métadonnées Excel - Import

Spécifications du pont

Fournisseur	Meta Integration Technology, Inc.
Nom de l'outil	Format de métadonnées Excel
Version de l'outil	Excel 2003 à 2010
Site Web de l'outil	http://metaintegration.com/Products/MIMB/
Méthodologie supportée	[Gestion des métadonnées] Multimodèle, ETL (Data stores sources et cibles, Lignage de transformation, Parsage d'expressions) via un fichier Excel 2007 (XLSX)
Profiling de données
Collecte incrémentale
Collecte multi-modèle
Navigation dans le référentiel distant pour sélectionner un modèle

SPÉCIFICATIONS
Outil : Meta Integration Technology, Inc./Format de métadonnées Excel version Excel 2003 à 2010 via un fichier Excel 2007 (XLSX)
Consultez http://metaintegration.com/Products/MIMB/
Métadonnées : [Gestion des métadonnées] Multimodèle, ETL (Data stores sources et cibles, Lignage de transformation, Parsage d'expressions, Conversion d'expression)
Composant : MicrosoftExcel version 11.2.0

AVERTISSEMENT
Ce pont d'import requiert un accès à Internet pour télécharger les bibliothèques tierces :
- par exemple https://repo.maven.apache.org/maven2/ pour télécharger les bibliothèques tierces open source,
- et plus de sites pour d'autres logiciels tiers, comme les pilotes JDBC spécifiques pour les bases de données.

Les bibliothèques tierces téléchargées sont stockées dans $HOME/data/download/MIMB/
- Si le protocole HTTPS échoue, le pont d'import essaye ensuite avec HTTP.
- Si un proxy est utilisé pour accéder à Internet, vous devez configurer ce proxy dans l'environnement JRE (voir l'option -j dans le paramètre Divers).
- Si le pont d'import n'a pas d'accès à Internet, le répertoire $HOME/data/download/MIMB/ peut être copié depuis un autre serveur qui a accès à Internet, où la commande $HOME/bin/MIMB.sh (ou .bat) -d peut être utilisée pour télécharger en une fois toutes les bibliothèques tierces utilisées par tous les ponts.

En exécutant ce pont d'import, vous reconnaissez être responsable des conditions d'utilisation et de toute autre faille de sécurité potentielle liées au téléchargement de ces bibliothèques logicielles tierces.

VUE D'ENSEMBLE
L'objectif de ce pont d'import est d'importer des métadonnées depuis des technologies/outils pour lesquels aucun pont d'import existant n'est disponible : par exemple un data store hérité, des outils ETL ou des Jobs ETL écrits manuellement dans un langage non supporté.

Les outils de productivité, comme les outils d'édition de feuilles de calcul, sont généralement utilisés dans tout le secteur pour capturer, documenter ou publier des métadonnées physiques, logiques ou métier. Un outil tel que Microsoft Office Excel est le choix le plus courant et est presque toujours disponible. Il est compris par les utilisateurs professionnels qui le connaissent bien, permet d'effectuer des copier-coller compatibles avec d'autres applications Office et propose des options pratiques comme le correcteur d'orthographe. Des fonctions d'import et d'export de Microsoft Excel sont fournies afin de tirer parti de ces avantages.

Ce pont d'import importe les métadonnées représentant des data stores physiques, des modèles de données logiques et/ou des mappings de données exprimés dans des feuilles de calcul Microsoft Office Excel basés sur des métadonnées au format Excel standard qui utilisent plusieurs feuilles pour représenter divers aspects du métamodèle :
- Onglets Data Modeling (Modélisation de données) : Modèles, Packages, Relations, Domaines, Contraintes, Énumérations.
- Onglets Data Mappings (Mappings de données) : Mappings, Jointures, Filtres, Lookups, Règles.

Ce pont d'import importe des métadonnées en tant que :
- modèle d'intégration de données/de mapping de données si elles contiennent des mappings,
- modèle de données logique/physique si elles contiennent des packages,
- data store physique (p. ex. Oracle) dans tous les autres cas.

Un plug-in de Métadonnées au format Excel crée un menu "Métadonnées" dans le ruban Excel pour parcourir et gérer plus facilement les feuilles de calcul conçues à l'aide du format standard. Ces fonctions comprennent :
- l'insertion de nouvelles feuilles de travail au format "Standard" ;
- l'affichage ou le masquage des fonctions pour contrôler l'affichage des colonnes ;
- l'annotation, le formatage et la validation des entrées dans une feuille de travail.

Le meilleur moyen d'apprendre comment utiliser les métadonnées au format Excel standard est de s'appuyer sur des exemples précédemment exportés depuis des bases de données, modèles de données ou Jobs d'intégration de données importés.
Cependant, notez que le format de Métadonnées Excel n'a pas été conçu pour (et donc ne supporte pas) les allers-retours d'exports, de modifications et d'imports. En d'autres termes, ce pont d'import importe des métadonnées comme une technologie d'intégration, alors que le pont d'import correspondant exporte des métadonnées en tant que rapport (p. ex. en synthétisant un lignage de Jobs complexes d'intégration de données/ETL).

AVERTISSEMENT CONCERNANT LA DÉPRÉCIATION ET LA FIN DE VIE
Comme expliqué ci-dessus, le pont d'import "Metadata Excel Format (Format de métadonnées Excel)" est conçu pour émuler les outils non supportés (pour lesquels un pont d'import natif n'est pas disponible) dans deux situations indépendantes :
1- Modélisation de données émulant un data store (base de données, application métier, etc.)
2- Mapping de données émulant une intégration de données (DI, ETL, ELT, CDC)

Cet ancien pont d'import "Metadata Excel Format (Format de métadonnées Excel)" utilisé pour l'émulation de mapping de données (situation numéro 2) a été déprécié en 2022 et atteindra sa fin de vie sans support en 2024, car il a été remplacé par le pont d'import "Data Mapping Script (Script de mapping de données)", plus efficace.
Notez que le nouveau format de script de mapping de données fournit un nombre d'avantages par rapport à l'ancien format de Métadonnées Excel (déprécié), notamment :
- Le format de script de mapping de données supporte les allers-retours (export/import) depuis/vers un mapping de données, alors que ce n'est pas le cas de l'ancien format de Métadonnées Excel avec lequel l'export concernait les rapports et l'import l'amorçage (bootstrapping).
-Les fichiers du format de script de mapping de données sont généralement plus compacts que les fichiers très verbeux de Métadonnées Excel basés sur les maps de classifieur/table et maps de fonctionnalités/colonnes.
- Le format de script de mapping de données est plus simple à générer à partir d'outils SQL basés DI/ETL/ELT/CDC.
- Le format de script de mapping de données supporte les mappings de masse et les mappings de requêtes, alors que le format de Métadonnées Excel est limité dans sa gestion des mappings de masse.
- Le format de script de mapping de données supporte plus de technologies de data stores sources et cibles (SGBDR, NoSQL, systèmes de fichiers) que le format de Métadonnées Excel.

PRÉREQUIS
Le fichier doit être conforme au format Metadata Excel qui est :
- basé sur un modèle Excel nommé Standard-Blank.xlsx ;
- supporté/appliqué par un plug-in Excel nommé Standard-Addin.xlam ;
situé dans ${MODEL_BRIDGE_HOME}\conf\MIRModelBridgeTemplate\MIRMicrosoftExcel

Référez-vous à la documentation Microsoft Excel pour installer des plug-ins dans Excel.

FOIRE AUX QUESTIONS
Q : Pourquoi le Nom métier et la Description métier ne sont-ils pas importés ?
R : Lorsque le fichier Metadata Excel Format ne contient aucun package de mapping ou de modélisation de données, les métadonnées sont importées en tant que data store physique (comme une base de données Oracle) pour lequel le métamodèle ne contient pas (et donc ignore) les noms et les descriptions métier.

Dans le cas de SGBDR, tous les commentaires SQL (qui peuvent être utilisés pour documenter des tables ou des colonnes dans le DDL) seront importés en tant que Commentaire (lui-même sans lien avec tout autre concept de Commentaire ou Évaluation d'utilisateur).

Dans le cas d'un mapping de données, il n'y a que des définitions de connexions et non des définitions réelles de data stores. Ainsi, seules les définitions de connexion vont recevoir les valeurs importées et cela ne permet pas de documenter les data stores eux-mêmes.

Q : Comment le pont d'import gère-t-il les "jointures implicites" ?
R : Lorsqu'une transformation est définie et qu'elle requiert la jointure d'au moins deux tables, une jointure doit être spécifiée sur une feuille de travail de type "Jointures". S'il n'existe pas d'entrée dans l'une des feuilles de travail de type "Jointures" ou s'il n'existe pas de feuille de travail de ce type, alors le pont d'import tente de générer les spécifications de jointure correspondantes requises. Dans de nombreux cas, le pont d'import ne dispose pas d'assez d'informations pour créer la jointure correcte et génère à la place une jointure proposée qui doit être corrigée dans l'outil d'export.

D'autre part, s'il existe des entrées (des spécifications de jointure) dans des feuilles de travail de type "Jointures", le pont d'import considère que toutes les jointures sont pleinement spécifiées.

Q : Pourquoi les erreurs "Table introuvable", "Schéma introuvable" ou "Modèle introuvable" se produisent-elles ?
R : Ces erreurs et d'autres peuvent être évitées en utilisant l'opération "Validation des plug-ins". Cette opération décèle la plupart des erreurs et positionne le curseur sur la cellule contenant la première erreur. La cellule est marquée de rouge et un message d'erreur spécifique est ajouté en commentaire de la cellule.

Q : Comment puis-je lire un fichier XLSX avec une version d'Excel antérieure à 2007 ?
R : Depuis un centre de téléchargement Microsoft, installez le "Module de compatibilité Microsoft Office pour les formats de fichiers Word, Excel et PowerPoint". Il supporte Office XP et 2003.

Q : Comment résoudre le message d'erreur "Mémoire insuffisante" dans le log ?
R : Par défaut, le pont d'import alloue 512 Mo de mémoire. Pour les modèles volumineux, vous pouvez augmenter ce nombre, ainsi que passer à une machine virtuelle Java de 64 bits si vous avez besoin de plus de 2 Go. Mettez à jour le fichier de configuration $MetaIntegration/conf/conf.properties grâce au paramètre -Xmx pour une JVM de 64 bits, par exemple :
M_JAVA_HOME=..\jre
M_JAVA_OPTIONS=-Xmx2G

LIMITATIONS
Consultez les limitations générales connues à l'adresse MIMB Known Limitations ou dans Documentation/ReadMe/MIMBKnownLimitations.html où elles sont regroupées

Le format Excel Metadata n'est pas recommandé, particulièrement pour la documentation, notamment pour le Nom métier et la Description métier. Le client doit utiliser le format CSV à la place pour l'export, la modification et le réimport, comme expliqué dans le Guide d'utilisation, qui va documenter les data stores et non les définitions de connexions.

1. Toutes les feuilles de calcul de métadonnées sources doivent être définies au format Standard, car c'est le seul format qui est directement supporté. Pour accommoder une activité de migration héritée impliquant un grand nombre de feuilles de calcul existantes, le format attendu par le pont d'import n'est pas codé en dur mais défini par les feuilles de calcul vides spécifiant la manière dont chaque cellule de feuille de calcul est liée à un métamodèle de référentiel neutre. Cette flexibilité n'est disponible qu'avec un pont d'import personnalisé spécifique et qui doit être fourni par des services d'assistance.
2. Bien que les deux fonctions d'import (lecture à partir d'une feuille de calcul) et d'export (écriture dans une feuille de calcul) sont disponibles, elles ne sont pas faites pour supporter des allers-retours de re-traitement. Par exemple, les prérequis de mapping peuvent subir un traitement préalable dans un outil d'intégration de données/ETL mais le but de réexporter depuis cet outil d'intégration de données/ETL dans Excel est de fournir un résumé de lignage de mapping indépendant des diverses transformations internes complexes et de ne pas re-traiter la conception ni de la réimporter.
3. Les modèles d'outil de conception et d'architecture de données supportent des éditions de type aller-retour dans Excel afin d'exploiter les fonctions de correcteur d'orthographe, de copier-coller basé sur les colonnes et lignes et d'autres aspects pratiques inhérents à un environnement de feuille de calcul. Dans ce cas, la feuille de calcul doit être exportée, modifiée, puis réimportée dans l'outil de conception d'origine, tirant ainsi profit des fonctions de comparaison et de fusion fournies par l'outil de "réception".
4. Les nouveaux data stores sources ou cibles peuvent être exportés vers une feuille de calcul existante, mais sans bénéficier des fonctions de fusion ou de mise à jour cette fois. De plus, lors de l'import d'une feuille de calcul Excel dans un outil d'intégration de données/ETL, l'outil "récepteur" est responsable de l'intégration/la fusion des modèles ainsi que des mappings dans ses versions existantes.
5. Des suppositions et limitations sont fournies pour chaque format pré-défini dans le fichier ${MODEL_BRIDGE_HOME}\conf\MIRModelBridgeTemplate\MIRMicrosoftExcel\*-Blank.xlsx approprié.
6. Dans certains cas, l'utilisation d'une feuille de calcul pour gérer des métadonnées peut connaître des limitations. Par exemple, il n'existe pas de limite du nombre d'entités/tables par modèle ou du nombre d'attributs/colonnes par entité/table. Toutefois, il existe des limitations pour toute information représentée comme colonnes pour des raisons de facilité d'utilisation. Par exemple, l'imbrication de packages dans un modèle, le nombre de clés PK/FK/AK dans lesquelles un attribut/une colonne donné(e) est impliqué(e) et, plus important encore, le nombre de propriétés définies par l'utilisateur (UDP) personnalisées associées à une entité/table, un attribut/une colonne ou un type de données.
7. Le type de fichier plat supporte les fichiers plats délimités ou à largeur fixe. Les fichiers à largeur fixe utilisent l'attribut de position pour définir le "nombre absolu de caractères à partir du début de la ligne" pour chaque champ/colonne. Les fichiers délimités utilisent l'attribut de position pour reproduire l'ordre des champs/colonnes.
8. À propos de la différence entre Commentaires et Descriptions :
Un modèle de données physique possède un "Commentaire" sur une table qui au final est généré comme Commentaire SQL dans le DDL.
Un modèle de données logique possède une "Description" sur une entité. Cette entité logique peut être associée à une table physique si le modèle est Logique/physique. En revanche, un modèle Physique uniquement ne peut pas avoir ni de description, ni de commentaire par nature.
Par conséquent, si un ou une entité/table/enregistrement/vue/fichier a le niveau de conception Logique/physique, vous pourrez voir séparément un commentaire (physique) et une description (logique).
Toutefois, si un ou une entité/table/enregistrement/vue/fichier a le niveau de conception Physique uniquement, seule une description peut être prise du commentaire (physique) ou de la description (logique) si elle existe (dans ce cas le commentaire physique est ignoré).

SUPPORT
Fournissez un package de dépannage avec :
- le log de débogage (peut être défini dans l'UI ou dans conf/conf.properties avec MIR_LOG_LEVEL=6)
- la sauvegarde des métadonnées si disponible (peut être configurée dans le paramètre Divers avec l'option -backup, même si cette option commune n'est pas implémentée pour tous les ponts pour des raisons techniques).

Paramètres du pont

Mapping du pont