Propriétés du tStandardizeRow MapReduce (déprécié) - 7.3

Standardisation

Version
7.3
Language
Français
Product
Talend Big Data
Talend Big Data Platform
Talend Data Fabric
Talend Data Integration
Talend Data Management Platform
Talend Data Services Platform
Talend ESB
Talend MDM Platform
Talend Real-Time Big Data Platform
Module
Studio Talend
Content
Création et développement > Systèmes tiers > Composants Data Quality > Composants de standardisation
Gouvernance de données > Systèmes tiers > Composants Data Quality > Composants de standardisation
Qualité et préparation de données > Systèmes tiers > Composants Data Quality > Composants de standardisation
Last publication date
2024-02-22

Ces propriétés sont utilisées pour configurer le tStandardizeRow s'exécutant dans le framework de Jobs MapReduce.

Le composant tStandardizeRow MapReduce appartient à la famille Qualité de données.

Le composant de ce framework est disponible dans tous les produits Talend Platform avec Big Data et dans Talend Data Fabric.

Le framework MapReduce est déprécié à partir de la version 7.3 de Talend. Utilisez des Jobs Talend pour Apache Spark afin d'accomplir vos tâches d'intégration.

Basic settings

Schema et Edit schema

Un schéma est une description de lignes. Il définit le nombre de champs (colonnes) à traiter et à passer au composant suivant. Lorsque vous créez un Job Spark, évitez le mot réservé line lors du nommage des champs.

 

Built-in : le schéma est créé et conservé localement pour ce composant seulement.

 

Repository : le schéma existe déjà et est stocké dans le Repository. Ainsi, il peut être réutilisé dans des Jobs et projets.

Column to parse

Sélectionnez la colonne à analyser à partir du flux de données reçu

Standardize this field

Cochez cette case pour standardiser les données identifiées comme conformes à la règle, c'est-à-dire remplacer les doublons de données identifiés par les données standardisées correspondantes à partir d'un index donné.

Pour plus d'informations concernant l'index fournissant ces données standardisées, consultez tSynonymOutput.

Chaque fois que vous cochez ou décochez cette case, le schéma de ce composant est modifié automatiquement. De ce fait, dans un Job donné, vous devez cliquer sur le bouton Sync columns afin de régler les problèmes d'incohérence du schéma.

Generate parser code in Routines

Cliquez sur ce bouton pour permettre à l'analyseur de données de votre Studio de reconnaître les règles définies dans le tableau Conversion rules.

Dans un Job donné, lorsqu'une règle est créée, cette opération est nécessaire pour son exécution. En revanche, si une simple modification est effectuée sur la règle existante, cette opération est nécessaire uniquement lorsque la règle modifiée est de type Enumeration, Format ou Combination. Pour plus d'informations concernant les types de règles, consultez Types de règles

et

Cliquez sur le bouton d'import ou d'export pour sélectionner une règle donnée de standardisation depuis le DQ Repository.

- Lorsque vous cliquez sur le bouton d'export, votre Studio passe en perspective Profiling et la vue Parser rule Settings s'ouvre dans l'espace de travail avec son contenu automatiquement renseigné. Si nécessaire, vous pouvez modifier la règle exportée et la sauvegarder dans le dossier Libraries > Rules > Parser de la vue DQ Repository.

- Lorsque vous cliquez sur le bouton d'import, un assistant d'import s'ouvre et vous permet d'importer la règle de standardisation souhaitée.

Pour plus d'informations, consultez le Guide d'utilisation du Studio Talend.

Conversion rules

Complétez ce tableau pour définir les règles que vous souhaitez appliquer.

- Name : dans cette colonne, saisissez le nom de la règle que vous souhaitez utiliser. Ce nom est utilisé comme nom balise pour les données de sortie en XML ou attribut JSON et comme nom de segment pour étiqueter les données d'entrée identifiées par cette règle.

- Type : dans cette colonne, sélectionnez le type de la règle que vous souhaitez appliquer. Pour plus d'informations concernant les types de règles disponibles, consultez Types de règles.

- Value : dans cette colonne, saisissez la syntaxe de la règle.

- Search mode  : dans cette colonne, sélectionnez un mode de recherche dans la liste. Les modes de recherche peuvent être uniquement utilisés avec le type de règle Index. Pour plus d'informations concernant les modes de recherche disponibles, consultez Modes de recherche pour les règles d'Index.

Si vous utilisez ce composant dans un Job Map/Reduce Talend, gardez à l'esprit les prérequis des règles Index, présentés dans la section Types de règles.

Une vue de test est fournie pour vous permettre de créer les analyseurs syntaxiques qui vous intéressent. Pour plus d'informations, consultez le Guide d'utilisation du Studio Talend.

Advanced settings

Advanced options for INDEX rules

- Search UNDEFINED fields : cochez cette case si vous souhaitez que le composant recherche des jetons indéfinis dans les résultats de l'exécution de l'index.

- Word distance for partial match (disponible pour le mode Match partial) : définissez le nombre maximal de mots autorisés dans une séquence de mots pouvant être trouvée dans l'index. La valeur par défaut est 1.

- Max edits for fuzzy match (basé sur l'algorithme de Levenshtein et disponibles pour les modes Fuzzy) : sélectionnez une distance de modification, 1 ou 2, dans la liste. Tout terme au sein de la distance de modification depuis les données d'entrée est mis en correspondance. Avec une distance maximale de modification de 2, par exemple, vous pouvez effectuer 2 insertions, suppressions ou substitutions. Le score de chaque rapprochement se base sur la distance de modification de ce terme.

Les performances du rapprochement flou sont nettement améliorées avec l’option Max edits for fuzzy match.

Remarque :

Les Jobs migrés dans le Studio depuis d'anciennes versions s'exécutent correctement, mais les résultats peuvent être légèrement différents, car l'option Max edits for fuzzy match est utilisée à la place de l'option Minimum similarity for fuzzy match.

Output format

-XML : cette option est sélectionnée par défaut. Elle écrit en sortie des données normalisées au format XML.

- JSON : sélectionnez cette option pour écrire les données normalisées au format JSON.

Le flux de sortie sera toujours écrit sur une ligne.

Global Variables

Variables globales

ERROR_MESSAGE : message d'erreur généré par le composant lorsqu'une erreur survient. Cette variable est une variable After et retourne une chaîne de caractères. Cette variable fonctionne uniquement si la case Die on error est décochée, lorsque le composant contient cette case.

Une variable Flow fonctionne durant l'exécution d'un composant.

Pour renseigner un champ ou une expression à l'aide d'une variable, appuyez sur les touches Ctrl+Espace pour accéder à la liste des variables. À partir de cette liste, vous pouvez choisir la variable que vous souhaitez utiliser.

Pour plus d'informations concernant les variables, consultez le Guide d'utilisation du Studio Talend.

Utilisation

Règle d'utilisation

Ce composant génère du code dans le nœud Routines du référentiel. Ce code implémente la grammaire définie dans les règles. Il est compilé automatiquement pour être utilisé par le composant. Lorsque vous modifiez/ajoutez/supprimez une règle, le code doit être généré à nouveau, afin que le Job puisse prendre en compte les modifications et s'exécuter. Pour le générer, cliquez sur le bouton Generate parser code in Routines.

Dans un Job Map/Reduce Talend, il est utilisé comme étape intermédiaire, avec d'autres composants Map/Reduce. Ils génèrent nativement du code Map/Reduce pouvant être exécuté directement dans Hadoop.

Pour plus d'informations concernant les Jobs Map/Reduce Talend, consultez les sections décrivant comment créer, convertir et configurer un Job Map/Reduce Talend, dans le Guide de prise en main de Talend Big Data.

Notez que, dans cette documentation, sauf mention contraire, un scénario présente uniquement des Jobs Standard, c'est-à-dire des Jobs Talend traditionnels d'intégration de données et non des Jobs Map/Reduce.

Connections

Liens de sortie (de ce composant à un autre) :

Row : Main, Reject.

Trigger : Run if, OnComponentOk, OnComponentError.

Liens d'entrée (d'un autre composant à celui-ci) :

Row : Main, Reject.

Pour plus d'informations concernant les liens, consultez le Guide d'utilisation du Studio Talend.