Propriétés du tSchemaComplianceCheck MapReduce - 7.0

Validation

author
Talend Documentation Team
EnrichVersion
7.0
EnrichProdName
Talend Big Data
Talend Big Data Platform
Talend Data Fabric
Talend Data Integration
Talend Data Management Platform
Talend Data Services Platform
Talend ESB
Talend MDM Platform
Talend Open Studio for Big Data
Talend Open Studio for Data Integration
Talend Open Studio for ESB
Talend Open Studio for MDM
Talend Real-Time Big Data Platform
task
Création et développement > Systèmes tiers > Composants Data Quality > Composants de validation
Gouvernance de données > Systèmes tiers > Composants Data Quality > Composants de validation
Qualité et préparation de données > Systèmes tiers > Composants Data Quality > Composants de validation
EnrichPlatform
Studio Talend

Ces propriétés sont utilisées pour configurer le tSchemaComplianceCheck s'exécutant dans le framework de Jobs MapReduce.

Le composant tSchemaComplianceCheck MapReduce appartient à la famille Data Quality.

Le composant de ce framework est disponible dans tous les produits Talend Platform avec Big Data et dans Talend Data Fabric.

Basic settings

Base Schema and Edit schema

Un schéma est une description de lignes, il définit le nombre de champs qui sont traités et passés au composant suivant. Il définit le nombre de champs (colonnes) à traiter et à passer au composant suivant. Lorsque vous créez un Job Spark, évitez le mot réservé line lors du nommage des champs.

Il définit la structure et la nature des données à traiter.

 

Built-In : le schéma est créé et conservé ponctuellement pour ce composant seulement. Consultez également : le Guide utilisateur du Studio Talend .

 

Repository : Le schéma existe déjà et est stocké dans le Repository. Ainsi, il peut être réutilisé dans des Jobs et projets. Consultez également : le Guide utilisateur du Studio Talend .

Check all columns from schema

Cochez cette option si vous souhaitez effectuer la vérification sur toutes les colonnes du schéma de base.

Custom defined

Cochez cette option si vous souhaitez effectuer la vérification sur des colonnes en particulier. Lorsque cette option est cochée, le tableau Checked Columns apparaît.

Checked Columns

Définissez dans ce tableau quelles sont les vérifications à effectuer, et sur quelles colonnes.

 

Column : Affiche les noms des colonnes.

 

Type : sélectionnez les propriétés que les données doivent avoir. Cette validation est obligatoire pour toutes les colonnes.

Pour effectuer cette vérification sur toutes les colonnes, cochez la case d'en-tête du tableau.

 

Date pattern : Définissez le format de date souhaité sur chaque colonne avec le type de données Date.

 

Nullable : Cochez la case de la colonne que vous souhaitez définir comme colonne nullable, afin de permettre aux lignes vide dans cette colonne de se diriger vers le flux de sortie sans tenir compte du schéma de base défini. Pour définir toutes les colonnes comme nullables, cochez la case d'en-tête du tableau.

 

Undefined or empty : Cochez la case de la colonne dont vous souhaitez rejeter les lignes vides, alors que la colonne n'est pas nullable dans la définition du schéma de base. Pour effectuer cette vérification sur toutes les colonnes, cochez la case au niveau de l'en-tête de la table.

 

Max length : Cochez la case de la colonne dont vous souhaitez vérifier la longueur des données en fonction de la longueur définie dans le schéma de base. Pour effectuer cette vérification sur toutes les colonnes, cochez la case d'en-tête du tableau.

Use another schema for compliance check

Définissez un schéma de référence en donnant aux données les propriétés qu'elles sont censées avoir. Ainsi, les données non conformes seront rejetées.

Ces propriétés peuvent correspondre au type de données, aux valeurs nulles, et/ou à la longueur des données.

Trim the excess content of column when length checking chosen and the length is greater than defined length

Cochez cette case afin de tronquer les données dépassant la longueur spécifiée plutôt que de les rejeter. L'option fonctionne avec les trois modes du tSchemaComplianceCheck.
Remarque :

Cette option s'applique uniquement aux données de type String.

Advanced settings

Use Fastest Date Check

Cochez cette case afin d'effectuer une vérification rapide du format de date en utilisant la méthode Talend Date.isDate() de la routine système Talend Date lorsque Date pattern (format de date) n'est pas défini. Pour plus d'informations concernant les routines, consultez le Guide utilisateur du Studio Talend .

Ignore TimeZone when Check Date

Cochez cette case pour ignorer le fuseau horaire lors de la vérification de la date.

Cette case n'est pas disponible lorsque le mode Check all columns from schema est sélectionné.

Treat all empty string as NULL

Cochez cette case afin de traiter tous les champs vides de chaque colonne comme des valeurs nulles, plutôt que comme des chaînes de caractères vides.

Cette case est cochée par défaut. Lorsqu'elle est décochée, le tableau Choose Column(s) s'affiche pour vous permettre de sélectionner les colonnes que vous souhaitez.

Global Variables

Global Variables

ERROR_MESSAGE : message d'erreur généré par le composant lorsqu'une erreur survient. Cette variable est une variable After et retourne une chaîne de caractères. Cette variable fonctionne uniquement si la case Die on error est décochée, lorsque le composant contient cette case.

Une variable Flow fonctionne durant l'exécution d'un composant.

Pour renseigner un champ ou une expression à l'aide d'une variable, appuyez sur les touches Ctrl+Espace pour accéder à la liste des variables.

Pour plus d'informations concernant les variables, consultez le Guide utilisateur du Studio Talend .

Utilisation

Règle d'utilisation

Dans un Job Map/Reduce Talend, il est utilisé comme étape intermédiaire, avec d'autres composants Map/Reduce. Ils génèrent nativement du code Map/Reduce pouvant être exécuté directement dans Hadoop.

Le composant ne supporte pas les données de type Object et List.

Pour plus d'informations concernant les Jobs Map/Reduce Talend, consultez les sections décrivant comment créer, convertir et configurer un Job Map/Reduce Talend, dans le Guide de prise en main de Talend Open Studio for Big Data.

Notez que, dans cette documentation, sauf mention contraire, un scénario présente uniquement des Jobs Standard, c'est-à-dire des Jobs Talend traditionnels d'intégration de données et non des Jobs Map/Reduce.