Scénario : Valider les dates en fonction d'un schéma - 6.1

Composants Talend Guide de référence

EnrichVersion
6.1
EnrichProdName
Talend Big Data
Talend Big Data Platform
Talend Data Fabric
Talend Data Integration
Talend Data Management Platform
Talend Data Services Platform
Talend ESB
Talend MDM Platform
Talend Open Studio for Big Data
Talend Open Studio for Data Integration
Talend Open Studio for Data Quality
Talend Open Studio for ESB
Talend Open Studio for MDM
Talend Real-Time Big Data Platform
task
Création et développement
Gouvernance de données
Qualité et préparation de données
EnrichPlatform
Studio Talend

Ce scénario permet de vérifier le type, la nullabilité et la longueur des données du flux d'entrée en fonction du schéma de référence défini. Il permet également d'afficher les résultats de validation dans la console de la vue Run.

Le flux d'entrée provient d'un fichier csv simple contenant des données dont les propriétés ont un mauvais type, un mauvais id, dont les données sont supérieures à la longueur maximum, ou contenant des valeurs nulles dans les colonnes alors que celles-ci sont définies comme non nullables.

ID;Name;BirthDate;State;City
1;Dwight;06-04-2008;Delaware;Concord
2;Warren;25-10-2008;Montana
3;Benjamin;17-08-2008;Washington;Austin
4;Harry;14-04-2008;Kansas;Annapolis
5;Ulysses;2007-04-12;Michigan;Raleigh
6;James;19-08-2007;Delaware;Charleston
.7;Bill;20-04-2007;Illinois;Bismarck
8;Ulysses;04-12-2008;;Saint Paul
9;Thomas;09-05-2008;Maryland;Albany
10;Ronald;11-02-2008;Florida;Hartford

Construire le Job

  1. A partir de la Palette, cliquez et déposez les composants suivants dans l'espace de modélisation graphique : tFileInputDelimited, tSchemaComplianceCheck, ainsi que deux composants tLogRow.

  2. Cliquez-droit sur le tFileInputDelimited pour le connecter au composant tSchemaComplianceCheck via une connexion Row Main.

  3. Cliquez-droit sur le composant tSchemaComplianceCheck et sélectionnez Row > Main pour le connecter au premier composant tLogRow. Ce flux de sortie ne contiendra que les données valides.

  4. Cliquez-droit une deuxième fois sur le composant tSchemaComplianceCheck et cette fois sélectionnez Row > Rejects pour le connecter au second composant tLogRow. Cette deuxième sortie regroupera toutes les données non conformes. Il passe deux colonnes supplémentaires au composant suivant : ErrorCode et ErrorMessage. Ces deux colonnes en lecture seule fournissent des informations concernant les données rejetées afin de simplifier la gestion d'erreurs et la résolution de problèmes, si nécessaire.

Configurer les composants

  1. Double-cliquez sur le composant tFileInputDelimited afin d'afficher sa vue Basic settings. Configurez ses propriétés, notamment le nom du fichier d'entrée et le nombre de lignes d'en-tête à ignorer.

  2. Cliquez sur le bouton [...] à côté du champ Edit Schema pour décrire la structure de données de ce fichier d'entrée. Dans ce scénario, le schéma est composé de cinq colonnes : ID, Name, BirthDate, State et City.

  3. Renseignez le champ Length des colonnes Name, State et City : respectivement 7, 10 et 10, puis cliquez sur OK pour fermer la boîte de dialogue et propager le schéma.

  4. Double-cliquez sur le composant tSchemaComplianceCheck pour configurer les paramètres de validation.

  5. Cochez l'option Custom defined dans la zone Mode pour effectuer des validations personnalisées. Dans cet exemple, le tableau Checked columns permet de configurer les paramètres de validations.

    Cependant, vous pouvez aussi cocher la case Check all columns from schema si vous souhaitez vérifier tous les paramètres de toutes les colonnes (type, valeurs nulles et longueur), en fonction du schéma de base défini, ou encore cocher l'option Use another schema for compliance check et définir le schéma de la structure des données souhaité.

  6. Dans le tableau Checked Columns, définissez les vérifications à effectuer. Pour ce scénario :

    - Sélectionnez Int comme Type de données de la colonne ID.

    - Cochez la case Length afin que les longueurs des colonnes Name, State et City soient vérifiées.

    - Sélectionnez Date comme Type de données de la colonne BirthDate et dd-MM-yyyy comme Date pattern.

    - Décochez la case Nullable afin que les valeurs nulles de toutes les colonnes soient vérifiées.

    Note

    Pour rejeter les champs dont les données sont supérieures à la longueur maximum définie, assurez-vous que la case Trim the excess content of column when length checking chosen and the length is greater than defined length est décochée.

  7. Dans la vue Advanced settings du composant tSchemaComplianceCheck, cochez la case Treat all empty string as NULL afin de rejeter toutes les lignes contenant des champs vides.

  8. Pour visualiser le résultat du processus de validation sous forme de tableau dans la console Run, double-cliquez sur chaque composant tLogRow et cochez la case Table dans leur vue Basic settings.

Exécuter le Job

  • Enregistrez votre Job et appuyez sur F6 pour l'exécuter.

Deux tableaux s'affichent dans la console, qui montrent respectivement les données valides et les données rejetées.