tDenormalize - 6.3

Composants Talend Guide de référence

EnrichVersion
6.3
EnrichProdName
Talend Big Data
Talend Big Data Platform
Talend Data Fabric
Talend Data Integration
Talend Data Management Platform
Talend Data Services Platform
Talend ESB
Talend MDM Platform
Talend Open Studio for Big Data
Talend Open Studio for Data Integration
Talend Open Studio for Data Quality
Talend Open Studio for ESB
Talend Open Studio for MDM
Talend Real-Time Big Data Platform
task
Création et développement
Gouvernance de données
Qualité et préparation de données
EnrichPlatform
Studio Talend

Fonction

Le composant tDenormalize dénormalise un flux entrant en fonction d'une colonne.

Objectif

Le tDenormalize permet de synthétiser un flux entrant.

Selon la solution Talend que vous utilisez, ce composant peut être utilisé dans un framework de Jobs, dans plusieurs, ou dans tous les frameworks :

Propriétés du tDenormalize

Famille du composant

Processing/Fields

Basic settings

Schema et Edit Schema

Un schéma est une description de lignes, il définit le nombre de champs (colonnes) qui sont traités et passés au composant suivant. Le schéma est soit local (Built-In), soit distant dans le Repository.

Cliquez sur Edit schema pour modifier le schéma. Si le schéma est en mode Repository, trois options sont disponibles :

  • View schema : sélectionnez cette option afin de voir le schéma.

  • Change to Built-In property : sélectionnez cette option pour passer le schéma en mode Built-In et effectuer des modifications locales.

  • Update repository connection : sélectionnez cette option afin de modifier le schéma stocké dans le référentiel et décider de propager ou non les modifications à tous les Jobs. Si vous souhaitez propager les modifications uniquement au Job courant, cliquez sur No et sélectionnez à nouveau la métadonnée du schéma dans la fenêtre [Repository Content].

 

 

Built-In : Le schéma est créé et conservé ponctuellement pour ce composant seulement. Voir également le Guide utilisateur du Studio Talend.

 

 

Repository : Le schéma existe déjà et il est stocké dans le Repository. Ainsi, il peut être réutilisé. Voir également le Guide utilisateur du Studio Talend.

To denormalize

Ce tableau vous permet de choisir les paramètres de dénormalisation des colonnes.

Column : Sélectionnez la colonne à dénormaliser.

Delimiter : Saisissez, entre guillemets doubles, le séparateur que vous souhaitez utiliser.

Merge same value : Cochez cette case si vous voulez fusionner les valeurs identiques.

Advanced settings

tStatCatcher Statistics

Cochez cette case pour collecter les données de log au niveau du composant.

Global Variables

ERROR_MESSAGE : message d'erreur généré par le composant lorsqu'une erreur survient. Cette variable est une variable After et retourne une chaîne de caractères. Cette variable fonctionne uniquement si la case Die on error est décochée, si le composant a cette option.

NB_LINE : nombre de lignes lues par un composant d'entrée ou passées à un composant de sortie. Cette variable est une variable After et retourne un entier.

Une variable Flow fonctionne durant l'exécution d'un composant. Une variable After fonctionne après l'exécution d'un composant.

Pour renseigner un champ ou une expression à l'aide d'une variable, appuyez sur les touches Ctrl+Espace pour accéder à la liste des variables. A partir de cette liste, vous pouvez choisir la variable que vous souhaitez utiliser.

Pour plus d'informations concernant les variables, consultez le Guide utilisateur du Studio Talend.

Utilisation

Ce composant peut être utilisé en étape intermédiaire dans un flux de données.

Log4j

Si vous utilisez une solution Talend soumise à souscription, l'activité de ce composant peut être journalisée avec la fonctionnalité log4j. Pour plus d'informations sur cette fonctionnalité, consultez le Guide utilisateur du Studio Talend.

Pour plus d'informations sur les niveaux de logs du log4j, consultez la documentation d'Apache : http://logging.apache.org/log4j/1.2/apidocs/org/apache/log4j/Level.html (en anglais).

Limitation

Notez que ce composant peut changer l'ordre du flux Java entrant.

Scénario : Dénormaliser une colonne

Ce scénario illustre un Job dénormalisant une colonne d'un fichier délimité via un composant de dénormalisation, et affichant le résultat dans la console.

  1. Cliquez et déposez les composants suivants : tFileInputDelimited, tDenormalize, tLogRow.

  2. Connectez ces composants à l'aide d'un lien Row main.

  3. Dans la vue Component du composant tFileInputDelimited, renseignez le chemin d'accès au fichier à dénormaliser.

  4. Dans les champs Header, Row Separator et Field Separator, renseignez respectivement le nombre de lignes d'en-tête, le type de séparateur de lignes et de champs.

  5. Le fichier d'entrée est composé de deux colonnes : Fathers et Children.

  6. Dans l'onglet Basic settings du tDenormalize, paramétrez la colonne contenant des valeurs multiples à regrouper. Dans le tableau To denormalize, sélectionnez la colonne Children.

  7. Dans cet exemple, la colonne Children est celle à dénormaliser.

  8. Dans le champ Delimiter, paramétrez le séparateur des valeurs regroupées. Attention, une seule colonne peut être dénormalisée.

  9. Cochez la case Merge same value si vous souhaitez supprimer les éventuels doublons.

  10. Enregistrez le Job et exécutez-le en appuyant sur F6.

Toutes les valeurs de la colonne Children (définie comme colonne à dénormaliser) sont regroupées en fonction des valeurs de la colonne Fathers. Les valeurs sont séparées par des virgules.

Scénario 2 : Dénormaliser plusieurs colonnes

Ce scénario illustre un Job dénormalisant deux colonnes d'un fichier délimité via un composant de dénormalisation et affichant le résultat dans la console.

  1. Cliquez et déposez les composants suivants : tFileInputDelimited, tDenormalize, tLogRow.

  2. Connectez tous les composants à l'aide d'une connexion Row > main.

  3. Dans l'onglet Basic settings du composant tFileInputDelimited, renseignez le chemin d'accès au fichier à dénormaliser.

  4. Renseignez les autres champs, dont les champs Row Separator, Field separators et Header contenant respectivement les séparateurs de lignes et de champs et le nombre de lignes d'en-tête.

  5. Le schéma du fichier est composé de quatre colonnes : Name, FirstName, HomeCity, WorkCity.

  6. Dans l'onglet Basic settings du composant tDenormalize, sélectionnez les colonnes contenant les répétitions. Elles correspondent aux colonnes apparaissant plusieurs fois dans le document. Dans cet exemple, FirstName, HomeCity et WorkCity sont les colonnes à partir desquelles la dénormalisation est effectuée.

  7. Ajoutez autant trois lignes à la table To denormalize que vous le souhaitez en cliquant sur le bouton [+]. Puis sélectionnez les colonnes FirstName, HomeCity et WorkCity dans la liste déroulante.

  8. Dans la colonne Delimiter, paramétrez les délimiteurs en les saisissant entre guillemets, afin de séparer les valeurs concaténées. Pour la colonne FirstName, saisissez "#", pour la colonne HomeCity, saisissez "§", et pour la colonne WorkCity, saisissez "¤".

  9. Enregistrez le Job et exécutez-le, en appuyant sur F6.

    Le résultat affiche les valeurs dénormalisées concaténées à l'aide des séparateurs.

  10. Dans l'onglet Basic settings du composant tDenormalize, dans le tableau To denormalize, cochez la case Merge same value pour fusionner les valeurs identiques.

  11. Enregistrez le Job et exécutez-le en appuyant sur F6.

Cette fois-ci, la console affiche les résultats sans doublon.

Le composant tDenormalize dans des Jobs Map/Reduce Talend

Avertissement

Les informations contenues dans cette section concernent uniquement les utilisateurs ayant souscrit à l'une des solutions Big Data de Talend et ne sont pas applicables aux utilisateurs de Talend Open Studio for Big Data.

Dans un Job Map/Reduce Talend, le tDenormalize, ainsi que le Job complet utilisant ce composant, génère du code Map/Reduce natif. Cette section présente les propriétés du tDenormalize lorsqu'il est utilisé dans un Job Map/Reduce. Pour plus d'informations concernant un Job Map/Reduce Talend, consultez le Guide de prise en main de Talend Big Data.

Famille du composant

Processing/Fields

Basic settings

Schema et Edit Schema

Un schéma est une description de lignes, il définit le nombre de champs (colonnes) qui sont traités et passés au composant suivant. Le schéma est soit local (Built-In), soit distant dans le Repository.

Cliquez sur Edit schema pour modifier le schéma. Si le schéma est en mode Repository, trois options sont disponibles :

  • View schema : sélectionnez cette option afin de voir le schéma.

  • Change to Built-In property : sélectionnez cette option pour passer le schéma en mode Built-In et effectuer des modifications locales.

  • Update repository connection : sélectionnez cette option afin de modifier le schéma stocké dans le référentiel et décider de propager ou non les modifications à tous les Jobs. Si vous souhaitez propager les modifications uniquement au Job courant, cliquez sur No et sélectionnez à nouveau la métadonnée du schéma dans la fenêtre [Repository Content].

 

 

Built-In : Le schéma est créé et conservé ponctuellement pour ce composant seulement. Voir également le Guide utilisateur du Studio Talend.

 

 

Repository : Le schéma existe déjà et il est stocké dans le Repository. Ainsi, il peut être réutilisé. Voir également le Guide utilisateur du Studio Talend.

To denormalize

Ce tableau vous permet de choisir les paramètres de dénormalisation des colonnes.

Column : Sélectionnez la colonne à dénormaliser.

Delimiter : Saisissez, entre guillemets doubles, le séparateur que vous souhaitez utiliser.

Merge same value : Cochez cette case si vous voulez fusionner les valeurs identiques.

Global Variables

ERROR_MESSAGE : message d'erreur généré par le composant lorsqu'une erreur survient. Cette variable est une variable After et retourne une chaîne de caractères. Cette variable fonctionne uniquement si la case Die on error est décochée, si le composant a cette option.

NB_LINE : nombre de lignes lues par un composant d'entrée ou passées à un composant de sortie. Cette variable est une variable After et retourne un entier.

Une variable Flow fonctionne durant l'exécution d'un composant. Une variable After fonctionne après l'exécution d'un composant.

Pour renseigner un champ ou une expression à l'aide d'une variable, appuyez sur les touches Ctrl+Espace pour accéder à la liste des variables. A partir de cette liste, vous pouvez choisir la variable que vous souhaitez utiliser.

Pour plus d'informations concernant les variables, consultez le Guide utilisateur du Studio Talend.

Utilisation dans des Jobs Map/Reduce

Dans un Job Talend Map/Reduce, il est utilisé comme étape intermédiaire, avec d'autres composants Map/Reduce. Ils génèrent nativement du code Map/Reduce pouvant être exécuté directement dans Hadoop.

Pour plus d'informations concernant les Jobs Talend Map/Reduce, consultez les sections décrivant comment créer, convertir et configurer un Job Talend Map/Reduce, dans le Guide de prise en main de Talend Big Data.

Notez que, dans cette documentation, sauf mention contraire, un scénario présente uniquement des Jobs Standard, c'est-à-dire des Jobs Talend traditionnels d'intégration de données et non des Jobs Map/Reduce.

Limitation

Notez que ce composant peut changer l'ordre du flux Java entrant.

Scénario associé

Aucun scénario n'est disponible pour la version Map/Reduce de ce composant.

Propriétés du tDenormalize dans des Jobs Spark Batch

Famille du composant

Processing/Fields

Basic settings

Schema et Edit Schema

Un schéma est une description de lignes, il définit le nombre de champs (colonnes) qui sont traités et passés au composant suivant. Le schéma est soit local (Built-In), soit distant dans le Repository.

Cliquez sur Edit schema pour modifier le schéma. Si le schéma est en mode Repository, trois options sont disponibles :

  • View schema : sélectionnez cette option afin de voir le schéma.

  • Change to Built-In property : sélectionnez cette option pour passer le schéma en mode Built-In et effectuer des modifications locales.

  • Update repository connection : sélectionnez cette option afin de modifier le schéma stocké dans le référentiel et décider de propager ou non les modifications à tous les Jobs. Si vous souhaitez propager les modifications uniquement au Job courant, cliquez sur No et sélectionnez à nouveau la métadonnée du schéma dans la fenêtre [Repository Content].

 

 

Built-In : Le schéma est créé et conservé ponctuellement pour ce composant seulement. Voir également le Guide utilisateur du Studio Talend.

 

 

Repository : Le schéma existe déjà et il est stocké dans le Repository. Ainsi, il peut être réutilisé. Voir également le Guide utilisateur du Studio Talend.

To denormalize

Ce tableau vous permet de choisir les paramètres de dénormalisation des colonnes.

Column : Sélectionnez la colonne à dénormaliser.

Delimiter : Saisissez, entre guillemets doubles, le séparateur que vous souhaitez utiliser.

Merge same value : Cochez cette case si vous voulez fusionner les valeurs identiques.

Utilisation dans des Jobs Spark Batch

Ce composant est utilisé comme étape intermédiaire.

Ce composant, ainsi que la Palette Spark Batch à laquelle il appartient, ne s'affiche que lorsque vous créez un Job Spark Batch.

Notez que, dans cette documentation, sauf mention contraire, un scénario présente uniquement des Jobs Standard, c'est-à-dire des Jobs Talend traditionnels d'intégration de données.

Spark Connection

Vous devez utiliser l'onglet Spark Configuration de la vue Run afin de définir la connexion à un cluster Spark donné pour le Job complet. De plus, puisque le Job attend ses fichiers .jar dépendants pour l'exécution, un (et un seul) composant relatif à un système de fichiers de la famille Storage est requis au sein du même Job, afin que Spark puisse utiliser ce composant pour se connecter au système de fichiers auquel les fichiers .jar dépendants du Job sont transférés :

Cette connexion fonctionne uniquement pour le Job dans lequel vous l'avez définie.

Log4j

Si vous utilisez une solution Talend soumise à souscription, l'activité de ce composant peut être journalisée avec la fonctionnalité log4j. Pour plus d'informations sur cette fonctionnalité, consultez le Guide utilisateur du Studio Talend.

Pour plus d'informations sur les niveaux de logs du log4j, consultez la documentation d'Apache : http://logging.apache.org/log4j/1.2/apidocs/org/apache/log4j/Level.html (en anglais).

Limitation

Notez que ce composant peut changer l'ordre du flux Java entrant.

Scénario associé

Aucun scénario n'est disponible pour la version Spark Batch de ce composant.

Propriétés du tDenormalize dans des Jobs Spark Streaming

Avertissement

La version Streaming de ce composant est disponible dans la Palette du studio si vous avez souscrit à Talend Real-time Big Data Platform ou Talend Data Fabric.

Famille du composant

Processing/Fields

Basic settings

Schema et Edit Schema

Un schéma est une description de lignes, il définit le nombre de champs (colonnes) qui sont traités et passés au composant suivant. Le schéma est soit local (Built-In), soit distant dans le Repository.

Cliquez sur Edit schema pour modifier le schéma. Si le schéma est en mode Repository, trois options sont disponibles :

  • View schema : sélectionnez cette option afin de voir le schéma.

  • Change to Built-In property : sélectionnez cette option pour passer le schéma en mode Built-In et effectuer des modifications locales.

  • Update repository connection : sélectionnez cette option afin de modifier le schéma stocké dans le référentiel et décider de propager ou non les modifications à tous les Jobs. Si vous souhaitez propager les modifications uniquement au Job courant, cliquez sur No et sélectionnez à nouveau la métadonnée du schéma dans la fenêtre [Repository Content].

 

 

Built-In : Le schéma est créé et conservé ponctuellement pour ce composant seulement. Voir également le Guide utilisateur du Studio Talend.

 

 

Repository : Le schéma existe déjà et il est stocké dans le Repository. Ainsi, il peut être réutilisé. Voir également le Guide utilisateur du Studio Talend.

To denormalize

Ce tableau vous permet de choisir les paramètres de dénormalisation des colonnes.

Column : Sélectionnez la colonne à dénormaliser.

Delimiter : Saisissez, entre guillemets doubles, le séparateur que vous souhaitez utiliser.

Merge same value : Cochez cette case si vous voulez fusionner les valeurs identiques.

Utilisation dans des Jobs Spark Streaming

Ce composant est utilisé comme étape intermédiaire.

Ce composant, ainsi que les composants Spark Streaming de la Palette à laquelle il appartient, s'affichent uniquement lorsque vous créez un Job Spark Streaming.

Notez que, dans cette documentation, sauf mention contraire, un scénario présente uniquement des Jobs de type Standard, c'est-à-dire des Jobs Talend traditionnels d'intégration de données.

Spark Connection

Vous devez utiliser l'onglet Spark Configuration de la vue Run afin de définir la connexion à un cluster Spark donné pour le Job complet. De plus, puisque le Job attend ses fichiers .jar dépendants pour l'exécution, un (et un seul) composant relatif à un système de fichiers de la famille Storage est requis au sein du même Job, afin que Spark puisse utiliser ce composant pour se connecter au système de fichiers auquel les fichiers .jar dépendants du Job sont transférés :

Cette connexion fonctionne uniquement pour le Job dans lequel vous l'avez définie.

Log4j

Si vous utilisez une solution Talend soumise à souscription, l'activité de ce composant peut être journalisée avec la fonctionnalité log4j. Pour plus d'informations sur cette fonctionnalité, consultez le Guide utilisateur du Studio Talend.

Pour plus d'informations sur les niveaux de logs du log4j, consultez la documentation d'Apache : http://logging.apache.org/log4j/1.2/apidocs/org/apache/log4j/Level.html (en anglais).

Limitation

Notez que ce composant peut changer l'ordre du flux Java entrant.

Scénario associé

Aucun scénario n'est disponible pour la version Spark Streaming de ce composant.