tCollector - 6.1

Composants Talend Guide de référence

EnrichVersion
6.1
EnrichProdName
Talend Big Data
Talend Big Data Platform
Talend Data Fabric
Talend Data Integration
Talend Data Management Platform
Talend Data Services Platform
Talend ESB
Talend MDM Platform
Talend Open Studio for Big Data
Talend Open Studio for Data Integration
Talend Open Studio for Data Quality
Talend Open Studio for ESB
Talend Open Studio for MDM
Talend Real-Time Big Data Platform
task
Création et développement
Gouvernance de données
Qualité et préparation de données
EnrichPlatform
Studio Talend

Avertissement

Ce composant est disponible dans la Palette dans la perspective Integration du Studio Talend si vous avez souscrit à l'une des solutions Talend Platform ou Big Data.

Notez que le Studio Talend permet l'implémentation automatique de la parallélisation à travers le Job sans l'utilisation de composants de parallélisation. Cette approche est recommandée. Pour plus d'informations, consultez la section décrivant l'activation de la parallélisation de flux de données du Guide utilisateur du Studio Talend. Cependant, si vous souhaitez comprendre comment utiliser ces composants de parallélisation, gardez à l'esprit que ces composants fonctionnent ensemble en étroite relation pour accomplir des exécutions parallèles de processus donnés. Le composant tPartitioner divise les enregistrements d'entrée en un nombre spécifique de process. Le tCollector envoie ces process aux composants suivants. Le tDepartitioner regroupe les sorties des process parallèles traités. Le composant tRecollector capture la sortie d'un tDepartitioner donné et envoie les données capturées au composant suivant.

Propriétés du tCollector

Famille du composant

Orchestration 

Fonction

Le composant tCollector reçoit des process parallèles du composant tPartitioner en les envoie aux composants suivants, pour une exécution parallèle.

Objectif

Ce composant peuple des processus d'exécutions parallèles avec des process générés par le tPartitioner.

Basic settings

Schema et Edit Schema

Un schéma est une description de lignes, il définit le nombre de champs (colonnes) qui sont traités et passés au composant suivant. Le schéma est soit local (Built-In), soit distant dans le Repository.

Cliquez sur Edit schema pour modifier le schéma. Si le schéma est en mode Repository, trois options sont disponibles :

  • View schema : sélectionnez cette option afin de voir le schéma.

  • Change to Built-In property : sélectionnez cette option pour passer le schéma en mode Built-In et effectuer des modifications locales.

  • Update repository connection : sélectionnez cette option afin de modifier le schéma stocké dans le référentiel et décider de propager ou non les modifications à tous les Jobs. Si vous souhaitez propager les modifications uniquement au Job courant, sélectionnez No et sélectionnez à nouveau la métadonnée du schéma dans la fenêtre [Repository Content].

Advanced settings tStatCatcher Statistics

Cochez cette case pour collecter les données de log au niveau du composant.

Utilisation

Ce composant doit être placé après un tPartitioner. Un lien Start doit les relier.

Ce composant démarre des processus parallèles, dans un Job, créés via d'autres composants.

Connections

Liens d'entrée (du composant précédent à ce composant) :

Trigger : Start.

Liens de sortie (de ce composant au composant suivant) :

Row : Main.

Pour plus d'informations concernant les connexions, consultez le Guide utilisateur du Studio Talend.

Global Variables

ERROR_MESSAGE : message d'erreur généré par le composant lorsqu'une erreur survient. Cette variable est une variable After et retourne une chaîne de caractères. Cette variable fonctionne uniquement si la case Die on error est décochée, si le composant a cette option.

NB_LINE : nombre de lignes traitées. Cette variable est une variable After et retourne un entier.

THREAD_ID : ID du process traité par le composant. Disponible en tant que variable Flow.

Une variable Flow fonctionne durant l'exécution d'un composant. Une variable After fonctionne après l'exécution d'un composant.

Pour renseigner un champ ou une expression à l'aide d'une variable, appuyez sur les touches Ctrl+Espace pour accéder à la liste des variables. A partir de cette liste, vous pouvez choisir la variable que vous souhaitez utiliser.

Pour plus d'informations concernant les variables, consultez le Guide utilisateur du Studio Talend.

Log4j

Si vous utilisez une solution Talend soumise à souscription, l'activité de ce composant peut être journalisée avec la fonctionnalité log4j. Pour plus d'informations sur cette fonctionnalité, consultez le Guide utilisateur du Studio Talend.

Pour plus d'informations sur les niveaux de logs du log4j, consultez la documentation d'Apache : http://logging.apache.org/log4j/1.2/apidocs/org/apache/log4j/Level.html (en anglais).

Scénario associé

Pour un scénario associé, consultez la Scénario 2 : Parallélisation du traitement de données clients volumineuses.