tExtractXMLField - 6.1

Composants Talend Guide de référence

EnrichVersion
6.1
EnrichProdName
Talend Big Data
Talend Big Data Platform
Talend Data Fabric
Talend Data Integration
Talend Data Management Platform
Talend Data Services Platform
Talend ESB
Talend MDM Platform
Talend Open Studio for Big Data
Talend Open Studio for Data Integration
Talend Open Studio for Data Quality
Talend Open Studio for ESB
Talend Open Studio for MDM
Talend Real-Time Big Data Platform
task
Création et développement
Gouvernance de données
Qualité et préparation de données
EnrichPlatform
Studio Talend

Fonction

Le composant tExtractXMLField lit la structure XML contenue dans les champs d'un fichier ou d'une table et en extrait les données.

Objectif

Le tExtractXMLField lit la structure XML contenue dans les champs d'un fichier ou d'une table, récupère les données contenues dans cette structure et les envoie au composant suivant via un lien Row.

Si vous avez souscrit à l'une des solutions Big Data de Talend, ce composant est disponible dans les types de Job suivants :

Propriétés du tExtractXMLField

Famille de composant

XML

Basic settings

Property type

Peut être Built-in ou Repository.

Cliquez sur Edit schema pour modifier le schéma. Si le schéma est en mode Repository, trois options sont disponibles :

  • View schema : sélectionnez cette option afin de voir le schéma.

  • Change to Built-In property : sélectionnez cette option pour passer le schéma en mode Built-In et effectuer des modifications locales.

  • Update repository connection : sélectionnez cette option afin de modifier le schéma stocké dans le référentiel et décider de propager ou non les modifications à tous les Jobs. Si vous souhaitez propager les modifications uniquement au Job courant, sélectionnez No et sélectionnez à nouveau la métadonnée du schéma dans la fenêtre [Repository Content].

 

 

- Built-in : Propriétés utilisées ponctuellement.

 

 

- Repository : Sélectionnez le fichier dans lequel sont stockées les propriétés du composant.

Les champs suivants sont alors pré-remplis à l'aide des données collectées.

 

Schema type et Edit Schema

Un schéma est une description de lignes, il définit le nombre de champs (colonnes) qui sont traités et passés au composant suivant. Le schéma est soit local (Built-In), soit distant dans le Repository.

 

 

Built-In : Le schéma est créé et conservé ponctuellement pour ce composant seulement. Voir également le Guide utilisateur du Studio Talend.

 

 

Repository : Le schéma existe déjà et il est stocké dans le Repository. Ainsi, il peut être réutilisé. Voir également le Guide utilisateur du Studio Talend.

 

XML field

Nom du champ XML à traiter.

Voir également le Guide utilisateur du Studio Talend

 

Loop XPath query

Nœud de l'arborescence XML sur lequel est basé la boucle.

 

Mapping

Column : reflète le schéma tel qu'il est défini dans l'éditeur Edit Schema.

XPath Query : Saisissez les champs à extraire de la structure Xml d'entrée.

Get nodes : Cochez cette case pour récupérer le contenu XML de tous les nœuds courants spécifiés dans le champ Xpath Query, ou cochez la case correspondant à un nœud spécifique pour ne récupérer que le contenu du nœud sélectionné.

 

Limit

Nombre maximum de lignes à traiter. Si Limit = 0, aucune ligne n'est lue ou traitée.

 

Die on error

Cochez cette case pour arrêter l'exécution du Job lorsqu'une erreur survient.

Décochez la case pour ignorer les lignes en erreur et terminer le processus avec les lignes sans erreur. Lorsque les erreurs sont ignorées,vous pouvez récupérer les lignes en erreur, si vous le souhaitez. Pour cela, utilisez un lien Row > Reject.

Advanced settings

Ignore the namespaces

Cochez cette case pour ignorer les espaces de noms lors de la lecture et de l'extraction des données XML.

tStatCatcher Statistics

Cochez cette case pour collecter les données de log du Job, aussi bien au niveau du Job qu'au niveau de chaque composant.

Global Variables

ERROR_MESSAGE : message d'erreur généré par le composant lorsqu'une erreur survient. Cette variable est une variable After et retourne une chaîne de caractères. Cette variable fonctionne uniquement si la case Die on error est décochée, si le composant a cette option.

NB_LINE : nombre de lignes traitées. Cette variable est une variable After et retourne un entier.

Une variable Flow fonctionne durant l'exécution d'un composant. Une variable After fonctionne après l'exécution d'un composant.

Pour renseigner un champ ou une expression à l'aide d'une variable, appuyez sur les touches Ctrl+Espace pour accéder à la liste des variables. A partir de cette liste, vous pouvez choisir la variable que vous souhaitez utiliser.

Pour plus d'informations concernant les variables, consultez le Guide utilisateur du Studio Talend.

Utilisation

Ce composant doit être utilisé en composant intermédiaire. Il nécessite donc un composant d'entrée et de sortie. Il permet d'extraire des données d'un champ délimité à l'aide d'un lien Row > Main, et permet de créer un flux de rejet avec un lien Row > Reject, filtrant les données dont le type ne correspond pas au type défini.

Log4j

Si vous utilisez une solution Talend soumise à souscription, l'activité de ce composant peut être journalisée avec la fonctionnalité log4j. Pour plus d'informations sur cette fonctionnalité, consultez le Guide utilisateur du Studio Talend.

Pour plus d'informations sur les niveaux de logs du log4j, consultez la documentation d'Apache : http://logging.apache.org/log4j/1.2/apidocs/org/apache/log4j/Level.html (en anglais).

Scénario 1 : Extraire les données XML d'un champ d'une table de base de données

Ce scénario est composé de trois composants et permet de lire la structure XML contenue dans les champs d'une base de données et d'en extraire les données.

  1. Glissez les composants tMysqlInput de la famille Database > Mysql, tExtractXMLField de la famille Xml et un composant tFileOutputDelimited de la famille File > Output de la Palette dans le Job designer.

    Reliez les composants entre eux via des connexions de type Main > Row.

  2. Double-cliquez sur le composant tMysqlInput pour paramétrer ses propriétés dans l'onglet Basic settings de la vue Component :

  3. Si votre schéma est déjà stocké sous le nœud Db Connections dans le Repository, sélectionnez l'option Repository dans le champ Schema puis choisissez les métadonnées appropriées à partir de la liste.

    Pour plus d'informations concernant le stockage des métadonnées de schéma dans la vue Repository, consultez le Guide utilisateur du Studio Talend.

    Si vous n'avez encore défini aucun schéma, sélectionnez l'option Built-in dans les listes Schema et Property Type et saisissez manuellement les informations de connexion et la structure des données dans un schéma. Pour plus d'informations sur les propriétés du composant tMysqlInput, consultez tMysqlInput.

  4. Dans le champ Table Name, saisissez le nom de la table dont les champs contiennent les données XML. Dans ce scénario, la table se nomme customerdetails et ne contient qu'une seule colonne.

  5. Cliquez sur le bouton Guess Query pour récupérer la requête correspondant à votre schéma.

  6. Dans le Job designer, double-cliquez sur le composant tExtractXMLField pour paramétrer ses propriétés dans l'onglet Basic settings.

  7. Cliquez sur le bouton Sync columns pour récupérer le schéma du composant précédent. Vous pouvez cliquer sur le bouton [...] à côté du champ Edit schema pour consulter le schéma.

    La colonne Column du tableau Mapping sera automatiquement renseignée avec la description du fichier que vous avez configuré.

  8. Dans la liste Xml field, sélectionnez la colonne dont vous souhaitez extraire le contenu XML. La colonne se nomme CustomerDetails et est l'unique colonne de la table customerdetails.

    Dans le champ Loop XPath query, saisissez le nœud de l'arborescence sur lequel effectuer la boucle afin de récupérer les données.

    Dans la colonne Xpath query, saisissez entre guillemet le nœud du champ XML contenant les données que vous voulez extraire. Dans ce scénario, l'objectif est d'extraire les noms des clients, saisissez donc "CustomerName" qui correspond à l'élément XML contenant cette information.

  9. Dans le Job designer, double-cliquez sur le composant tFileOutputDelimited pour paramétrer ses propriétés dans l'onglet Basic settings.

  10. Dans le champ File Name, indiquez le répertoire et le nom du fichier de sortie. Pour ce scénario, appelez le fichier CustomerNames.csv.

    Cliquez sur le bouton Sync columns pour récupérer le schéma du composant précédent. Vous pouvez cliquer sur le bouton [...] à côté du champ Edit schema pour consulter le schéma.

  11. Enregistrez le Job et appuyez sur F6 pour l'exécuter.

Le Job retourne les noms des clients contenus sous le nœud CustomerName du champ CustomerDetails de la table.

Scénario 2 : Extraire les données valides et les données erronées à partir d'un champ XML dans fichier délimité

Ce scénario est composé de quatre composants et permet de lire la structure XML contenue dans les champs d'un fichier délimité, d'en extraire les données et de rejeter les données erronées.

  1. A partir de la Palette, glissez dans le Job designer les composants tFileInputDelimited de la famille File > Input, tExtractXMLField de la famille Xml, tFileOutputDelimited de la famille File > Output et tLogRow de la famille Logs & Errors.

    Connectez les trois premiers composants à l'aide de liens Row > Main

    Reliez le tExtractXMLField au tLogRow à l'aide d'un lien Row > Reject.

  2. Double-cliquez sur le composant tFileInputDelimited pour paramétrer ses propriétés dans l'onglet Basic settings.

  3. Sélectionnez l'option Built-in à partir de la liste déroulante Schema et renseignez manuellement les informations concernant le fichier délimité dans les champs correspondants.

    Cliquez sur le bouton [...] à côté du champ Edit schema pour afficher la boîte de dialogue permettant de définir la structure des données, comme présenté ci-dessus.

    Cliquez sur le bouton [+] pour ajouter autant de lignes que nécessaire à la structure des données. Dans cet exemple, il n'y a qu'une seule colonne dans le schéma : xmlStr.

    Cliquez sur OK pour valider vos changements et fermer la boîte de dialogue.

    Note

    Si vous avez préalablement stocké votre schéma dans le répertoire Metadata sous File delimited, sélectionnez l'option Repository dans la liste déroulante Schema puis cliquez sur le bouton [...] à côté du champ pour afficher la boîte de dialogue [Repository Content] à partir de laquelle vous pouvez sélectionner un schéma pertinent. Cliquez sur OK pour fermer la boîte de dialogue et remplir les champs automatiquement avec les métadonnées contenues dans le schéma.

    Pour plus d'informations sur le stockage des schémas de métadonnées dans le Repository, consultez le Guide utilisateur du Studio Talend.

  4. Dans le champ File Name, renseignez le chemin d'accès ou cliquez sur le bouton [...] pour parcourir vos dossiers jusqu'au fichier à traiter. Dans cet exemple, il s'agit du fichier CustomerDetails_Error.

    Ce fichier csv stocké localement contient une suite de lignes simples au format XML, séparées par un double retour chariot.

    Dans le champ Row Separator, renseignez le séparateur de lignes, ici le double retour chariot. Dans le champ Field Separator, renseignez le séparateur de champ, aucun ici.

    Dans cet exemple, il n'y a pas d'en-tête (Header), de pied de page (Footer) ou de nombre limite de lignes à traiter (Limit).

  5. Dans l'espace graphique, double-cliquez sur le composant tExtractXMLField pour paramétrer ses propriétés dans l'onglet Basic settings.

  6. Cliquez sur le bouton Sync columns pour récupérer le schéma du composant précédent. Vous pouvez cliquer sur le bouton [...] à côté du champ Edit schema pour consulter le schéma ou le modifier.

    La colonne Column du tableau Mapping sera automatiquement renseignée avec le schéma défini.

  7. Dans la liste Xml field, sélectionnez la colonne dont vous souhaitez extraire le contenu XML. Dans cet exemple, la colonne se nomme xmlStr.

    Dans le champ Loop XPath query, saisissez le nœud de l'arborescence sur lequel effectuer la boucle afin de récupérer les données.

  8. Dans le Job designer, double-cliquez sur le composant tFileOutputDelimited pour paramétrer ses propriétés dans l'onglet Basic settings.

  9. Dans le champ File Name, indiquez le répertoire et le nom du fichier de sortie. Pour ce scénario, appelez le fichier CustomerNames_right.csv.

    Cliquez sur le bouton Sync columns pour récupérer le schéma du composant précédent. Vous pouvez cliquer sur le bouton [...] à côté du champ Edit schema pour consulter le schéma ou le modifier.

  10. Dans le Job designer, double-cliquez sur le composant tLogRow pour paramétrer ses propriétés dans l'onglet Basic settings de la vue Component.

  11. Cliquez sur le bouton Sync Columns pour récupérer le schéma du composant précédent. Pour plus d'informations sur le composant tLogRow, consultez tLogRow.

  12. Enregistrez le Job et appuyez sur F6 pour l'exécuter.

Le composant tExtractXMLField lit et extrait dans un fichier délimité en sortie, CustomerNames_right dans cet exemple, les informations concernant les clients dont la structure XML est correcte, et affiche les lignes erronées dans la console de log.

Le composant tExtractXMLField dans des Jobs Map/Reduce Talend

Avertissement

Les informations contenues dans cette section concernent uniquement les utilisateurs ayant souscrit à l'une des solutions Big Data de Talend et ne sont pas applicables aux utilisateurs de Talend Open Studio for Big Data.

Dans un Job Map/Reduce Talend, le tExtractXMLField, ainsi que le Job complet utilisant ce composant, génère du code Map/Reduce natif. Cette section présente les propriétés du tExtractXMLField lorsqu'il est utilisé dans un Job Map/Reduce. Pour plus d'informations concernant un Job Map/Reduce Talend, consultez le Guide de prise en main de Talend Big Data.

Famille du composant

XML

Basic settings

Property type

Peut être Built-in ou Repository.

Cliquez sur Edit schema pour modifier le schéma. Si le schéma est en mode Repository, trois options sont disponibles :

  • View schema : sélectionnez cette option afin de voir le schéma.

  • Change to Built-In property : sélectionnez cette option pour passer le schéma en mode Built-In et effectuer des modifications locales.

  • Update repository connection : sélectionnez cette option afin de modifier le schéma stocké dans le référentiel et décider de propager ou non les modifications à tous les Jobs. Si vous souhaitez propager les modifications uniquement au Job courant, sélectionnez No et sélectionnez à nouveau la métadonnée du schéma dans la fenêtre [Repository Content].

 

 

- Built-in : Propriétés utilisées ponctuellement.

 

 

- Repository : Sélectionnez le fichier dans lequel sont stockées les propriétés du composant.

Les champs suivants sont alors pré-remplis à l'aide des données collectées.

 

Schema type et Edit Schema

Un schéma est une description de lignes, il définit le nombre de champs (colonnes) qui sont traités et passés au composant suivant. Le schéma est soit local (Built-In), soit distant dans le Repository.

 

 

Built-In : Le schéma est créé et conservé ponctuellement pour ce composant seulement. Voir également le Guide utilisateur du Studio Talend.

 

 

Repository : Le schéma existe déjà et il est stocké dans le Repository. Ainsi, il peut être réutilisé. Voir également le Guide utilisateur du Studio Talend.

 

XML field

Nom du champ XML à traiter.

Voir également le Guide utilisateur du Studio Talend

 

Loop XPath query

Nœud de l'arborescence XML sur lequel est basé la boucle.

 

Mapping

Column : reflète le schéma tel qu'il est défini dans l'éditeur Edit Schema.

XPath Query : Saisissez les champs à extraire de la structure Xml d'entrée.

Get nodes : Cochez cette case pour récupérer le contenu XML de tous les nœuds courants spécifiés dans le champ Xpath Query, ou cochez la case correspondant à un nœud spécifique pour ne récupérer que le contenu du nœud sélectionné.

 

Die on error

Cochez cette case pour arrêter l'exécution du Job lorsqu'une erreur survient.

Décochez la case pour ignorer les lignes en erreur et terminer le processus avec les lignes sans erreur. Lorsque les erreurs sont ignorées,vous pouvez récupérer les lignes en erreur, si vous le souhaitez. Pour cela, utilisez un lien Row > Reject.

Advanced settings

Ignore the namespaces

Cochez cette case pour ignorer les espaces de noms lors de la lecture et de l'extraction des données XML.

Global Variables

ERROR_MESSAGE : message d'erreur généré par le composant lorsqu'une erreur survient. Cette variable est une variable After et retourne une chaîne de caractères. Cette variable fonctionne uniquement si la case Die on error est décochée, si le composant a cette option.

Une variable Flow fonctionne durant l'exécution d'un composant. Une variable After fonctionne après l'exécution d'un composant.

Pour renseigner un champ ou une expression à l'aide d'une variable, appuyez sur les touches Ctrl+Espace pour accéder à la liste des variables. A partir de cette liste, vous pouvez choisir la variable que vous souhaitez utiliser.

Pour plus d'informations concernant les variables, consultez le Guide utilisateur du Studio Talend.

Utilisation dans des Jobs Map/Reduce

Dans un Job Talend Map/Reduce, il est utilisé comme étape intermédiaire, avec d'autres composants Map/Reduce. Ils génèrent nativement du code Map/Reduce pouvant être exécuté directement dans Hadoop.

Pour plus d'informations concernant les Jobs Talend Map/Reduce, consultez les sections décrivant comment créer, convertir et configurer un Job Talend Map/Reduce, dans le Guide de prise en main de Talend Big Data.

Notez que, dans cette documentation, sauf mention contraire, un scénario présente uniquement des Jobs Standard, c'est-à-dire des Jobs Talend traditionnels d'intégration de données et non des Jobs Map/Reduce.

Scénarios associés

Aucun scénario n'est disponible pour la version Map/Reduce de ce composant.

Propriétés du tExtractXMLField dans des Jobs Spark Batch

Famille de composant

XML

Basic settings

Property type

Peut être Built-in ou Repository.

Cliquez sur Edit schema pour modifier le schéma. Si le schéma est en mode Repository, trois options sont disponibles :

  • View schema : sélectionnez cette option afin de voir le schéma.

  • Change to Built-In property : sélectionnez cette option pour passer le schéma en mode Built-In et effectuer des modifications locales.

  • Update repository connection : sélectionnez cette option afin de modifier le schéma stocké dans le référentiel et décider de propager ou non les modifications à tous les Jobs. Si vous souhaitez propager les modifications uniquement au Job courant, sélectionnez No et sélectionnez à nouveau la métadonnée du schéma dans la fenêtre [Repository Content].

 

 

- Built-in : Propriétés utilisées ponctuellement.

 

 

- Repository : Sélectionnez le fichier dans lequel sont stockées les propriétés du composant.

Les champs suivants sont alors pré-remplis à l'aide des données collectées.

 

Schema type et Edit Schema

Un schéma est une description de lignes, il définit le nombre de champs (colonnes) qui sont traités et passés au composant suivant. Le schéma est soit local (Built-In), soit distant dans le Repository.

 

 

Built-In : Le schéma est créé et conservé ponctuellement pour ce composant seulement. Voir également le Guide utilisateur du Studio Talend.

 

 

Repository : Le schéma existe déjà et il est stocké dans le Repository. Ainsi, il peut être réutilisé. Voir également le Guide utilisateur du Studio Talend.

 

XML field

Nom du champ XML à traiter.

Voir également le Guide utilisateur du Studio Talend

 

Loop XPath query

Nœud de l'arborescence XML sur lequel est basé la boucle.

 

Mapping

Column : reflète le schéma tel qu'il est défini dans l'éditeur Edit Schema.

XPath Query : Saisissez les champs à extraire de la structure Xml d'entrée.

Get nodes : Cochez cette case pour récupérer le contenu XML de tous les nœuds courants spécifiés dans le champ Xpath Query, ou cochez la case correspondant à un nœud spécifique pour ne récupérer que le contenu du nœud sélectionné.

 

Die on error

Cochez cette case pour arrêter l'exécution du Job lorsqu'une erreur survient.

Advanced settings

Ignore the namespaces

Cochez cette case pour ignorer les espaces de noms lors de la lecture et de l'extraction des données XML.

Utilisation dans des Jobs Spark Batch

Dans un Job Talend Spark Batch, il est utilisé comme étape intermédiaire, avec d'autres composants Spark Batch. Ils génèrent nativement du code Spark pouvant être exécuté directement dans un cluster Spark.

Ce composant, ainsi que la Palette Spark Batch à laquelle il appartient, ne s'affiche que lorsque vous créez un Job Spark Batch.

Notez que, dans cette documentation, sauf mention contraire, un scénario présente uniquement des Jobs Standard, c'est-à-dire des Jobs Talend traditionnels d'intégration de données.

Spark Connection

Vous devez utiliser l'onglet Spark Configuration de la vue Run afin de définir la connexion à un cluster Spark donné pour le Job complet. De plus, puisque le Job attend ses fichiers .jar dépendants pour l'exécution, un (et un seul) composant relatif à un système de fichiers de la famille Storage est requis au sein du même Job, afin que Spark puisse utiliser ce composant pour se connecter au système de fichiers auquel les fichiers .jar dépendants du Job sont transférés :

Cette connexion fonctionne uniquement pour le Job dans lequel vous l'avez définie.

Log4j

Si vous utilisez une solution Talend soumise à souscription, l'activité de ce composant peut être journalisée avec la fonctionnalité log4j. Pour plus d'informations sur cette fonctionnalité, consultez le Guide utilisateur du Studio Talend.

Pour plus d'informations sur les niveaux de logs du log4j, consultez la documentation d'Apache : http://logging.apache.org/log4j/1.2/apidocs/org/apache/log4j/Level.html (en anglais).

Scénario associé

Aucun scénario n'est disponible pour la version Spark Batch de ce composant.

Propriétés du tExtractXMLField dans des Jobs Spark Streaming

Avertissement

La version Streaming de ce composant est disponible dans la Palette du studio si vous avez souscrit à Talend Real-time Big Data Platform ou Talend Data Fabric.

Famille de composant

XML

Basic settings

Property type

Peut être Built-in ou Repository.

Cliquez sur Edit schema pour modifier le schéma. Si le schéma est en mode Repository, trois options sont disponibles :

  • View schema : sélectionnez cette option afin de voir le schéma.

  • Change to Built-In property : sélectionnez cette option pour passer le schéma en mode Built-In et effectuer des modifications locales.

  • Update repository connection : sélectionnez cette option afin de modifier le schéma stocké dans le référentiel et décider de propager ou non les modifications à tous les Jobs. Si vous souhaitez propager les modifications uniquement au Job courant, sélectionnez No et sélectionnez à nouveau la métadonnée du schéma dans la fenêtre [Repository Content].

 

 

- Built-in : Propriétés utilisées ponctuellement.

 

 

- Repository : Sélectionnez le fichier dans lequel sont stockées les propriétés du composant.

Les champs suivants sont alors pré-remplis à l'aide des données collectées.

 

Schema type et Edit Schema

Un schéma est une description de lignes, il définit le nombre de champs (colonnes) qui sont traités et passés au composant suivant. Le schéma est soit local (Built-In), soit distant dans le Repository.

 

 

Built-In : Le schéma est créé et conservé ponctuellement pour ce composant seulement. Voir également le Guide utilisateur du Studio Talend.

 

 

Repository : Le schéma existe déjà et il est stocké dans le Repository. Ainsi, il peut être réutilisé. Voir également le Guide utilisateur du Studio Talend.

 

XML field

Nom du champ XML à traiter.

Voir également le Guide utilisateur du Studio Talend

 

Loop XPath query

Nœud de l'arborescence XML sur lequel est basé la boucle.

 

Mapping

Column : reflète le schéma tel qu'il est défini dans l'éditeur Edit Schema.

XPath Query : Saisissez les champs à extraire de la structure Xml d'entrée.

Get nodes : Cochez cette case pour récupérer le contenu XML de tous les nœuds courants spécifiés dans le champ Xpath Query, ou cochez la case correspondant à un nœud spécifique pour ne récupérer que le contenu du nœud sélectionné.

 

Die on error

Cochez cette case pour arrêter l'exécution du Job lorsqu'une erreur survient.

Décochez la case pour ignorer les lignes en erreur et terminer le processus avec les lignes sans erreur. Lorsque les erreurs sont ignorées,vous pouvez récupérer les lignes en erreur, si vous le souhaitez. Pour cela, utilisez un lien Row > Reject.

Advanced settings

Ignore the namespaces

Cochez cette case pour ignorer les espaces de noms lors de la lecture et de l'extraction des données XML.

Utilisation dans des Jobs Spark Streaming

Dans un Job Talend Spark Streaming, ce composant est utilisé comme étape intermédiaire. Les composants utilisés avec celui-ci doivent également être des composants Spark Streaming. Ils génèrent nativement du code Spark Streaming pouvant être exécuté directement dans un cluster Spark.

Ce composant, ainsi que les composants Spark Streaming de la Palette à laquelle il appartient, s'affichent uniquement lorsque vous créez un Job Spark Streaming.

Notez que, dans cette documentation, sauf mention contraire , un scénario présente uniquement des Jobs de type Standard, c'est-à-dire des Jobs Talend traditionnels d'intégration de données.

Spark Connection

Vous devez utiliser l'onglet Spark Configuration de la vue Run afin de définir la connexion à un cluster Spark donné pour le Job complet. De plus, puisque le Job attend ses fichiers .jar dépendants pour l'exécution, un (et un seul) composant relatif à un système de fichiers de la famille Storage est requis au sein du même Job, afin que Spark puisse utiliser ce composant pour se connecter au système de fichiers auquel les fichiers .jar dépendants du Job sont transférés :

Cette connexion fonctionne uniquement pour le Job dans lequel vous l'avez définie.

Log4j

Si vous utilisez une solution Talend soumise à souscription, l'activité de ce composant peut être journalisée avec la fonctionnalité log4j. Pour plus d'informations sur cette fonctionnalité, consultez le Guide utilisateur du Studio Talend.

Pour plus d'informations sur les niveaux de logs du log4j, consultez la documentation d'Apache : http://logging.apache.org/log4j/1.2/apidocs/org/apache/log4j/Level.html (en anglais).

Scénario associé

Aucun scénario n'est disponible pour la version Spark Streaming de ce composant.