Propriétés du tMap pour Apache Spark Streaming

tMap

author
Talend Documentation Team
EnrichVersion
6.5
EnrichProdName
Talend ESB
Talend Open Studio for Data Integration
Talend Big Data
Talend Data Integration
Talend Data Services Platform
Talend MDM Platform
Talend Big Data Platform
Talend Open Studio for MDM
Talend Data Fabric
Talend Data Management Platform
Talend Open Studio for ESB
Talend Real-Time Big Data Platform
Talend Open Studio for Big Data
task
Qualité et préparation de données > Systèmes tiers > Composants Processing (Intégration) > tMap
Gouvernance de données > Systèmes tiers > Composants Processing (Intégration) > tMap
Création et développement > Systèmes tiers > Composants Processing (Intégration) > tMap
EnrichPlatform
Studio Talend

Ces propriétés sont utilisées pour configurer le tMap s'exécutant dans le framework de Jobs Spark Streaming.

Le composant tMap Spark Streaming appartient à la famille Processing.

Le composant de ce framework est disponible si vous avez souscrit à Talend Real-Time Big Data Platform ou Talend Data Fabric.

Basic settings

Map editor

Le Mapper est l'éditeur du tMap. Il vous permet de définir les propriétés d'aiguillage et de transformation des données.

Lorsque vous cliquez sur le bouton Property Settings en haut de la zone d'entrée, la boîte de dialogue [Property Settings] s'ouvre. Vous pouvez y configurer les paramètres suivants :

  • Si vous ne souhaitez pas gérer les erreurs d'exécution, cochez la case Die on error (cochée par défaut). En cas d'erreur, le Job est arrêté.

  • Afin de maximiser les performances des transformations de données dans un Job gérant plusieurs plus d'entrée ou de référence (lookup) contenant de larges volumes de données, vous pouvez cocher la case Lookup in parallel.

  • Temp data directory path : saisissez le chemin d'accès à l'emplacement dans lequel vous souhaitez stocker les données temporaires générées pour le chargement du lookup. Pour plus d'informations concernant ce dossier, consultez le Guide utilisateur du Studio Talend .

  • Max buffer size (nb of rows) : saisissez la taille de la mémoire physique, en nombre de lignes, que vous souhaitez allouer aux données traitées.

Mapping links display as

Auto : par défaut, les liens sont en forme de courbes.

Curves : les liens du mapping sont en forme de courbes.

Lines : les liens du mapping sont en forme de lignes droites. Cette dernière option améliore légèrement les performances.

Preview

L'aperçu est un instantané des données du Mapper. Il n'est visible que lorsque les propriétés du Mapper sont renseignées. La synchronisation de l'aperçu ne prend effet qu'après la sauvegarde des modifications.

Use replicated join

Cochez cette case pour effectuer une jointure répliquée entre les flux d'entrée. En répliquant chaque table Lookup dans la mémoire, ce type de jointure ne requiert pas d'étape supplémentaire de shuffle-and-sort, ce qui accélère le processus.

Vous devez vous assurer que la mémoire contient assez d'espace pour contenir toutes les tables Lookup.

Utilisation

Règle d'utilisation

Le tMap fonctionne généralement avec un composant Lookup Input, comme le tMongoDBLookupInput, pour construire et consommer un flux de référence (lookup). Dans cette situation, vous devez utiliser l'option Reload at each row ou Reload at each row (cache) pour lire les données du flux de référence. Cette approche assure qu'aucun enregistrement redondant n'est stocké dans la mémoire avant envoi au tMap. Pour un cas d'utilisation dans lequel le tMap est utilisé avec un composant Lookup Input, consultez Lire et écrire des données dans MongoDB à l'aide d'un Job Spark Streaming. Notez que les options Reload at each row et Reload et each row (cache) dans un Job Streaming sont supportées uniquement par les composants Lookup Input.

Spark Connection

Vous devez utiliser l'onglet Spark Configuration de la vue Run afin de définir la connexion à un cluster Spark donné pour le Job complet. De plus, puisque le Job attend ses fichiers .jar dépendants pour l'exécution, vous devez spécifier le répertoire du système de fichiers dans lequel ces fichiers .jar sont transférés afin que Spark puisse accéder à ces fichiers :
  • Yarn mode : lorsque vous utilisez Google Dataproc, spécifiez un bucket dans le champ Google Storage staging bucket de l'onglet Spark configuration. Lorsque vous utilisez d'autres distributions, utilisez un composant tHDFSConfiguration afin de spécifier le répertoire.

  • Standalone mode : vous devez choisir le composant de configuration selon le système de fichiers que vous utilisez, comme tHDFSConfiguration ou tS3Configuration.

Cette connexion fonctionne uniquement pour le Job dans lequel vous l'avez définie.