Propriétés du tMap pour Apache Spark Batch

tMap

author
Talend Documentation Team
EnrichVersion
6.5
EnrichProdName
Talend Big Data Platform
Talend Big Data
Talend Data Integration
Talend Data Services Platform
Talend ESB
Talend Open Studio for Data Integration
Talend Data Fabric
Talend Open Studio for ESB
Talend Open Studio for MDM
Talend Real-Time Big Data Platform
Talend MDM Platform
Talend Data Management Platform
Talend Open Studio for Big Data
task
Qualité et préparation de données > Systèmes tiers > Composants Processing (Intégration) > tMap
Création et développement > Systèmes tiers > Composants Processing (Intégration) > tMap
Gouvernance de données > Systèmes tiers > Composants Processing (Intégration) > tMap
EnrichPlatform
Studio Talend

Ces propriétés sont utilisées pour configurer le tMap s'exécutant dans le framework de Jobs Spark Batch.

Le composant tMap Spark Batch appartient à la famille Processing.

Le composant de ce framework est disponible si vous avez souscrit à l'une des solutions Big Data de Talend.

Basic settings

Map editor

Le Mapper est l'éditeur du tMap. Il vous permet de définir les propriétés d'aiguillage et de transformation des données. Cependant, notez que seul le modèle de lookup Load once est supporté par les Jobs Spark Batch.

Pour plus d'informations concernant le modèle de lookup Load once, consultez sa description dans Gestion des références.

Lorsque vous cliquez sur le bouton Property Settings en haut de la zone d'entrée, la boîte de dialogue [Property Settings] s'ouvre. Vous pouvez y configurer les paramètres suivants :

  • Si vous ne souhaitez pas gérer les erreurs d'exécution, cochez la case Die on error (cochée par défaut). En cas d'erreur, le Job est arrêté.

  • Afin de maximiser les performances des transformations de données dans un Job gérant plusieurs plus d'entrée ou de référence (lookup) contenant de larges volumes de données, vous pouvez cocher la case Lookup in parallel.

  • Temp data directory path : saisissez le chemin d'accès à l'emplacement dans lequel vous souhaitez stocker les données temporaires générées pour le chargement du lookup. Pour plus d'informations concernant ce dossier, consultez le Guide utilisateur du Studio Talend .

  • Max buffer size (nb of rows) : saisissez la taille de la mémoire physique, en nombre de lignes, que vous souhaitez allouer aux données traitées.

Mapping links display as

Auto : par défaut, les liens sont en forme de courbes.

Curves : les liens du mapping sont en forme de courbes.

Lines : les liens du mapping sont en forme de lignes droites. Cette dernière option améliore légèrement les performances.

Preview

L'aperçu est un instantané des données du Mapper. Il n'est visible que lorsque les propriétés du Mapper sont renseignées. La synchronisation de l'aperçu ne prend effet qu'après la sauvegarde des modifications.

Use replicated join

Cochez cette case pour effectuer une jointure répliquée entre les flux d'entrée. En répliquant chaque table Lookup dans la mémoire, ce type de jointure ne requiert pas d'étape supplémentaire de shuffle-and-sort, ce qui accélère le processus.

Vous devez vous assurer que la mémoire contient assez d'espace pour contenir toutes les tables Lookup.

Max buffer size (nb of rows)

Saisissez la taille de la mémoire physique, en nombre de lignes, que vous souhaitez allouer aux données traitées.

Utilisation

Règle d'utilisation

Ce composant est utilisé comme étape intermédiaire.

Ce composant, ainsi que la Palette Spark Batch à laquelle il appartient, ne s'affiche que lorsque vous créez un Job Spark Batch.

Notez que, dans cette documentation, sauf mention contraire, un scénario présente uniquement des Jobs Standard, c'est-à-dire des Jobs Talend traditionnels d'intégration de données.

Connexion à Spark

Vous devez utiliser l'onglet Spark Configuration de la vue Run afin de définir la connexion à un cluster Spark donné pour le Job complet. De plus, puisque le Job attend ses fichiers .jar dépendants pour l'exécution, vous devez spécifier le répertoire du système de fichiers dans lequel ces fichiers .jar sont transférés afin que Spark puisse accéder à ces fichiers :
  • Yarn mode : lorsque vous utilisez Google Dataproc, spécifiez un bucket dans le champ Google Storage staging bucket de l'onglet Spark configuration. Lorsque vous utilisez d'autres distributions, utilisez un composant tHDFSConfiguration afin de spécifier le répertoire.

  • Standalone mode : vous devez choisir le composant de configuration selon le système de fichiers que vous utilisez, comme tHDFSConfiguration ou tS3Configuration.

Cette connexion fonctionne uniquement pour le Job dans lequel vous l'avez définie.