Propriétés du tFileInputPositional pour Apache Spark Batch

Positional

author
Talend Documentation Team
EnrichVersion
6.4
EnrichProdName
Talend Big Data Platform
Talend MDM Platform
Talend Data Fabric
Talend Big Data
Talend ESB
Talend Open Studio for MDM
Talend Open Studio for ESB
Talend Real-Time Big Data Platform
Talend Data Management Platform
Talend Open Studio for Big Data
Talend Open Studio for Data Integration
Talend Data Services Platform
Talend Data Integration
task
Création et développement > Systèmes tiers > Composants File (Intégration) > Composants Positional
Gouvernance de données > Systèmes tiers > Composants File (Intégration) > Composants Positional
Qualité et préparation de données > Systèmes tiers > Composants File (Intégration) > Composants Positional
EnrichPlatform
Studio Talend

Ces propriétés sont utilisées pour configurer le tFileInputPositional s'exécutant dans le framework de Jobs Spark Batch.

Le composant tFileInputPositional Spark Batch appartient à la famille File.

Le composant de ce framework est disponible si vous avez souscrit à l'une des solutions Big Data de Talend.

Basic settings

Define a storage configuration component

Sélectionnez le composant de configuration à utiliser pour fournir les informations de configuration pour la connexion au système de fichiers cible, comme HDFS.

Si vous laissez cette case décochée, le système de fichiers cible est le système local.

Le composant de configuration à utiliser doit se trouver dans le même Job. Par exemple, si vous avez ajouté un tHDFSConfiguration dans votre Job, vous pouvez le sélectionner pour écrire le résultat dans un système HDFS donné.

Property type

Peut être Built-In ou Repository.

 

Built-In : Propriétés utilisées ponctuellement.

 

Repository : Sélectionnez le fichier dans lequel sont stockées les propriétés du composant.

Les propriétés sont stockées centralement sous le nœud Hadoop Cluster de la vue Repository.

Les champs suivants sont pré-renseignés avec les données récupérées.

Pour plus d'informations concernant le nœud Hadoop Cluster, consultez le Guide de prise en main de Talend Open Studio for Big Data.

Schema et Edit Schema

Un schéma est une description de lignes, il définit le nombre de champs (colonnes) qui sont traités et passés au composant suivant. Le schéma est soit local (Built-In), soit distant dans le Repository.

Cliquez sur Edit schema pour modifier le schéma. Notez que si vous effectuez des modifications, le schéma passe automatiquement en type built-in.

 

Built-In : Le schéma est créé et conservé ponctuellement pour ce composant seulement. Voir également le Guide utilisateur du Studio Talend.

 

Repository : Le schéma existe déjà et il est stocké dans le Repository. Ainsi, il peut être réutilisé. Voir également le Guide utilisateur du Studio Talend.

Folder/File

Parcourez votre système ou saisissez le chemin d'accès aux données à utiliser dans le système de fichiers.

Si le chemin d'accès défini pointe vers un dossier, ce composant lit tous les fichiers stockés dans le dossier, par exemple /user/talend/in. Si les sous-dossiers existent, ils sont automatiquement ignorés, sauf si vous définissez la propriété spark.hadoop.mapreduce.input.fileinputformat.input.dir.recursive à true dans la table Advanced properties, dans l'onglet Hadoop configuration.

Si vous souhaitez spécifier plus d'un fichier ou répertoire dans ce champ, séparez chaque chemin d'accès par une virgule (,).

Si le fichier à lire est un fichier compressé, saisissez son nom et son extension. Ce composant décompresse automatiquement le fichier lors de l'exécution. Les formats de compression supportés et leur extension sont :

  • DEFLATE : *.deflate

  • gzip : *.gz

  • bzip2 : *.bz2

  • LZO : *.lzo

Le bouton pour parcourir votre système ne fonctionne pas en mode Local de Spark. Si vous utilisez le mode Yarn ou Standalone de Spark, assurez-vous d'avoir correctement configuré la connexion dans un composant de configuration au sein du même Job, comme le tHDFSConfiguration.

Die on error

Cochez cette case pour arrêter l'exécution du Job lorsqu'une erreur survient.

Row separator

Saisissez le séparateur utilisé pour identifier la fin d'une ligne.

Customize

Cochez cette case pour personnaliser le format de données du fichier positionnel et définissez les colonnes de la table :

Column : sélectionnez la colonne à personnaliser.

Size : saisissez la taille de la colonne.

Padding char : saisissez, entre guillemets, le caractère de remplissage à supprimer du champ. Ce caractère est un espace par défaut.

Alignment : sélectionnez le paramètre d'alignement approprié.

Pattern

Saisissez entre guillemets les valeurs des longueurs séparées par une virgule, interprétées comme des chaînes de caractères. Assurez-vous que les valeurs saisies dans ce champ sont cohérentes par rapport au schéma défini.

Header

Saisissez le nombre de lignes à ignorer au début du fichier.

Saisissez 0 pour ne pas ignorer de ligne dans les données sans en-tête et 1 pour les données dont l'en-tête se trouve dans la première ligne.

Skip empty rows

Cochez cette case pour ignorer les lignes vides.

Advanced settings

Set minimum partitions

Cochez cette case pour contrôler le nombre de partitions à créer à partir des données d'entrée, pour ignorer le comportement de partitionnement par défaut de Spark.

Dans le champ qui s'affiche, saisissez, sans guillemet, le nombre minimal de partitions à obtenir.

Lorsque vous souhaitez contrôler le nombre de partitions, vous pouvez généralement configurer autant de partitions qu'il y a d'exécuteurs pour un traitement en parallèle, tout en gardant à l'esprit la mémoire disponible et l'utilisation de votre réseau par le transfert de données.

Custom Encoding

Il est possible de rencontrer des problèmes d'encodage lorsque vous traitez les données stockées. Dans ce cas, cochez cette case pour afficher la liste Encoding.

Sélectionnez l'encodage à partir de la liste ou sélectionnez Custom et définissez-le manuellement.

Advanced separator (for number)

Cochez cette case pour modifier le séparateur utilisé pour les nombres. Par défaut, le séparateur des milliers est une virgule (,) et le séparateur décimal est un point (.).

Trim columns

Cochez cette case pour supprimer les espaces en début et en fin de champ dans les colonnes sélectionnées. Lorsque cette case est cochée, la table Check column to trim est affichée, ce qui vous permet de sélectionner les colonnes desquelles vous souhaitez enlever les espaces en début et en fin de champ.

Utilisation

Règle d'utilisation

Ce composant est utilisé comme composant de début et requiert un lien de sortie.

Ce composant, ainsi que la Palette Spark Batch à laquelle il appartient, ne s'affiche que lorsque vous créez un Job Spark Batch.

Notez que, dans cette documentation, sauf mention contraire, un scénario présente uniquement des Jobs Standard, c'est-à-dire des Jobs Talend traditionnels d'intégration de données.

Spark Connection

Vous devez utiliser l'onglet Spark Configuration de la vue Run afin de définir la connexion à un cluster Spark donné pour le Job complet. De plus, puisque le Job attend ses fichiers .jar dépendants pour l'exécution, vous devez spécifier le répertoire du système de fichiers dans lequel ces fichiers .jar sont transférés afin que Spark puisse accéder à ces fichiers :
  • Yarn mode : lorsque vous utilisez Google Dataproc, spécifiez un bucket dans le champ Google Storage staging bucket de l'onglet Spark configuration. Lorsque vous utilisez d'autres distributions, utilisez un composant tHDFSConfiguration afin de spécifier le répertoire.

  • Standalone mode : vous devez choisir le composant de configuration selon le système de fichiers que vous utilisez, comme tHDFSConfiguration ou tS3Configuration.

Cette connexion fonctionne uniquement pour le Job dans lequel vous l'avez définie.