Propriétés du tPigLoad Standard - 6.4

Pig

author
Talend Documentation Team
EnrichVersion
6.4
EnrichProdName
Talend Big Data
Talend Big Data Platform
Talend Data Fabric
Talend Open Studio for Big Data
Talend Real-Time Big Data Platform
task
Création et développement > Systèmes tiers > Composants Processing (Intégration) > Composants Pig
Gouvernance de données > Systèmes tiers > Composants Processing (Intégration) > Composants Pig
Qualité et préparation de données > Systèmes tiers > Composants Processing (Intégration) > Composants Pig
EnrichPlatform
Studio Talend

Ces propriétés sont utilisées pour configurer le tPigLoad s'exécutant dans le framework de Jobs Standard.

Le composant tPigLoad Standard appartient aux familles Big Data et Processing.

Le composant de ce framework est disponible dans tous les produits Big Data de Talend.

Basic settings

Property type

Peut être Built-In ou Repository.

 

Built-In : Propriétés utilisées ponctuellement.

 

Repository : Sélectionnez le fichier dans lequel sont stockées les propriétés du composant.

Les propriétés sont stockées centralement sous le nœud Hadoop Cluster de la vue Repository.

Les champs suivants sont pré-remplis à l'aide des données récupérées.

Pour plus d'informations concernant le nœud Hadoop Cluster, consultez le Guide de prise en main de Talend Open Studio for Big Data.

Schema et Edit Schema

Un schéma est une description de lignes, il définit le nombre de champs (colonnes) qui sont traités et passés au composant suivant. Le schéma est soit local (Built-In), soit distant dans le Repository.

Cliquez sur Edit schema pour modifier le schéma. Si le schéma est en mode Repository, trois options sont disponibles :

  • View schema : sélectionnez cette option afin de voir le schéma.

  • Change to built-in property : sélectionnez cette option pour passer le schéma en mode Built-In et effectuer des modifications locales.

  • Update repository connection : sélectionnez cette option afin de modifier le schéma stocké dans le référentiel et décider de propager ou non les modifications à tous les Jobs. Si vous souhaitez propager les modifications uniquement au Job courant, cliquez sur No et sélectionnez à nouveau la métadonnée du schéma dans la fenêtre [Repository Content].

 

Built-In : Le schéma est créé et conservé ponctuellement pour ce composant seulement. Voir également le Guide utilisateur du Studio Talend.

 

Repository : Le schéma existe déjà et il est stocké dans le Repository. Ainsi, il peut être réutilisé. Voir également le Guide utilisateur du Studio Talend.

Local Cliquez sur ce bouton radio afin d'exécuter des scripts Pig en mode Local. Dans ce mode, tous les fichiers sont installés et exécutés à partir de votre hôte et de votre système de fichiers locaux.

Tez

Sélectionnez cette option pour exécuter le Job Pig avec le framework Tez.

Ce mode Tez est disponible uniquement lorsque vous utilisez l'une des distributions suivantes :
  • Hortonworks : V2.2 +.

  • Custom : cette option vous permet de vous connecter à une distribution supportant Tez mais non officiellement supportée par Talend .

Avant d'utiliser Tez, vérifiez que votre cluster Hadoop supporte Tez. Vous devez configurer l'accès aux bibliothèques Tez correspondantes via la vue Advanced settings de ce composant.

Pour plus d'informations concernant Pig avec Tez, consultez la documentation Apache à l'adresse suivante : https://cwiki.apache.org/confluence/display/PIG/Pig+on+Tez (en anglais).

Map/Reduce

Cliquez sur ce bouton radio afin d'exécuter des scripts Pig en mode Map/Reduce.

Une fois ce mode sélectionné, vous devez renseigner les champs dans la zone Configuration qui apparaît :
  • Distribution et Version:

    Sélectionnez dans la liste le cluster que vous utilisez. Les options de la liste varient selon le composant que vous utilisez. Les options de la liste dépendent des composants que vous utilisez, Parmi ces options, les suivantes nécessitent une configuration spécifique.
    • Si disponible dans la liste de Distribution, l'option Microsoft HD Insight vous permet d'utiliser un cluster Microsoft HD Insight. Dans cette optique, vous devez configurez les connexions aux services WebHCat, HD Insight et Windows Azure Storage du cluster dans les zones affichées. Une vidéo démontrant comment configurer cette connexion est disponible à l'adresse suivante : https://www.youtube.com/watch?v=A3QTT6VsNoM.

    • Si vous sélectionnez Amazon EMR, consultez l'article suivant concernant la configuration de la connexion : Amazon EMR - Getting Started (en anglais).

    • L'option Custom vous permet de vous connecter à un cluster différente des clusters de la liste, par exemple une distribution non supportée officiellement par Talend .

    1. Sélectionner Import from existing version pour importer une distribution de base officiellement supportée et ajouter manuellement les autres Jars requis non fournis par cette distribution. Ou,

    2. Sélectionner Import from zip pour importer le fichier .zip de configuration pour la distribution personnalisée à utiliser. Ce fichier zip doit contenir les bibliothèques des différents éléments Hadoop et le fichier d'index de ces bibliothèques.

      Dans Talend Exchange, des membres de la Communauté Talend ont partagé des fichiers zip de configuration prêts à utiliser, que vous pouvez télécharger depuis cette liste Hadoop configuration (en anglais) et utiliser directement dans votre connexion. Cependant, avec l'évolution en continu des différents projets relatifs à Hadoop, il est possible que vous ne trouviez pas dans la liste le zip de configuration correspondant à votre distribution. Il est alors recommandé d'utiliser l'option Import from existing version, afin de se baser sur une distribution existante pour ajouter les .jars requis par votre distribution.

      Notez que certaines versions personnalisées ne sont pas officiellement supportées par Talend. Talend et sa Communauté fournissent l'opportunité de vous connecter à des versions personnalisées depuis le Studio mais ne peuvent garantir que la configuration de la version choisie sera simple, car de nombreuses versions et distributions d'Hadoop différentes sont disponibles. Il est recommandé de configurer une telle connexion uniquement si vos connaissances relatives à Hadoop sont suffisantes pour réparer les problèmes par vous-même.

      Remarque :

      Dans cette boîte de dialogue, la case de la zone active doit être cochée, afin d'importer les fichiers .jar correspondant à la connexion créée entre la distribution personnalisée et ce composant.

      Pour un exemple étape par étape expliquant comment se connecter à une distribution personnalisée et partager cette connexion, consultez Connexion à une distribution Hadoop personnalisée.

    En plus de l'évolution de Hadoop, veuillez noter les changements suivants :
    1. Si vous utilisez Hortonworks Data Platform V2.2, les fichiers de configuration de votre cluster peuvent utiliser des variables d'environnement comme ${hdp.version}. Si vous êtes dans cette situation, vous devez configurer la propriété mapreduce.application.framework.path dans la table Hadoop properties de ce composant, avec la valeur du chemin d'accès pointant explicitement vers l'archive du framework MapReduce de votre cluster. Par exemple :
      mapreduce.application.framework.path=/hdp/apps/2.2.0.0-2041/mapreduce/mapreduce.tar.gz#mr-framework
    2. Si vous utilisez Hortonworks Data Platform V2.0.0, le type de système d'exploitation utilisé pour la distribution Hadoop et pour le Job Talend doit être identique, par exemple Windows ou Linux. Sinon, vous devez utiliser le Jobserver de Talend afin d'exécuter un Job dans le même type de système d'exploitation que celui dans lequel la distribution Hortonworks Data Platform V2.0.0 utilisée est exécutée.

  • Use Kerberos authentication:

    Si vous accédez au cluster Hadoop fonctionnant avec la sécurité de Kerberos, cochez cette case, puis saisissez le "principal name" de Kerberos pour le NameNode dans le champ affiché. Cela vous permet d'utiliser votre identifiant pour vous authentifier, en le comparant aux identifiants stockés dans Kerberos.
    • Si ce cluster est un cluster MapR de version 4.0.1 ou postérieure, vous pouvez paramétrer la configuration de l'authentification par ticket MapR en plus ou comme une alternative en suivant les explications dans Connexion sécurisée à MapR.

      Gardez à l'esprit que cette configuration génère un nouveau ticket de sécurité MapR pour le nom d'utilisateur défini dans le Job dans chaque exécution. Si vous devez réutiliser un ticket existant provenant du même utilisateur, laissez décochées les cases Force MapR ticket authentication et Use Kerberos authentication. MapR devrait pouvoir trouver automatiquement ce ticket à la volée.

    De plus, comme ce composant effectue des calculs Map/Reduce, vous devez également authentifier les services associés, comme le serveur de l'historique des Jobs et le gestionnaire de ressources ou le JobTracker, selon votre distribution, dans le champ correspondant. Ces principaux se trouvent dans les fichiers de configuration de votre distribution. Par exemple, dans une distribution CDH4, le principal du gestionnaire de ressource est configuré dans le fichier yarn-site.xml et le principal de l'historique des Job dans le fichier mapred-site.xml.

    Cette case est disponible ou indisponible selon la distribution d'Hadoop à laquelle vous vous connectez.

    Les principaux relatifs à HBase ne sont requis que pour la fonction HBaseStorage.

  • Use a keytab to authenticate:

    Cochez la case Use a keytab to authenticate pour vous connecter à un système Hadoop utilisant Kerberos à l'aide d'un fichier keytab. Un fichier keytab contient des paires de principaux Kerberos et de clés cryptées. Vous devez saisir le principal à utiliser dans le champ Principal et le chemin d'accès au fichier keytab dans le champ Keytab.

    Notez que l'utilisateur qui exécute un Job utilisant un keytab n'est pas forcément celui désigné par le principal mais qu'il doit avoir le droit de lecture pour le fichier keytab utilisé. Par exemple, le nom d'utilisateur que vous utilisez pour exécuter le Job est user1 et le principal à utiliser est guest. Dans cette situation, assurez-vous que user1 a les droits de lecture pour le fichier keytab à utiliser.

  • NameNode URI:

    Saisissez l'emplacement du NameNode correspondant à la version de Map/Reduce à utiliser. Si vous utilisez WebHDFS, l'emplacement doit être webhdfs://masternode:portnumber. Si ce WebHDFS est sécurisé via SSL, le schéma d'URI doit être swebhdfs et vous devez utiliser un tLibraryLoad dans le Job pour charger la bibliothèque requise par votre WebHDFS sécurisé.

  • JobTracker host:

    Saisissez l'emplacement du ResourceManager correspondant à la version de Map/Reduce à utiliser.

    Dans le JobHistory, vous pouvez facilement trouver le statut d'exécution de votre Job Pig car il est automatiquement nommé. Son nom est le résultat de la concaténation du nom du projet contenant le Job, du nom du Job, de sa version et du libellé du premier composant tPigLoad utilisé. La convention de nommage d'un Job Pig dans le JobHistory est la suivante : ProjectName_JobNameVersion_FirstComponentName.

    Vous pouvez continuer à configurer les paramètres suivants selon la configuration du cluster Hadoop à utiliser (si vous ne cochez pas la case d'un paramètre, alors la configuration de ce paramètre dans le cluster Hadoop à utiliser sera ignorée lors du de l'exécution) :
    1. Cochez la case Set resourcemanager scheduler address et saisissez l'adresse de l'ordonnanceur (Scheduler) dans le champ qui apparaît.

    2. Cochez la case Set jobhistory address et saisissez l'emplacement du serveur JobHistory du cluster Hadoop à utiliser. Cela permet de stocker les informations relatives aux métriques du Job courant sur le serveur JobHistory.

    3. Cochez la case Set staging directory et saisissez le chemin d'accès au répertoire défini dans votre cluster Hadoop pour les fichiers temporaires créés par l'exécution de programmes. Ce répertoire se trouve sous la propriété yarn.app.mapreduce.am.staging-dir dans les fichiers de configuration, notamment les fichiers yarn-site.xml et mapred-site.xml de votre distribution.

    4. Allouez des volumes de mémoire aux calculs Map et Reduce et au service ApplicationMaster de YARN en cochant la case Set memory dans la vue Advanced settings.

    5. Cochez la case Set Hadoop user et saisissez le nom de l'utilisateur avec lequel vous souhaitez exécuter le Job. Puisque les fichiers et répertoires dans Hadoop ont un auteur spécifique avec les droits appropriés de lecture ou d'écriture, ce champ vous permet d'exécuter le Job directement avec l'utilisateur ayant les droits d'accès appropriés au fichier ou répertoire à traiter.

    6. Cochez la case Use datanode hostname pour permettre au Job d'accéder aux nœuds de données via leurs hébergeurs. Cela configure la propriété dfs.client.use.datanode.hostname à true. Lorsque vous vous connectez à un système de fichiers S3N, vous devez cocher cette case.

  • User name:

    Saisissez le nom de l'utilisateur avec lequel vous souhaitez exécuter le Job. Puisqu'un fichier ou un répertoire dans Hadoop a son auteur spécifique, avec les droits en lecture ou écriture appropriés, ce champ vous permet d'exécuter le Job directement sous le nom d'utilisateur ayant les droits appropriés pour accéder au fichier ou au répertoire à traiter. Notez que ce champ peut n'être pas disponible selon la distribution que vous utilisez.

WebHCat configuration

Saisissez l'adresse et les informations d'authentification du service WebHCat du cluster Microsoft HD Insight à utiliser. Le studio utilise ce service pour soumettre le Job au cluster HD Insight.

Dans le champ Job result folder, saisissez l'emplacement où vous souhaitez stocker les résultats d'exécution du Job dans Azure Storage.

HDInsight configuration

Saisissez les informations d'authentification information du cluster HD Insight à utiliser.

Windows Azure Storage configuration

Saisissez l'adresse et les informations d'authentification du compte Azure Storage à utiliser.

Dans le champ Container, saisissez le nom du conteneur à utiliser.

Dans le champ Deployment Blob, saisissez l'emplacement où vous souhaitez stocker le Job et ses bibliothèques dépendantes dans le compte Azure Storage.

Inspect the classpath for configurations

Cochez cette case pour permettre au composant de vérifier les fichiers de configuration dans le répertoire configuré pour la variable $HADOOP_CONF_DIR et de lire directement les paramètres de ces fichiers dans le répertoire. Cette fonctionnalité vous permet de modifier facilement la configuration Hadoop afin que le composant puisse passer d'un environnement à un autre, comme par exemple pour passer d'un environnement test à un environnement production.

Dans ce cas, les champs ou les options utilisée pour configurer la connexion Hadoop et/ou la sécurité Kerberos sont masqués.

Si vous souhaitez utiliser certains paramètres comme les paramètres Kerberos mais que ces paramètres ne sont pas inclus dans les fichiers de configuration Hadoop, vous devez créer un fichier appelé talend-site.xml et mettre ce fichier dans le répertoire défini dans $HADOOP_CONF_DIR. Le fichier talend-site.xml doit se présenter comme suit :
<!-- Put site-specific property overrides in this file. --> 
<configuration> 
    <property> 
        <name>talend.kerberos.authentication </name> 
        <value>kinit </value>
         <description> Set the Kerberos authentication method to use. Valid values are: kinit or keytab.  </description> 
    </property> 
    <property> 
        <name>talend.kerberos.keytab.principal </name>
        <value>user@BIGDATA.COM </value>
        <description> Set the keytab's principal name.  </description>
    </property> 
    <property>   
        <name>talend.kerberos.keytab.path </name> 
        <value>/kdc/user.keytab </value> 
        <description> Set the keytab's path.  </description> 
    </property> 
    <property> 
        <name>talend.encryption </name> 
        <value>none </value> 
        <description> Set the encryption method to use. Valid values are: none or ssl.  </description> 
    </property> 
    <property> 
        <name>talend.ssl.trustStore.path </name> 
        <value>ssl </value> 
        <description> Set SSL trust store path.  </description> 
    </property> 
    <property> 
        <name>talend.ssl.trustStore.password </name> 
        <value>ssl </value> 
        <description> Set SSL trust store password.  </description> 
    </property> 
</configuration>

Les paramètres lus depuis ces fichiers de configuration écrasent ceux utilisés par défaut dans le Studio. Lorsqu'un paramètre n'existe pas dans ces fichiers de configuration, le paramètre par défaut est utilisé.

Load function

Sélectionnez une fonction dans la liste afin de déterminer comment charger les données.

  • PigStorage : Charge les données au format UTF-8.

  • BinStorage : Charge les données dans un format lisible par les machines.

  • TextLoader : Charge des données non structurées au format UTF-8.

  • HCatLoader : Charge des données à partir de tables gérées par HCatalog à l'aide de scripts Pig.

  • Cette fonction est disponible uniquement lorsque vous avez sélectionné Hortonworks comme distribution Hadoop à utiliser, dans les listes Distribution et Version affichées en mode Map/Reduce. Pour plus d'informations concernant l'utilisation de HCatLoader, consultez https://hive.apache.org/javadocs/r2.1.1/api/org/apache/hive/hcatalog/pig/HCatLoader.html (en anglais).

  • HBaseStorage : Charge des données de HBase. Vous devez terminer la configuration de HBase dans la zone HBase configuration affichée.

  • SequenceFileLoader : Charge des données au format SequenceFile. Vous devez terminer la configuration du fichier à charger dans la zone Sequence Loader Configuration qui s'affiche. Cette fonction ne concerne que le mode Map/Reduce.

  • RCFilePigStorage : Charge des données au format RCFile format. Cette fonction ne concerne que le mode Map/Reduce.

  • AvroStorage : Charge des fichiers Avro. Pour plus d'informations concernant AvroStorage, consultez la documentation Apache sur le site https://cwiki.apache.org/confluence/display/PIG/AvroStorage (en anglais). Cette fonction concerne uniquement le mode Map/Reduce.

  • ParquetLoader : Charge le fichier Parquet. Fonctionne uniquement en mode Map/Reduce.

  • Custom : Charge les données à l'aide d'une fonction de chargement personnalisée. Pour ce faire, vous devez enregistrer, dans l'onglet Advanced settings, le fichier Jar contenant la fonction à utiliser, puis, dans le champ affiché à côté du champ Load function, spécifier cette fonction.

    Par exemple, après avoir enregistré un fichier Jar nommé piggybank.jar, vous pouvez saisir org.apache.pig.piggybank.storage.XMLLoader('attr') as (xml:chararray) pour utiliser la fonction personnalisée, XMLLoader, contenue dans ce fichier Jar. Pour plus d'informations concernant ce Jar piggybank.jar, consultez https://cwiki.apache.org/confluence/display/PIG/PiggyBank (en anglais).

Notez que, lorsque le format de fichier à utiliser est PARQUET, il est possible qu'il vous soit demandé de trouver le fichier Jar PARQUET spécifique et l'installer dans le studio.
  • Lorsque le mode de connexion à Hive est Embedded, le Job est exécuté sur votre machine locale et appelle ce Jar installé dans le studio.

  • Lorsque le mode de connexion à Hive est Standalone, le Job est exécuté sur le serveur hébergeant Hive et ce fichier Jar est envoyé au système HDFS du cluster auquel vous vous connectez. Assurez-vous d'avoir correctement défini l'URI du NameNode dans le champ correspondant de la vue Basic settings.

Ce fichier Jar est téléchargeable depuis le site Web d'Apache. Pour plus d'informations concernant l'installation des modules externes, consultez la page Installation de modules externes.

Input file URI

Saisissez dans ce champ le chemin d'accès local complet au fichier d'entrée.

Remarque :

Ce champ est indisponible lorsque vous sélectionnez HCatLoader dans la liste Load function ou lorsque vous utilisez un endpoint S3.

Use S3 endpoint

Cochez cette case pour lire des données d'un dossier d'un bucket Amazon S3.

Après avoir coché la case Use S3 endpoint, vous devez renseignez les paramètres suivants dans les champs qui apparaissent :
  • S3 bucket name and folder : saisissez le nom du bucket et celui du dossier à partir duquel vous souhaitez lire les données. Vous devez séparer le nom du bucket et le nom du dossier par une barre oblique (/).

  • Access key et Secret key : renseignez les informations d'authentification requises pour vous connecter au bucket Amazon S3 à utiliser.

    Pour saisir le mot de passe, cliquez sur le bouton [...] à côté du champ Password, puis, dans la boîte de dialogue qui s'ouvre, saisissez le mot de passe entre guillemets doubles et cliquez sur OK afin de sauvegarder les paramètres.

Notez que le format du fichier S3 est S3N (S3 Native Filesystem).

HCatalog Configuration

Renseignez les champs suivants pour configurer les tables gérées de HCatalog dans HDFS (système de fichiers distribué Hadoop) :

Distribution et Version :

Sélectionnez dans la liste le cluster que vous utilisez. Les options de la liste varient selon le composant que vous utilisez. Les options de la liste dépendent des composants que vous utilisez, Parmi ces options, les suivantes nécessitent une configuration spécifique.
  • Si disponible dans la liste de Distribution, l'option Microsoft HD Insight vous permet d'utiliser un cluster Microsoft HD Insight. Dans cette optique, vous devez configurez les connexions aux services WebHCat, HD Insight et Windows Azure Storage du cluster dans les zones affichées. Une vidéo démontrant comment configurer cette connexion est disponible à l'adresse suivante : https://www.youtube.com/watch?v=A3QTT6VsNoM.

  • Si vous sélectionnez Amazon EMR, consultez l'article suivant concernant la configuration de la connexion : Amazon EMR - Getting Started (en anglais).

  • L'option Custom vous permet de vous connecter à un cluster différente des clusters de la liste, par exemple une distribution non supportée officiellement par Talend .

En plus de l'évolution de Hadoop, veuillez noter les changements suivants :
  1. Si vous utilisez Hortonworks Data Platform V2.2, les fichiers de configuration de votre cluster peuvent utiliser des variables d'environnement comme ${hdp.version}. Si vous êtes dans cette situation, vous devez configurer la propriété mapreduce.application.framework.path dans la table Hadoop properties de ce composant, avec la valeur du chemin d'accès pointant explicitement vers l'archive du framework MapReduce de votre cluster. Par exemple :
    mapreduce.application.framework.path=/hdp/apps/2.2.0.0-2041/mapreduce/mapreduce.tar.gz#mr-framework
  2. Si vous utilisez Hortonworks Data Platform V2.0.0, le type de système d'exploitation utilisé pour la distribution Hadoop et pour le Job Talend doit être identique, par exemple Windows ou Linux. Sinon, vous devez utiliser le Jobserver de Talend afin d'exécuter un Job dans le même type de système d'exploitation que celui dans lequel la distribution Hortonworks Data Platform V2.0.0 utilisée est exécutée.

HCat metastore : Saisissez l'emplacement du metastore de HCatalog, qui est également le metastore de Hive, un catalogue système. Pour plus d'informations sur Hive et le HCatalog, consultez http://hive.apache.org/ (en anglais).

Database : Base de données dans laquelle les tables sont stockées.

Table : Table dans laquelle les données sont stockées.

Partition filter : Renseignez ce champ avec les clés de partitions afin de lister les partitions par filtre.

Remarque :

La zone HCataLog Configuration est activée uniquement lorsque vous sélectionnez HCatLoader dans la liste Load function. Pour plus d'informations concernant l'utilisation de HCatalog, consultez https://cwiki.apache.org/confluence/display/Hive/HCatalog (en anglais). Pour plus d'informations concernant l'utilisation de Partition filter, consultez https://cwiki.apache.org/confluence/display/HCATALOG/Design+Document+-+Java+APIs+for+HCatalog+DDL+Commands (en anglais).

Field separator

Saisissez un caractère, une chaîne de caractères ou une expression régulière pour séparer les champs des données transférées.

Remarque :

Ce champ est activé uniquement lorsque vous sélectionnez PigStorage dans la liste Store function.

Compression

Cochez la case Force to compress the output data afin de compresser les données lorsqu'elles sont écrites en sortie par un tPigStoreResult, à la fin d'un processus Pig.

Hadoop fournit différents formats de compression permettant de réduire l'espace nécessaire au stockage des fichiers et d'accélérer le transfert de données. Lorsque vous écrivez un fichier et compressez les données à l'aide du programme Pig, vous devez par défaut ajouter un format de compression en tant que suffixe au chemin d'accès pointant vers le dossier dans lequel vous souhaitez écrire des données, par exemple /user/ychen/out.bz2. Cependant, si vous cochez cette case, les données de sortie seront compressées, même si vous n'ajoutez pas de format de compression au chemin d'accès, par exemple /user/ychen/out.

Remarque : Le chemin de sortie est configuré dans la vue Basic settings du composant tPigStoreResult.

HBase configuration

Cette zone est disponible pour la fonction HBaseStorage. Les paramètres à configurer sont :

Zookeeper quorum :

Saisissez le nom ou l'URL du service Zookeeper utilisé pour coordonner les transactions entre votre Studio et votre base de données. Notez que, lorsque vous configurez Zookeeper, vous pouvez avoir besoin de configurer explicitement la propriété zookeeper.znode.parent pour définir le chemin vers le nœud znode racine contenant tous les znodes créés et utilisés par votre base de données. Cochez la case la case Set Zookeeper znode parent afin de définir cette propriété.

Zookeeper client port :

Saisissez le numéro du port d'écoute client du service Zookeeper que vous utilisez.

Table name :

Saisissez le nom de la table HBase à partir de laquelle vous souhaitez charger des données.

Load key :

Cochez cette case pour charger la colonne Row Key comme première colonne du schéma de résultat. Dans cette situation, vous devez avoir créé cette colonne dans le schéma.

Mapping:

Renseignez cette table afin de mapper les colonnes de la table à utiliser avec les colonnes du schéma défini pour le flux de données à traiter.

Sequence Loader configuration

Cette zone est disponible uniquement pour la fonction SequenceFileLoader. Comme un enregistrement SequenceFile se compose de paires binaires clé/valeur, les paramètres à configurer sont les suivants :

Key column : Sélectionnez la colonne clé d'un enregistrement clé/valeur.

Value column : Sélectionnez la colonne de valeur d'un enregistrement clé/valeur.

Die on subjob error

Cette case est cochée par défaut, pour ignorer les lignes en erreur dans le sous-job et terminer le traitement des lignes sans erreur.

Advanced settings

Tez lib

Choisissez comment accéder aux bibliothèques de Tez :
  • Auto install : lors de l'exécution, le Job charge et déploie les bibliothèques de Tez fournies par le Studio dans le répertoire spécifié dans le champ Install folder in HDFS, par exemple, /tmp/usr/tez.

    Si vous avez configuré la propriété tez.lib.uris dans la table des propriétés, ce répertoire écrase la valeur de la propriété lors de l'exécution. Les autres propriétés configurées dans la table sont toujours prises en compte.

  • Use exist : le Job accède aux bibliothèques de Tez déjà déployées dans le cluster Hadoop à utiliser. Vous devez saisir le chemin d'accès pointant vers ces bibliothèques dans le champ Lib path (folder or file).

  • Lib jar : cette table s'affiche lorsque vous avez sélectionné Auto install dans la liste Tez lib et que vous utilisez une distribution personnalisée (Custom). Dans cette table, vous devez ajouter les bibliothèques de Tez à charger.

Hadoop Properties

Le Studio Talend utilise une configuration par défaut pour son moteur, afin d'effectuer des opérations dans une distribution Hadoop. Si vous devez utiliser une configuration personnalisée dans une situation spécifique, renseignez dans cette table la ou les propriété(s) à personnaliser. Lors de l'exécution, la ou les propriété(s) personnalisée(s) va (vont) écraser celle(s) par défaut.
  • Notez que, si vous utilisez les métadonnées stockées centralement dans le Repository, cette table hérite automatiquement des propriétés définies dans ces métadonnées et passe en lecture seule jusqu'à ce que, dans la liste Property type, vous passiez de Repository à Built-in.

Pour plus d'informations concernant les propriétés requises par Hadoop et ses systèmes associés, tels que HDFS et Hive, consultez la documentation de la distribution Hadoop utilisée ou consultez la documentation d'Apache Hadoop sur http://hadoop.apache.org/docs en sélectionnant la version de la documentation souhaitée. A titre d'exemple, les liens vers certaines propriétés sont listés ci-après:

Register jar

Cliquez sur le bouton [+] pour ajouter des lignes à la table et, dans ces lignes, parcourez votre système jusqu'aux fichiers Jar à ajouter. Par exemple, pour enregistrer un fichier Jar nommé piggybank.jar, cliquez sur le bouton [+] pour ajouter une ligne, puis cliquez sur cette ligne pour afficher le bouton [...](permettant de parcourir votre système) puis cliquez sur ce bouton pour parcourir votre système jusqu'au fichier piggybank.jar, dans l'assistant [Select Module] qui s'ouvre.

Define functions

Utilisez cette table pour définir les fonctions personnalisées (UDF, (User-Defined Functions), particulièrement celles nécessitant un alias, comme les fonctions Apache DataFu Pig, à exécuter lors du chargement des données.

Cliquez sur le bouton pour ajouter autant de lignes que nécessaire. Vous devez spécifier un alias et une fonction personnalisée dans les champs correspondants, pour chaque ligne

Si votre Job comprend un composant tPigMap, une fois définies les fonctions personnalisées pour ce composant dans le tPigMap, la table est automatiquement renseignée. De la même manière, une fois les fonctions personnalisées définies dans cette table, la table Define functions de l'éditeur de mapping du tPigMap est automatiquement renseignée.

Pour plus d'informations concernant la définition de fonctions personnalisées lors du mapping de flux Pig, consultez la section relative au mapping de flux de Big Data, dans le Guide de prise en main de Talend Open Studio for Big Data .

Pour plus d'informations concernant Apache DataFu Pig, consultez http://datafu.incubator.apache.org/ (en anglais)

Pig properties

Le Studio Talend utilise la configuration par défaut pour son moteur Pig affin d'effectuer des opérations. Si vous devez utiliser une configuration personnalisée dans une situation spécifique, renseignez dans cette table la ou les propriété(s) à personnaliser. Lors de l'exécution, la ou les propriété(s) personnalisée(s) va (vont) écraser celle(s) par défaut.

Par exemple, la clé default_parallel utilisée dans Pig peut être 20.

HBaseStorage configuration

Ajoutez et configurer plus d'options de chargement HBaseStorage dans cette table. Les options sont :

gt : la valeur minimale de clé,

lt : la valeur maximale de clé,

gte : la valeur minimale de clé (comprise),

lte : la valeur maximale de clé (comprise),

limit : nombre maximum de lignes à récupérer par région,

caching : nombre de lignes à mettre en cache,

caster : le convertisseur à utiliser pour lire des valeurs de HBase, par exemple HBaseBinaryConverter.

Define the jars to register for HCatalog

Cette case apparaît lorsque vous utilisez tHCatLoader, mais vous pouvez la laisser décochée, car le Studio Talend enregistre automatiquement les fichiers Jar requis. Si le fichier Jar est manquant, vous pouvez cocher cette case pour afficher la table Register jar for HCatalog et configurer le chemin d'accès à ce Jar manquant.

Path separator in server

Laissez le champ Path separator in server tel quel, sauf si vous changez le séparateur utilisé par la machine hôte de votre distribution Hadoop pour sa variable PATH. En d'autres termes, changez le séparateur si celui-ci n'est pas le signe deux points (:). Dans ce cas, vous devez remplacer cette valeur par celle utilisée dans votre hôte.

Mapred job map memory mb et Mapred job reduce memory mb

Si le système Hadoop utilisé est Hortonworks Data Platform V1.2 ou Hortonworks Data Platform V1.3, vous devez définir des allocations de mémoire suffisantes pour que les opérations de map et reduce soient effectuées par le système Hadoop.

Dans ce cas, vous devez saisir les valeurs que vous souhaitez utiliser pour la mémoire allouée aux opérations map et reduce dans les champs Mapred job map memory mb et Mapred job reduce memory mb, respectivement. Par défaut, les valeurs sont toutes les deux 1000, ce qui est normalement adapté pour l'exécution de ces opérations.

Si la distribution utilisée est YARN, les paramètres de mémoire à définir sont alors Map (in Mb), Reduce (in Mb) et ApplicationMaster (in Mb), respectivement. Ces champs permettent d'allouer dynamiquement de la mémoire aux opérations map et reduce et à l'ApplicationMaster de YARN.

tStatCatcher Statistics

Cochez cette case pour collecter les données de log, aussi bien au niveau du Job qu'au niveau de chaque composant.

Global Variables

Global Variables

ERROR_MESSAGE : message d'erreur généré par le composant lorsqu'une erreur survient. Cette variable est une variable After et retourne une chaîne de caractères. Cette variable fonctionne uniquement si la case Die on error est décochée, si le composant a cette option.

Une variable Flow fonctionne durant l'exécution d'un composant. Une variable After fonctionne après l'exécution d'un composant.

Pour renseigner un champ ou une expression à l'aide d'une variable, appuyez sur les touches Ctrl+Espace pour accéder à la liste des variables. A partir de cette liste, vous pouvez choisir la variable que vous souhaitez utiliser.

Pour plus d'informations concernant les variables, consultez le Guide utilisateur du Studio Talend.

Utilisation

Règle d'utilisation

Ce composant est utilisé pour démarrer une séquence Pig et requiert un tPigStoreResult en fin de séquence pour écrire les données en sortie.

En mode Map/Reduce, vous devez configurer uniquement la connexion Hadoop pour le premier composant tPigLoad d'un processus (sous-job). Tout autre tPigLoad dans ce processus réutilise automatiquement la connexion créée par le premier tPigLoad.

Prérequis

La distribution Hadoop doit être correctement installée afin de garantir les interactions avec le Studio Talend . La liste suivante présente des informations d'exemple relatives à MapR.

  • Assurez-vous d'avoir installé le client MapR sur la même machine que le Studio Talend et d'avoir ajouté la bibliothèque client de MapR dans la variable PATH de cette machine. D'après la documentation de MapR, la ou les librairies du client MapR correspondant à chaque OS peuvent être trouvées MAPR_INSTALL\ hadoop\hadoop-VERSION\lib\native. Par exemple, pour Windows, la bibliothèque est lib\MapRClient.dll dans le fichier Jar du client MapR. Pour plus d'informations, consultez la page suivante sur le site de MapR : http://www.mapr.com/blog/basic-notes-on-configuring-eclipse-as-a-hadoop-development-environment-for-mapr (en anglais).

    Si vous n'ajoutez pas de librairie, il est possible que vous rencontriez l'erreur suivante : no MapRClient in java.library.path.

  • Configurez l'argument -Djava.library.path, par exemple, dans la zone Job Run VM arguments de la vue Run/Debug de la boîte de dialogue [Preferences] dans le menu Window. Cet argument fournit au studio le chemin d'accès à la bibliothèque native du client MapR. Cela permet aux utilisateurs en souscription d'utiliser entièrement l'aperçu des données (Data viewer) afin de visualiser localement dans le studio les données stockées dans MapR.

Pour plus d'informations concernant l'installation d'une distribution Hadoop, consultez le manuel correspondant à la distribution Hadoop que vous utilisez.

Limitation

La connaissance des scripts Pig est nécessaire. Si vous sélectionnez HCatLoader dans la liste Load Function, la connaissance de HCatalog Data Definition Language est nécessaire. Pour plus d'informations concernant HCatalog Data Definition Language, consultez https://cwiki.apache.org/confluence/display/Hive/HCatalog (en anglais).