Propriétés du tELTHiveMap - 6.1

Composants Talend Guide de référence

EnrichVersion
6.1
EnrichProdName
Talend Big Data
Talend Big Data Platform
Talend Data Fabric
Talend Data Integration
Talend Data Management Platform
Talend Data Services Platform
Talend ESB
Talend MDM Platform
Talend Open Studio for Big Data
Talend Open Studio for Data Integration
Talend Open Studio for Data Quality
Talend Open Studio for ESB
Talend Open Studio for MDM
Talend Real-Time Big Data Platform
task
Création et développement
Gouvernance de données
Qualité et préparation de données
EnrichPlatform
Studio Talend

Les trois composants ELT Hive sont étroitement liés en ce qui concernent leurs conditions d'utilisation. Ces composants sont conçus pour prendre en charge les schémas Hive DB afin de générer des commandes Insert, dont des clauses, qui sont exécutés dans la table de sortie définie.

Famille du composant

ELT/Map/Hive

 

Fonction

Le composant tELTHiveMap utilise les tables fournies en entrée pour alimenter les paramètres dans la commande mise en place. L'instruction peut inclure des joints internes ou externes qui peuvent être implémentés entre des tables ou entre une table et ses alias.

Objectif

Ce composant permet de construire votre commande SQL graphiquement en utilisant la table fournie en entrée.

Basic settings

Property type

Peut être Built-in ou Repository.

- Built-in : Propriétés utilisées ponctuellement.

- Repository : Sélectionnez le fichier dans lequel sont stockées les propriétés du composant.

 

Use an existing connection

Cochez cette case et sélectionnez le composant de connexion adéquat à partir de la liste Component List pour réutiliser les paramètres d'une connexion que vous avez déjà définie.

Note

Lorsqu'un Job contient un Job parent et un Job enfant, si vous souhaitez utiliser une connexion existant entre les deux niveaux, par exemple pour partager la connexion créée par le Job parent avec le Job enfant, vous devez :

  1. Au niveau parent, enregistrer la connexion à la base de données à partager, dans la vue Basic settings du composant de connexion créant cette connexion.

  2. Au niveau enfant, utiliser un composant dédié à la création de connexion, afin de lire la connexion enregistrée.

Pour plus d'informations concernant le partage d'une connexion à travers différents niveaux de Jobs, consultez le Guide utilisateur du Studio Talend.

 

ELT Hive Map editor

L'éditeur ELT du Mapper vous permet de définir le schéma de sortie ainsi que de construire graphiquement la commande Hive QL à exécuter. Le nom des colonnes du schéma peut être différent du nom des colonnes dans la base de données.

 

Style link

Sélectionnez le type d'affichage des liens.

Auto : par défaut, les liens entre les schémas d'entrée et de sortie et les paramètres du service Web sont en forme de courbe.

Bezier curve : les liens entre les schémas et les paramètres du service Web sont en forme de ligne.

Line : les liens entre les schémas et les paramètres du service Web sont en forme de lignes droites. Cette option vous permettra d'optimiser les performances.

Version

Distribution

Sélectionnez dans la liste le cluster que vous utilisez. Les options de la liste varient selon le composant que vous utilisez. Les options de la liste dépendent des composants que vous utilisez, Parmi ces options, les suivantes nécessitent une configuration spécifique.

  • Si disponible dans la liste de Distribution, l'option Microsoft HD Insight vous permet d'utiliser un cluster Microsoft HD Insight. Dans cette optique, vous devez configurez les connexions aux services WebHCat, HD Insight et Windows Azure Storage du cluster dans les zones affichées. Une vidéo démontrant comment configurer cette connexion est disponible à l'adresse suivante : https://www.youtube.com/watch?v=A3QTT6VsNoM.

  • L'option Custom vous permet de vous connecter à un cluster différente des clusters de la liste, par exemple une distribution non supportée officiellement par Talend.

Pour vous connecter à une distribution personnalisée, une fois l'option Custom sélectionnée, cliquez sur le bouton pour afficher une fenêtre, dans laquelle vous pouvez :

  1. Sélectionner Import from existing version pour importer une distribution de base officiellement supportée et ajouter manuellement les autres Jars requis non fournis par cette distribution. Ou,

  2. Sélectionner Import from zip pour importer le fichier .zip de configuration pour la distribution personnalisée à utiliser. Ce fichier zip doit contenir les bibliothèques des différents éléments Hadoops et le fichier d'index de ces bibliothèques.

    Dans Talend Exchange, des membres de la Communauté Talend ont partagé des fichiers zip de configuration prêts à utiliser, que vous pouvez télécharger depuis cette liste Hadoop configuration et utiliser directement dans votre connexion. Cependant, avec l'évolution en continu des différents projets relatifs à Hadoop, il est possible que vous ne trouviez pas dans la liste le zip de configuration correspondant à votre distribution. Il est alors recommandé d'utiliser l'option Import from existing version, afin de se baser sur une distribution existante pour ajouter les .jars requis par votre distribution.

    Notez que certaines versions personnalisées ne sont pas officiellement supportées par Talend. Talend et sa Communauté fournissent l'opportunité de vous connecter à des versions personnalisées depuis le Studio mais ne peuvent garantir que la configuration de la version choisie sera simple, car de nombreuses versions et distributions d'Hadoop différentes sont disponibles. Il est recommandé de configurer une telle connexion uniquement si vos connaissances relatives à Hadoop sont suffisantes pour réparer les problèmes par vous-même.

    Note

    Dans cette boîte de dialogue, la case de la zone active doit être cochée, afin d'importer les fichiers .jar correspondant à la connexion créée entre la distribution personnalisée et ce composant.

    Pour un exemple étape par étape expliquant comment se connecter à une distribution personnalisée et partager cette connexion, consultez Connexion à une distribution Hadoop personnalisée.

 

Hive version

Sélectionnez la version de la distribution Hadoop que vous utilisez. Les options disponibles dépendent du composant que vous utilisez. En plus de l'évolution de Hadoop, veuillez noter les changements suivants :

  • Si vous utilisez Hortonworks Data Platform V2.2, les fichiers de configuration de votre cluster peuvent utiliser des variables d'environnement comme ${hdp.version}. Si vous êtes dans cette situation, vous devez configurer la propriété mapreduce.application.framework.path dans la table Hadoop properties de ce composant, avec la valeur du chemin d'accès pointant explicitement vers l'archive du framework MapReduce de votre cluster. Par exemple :

    mapreduce.application.framework.path=/hdp/apps/2.2.0.0-2041/mapreduce/mapreduce.tar.gz#mr-framework
  • Si vous utilisez Hortonworks Data Platform V2.0.0, le type de système d'exploitation utilisé pour la distribution Hadoop et pour le Job Talend doit être identique, par exemple Windows ou Linux. Sinon, vous devez utiliser le Jobserver de Talend afin d'exécuter un Job dans le même type de système d'exploitation que celui dans lequel la distribution Hortonworks Data Platform V2.0.0 utilisée est exécutée. Pour plus d'informations concernant le Jobserver de Talend, consultez le Guide d'installation Talend.

 

Hive server

Sélectionnez le serveur Hive sur lequel vous souhaitez que le Job utilisant ce composant exécute des requêtes dans Hive.

La liste Hive server est disponible uniquement lorsque la distribution Hadoop à utiliser, par exemple HortonWorks Data Platform V1.2.0 (Bimota) supporte HiveServer2. Vous pouvez sélectionner HiveServer2 (Hive 2), le serveur supportant mieux les connexions simultanées de différents clients que HiveServer (Hive 1).

Pour plus d'informations concernant HiveServer2, consultez la page https://cwiki.apache.org/confluence/display/Hive/Setting+Up+HiveServer2 (en anglais).

 

Connection mode

Sélectionnez dans la liste un mode de connexion. Les options varient selon la distribution que vous utilisez.

 

Host

Adresse IP du serveur de base de données

 

Port

Numéro de port d'écoute du serveur de la base.

 

Database

Nom de la base de données. Selon la documentation de Hive, le seul nom de base de données supporté est default.

Pour plus d'informations, consultez https://cwiki.apache.org/confluence/display/Hive/HiveClient (en anglais).

 

Username et Password

Données d'authentification de l'utilisateur de la base.

Pour saisir le mot de passe, cliquez sur le bouton [...] à côté du champ Password, puis, dans la boîte de dialogue qui s'ouvre, saisissez le mot de passe entre guillemets doubles, puis cliquez sur OK afin de sauvegarder les paramètres.

Authentication

Use kerberos authentication

Si vous accédez au Metastore de Hive avec une sécurité Kerberos, cochez cette case et saisissez ensuite les paramètres appropriés dans les champs qui s'affichent.

Les valeurs des paramètres suivants peuvent être trouvées dans le fichier hive-site.xml du système Hive utilisé.

  1. Hive principal utilise la valeur de hive.metastore.kerberos.principal. C'est le principal du service du Metastore de Hive.

  2. HiveServer2 local user principal utilise la valeur de hive.server2.authentication.kerberos.principal.

  3. HiveServer2 local user keytab utilise la valeur de hive.server2.authentication.kerberos.keytab

  4. Metastore URL utilise la valeur de javax.jdo.option.ConnectionURL. C'est la chaîne JDBC de connexion au Metastore de Hive.

  5. Driver class utilise la valeur de javax.jdo.option.ConnectionDriverName. C'est le nom du pilote de la connexion JDBC.

  6. Username utilise la valeur de javax.jdo.option.ConnectionUserName. Ce paramètre, ainsi que le paramètre Password, sont utilisés pour les informations de connexion de l'utilisateur au Metastore de Hive.

  7. Password utilise la valeur de javax.jdo.option.ConnectionPassword.

Cette case est disponible ou indisponible selon la distribution d'Hadoop à laquelle vous vous connectez.

 Use a keytab to authenticate

Cochez la case Use a keytab to authenticate pour vous connecter à un système Hadoop utilisant Kerberos à l'aide d'un fichier keytab. Un fichier keytab contient des paires de principaux Kerberos et de clés cryptées. Vous devez saisir le principal à utiliser dans le champ Principal et le chemin d'accès au fichier keytab dans le champ Keytab.

Notez que l'utilisateur qui exécute un Job utilisant un keytab n'est pas forcément celui désigné par le principal mais qu'il doit avoir le droit de lecture pour le fichier keytab utilisé. Par exemple, le nom d'utilisateur que vous utilisez pour exécuter le Job est user1 et le principal à utiliser est guest. Dans cette situation, assurez-vous que user1 a les droits de lecture pour le fichier keytab à utiliser.

 

Use SSL encryption

Cochez cette case pour activer la connexion cryptée SSL.

Les champs qui s'affichent ensuite fournissent les informations d'authentification :

  • Dans le champ Trust store path, saisissez le chemin ou parcourez votre système jusqu'au fichier TrustStore à utiliser. Par défaut, les types TrustStore supportés sont JKS et PKCS 12.

  • Pour saisir le mot de passe, cliquez sur le bouton [...] à côté du champ Password, puis, dans la boîte de dialogue qui s'ouvre, saisissez le mot de passe entre guillemets doubles, puis cliquez sur OK afin de sauvegarder les paramètres.

Cette fonctionnalité n'est disponible que pour HiveServer2 en mode Standalone pour les distributions suivantes :

  • Hortonworks Data Platform 2.0 +

  • Cloudera CDH4 +

  • Pivotal HD 2.0 +

Hadoop properties

Set Jobtracker URI

Cochez cette case pour indiquer l'emplacement du service JobTracker à utiliser, dans le cluster Hadoop. Par exemple, si vous avez choisi une machine nommée machine1 comme JobTracker, définissez son emplacement comme suit machine1:portnumber. Notez qu'un JobTracker est le service qui assigne des tâches Map/Reduce à des nœuds spécifiques dans un cluster Hadoop. Le mot "Job" dans JobTracker ne désigne pas un Job Talend mais un job Hadoop, décrit comme job MR ou MapReduce dans la documentation de Apache Hadoop : http://hadoop.apache.org (en anglais).

Cette propriété est requise lorsque la requête que vous souhaitez utiliser est exécutée dans Windows et est une requête Select. Par exemple, SELECT your_column_name FROM your_table_name

Si vous utilisez YARN dans votre cluster Hadoop, comme Hortonworks Data Platform V2.0.0 ou Cloudera CDH4.3 + (mode YARN), vous devez spécifier l'emplacement du Resource Manager et non celui du Jobtracker. Vous pouvez continuer à configurer les paramètres suivants selon la configuration du cluster Hadoop à utiliser (si vous ne cochez pas la case d'un paramètre, alors la configuration de ce paramètre dans le cluster Hadoop à utiliser sera ignorée lors du de l'exécution) :

  1. Cochez la case Set resourcemanager scheduler address et saisissez l'adresse de l'ordonnanceur (Scheduler) dans le champ qui apparaît.

  2. Cochez la case Set jobhistory address et saisissez l'emplacement du serveur JobHistory du cluster Hadoop à utiliser. Cela permet de stocker les informations relatives aux métriques du Job courant sur le serveur JobHistory.

  3. Cochez la case Set staging directory et saisissez le chemin d'accès au répertoire défini dans votre cluster Hadoop pour les fichiers temporaires créés par l'exécution de programmes. Ce répertoire se trouve sous la propriété yarn.app.mapreduce.am.staging-dir dans les fichiers de configuration, notamment les fichiers yarn-site.xml et mapred-site.xml de votre distribution.

  4. Allouez des volumes de mémoire aux calculs Map et Reduce et au service ApplicationMaster de YARN en cochant la case Set memory dans la vue Advanced settings.

  5. Cochez la case Set Hadoop user et saisissez le nom de l'utilisateur avec lequel vous souhaitez exécuter le Job. Puisque les fichiers et répertoires dans Hadoop ont un auteur spécifique avec les droits appropriés de lecture ou d'écriture, ce champ vous permet d'exécuter le Job directement avec l'utilisateur ayant les droits d'accès appropriés au fichier ou répertoire à traiter.

  6. Cochez la case Use datanode hostname pour permettre au Job d'accéder aux nœuds de données via leurs hébergeurs. Cela configure la propriété dfs.client.use.datanode.hostname à true. Lorsque vous vous connectez à un système de fichiers S3N, vous devez cocher cette case.

Pour plus d'informations concernant le framework Hadoop Map/Reduce, consultez le tutoriel Map/Reduce dans la documentation de Apache Hadoop : http://hadoop.apache.org (en anglais).

 

Set NameNode URI

Cochez cette case pour indiquer l'emplacement du NameNode du cluster Hadoop à utiliser. Le NameNode est le nœud maître d'un système Hadoop. Par exemple, si vous avez sélectionné une machine nommée masternode comme NameNode d'une distribution Apache Hadoop, son emplacement est hdfs://masternode:portnumber.

Cette propriété est requise lorsque la requête que vous souhaitez utiliser est exécutée dans Windows et est une requête Select. Par exemple, SELECT your_column_name FROM your_table_name

Pour plus d'informations concernant le framework Hadoop Map/Reduce, consultez le tutoriel Map/Reduce dans la documentation de Apache Hadoop : http://hadoop.apache.org (en anglais).

 

Execution engine

Cochez cette case et, dans la liste déroulante, sélectionnez le framework à utiliser pour exécuter le Job.

Cette liste est disponible lorsque vous utilisez le mode Embedded pour la connexion et distribution Hive avec laquelle vous travaillez, parmi les suivantes :

  • Hortonworks : V2.1 et V2.2.

  • MapR : V4.0.1.

  • Custom : cette option vous permet de vous connecter à une distribution supportant mais non officiellement supportée par Talend.

Avant d'utiliser Tez, vérifiez que votre cluster Hadoop supporte Tez. Vous devez configurer l'accès aux bibliothèques Tez correspondantes via la vue Advanced settings de ce composant.

Pour plus d'informations concernant Hive avec Tez, consultez la documentation Apache à l'adresse https://cwiki.apache.org/confluence/display/Hive/Hive+on+Tez (en anglais). Des exemples vous sont présentés afin d'expliquer comment Tez peut être utilisé pour optimiser les performances par rapport à MapReduce.

HBase Configuration

Note

Disponible uniquement lorsque la case Use an existing connection est décochée.

Store by HBase

Cochez cette case afin d'afficher les paramètres à configurer pour permettre aux composants Hive d'accéder aux tables HBase :

  • Une fois l'accès configuré, vous pourrez utiliser, dans un tHiveRow et un tHiveInput, les instructions Hive QL permettant de lire et d'écrire des données dans HBase.

  • Si vous utilisez l'authentification Kerberos, vous devez définir les principaux relatifs à HBase dans les champs correspondants qui sont affichés.

Pour plus d'informations à propos de cet accès concernant Hive et HBase, consultez la documentation de Apache Hive concernant l'intégration Hive/HBase.

 

Zookeeper quorum

Saisissez le nom ou l'URL du service Zookeeper utilisé pour coordonner les transactions entre Talend et HBase. Notez que, lorsque vous configurez Zookeeper, vous pouvez avoir besoin de configurer la propriété zookeeper.znode.parent pour définir la racine du chemin relatif d'un fichier HBase Zookeeper puis de sélectionner la case Set Zookeeper znode parent afin de définir cette propriété.

 

Zookeeper client port

Saisissez le numéro du port d'écoute client du service Zookeeper que vous utilisez.

 

Define the jars to register for HBase

Cochez cette case pour afficher la table Register jar for HBase, dans laquelle vous pouvez enregistrer tout fichier Jar manquant, requis pour HBase, par exemple, Hive Storage Handler, enregistré par défaut avec votre installation Hive.

 Register jar for HBase

Cliquez sur le bouton pour ajouter des lignes à la table, puis, dans la colonne Jar name, sélectionnez le(s) fichier(s) Jar à enregistrer. Dans la colonne Jar path, saisissez le chemin d'accès à ce(s) Jar(s).

Advanced settings

Tez lib

Choisissez comment accéder aux bibliothèques de Tez :

  • Auto install : lors de l'exécution, le Job charge et déploie les bibliothèques de Tez fournies par le Studio dans le répertoire spécifié dans le champ Install folder in HDFS, par exemple, /tmp/usr/tez.

    Si vous avez configuré la propriété tez.lib.uris dans la table des propriétés, ce répertoire écrase la valeur de la propriété lors de l'exécution. Les autres propriétés configurées dans la table sont toujours prises en compte.

  • Use exist : le Job accède aux bibliothèques de Tez déjà déployées dans le cluster Hadoop à utiliser. Vous devez saisir le chemin d'accès pointant vers ces bibliothèques dans le champ Lib path (folder or file).

  • Lib jar : cette table s'affiche lorsque vous avez sélectionné Auto install dans la liste Tez lib et que vous utilisez une distribution personnalisée (Custom). Dans cette table, vous devez ajouter les bibliothèques de Tez à charger.

 

Temporary path

Si vous ne souhaitez pas configurer le Jobtracker et le NameNode lorsque vous exécutez la requête select * from your_table_name, vous devez paramétrer un chemin d'accès temporaire. Par exemple, /C:/select_all sous Windows.

Hadoop properties

Le Studio Talend utilise une configuration par défaut pour son moteur, afin d'effectuer des opérations dans une distribution Hadoop. Si vous devez utiliser une configuration personnalisée dans une situation spécifique, renseignez dans cette table la ou les propriété(s) à personnaliser. Lors de l'exécution, la ou les propriété(s) personnalisée(s) va (vont) écraser celle(s) par défaut.

  • Notez que, si vous utilisez les métadonnées stockées centralement dans le Repository, cette table hérite automatiquement des propriétés définies dans ces métadonnées et passe en lecture seule jusqu'à ce que, dans la liste Property type, vous passiez de Repository à Built-in.

Pour plus d'informations concernant les propriétés requises par Hadoop et ses systèmes associés, tels que HDFS et Hive, consultez la documentation de la distribution Hadoop utilisée ou consultez la documentation d'Apache Hadoop sur http://hadoop.apache.org/docs en sélectionnant la version de la documentation souhaitée. A titre d'exemple, les liens vers certaines propriétés sont listés ci-après:

 

Hive properties

Le Studio Talend utilise la configuration par défaut pour son moteur afin d'effectuer des opération dans un base de données Hive. Si vous devez utiliser une configuration personnalisée dans une situation spécifique, renseignez cette table avec la (les) propriété(s) à personnaliser. Ensuite, à l'exécution, la (les) propriété(s) personnalisée(s) écrasent celles par défaut. Pour plus d'informations concernant les propriétés dédiées à Hive, consultez https://cwiki.apache.org/confluence/display/Hive/AdminManual+Configuration (en anglais).

  • Notez que, si vous utilisez les métadonnées stockées centralement dans le Repository, cette table hérite automatiquement des propriétés définies dans ces métadonnées et passe en lecture seule jusqu'à ce que, dans la liste Property type, vous passiez de Repository à Built-in.

 

Mapred job map memory mb et Mapred job reduce memory mb

Si le système Hadoop utilisé est Hortonworks Data Platform V1.2 ou Hortonworks Data Platform V1.3, vous devez définir des allocations de mémoire suffisantes pour que les opérations de map et reduce soient effectuées par le système Hadoop.

Dans ce cas, vous devez saisir les valeurs que vous souhaitez utiliser pour la mémoire allouée aux opérations map et reduce dans les champs Mapred job map memory mb et Mapred job reduce memory mb, respectivement. Par défaut, les valeurs sont toutes les deux 1000, ce qui est normalement adapté pour l'exécution de ces opérations.

 

Path separator in server

Laissez le champ Path separator in server tel quel, sauf si vous changez le séparateur utilisé par la machine hôte de votre distribution Hadoop pour sa variable PATH. En d'autres termes, changez le séparateur si celui-ci n'est pas le signe deux points (:). Dans ce cas, vous devez remplacer cette valeur par celle utilisée dans votre hôte.

 

tStatCatcher Statistics

Cochez cette case pour collecter les données de log au niveau du Job ainsi qu'au niveau du composant.

 

Temporary path

Si vous ne souhaitez pas configurer le Jobtracker et le NameNode lorsque vous exécutez la requête select * from your_table_name, vous devez paramétrer un chemin d'accès temporaire. Par exemple, /C:/select_all sous Windows.

Dynamic settings

Cliquez sur le bouton [+] pour ajouter une ligne à la table. Dans le champ Code, saisissez une variable de contexte afin de sélectionner dynamiquement votre connexion à la base de données parmi celles prévues dans votre Job. Cette fonctionnalité est utile si vous devez accéder à plusieurs tables de bases de données ayant la même structure mais se trouvant dans différentes bases de données, en particulier lorsque vous travaillez dans un environnement dans lequel vous ne pouvez pas changer les paramètres de votre Job, par exemple lorsque votre Job doit être déployé et exécuté dans un Studio Talend indépendant.

La table Dynamic settings n'est disponible que si la case Use an existing connection est cochée dans la vue Basic settings. Lorsqu'un paramètre dynamique est configuré, la liste Component List devient inaccessible dans la vue Basic settings.

Pour des exemples sur l'usage des paramètres dynamiques, consultez Scénario 3 : Lire des données dans des bases de données MySQL à l'aide de connexions dynamiques basées sur les variables de contexte et Scénario : Lire des données à partir de différentes bases de données MySQL à l'aide de paramètres de connexion chargés dynamiquement. Pour plus d'informations concernant les Dynamic settings et les variables de contexte, consultez le Guide utilisateur du Studio Talend.

Global Variables

ERROR_MESSAGE : message d'erreur généré par le composant lorsqu'une erreur survient. Cette variable est une variable After et retourne une chaîne de caractères. Cette variable fonctionne uniquement si la case Die on error est décochée, si le composant a cette option.

Une variable Flow fonctionne durant l'exécution d'un composant. Une variable After fonctionne après l'exécution d'un composant.

Pour renseigner un champ ou une expression à l'aide d'une variable, appuyez sur les touches Ctrl+Espace pour accéder à la liste des variables. A partir de cette liste, vous pouvez choisir la variable que vous souhaitez utiliser.

Pour plus d'informations concernant les variables, consultez le Guide utilisateur du Studio Talend.

Utilisation

Le tELTHiveMap est généralement utilisé avec d'autres composants, tels que le tELTHiveInput et le tELTHiveOutput. Notez que le lien de sortie (output) à utiliser avec ces deux composants doit respecter strictement la syntaxe du nom de la table.

Si le Studio Talend utilisé pour vous connecter à une base de données Hive fonctionne sous Windows, vous devez créer manuellement un dossier appelé tmp à la racine du disque où le Studio Talend est installé.

Note

Les composants ELT ne traitent pas le flux de données lui-même mais uniquement les informations du schéma.

Prérequis

La distribution Hadoop doit être correctement installée afin de garantir les interactions avec le Studio Talend. La liste suivante présente des informations d'exemple relatives à MapR.

  • Assurez-vous d'avoir installé le client MapR sur la même machine que le Studio Talend et d'avoir ajouté la bibliothèque client de MapR dans la variable PATH de cette machine. D'après la documentation de MapR, la ou les librairies du client MapR correspondant à chaque OS peuvent être trouvées MAPR_INSTALL\ hadoop\hadoop-VERSION\lib\native. Par exemple, pour Windows, la bibliothèque est lib\MapRClient.dll dans le fichier Jar du client MapR. Pour plus d'informations, consultez la page suivante sur le site de MapR : http://www.mapr.com/blog/basic-notes-on-configuring-eclipse-as-a-hadoop-development-environment-for-mapr (en anglais).

    Si vous n'ajoutez pas de librairie, il est possible que vous rencontriez l'erreur suivante : no MapRClient in java.library.path.

  • Configurez l'argument -Djava.library.path, par exemple, dans la zone Job Run VM arguments de la vue Run/Debug de la boîte de dialogue [Preferences]. Cet argument fournit au studio le chemin d'accès à la bibliothèque native du client MapR. Cela permet aux utilisateurs en souscription d'utiliser entièrement l'aperçu des données (Data viewer) afin de visualiser localement dans le studio les données stockées dans MapR. Pour plus d'informations concernant la configuration de cet argument, consultez la section expliquant comment visualiser les données dans le Guide de prise en main de Talend Big Data.

Pour plus d'informations concernant l'installation d'une distribution Hadoop, consultez le manuel correspondant à la distribution Hadoop que vous utilisez.

Connecter les composants ELT Hive

Les composants ELT ne traitent pas les données en tant que telles mais les informations du schéma descriptif de la table qui seront utilisées pour alimenter les paramètres de la requête Hive QL à exécuter.

Par conséquent la connexion requise pour relier ces différents composants est simplement un lien qui porte le nom de la table.

Note

Le nom de la sortie que vous donnez à ce lien lors de sa création doit correspondre exactement au nom de la table car ce paramètre sera utilisé lors de la génération de la commande Hive QL.

Consultez également le Guide utilisateur du Studio Talend.

Tables de jointure et de correspondance

Dans le Mapper ELT, vous pouvez sélectionner des colonnes spécifiques des schémas d'entrée et les ajouter dans le schéma de sortie.

  • De la même manière que dans l'éditeur du Mapper ETL, simplement glissez et déposez le contenu du schéma d'entrée vers le schéma de sortie.

  • Utilisez les touches Ctrl et Maj pour la sélection multiple des colonnes contiguës ou non.

Vous pouvez mettre en place des jointures explicites pour extraire des données variées de différentes tables.

  • Cliquez sur la liste déroulante Join et sélectionnez une jointure explicite.

  • Les jointures suivantes sont disponibles : Join (jointure interne), Left Outer Join, Right Outer Join ou Full Outer Join et Cross Join.

  • Par défaut, l'option Join est sélectionnée.

Vous pouvez également créer des tables Alias afin de sélectionner des données variées dans une même table.

  • Dans la zone Input, cliquez sur le bouton plus pour créer un Alias.

  • Définissez la table sur laquelle l'alias est basé.

  • Saisissez un nom pour la table alias, de préférence veillez à ce qu'il soit différent de la table principale pour éviter les confusions.

Ajouter des clauses WHERE et d'autres clauses

Vous pouvez également restreindre une requête Select à l'aide d'une clause WHERE et/ou à l'aide d'autres clauses telles que GROUP BY, ORDER BY, etc., en cliquant sur le bouton Add filter row situé en haut de la table de sortie dans l'éditeur de map.

Pour ajouter une restriction à l'aide d'une clause WHERE, cliquez sur le bouton Add filter row et sélectionnez Add a WHERE clause dans le menu qui s'ouvre.

Pour ajouter une restriction à l'aide de GROUP BY, ORDER BY, etc., cliquez sur le bouton Add filter row et sélectionnez Add an other(GROUP...) clause dans le menu qui s'ouvre.

Veillez à ce que les composants d'entrée soient tous liés correctement au composant ELT Map pour garantir que les inclusions, jointures et clauses fonctionnent.

Générer la requête Hive QL

La mise en correspondance des éléments à partir des schémas d'entrée vers les schémas de sortie crée automatiquement la requête Select correspondante.

Les éventuelles clauses sont également prises en compte automatiquement.