tSqoopImport - 6.1

Composants Talend Guide de référence

EnrichVersion
6.1
EnrichProdName
Talend Big Data
Talend Big Data Platform
Talend Data Fabric
Talend Data Integration
Talend Data Management Platform
Talend Data Services Platform
Talend ESB
Talend MDM Platform
Talend Open Studio for Big Data
Talend Open Studio for Data Integration
Talend Open Studio for Data Quality
Talend Open Studio for ESB
Talend Open Studio for MDM
Talend Real-Time Big Data Platform
task
Création et développement
Gouvernance de données
Qualité et préparation de données
EnrichPlatform
Studio Talend

Avertissement

Ce composant est disponible dans la Palette du Studio Talend si vous avez souscrit à l'une des solutions Big Data de Talend.

Propriétés du tSqoopImport

Famille du composant

Big Data/Sqoop

 

Fonction

Le tSqoopImport appelle Sqoop pour transférer des données d'un système de gestion de base de données relationnelle (SGBDR) comme MySQL ou Oracle dans le système de fichiers distribué Hadoop (Hadoop Distributed File System, HDFS).

Note

Sqoop est installé dans chaque distribution Hadoop. Cependant, si la distribution Hadoop que vous utilisez n'a pas de Sqoop installé, vous devez en installer un et vous assurer d'ajouter l'invite de commande Sqoop dans la variable PATH de la distribution. Pour plus d'informations concernant l'installation de Sqoop, consultez la documentation de Sqoop.

Objectif

Le tSqoopImport est utilisé pour définir les arguments requis par Sqoop pour écrire les données qui vous intéressent dans HDFS.

Basic settings

Mode

Sélectionnez le mode dans lequel Sqoop est appelé dans l'exécution du Job.

Use Commandline : l'interpréteur de commandes Sqoop est utilisé pour appeler Sqoop. Dans ce mode, vous devez déployer et exécuter le Job dans l'hôte où Sqoop est installé. Si votre solution Talend est soumise à souscription, il est recommandé d'installer et d'utiliser un JobServer fourni par Talend dans cet hôte pour exécuter le Job. Si vous utilisez Talend Open Studio for Big Data, assurez-vous que le Studio Talend et Sqoop se trouvent sur la même machine. Pour plus d'informations concernant l'installation d'un JobServer, consultez le Guide d'installation Talend.

Use Java API : l'API Java est utilisée pour appeler Sqoop. Dans ce mode, le Job peut être exécuté localement dans le Studio Talend mais vous devez configurer la connexion à la distribution Hadoop à utiliser. Notez que JDK est requis pour l'exécution du Job en mode API Java et que les versions des kits JDK installés sur les deux machines doivent être compatibles entre elles. Par exemple, les versions sont les mêmes ou la version JDK de la machine Hadoop est plus récente.

 

Hadoop properties

Peut être Built-in ou Repository :

  • Built-in : saisissez les informations de configuration de la distribution Hadoop à utiliser localement, pour ce composant uniquement.

  • Repository : vous avez déjà créé la connexion Hadoop et l'avez stockée dans le Repository ; vous pouvez la réutiliser directement pour la configuration du composant et la création d'un Job. Pour plus d'informations concernant la création d'une connexion centralisée Hadoop, consultez Guide de prise en main de Talend Big Data.

Version

Distribution

Sélectionnez dans la liste le cluster que vous utilisez. Les options de la liste varient selon le composant que vous utilisez. Les options de la liste dépendent des composants que vous utilisez, Parmi ces options, les suivantes nécessitent une configuration spécifique.

  • Si disponible dans la liste de Distribution, l'option Microsoft HD Insight vous permet d'utiliser un cluster Microsoft HD Insight. Dans cette optique, vous devez configurez les connexions aux services WebHCat, HD Insight et Windows Azure Storage du cluster dans les zones affichées. Une vidéo démontrant comment configurer cette connexion est disponible à l'adresse suivante : https://www.youtube.com/watch?v=A3QTT6VsNoM.

  • L'option Custom vous permet de vous connecter à un cluster différente des clusters de la liste, par exemple une distribution non supportée officiellement par Talend.

Pour vous connecter à une distribution personnalisée, une fois l'option Custom sélectionnée, cliquez sur le bouton pour afficher une fenêtre, dans laquelle vous pouvez :

  1. Sélectionner Import from existing version pour importer une distribution de base officiellement supportée et ajouter manuellement les autres Jars requis non fournis par cette distribution. Ou,

  2. Sélectionner Import from zip pour importer le fichier .zip de configuration pour la distribution personnalisée à utiliser. Ce fichier zip doit contenir les bibliothèques des différents éléments Hadoops et le fichier d'index de ces bibliothèques.

    Dans Talend Exchange, des membres de la Communauté Talend ont partagé des fichiers zip de configuration prêts à utiliser, que vous pouvez télécharger depuis cette liste Hadoop configuration et utiliser directement dans votre connexion. Cependant, avec l'évolution en continu des différents projets relatifs à Hadoop, il est possible que vous ne trouviez pas dans la liste le zip de configuration correspondant à votre distribution. Il est alors recommandé d'utiliser l'option Import from existing version, afin de se baser sur une distribution existante pour ajouter les .jars requis par votre distribution.

    Notez que certaines versions personnalisées ne sont pas officiellement supportées par Talend. Talend et sa Communauté fournissent l'opportunité de vous connecter à des versions personnalisées depuis le Studio mais ne peuvent garantir que la configuration de la version choisie sera simple, car de nombreuses versions et distributions d'Hadoop différentes sont disponibles. Il est recommandé de configurer une telle connexion uniquement si vos connaissances relatives à Hadoop sont suffisantes pour réparer les problèmes par vous-même.

    Note

    Dans cette boîte de dialogue, la case de la zone active doit être cochée, afin d'importer les fichiers .jar correspondant à la connexion créée entre la distribution personnalisée et ce composant.

    Pour un exemple étape par étape expliquant comment se connecter à une distribution personnalisée et partager cette connexion, consultez Connexion à une distribution Hadoop personnalisée.

 

Hadoop Version

Sélectionnez la version de la distribution Hadoop que vous utilisez. Les options disponibles dépendent du composant que vous utilisez. En plus de l'évolution de Hadoop, veuillez noter les changements suivants :

  • Si vous utilisez Hortonworks Data Platform V2.2, les fichiers de configuration de votre cluster peuvent utiliser des variables d'environnement comme ${hdp.version}. Si vous êtes dans cette situation, vous devez configurer la propriété mapreduce.application.framework.path dans la table Hadoop properties de ce composant, avec la valeur du chemin d'accès pointant explicitement vers l'archive du framework MapReduce de votre cluster. Par exemple :

    mapreduce.application.framework.path=/hdp/apps/2.2.0.0-2041/mapreduce/mapreduce.tar.gz#mr-framework
  • Si vous utilisez Hortonworks Data Platform V2.0.0, le type de système d'exploitation utilisé pour la distribution Hadoop et pour le Job Talend doit être identique, par exemple Windows ou Linux. Sinon, vous devez utiliser le Jobserver de Talend afin d'exécuter un Job dans le même type de système d'exploitation que celui dans lequel la distribution Hortonworks Data Platform V2.0.0 utilisée est exécutée. Pour plus d'informations concernant le Jobserver de Talend, consultez le Guide d'installation Talend.

Configuration

NameNode URI

Cochez cette case pour indiquer l'emplacement du NameNode du cluster Hadoop à utiliser. Le NameNode est le nœud maître d'un système Hadoop. Par exemple, si vous avez sélectionné une machine nommée masternode comme NameNode d'une distribution Apache Hadoop, son emplacement est hdfs://masternode:portnumber.

Pour plus d'informations concernant le framework Hadoop Map/Reduce, consultez le tutoriel Map/Reduce dans la documentation de Apache Hadoop : http://hadoop.apache.org (en anglais).

 

JobTracker Host

Cochez cette case pour indiquer l'emplacement du service JobTracker à utiliser, dans le cluster Hadoop. Par exemple, si vous avez choisi une machine nommée machine1 comme JobTracker, définissez son emplacement comme suit machine1:portnumber. Notez qu'un JobTracker est le service qui assigne des tâches Map/Reduce à des nœuds spécifiques dans un cluster Hadoop. Le mot "Job" dans JobTracker ne désigne pas un Job Talend mais un job Hadoop, décrit comme job MR ou MapReduce dans la documentation de Apache Hadoop : http://hadoop.apache.org (en anglais).

Cette propriété est requise lorsque la requête que vous souhaitez utiliser est exécutée dans Windows et est une requête Select. Par exemple, SELECT your_column_name FROM your_table_name

Si vous utilisez YARN dans votre cluster Hadoop, comme Hortonworks Data Platform V2.0.0 ou Cloudera CDH4.3 + (mode YARN), vous devez spécifier l'emplacement du Resource Manager et non celui du Jobtracker. Vous pouvez continuer à configurer les paramètres suivants selon la configuration du cluster Hadoop à utiliser (si vous ne cochez pas la case d'un paramètre, alors la configuration de ce paramètre dans le cluster Hadoop à utiliser sera ignorée lors du de l'exécution) :

  1. Cochez la case Set resourcemanager scheduler address et saisissez l'adresse de l'ordonnanceur (Scheduler) dans le champ qui apparaît.

  2. Cochez la case Set jobhistory address et saisissez l'emplacement du serveur JobHistory du cluster Hadoop à utiliser. Cela permet de stocker les informations relatives aux métriques du Job courant sur le serveur JobHistory.

  3. Cochez la case Set staging directory et saisissez le chemin d'accès au répertoire défini dans votre cluster Hadoop pour les fichiers temporaires créés par l'exécution de programmes. Ce répertoire se trouve sous la propriété yarn.app.mapreduce.am.staging-dir dans les fichiers de configuration, notamment les fichiers yarn-site.xml et mapred-site.xml de votre distribution.

  4. Allouez des volumes de mémoire aux calculs Map et Reduce et au service ApplicationMaster de YARN en cochant la case Set memory dans la vue Advanced settings.

  5. Cochez la case Set Hadoop user et saisissez le nom de l'utilisateur avec lequel vous souhaitez exécuter le Job. Puisque les fichiers et répertoires dans Hadoop ont un auteur spécifique avec les droits appropriés de lecture ou d'écriture, ce champ vous permet d'exécuter le Job directement avec l'utilisateur ayant les droits d'accès appropriés au fichier ou répertoire à traiter.

  6. Cochez la case Use datanode hostname pour permettre au Job d'accéder aux nœuds de données via leurs hébergeurs. Cela configure la propriété dfs.client.use.datanode.hostname à true. Lorsque vous vous connectez à un système de fichiers S3N, vous devez cocher cette case.

Pour plus d'informations concernant le framework Hadoop Map/Reduce, consultez le tutoriel Map/Reduce dans la documentation de Apache Hadoop : http://hadoop.apache.org (en anglais).

 Authentication

Use kerberos authentication

Si vous accédez au cluster Hadoop fonctionnant avec la sécurité de Kerberos, cochez cette case, puis saisissez le "principal name" de Kerberos pour le NameNode dans le champ affiché. Cela vous permet d'utiliser votre identifiant pour vous authentifier, en le comparant aux identifiants stockés dans Kerberos.

De plus, comme ce composant effectue des calculs Map/Reduce, vous devez également authentifier les services associés, comme le serveur de l'historique des Jobs et le gestionnaire de ressources ou le JobTracker, selon votre distribution, dans le champ correspondant. Ces principaux se trouvent dans les fichiers de configuration de votre distribution. Par exemple, dans une distribution CDH4, le principal du gestionnaire de ressource est configuré dans le fichier yarn-site.xml et le principal de l'historique des Job dans le fichier mapred-site.xml.

Cette case est disponible ou indisponible selon la distribution d'Hadoop à laquelle vous vous connectez.

  Use a keytab to authenticate

Cochez la case Use a keytab to authenticate pour vous connecter à un système Hadoop utilisant Kerberos à l'aide d'un fichier keytab. Un fichier keytab contient des paires de principaux Kerberos et de clés cryptées. Vous devez saisir le principal à utiliser dans le champ Principal et le chemin d'accès au fichier keytab dans le champ Keytab.

Notez que l'utilisateur qui exécute un Job utilisant un keytab n'est pas forcément celui désigné par le principal mais qu'il doit avoir le droit de lecture pour le fichier keytab utilisé. Par exemple, le nom d'utilisateur que vous utilisez pour exécuter le Job est user1 et le principal à utiliser est guest. Dans cette situation, assurez-vous que user1 a les droits de lecture pour le fichier keytab à utiliser.

 

Hadoop user name

Saisissez le nom de l'utilisateur avec lequel vous souhaitez exécuter le Job. Puisqu'un fichier ou un répertoire dans Hadoop a son auteur spécifique, avec les droits en lecture ou écriture appropriés, ce champ vous permet d'exécuter le Job directement sous le nom d'utilisateur ayant les droits appropriés pour accéder au fichier ou au répertoire à traiter. Notez que ce champ peut n'être pas disponible selon la distribution que vous utilisez.

 

JDBC property

Peut être Built-in ou Repository:

  • Built-in : saisissez les informations de connexion à la base de données à utiliser localement, pour ce composant uniquement.

  • Repository : vous devez avoir créé la connexion à la base de données et l'avoir stockée dans le Repository; vous pouvez la réutiliser directement pour la configuration du composant et la création d'un Job. Pour plus d'informations concernant la création d'une connexion à la base de données centralisée, consultez le Guide utilisateur du Studio Talend.

    Notez que seules les connexions de type General JDBC stockées dans le Repository sont supportées.

 

Connection

Saisissez l'URL JDBC utilisée pour vous connecter à la base de données dans laquelle les données source sont stockées.

 

User name et Password

Saisissez les informations d'authentification utilisées pour vous connecter à la base de données source.

Pour saisir le mot de passe, cliquez sur le bouton [...] à côté du champ Password, puis, dans la boîte de dialogue qui s'ouvre, saisissez le mot de passe entre guillemets doubles, puis cliquez sur OK afin de sauvegarder les paramètres.

Si votre mot de passe est stocké dans un fichier, cochez la case The password is stored in a file et saisissez le chemin d'accès à ce fichier dans le champ File path qui s'affiche.

  • Ce fichier peut être stocké sur la machine où le Job est exécuté ou dans le système HDFS du cluster Hadoop à utiliser.

  • Le mot de passe stocké dans ce fichier ne doit pas contenir "\n" (nouvelle ligne) à la fin. Vous ne devez pas insérer de nouvelle ligne, même vide, à la fin du mot de passe.

 

Driver JAR

Quel que soit le mode, Use Commandline ou Java API, vous devez ajouter le fichier du pilote de la base de données à utiliser, dans le dossier lib de la distribution Hadoop que vous utilisez. Pour ce faire, utilisez la table Driver JAR afin d'ajouter ce fichier de pilote pour le Job en cours de construction.

 

Table Name

Saisissez le nom de la table à transférer dans HDFS.

Ce champ est indisponible lorsque vous utilisez le mode de requêtes de forme libre, en cochant la case Use query.

 

File format

Sélectionnez un format de fichier pour les données à transférer:

  • textfile

  • sequencefile

  • Avro file

  • Parquet file: la version de Sqoop doit être 1.4.6.

 

Delete target directory

Cochez cette case pour supprimer le répertoire cible du transfert.

 

Append

Cochez cette case pour écrire à la suite d'un ensemble de données existant dans HDFS les données transférées.

 

Compress

Cochez cette case pour activer la compression.

 

Direct

Cochez cette case pour utiliser le chemin d'import rapide.

 

Specify columns

Cochez cette case pour afficher le tableau Columns dans lequel vous souhaitez spécifier les colonnes de données que vous souhaitez transférer dans HDFS.

 

Use WHERE clause

Cochez cette case pour utiliser une clause WHERE contrôlant les lignes à transférer. Dans le champ activé, saisissez la condition utilisée pour sélectionner les lignes de données. Par exemple, saisissez id > 400 pour importer uniquement les lignes pour lesquelles la colonne id a une valeur supérieure à 400.

Query

Use query

Cochez cette case pour utiliser le mode de requête de forme libre, fourni par Sqoop.

Une fois la case cochée, vous pouvez saisir librement la requête que vous souhaitez utiliser.

Spécifiez le répertoire cible. Si Sqoop importe les données en parallèle, spécifiez également l'argument Split by.

Avertissement

Une fois les requêtes saisies, la valeur de l'argument --fields-terminated-by peut uniquement être paramétrée à "\t" dans la table Additional arguments de l'onglet Advanced settings.

 

Specify Target Dir

Cochez cette case afin de saisir le chemin d'accès au fichier cible dans lequel vous souhaitez transférer les données source.

Cet emplacement peut être un nouveau répertoire. Si ce n'est pas le cas, cochez la case Append.

  Specify Split by

Cochez cette case puis saisissez le nom de la colonne que vous souhaitez utiliser comme colonne de division, afin de diviser la charge de travail.

Par exemple, pour une table où la colonne id est la colonne clé, saisissez tablename.id. Sqoop divise les données à transférer selon la valeur de leur ID et les importe en parallèle.

 

Specify Number of Mappers

Cochez cette case afin de préciser le nombre de tâches de "map" (processus parallèles) utilisé pour effectuer le transfert des données.

Si ne vous souhaitez pas que Sqoop travaille en parallèle, saisissez 1 dans le champ affiché.

 

Print Log

Cochez cette case pour activer la case Verbose.

 

Verbose

Cochez cette case pour imprimer plus d'informations pendant que vous travaillez, par exemple des informations de débogage.

 

Direct

Cochez cette case pour utiliser le chemin d'import rapide.

Advanced settings

Use MySQL default delimiters

Cochez cette case pour utiliser les délimiteurs MySQL par défaut. Cette case est disponible en mode Commandline (Use Commandline).

 

Define Java mapping

Sqoop fournit une configuration par défaut, mappant la plupart des types SQL aux types Hive correspondants. Si vous devez utiliser votre mapping personnalisé, pour écraser les mappings par défaut au moment de l'exécution, cochez cette case et définissez les mappings à utiliser dans la table qui apparaît.

 

Define Hive mapping

Cette fonctionnalité est disponible selon la version de Sqoop que vous utilisez.

 

Additional arguments

Complétez ce tableau pour utiliser des arguments supplémentaires, si nécessaire.

En ajoutant des arguments supplémentaires, vous pouvez effectuer de multiples opérations en une seule transaction. Par exemple, vous pouvez utiliser --hive-import et --hive-table en mode Commandline (Use Commandline) ou hive.import et hive.table.name en mode Java API (Use Java API) pour créer une table Hive et écrire des données dans cette table lors de l'exécution de la transaction écrivant des données dans HDFS. Pour plus d'informations concernant les arguments Sqoop disponibles en mode Commandline et en mode Java API, consultez Arguments supplémentaires.

Connector specific configuration 

Use speed parallel data transfers

Cochez cette case pour permettre des transferts de données rapides et parallèles entre la base de données Teradata et la distribution Hadoop Hortonworks. La table Specific params et la case Use additional params apparaissent vous permettant de spécifier les paramètres requis pour les transferts parallèles.

  • Dans la table Specific params, deux colonnes sont disponibles :

    • Argument : dans la liste, sélectionnez les paramètres selon vos besoins. Ce sont les paramètres les plus communs pour les transferts parallèles.

    • Value : saisissez la valeur des paramètres..

  • En cochant la case Additional params, le champ Specific additional params s'affiche. Dans ce champ, vous pouvez saisir les paramètres Teradata que vous souhaitez utiliser mais qui ne sont pas modifiables dans la table Specific params. La syntaxe de ce paramètre est -Dparameter=value. Si vous saisissez plus d'un paramètre dans ce champ, séparez-les à l'aide d'un espace.

Vous devez vous assurer que Hortonworks Connector for Teradata a été installé dans votre cluster Hortonworks. Le dernier connecteur peut être téléchargé à partir du site Web d'Hortonworks et installé en suivant les explications du fichier http://hortonworks.com/wp-content/uploads/2014/02/bk_HortonworksConnectorForTeradata.pdf (en anglais). Dans ce document, vous pouvez également trouver une explication détaillée de chaque paramètre disponible pour le transfert parallèle.

Cette option est disponible uniquement un mode Use Commandline.

 

Hadoop properties

Le Studio Talend utilise une configuration par défaut pour son moteur, afin d'effectuer des opérations dans une distribution Hadoop. Si vous devez utiliser une configuration personnalisée dans une situation spécifique, renseignez dans cette table la ou les propriété(s) à personnaliser. Lors de l'exécution, la ou les propriété(s) personnalisée(s) va (vont) écraser celle(s) par défaut.

  • Notez que, si vous utilisez les métadonnées stockées centralement dans le Repository, cette table hérite automatiquement des propriétés définies dans ces métadonnées et passe en lecture seule jusqu'à ce que, dans la liste Property type, vous passiez de Repository à Built-in.

Pour plus d'informations concernant les propriétés requises par Hadoop et ses systèmes associés, tels que HDFS et Hive, consultez la documentation de la distribution Hadoop utilisée ou consultez la documentation d'Apache Hadoop sur http://hadoop.apache.org/docs en sélectionnant la version de la documentation souhaitée. A titre d'exemple, les liens vers certaines propriétés sont listés ci-après:

 

Mapred job map memory mb et Mapred job reduce memory mb

Si le système Hadoop utilisé est Hortonworks Data Platform V1.2 ou Hortonworks Data Platform V1.3, vous devez définir des allocations de mémoire suffisantes pour que les opérations de map et reduce soient effectuées par le système Hadoop.

Dans ce cas, vous devez saisir les valeurs que vous souhaitez utiliser pour la mémoire allouée aux opérations map et reduce dans les champs Mapred job map memory mb et Mapred job reduce memory mb, respectivement. Par défaut, les valeurs sont toutes les deux 1000, ce qui est normalement adapté pour l'exécution de ces opérations.

Si la distribution utilisée est YARN, les paramètres de mémoire à définir sont alors Map (in Mb), Reduce (in Mb) et ApplicationMaster (in Mb), respectivement. Ces champs permettent d'allouer dynamiquement de la mémoire aux opérations map et reduce et à l'ApplicationMaster de YARN.

 

Path separator in server

Laissez le champ Path separator in server tel quel, sauf si vous changez le séparateur utilisé par la machine hôte de votre distribution Hadoop pour sa variable PATH. En d'autres termes, changez le séparateur si celui-ci n'est pas le signe deux points (:). Dans ce cas, vous devez remplacer cette valeur par celle utilisée dans votre hôte.

 

tStatCatcher Statistics

Cochez cette case pour collecter les données de log au niveau des composants.

Global Variables

ERROR_MESSAGE : message d'erreur généré par le composant lorsqu'une erreur survient. Cette variable est une variable After et retourne une chaîne de caractères. Cette variable fonctionne uniquement si la case Die on error est décochée, si le composant a cette option.

EXIT_CODE : code de sortie de la commande distante. Cette variable est une variable After et retourne un nombre entier.

Une variable Flow fonctionne durant l'exécution d'un composant. Une variable After fonctionne après l'exécution d'un composant.

Pour renseigner un champ ou une expression à l'aide d'une variable, appuyez sur les touches Ctrl+Espace pour accéder à la liste des variables. A partir de cette liste, vous pouvez choisir la variable que vous souhaitez utiliser.

Pour plus d'informations concernant les variables, consultez le Guide utilisateur du Studio Talend.

Utilisation

Ce composant est utilisé en standalone. Il respecte les prérequis Sqoop. Vous devez connaître Sqoop pour l'utiliser.

Il est recommandé d'utiliser une version 1.4+ de Sqoop afin de tirer entièrement parti des fonctionnalités des composants.

Pour plus d'informations concernant Sqoop, consultez (en anglais) le manuel de Sqoop sur le site : http://sqoop.apache.org/docs/.

Prérequis

La distribution Hadoop doit être correctement installée afin de garantir les interactions avec le Studio Talend. La liste suivante présente des informations d'exemple relatives à MapR.

  • Assurez-vous d'avoir installé le client MapR sur la même machine que le Studio Talend et d'avoir ajouté la bibliothèque client de MapR dans la variable PATH de cette machine. D'après la documentation de MapR, la ou les librairies du client MapR correspondant à chaque OS peuvent être trouvées MAPR_INSTALL\ hadoop\hadoop-VERSION\lib\native. Par exemple, pour Windows, la bibliothèque est lib\MapRClient.dll dans le fichier Jar du client MapR. Pour plus d'informations, consultez la page suivante sur le site de MapR : http://www.mapr.com/blog/basic-notes-on-configuring-eclipse-as-a-hadoop-development-environment-for-mapr (en anglais).

    Si vous n'ajoutez pas de librairie, il est possible que vous rencontriez l'erreur suivante : no MapRClient in java.library.path.

  • Configurez l'argument -Djava.library.path, par exemple, dans la zone Job Run VM arguments de la vue Run/Debug de la boîte de dialogue [Preferences]. Cet argument fournit au studio le chemin d'accès à la bibliothèque native du client MapR. Cela permet aux utilisateurs en souscription d'utiliser entièrement l'aperçu des données (Data viewer) afin de visualiser localement dans le studio les données stockées dans MapR. Pour plus d'informations concernant la configuration de cet argument, consultez la section expliquant comment visualiser les données dans le Guide de prise en main de Talend Big Data.

Pour plus d'informations concernant l'installation d'une distribution Hadoop, consultez le manuel correspondant à la distribution Hadoop que vous utilisez.

Log4j

Si vous utilisez une solution Talend soumise à souscription, l'activité de ce composant peut être journalisée avec la fonctionnalité log4j. Pour plus d'informations sur cette fonctionnalité, consultez le Guide utilisateur du Studio Talend.

Pour plus d'informations sur les niveaux de logs du log4j, consultez la documentation d'Apache : http://logging.apache.org/log4j/1.2/apidocs/org/apache/log4j/Level.html (en anglais).

Limitation

Si vous avez sélectionné le mode Use Commandline, vous devez utiliser l'hôte où Sqoop est installé pour exécuter le Job à l'aide de ce composant.

Connections

Liens de sortie (de ce composant à un autre) :

Trigger : Run if, On Subjob Ok, On Subjob Error.

Liens d'entrée (d'un autre composant à celui-ci) :

Row : Iterate.

Trigger : Run if, On Subjob Ok, On Subjob Error, On Component Ok, On Component Error.

Pour plus d'informations concernant les connexions, consultez le Guide utilisateur du Studio Talend.

Scénario : Importer une table MySQL dans HDFS

Ce scénario montre comment utiliser le tSqoopImport pour importer une table MySQL dans un système HDFS donné.

Les données d'exemple utilisées dans ce scénario se présentent comme suit :

id,wage,mod_date
0,2000,2008-06-26 04:25:59
1,2300,2011-06-12 05:29:45
2,2500,2007-01-15 11:59:13
3,3000,2010-05-02 15:34:05
				

Les données sont stockées dans une table MySQL nommée sqoopmerge.

Avant de commencer à reproduire ce scénario, vérifiez que vous disposez des droits et permissions nécessaires pour accéder à la distribution Hadoop utilisée. Ensuite, procédez comme suit :

Déposer le composant

  1. Dans la perspective Integration du Studio, créez un Job vierge depuis le nœud Job Designs du Repository.

    Pour plus d'informations sur la création d'un Job, consultez le Guide utilisateur du Studio Talend.

  2. Déposer un tSqoopImport dans l'espace de modélisation graphique.

Importer la table MySQL

Configurer le tSqoopImport

  1. Double-cliquez sur le tSqoopImport afin d'ouvrir sa vue Component.

  2. Dans la zone Mode, sélectionnez Use Java API.

  3. Dans la zone Version, sélectionnez la distribution Hadoop à utiliser et sa version. Si vous ne trouvez pas la distribution correspondant à la vôtre dans la liste, sélectionnez Custom afin de vous connecter à une distribution Hadoop non officiellement supportée par le Studio.

    Pour un exemple d'utilisation étape par étape de cette option Custom, consultez Connexion à une distribution Hadoop personnalisée.

  4. Dans le champ NameNode URI, saisissez l'emplacement du nœud maître, le NameNode, de la distribution utilisée. Par exemple, hdfs://talend-cdh4-namenode:8020.

  5. Dans le champ JobTracker Host, saisissez l'emplacement du JobTracker de votre distribution. Par exemple, talend-cdh4-namenode:8021.

    Notez que le mot "Job" dans le terme JobTracker désigne les Jobs MR ou Map/Reduce décrits dans la documentation d'Apache disponible sur le site Internet d'Apache http://hadoop.apache.org/ (en anglais).

  6. Si la distribution utilisée nécessite une authentification Kerberos, cochez la case Use Kerberos authentication et saisissez les informations de connexion. Sinon, laissez cette case décochée.

    Si vous souhaitez utiliser un fichier Kerberos keytab pour vous identifier, cochez la case Use a keytab to authenticate. Un fichier keytab contient des paires de principaux et clés cryptées Kerberos. Vous devez saisir le principal à utiliser dans le champ Principal et le chemin d'accès au fichier keytab dans le champ Keytab.

    Notez que l'utilisateur qui exécute un Job utilisant un keytab n'est pas forcément celui désigné par le principal mais qu'il doit avoir le droit de lecture pour le fichier keytab utilisé. Par exemple, le nom d'utilisateur que vous utilisez pour exécuter le Job est user1 et le principal à utiliser est guest. Dans cette situation, assurez-vous que user1 a les droits de lecture pour le fichier keytab à utiliser.

  7. Dans le champ Connection, saisissez l'URI de la base de données MySQL dans laquelle la table source est stockée. Par exemple, jdbc:mysql://10.42.10.13/mysql.

  8. Dans les champs Username et Password, saisissez les informations d'authentification.

  9. Sous la table Driver JAR, cliquez sur le bouton [+] pour ajouter une ligne. Dans cette ligne, cliquez sur le bouton [...] pour afficher la liste déroulante et sélectionnez le fichier Jar à utiliser. Dans ce scénario, sélectionnez mysql-connector-java-5.1.30-bin.jar.

    Si le bouton [...] n'est pas disponible, cliquez dans la ligne pour le faire apparaître.

  10. Dans le champ Table Name, saisissez le nom de la table source. Dans ce scénario, il s'agit de sqoopmerge.

  11. Dans la liste File format, sélectionnez le format correspondant aux données utilisées, textfile dans ce scénario.

  12. Cochez la case Specify target dir et saisissez le nom du dossier dans lequel vous souhaitez importer les données. Par exemple, /user/ychen/target_old.

Exécuter le Job

Appuyez sur F6 pour exécuter ce Job.

Une fois l'exécution terminée, vous pouvez vérifier les résultats, dans le dossier cible défini, dans la console Web de la distribution Hadoop utilisée.

Si vous souhaitez obtenir plus de détails sur le Job, il est recommandé d'utiliser la console Web du Jobtracker fourni par la distribution Hadoop utilisée.