Propriétés du tImpalaLoad Standard

Ces propriétés sont utilisées pour configurer le tImpalaLoad s'exécutant dans le framework de Jobs Standard.

Le composant tImpalaLoad Standard appartient à la famille Big Data.

Le composant de ce framework est disponible dans tous les produits Talend avec Big Data et dans Talend Data Fabric.

Basic settings

Property type	Peut être Built-in ou Repository.
	Built-In : propriétés utilisées ponctuellement.
	Repository : sélectionnez le référentiel dans lequel sont stockées les propriétés. Les champs suivants sont automatiquement renseignés à l'aide des données récupérées.
Use an existing connection	Cochez cette case et sélectionnez le composant de connexion adéquat dans la liste Component list pour réutiliser les paramètres d'une connexion que vous avez déjà définie. Note InformationsRemarque : Notez que lorsqu'un Job contient un Job parent et un Job enfant, si vous devez partager une connexion existante entre ces deux niveaux, par exemple pour partager la connexion créée par le Job parent au Job enfant, vous devez : au niveau du Job parent, enregistrer la connexion à la base de données à partager dans la vue Basic settings du composant de connexion créant cette connexion à la base de données. au niveau du Job enfant, utiliser un composant de connexion dédié afin de lire cette connexion enregistrée. Pour un exemple de partage d'une connexion à une base de données à travers différents niveaux de Jobs, consultez le Guide d'utilisation du Studio Talend .
Distribution	Sélectionnez dans la liste le cluster que vous utilisez. Les options de la liste varient selon le composant que vous utilisez. Parmi ces options, les suivantes nécessitent une configuration spécifique : Si disponible dans la liste de Distribution, l'option Microsoft HDInsight vous permet d'utiliser un cluster Microsoft HDInsight. Dans cette optique, vous devez configurer les connexions au cluster HDInsight et au service Windows Azure Storage du cluster dans les zones affichées. Pour des explications détaillées au sujet de ces paramètres, recherchez Configuration manuelle de la connexion sur Talend Help Center (https://help.talend.com). Si vous avez sélectionné Amazon EMR, obtenez davantage d'informations concernant Amazon EMR - Prise en main dans Talend Help Center (https://help.talend.com). L'option Custom vous permet de vous connecter à un cluster différent des clusters de la liste, par exemple une distribution non supportée officiellement par Talend . Sélectionner Import from existing version pour importer une distribution de base officiellement supportée et ajouter manuellement les autres Jars requis non fournis par cette distribution. Sélectionner Import from zip pour importer le fichier .zip de configuration pour la distribution personnalisée à utiliser. Ce fichier .zip doit contenir les bibliothèques des différents éléments Hadoop et le fichier d'index de ces bibliothèques. Notez que les versions personnalisées ne sont pas officiellement supportées par Talend . Talend et sa Communauté fournissent l'opportunité de vous connecter à des versions personnalisées depuis le Studio mais ne peuvent garantir que la configuration de la version choisie sera simple, car de nombreuses versions et distributions d'Hadoop différentes sont disponibles. Il est recommandé de configurer une telle connexion uniquement si vos connaissances relatives à Hadoop sont suffisantes pour réparer les problèmes par vous-même. Note InformationsRemarque : Dans cette boîte de dialogue, la case de la zone active doit être cochée, afin d'importer les fichiers .jar correspondant à la connexion créée entre la distribution personnalisée et ce composant. Pour un exemple étape par étape expliquant comment se connecter à une distribution personnalisée et partager cette connexion, consultez Hortonworks.
Version	Sélectionnez la version de la distribution Hadoop que vous utilisez. Les options disponibles dépendent du composant que vous utilisez.
Impala Driver	Dans la liste déroulante, sélectionnez le pilote que vous utilisez.
Host	Adresse IP du serveur de base de données.
Port	Numéro du port d'écoute du serveur de base de données.
Database	Saisissez dans ce champ le nom de la base de données.
Additional JDBC Setting	Définissez des propriétés de connexion supplémentaires pour la connexion à la base de données que vous créez. Cette option n'est pas disponible si vous avez coché la case Use an existing connection dans la vue Basic settings.
Username et Password	Saisissez les informations d'authentification de l'utilisateur ou de l'utilisatrice de la base de données afin de vous authentifier avec LDAP. Pour saisir le mot de passe, cliquez sur le bouton [...] à côté du champ Password, puis, dans la boîte de dialogue qui s'ouvre, saisissez le mot de passe entre guillemets doubles et cliquez sur OK afin de sauvegarder les paramètres. Ces paramètres ne sont pas disponibles lorsque vous cochez la case Use kerberos authentication.
Use kerberos authentication	Si vous accédez à un système Impala s'exécutant avec la sécurité Kerberos, cochez la case et saisissez le Principal Kerberos de ce système Impala. Si ce cluster est un cluster MapR de version 5.0.0 ou postérieure, vous pouvez paramétrer la configuration de l'authentification par ticket MapR en plus ou comme une alternative en suivant les explications dans Connexion sécurisée à MapR. Gardez à l'esprit que cette configuration génère un nouveau ticket de sécurité MapR pour le nom d'utilisateur ou d'utilisatrice défini dans le Job dans chaque exécution. Si vous devez réutiliser un ticket existant provenant du même utilisateur, laissez décochées les cases Force MapR ticket authentication et Use Kerberos authentication. MapR devrait pouvoir trouver automatiquement ce ticket à la volée. Cette case est disponible ou non selon la distribution Hadoop à laquelle vous vous connectez.
Load action	Sélectionnez l'action à effectuer pour écrire des données à l'emplacement spécifié. Lorsque vous sélectionnez LOAD, cela permet de déplacer ou copier des données depuis un répertoire spécifié. Note InformationsRemarque : Avec Cloudera Data Platform (CDP), si vous chargez une table, la table ne doit pas être de type ACID pour fonctionner correctement. Lorsque vous sélectionnez INSERT, cela permet de déplacer ou copier des données à partir de requêtes.
Target type	Cette liste déroulante apparaît uniquement lorsque vous avez sélectionné INSERT dans la liste Load action. Sélectionnez dans cette liste le type d'emplacement dans lequel écrire des données. Si vous sélectionnez Table comme destination, vous pouvez choisir d'écrire les données à la suite ou d'écraser le contenu dans la table spécifiée. Il s'agit de la seule option dans la version actuelle.
Action	Sélectionnez OVERWRITE pour écraser les données existantes à l'emplacement de destination ou sélectionnez APPEND pour écrire les nouvelles données à la suite des anciennes.
Table Name	Saisissez le nom de la table Hive dans laquelle écrire les données. Notez qu'avec l'action INSERT, ce champ est disponible uniquement lorsque vous avez sélectionné Table dans la liste Target type.
File path	Saisissez le répertoire duquel lire des données.
Query	Ce champ apparaît uniquement lorsque vous avez sélectionné INSERT dans la liste Load action. Saisissez la requête appropriée pour sélectionner les données à exporter dans la table ou le répertoire Hive spécifié(e).
Set partitions	Cochez cette case pour utiliser la clause Impala Partition pour charger ou insérer des données dans une table Impala. Vous devez saisir les clés de partition et leur valeur à utiliser dans le champ qui apparaît. Par exemple, saisissez contry='US', state='CA'. Cela permet de créer une clause de partition Partition (contry='US', state='CA'), c'est-à-dire une partition US and CA. Il est également recommandé de cocher la case Create partition if not exist qui apparaît afin de vous assurer de ne pas créer une partition en doublon.
Die on error	Cochez cette case si vous souhaitez arrêter le Job en cas d'erreur.

Advanced settings

tStatCatcher Statistics	Cochez cette case pour collecter les données de log au niveau des composants.

Variables globales

Variables globales	QUERY : requête en cours de traitement. Cette variable est une variable Flow et retourne une chaîne de caractères. ERROR_MESSAGE : message d'erreur généré par le composant lorsqu'une erreur survient. Cette variable est une variable After et retourne une chaîne de caractères. Cette variable fonctionne uniquement si la case Die on error est décochée, lorsque le composant contient cette case. Une variable Flow fonctionne durant l'exécution d'un composant. Pour renseigner un champ ou une expression à l'aide d'une variable, appuyez sur les touches Ctrl+Espace pour accéder à la liste des variables. À partir de cette liste, vous pouvez choisir la variable que vous souhaitez utiliser. Pour plus d'informations concernant les variables, consultez le Guide d'utilisation du Studio Talend.

QUERY : requête en cours de traitement. Cette variable est une variable Flow et retourne une chaîne de caractères.

ERROR_MESSAGE : message d'erreur généré par le composant lorsqu'une erreur survient. Cette variable est une variable After et retourne une chaîne de caractères. Cette variable fonctionne uniquement si la case Die on error est décochée, lorsque le composant contient cette case.

Une variable Flow fonctionne durant l'exécution d'un composant.

Pour renseigner un champ ou une expression à l'aide d'une variable, appuyez sur les touches Ctrl+Espace pour accéder à la liste des variables. À partir de cette liste, vous pouvez choisir la variable que vous souhaitez utiliser.

Pour plus d'informations concernant les variables, consultez le Guide d'utilisation du Studio Talend.

Utilisation

Règle d'utilisation	Ce composant fonctionne en standalone.
Prérequis	La distribution Hadoop doit être correctement installée afin de garantir les interactions avec le Studio Talend . La liste suivante présente des informations d'exemple relatives à MapR. Assurez-vous d'avoir installé le client MapR sur la même machine que le Studio et d'avoir ajouté la bibliothèque client de MapR dans la variable PATH de cette machine. D'après la documentation de MapR, la ou les bibliothèques du client MapR correspondant à chaque OS peuvent être trouvées dans MAPR_INSTALL\ hadoop\hadoop-VERSION\lib\native. Par exemple, pour Windows, la bibliothèque est lib\MapRClient.dll dans le fichier Jar du client MapR. Pour plus d'informations, consultez la page suivante sur le site de MapR : http://www.mapr.com/blog/basic-notes-on-configuring-eclipse-as-a-hadoop-development-environment-for-mapr (en anglais). Si vous n'ajoutez pas de librairie, il est possible que vous rencontriez l'erreur suivante : no MapRClient in java.library.path. Configurez l'argument -Djava.library.path, par exemple, dans la zone Job Run VM arguments de la vue Run/Debug de la boîte de dialogue Preferences dans le menu Window. Cet argument fournit au Studio le chemin d'accès à la bibliothèque native du client MapR. Cela permet aux utilisateurs et utilisatrices en souscription d'utiliser entièrement l'aperçu des données (Data viewer) afin de visualiser localement dans le Studio les données stockées dans MapR. Pour plus d'informations concernant l'installation d'une distribution Hadoop, consultez le manuel correspondant à la distribution Hadoop que vous utilisez.

Règle d'utilisation

Ce composant fonctionne en standalone.

Prérequis

La distribution Hadoop doit être correctement installée afin de garantir les interactions avec le Studio Talend . La liste suivante présente des informations d'exemple relatives à MapR.

Assurez-vous d'avoir installé le client MapR sur la même machine que le Studio et d'avoir ajouté la bibliothèque client de MapR dans la variable PATH de cette machine. D'après la documentation de MapR, la ou les bibliothèques du client MapR correspondant à chaque OS peuvent être trouvées dans MAPR_INSTALL\ hadoop\hadoop-VERSION\lib\native. Par exemple, pour Windows, la bibliothèque est lib\MapRClient.dll dans le fichier Jar du client MapR. Pour plus d'informations, consultez la page suivante sur le site de MapR : http://www.mapr.com/blog/basic-notes-on-configuring-eclipse-as-a-hadoop-development-environment-for-mapr (en anglais).

Si vous n'ajoutez pas de librairie, il est possible que vous rencontriez l'erreur suivante : no MapRClient in java.library.path.
Configurez l'argument -Djava.library.path, par exemple, dans la zone Job Run VM arguments de la vue Run/Debug de la boîte de dialogue Preferences dans le menu Window. Cet argument fournit au Studio le chemin d'accès à la bibliothèque native du client MapR. Cela permet aux utilisateurs et utilisatrices en souscription d'utiliser entièrement l'aperçu des données (Data viewer) afin de visualiser localement dans le Studio les données stockées dans MapR.

Pour plus d'informations concernant l'installation d'une distribution Hadoop, consultez le manuel correspondant à la distribution Hadoop que vous utilisez.

Cette page vous a-t-elle aidé ?

Si vous rencontrez des problèmes sur cette page ou dans son contenu – une faute de frappe, une étape manquante ou une erreur technique – dites-nous comment nous améliorer !

Laissez vos commentaires ici