Propriétés du tELTHiveOutput Standard - 7.0

ELT Hive

author
Talend Documentation Team
EnrichVersion
7.0
EnrichProdName
Talend Big Data
Talend Big Data Platform
Talend Data Fabric
Talend Data Integration
Talend Data Management Platform
Talend Data Services Platform
Talend ESB
Talend MDM Platform
Talend Open Studio for Big Data
Talend Open Studio for Data Integration
Talend Open Studio for ESB
Talend Open Studio for MDM
Talend Real-Time Big Data Platform
task
Création et développement > Systèmes tiers > Composants ELT > Composants ELT Hive
Gouvernance de données > Systèmes tiers > Composants ELT > Composants ELT Hive
Qualité et préparation de données > Systèmes tiers > Composants ELT > Composants ELT Hive
EnrichPlatform
Studio Talend

Ces propriétés sont utilisées pour configurer le tELTHiveOutput s'exécutant dans le framework de Jobs Standard.

Le composant tELTHiveOutput Standard appartient à la famille ELT.

Le composant de ce framework est disponible dans tous les produits Talend Platform avec Big Data et dans Talend Data Fabric.

Basic settings

Action on data

Sélectionnez l'action à effectuer sur les données à écrire dans la table Hive.

Avec l'option Insert, les données à écrire dans la table Hive sont écrites à la suite des données existantes, s'il y en a.

Schema

Un schéma est une description de lignes, il définit le nombre de champs qui sont traités et passés au composant suivant. Le schéma est soit local (built-in) soit distant dans le Repository.

 

Built-In : le schéma est créé et conservé ponctuellement pour ce composant seulement. Consultez également : le Guide utilisateur du Studio Talend .

Repository : Le schéma existe déjà et est stocké dans le Repository. Ainsi, il peut être réutilisé dans des Jobs et projets. Consultez également : le Guide utilisateur du Studio Talend .

Edit schema

Créez le schéma, en cliquant sur le bouton Edit Schema. Si le schéma est en mode Repository, trois options sont disponibles :

  • View schema : sélectionnez cette option afin de voir le schéma.

  • Change to built-in property : sélectionnez cette option pour passer le schéma en mode Built-In et effectuer des modifications locales.

  • Update repository connection : sélectionnez cette option afin de modifier le schéma stocké dans le référentiel et décider de propager ou non les modifications à tous les Jobs. Si vous souhaitez propager les modifications uniquement au Job courant, cliquez sur No et sélectionnez à nouveau la métadonnée du schéma dans la fenêtre [Repository Content].

Default table name

Saisissez le nom de la table par défaut, entre guillemets doubles.

Default schema name

Saisissez le nom du schéma de base de données par défaut auquel la table de sortie utilisée est liée.

Table name from connection name is variable

Cochez cette case lorsque le nom de la connexion à ce composant est configuré comme une variable, par exemple une variable de contexte.

Use different table name

Cochez cette case pour définir un nom de table différent. Saisissez-le, entre guillemets doubles, dans le champ Table name qui apparaît.

Si cette table est liée à un schéma de base de données différent de celui par défaut, vous devez également saisir le nom de ce schéma de base de données. La syntaxe est la suivante : nom_du_schéma.nom_de_la_table.

The target table uses the Parquet format

Si la table dans laquelle vous devez écrire les données est une table Parquet, cochez cette case.

Dans la liste Compression qui apparaît, sélectionnez le mode de compression à utiliser pour gérer le fichier Parquet. Le mode par défaut est Uncompressed.

Field Partition

Dans la colonne Partition Column, saisissez le nom, sans guillemet, de la colonne de partition de la table Hive dans laquelle vous souhaitez écrire les données.

Dans la colonne Partition Value, saisissez la valeur que vous souhaitez utiliser, entre guillemets simples, pour la colonne de partition correspondante.

Mapping

Sélectionnez dans la liste le fichier de mapping des métadonnées pour la base de données à utiliser. Ce fichier est utilisé pour la conversion de type des données entre la base de données et Java. Pour plus d'informations concernant le mapping de métadonnées, consultez la documentation relative au Mapping de types.

Advanced settings

tStatCatcher Statistics

Cochez cette case pour collecter les données de log au niveau du composant.

Variables globales

Global Variables

ERROR_MESSAGE : message d'erreur généré par le composant lorsqu'une erreur survient. Cette variable est une variable After et retourne une chaîne de caractères. Cette variable fonctionne uniquement si la case Die on error est décochée, lorsque le composant contient cette case.

Une variable Flow fonctionne durant l'exécution d'un composant.

Pour renseigner un champ ou une expression à l'aide d'une variable, appuyez sur les touches Ctrl+Espace pour accéder à la liste des variables.

Pour plus d'informations concernant les variables, consultez le Guide utilisateur du Studio Talend .

Utilisation

Règle d'utilisation

L'utilisation du composant tELTHiveOutput est étroitement liée à celle des composants tELTHiveMap et tELTHiveInput. Notez que le lien de sortie (output) à utiliser avec ces deux composants doit respecter strictement la syntaxe du nom de la table.

Si le Studio Talend utilisé pour vous connecter à une base de données Hive fonctionne sous Windows, vous devez créer manuellement un dossier appelé tmp à la racine du disque où le Studio Talend est installé.

Remarque :

Les composants ELT ne traitent pas le flux de données lui-même mais uniquement les informations du schéma.

Utilisation avec Dataproc

Les composants ELT Hive nécessitent l'installation de Tez dans le cluster Google Cloud Dataproc à utiliser.

  • Utilisez l'action d'initialisation comme expliqué dans la documentation Google Cloud Platform : Apache Tez on Dataproc (en anglais).

  • Pour plus d'informations concernant le concept général d'actions d'initialisation dans un cluster Google Cloud Dataproc, consultez la documentation Google relative : Initialization actions (en anglais).