tHCatalogOperation - 6.1

Composants Talend Guide de référence

EnrichVersion
6.1
EnrichProdName
Talend Big Data
Talend Big Data Platform
Talend Data Fabric
Talend Data Integration
Talend Data Management Platform
Talend Data Services Platform
Talend ESB
Talend MDM Platform
Talend Open Studio for Big Data
Talend Open Studio for Data Integration
Talend Open Studio for Data Quality
Talend Open Studio for ESB
Talend Open Studio for MDM
Talend Real-Time Big Data Platform
task
Création et développement
Gouvernance de données
Qualité et préparation de données
EnrichPlatform
Studio Talend

Avertissement

Ce composant est disponible dans la Palette du Studio Talend si vous avez souscrit à l'une des solutions Big Data de Talend.

Propriétés du tHCatalogOperation

Famille du composant

BigData/HCatalog

 

Fonction

Ce composant vous permet de gérer les données stockées dans la base de données/table/partition Hive gérée par HCatalog.

Objectif

Le composant tHCatalogOperation prépare la base de données/table/partition gérée par HCatalog à traiter.

Basic settings

Property type

Peut être Built-in ou Repository.

Built-in : Propriétés utilisées ponctuellement.

Repository : Sélectionnez le fichier dans lequel sont stockées les propriétés du composant. Les champs suivants sont alors pré-remplis à l'aide des données collectées.

Version

Distribution

Sélectionnez dans la liste le cluster que vous utilisez. Les options de la liste varient selon le composant que vous utilisez. Les options de la liste dépendent des composants que vous utilisez, Parmi ces options, les suivantes nécessitent une configuration spécifique.

  • Si disponible dans la liste de Distribution, l'option Microsoft HD Insight vous permet d'utiliser un cluster Microsoft HD Insight. Dans cette optique, vous devez configurez les connexions aux services WebHCat, HD Insight et Windows Azure Storage du cluster dans les zones affichées. Une vidéo démontrant comment configurer cette connexion est disponible à l'adresse suivante : https://www.youtube.com/watch?v=A3QTT6VsNoM.

  • L'option Custom vous permet de vous connecter à un cluster différente des clusters de la liste, par exemple une distribution non supportée officiellement par Talend.

Pour vous connecter à une distribution personnalisée, une fois l'option Custom sélectionnée, cliquez sur le bouton pour afficher une fenêtre, dans laquelle vous pouvez :

  1. Sélectionner Import from existing version pour importer une distribution de base officiellement supportée et ajouter manuellement les autres Jars requis non fournis par cette distribution. Ou,

  2. Sélectionner Import from zip pour importer le fichier .zip de configuration pour la distribution personnalisée à utiliser. Ce fichier zip doit contenir les bibliothèques des différents éléments Hadoops et le fichier d'index de ces bibliothèques.

    Dans Talend Exchange, des membres de la Communauté Talend ont partagé des fichiers zip de configuration prêts à utiliser, que vous pouvez télécharger depuis cette liste Hadoop configuration et utiliser directement dans votre connexion. Cependant, avec l'évolution en continu des différents projets relatifs à Hadoop, il est possible que vous ne trouviez pas dans la liste le zip de configuration correspondant à votre distribution. Il est alors recommandé d'utiliser l'option Import from existing version, afin de se baser sur une distribution existante pour ajouter les .jars requis par votre distribution.

    Notez que certaines versions personnalisées ne sont pas officiellement supportées par Talend. Talend et sa Communauté fournissent l'opportunité de vous connecter à des versions personnalisées depuis le Studio mais ne peuvent garantir que la configuration de la version choisie sera simple, car de nombreuses versions et distributions d'Hadoop différentes sont disponibles. Il est recommandé de configurer une telle connexion uniquement si vos connaissances relatives à Hadoop sont suffisantes pour réparer les problèmes par vous-même.

    Note

    Dans cette boîte de dialogue, la case de la zone active doit être cochée, afin d'importer les fichiers .jar correspondant à la connexion créée entre la distribution personnalisée et ce composant.

    Pour un exemple étape par étape expliquant comment se connecter à une distribution personnalisée et partager cette connexion, consultez Connexion à une distribution Hadoop personnalisée.

 

HCatalog version

Sélectionnez la version de la distribution Hadoop que vous utilisez. Les options disponibles dépendent du composant que vous utilisez. En plus de l'évolution de Hadoop, veuillez noter les changements suivants :

  • Si vous utilisez Hortonworks Data Platform V2.2, les fichiers de configuration de votre cluster peuvent utiliser des variables d'environnement comme ${hdp.version}. Si vous êtes dans cette situation, vous devez configurer la propriété mapreduce.application.framework.path dans la table Hadoop properties de ce composant, avec la valeur du chemin d'accès pointant explicitement vers l'archive du framework MapReduce de votre cluster. Par exemple :

    mapreduce.application.framework.path=/hdp/apps/2.2.0.0-2041/mapreduce/mapreduce.tar.gz#mr-framework
  • Si vous utilisez Hortonworks Data Platform V2.0.0, le type de système d'exploitation utilisé pour la distribution Hadoop et pour le Job Talend doit être identique, par exemple Windows ou Linux. Sinon, vous devez utiliser le Jobserver de Talend afin d'exécuter un Job dans le même type de système d'exploitation que celui dans lequel la distribution Hortonworks Data Platform V2.0.0 utilisée est exécutée. Pour plus d'informations concernant le Jobserver de Talend, consultez le Guide d'installation Talend.

Templeton Configuration

Templeton hostname

Renseignez ce champ avec l'URL du service Web Templeton.

Note

Templeton est une API de Service Web pour HCatalog. Elle a été renommée WwebHCat par la communauté Apache. Ce service permet d'accéder à HCatalog et aux éléments Hadoop relatifs, comme Pig. Pour plus d'informations concernant Templeton (WebHCat), consultez https://cwiki.apache.org/confluence/display/Hive/WebHCat+UsingWebHCat (en anglais).

 

Templeton port

Renseignez ce champ avec le port de l'URL du service Web Templeton. Par défaut, cette valeur est 50111.

Templeton est une API de services Web pour Hadoop.

Note

Templeton est une API de Service Web pour HCatalog. Elle a été renommée WwebHCat par la communauté Apache. Ce service permet d'accéder à HCatalog et aux éléments Hadoop relatifs, comme Pig. Pour plus d'informations concernant Templeton (WebHCat), consultez https://cwiki.apache.org/confluence/display/Hive/WebHCat+UsingWebHCat (en anglais).

 

Use kerberos authentication

Si vous accédez au cluster Hadoop fonctionnant avec la sécurité de Kerberos, cochez cette case, puis saisissez le "principal name" de Kerberos pour le NameNode dans le champ affiché. Cela vous permet d'utiliser votre identifiant pour vous authentifier, en le comparant aux identifiants stockés dans Kerberos.

Cette case est disponible ou indisponible selon la distribution d'Hadoop à laquelle vous vous connectez.

 

Use a keytab to authenticate

Cochez la case Use a keytab to authenticate pour vous connecter à un système Hadoop utilisant Kerberos à l'aide d'un fichier keytab. Un fichier keytab contient des paires de principaux Kerberos et de clés cryptées. Vous devez saisir le principal à utiliser dans le champ Principal et le chemin d'accès au fichier keytab dans le champ Keytab.

Notez que l'utilisateur qui exécute un Job utilisant un keytab n'est pas forcément celui désigné par le principal mais qu'il doit avoir le droit de lecture pour le fichier keytab utilisé. Par exemple, le nom d'utilisateur que vous utilisez pour exécuter le Job est user1 et le principal à utiliser est guest. Dans cette situation, assurez-vous que user1 a les droits de lecture pour le fichier keytab à utiliser.

 

Operation on

Sélectionnez un objet dans la liste pour les opérations sur la base de données.

Database : Base de données gérée par HCatalog dans HDFS.

Table : Table gérée par HCatalog dans HDFS.

Partition : Partition définie par l'utilisateur.

 

Operation

Sélectionnez dans la liste l'opération à effectuer sur la base de données. Pour plus d'informations concernant les opérations sur les bases de données dans HDFS, consultez https://cwiki.apache.org/Hive/ (en anglais).

 

Create the table only it doesn't exist already

Cochez cette case afin d'éviter de créer un doublon lorsque vous créez une table.

Note

Cette case est activée lorsque vous sélectionnez Table dans la liste Operation on.

HCatalog Configuration

Database

Base de données dans laquelle les tables gérées par HCatalog sont stockées.

 

Table

Renseignez ce champ pour effectuer des actions sur une ou plusieurs table(s) dans une base de données ou dans un emplacement HDFS spécifié.

Note

Ce champ est activé lorsque vous sélectionnez Table dans la liste Operation on. Pour plus d'informations concernant les opérations de Partition, consultez https://cwiki.apache.org/Hive/.

 

Partition

Renseignez ce champ pour spécifier une ou plusieurs partition(s) pour l'opération de partition sur une table. Lorsque vous spécifiez plusieurs partitions, utilisez une virgule pour séparer les partitions en groupes de deux. Délimitez la chaîne de caractères relative à la partition en l'entourant de guillemets doubles.

Si vous lisez une table non partitionnée, laissez ce champ vide.

Note

Ce champ est activé lorsque vous sélectionnez Table dans la liste Operation on. Pour plus d'informations concernant les opérations de Partition, consultez https://cwiki.apache.org/Hive/.

 

Username

Renseignez ce champ en saisissant l'identifiant de l'utilisateur de la base de données.

 

Database location

Emplacement de la base de données dans HDFS.

Note

Ce champ est activé lorsque vous sélectionnez Database dans la liste Operation on.

 

Database description

Description de la base de données.

Note

Ce champ est activé lorsque vous sélectionnez Database dans la liste Operation on.

 

Create an external table

Cochez cette case pour créer une table externe avec un chemin d'accès alternatif défini dans le champ Set HDFS location, dans la vue Advanced settings. Pour plus d'informations concernant la création d'une table externe, consultez https://cwiki.apache.org/Hive/ (en anglais).

Note

Cette case est activée lorsque vous sélectionnez Table dans la liste Operation on et Create ou Drop and create ou Drop if exist and create dans la liste Operation.

 

Format

Sélectionnez un format de fichier dans la liste, afin de spécifier le format de la table externe que vous souhaitez créer.

TEXTFILE : Fichiers texte.

RCFILE : Fichiers Record Columnar. Pour plus d'informations concernant RCFile, consultez http://hive.apache.org/javadocs/r0.10.0/api/org/apache/hadoop/hive/ql/io/RCFile.html (en anglais).

Note

L'option RCFILE est disponible uniquement depuis Hive 0.6.0. Cette liste est activée uniquement lorsque vous sélectionnez Table dans la liste Operation on et Create/Drop and create/Drop if exist and create dans la liste Operation.

 

Set partitions

Cochez cette case pour définir le schéma de la partition en cliquant sur Edit schema, à droite de la case Set partitions. Le schéma de la partition peut être soit local, soit distant dans le Repository.

Note

Cette case est activée lorsque vous sélectionnez Table dans la liste Operation on et Create, Drop and create ou Drop if exist and create dans la liste Operation. Vous devez suivre les règles d'utilisation de schémas de partition dans les tables gérées par HCatalog. Pour plus d'informations concernant les règles d'utilisation des schémas de partitions, consultez http://incubator.apache.org/hcatalog/ (en anglais).

 

 

Built-in : Le schéma est créé et conservé ponctuellement pour ce composant seulement. Voir également le Guide utilisateur du Studio Talend.

 

 

Repository : Le schéma existe déjà et il est stocké dans le Repository. Ainsi, il peut être réutilisé. Voir également le Guide utilisateur du Studio Talend.

 

Set the user group to use

Cochez cette case pour spécifier le groupe de l'utilisateur.

Note

Cette case est activée lorsque vous sélectionnez Database dans la liste Operation on et Drop, Drop if exist, Drop and create ou Drop if exist and create dans la liste Operation. Par défaut, la valeur de ce champ est root. Pour plus d'informations concernant le groupe d'utilisateurs dans le serveur, contactez votre administrateur système.

 Option

Sélectionnez une clause pour lorsque vous supprimez une base de données.

Note

Cette liste est activée lorsque vous sélectionnez Drop, Drop if exist, Drop and create ou Drop if exist and create dans la liste Operation. Pour plus d'informations concernant l'opération Drop sur les bases de données, consultez https://cwiki.apache.org/Hive/ (en anglais).

 

Set the permissions to use

Cochez cette case pour spécifier les permissions nécessaires pour l'opération sélectionnée dans la liste Operation.

Note

Cette case est activée lorsque vous sélectionnez Drop, Drop if exist, Drop and create ou Drop if exist and create dans la liste Operation. Par défaut, la valeur de ce champ est rwxrw-r-x. Pour plus d'informations concernant les permissions, contactez votre administrateur système.

 

Set File location

Saisissez le répertoire dans lequel seront stockées les données partitionnées.

Note

Cette case est activée lorsque vous sélectionnez Partition dans la liste Operation on et Create, Drop and create ou Drop if exist and create dans la liste Operation. Pour plus d'informations concernant le stockage des données partitionnées dans HDFS, consultez https://cwiki.apache.org/confluence/display/Hive/HCatalog (en anglais).

 

Die on error

Cette case est décochée par défaut, afin d'ignorer les lignes en erreur et de terminer le traitement avec les lignes sans erreur.

Advanced settings

Comment

Renseignez ce champ à l'aide de commentaires concernant la table à créer.

Note

Ce champ est activé lorsque vous sélectionnez Table dans la liste Operation on et Create, Drop and create ou Drop if exist and create dans la liste Operation, dans la vue Basic settings.

 

Set HDFS location

Cochez cette case pour spécifier un emplacement HDFS où sauvegarder la table à créer. Décochez cette case afin de sauvegarder la table dans le répertoire du warehouse défini dans la clé hive.metastore.warehouse.dir dans le fichier de configuration Hive, hive-site.xml.

Note

Cette case est activée lorsque vous sélectionnez Table dans la liste Operation on et Create, Drop and create ou Drop if exist and create dans la liste Operation, dans la vue Basic settings. Pour plus d'informations concernant la sauvegarde de données dans HDFS, consultez https://cwiki.apache.org/Hive/ (en anglais).

 

Set row format(terminated by)

Cochez cette case pour utiliser et définir les formats de lignes lorsque vous créez une table.

Field : Cochez cette case pour utiliser le format Field. La valeur par défaut de ce champ est "\u0001". Vous pouvez également spécifier un caractère personnalisé.

Collection Item : Cochez cette case pour utiliser le format Collection Item. La valeur par défaut de ce champ est "\u0002". Vous pouvez également spécifier un caractère personnalisé.

Map Key : Cochez cette case afin d'utiliser le format Map Key. La valeur par défaut de ce champ est "\u0003". Vous pouvez également spécifier un caractère personnalisé.

Line : Cochez cette case pour utiliser le format Line. La valeur par défaut de ce champ est "\n". Vous pouvez également spécifier un caractère personnalisé

Note

Cette case est activée lorsque vous sélectionnez Table dans la liste Operation on et Create, Drop and create ou Drop if exist and create dans la liste Operation, dans la vue Basic settings. Pour plus d'informations concernant les formats de ligne dans les tables gérées par HCatalog, consultez https://cwiki.apache.org/Hive/ (en anglais).

 

Properties

Cliquez sur le bouton [+] pour ajouter une ou plusieurs ligne(s) afin de définir les propriétés de la table. Les propriétés de la table vous permettent de personnaliser la définition de la table à l'aide de vos propres paires de clés de métadonnées/valeurs. Assurez-vous que les valeurs dans les colonnes Key et Value sont bien entourées de guillemets doubles.

Note

Ce tableau est activé lorsque vous sélectionnez Database ou Table dans la liste Operation on et Create, Drop and create ou Drop if exist and create dans la liste Operation, dans la vue Basic settings. Pour plus d'informations concernant les propriétés des tables, consultez https://cwiki.apache.org/Hive (en anglais).

Retrieve the HCatalog logs

Cochez cette case pour récupérer les fichiers de log générés durant les opérations de HCatalog.

 

Standard Output Folder

Renseignez ce champ avec le chemin d'accès où sont stockés les fichiers de log.

Note

Ce champ est activé lorsque vous cochez la case Retrieve the HCatalog logs.

 

Error Output Folder

Renseignez ce champ avec le chemin d'accès où sont stockés les fichiers de log d'erreurs.

Note

Ce champ est activé lorsque vous cochez la case Retrieve the HCatalog logs.

 

tStatCatcher Statistics

Cochez cette case pour collecter les données de log au niveau du Job ainsi qu'au niveau de chaque composant.

Global Variables

ERROR_MESSAGE : message d'erreur généré par le composant lorsqu'une erreur survient. Cette variable est une variable After et retourne une chaîne de caractères. Cette variable fonctionne uniquement si la case Die on error est décochée, si le composant a cette option.

Une variable Flow fonctionne durant l'exécution d'un composant. Une variable After fonctionne après l'exécution d'un composant.

Pour renseigner un champ ou une expression à l'aide d'une variable, appuyez sur les touches Ctrl+Espace pour accéder à la liste des variables. A partir de cette liste, vous pouvez choisir la variable que vous souhaitez utiliser.

Pour plus d'informations concernant les variables, consultez le Guide utilisateur du Studio Talend.

Utilisation

Ce composant est généralement utilisé seul dans un sous-job à un composant.

HCatalog est construit sur le métastore Hive afin de fournir une interface de lecture/écriture pour Pig et MapReduce, afin que ces systèmes puissent utiliser les métadonnées de Hive pour lire et écrire facilement des données dans HDFS.

Pour plus d'informations, consultez la documentation Apache concernant HCatalog : https://cwiki.apache.org/confluence/display/Hive/HCatalog (en anglais).

Prérequis

La distribution Hadoop doit être correctement installée afin de garantir les interactions avec le Studio Talend. La liste suivante présente des informations d'exemple relatives à MapR.

  • Assurez-vous d'avoir installé le client MapR sur la même machine que le Studio Talend et d'avoir ajouté la bibliothèque client de MapR dans la variable PATH de cette machine. D'après la documentation de MapR, la ou les librairies du client MapR correspondant à chaque OS peuvent être trouvées MAPR_INSTALL\ hadoop\hadoop-VERSION\lib\native. Par exemple, pour Windows, la bibliothèque est lib\MapRClient.dll dans le fichier Jar du client MapR. Pour plus d'informations, consultez la page suivante sur le site de MapR : http://www.mapr.com/blog/basic-notes-on-configuring-eclipse-as-a-hadoop-development-environment-for-mapr (en anglais).

    Si vous n'ajoutez pas de librairie, il est possible que vous rencontriez l'erreur suivante : no MapRClient in java.library.path.

  • Configurez l'argument -Djava.library.path, par exemple, dans la zone Job Run VM arguments de la vue Run/Debug de la boîte de dialogue [Preferences]. Cet argument fournit au studio le chemin d'accès à la bibliothèque native du client MapR. Cela permet aux utilisateurs en souscription d'utiliser entièrement l'aperçu des données (Data viewer) afin de visualiser localement dans le studio les données stockées dans MapR. Pour plus d'informations concernant la configuration de cet argument, consultez la section expliquant comment visualiser les données dans le Guide de prise en main de Talend Big Data.

Pour plus d'informations concernant l'installation d'une distribution Hadoop, consultez le manuel correspondant à la distribution Hadoop que vous utilisez.

Log4j

Si vous utilisez une solution Talend soumise à souscription, l'activité de ce composant peut être journalisée avec la fonctionnalité log4j. Pour plus d'informations sur cette fonctionnalité, consultez le Guide utilisateur du Studio Talend.

Pour plus d'informations sur les niveaux de logs du log4j, consultez la documentation d'Apache : http://logging.apache.org/log4j/1.2/apidocs/org/apache/log4j/Level.html (en anglais).

Limitation

Lorsque la case Use kerberos authentication est cochée, le composant ne fonctionne pas avec la JVM IBM.

Scénario : Gestion de table HCatalog dans Hortonworks Data Platform

Ce scénario décrit un Job à six composants effectuant les opérations les plus courantes pour la gestion de tables HCatalog dans Hortonworks Data Platform. Les sous-sections de ce scénario traitent les opérations suivantes sur les bases de données :

  • Créer une table dans la base de données dans HDFS ;

  • Écrire des données dans une table gérée par HCatalog ;

  • Écrire des données dans la table partitionnée, à l'aide de tHCatalogLoad ;

  • Lire des données d'une table gérée par HCatalog ;

  • Écrire en sortie les données lues de la table dans HDFS.

Note

La connaissance de Hive Data Definition Language et de HCatalog Data Definition Language est nécessaire. Pour plus d'informations concernant Hive Data Definition Language, consultez https://cwiki.apache.org/confluence/display/Hive/LanguageManual+DDL (en anglais). Pour plus d'informations concernant HCatalog Data Definition Language, consultez http://incubator.apache.org/hcatalog/ (en anglais).

Construire le Job

  1. Déposez les composants suivants de la Palette dans l'espace de modélisation graphique : un tHCatalogOperation, un tHCatalogLoad, un tHCatalogInput, un tHCatalogOutput, un tFixedFlowInput et un tFileOutputDelimited.

  2. Cliquez-droit sur le tHCatalogOperation afin de le relier au tFixedFlowInput à l'aide d'un lien Trigger>OnSubjobOk.

  3. Cliquez-droit sur le tFixedFlowInput afin de le connecter au tHCatalogOutput à l'aide d'un lien Row > Main.

  4. Cliquez-droit sur le composant tFixedFlowInput pour le relier au tHCatalogLoad à l'aide d'un lien Trigger > OnSubjobOk.

  5. Cliquez-droit sur le tHCatalogLoad pour le connecter au tHCatalogInput à l'aide d'un lien Trigger > OnSubjobOk.

  6. Cliquez-droit sur le composant tHCatalogInput afin de le relier au tFileOutputDelimited à l'aide d'un lien Row > Main.

Créer une table dans HDFS

  1. Double-cliquez sur le tHCatalogOperation pour ouvrir sa vue Basic settings.

  2. Cliquez sur le bouton [...] à côté de Edit schema pour définir le schéma de la table à créer.

  3. Cliquez sur le bouton [+] pour ajouter au moins une colonne au schéma puis cliquez sur OK lorsque vous avez terminé la configuration. Dans ce scénario, les colonnes ajoutées au schéma sont : name, country et age.

  4. Renseignez le champ Templeton hostname avec l'URL du service Web Templeton que vous utilisez. Dans ce scénario, saisissez "192.168.0.131".

  5. Renseignez le numéro du port dans le champ Templeton port pour le nom du port renseigné dans le champ Templeton hostname. Par défaut, la valeur de ce champ est "50111"

  6. Sélectionnez Table dans la liste Operation on et Drop if exist and create dans la liste Operation afin de créer une table dans HDFS.

  7. Dans le champ Database, saisissez le nom d'une base de données existante dans HDFS. Dans ce scénario, le nom de la base de données est "talend".

  8. Dans le champ Table, saisissez le nom de la table à créer. Dans ce scénario, le nom de la table est "Customer".

  9. Dans le champ Username, saisissez l'identifiant de connexion à la base de données.

  10. Cochez la case Set the user group to use afin de spécifier le groupe de l'utilisateur. Le groupe par défaut est "root". Vous devez paramétrer la valeur de ce champ selon vos pratiques réelles.

  11. Cochez la case Set the permissions to use afin de spécifier les permissions de l'utilisateur. La valeur par défaut de ce champ est "rwxrwxr-x".

  12. Cochez la case Set partitions afin d'activer le schéma de partition

  13. Cliquez sur le bouton Edit schema [...] à côté de la case Set partitions, afin de définir le schéma de la partition.

  14. Cliquez sur le bouton [+] pour ajouter une colonne au schéma et cliquez sur OK lorsque vous avez terminé la configuration. Dans ce scénario, la colonne ajoutée au schéma est nommée : match_age.

Écrire des données dans la table existante

  1. Double-cliquez sur le composant tFixedFlowInput pour ouvrir sa vue Basic settings.

  2. Cliquez sur le bouton [...] à côté du champ Edit schema pour définir un schéma semblable à celui défini dans le tHCatalogOperation.

  3. Dans le champ Number of rows, saisissez l'entier 8.

  4. Sélectionnez l'option Use Inline Table dans la zone Mode.

  5. Cliquez sur le bouton [+] pour ajouter de nouvelles lignes à la table.

  6. Double-cliquez sur le tHCatalogOutput pour ouvrir sa vue Basic settings.

  7. Cliquez sur le bouton Sync columns afin de récupérer le schéma défini dans le composant précédent.

  8. Dans le champ NameNode URI, saisissez l'URI du NameNode. Dans ce scénario, l'URL est "192.168.0.131".

  9. Dans le champ File name, saisissez l'emplacement HDFS du fichier dans lequel vous souhaitez écrire les données. Dans ce scénario, l'emplacement du fichier est "/user/hdp/Customer/Customer.csv".

  10. Sélectionnez Overwrite dans la liste Action.

  11. Dans le champ Templeton hostname, saisissez l'URL du service Web Templeton que vous utilisez. Dans ce scénario, saisissez "192.168.0.131".

  12. Dans le champ Templeton port, saisissez le numéro du port défini dans le champ Templeton hostname. Par défaut, la valeur de ce champ est "50111"

  13. Dans les champs Database, Table et Username, saisissez les mêmes valeurs que dans le composant tHCatalogOperation.

  14. Dans le champ Partition, saisissez "match_age=27".

  15. Dans le champ File location, saisissez l'emplacement HDFS où la table sera sauvegardée. Dans cet exemple, l'emplacement est "hdfs://192.168.0.131:8020/user/hdp/Customer".

Écrire des données dans la table partitionnée, via le tHCatalogLoad

  1. Double-cliquez sur le tHCatalogLoad afin d'ouvrir sa vue Basic settings.

  2. Dans le champ Partition, saisissez "match_age=26".

  3. Configurez les autres paramètres comme dans le tHCatalogOperation.

Lire des données de la table dans HDFS

  1. Double-cliquez sur le tHCatalogInput pour ouvrir sa vue Basic settings.

  2. Cliquez sur le bouton [...] à côté du champ Edit schema afin de définir le schéma de la table à lire depuis la base de données.

  3. Cliquez sur le bouton [+] pour ajouter au moins une colonne au schéma. Dans ce scénario, les colonnes ajoutées au schéma sont nommées age et name, respectivement.

  4. Dans le champ Partition, saisissez "match_age=26".

  5. Configurez les autres paramètres comme dans le tHCatalogOperation.

Écrire dans la console les données lues de la table dans HDFS

  1. Double-cliquez sur le tLogRow pour ouvrir sa vue Basic settings.

  2. Cliquez sur Sync columns afin de récupérer le schéma défini dans le composant précédent.

  3. Sélectionnez l'option Table (print values in cells of a table) dans la zone Mode.

Exécuter le Job

Appuyez sur les touches Ctrl+S pour sauvegarder votre Job et appuyez sur F6 pour l'exécuter.

Les données de la table restreinte lues depuis HDFS sont affichées dans la console.

Saisissez l'URL http://talend-hdp:50075/browseDirectory.jsp?dir=/user/hdp/Customer&namenodeInfoPort=50070 dans la barre d'adresse de votre navigateur Web afin de visualiser la table créée.

Cliquez sur le lien Customer.csv pour visualiser le contenu de la table créée.