Créer une connexion à HDFS - 7.1

Guide utilisateur de Talend Data Fabric Studio

author
Talend Documentation Team
EnrichVersion
7.1
EnrichProdName
Talend Data Fabric
task
Création et développement
EnrichPlatform
Studio Talend

Procédure

  1. Développez le nœud Hadoop cluster sous le nœud Metadata dans la vue Repository puis cliquez-droit sur la connexion Hadoop utilisée et sélectionnez Create HDFS dans le menu contextuel.
  2. Dans l'assistant de connexion qui s'ouvre, renseignez les propriétés génériques de la connexion que vous devez créer, notamment le nom (champ Name), l'objectif (champ Purpose) et la Description. Le champ Status est un champ que vous pouvez personnaliser dans la fenêtre [File] > [Edit project properties].
  3. Une fois les champs renseignés, cliquez sur Next pour passer à l'étape suivante. L'étape suivante vous permet de renseigner les données de connexion à HDFS. La propriété User name est automatiquement renseignée par la valeur héritée de la connexion Hadoop sélectionnée dans les étapes précédentes.
    Les champs Row separator et Field separator utilisent les valeurs par défaut.
    Si la connexion que vous utilisez autorise la sécurité Kerberos, le champ User name est automatiquement désactivé.
  4. Si les données auxquelles accéder dans HDFS comprennent un message d'en-tête que vous souhaitez ignorer, cochez la case Header et saisissez le nombre de lignes d'en-tête à ignorer.
  5. Si vous devez définir des noms de colonnes pour les données auxquelles accéder, cochez la case Set heading row as column names. Cela permet au Studio de sélectionner la dernière ligne ignorée et de l'utiliser pour nommer les colonnes dans les données.
    Par exemple, cochez cette case et saisissez 1 dans le champ Header. Lorsque vous récupérez le schéma des données à utiliser, la première ligne est ignorée en tant que corps des données mais est utilisée pour nommer les colonnes des données.
  6. Si vous devez utiliser une configuration HDFS personnalisée pour la distribution d'Hadoop à utiliser, cliquez sur le bouton [...] à côté de Hadoop properties pour ouvrir la table des propriétés correspondantes et ajouter la ou les propriété(s) à personnaliser. Lors de l'exécution, les propriétés personnalisées écrasent celles par défaut utilisées par le Studio pour son moteur Hadoop.
    Une table Parent Hadoop properties s'affiche au-dessus de la table des propriétés que vous modifiez. La table mère est en lecture seule et affiche les propriétés Hadoop ayant été définies dans l'assistant de la connexion Hadoop mère, sur laquelle se base la connexion à HDFS.
    Pour plus d'informations concernant les propriétés relatives à HDFS de Hadoop, consultez la documentation de Apache Hadoop à l'adresse suivante : http://hadoop.apache.org/docs/current/ (en anglais) ou la documentation de la distribution Hadoop que vous utilisez. Par exemple, la page suivante liste certaines propriétés HDFS par défaut http://hadoop.apache.org/docs/current/hadoop-project-dist/hadoop-hdfs/hdfs-default.xml.
    Pour tirer parti de cette table des propriétés, consultez Configurer les propriétés réutilisables de Hadoop.
  7. Si nécessaire, modifiez les séparateurs par défaut et cliquez sur le bouton Check afin de vérifier votre connexion.
    Un message apparaît pour indiquer si la connexion est établie.
  8. Cliquez sur Finish afin de valider ces changements.
    La nouvelle connexion HDFS créée est disponible sous le nœud Hadoop cluster dans la vue Repository.
    Remarque :

    Cette vue Repository peut varier suivant l'édition du Studio que vous utilisez.

    Si vous devez utiliser un contexte environnemental pour définir les paramètres de cette connexion, cliquez sur le bouton Export as context pour ouvrir l'assistant correspondant et choisir parmi les options suivantes :
    • Create a new repository context : créer le contexte environnemental depuis la connexion Hadoop actuelle, c'est-à-dire que les paramètres à configurer dans l'assistant sont pris comme variables de contexte avec les valeurs données à ces paramètres.

    • Reuse an existing repository context : utiliser les variables d'un contexte environnemental afin de configurer la connexion actuelle.

    Si vous devez annuler l'implémentation du contexte, cliquez sur Revert context. Les valeurs des variables de contexte utilisées sont directement mises dans l'assistant.

    Pour un exemple étape par étape concernant l'utilisation de la fonctionnalité Export as context, consultez Exporter une métadonnée en tant que contexte et réutiliser ses paramètres de contexte pour configurer une connexion.

  9. Cliquez-droit sur la nouvelle connexion et sélectionnez Retrieve schema dans la liste déroulante afin de charger le schéma de fichier pour établir la connexion.