Propriétés du tImpalaCreateTable Standard - Cloud - 8.0

Impala

Version
Cloud
8.0
Language
Français
Product
Talend Big Data
Talend Big Data Platform
Talend Data Fabric
Talend Real-Time Big Data Platform
Module
Studio Talend
Content
Création et développement > Systèmes tiers > Composants Database (Intégration) > Composants Impala
Gouvernance de données > Systèmes tiers > Composants Database (Intégration) > Composants Impala
Qualité et préparation de données > Systèmes tiers > Composants Database (Intégration) > Composants Impala
Last publication date
2024-04-02

Ces propriétés sont utilisées pour configurer le tImpalaCreateTable s'exécutant dans le framework de Jobs Standard.

Le composant tImpalaCreateTable Standard appartient à la famille Big Data.

Le composant de ce framework est disponible dans tous les produits Talend avec Big Data et dans Talend Data Fabric.

Basic settings

Property type

Sélectionnez la manière de stocker les détails de connexion :
  • Built-In : propriétés utilisées ponctuellement.
  • Repository : sélectionnez le référentiel dans lequel sont stockées les propriétés. Les champs suivants sont automatiquement renseignés à l'aide des données récupérées.

Use an existing connection

Cochez cette case et sélectionnez le composant de connexion adéquat dans la liste Component list pour réutiliser les paramètres d'une connexion que vous avez déjà définie.

Remarque : Lorsqu'un Job contient un Job parent et un Job enfant, si vous devez partager une connexion existante entre ces deux niveaux, par exemple pour partager la connexion créée par le Job parent au Job enfant, procédez comme suit.
  1. au niveau du Job parent, enregistrer la connexion à la base de données à partager dans la vue Basic settings du composant de connexion créant cette connexion à la base de données.
  2. au niveau du Job enfant, utiliser un composant de connexion dédié afin de lire cette connexion enregistrée.

Pour un exemple de partage d'une connexion à une base de données à travers différents niveaux de Jobs, consultez Partager une connexion à une base de données.

Impala Driver

Dans la liste déroulante, sélectionnez le pilote que vous utilisez.

Host

Saisissez l'adresse IP du serveur de la base de données.

Port

Saisissez le numéro du port d'écoute du serveur de la base de données.

Base de données

Saisissez le nom de la base de données.

Additional JDBC Setting

Définissez des propriétés de connexion supplémentaires pour la connexion à la base de données que vous créez.

Cette option n'est pas disponible si vous avez coché la case Use an existing connection dans la vue Basic settings.

Username et Password

Saisissez les informations d'authentification de l'utilisateur ou de l'utilisatrice de la base de données afin de vous authentifier avec LDAP.

Pour saisir le mot de passe, cliquez sur le bouton [...] à côté du champ Password, puis, dans la boîte de dialogue qui s'ouvre, saisissez le mot de passe entre guillemets doubles et cliquez sur OK afin de sauvegarder les paramètres.

Ces paramètres ne sont pas disponibles lorsque vous cochez la case Use kerberos authentication.

Use Kerberos authentication

Si vous accédez à un système Impala s'exécutant avec la sécurité Kerberos, cochez la case et saisissez le Principal Kerberos de ce système Impala.

Schema et Edit Schema

Un schéma est une description de lignes. Il définit le nombre de champs (colonnes) à traiter et à passer au composant suivant. Lorsque vous créez un Job Spark, évitez le mot réservé line lors du nommage des champs.

Built-in : le schéma est créé et conservé localement pour ce composant seulement.

Repository : le schéma existe déjà et est stocké dans le Repository. Ainsi, il peut être réutilisé dans des Jobs et projets.

Lorsque le schéma à réutiliser contient des valeurs par défaut de type Integer ou Function, assurez-vous que ces valeurs par défaut ne sont pas entourées de guillemets. Si elles le sont, supprimez manuellement les guillemets.

Créez le schéma en cliquant sur le bouton Edit Schema. Si le schéma est en mode Repository, trois options sont disponibles :

  • View schema : sélectionnez cette option afin de voir uniquement le schéma.

  • Change to built-in property : sélectionnez cette option pour passer le schéma en mode Built-In et effectuer des modifications locales.

  • Update repository connection : sélectionnez cette option afin de modifier le schéma stocké dans le référentiel et décider de propager ou non les modifications à tous les Jobs.

    Si vous souhaitez propager les modifications uniquement au Job courant, cliquez sur No et sélectionnez à nouveau la métadonnée du schéma dans la fenêtre Repository Content.

Table name

Saisissez le nom de la table à créer.

Action on table

Sélectionnez l'action à effectuer pour créer une table :
  • Create a table : créer une table.
  • Create table if not exists : crée la table si elle n'existe pas déjà.

Format

Sélectionnez le format de données auquel la table à créer sera dédiée :
  • TEXTFILE
  • SEQUENCEFILE
  • RCFILE
  • PARQUET
  • AVRO
  • KUDU (Le format Kudu est disponible uniquement si vous avez installé la mise à jour mensuelle R2023-02 du Studio Talend ou une mise à jour plus récente fournie par Talend.
Notez que, lorsque le format de fichier à utiliser est PARQUET, il est possible qu'il vous soit demandé de trouver le fichier JAR Parquet spécifique et de l'installer dans le Studio Talend.
  • Lorsque le mode de connexion à Hive est Embedded, le Job est exécuté sur votre machine locale et appelle ce JAR installé dans le Studio Talend.

  • Lorsque le mode de connexion à Hive est Standalone, le Job est exécuté sur le serveur hébergeant Hive et ce fichier JAR est envoyé au système HDFS du cluster auquel vous vous connectez. Assurez-vous d'avoir correctement défini l'URI du NameNode dans le champ correspondant de la vue Basic settings.

Ce fichier JAR est téléchargeable depuis le site Web d'Apache. Pour plus d'informations concernant l'installation de modules externes, consultez Installer des modules externes.
Set partitions

Cochez cette case pour ajouter des colonnes de partition à la table à créer. Une fois cochée, vous devez définir le schéma des colonnes de partition à ajouter.

Lorsque vous sélectionnez KUDU dans la liste déroulante Format, vous pouvez configurer le nombre de partitions à créer avec le paramètre Kudu partition (Partition Kudu). La valeur par défaut est HASH PARTITIONS 3. Pour plus d'informations, consultez Partitioning tables (en anglais) dans la documentation Kudu.

Set file location

Si vous souhaitez créer une table Impala dans un répertoire différent de celui par défaut, cochez cette case et saisissez le chemin d'accès au répertoire HDFS à utiliser pour le contenu de la table.

Cela est utile lorsque vous devez créer une table Impala externe en cochant la case Create an external table dans l'onglet Advanced settings.

Use S3 endpoint

La case Use S3 endpoint apparaît lorsque vous cochez la case Set file location pour créer une table Impala externe.

Après avoir coché la case Use S3 endpoint, vous devez renseigner les paramètres suivants dans les champs qui apparaissent :
  • S3 bucket : saisissez le nom du bucket dans lequel vous souhaitez créer la table.

  • Bucket name (Nom du bucket) : saisissez le nom du bucket à utiliser pour stocker les dépendances de votre Job. Ce bucket doit déjà exister sur S3.
  • Temporary resource folder (Dossier de ressource temporaire) : saisissez le répertoire dans lequel vous voulez stocker les dépendances de votre Job. Par exemple, saisissez temp_resources pour écrire les dépendances dans le dossier /temp_resources dans le bucket.

    Si ce dossier existe déjà au moment de l'exécution, son contenu est écrasé par les dépendances à venir. Sinon, ce dossier est créé automatiquement.

  • Access key et Secret key : renseignez les informations d'authentification requises pour vous connecter au bucket Amazon S3 à utiliser.

    Pour saisir le mot de passe, cliquez sur le bouton [...] à côté du champ Password, puis, dans la boîte de dialogue qui s'ouvre, saisissez le mot de passe entre guillemets doubles et cliquez sur OK afin de sauvegarder les paramètres.

Notez que le format du fichier S3 est S3N (S3 Native Filesystem).

Étant donné que la table Impala créée dans S3 est une table externe, la case Use S3 endpoint ne peut être utilisée qu'en cochant la case Create an external table.

Advanced settings

Like table

Cochez cette case et saisissez le nom de la table Impala à copier. Cela vous permet de copier la définition d'une table existante sans copier ses données.

Create an external table

Cochez cette case afin de faire de la table créée une table Hive externe. Ce type de table Hive laisse les données brutes où elles sont si les données sont dans HDFS.

Une table externe est habituellement le meilleur choix pour accéder aux données partagées existant dans un système de fichiers.

Table comment

Saisissez la description à utiliser pour la table à créer.

As select

Cochez cette case et saisissez l'instruction As select pour créer une table Impala basée sur une instruction Select.

Table properties

Ajoutez une table de propriétés Impala personnalisée pour écraser les propriétés utilisées par défaut par le moteur Hadoop du Studio Talend.

tStatCatcher Statistics

Cochez cette case pour collecter les données de log au niveau des composants.

Variables globales

Variables globales

ERROR_MESSAGE : message d'erreur généré par le composant lorsqu'une erreur survient. Cette variable est une variable After et retourne une chaîne de caractères. Cette variable fonctionne uniquement si la case Die on error est décochée, lorsque le composant contient cette case.

Une variable Flow fonctionne durant l'exécution d'un composant. Une variable After fonctionne après l'exécution d'un composant.

Pour renseigner un champ ou une expression à l'aide d'une variable, appuyez sur les touches Ctrl+Espace pour accéder à la liste des variables. À partir de cette liste, vous pouvez choisir la variable que vous souhaitez utiliser.

Pour plus d'informations concernant les variables, consultez Utiliser les contextes et les variables.

Utilisation

Règle d'utilisation

Ce composant fonctionne en standalone.