Propriétés du tVerticaOutput Standard - 7.3

Vertica

Version
7.3
Language
Français
Product
Talend Big Data
Talend Big Data Platform
Talend Data Fabric
Talend Data Integration
Talend Data Management Platform
Talend Data Services Platform
Talend ESB
Talend MDM Platform
Talend Real-Time Big Data Platform
Module
Studio Talend
Content
Création et développement > Systèmes tiers > Composants Database (Intégration) > Composants Vertica
Gouvernance de données > Systèmes tiers > Composants Database (Intégration) > Composants Vertica
Qualité et préparation de données > Systèmes tiers > Composants Database (Intégration) > Composants Vertica
Last publication date
2024-02-22

Ces propriétés sont utilisées pour configurer le tVerticaOutput s'exécutant dans le framework de Jobs Standard.

Le composant tVerticaOutput Standard appartient à la famille Bases de données.

Le composant de ce framework est disponible dans tous les produits Talend.

Remarque : Ce composant est une version spécifique d'un connecteur à une base de données dynamique. Les propriétés associées aux paramètres de la base de données dépendent du type de base de données sélectionné. Pour plus d'informations concernant les connecteurs dynamiques aux bases de données, consultez Composants de bases de données dynamiques.

Basic settings

Base de données

Sélectionnez un type de base de données dans la liste et cliquez sur Apply.

Property Type

Sélectionnez la manière de configurer les informations de connexion.

  • Built-In : les paramètres de connexion seront définis localement pour ce composant. Vous devez spécifier manuellement les valeurs pour toutes les propriétés de connexion.

  • Repository : les paramètres de connexion stockés centralement dans le Repository > Metadata seront réutilisés par ce composant. Vous devez cliquer sur le bouton [...] et, dans la boîte de dialogue Repository Content, sélectionnez les détails de connexion à réutiliser. Toutes les propriétés de connexion seront automatiquement renseignées.

Cliquez sur l'icône pour ouvrir l'assistant de connexion à une base de données et stocker les paramètres de connexion à la base de données configurés dans le composant.

Pour plus d'informations concernant la configuration et le stockage des paramètres de connexion à la base de données, consultez le Guide d'utilisation du Studio Talend.

DB Version

Sélectionnez la version de la base de données.

Use an existing connection

Cochez cette case et sélectionnez le composant de connexion adéquat dans la liste Component list pour réutiliser les paramètres d'une connexion que vous avez déjà définie.

Notez que lorsqu'un Job contient un Job parent et un Job enfant, si vous devez partager une connexion existante entre ces deux niveaux, par exemple pour partager la connexion créée par le Job parent au Job enfant, vous devez :

  1. au niveau du Job parent, enregistrer la connexion à la base de données à partager dans la vue Basic settings du composant de connexion créant cette connexion à la base de données.

  2. au niveau du Job enfant, utiliser un composant de connexion dédié afin de lire cette connexion enregistrée.

Pour un exemple de partage d'une connexion à une base de données à travers différents niveaux de Jobs, consultez le Guide d'utilisation du Studio Talend .

Host

Adresse IP ou le nom d'hôte de la base de données.

Port

Numéro du port d'écoute de la base de données.

Database

Nom de la base de données.

Schema

Schéma de la base de données.

Username et Password

Données d'authentification de l'utilisateur ou de l'utilisatrice de la base de données.

Pour saisir le mot de passe, cliquez sur le bouton [...] à côté du champ Password, puis, dans la boîte de dialogue qui s'ouvre, saisissez le mot de passe entre guillemets doubles et cliquez sur OK afin de sauvegarder les paramètres.

Table

Nom de la table dans laquelle écrire les données.

Action on table

Sélectionnez une opération à effectuer sur la table définie, vous pouvez effectuer l'une des opérations suivantes :

  • Default : n'effectuer aucune opération de table.

  • Drop and create table : la table est supprimée et de nouveau créée.

  • Create table : la table n'existe pas et est créée.

  • Create table if does not exist : créer la table si elle n'existe pas encore.

  • Drop table if exists and create : supprimer la table si elle existe déjà, puis en créer une nouvelle.

  • Clear table : le contenu de la table est supprimé. Vous pouvez annuler cette opération.

Cette propriété n'est pas disponible lorsque la case Enable parallel execution est cochée, dans la vue Advanced settings.

Use "drop cascade"

Cochez cette case pour supprimer tous les objets relatifs à la table qui sera supprimée.

Cette propriété est disponible uniquement lorsqu'une option relative à une suppression de table est sélectionnée dans la liste Action on table.

Action on data

Sélectionnez une action à effectuer sur les données de la table définie.

  • Insert : ajoute de nouvelles entrées à la table. Le Job s'arrête lorsqu'il détecte des doublons.

  • Update : met à jour les entrées existantes.
    Remarque : Dans les cas où toutes les colonnes de schéma sont configurées comme clés, cette action produit une erreur et le Job échoue.
  • Insert or update : insère un nouvel enregistrement. Si l'enregistrement avec la référence donnée existe déjà, une mise à jour est effectuée.
    Remarque : Dans les cas où toutes les colonnes de schéma sont configurées comme clés, cette action produit un message d'avertissement et le Job continue.
  • Update or insert : met à jour l'enregistrement avec la référence donnée. Si l'enregistrement n'existe pas, un nouvel enregistrement est inséré.
    Remarque : Dans les cas où toutes les colonnes de schéma sont configurées comme clés, cette action produit un message d'avertissement et le Job continue.
  • Delete : supprime les entrées correspondant au flux d'entrée.

  • Copy : lit des données d'un fichier texte et insère des tuples d'entrée dans le WOS (Write Optimized Store) ou directement dans le ROS (Read Optimized Store). Cette option convient au chargement de masse. Pour plus d'informations, consultez le Guide de référence Vertica SQL.

Il est nécessaire de spécifier au moins une colonne comme clé primaire sur laquelle baser les opérations Update et Delete. Pour ce faire, cliquez sur Edit Schema et cochez les cases à côté des colonnes que vous souhaitez définir comme clés primaires. Pour une utilisation avancée, cliquez sur l'onglet Advanced settings, vue dans laquelle vous pouvez définir simultanément des clés primaires pour les opérations Update et Delete. Pour ce faire, cochez la case Use field options et, dans la colonne Key in update column, cochez les cases à côté des colonnes à utiliser comme base pour l'opération Update. Répétez l'opération dans la colonne Key in delete column pour l'opération Delete.

Schema et Edit schema

Un schéma est une description de lignes. Il définit le nombre de champs (colonnes) à traiter et à passer au composant suivant. Lorsque vous créez un Job Spark, évitez le mot réservé line lors du nommage des champs.

  • Built-in : le schéma est créé et conservé localement pour ce composant seulement.

  • Repository : le schéma existe déjà et est stocké dans le Repository. Ainsi, il peut être réutilisé dans des Jobs et projets.

Lorsque le schéma à réutiliser contient des valeurs par défaut de type Integer ou Function, assurez-vous que ces valeurs par défaut ne sont pas entourées de guillemets. Si elles le sont, supprimez manuellement les guillemets.

Pour plus d'informations, consultez la description relative à la récupération des schémas de tables dans le Guide d'utilisation du Studio Talend.

Créez le schéma en cliquant sur le bouton Edit Schema.
Remarque : Si vous effectuez des modifications, le schéma passe automatiquement en type built-in.
  • View schema : sélectionnez cette option afin de voir uniquement le schéma.

  • Change to built-in property : sélectionnez cette option pour passer le schéma en mode Built-In et effectuer des modifications locales.

  • Update repository connection : sélectionnez cette option afin de modifier le schéma stocké dans le référentiel et décider de propager ou non les modifications à tous les Jobs. Si vous souhaitez propager les modifications uniquement au Job courant, cliquez sur No et sélectionnez à nouveau la métadonnée du schéma dans la fenêtre Repository Content.

Ce composant offre la fonction de schéma dynamique. Cela vous permet de récupérer des colonnes inconnues de fichiers sources ou de copier des lots de colonnes d'une source sans avoir à mapper chaque colonne individuellement. Pour plus d'informations concernant la définition des schémas dynamiques, consultez le Guide d'utilisation du Studio Talend.

Cette fonctionnalité de schéma dynamique est conçue pour permettre de récupérer des colonnes inconnues d'une table. Il est recommandé de l'utiliser uniquement à cet effet et non pour créer des tables.

Die on error

Cochez cette case pour arrêter l'exécution du Job lorsqu'une erreur survient.

Décochez la case pour ignorer les lignes en erreur et terminer le traitement des lignes sans erreur.

Lorsque les erreurs sont ignorées, vous pouvez récupérer les lignes en erreur en utilisant la connexion Row > Reject.

Advanced settings

Use alternate schema

Sélectionnez cette option pour utiliser un schéma différent de celui spécifié par le composant établissant la connexion à la base de données (le composant sélectionné dans la liste déroulante Component list de la vue Basic settings). Une fois cette option sélectionnée, fournissez le nom du schéma souhaité dans le champ Schema.

Cette option est disponible lorsque la case Use an existing connection est cochée dans l'onglet Basic settings.

Additional JDBC Parameters

Spécifiez des paramètres JDBC supplémentaires pour la connexion à la base de données créée.

Cette propriété est indisponible lorsque la case Use an existing connection de la vue Basic settings est cochée.

Abort on error

Cochez cette case pour arrêter l'opération Copy si une ligne est rejetée et effectuer un rollback de l'opération. Aucune donnée n'est chargée.

Cette propriété est disponible uniquement lorsque l'action COPY est sélectionnée dans la liste Action on data.

Maximum rejects

Saisissez un nombre pour configurer la commande REJECTMAX utilisée par Vertica, qui indique la limite maximale d'enregistrements logiques rejetés avant échec du chargement. Si cette option n'est pas renseignée ou que sa valeur est 0, un nombre illimité de rejets est autorisé.

Cette propriété est disponible uniquement lorsque l'action COPY est sélectionnée dans la liste Action on data.

No commit

Cochez cette case pour empêcher la transaction en cours d'être commitée automatiquement.

Cette propriété est disponible uniquement lorsque l'action COPY est sélectionnée dans la liste Action on data.

Exception file

Saisissez le chemin d'accès au fichier ou parcourez votre système jusqu'au fichier dans lequel écrire les messages, indiquant le numéro de la ligne d'entrée et la raison pour le rejet de chaque enregistrement de données.

Cette propriété est disponible uniquement lorsque l'action COPY est sélectionnée dans la liste Action on data.

Exception file node

Saisissez le nom du nœud pour le fichier des exceptions. S'il n'est pas spécifié, les opérations se font par défaut sur le nœud ayant initié la requête.

Cette propriété est disponible uniquement lorsque l'action COPY est sélectionnée dans la liste Action on data.

Rejected data file

Saisissez le chemin d'accès au fichier ou parcourez votre système jusqu'au fichier dans lequel écrire les lignes rejetées. Ce fichier peut être modifié afin de résoudre les problèmes et rechargé.

Cette propriété est disponible uniquement lorsque l'action COPY est sélectionnée dans la liste Action on data.

Rejected data file node

Saisissez le nom du nœud du fichier des données rejetées. S'il n'est pas spécifié, les opérations se font par défaut sur le nœud ayant initié la requête.

Cette propriété est disponible uniquement lorsque l'action COPY est sélectionnée dans la liste Action on data.

Commit every

Spécifiez le nombre de lignes à traiter avant de commiter un lot de lignes dans la base de données.

Cette option garantit la qualité de la transaction (cependant pas de rollback) et surtout une meilleure performance d'exécution.

Use batch mode

Cochez cette case pour activer le mode de traitement par lots pour le traitement des données et, dans le champ Batch size qui s'affiche, spécifiez le nombre d'enregistrements à traiter dans chaque lot.

Cette propriété est disponible uniquement lorsque l'option Insert, Update, Delete ou Copy est sélectionnée dans la liste Action on data.

Additional Columns

Cette option vous permet d'appeler des fonctions SQL afin d'effectuer des actions sur des colonnes, à l'exclusion des actions d'insertion, de mise à jour, de suppression ou qui nécessitent un prétraitement particulier. Cette option ne vous est pas proposée si vous créez (avec ou sans suppression) une table de base de données.

  • Name : saisissez le nom de la colonne du schéma à modifier ou à insérer en tant que nouvelle colonne.

  • DataType : saisissez le type de données pour la nouvelle colonne.

  • SQL expression : saisissez l'instruction SQL à exécuter afin de modifier ou d'insérer les données de la colonne souhaitée.

  • Position : sélectionnez Before, Replace ou After selon l'action à effectuer sur la colonne de référence.

  • Reference column : sélectionnez une colonne de référence que le composant peut utiliser pour placer ou remplacer la nouvelle colonne ou la colonne modifiée.

Use field options

Cochez cette case pour personnaliser une requête, surtout lorsqu'il y a plusieurs actions sur les données.

  • Update Key : cochez cette case dans la colonne sur laquelle se base la mise à jour des données.
  • Deletion Key : cochez cette case dans la colonne sur laquelle se base la suppression des données.
  • Updatable : cochez cette case si les données de la colonne peuvent être mises à jour.

  • Insertable : cochez cette case si les données de la colonne peuvent être insérées.

Debug query mode

Cochez cette case pour afficher chaque étape durant le traitement des entrées dans une base de données.

Support null in "SQL WHERE" statement

Cochez cette case pour valider la valeur Null dans l'instruction "SQL WHERE".

Create projection when create table

Cochez cette case afin de créer une projection pour une table à créer.

Cette case est disponible uniquement lorsqu'une option relative à la création de table est sélectionnée dans la liste Action on table.

tStatCatcher Statistics

Cochez cette case pour collecter les métadonnées de traitement du Job, aussi bien au niveau du Job qu'au niveau de chaque composant.

Enable parallel execution

Cocher cette case permet de traiter plusieurs flux de données simultanément. Notez que cette fonctionnalité dépend de la capacité de la base de données ou de l'application à gérer plusieurs insertions en parallèle ainsi que le nombre de processeurs utilisés. Dans le champ Number of parallel executions, vous pouvez :
  • Saisir le nombre d'exécutions parallèles désirées.
  • Appuyer sur Ctrl+Espace et sélectionner la variable de contexte dans la liste. Pour plus d'informations, consultez le Guide d'utilisation de Studio Talend.

Notez que lorsque l'exécution parallèle est activée, il n'est pas possible d'utiliser les variables globales pour retrouver les valeurs de retour dans un sous-Job.

  • Le champ Action on table n'est pas disponible avec la fonction de parallélisation. Ainsi, pour créer une table, vous devez utiliser un composant tCreateTable.
  • Lorsque l'exécution parallèle est activée, il n'est pas possible d'utiliser les variables globales pour retrouver les valeurs de retour dans un sous-Job.

Global Variables

NB_LINE

Nombre de lignes traitées. Cette variable est une variable After et retourne un entier.

NB_LINE_COPIED

Nombre de lignes copiées. Cette variable est une variable After et retourne un entier.

NB_LINE_DELETED

Nombre de lignes supprimées. Cette variable est une variable After et retourne un entier.

NB_LINE_INSERTED

Nombre de lignes insérées. Cette variable est une variable After et retourne un entier.

NB_LINE_REJECTED

Nombre de lignes rejetées. Cette variable est une variable After et retourne un entier.

NB_LINE_UPDATED

Nombre de lignes mises à jour. Cette variable est une variable After et retourne un entier.

ERROR_MESSAGE

Message d'erreur généré par le composant lorsqu'une erreur survient. Cette variable est une variable After et retourne une chaîne de caractères.

Utilisation

Règle d'utilisation

Ce composant est généralement utilisé comme composant de sortie. Il permet de faire des actions sur une table ou sur les données d'une table d'une base de données Vertica. Il permet aussi de créer un flux de rejet avec un lien Row > Rejects filtrant les données en erreur. Pour un exemple d'utilisation du composant tMysqlOutput, consultez Récupérer les données erronées à l'aide d'un lien Reject.

Le Studio Talend et la base de données Vertica permettent de créer des applications de data warehouse et de datamart très rapides et abordables. Pour plus d'informations concernant la manière de configurer le Studio Talend pour se connecter à Vertica, consultez Talend and HP Vertica Tips and Techniques (en anglais).

Paramètres dynamiques

Cliquez sur le bouton [+] pour ajouter une ligne à la table. Dans le champ Code, saisissez une variable de contexte afin de sélectionner dynamiquement votre connexion à la base de données parmi celles prévues dans votre Job. Cette fonctionnalité est utile si vous devez accéder à plusieurs tables de bases de données ayant la même structure mais se trouvant dans différentes bases de données, en particulier lorsque vous travaillez dans un environnement dans lequel vous ne pouvez pas changer les paramètres de votre Job, par exemple lorsque votre Job doit être déployé et exécuté indépendamment d'un Studio Talend.

La table Dynamic settings est disponible uniquement lorsque la case Use an existing connection est cochée dans la vue Basic settings. Lorsqu'un paramètre dynamique est configuré, la liste Component List de la vue Basic settings devient inutilisable.

Pour des exemples d'utilisation de paramètres dynamiques, consultez Lire des données dans des bases de données MySQL à l'aide de connexions dynamiques basées sur les variables de contexte et Lire des données à partir de différentes bases de données MySQL à l'aide de paramètres de connexion chargés dynamiquement. Pour plus d'informations concernant les paramètres dynamiques (Dynamic settings) et les variables de contexte, consultez le Guide d'utilisation du Studio Talend.