Propriétés du tRedshiftOutput Standard - 7.3

Amazon Redshift

Version
7.3
Language
Français
Product
Talend Big Data
Talend Big Data Platform
Talend Data Fabric
Talend Data Integration
Talend Data Management Platform
Talend Data Services Platform
Talend ESB
Talend MDM Platform
Talend Real-Time Big Data Platform
Module
Studio Talend
Content
Création et développement > Systèmes tiers > Services Amazon (Intégration) > Composants Amazon Redshift
Gouvernance de données > Systèmes tiers > Services Amazon (Intégration) > Composants Amazon Redshift
Qualité et préparation de données > Systèmes tiers > Services Amazon (Intégration) > Composants Amazon Redshift
Last publication date
2024-02-22

Ces propriétés sont utilisées pour configurer le tRedshiftOutput s'exécutant dans le framework de Jobs Standard.

Le composant tRedshiftOutput Standard appartient aux familles Cloud et Bases de données.

Le composant de ce framework est disponible dans tous les produits Talend.

Remarque : Ce composant est une version spécifique d'un connecteur à une base de données dynamique. Les propriétés associées aux paramètres de la base de données dépendent du type de base de données sélectionné. Pour plus d'informations concernant les connecteurs dynamiques aux bases de données, consultez Composants de bases de données dynamiques.

Basic settings

Base de données

Sélectionnez un type de base de données dans la liste et cliquez sur Apply.

Property type

Peut-être Built-In ou Repository.

  • Built-in : propriétés utilisées ponctuellement sans stockage dans le référentiel.
  • Repository : sélectionnez le référentiel dans lequel sont stockées les propriétés. Les champs suivants sont automatiquement renseignés à l'aide des données récupérées.

Cliquez sur cette icône pour ouvrir l'assistant de connexion à la base de données et stocker les paramètres de connexion configurés dans la vue Basic settings du composant.

Pour plus d'informations concernant la configuration et le stockage des paramètres de connexion à la base de données, consultez le Guide d'utilisation du Studio Talend.

Use an existing connection

Cochez cette case et sélectionnez le composant de connexion adéquat dans la liste Component list pour réutiliser les paramètres d'une connexion que vous avez déjà définie.

Remarque : Notez que lorsqu'un Job contient un Job parent et un Job enfant, si vous devez partager une connexion existante entre ces deux niveaux, par exemple pour partager la connexion créée par le Job parent au Job enfant, vous devez :
  1. au niveau du Job parent, enregistrer la connexion à la base de données à partager dans la vue Basic settings du composant de connexion créant cette connexion à la base de données.

  2. au niveau du Job enfant, utiliser un composant de connexion dédié afin de lire cette connexion enregistrée.

Pour un exemple de partage d'une connexion à une base de données à travers différents niveaux de Jobs, consultez le Guide d'utilisation du Studio Talend .

Host

Nom de l'hôte ou adresse IP du serveur de base de données.

Port

Numéro du port d'écoute du serveur de base de données.

Database

Nom de la base de données.

Le bucket et la base de données Redshift à utiliser doivent se situer dans la même région sur Amazon. Cela permet d'éviter les erreurs S3ServiceException d'Amazon. Pour plus d'informations concernant ces erreurs, consultez S3ServiceException Errors (en anglais).

Schema

Nom du schéma.

Username et Password

Données d'authentification de l'utilisateur ou de l'utilisatrice à la base de données.

Pour saisir le mot de passe, cliquez sur le bouton [...] à côté du champ Password, puis, dans la boîte de dialogue qui s'ouvre, saisissez le mot de passe entre guillemets doubles et cliquez sur OK afin de sauvegarder les paramètres.

Additional JDBC Parameters

Définissez des propriétés JDBC supplémentaires pour la connexion que vous créez. Les propriétés sont séparées par une esperluette et chaque propriété est une paire clé-valeur. Par exemple, ssl=true & sslfactory=com.amazon.redshift.ssl.NonValidatingFactory, qui signifie que la connexion sera créée en utilisant le SSL.

Table

Nom de la table à créer. Notez que seule une table peut être écrite à la fois.

Action on table

Sur la table définie, vous pouvez effectuer l'une des opérations suivantes :

None : aucune opération n'est effectuée.

Drop and create table : la table est supprimée et de nouveau créée.

Create table : la table n'existe pas et est créée.

Create table if not exists : la table est créée si elle n'existe pas.

Drop table if exists and create : la table est supprimée si elle existe déjà et de nouveau créée.

Clear table : le contenu de la table est supprimé.

Action on data

Sélectionnez l'opération que vous voulez effectuer :

Insert : ajoute de nouvelles entrées à la table. Le Job s'arrête lorsqu'il détecte des doublons.

Update : met à jour les entrées existantes.
Remarque : Dans les cas où toutes les colonnes de schéma sont configurées comme clés, cette action produit une erreur et le Job échoue.
Insert or update : insère un nouvel enregistrement. Si l'enregistrement avec la référence donnée existe déjà, une mise à jour est effectuée.
Remarque : Dans les cas où toutes les colonnes de schéma sont configurées comme clés, cette action produit un message d'avertissement et le Job continue.
Update or insert : met à jour l'enregistrement avec la référence donnée. Si l'enregistrement n'existe pas, un nouvel enregistrement est inséré.
Remarque : Dans les cas où toutes les colonnes de schéma sont configurées comme clés, cette action produit un message d'avertissement et le Job continue.

Delete : supprime les entrées correspondant au flux d'entrée.

Avertissement :

Il est nécessaire de spécifier au moins une colonne comme clé primaire sur laquelle baser les opérations Update et Delete. Pour ce faire, cliquez sur Edit Schema et cochez les cases à côté des colonnes que vous souhaitez définir comme clés primaires. Pour une utilisation avancée, cliquez sur l'onglet Advanced settings, vue dans laquelle vous pouvez définir simultanément des clés primaires pour les opérations Update et Delete. Pour ce faire : Cochez la case Use field options et, dans la colonne Key in update, cochez les cases à côté des colonnes à utiliser comme base pour l'opération de mise à jour. Répétez l'opération dans la colonne Key in delete pour l'opération de suppression.

Schema et Edit Schema

Un schéma est une description de lignes. Il définit le nombre de champs (colonnes) à traiter et à passer au composant suivant. Lorsque vous créez un Job Spark, évitez le mot réservé line lors du nommage des champs.

Ce composant offre la fonction de schéma dynamique. Cela vous permet de récupérer des colonnes inconnues de fichiers sources ou de copier des lots de colonnes d'une source sans avoir à mapper chaque colonne individuellement. Pour plus d'informations concernant la définition des schémas dynamiques, consultez le Guide d'utilisation du Studio Talend.

Cette fonctionnalité de schéma dynamique est conçue pour permettre de récupérer des colonnes inconnues d'une table. Il est recommandé de l'utiliser uniquement à cet effet et non pour créer des tables.

Built-in : le schéma est créé et conservé localement pour ce composant seulement.

Repository : le schéma existe déjà et est stocké dans le Repository. Ainsi, il peut être réutilisé dans des Jobs et projets.

Lorsque le schéma à réutiliser contient des valeurs par défaut de type Integer ou Function, assurez-vous que ces valeurs par défaut ne sont pas entourées de guillemets. Si elles le sont, supprimez manuellement les guillemets.

Pour plus d'informations, consultez la description relative à la récupération des schémas de tables dans le Guide d'utilisation du Studio Talend.

Créez le schéma en cliquant sur le bouton Edit Schema. Si le schéma est en mode Repository, trois options sont disponibles :

  • View schema : sélectionnez cette option afin de voir uniquement le schéma.

  • Change to built-in property : sélectionnez cette option pour passer le schéma en mode Built-In et effectuer des modifications locales.

  • Update repository connection : sélectionnez cette option afin de modifier le schéma stocké dans le référentiel et décider de propager ou non les modifications à tous les Jobs. Si vous souhaitez propager les modifications uniquement au Job courant, cliquez sur No et sélectionnez à nouveau la métadonnée du schéma dans la fenêtre Repository Content.

Die on error

Cette case est cochée par défaut. Décochez cette case pour terminer le traitement avec les lignes sans erreur, et ignorer les lignes en erreur. Si nécessaire, vous pouvez récupérer les lignes d'erreur via le lien Row > Rejects.

Paramètres avancés

Use alternate schema

Sélectionnez cette option pour utiliser un schéma différent de celui spécifié par le composant établissant la connexion à la base de données (le composant sélectionné dans la liste déroulante Component list de la vue Basic settings). Une fois cette option sélectionnée, fournissez le nom du schéma souhaité dans le champ Schema.

Cette option est disponible lorsque la case Use an existing connection est cochée dans l'onglet Basic settings.

Extend Insert

Cochez cette case pour effectuer une insertion de masse d'un ensemble de lignes défini et non les insérer ligne par ligne. Le gain de performance est considérable.

Number of rows per insert : saisissez le nombre de lignes à insérer par opération. Notez que si vous sélectionnez un nombre important de lignes, cela peut augmenter la quantité de mémoire utilisée et donc diminuer les performances.

Avec Amazon Redshift, le nombre de lignes par insertion doit être inférieur à 32 767. Si le nombre que vous saisissez dépasse cette limite, le Studio modifie ce nombre pour qu'il soit juste sous la limite.

Remarque :

Cette option n'est pas compatible avec le lien Reject. Vous devez alors décocher la case si vous utilisez un lien Row > Rejects avec ce composant.

Use Batch

Cochez cette case pour activer le mode de traitement de données par lot.

Remarque :

Cette case est disponible uniquement lorsque vous avez sélectionné l'option Update ou Delete dans la liste Action on data.

Batch Size

Spécifiez le nombre d'enregistrements à traiter dans chaque lot.

Ce champ est disponible uniquement lorsque la case Use batch mode est cochée.

Commit every

Nombre de lignes à inclure dans le lot avant de commencer l'écriture dans la base. Cette option assure la qualité de la transaction (mais pas le rollback) et permet une meilleure performance lors de l'exécution.

Additional Columns

Cette option n'est pas disponible si vous créez (avec ou sans suppression) la table de base de données. Cette option vous permet d'appeler des fonctions SQL afin d'effectuer des actions sur des colonnes, à l'exclusion des actions d'insertion, de mise à jour, de suppression ou qui nécessitent un prétraitement particulier.

  • Name : saisissez le nom de la colonne du schéma à modifier ou à insérer en tant que nouvelle colonne.
  • SQL expression : saisissez l'instruction SQL à exécuter afin de modifier ou d'insérer les données de la colonne souhaitée.
  • Position : sélectionnez Before, Replace ou After selon l'action à effectuer sur la colonne de référence.
  • Reference column : saisissez une colonne de référence que le composant tDBOutput peut utiliser pour placer ou remplacer la nouvelle colonne ou la colonne modifiée.

Use field options

Cochez cette case pour personnaliser une requête, surtout lorsqu'il y a plusieurs actions sur les données.

Support null in "SQL WHERE" statement

Cochez cette case pour valider la valeur Null dans l'instruction "SQL WHERE".

Table name include schema

Cochez cette case pour spécifier le schéma avec la table, dans le champ Table de la vue Basic settings. Lorsque cette case est cochée, vous pouvez spécifier le schéma et la table dans le champ Table, au format votreSchéma.votreTable. Le Job va localiser votreTable dans votreSchéma.

JDBC URL
Sélectionnez un moyen d'accéder à une base de données Amazon Redshift dans la liste déroulante JDBC URL.
  • Standard : utilisez le moyen standard pour accéder à la base de données Redshift.
  • SSO : utilisez l'authentification unique (SSO) d'IAM pour accéder à la base de données Redshift. Avant de sélectionner cette option, assurez-vous que le rôle IAM ajouté à votre cluster Redshift possède les droits d'accès appropriés à ce cluster. Pour plus d'informations, contactez l'administrateur de vos services AWS.

    Cette option est disponible uniquement lorsque la case Use an existing connection n'est pas cochée dans la vue Basic settings.

tStat Catcher Statistics

Cochez cette case afin de collecter les données au niveau du composant.

Enable parallel execution

Cocher cette case permet de traiter plusieurs flux de données simultanément. Notez que cette fonctionnalité dépend de la capacité de la base de données ou de l'application à gérer plusieurs insertions en parallèle ainsi que le nombre de processeurs utilisés. Dans le champ Number of parallel executions, vous pouvez :
  • Saisir le nombre d'exécutions parallèles désirées.
  • Appuyer sur Ctrl+Espace et sélectionner la variable de contexte dans la liste. Pour plus d'informations, consultez le Guide d'utilisation de Studio Talend.

Notez que lorsque l'exécution parallèle est activée, il n'est pas possible d'utiliser les variables globales pour retrouver les valeurs de retour dans un sous-Job.

  • Le champ Action on table n'est pas disponible avec la fonction de parallélisation. Ainsi, pour créer une table, vous devez utiliser un composant tCreateTable.
  • Lorsque l'exécution parallèle est activée, il n'est pas possible d'utiliser les variables globales pour retrouver les valeurs de retour dans un sous-Job.
Remarque :

Le lien Row > Reject n'est pas disponible lorsqu'une de ces trois options est sélectionnée : Die on error, Extend Insert et Use Batch. Assurez-vous que votre Job s'exécute correctement, ne sélectionnez aucune de ces trois options en présence d'un lien Row > Reject.

Variables globales

Variables globales

NB_LINE : nombre de lignes traitées. Cette variable est une variable After et retourne un entier.

NB_LINE_UPDATED : nombre de lignes mises à jour. Cette variable est une variable After et retourne un entier.

NB_LINE_INSERTED : nombre de lignes insérées. Cette variable est une variable After et retourne un entier.

NB_LINE_DELETED : nombre de lignes supprimées. Cette variable est une variable After et retourne un entier.

NB_LINE_REJECTED : nombre de lignes rejetées. Cette variable est une variable After et retourne un entier.

ERROR_MESSAGE : message d'erreur généré par le composant lorsqu'une erreur survient. Cette variable est une variable After et retourne une chaîne de caractères. Cette variable fonctionne uniquement si la case Die on error est décochée, lorsque le composant contient cette case.

Une variable Flow fonctionne durant l'exécution d'un composant.

Pour renseigner un champ ou une expression à l'aide d'une variable, appuyez sur les touches Ctrl+Espace pour accéder à la liste des variables. À partir de cette liste, vous pouvez choisir la variable que vous souhaitez utiliser.

Pour plus d'informations concernant les variables, consultez le Guide d'utilisation du Studio Talend.

Utilisation

Règle d'utilisation

Ce composant couvre toutes les possibilités de requête SQL. Il permet de faire des actions sur une table ou les données d'une table d'une base de données Amazon Redshift. Il permet de créer un flux de rejet, avec un lien Row > Rejects filtrant les données en erreur. Pour un exemple d'utilisation, consultez Récupérer les données erronées à l'aide d'un lien Reject.

Dynamic settings

Cliquez sur le bouton [+] pour ajouter une ligne à la table. Dans le champ Code, saisissez une variable de contexte afin de sélectionner dynamiquement votre connexion à la base de données parmi celles prévues dans votre Job. Cette fonctionnalité est utile si vous devez accéder à plusieurs tables de bases de données ayant la même structure mais se trouvant dans différentes bases de données, en particulier lorsque vous travaillez dans un environnement dans lequel vous ne pouvez pas changer les paramètres de votre Job, par exemple lorsque votre Job doit être déployé et exécuté indépendamment d'un Studio Talend.

La table Dynamic settings est disponible uniquement lorsque la case Use an existing connection est cochée dans la vue Basic settings. Lorsqu'un paramètre dynamique est configuré, la liste Component List de la vue Basic settings devient inutilisable.

Pour des exemples d'utilisation de paramètres dynamiques, consultez Lire des données dans des bases de données MySQL à l'aide de connexions dynamiques basées sur les variables de contexte et Lire des données à partir de différentes bases de données MySQL à l'aide de paramètres de connexion chargés dynamiquement. Pour plus d'informations concernant les paramètres dynamiques (Dynamic settings) et les variables de contexte, consultez le Guide d'utilisation du Studio Talend.

Limitation

Du fait d'une incompatibilité de licence, un ou plusieurs Jar requis pour utiliser ce composant ne sont pas fournis. Vous pouvez installer les Jar manquants pour ce composant en cliquant sur le bouton Install dans l'onglet Component. Vous pouvez également trouver les Jar manquants et les ajouter dans l'onglet Modules de la perspective Integration de votre Studio. Pour plus d'informations, consultez la page Installation de modules externes. Pour plus d'informations concernant l'installation de modules externes, consultez Talend Help Center (https://help.talend.com).