tRedshiftUnload

Composants Talend Open Studio Guide de référence

EnrichVersion
6.3
EnrichProdName
Talend Open Studio for Data Quality
Talend Open Studio for Big Data
Talend Open Studio for ESB
Talend Open Studio for MDM
Talend Open Studio for Data Integration
task
Gouvernance de données
Qualité et préparation de données
Création et développement
EnrichPlatform
Studio Talend

Fonction

Le composant tRedshiftUnload exécute une requête spécifiée dans Amazon Redshift et retire le résultat de la requête pour l'ajouter à un ou plusieurs fichiers dans Amazon S3.

Objectif

Ce composant vous permet de retirer des données dans Amazon Redshift et les ajouter dans des fichiers dans Amazon S3.

Propriétés du tRedshiftUnload

Famille du composant

Databases/Amazon/Redshift

 

Basic settings

Property Type

Peut être Built-In ou Repository.

Depuis la version 5.6, les modes Built-In et Repository sont disponibles dans toutes les solutions de Talend.

 

 

Built-In : Propriété utilisée ponctuellement.

 

 

Repository : Sélectionnez le fichier de propriétés du composant. Les champs suivants sont alors pré-remplis à l'aide des données collectées.

Database settings

Use an existing connection

Cochez cette case et sélectionnez le composant de connexion adéquat à partir de la liste Component List pour réutiliser les paramètres d'une connexion que vous avez déjà définie.

 

Host

Saisissez l'adresse IP ou le nom de l'hôte du serveur de la base de données.

 

Port

Saisissez le numéro du port d'écoute du serveur de la base de données.

 

Database

Saisissez le nom de la base de données.

 

Schema

Saisissez le nom du schéma.

 

Username et Password

Saisissez les données d'authentification de l'utilisateur de la base de données.

Pour saisir le mot de passe, cliquez sur le bouton [...] à côté du champ Password, puis, dans la boîte de dialogue qui s'ouvre, saisissez le mot de passe entre guillemets doubles et cliquez sur OK afin de sauvegarder les paramètres.

 

Additional JDBC Parameters

Définissez des propriétés JDBC supplémentaires pour la connexion que vous créez. Les propriétés sont séparées par une esperluette et chaque propriété est une paire clé-valeur. Par exemple, ssl=true & sslfactory=com.amazon.redshift.ssl.NonValidatingFactory, qui signifie que la connexion sera créée en utilisant le SSL.

 

Table Name

Saisissez le nom de la table de laquelle lire les données.

 

Schema et Edit schema

Un schéma est une description de lignes, il définit le nombre de champs (colonnes) qui sont traités et passés au composant suivant. Le schéma est soit local (Built-In), soit distant dans le Repository.

Depuis la version 5.6, les modes Built-In et Repository sont disponibles dans toutes les solutions de Talend.

 

 

Built-In : Le schéma est créé et conservé ponctuellement pour ce composant seulement. Voir également le Guide utilisateur du Studio Talend.

 

 

Repository : Le schéma existe déjà et il est stocké dans le Repository. Ainsi, il peut être réutilisé. Voir également le Guide utilisateur du Studio Talend.

 

 

Cliquez sur Edit schema pour modifier le schéma. Si le schéma est en mode Repository, trois options sont disponibles :

  • View schema : sélectionnez cette option afin de voir le schéma.

  • Change to Built-In property : sélectionnez cette option pour passer le schéma en mode Built-In et effectuer des modifications locales.

  • Update repository connection : sélectionnez cette option afin de modifier le schéma stocké dans le référentiel et décider de propager ou non les modifications à tous les Jobs. Si vous souhaitez propager les modifications uniquement au Job courant, cliquez sur No et sélectionnez à nouveau la métadonnée du schéma dans la fenêtre [Repository Content].

 

Query Type et Query

Saisissez votre requête de base de données en faisant attention à ce que l'ordre des champs corresponde à celui défini dans le schéma.

 

Guess Query

Cliquez sur le bouton Guess Query pour générer la requête correspondant au schéma de votre table dans le champ Query.

S3 Setting

Access Key

Spécifiez l'ID de la clé d'accès identifiant de manière unique un compte AWS. Pour plus d'informations concernant l'obtention de votre clé d'accès et clé secrète, consultez Getting Your AWS Access Keys (en anglais).

 

Secret Key

Spécifiez la clé secrète d'accès, constituant les informations de sécurité, ainsi que la clé d'accès.

Pour saisir la clé secrète, cliquez sur le bouton [...] à côté du champ Secret key, puis, dans la boîte de dialogue qui s'ouvre, saisissez le mot de passe entre guillemets doubles puis cliquez sur OK afin de sauvegarder les paramètres.

 

Bucket

Saisissez le nom du bucket Amazon S3, le dossier de plus haut niveau, duquel retirer les données.

 

Key prefix

Saisissez le préfixe du nom pour les fichiers à retirer de Amazon S3. Par défaut, les fichiers retirés sont écrits par slice du cluster Redshift et les noms de fichiers sont écrits au format <object_path>/<name_prefix><slice-number>_part_<file-number>.

Advanced settings

File type

Sélectionnez le type des fichiers retirés de Amazon S3 dans la liste :

  • Delimited file or CSV : fichier délimité/CSV.

  • Fixed width : fichier à taille fixe.

 

Fields terminated by

Saisissez le caractère utilisé pour séparer les champs.

Ce champ est disponible uniquement lorsque l'option Delimited file or CSV est sélectionnée dans la liste File type.

 

Enclosed by

Sélectionnez le caractère par lequel entourer les champs.

Cette liste est disponible uniquement lorsque l'option Delimited file or CSV est sélectionnée dans la liste File type.

 

Fixed width mapping

Saisissez une chaîne de caractères spécifiant un libellé et une largeur de colonne personnalisés entre guillemets doubles. Le format de la chaîne de caractères est :

ColumnLabel1:ColumnWidth1,ColumnLabel2:ColumnWidth2,....

Notez que le libellé de colonne dans la chaîne de caractères n'a aucune relation avec la nom de la colonne de la table et peut être une chaîne de caractères ou un entier. L'ordre des paires libellé/largeur doit correspondre à l'ordre des colonnes des tables.

Ce champ est disponible uniquement lorsque l'option Fixed width est sélectionnée dans la liste File type.

 

Compressed by

Cochez cette case et, dans la liste qui s'affiche, sélectionnez le type de compression des fichiers.

 

Encrypt

Cochez cette case pour crypter les fichiers retirés à l'aide du cryptage Amazon S3 côté client. Dans le champ Encryption key affiché, saisissez la clé de chiffrement utilisée pour chiffrer les fichiers retirés. Notez que seule une enveloppe de clé AES 128 bits ou AES 256 bits encodée en base64 est supportée. Pour plus d'informations, consultez Unloading Encrypted Data Files (en anglais).

 

Specify null string

Cochez cette case et, dans la liste qui s'affiche, sélectionnez une chaîne de caractères représentant une valeur nulle dans les fichiers retirés.

 

Escape

Cochez cette case pour placer un caractère d'échappement (\) avant chaque occurrence des caractères suivants pour les colonnes CHAR et VARCHAR dans les fichiers délimités retirés : interligne (\n), retour chariot (\r), le caractère délimiteur spécifié pour les données retirées, le caractère d'échappement (\), un guillemet (" ou ').

 

Overwrite s3 object if exist

Cochez cette case pour écraser les fichiers d'objets existant dans Amazon S3.

 

Parallel

Cochez cette case pour écrire les données en parallèle dans plusieurs fichiers retirés dans Amazon S3 selon le nombre de slices dans le cluster Redshift.

 

tStatCatcher Statistics

Cochez cette case pour collecter les données de log au niveau du Job ainsi qu'au niveau de chaque composant.

Dynamic settings

Cliquez sur le bouton [+] pour ajouter une ligne à la table. Dans le champ Code, saisissez une variable de contexte afin de sélectionner dynamiquement votre connexion à la base de données parmi celles prévues dans votre Job. Cette fonctionnalité est utile si vous devez accéder à plusieurs tables de bases de données ayant la même structure mais se trouvant dans différentes bases de données, en particulier lorsque vous travaillez dans un environnement dans lequel vous ne pouvez pas changer les paramètres de votre Job, par exemple lorsque votre Job doit être déployé et exécuté dans un Studio Talend indépendant.

La table Dynamic settings n'est disponible que si la case Use an existing connection est cochée dans la vue Basic settings. Lorsqu'un paramètre dynamique est configuré, la liste Component List devient inaccessible dans la vue Basic settings.

Pour des exemples sur l'usage des paramètres dynamiques, consultez Scénario 3 : Lire des données dans des bases de données MySQL à l'aide de connexions dynamiques basées sur les variables de contexte et Scénario : Lire des données à partir de différentes bases de données MySQL à l'aide de paramètres de connexion chargés dynamiquement. Pour plus d'informations concernant les Dynamic settings et les variables de contexte, consultez le Guide utilisateur du Studio Talend.

Global Variables

ERROR_MESSAGE : message d'erreur généré par le composant lorsqu'une erreur survient. Cette variable est une variable After et retourne une chaîne de caractères. Cette variable fonctionne uniquement si la case Die on error est décochée, si le composant a cette option.

Une variable Flow fonctionne durant l'exécution d'un composant. Une variable After fonctionne après l'exécution d'un composant.

Pour renseigner un champ ou une expression à l'aide d'une variable, appuyez sur les touches Ctrl+Espace pour accéder à la liste des variables. A partir de cette liste, vous pouvez choisir la variable que vous souhaitez utiliser.

Pour plus d'informations concernant les variables, consultez le Guide utilisateur du Studio Talend.

Utilisation

Ce composant couvre toutes les requêtes SQL possibles pour la base de données Amazon Redshift.

Log4j

Si vous utilisez une solution Talend soumise à souscription, l'activité de ce composant peut être journalisée avec la fonctionnalité log4j. Pour plus d'informations sur cette fonctionnalité, consultez le Guide utilisateur du Studio Talend.

Pour plus d'informations sur les niveaux de logs du log4j, consultez la documentation d'Apache : http://logging.apache.org/log4j/1.2/apidocs/org/apache/log4j/Level.html (en anglais).

Scénario associé

Pour un scénario associé, consultez Scénario: charger/retirer des données dans/de Amazon S3.