tAmazonAuroraInput - 6.1

Composants Talend Open Studio Guide de référence

EnrichVersion
6.1
EnrichProdName
Talend Open Studio for Big Data
Talend Open Studio for Data Integration
Talend Open Studio for Data Quality
Talend Open Studio for ESB
Talend Open Studio for MDM
task
Création et développement
Gouvernance de données
Qualité et préparation de données
EnrichPlatform
Studio Talend

Fonction

Le composant tAmazonAuroraInput lit une base de données Amazon Aurora et en extrait des champs à l'aide de requêtes.

Objectif

Ce composant exécute une requête en base de données selon un ordre strict qui doit correspondre à celui défini dans le schéma. La liste des champs récupérée est ensuite transmise au composant suivant via une connexion de flux Row > Main.

Propriétés du tAmazonAuroraInput

Famille du composant

Cloud/AmazonRDS/Aurora

Basic settings

Property Type

Peut être Built-In ou Repository.

Depuis la version 5.6, les modes Built-In et Repository sont disponibles dans toutes les solutions de Talend.

 

 

Built-In : Propriétés utilisées ponctuellement.

 

 

Repository : Sélectionnez le fichier dans lequel sont stockées les propriétés du composant. Les champs suivants sont alors pré-remplis à l'aide des données collectées.

 

Use an existing connection

Cochez cette case et sélectionnez le composant de connexion adéquat à partir de la liste Component List pour réutiliser les paramètres d'une connexion que vous avez déjà définie.

Note

Lorsqu'un Job contient un Job parent et un Job enfant, si vous souhaitez utiliser une connexion existant entre les deux niveaux, par exemple pour partager la connexion créée par le Job parent avec le Job enfant, vous devez :

  1. Au niveau parent, enregistrer la connexion à la base de données à partager, dans la vue Basic settings du composant de connexion créant cette connexion.

  2. Au niveau enfant, utiliser un composant dédié à la création de connexion, afin de lire la connexion enregistrée.

Pour plus d'informations concernant le partage d'une connexion à travers différents niveaux de Jobs, consultez le Guide utilisateur du Studio Talend.

 

Host

Saisissez l'adresse IP ou le nom de l'hôte de la base de données Amazon Aurora.

 

Port

Saisissez le numéro du port d'écoute de la base de données Amazon Aurora.

 

Database

Saisissez le nom de la base de données à utiliser.

 

Username et Password

Saisissez les informations d'authentification de l'utilisateur de base de données.

Pour saisir le mot de passe, cliquez sur le bouton [...] à côté du champ Password, puis, dans la boîte de dialogue qui s'ouvre, saisissez le mot de passe entre guillemets doubles, puis cliquez sur OK afin de sauvegarder les paramètres.

 

Schema et Edit schema

Un schéma est une description de lignes, il définit le nombre de champs (colonnes) qui sont traités et passés au composant suivant. Le schéma est soit local (Built-In), soit distant dans le Repository.

Depuis la version 5.6, les modes Built-In et Repository sont disponibles dans toutes les solutions de Talend.

 

 

Built-In : Le schéma est créé et conservé ponctuellement pour ce composant seulement. Voir également le Guide utilisateur du Studio Talend.

 

 

Repository : Le schéma existe déjà et il est stocké dans le Repository. Ainsi, il peut être réutilisé. Voir également le Guide utilisateur du Studio Talend.

 

 

Cliquez sur Edit schema pour modifier le schéma. Si le schéma est en mode Repository, trois options sont disponibles :

  • View schema : sélectionnez cette option afin de voir le schéma.

  • Change to Built-In property : sélectionnez cette option pour passer le schéma en mode Built-In et effectuer des modifications locales.

  • Update repository connection : sélectionnez cette option afin de modifier le schéma stocké dans le référentiel et décider de propager ou non les modifications à tous les Jobs. Si vous souhaitez propager les modifications uniquement au Job courant, sélectionnez No et sélectionnez à nouveau la métadonnée du schéma dans la fenêtre [Repository Content].

 

Table Name

Saisissez le nom de la table à lire.

 

Query Type et Query

Saisissez votre requête de base de données en faisant attention à ce que l'ordre des champs corresponde à celui défini dans le schéma.

 

Guess Query

Cliquez sur le bouton afin de générer la requête correspondant au schéma de la table dans le champ Query.

 

Guess schema

Cliquez sur ce bouton afin de récupérer le schéma de la table.

 

Specify a data source alias

Cochez cette case et spécifiez l'alias de la source de données créée dans Talend Runtime pour utiliser le pool de connexions partagées défini dans la configuration des données source. Cette option fonctionne lorsque vous déployez et exécutez votre Job dans Talend Runtime.

Cette case est indisponible lorsque la case Use an existing connection est cochée.

 

Data source alias

Saisissez l'alias de la source de données créée du côté Talend Runtime.

Ce champ s'affiche uniquement lorsque la case Specify a data source alias est cochée.

Advanced settings

Additional JDBC parameters

Spécifiez des informations supplémentaires de connexion à la base de données créée. Lorsque vous devez gérer des données de type 0000-00-00 00:00:00 à l'aide de ce composant, configurez le paramètre à noDatetimeStringSync=true&zeroDa­teTimeBehavior=convertToNull.

Ce champ est indisponible lorsque la case Use an existing connection est cochée dans l'onglet Basic settings.

 

Enable stream

Cochez cette case pour préférer le streaming à la mise en mémoire tampon, ce qui permet au code de lire les données d'une table volumineuse sans consommer beaucoup de mémoire, afin d'optimiser les performances.

 

Trim all the String/Char columns

Cochez cette case pour supprimer les espaces en début et en fin de champ dans toutes les colonnes contenant des chaînes de caractères.

 

Trim column

Cochez la (les) case(s) de la colonne Trim afin de supprimer les espaces en début et en fin de champ dans les colonnes sélectionnées.

L'option est indisponible lorsque la case Trim all the String/Char columns est cochée.

 

tStatCatcher Statistics

Cochez cette case pour collecter les données de log au niveau du Job ainsi qu'au niveau de chaque composant.

Dynamic settings

Cliquez sur le bouton [+] pour ajouter une ligne à la table. Dans le champ Code, saisissez une variable de contexte afin de sélectionner dynamiquement votre connexion à la base de données parmi celles prévues dans votre Job. Cette fonctionnalité est utile si vous devez accéder à plusieurs tables de bases de données ayant la même structure mais se trouvant dans différentes bases de données, en particulier lorsque vous travaillez dans un environnement dans lequel vous ne pouvez pas changer les paramètres de votre Job, par exemple lorsque votre Job doit être déployé et exécuté dans un Studio Talend indépendant.

La table Dynamic settings n'est disponible que si la case Use an existing connection est cochée dans la vue Basic settings. Lorsqu'un paramètre dynamique est configuré, la liste Component List devient inaccessible dans la vue Basic settings.

Pour des exemples sur l'usage des paramètres dynamiques, consultez Scénario 3 : Lire des données dans des bases de données MySQL à l'aide de connexions dynamiques basées sur les variables de contexte et Scénario : Lire des données à partir de différentes bases de données MySQL à l'aide de paramètres de connexion chargés dynamiquement. Pour plus d'informations concernant les Dynamic settings et les variables de contexte, consultez le Guide utilisateur du Studio Talend.

Global Variables

NB_LINE : nombre de lignes lues par un composant d'entrée ou passées à un composant de sortie. Cette variable est une variable After et retourne un entier.

QUERY : requête SQL traitée. Cette variable est une variable Flow et retourne une chaîne de caractères.

ERROR_MESSAGE : message d'erreur généré par le composant lorsqu'une erreur survient. Cette variable est une variable After et retourne une chaîne de caractères. Cette variable fonctionne uniquement si la case Die on error est décochée, si le composant a cette option.

Une variable Flow fonctionne durant l'exécution d'un composant. Une variable After fonctionne après l'exécution d'un composant.

Pour renseigner un champ ou une expression à l'aide d'une variable, appuyez sur les touches Ctrl+Espace pour accéder à la liste des variables. A partir de cette liste, vous pouvez choisir la variable que vous souhaitez utiliser.

Pour plus d'informations concernant les variables, consultez le Guide utilisateur du Studio Talend.

Utilisation

Ce composant est généralement utilisé en tant que composant de début dans un Job ou sous-job et nécessite un lien de sortie.

Log4j

Si vous utilisez une solution Talend soumise à souscription, l'activité de ce composant peut être journalisée avec la fonctionnalité log4j. Pour plus d'informations sur cette fonctionnalité, consultez le Guide utilisateur du Studio Talend.

Pour plus d'informations sur les niveaux de logs du log4j, consultez la documentation d'Apache : http://logging.apache.org/log4j/1.2/apidocs/org/apache/log4j/Level.html (en anglais).

Scénario : Gestion des données avec Amazon Aurora

Ce scénario décrit un Job écrivant des informations relatives à des utilisateurs dans Amazon Aurora, lisant ces information dans Amazon Aurora et les affichant dans la console.

Le scénario requiert les sept composants suivants :

  • un tAmazonAuroraConnection : ouvre une connexion à Amazon Aurora.

  • un tFixedFlowInput : définit la structure des données et envoie ces données au composant suivant.

  • un tAmazonAuroraOutput : écrit les données reçues du composant précédent dans Amazon Aurora.

  • un tAmazonAuroraCommit : commite en une fois les données traitées dans Amazon Aurora.

  • un tAmazonAuroraInput : lit les données dans Amazon Aurora.

  • un tLogRow : affiche les données reçues du composant précédent dans la console.

  • un tAmazonAuroraClose : ferme la connexion à Amazon Aurora.

Construire le Job

  1. Créez un nouveau Job et ajoutez les sept composants précédemment listés en saisissant leur nom dans l'espace de modélisation graphique ou en les glissant depuis la Palette.

  2. Connectez le tFixedFlowInput au tAmazonAuroraOutput à l'aide d'un lien Row > Main.

  3. Répétez l'opération afin de connecter le tAmazonAuroraInput au tLogRow.

  4. Connectez le tAmazonAuroraConnection au tFixedFlowInput à l'aide d'un lien Trigger > OnSubjobOk.

  5. Répétez l'opération pour connecter le tFixedFlowInput au tAmazonAuroraCommit, le tAmazonAuroraCommit au tAmazonAuroraInput et le tAmazonAuroraInput au tAmazonAuroraClose.

Configurer les composants

Ouvrir une connexion à Amazon Aurora

  1. Double-cliquez sur le tAmazonAuroraConnection pour ouvrir sa vue Basic settings.

  2. Dans les champs Host, Port, Database, Username et Password, saisissez les informations requises pour la connexion à Amazon Aurora.

Écrire les données dans Amazon Aurora

  1. Double-cliquez sur le tFixedFlowInput pour ouvrir sa vue Basic settings.

  2. Cliquez sur le bouton [...] à côté du champ Edit schema et, dans la fenêtre qui s'ouvre, définissez le schéma en ajoutant trois colonnes : id de type Integer, name et city de type String.

    Cliquez sur OK afin de valider les modifications et acceptez la propagation proposées par la boîte de dialogue.

  3. Dans la zone Mode, sélectionnez Use Inline Content (delimited file) et saisissez les informations relatives aux utilisateurs dans le champ Content.

    1;George;Bismarck
    2;Abraham;Boise
    3;Taylor;Nashville
    4;William;Jefferson City
    5;Alexander;Jackson
    6;James;Boise
    7;Gerald;Little Rock
    8;Tony;Richmond
    9;Thomas;Springfield
    10;Andre;Nashville
  4. Double-cliquez sur le tAmazonAuroraOutput pour ouvrir sa vue Basic settings.

  5. Cochez la case Use an existing connection et, dans la liste Component List qui s'affiche, sélectionnez le composant de connexion que vous avez configuré.

  6. Dans le champ Table, saisissez le nom de la table ou sélectionnez la table dans laquelle vous souhaitez écrire les données. Dans cet exemple, saisissez TalendUser.

  7. Sélectionnez Drop table if exists and create dans la liste Action on table et sélectionnez Insert dans la liste Action on data.

  8. Double-cliquez sur le tAmazonAuroraCommit pour ouvrir sa vue Basic settings.

  9. Décochez la case Close Connection si elle est sélectionnée.

Récupérer les données d'Amazon Aurora

  1. Double-cliquez sur le tAmazonAuroraInput pour ouvrir sa vue Basic settings.

  2. Cochez la case Use an existing connection et, dans la liste Component List qui s'affiche, sélectionnez le composant de connexion que vous avez configuré.

  3. Cliquez sur le bouton [...] à côté du champ Edit schema et, dans la fenêtre qui s'ouvre, définissez le schéma en ajoutant trois colonnes : id de type Integer, name et city de type String. La structure des données est la même que la structure définie pour le tFixedFlowInput.

  4. Dans le champ Table Name, saisissez le nom ou sélectionnez la tables dans laquelle écrire les données. Dans cet exemple, saisissez TalendUser.

  5. Cliquez sur le bouton Guess Query afin de générer la requête. Le champ Query est renseigné avec la requête automatiquement générée.

  6. Double-cliquez sur le tLogRow pour ouvrir sa vue Basic settings.

  7. Dans la zone Mode, sélectionnez Table (print values in cells of a table) pour une lisibilité optimale des résultats.

Fermer la connexion à Amazon Aurora

  1. Double-cliquez sur le tAmazonAuroraClose pour ouvrir sa vue Basic settings.

  2. Dans la liste Component List, sélectionnez le composant de connexion que vous avez configuré.

Sauvegarder et exécuter le Job

  1. Appuyez sur les touches Ctrl + S afin de sauvegarder le Job.

  2. Appuyez sur F6 ou cliquez sur le bouton Run de l'onglet Run pour exécuter le Job.

    Comme affiché ci-dessus, les informations relatives aux utilisateurs sont écrites dans Amazon Aurora, puis les données sont récupérées depuis Amazon Aurora et affichées dans la console.