Propriétés du tSQLDWHOutput Standard - 7.0

Azure SQL Data Warehouse

author
Talend Documentation Team
EnrichVersion
7.0
EnrichProdName
Talend Big Data
Talend Big Data Platform
Talend Data Fabric
Talend Data Integration
Talend Data Management Platform
Talend Data Services Platform
Talend ESB
Talend MDM Platform
Talend Open Studio for Big Data
Talend Open Studio for Data Integration
Talend Open Studio for ESB
Talend Open Studio for MDM
Talend Real-Time Big Data Platform
task
Création et développement > Systèmes tiers > Stockages Cloud > Composants Azure > Composants Azure SQL Data Warehouse
Gouvernance de données > Systèmes tiers > Stockages Cloud > Composants Azure > Composants Azure SQL Data Warehouse
Qualité et préparation de données > Systèmes tiers > Stockages Cloud > Composants Azure > Composants Azure SQL Data Warehouse
EnrichPlatform
Studio Talend

Ces propriétés sont utilisées pour configurer le tSQLDWHOutput s'exécutant dans le framework de Jobs Standard.

Le composant tSQLDWHOutput Standard appartient à deux familles : Cloud et Databases.

Le composant de ce framework est disponible dans tous les produits Talend.

Basic settings

Use an existing connection

Cochez cette case et sélectionnez le composant de connexion adéquat dans la liste Component list pour réutiliser les paramètres d'une connexion que vous avez déjà définie.

Notez que lorsqu'un Job contient un Job parent et un Job enfant, si vous devez partager une connexion existante entre ces deux niveaux, par exemple pour partager la connexion créée par le Job père au Job fils, vous devez :

  1. au niveau du Job père, enregistrer la connexion à la base de données à partager dans la vue Basic settings du composant de connexion créant cette connexion à la base de données.

  2. au niveau du Job fils, utiliser un composant de connexion dédié afin de lire cette connexion enregistrée.

Pour un exemple de partage d'une connexion à une base de données à travers différents niveaux de Jobs, consultez le Guide utilisateur du Studio Talend .

Type de propriété

Sélectionnez la manière de configurer les informations de connexion.

  • Built-In : Les paramètres de connexion seront définis localement pour ce composant. Vous devez spécifier manuellement les valeurs pour toutes les propriétés de connexion.

  • Repository : Les paramètres de connexion stockés centralement dans le Repository > Metadata seront réutilisés par ce composant. Vous devez cliquer sur le bouton [...] et, dans la boîte de dialogue Repository Content, sélectionnez les détails de connexion à réutiliser.

JDBC Provider

Sélectionnez le fournisseur du pilote JDBC à utiliser.

Host

Spécifiez l'adresse IP ou le nom d'hôte de l'entrepôt Azure SQL Data Warehouse à utiliser.

Port

Spécifiez le numéro du port d'écoute de l'entrepôt Azure SQL Data Warehouse à utiliser.

Schema

Saisissez le nom du schéma Azure SQL Data Warehouse.

Database

Spécifiez le nom de l'entrepôt Azure SQL Data Warehouse à utiliser.

Username et Password

Saisissez les informations d'authentification utilisateur pour accéder à Azure SQL Data Warehouse.

Pour saisir le mot de passe, cliquez sur le bouton [...] à côté du champ Password, puis, dans la boîte de dialogue qui s'ouvre, saisissez le mot de passe entre guillemets doubles et cliquez sur OK afin de sauvegarder les paramètres.

Table

Spécifiez le nom de la table à utiliser.

Action on table

Sélectionnez une opération à effectuer sur la table définie, vous pouvez effectuer l'une des opérations suivantes :

  • Default : aucune opération n'est effectuée.

  • Drop and create table : la table est supprimée et créée à nouveau.

  • Create table : la table n'existe pas et est créée.

  • Create table if does not exist : la table est créée si elle n'existe pas.

  • Drop table if exist and create : la table est supprimée si elle existe déjà et créée à nouveau.

  • Clear table : le contenu de la table est supprimé. Vous pouvez annuler cette opération.

  • Truncate : le contenu de la table est supprimé.

Turn on identity insert

Cochez cette case pour utiliser votre séquence personnelle pour la valeur de l’identité des enregistrements insérés (au lieu que SQL Server prenne la valeur séquentielle suivante).

Action on data

Sélectionnez une action à effectuer sur les données de la table définie.

  • Insert : ajoute de nouvelles entrées à la table. Le Job s'arrête lorsqu'il détecte des doublons.

  • Single Insert Query : ajoute les entrées à la table en un lot.

  • Update : met à jour les entrées existantes.

  • Insert or update : insère un nouvel enregistrement. Si l'enregistrement avec la référence donnée existe déjà, une mise à jour est effectuée.

  • Update or insert : met à jour l'enregistrement avec la référence donnée. Si l'enregistrement n'existe pas dans le pool d'index, un nouvel enregistrement est inséré.

  • Delete : supprime les entrées correspondantes au flux d'entrée.

  • Insert if not exist : ajoute de nouvelles entrées à la table si elles n'existent pas.

Il est nécessaire de spécifier au moins une colonne comme clé primaire sur laquelle baser les opérations Update et Delete. Pour ce faire, cliquez sur Edit Schema et cochez les cases à côté des colonnes que vous souhaitez définir comme clés primaires. Pour une utilisation avancée, cliquez sur l'onglet Advanced settings, vue dans laquelle vous pouvez définir simultanément des clés primaires pour les opérations Update et Delete. Pour ce faire, cochez la case Use field options et, dans la colonne Key in update column, cochez les cases à côté des colonnes à utiliser comme base pour l'opération Update. Répétez l'opération dans la colonne Key in delete column pour l'opération Delete.

La fonctionnalité de schéma dynamique peut être utilisée dans les modes suivants : Insert, Update, Insert or update, Update or insert et Delete.

Specify identity field

Cochez cette case pour spécifier quel est le champ Identity, constitué d'un numéro d'identification incrémenté automatiquement.

Lorsque cette case est cochée, trois autres champs s'affichent :

  • Identity field : sélectionnez dans la liste la colonne que vous souhaitez définir comme champ identity.

  • Start value : saisissez une valeur de départ, utilisée pour la première ligne chargée dans la table.

  • Step : saisissez une valeur d'incrément, ajoutée à la valeur de la ligne précédemment chargée.

Cette case est disponible si vous sélectionnez l'option Drop and create table, Create table, Create table if not exists ou Drop table if exists and create dans la liste Action on table. Elle ne s'affiche pas si vous sélectionnez l'option Enable parallel execution dans la vue Advanced settings. Si vous cochez cette case sans avoir coché la case Turn on identity insert mais en ayant sélectionné Create table if not exists dans la liste Action on table et si la table spécifiée n'existe pas, seule une table est créée sans qu'aucune donnée y soit insérée.

Vous pouvez également spécifier le champ Identity à partir du schéma du composant. Pour ce faire, paramétrez le type de base de données (DB Type) de la colonne correspondante en INT IDENTITY.

Lorsque la case Specify identity field est cochée, le type de base de données (DB Type) INT IDENTITY du schéma est ignoré.

Schema et Edit schema

Un schéma est une description de lignes, il définit le nombre de champs qui sont traités et passés au composant suivant. Il définit le nombre de champs (colonnes) à traiter et à passer au composant suivant. Lorsque vous créez un Job Spark, évitez le mot réservé line lors du nommage des champs.

  • Built-In : le schéma est créé et conservé ponctuellement pour ce composant seulement. Consultez également : le Guide utilisateur du Studio Talend .

  • Repository : Le schéma existe déjà et est stocké dans le Repository. Ainsi, il peut être réutilisé dans des Jobs et projets. Consultez également : le Guide utilisateur du Studio Talend .

Cliquez sur Edit schema pour modifier le schéma. Notez que si vous effectuez des modifications, le schéma passe automatiquement en type built-in.

  • View schema : sélectionnez cette option afin de voir le schéma.

  • Change to built-in property : sélectionnez cette option pour passer le schéma en mode Built-In et effectuer des modifications locales.

  • Update repository connection : sélectionnez cette option afin de modifier le schéma stocké dans le référentiel et décider de propager ou non les modifications à tous les Jobs. Si vous souhaitez propager les modifications uniquement au Job courant, cliquez sur No et sélectionnez à nouveau la métadonnée du schéma dans la fenêtre [Repository Content].

Specify a data source alias

Cochez cette case et, dans le champ Data source alias qui s'affiche, spécifiez l'alias d'une source de données créée du côté Talend Runtime, pour utiliser le pool de connexions partagées défini dans la configuration de la source de données. Cette option fonctionne uniquement lorsque vous déployez et exécutez votre Job dans Talend Runtime. Pour un scénario associé, consultez Déploiement de votre Job dans Talend Runtime pour récupérer les données d'une base de données MySQL.

Cette case est indisponible lorsque la case Use an existing Connection est cochée.

Arrêter en cas d''erreur

Cochez cette case pour arrêter l'exécution du Job lorsqu'une erreur survient.

Décochez la case pour ignorer les lignes en erreur et terminer le traitement des lignes sans erreur.

Advanced settings

Additional JDBC Parameters

Définissez des propriétés de connexion supplémentaires pour la connexion à la base de données que vous créez. Les propriétés sont séparées par un point-virgule et chaque propriété est une paire clé-valeur. Par exemple, encrypt=true;trustServerCertificate=false; hostNameInCertificate=*.database.windows.net;loginTimeout=30; pour une connexion à la base de données Azure SQL.

Commit every

Saisissez le nombre de lignes à terminer avant de commiter les lots de lignes dans la base de données. Cette option assure la qualité des transactions (mais pas le rollback) et de meilleures performances sur les exécutions.

Additional Columns

Cette option n'est pas disponible si vous créez (avec suppression ou sans) la table de base de données. Cette option vous permet d'appeler des fonctions SQL afin d'effectuer des actions sur des colonnes, à l'exclusion des actions d'insertion, de mise à jour, de suppression ou qui nécessitent un prétraitement particulier.

  • Name : saisissez le nom de la colonne à modifier ou à insérer en tant que nouvelle colonne.

  • SQL expression : saisissez la déclaration SQL à exécuter pour modifier ou insérer les données dans les colonnes correspondantes.

  • Position : sélectionnez Before, Replace ou After, en fonction de l'action à effectuer sur la colonne de référence.

  • Reference column : saisissez une colonne de référence pouvant être utilisée pour placer ou remplacer la nouvelle colonne ou la colonne modifiée.

Use field options

Cochez cette case pour personnaliser une requête, surtout lorsqu'il y a plusieurs actions sur les données.

Ignore date out of range

Cochez cette case pour ignorer la validation de la date et insérer les données directement dans la base de données pour les types de données DATE, DATETIME, DATETIME2 et DATETIMEOFFSET.

Enable debug mode

Cochez cette case pour afficher chaque étape du traitement des entrées dans la base de données.

Support null in "SQL WHERE" statement

Cochez cette case pour prendre en compte les valeurs Null d'une table de base de données..

Assurez-vous que la case Nullable est bien cochée pour les colonnes du schéma correspondantes.

Use Batch

Cochez cette case pour activer le mode de traitement par lots pour le traitement des données.

Cette case est disponible uniquement si vous avez choisi l'option Insert, Update, Single Insert Query ou Delete dans la liste Action on data.

Si vous sélectionnez l'option Single Insert Query dans la liste Action on data, la taille des lots doit être inférieure ou égale à la limite des marqueurs de paramètres autorisés par le pilote JDBC (généralement 2000), divisé par le nombre de colonnes. Pour plus d'informations, consultez les descriptions associées dans la ligne Limitation ci-dessous.

Batch Size

Spécifiez le nombre d'enregistrements à traiter dans chaque lot.

Ce champ est disponible uniquement lorsque la case Use batch mode est cochée.

Statistiques du tStatCatcher

Cochez cette case pour collecter les données de log, aussi bien au niveau du Job qu'au niveau de chaque composant.

Enable parallel execution

Cocher cette case permet de traiter plusieurs flux de données simultanément. Cela permet de traiter les données plus rapidement. Notez que cette fonctionnalité dépend de la capacité de la base de données ou de l'application à gérer plusieurs insertions en parallèle ainsi que le nombre de processeurs utilisés. Dans le champ Number of parallel executions, vous pouvez :
  • Saisir le nombre d'exécutions parallèles désiré.
  • Appuyez sur les touches Ctrl +Espace et sélectionnez la variable de contexte appropriée dans la liste. Pour plus d'informations, consultez le Guide utilisateur du Studio Talend.

Notez que, lorsque l'exécution parallèle est activée, il n'est pas possible d'utiliser les variables globales pour récupérer les valeurs de retour dans un sous-job.

Avertissement :
  • Le champ Action on table n'est pas disponible avec la fonction de parallélisation. Ainsi, pour créer une table, vous devez utiliser un composant tCreateTable.
  • Lorsque l'exécution parallèle est activée, il n'est pas possible d'utiliser les variables globales pour retrouver les valeurs de retour dans un sous-job.

Global Variables

ERROR_MESSAGE

Message d'erreur généré par le composant lorsqu'une erreur survient. Cette variable est une variable After et retourne une chaîne de caractères.

NB_LINE

Nombre de lignes traitées. Cette variable est une variable After et retourne un entier.

NB_LINE_UPDATED

Nombre de lignes mises à jour. Cette variable est une variable After et retourne un entier.

NB_LINE_INSERTED

Nombre de lignes insérées. Cette variable est une variable After et retourne un entier.

NB_LINE_DELETED

Nombre de lignes supprimées. Cette variable est une variable After et retourne un entier.

NB_LINE_REJECTED

Nombre de lignes rejetées. Cette variable est une variable After et retourne un entier.

Utilisation

Règle d'utilisation

Ce composant est généralement utilisé comme composant de fin dans un Job ou un sous-job et nécessite un lien d'entrée.

Dynamic settings

Cliquez sur le bouton [+] pour ajouter une ligne à la table. Dans le champ Code, saisissez une variable de contexte afin de sélectionner dynamiquement votre connexion à la base de données parmi celles prévues dans votre Job. Cette fonctionnalité est utile si vous devez accéder à plusieurs tables de bases de données ayant la même structure mais se trouvant dans différentes bases de données, en particulier lorsque vous travaillez dans un environnement dans lequel vous ne pouvez pas changer les paramètres de votre Job, par exemple lorsque votre Job doit être déployé et exécuté indépendamment d'un Studio Talend.

La table Dynamic settings est disponible uniquement lorsque la case Use an existing connection est cochée dans la vue Basic settings. Lorsqu'un paramètre dynamique est configuré, la liste Component List de la vue Basic settings devient inutilisable.

Pour des exemples relatifs à l'utilisation des paramètres dynamiques, consultez Lire des données dans des bases de données à l'aide de connexions dynamiques basées sur les variables de contexte et Lire des données à partir de différentes bases de données MySQL à l'aide de paramètres de connexion chargés dynamiquement. Pour plus d'informations concernant les paramètres dynamiques et les variables de contexte, consultez le Guide utilisateur du Studio Talend.

Limitation

Lorsque l'option Single Insert Query est sélectionnée dans la liste Action on data, une Instruction Préparée SQL est générée, par exemple, INSERT INTO table (col1, col2, col3) VALUES (?,?,?) , (?,?,?) , (?,?,?) ,(?,?,?) . Entre les parenthèses se trouvent les groupes de paramètres, dont le nombre ne peut en général pas dépasser 2000, selon le pilote JBDC. La taille des lots doit être configurée de manière à respecter cette limite, c'est-à-dire qu'elle ne doit pas dépasser 2000.

Certaines fonctionnalités supportées par d'autres bases de données ne sont pas supportées par Azure SQL Data Warehouse. Pour plus d'informations, consultez Fonctionnalités de table non prises en charge.

Notez que, lorsque vous créez ou supprimez une table avec ce composant, il est recommandé d'utiliser la fonctionnalité de commit automatique via la connexion à la base de données créée par un composant tSQLDWHConnection et de cocher la case Auto Commit dans la vue Advanced settings de ce tSQLDWHConnection, au lieu d'utiliser un composant tSWLDWHCommit.