Propriétés du tDeltaLakeRow Standard - Cloud - 8.0

Delta Lake

Version
Cloud
8.0
Language
Français
Product
Talend Big Data
Talend Big Data Platform
Talend Data Fabric
Talend Data Integration
Talend Data Management Platform
Talend Data Services Platform
Talend ESB
Talend MDM Platform
Talend Real-Time Big Data Platform
Module
Studio Talend
Content
Création et développement > Systèmes tiers > Composants Technical > Composants Delta Lake
Gouvernance de données > Systèmes tiers > Composants Technical > Composants Delta Lake
Qualité et préparation de données > Systèmes tiers > Composants Technical > Composants Delta Lake
Last publication date
2024-02-21

Ces propriétés sont utilisées pour configurer le tDeltaLakeRow s'exécutant dans le framework de Jobs Standard.

Le composant tDeltaLakeRow Standard appartient à la famille Bases de données.

Le composant de ce framework est disponible dans tous les produits Talend nécessitant une souscription.

Remarque : Ce composant est une version spécifique d'un connecteur à une base de données dynamique. Les propriétés associées aux paramètres de la base de données dépendent du type de base de données sélectionné. Pour plus d'informations concernant les connecteurs dynamiques de bases de données, consultez Composants génériques de bases de données.

Basic settings

Base de données

Sélectionnez le type de base de données dans la liste et cliquez sur Apply (Appliquer).

Property Type

Sélectionnez la manière de configurer les informations de connexion.

  • Built-In : les paramètres de connexion seront définis localement pour ce composant. Vous devez spécifier manuellement les valeurs pour toutes les propriétés de connexion.

  • Repository : les paramètres de connexion stockés centralement dans le Repository > Metadata seront réutilisés par ce composant.

    Vous devez cliquer sur le bouton [...] et, dans la boîte de dialogue Repository Content, sélectionnez les détails de connexion à réutiliser. Toutes les propriétés de connexion seront automatiquement renseignées.

Cette propriété n'est pas disponible lorsqu'un autre composant de connexion est sélectionné dans la liste Connection Component.

Connection Component

Sélectionnez dans la liste déroulante le composant dont vous souhaitez réutiliser la connexion.

Avertissement : Si ce composant est configuré pour effectuer des opérations sur une table, il est fortement recommandé d'utiliser une connexion existante avec la fonction de commit automatique activée pour ce composant. Vous pouvez établir une connexion de ce type à l'aide du composant tDeltaLakeConnection, avec l'option Auto Commit sélectionnée dans la vue Advanced settings.

JDBC URL

URL JDBC de la base de données Delta Lake à utiliser, qui commence par jdbc:spark:// (déjà presentée). Si vous avez installé la mise à jour mensuelle 8.0.1-R2023-05 du Studio Talend ou une plus récente fournie par Talend, l'URL JDBC de la base de données Delta Lake commence par jdbc:databricks// (déjà présenté).

Consultez la section Configure JDBC URL sur JDBC and ODBC drivers and configuration parameters pour des informations compélmentaires (en anglais).

Remarque : Il n'y a pas d'opération de migration pour les composants Delta Lake lorsque la mise à jour mensuelle 8.0.1-R2023-05 du Studio Talend ou une plus récente fournie par Talend est installée. Dans ce cas, vous devez mettre à jour manuellement l'URL JDBC et d'autres paramètres associés pour les Jobs existants, pour vous assurer que l'URL JDBC commence bien par jdbc:databricks//.

Pilotes

Renseignez cette table pour charger les pilotes Jar requis. Pour ce faire, cliquez sur le bouton [+], sous la table, pour ajouter autant de lignes que nécessaire, chaque ligne pour un Jar de pilote. Sélectionnez la cellule et cliquez sur le bouton [...] à droite de la cellule pour ouvrir la boîte de dialogue Module, dans laquelle vous pouvez sélectionner le Jar du pilote à utiliser. Le JAR du pilote SparkJDBC42-2.6.14.1018.jar est utilisé pour les bases de données Delta Lake (déjà présenté). Si vous avez installé la mise à jour mensuelle 8.0.1-R2023-05 du Studio Talend ou une plus récente fournie par Talend, le pilote databricks-jdbc-{version_number}.jar est utilisé (déjà présenté).

Pour plus d'informations, consultez Importer un pilote de base de données.

Remarque : Il n'y a pas d'opération de migration pour les composants Delta Lake lorsque la mise à jour mensuelle 8.0.1-R2023-05 du Studio Talend ou une plus récente fournie par Talend est installée. Dans ce cas, vous devez mettre à jour manuellement le pilote et d'autres paramètres associés pour les Jobs existants, pour vous assurer que le pilote databricks-jdbc-{version_number}.jar est utilisé.

Driver Class

Saisissez entre guillemets doubles le nom de la classe pour le pilote spécifié. Pour le pilote SparkJDBC42-2.6.14.1018.jar, le nom à saisir est com.simba.spark.jdbc.Driver (déjà présenté). Si vous avez installé la mise à jour mensuelle 8.0.1-R2023-05 du Studio Talend ou une plus récente fournie par Talend, le pilote databricks-jdbc-{version_number}.jar est utilisé et la classe du pilote à saisir est com.databricks.client.jdbc.Driver (déjà présenté).

Remarque : Il n'y a pas d'opération de migration pour les composants Delta Lake lorsque la mise à jour mensuelle 8.0.1-R2023-05 du Studio Talend ou une plus récente fournie par Talend est installée. Dans ce cas, vous devez mettre à jour manuellement la classe du pilote et d'autres paramètres associés pour les Jobs existants, pour vous assurer que la classe du pilote com.databricks.client.jdbc.Driver est utilisée.

User Id et Password

Données d'authentification de l'utilisateur ou de l'utilisatrice de la base de données. Consultez la section Username and password authentication sur JDBC and ODBC drivers and configuration parameters pour plus d'informations (en anglais).

Pour saisir le mot de passe, cliquez sur le bouton [...] à côté du champ Password, puis, dans la boîte de dialogue qui s'ouvre, saisissez le mot de passe entre guillemets doubles et cliquez sur OK afin de sauvegarder les paramètres.

Schema et Edit schema

Un schéma est une description de lignes. Il définit le nombre de champs (colonnes) à traiter et à passer au composant suivant. Lorsque vous créez un Job Spark, évitez le mot réservé line lors du nommage des champs.

  • Built-in : le schéma est créé et conservé localement pour ce composant seulement.

  • Repository : le schéma existe déjà et est stocké dans le Repository. Ainsi, il peut être réutilisé dans des Jobs et projets.

Créez le schéma en cliquant sur le bouton Edit Schema. Si vous effectuez des modifications, le schéma passe automatiquement en type built-in.

  • View schema : sélectionnez cette option afin de voir uniquement le schéma.

  • Change to built-in property : sélectionnez cette option pour passer le schéma en mode Built-In et effectuer des modifications locales.

  • Update repository connection : sélectionnez cette option afin de modifier le schéma stocké dans le référentiel et décider de propager ou non les modifications à tous les Jobs.

    Si vous souhaitez propager les modifications uniquement au Job courant, cliquez sur No et sélectionnez à nouveau la métadonnée du schéma dans la fenêtre Repository Content.

Table Name

Nom de la table à traiter.

Query Type et Query

Saisissez votre requête de base de données en faisant attention à ce que l'ordre des champs corresponde à celui défini dans le schéma.

  • Built-In : saisissez la requête manuellement dans le champ Query ou cliquez sur le bouton [...] à côté du champ Query afin de construire l'instruction graphiquement, à l'aide du SQLBuilder.

  • Repository : sélectionnez la requête correspondante stockée dans le référentiel an cliquant sur le bouton [...]. Dans la boîte de dialogue Repository Content, sélectionnez la requête à utiliser. Le champ Query est automatiquement renseigné.

Guess Query

Cliquez sur ce bouton pour générer la requête dans le champ Query à partir de la table et du schéma définis.

Specify a data source alias

Cochez cette case et, dans le champ Data source alias qui s'affiche, spécifiez l'alias d'une source de données créée du côté Talend Runtime, pour utiliser le pool de connexions partagées défini dans la configuration de la source de données. Cette option fonctionne uniquement lorsque vous déployez et exécutez votre Job dans Talend Runtime.

Si vous utilisez la configuration de la base de données du composant, la connexion à votre source de données se ferme à la fin du composant. Pour empêcher la fermeture de la connexion, utilisez une connexion partagée à la base de données, avec l'alias de la source de données spécifié.

Cette propriété n'est pas disponible lorsqu'un autre composant de connexion est sélectionné dans la liste Connection Component.

Die on error

Cochez cette case pour arrêter l'exécution du Job lorsqu'une erreur survient.

Décochez la case pour ignorer les lignes en erreur et terminer le traitement des lignes sans erreur.

Lorsque les erreurs sont ignorées, vous pouvez récupérer les lignes en erreur en utilisant la connexion Row > Reject.

Advanced settings

Propagate QUERY's recordset

Cochez cette case afin de propager le résultat de la requête au flux de sortie. Dans la liste use column affichée, vous devez sélectionner une colonne dans laquelle insérer le résultat de la requête.

Cette option permet au composant d'avoir un schéma différent de celui du composant précédent. De plus, la colonne contenant le résultat de la requête doit être de type Object. Ce composant est généralement suivi par un composant tParseRecordSet.

Use PreparedStatement

Cochez cette case si vous souhaitez interroger la base de données à l'aide d'une instruction préparée. Dans la table Set PreparedStatement Parameters qui s'affiche, spécifiez la valeur pour chaque paramètre représenté par un point d'interrogation ?, dans l'instruction SQL définie dans le champ Query.

  • Parameter Index : position du paramètre dans l'instruction SQL.

  • Parameter Type : type de données du paramètre.

  • Parameter Value : valeur du paramètre.

Pour un scénario utilisant cette propriété, consultez Utiliser l'instance PreparedStatement pour faire une requête sur des données.

Commit every

Spécifiez le nombre de lignes à traiter avant de commiter un lot de lignes dans la base de données.

Cette option garantit la qualité de la transaction (cependant pas de rollback) et surtout une meilleure performance d'exécution.

tStatCatcher Statistics

Cochez cette case pour collecter les métadonnées de traitement du Job, aussi bien au niveau du Job qu'au niveau de chaque composant.

Variables globales

ERROR_MESSAGE

Message d'erreur généré par le composant lorsqu'une erreur survient. Cette variable est une variable After et retourne une chaîne de caractères.

QUERY

Instruction de requête en cours de traitement. Cette variable est une variable Flow et retourne une chaîne de caractères.

Utilisation

Règle d'utilisation

Ce composant offre la flexibilité des requêtes sur toute base de données utilisant une connexion DeltaLake et couvre toutes les possibilités de requêtes SQL.

Dynamic settings

Cliquez sur le bouton [+] pour ajouter une ligne à la table. Dans le champ Code, saisissez une variable de contexte afin de sélectionner dynamiquement votre connexion à la base de données parmi celles prévues dans votre Job. Cette fonctionnalité est utile si vous devez accéder à plusieurs tables de bases de données ayant la même structure mais se trouvant dans différentes bases de données, en particulier lorsque vous travaillez dans un environnement dans lequel vous ne pouvez pas changer les paramètres de votre Job, par exemple lorsque votre Job doit être déployé et exécuté indépendamment d'un Studio Talend.

Pour des exemples d'utilisation de paramètres dynamiques, consultez Lire des données dans des bases de données MySQL à l'aide de connexions dynamiques basées sur les variables de contexte et Lire des données à partir de différentes bases de données MySQL à l'aide de paramètres de connexion chargés dynamiquement. Pour plus d'informations concernant les Paramètres dynamiques et les variables de contexte, consultez Schéma dynamique et Créer un groupe de contextes et définir les variables de contexte.