tOracleInput - 6.3

Composants Talend Guide de référence

EnrichVersion
6.3
EnrichProdName
Talend Big Data
Talend Big Data Platform
Talend Data Fabric
Talend Data Integration
Talend Data Management Platform
Talend Data Services Platform
Talend ESB
Talend MDM Platform
Talend Open Studio for Big Data
Talend Open Studio for Data Integration
Talend Open Studio for Data Quality
Talend Open Studio for ESB
Talend Open Studio for MDM
Talend Real-Time Big Data Platform
task
Création et développement
Gouvernance de données
Qualité et préparation de données
EnrichPlatform
Studio Talend

Fonction

Le composant tOracleInput lit une base de données et en extrait des champs à l'aide de requêtes.

Objectif

Le tOracleInput exécute une requête de base de données dans laquelle l'ordre doit strictement correspondre à l'ordre défini dans le schéma. Puis la liste des champs est transmise au composant via une connexion Main Row.

Selon la solution Talend que vous utilisez, ce composant peut être utilisé dans un framework de Jobs, dans plusieurs, ou dans tous les frameworks :

Propriétés du tOracleInput

Famille du composant

Databases/Oracle

 

Basic settings

Property type

Peut être Built-In ou Repository.

- Built-In : Propriétés utilisées ponctuellement.

- Repository : Sélectionnez le fichier dans lequel sont stockées les propriétés du composant.

 

Cliquez sur cette icône pour ouvrir l'assistant de configuration de connexion à la base de données et enregistrer les paramètres de connexion que vous avez définis dans la vue Basic settings du composant.

Pour plus d'informations sur comment définir et stocker des paramètres de connexion de base de données, consultez le Guide utilisateur du Studio Talend.

 

Use an existing connection

Cochez cette case et sélectionnez le composant de connexion adéquat à partir de la liste Component List pour réutiliser les paramètres d'une connexion que vous avez déjà définie.

Note

Lorsqu'un Job contient un Job parent et un Job enfant, si vous souhaitez utiliser une connexion existant entre les deux niveaux, par exemple pour partager la connexion créée par le Job parent avec le Job enfant, vous devez :

  1. Au niveau parent, enregistrer la connexion à la base de données à partager, dans la vue Basic settings du composant de connexion créant cette connexion.

  2. Au niveau enfant, utiliser un composant dédié à la création de connexion, afin de lire la connexion enregistrée.

Pour plus d'informations concernant le partage d'une connexion à travers différents niveaux de Jobs, consultez le Guide utilisateur du Studio Talend.

 

Connection type

Liste déroulante des pilotes disponibles:

Oracle OCI : Sélectionnez ce type de connexion pour utiliser l'interface d'appel de la base de données Oracle (Oracle Call Interface) accompagnée d'un ensemble de logiciels API de langage C qui fournissent une interface à cette base de données Oracle.

Oracle Custom : Sélectionnez ce type de connexion pour accéder à une base de données contenant des clusters.

Oracle Service Name : Sélectionnez ce type de connexion pour utiliser l'alias TNS que vous fournissez lorsque vous vous connectez à la base de données distante.

WALLET : Sélectionnez ce type de connexion pour stocker les informations d'authentification dans un portefeuille (wallet) Oracle.

Oracle SID : Sélectionnez ce type de connexion pour identifier exclusivement une base de données spécifique sur un système.

 

DB Version

Sélectionnez la version d'Oracle que vous utilisez.

 

Host

Adresse IP du serveur de base de données.

 

Port

Numéro du port d'écoute du serveur de base de données.

 

Database

Nom de la base de données.

 

Oracle schema

Nom du schéma Oracle.

 

Username et Password

Informations d'authentification de l'utilisateur de base de données.

Pour saisir le mot de passe, cliquez sur le bouton [...] à côté du champ Password, puis, dans la boîte de dialogue qui s'ouvre, saisissez le mot de passe entre guillemets doubles et cliquez sur OK afin de sauvegarder les paramètres.

 

Schema et Edit Schema

Un schéma est une description de lignes, il définit le nombre de champs (colonnes) qui sont traités et passés au composant suivant. Le schéma est soit local (Built-In), soit distant dans le Repository.

Cliquez sur Edit schema pour modifier le schéma. Si le schéma est en mode Repository, trois options sont disponibles :

  • View schema : sélectionnez cette option afin de voir le schéma.

  • Change to Built-In property : sélectionnez cette option pour passer le schéma en mode Built-In et effectuer des modifications locales.

  • Update repository connection : sélectionnez cette option afin de modifier le schéma stocké dans le référentiel et décider de propager ou non les modifications à tous les Jobs. Si vous souhaitez propager les modifications uniquement au Job courant, cliquez sur No et sélectionnez à nouveau la métadonnée du schéma dans la fenêtre [Repository Content].

Ce composant offre la fonction de schéma dynamique. Cela vous permet de récupérer des colonnes inconnues à partir de fichiers source ou de copier des lots de colonnes d'une source sans avoir à mapper individuellement ces colonnes. Pour plus d'informations concernant les schémas dynamiques, consultez le Guide utilisateur de Studio Talend.

Cette fonctionnalité de schéma dynamique est conçue pour permettre de récupérer des colonnes inconnues d'une table. Il est recommandé de l'utiliser uniquement à cet effet et non pour créer des tables.

 

 

Built-in : Le schéma sera créé et conservé pour ce composant seulement. Voir également le Guide utilisateur du Studio Talend.

 

 

Repository : Le schéma existe déjà et est stocké dans le Repository. Ainsi, il peut être réutilisé. Voir également le Guide utilisateur du Studio Talend.

 

Table name

Nom de la table de base de données.

 

Query type et Query

Saisissez votre requête de base de données en faisant attention à ce que l'ordre des champs corresponde à celui défini dans le schéma.

Avertissement

Si vous utilisez la fonction de schéma dynamique, la requête SELECT doit inclure le caractère *, afin de récupérer toutes les colonnes de la table sélectionnée.

 Specify a data source alias

Cochez cette case et spécifiez l'alias de la source de données créée dans Talend Runtime pour utiliser le pool de connexions partagées défini dans la configuration des données source. Cette option fonctionne lorsque vous déployez et exécutez votre Job dans Talend Runtime. Pour voir un exemple de cas d'utilisation, consultez Scénario 4 : Récupérer des données d'une base de données MySQL en utilisant la source de données côté Talend Runtime pour configurer la connexion à la base de données.

Avertissement

Si vous utilisez la configuration de la base de données du composant, la connexion à votre source de données se ferme à la fin du composant. Pour empêcher la fermeture de la connexion, utilisez une connexion partagée à la base de données, avec l'alias de la source de données spécifié.

Cette option est indisponible lorsque la case Use an existing connection est cochée.

Advanced settings

Additional JDBC parameters

Définissez des propriétés de connexion supplémentaires pour la connexion à la base de données que vous créez. Les propriétés sont séparées par un point-virgule et chaque propriété est une paire clé-valeur, par exemple, encryption=1;clientname=Talend.

Ce champ n'est pas disponible si la case Use an existing connection est cochée.

 

tStatCatcher Statistics

Cochez cette case pour collecter les données de log au niveau du composant.

 

Use cursor

Cochez cette case et, dans le champ Cursor size qui s'affiche, spécifiez le nombre de lignes à extraire en une fois dans la base de données. Les performances peuvent être optimisées en configurant la taille d'extraction à une valeur appropriée.

 

Trim all the String/Char columns

Cochez cette case pour supprimer les espaces en début et en fin de champ dans toutes les colonnes contenant des chaînes de caractères.

 

Trim column

Supprimer les espaces en début et en fin de champ dans les colonnes sélectionnées.

 No null values Cochez cette case pour optimiser les performances s'il n'y a pas de valeur nulle.

Dynamic settings

Cliquez sur le bouton [+] pour ajouter une ligne à la table. Dans le champ Code, saisissez une variable de contexte afin de sélectionner dynamiquement votre connexion à la base de données parmi celles prévues dans votre Job. Cette fonctionnalité est utile si vous devez accéder à plusieurs tables de bases de données ayant la même structure mais se trouvant dans différentes bases de données, en particulier lorsque vous travaillez dans un environnement dans lequel vous ne pouvez pas changer les paramètres de votre Job, par exemple lorsque votre Job doit être déployé et exécuté dans un Studio Talend indépendant.

La table Dynamic settings n'est disponible que si la case Use an existing connection est cochée dans la vue Basic settings. Lorsqu'un paramètre dynamique est configuré, la liste Component List devient inaccessible dans la vue Basic settings.

Pour des exemples sur l'usage des paramètres dynamiques, consultez Scénario 3 : Lire des données dans des bases de données MySQL à l'aide de connexions dynamiques basées sur les variables de contexte et Scénario : Lire des données à partir de différentes bases de données MySQL à l'aide de paramètres de connexion chargés dynamiquement. Pour plus d'informations concernant les Dynamic settings et les variables de contexte, consultez le Guide utilisateur du Studio Talend.

Global Variables 

NB_LINE : nombre de lignes traitées. Cette variable est une variable After et retourne un entier.

QUERY : requête traitée. Cette variable est une variable Flow et retourne une chaîne de caractères.

ERROR_MESSAGE : message d'erreur généré par le composant lorsqu'une erreur survient. Cette variable est une variable After et retourne une chaîne de caractères. Cette variable fonctionne uniquement si la case Die on error est décochée, si le composant a cette option.

Une variable Flow fonctionne durant l'exécution d'un composant. Une variable After fonctionne après l'exécution d'un composant.

Pour renseigner un champ ou une expression à l'aide d'une variable, appuyez sur les touches Ctrl+Espace pour accéder à la liste des variables. A partir de cette liste, vous pouvez choisir la variable que vous souhaitez utiliser.

Pour plus d'informations concernant les variables, consultez le Guide utilisateur du Studio Talend.

Utilisation

Ce composant couvre toutes les possibilités de requête SQL dans les bases de données Oracle.

Log4j

Si vous utilisez une solution Talend soumise à souscription, l'activité de ce composant peut être journalisée avec la fonctionnalité log4j. Pour plus d'informations sur cette fonctionnalité, consultez le Guide utilisateur du Studio Talend.

Pour plus d'informations sur les niveaux de logs du log4j, consultez la documentation d'Apache : http://logging.apache.org/log4j/1.2/apidocs/org/apache/log4j/Level.html (en anglais).

Limitation

Du fait d'une incompatibilité de licence, un ou plusieurs Jar requis pour utiliser ce composant ne sont pas fournis. Vous pouvez installer les Jar manquants pour ce composant en cliquant sur le bouton Install dans l'onglet Component. Vous pouvez également trouver les Jar manquants et les ajouter dans l'onglet Modules de la perspective Integration de votre studio. Pour plus d'informations, consultez l'article Installation de modules externes sur Talend Help Center (https://help.talend.com) ou la section décrivant comment configurer le studio, dans le Guide d'installation Talend.

Scénario : Utiliser les paramètres de contexte lors de la lecture d'une table d'une base de données Oracle

Dans ce scénario, une table est lue dans une base de données Oracle, à l'aide d'un paramètre de contexte pour référer au nom de la table.

Déposer et relier les composants

  1. Créez un nouveau Job et ajoutez les composants suivants en saisissant leur nom dans l'espace de modélisation graphique et en les déposant depuis la Palette : un tOracleInput et un tLogRow.

  2. Reliez le tOracleInput au tLogRow via un lien Row > Main.

Configurer les composants

  1. Double-cliquez sur le tOracleInput pour ouvrir sa vue Basic settings.

  2. Sélectionnez une connexion dans la liste déroulante Connection Type. Dans cet exemple, saisissez OracleSID.

    Sélectionnez la version de la base de données Oracle à utiliser dans la liste déroulante DB Version. Dans cet exemple, saisissez Oracle 12-7.

    Dans le champ Host, saisissez l'adresse IP du serveur de la base de données Oracle, "192.168.31.32".

    Dans le champ Database, saisissez le nom de la base de données, "TALEND" dans cet exemple.

    Dans le champ Oracle schema, saisissez le nom du schéma Oracle, "TALEND" dans cet exemple.

    Dans les champs Username et Password, saisissez les informations d'authentification.

  3. Cliquez sur le bouton [...] à côté du champ Edit schema pour ouvrir l'éditeur du schéma.

  4. Cliquez sur le bouton pour ajouter quatre colonnes : ID et AGE de type Integer et NAME et SEX, de type String.

    Cliquez sur OK pour fermer l'éditeur du schéma et acceptez la propagation proposée par la boîte de dialogue qui s'ouvre.

  5. Placez votre souris sur le champ Table Name et appuyez sur F5 pour configurer les paramètres de contexte. La boîte de dialogue [New Context Parameter] s'ouvre.

    Pour plus d'informations concernant les paramètres de contexte, consultez le Guide utilisateur du Studio Talend.

  6. Dans le champ Name, laissez le nom du paramètre de contexte, TABLE dans cet exemple.

    Dans le champ Default value, saisissez le nom de la table de base de données Oracle à interroger. Dans cet exemple, saisissez PERSON.

  7. Clique sur Finish pour valider.

    La paramètre de contexte context.TABLE apparaît automatiquement dans le champ Table Name.

  8. Dans la liste Query Type, sélectionnez Built-In. Cliquez sur Guess Query pour obtenir l'instruction de la requête.

    "SELECT 
      "+context.TABLE+".\"ID\", 
      "+context.TABLE+".NAME, 
      "+context.TABLE+".SEX, 
      "+context.TABLE+".AGE
    FROM "+context.TABLE
  9. Double-cliquez sur le tLogRow afin d'ouvrir sa vue Basic settings.

  10. Dans la zone Mode, sélectionnez Table (print values in cells of a table) pour un meilleur affichage des résultats.

Sauvegarder et exécuter le Job

  1. Appuyez sur les touches Ctrl+S afin de sauvegarder le Job.

  2. Appuyez sur F6 pour exécuter le Job.

Comme affiché dans la capture d'écran, les données dans la table de la base de données Oracle PERSON sont affichées dans la console.

Propriétés du tOracleInput dans des Jobs MapReduce

Famille du composant

Databases/Oracle

 

Basic settings

Property type

Peut être Built-In ou Repository.

- Built-In : Propriétés utilisées ponctuellement.

- Repository : Sélectionnez le fichier dans lequel sont stockées les propriétés du composant.

 

Cliquez sur cette icône pour ouvrir l'assistant de configuration de connexion à la base de données et enregistrer les paramètres de connexion que vous avez définis dans la vue Basic settings du composant.

Pour plus d'informations sur comment définir et stocker des paramètres de connexion de base de données, consultez le Guide utilisateur du Studio Talend.

 

Connection type

Liste déroulante des pilotes disponibles:

Oracle OCI : Sélectionnez ce type de connexion pour utiliser l'interface d'appel de la base de données Oracle (Oracle Call Interface) accompagnée d'un ensemble de logiciels API de langage C qui fournissent une interface à cette base de données Oracle.

Oracle Custom : Sélectionnez ce type de connexion pour accéder à une base de données contenant des clusters.

Oracle Service Name : Sélectionnez ce type de connexion pour utiliser l'alias TNS que vous fournissez lorsque vous vous connectez à la base de données distante.

WALLET : Sélectionnez ce type de connexion pour stocker les informations d'authentification dans un portefeuille (wallet) Oracle.

Oracle SID : Sélectionnez ce type de connexion pour identifier exclusivement une base de données spécifique sur un système.

 

DB Version

Sélectionnez la version d'Oracle que vous utilisez.

 

Host

Adresse IP du serveur de base de données.

 

Port

Numéro du port d'écoute du serveur de base de données.

 

Database

Nom de la base de données.

 

Oracle schema

Nom du schéma Oracle.

 

Username et Password

Informations d'authentification de l'utilisateur de base de données.

Pour saisir le mot de passe, cliquez sur le bouton [...] à côté du champ Password, puis, dans la boîte de dialogue qui s'ouvre, saisissez le mot de passe entre guillemets doubles et cliquez sur OK afin de sauvegarder les paramètres.

 

Schema et Edit Schema

Un schéma est une description de lignes, il définit le nombre de champs (colonnes) qui sont traités et passés au composant suivant. Le schéma est soit local (Built-In), soit distant dans le Repository.

Cliquez sur Edit schema pour modifier le schéma. Si le schéma est en mode Repository, trois options sont disponibles :

  • View schema : sélectionnez cette option afin de voir le schéma.

  • Change to Built-In property : sélectionnez cette option pour passer le schéma en mode Built-In et effectuer des modifications locales.

  • Update repository connection : sélectionnez cette option afin de modifier le schéma stocké dans le référentiel et décider de propager ou non les modifications à tous les Jobs. Si vous souhaitez propager les modifications uniquement au Job courant, cliquez sur No et sélectionnez à nouveau la métadonnée du schéma dans la fenêtre [Repository Content].

 

 

Built-In : Le schéma est créé et conservé ponctuellement pour ce composant seulement. Voir également le Guide utilisateur du Studio Talend.

 

 

Repository : Le schéma existe déjà et il est stocké dans le Repository. Ainsi, il peut être réutilisé. Voir également le Guide utilisateur du Studio Talend.

 

Table name

Nom de la table de base de données.

 

Query type et Query

Saisissez votre requête de base de données en faisant attention à ce que l'ordre des champs corresponde à celui défini dans le schéma.

Avertissement

Si vous utilisez la fonction de schéma dynamique, la requête SELECT doit inclure le caractère *, afin de récupérer toutes les colonnes de la table sélectionnée.

 

Die on error

Cochez cette case pour arrêter l'exécution du Job lorsqu'une erreur survient.

Décochez la case pour ignorer les lignes en erreur et terminer le processus avec les lignes sans erreur. Lorsque les erreurs sont ignorées,vous pouvez récupérer les lignes en erreur, si vous le souhaitez. Pour cela, utilisez un lien Row > Reject.

Utilisation dans des Jobs Map/Reduce

Dans un Job Talend Map/Reduce, ce composant est utilisé comme composant de début et requiert un composant de transformation comme lien de sortie. Les autres composants utilisés avec lui doivent également être des composants Map/Reduce. Ils génèrent nativement du code Map/Reduce pouvant être directement exécuté dans Hadoop.

Vous devez utiliser l'onglet Hadoop Configuration de la vue Run afin de définir la connexion à une distribution Hadoop donnée pour le Job complet.

Notez que, dans cette documentation, sauf mention contraire, un scénario présente uniquement des Jobs Standard, c'est-à-dire des Jobs Talend traditionnels d'intégration de données et non des Jobs Map/Reduce.

Hadoop Connection

Vous devez utiliser l'onglet Hadoop Configuration de la vue Run afin de définir la connexion à une distribution Hadoop donnée pour le Job complet.

Cette connexion fonctionne uniquement pour le Job dans lequel vous l'avez définie.

Scénario associé

Aucun scénario n'est disponible pour la version Map/Reduce de ce composant.

Propriétés du tOracleInput dans des Jobs Spark Batch

Famille du composant

Databases/Oracle

 

Basic settings

Property type

Peut être Built-In ou Repository.

- Built-In : Propriétés utilisées ponctuellement.

- Repository : Sélectionnez le fichier dans lequel sont stockées les propriétés du composant.

 

Cliquez sur cette icône pour ouvrir l'assistant de configuration de connexion à la base de données et enregistrer les paramètres de connexion que vous avez définis dans la vue Basic settings du composant.

Pour plus d'informations sur comment définir et stocker des paramètres de connexion de base de données, consultez le Guide utilisateur du Studio Talend.

 

Use an existing connection

Cochez cette case et sélectionnez le composant de connexion adéquat à partir de la liste Component List pour réutiliser les paramètres d'une connexion que vous avez déjà définie.

Note

Lorsqu'un Job contient un Job parent et un Job enfant, si vous souhaitez utiliser une connexion existant entre les deux niveaux, par exemple pour partager la connexion créée par le Job parent avec le Job enfant, vous devez :

  1. Au niveau parent, enregistrer la connexion à la base de données à partager, dans la vue Basic settings du composant de connexion créant cette connexion.

  2. Au niveau enfant, utiliser un composant dédié à la création de connexion, afin de lire la connexion enregistrée.

Pour plus d'informations concernant le partage d'une connexion à travers différents niveaux de Jobs, consultez le Guide utilisateur du Studio Talend.

 

Connection type

Les pilotes disponibles sont :

  • Oracle OCI : Sélectionnez ce type de connexion pour utiliser l'interface d'appel de la base de données Oracle (Oracle Call Interface) accompagnée d'un ensemble de logiciels API de langage C qui fournissent une interface à cette base de données Oracle.

  • Oracle Custom : Sélectionnez ce type de connexion pour accéder à une base de données contenant des clusters. Avec ce type de connexion, les champs Username et Password sont désactivés et vous devez saisir l'URL de connexion dans le champ URL qui s'affiche.

    Pour plus d'informations concernant la forme valide d'URL, consultez JDBC Connection strings (en anglais) dans la documentation Oracle.

  • Oracle Service Name : Sélectionnez ce type de connexion pour utiliser l'alias TNS que vous fournissez lorsque vous vous connectez à la base de données distante.

  • WALLET : Sélectionnez ce type de connexion pour stocker les informations d'authentification dans un portefeuille (wallet) Oracle.

  • Oracle SID : Sélectionnez ce type de connexion pour identifier exclusivement une base de données spécifique sur un système.

 

DB Version

Sélectionnez la version d'Oracle que vous utilisez.

 

Host

Adresse IP du serveur de base de données.

 

Port

Numéro du port d'écoute du serveur de base de données.

 

Database

Nom de la base de données.

 

Oracle schema

Nom du schéma Oracle.

 

Username et Password

Informations d'authentification de l'utilisateur de base de données.

Pour saisir le mot de passe, cliquez sur le bouton [...] à côté du champ Password, puis, dans la boîte de dialogue qui s'ouvre, saisissez le mot de passe entre guillemets doubles et cliquez sur OK afin de sauvegarder les paramètres.

 

Schema et Edit Schema

Un schéma est une description de lignes, il définit le nombre de champs qui sont traités et passés au composant suivant. Le schéma peut être Built-in ou distant dans le Repository.

Cliquez sur Edit schema pour modifier le schéma. Si le schéma est en mode Repository, trois options sont disponibles :

  • View schema : sélectionnez cette option afin de voir le schéma.

  • Change to Built-In property : sélectionnez cette option pour passer le schéma en mode Built-In et effectuer des modifications locales.

  • Update repository connection : sélectionnez cette option afin de modifier le schéma stocké dans le référentiel et décider de propager ou non les modifications à tous les Jobs. Si vous souhaitez propager les modifications uniquement au Job courant, cliquez sur No et sélectionnez à nouveau la métadonnée du schéma dans la fenêtre [Repository Content].

 

 

Built-in : Le schéma sera créé et conservé pour ce composant seulement. Voir également le Guide utilisateur du Studio Talend.

 

 

Repository : Le schéma existe déjà et est stocké dans le Repository. Ainsi, il peut être réutilisé. Voir également le Guide utilisateur du Studio Talend.

 

Table name

Saisissez le nom de la table de laquelle lire les données.

 

Query type et Query

Saisissez votre requête de base de données en faisant attention à ce que l'ordre des champs corresponde à celui défini dans le schéma.

Si vous utilisez Spark V2.0 ou une version supérieure, Spark SQL ne reconnaît plus le préfixe d'une table de base de données. Cela signifie que vous devez saisir uniquement le nom de la table, sans ajouter de préfixe indiquant par exemple le schéma auquel cette table appartient.

Par exemple, si vous devez effectuer une requête sur une table system.mytable, pour laquelle le préfixe system indique le schéma auquel appartient la table mytable. Dans la requête, vous devez saisir uniquement mytable.

Advanced settings

Additional JDBC parameters

Définissez des propriétés de connexion supplémentaires pour la connexion à la base de données que vous créez. Les propriétés sont séparées par un point-virgule et chaque propriété est une paire clé-valeur, par exemple, encryption=1;clientname=Talend.

Ce champ n'est pas disponible si la case Use an existing connection est cochée.

 

Spark SQL JDBC parameters

Ajoutez les propriétés JDBC supportées par Spark SQL à cette table. Pour une liste de propriétés configurables par l'utilisateur, consultez JDBC to other database (en anglais).

Ce composant paramètre automatiquement les propriétés url, dbtable et driver en utilisant la configuration dans l'onglet Basic settings.

Trim all the String/Char columns

Cochez cette case pour supprimer les espaces en début et en fin de champ dans toutes les colonnes contenant des chaînes de caractères.

 

Trim column

Supprimer les espaces en début et en fin de champ dans les colonnes sélectionnées.

 

Enable partitioning

Cochez la case pour lire les données en partitions.

Définissez, entre les guillemets doubles, les paramètres suivants afin de configurer le partitionnement :

  • Partition column : la colonne numérique utilisée comme clé de partition.

  • Lower bound of the partition stride et Upper bound of the partition stride : renseignez les champs upper bound (limite haute) et lower bound (limite basse) afin de paramétrer la plage de clé de partition. Ces limites ne filtrent pas les lignes de table. Toutes les lignes de la table sont partitionnées et retournées.

  • Number of partitions : le nombre de partitions dans lesquelles les lignes de table sont séparées. Chaque worker Spark gère une seule partition à la fois.

La taille moyenne des partitions est le résultat de la différence entre la limite haute et la limite basse divisée par le nombre de partitions, c'est-à-dire (upperBound - lowerBound)/partitionNumber, alors que les premières et les dernières partitions incluent également toutes les autres lignes qui ne sont pas contenues dans les autres partitions.

Par exemple, pour partitionner 1000 lignes en 4 partitions, si vous saisissez 0 comme limite basse et 1000 comme limite haute, chaque partition devra contenir 250 lignes approximativement afin que le partitionnement soit égal. Si vous saisissez 250 pour la limite inférieure et 750 pour la limite supérieure, la deuxième et la troisième partition contiendront chacune 125 lignes et la première et la dernière partition, 375 lignes respectivement. Dans cette configuration, le partitionnement est asymétrique.

Utilisation dans des Jobs Spark Batch

Ce composant est utilisé comme composant de début et requiert un lien de sortie.

Ce composant doit utiliser un tOracleConfiguration présent dans le même Job pour se connecter à Oracle. Cochez la case Use an existing connection et sélectionnez le composant tOracleConfiguration à utiliser.

Ce composant, ainsi que la Palette Spark Batch à laquelle il appartient, ne s'affiche que lorsque vous créez un Job Spark Batch.

Notez que, dans cette documentation, sauf mention contraire, un scénario présente uniquement des Jobs Standard, c'est-à-dire des Jobs Talend traditionnels d'intégration de données.

Log4j

Si vous utilisez une solution Talend soumise à souscription, l'activité de ce composant peut être journalisée avec la fonctionnalité log4j. Pour plus d'informations sur cette fonctionnalité, consultez le Guide utilisateur du Studio Talend.

Pour plus d'informations sur les niveaux de logs du log4j, consultez la documentation d'Apache : http://logging.apache.org/log4j/1.2/apidocs/org/apache/log4j/Level.html (en anglais).

Spark Connection

Vous devez utiliser l'onglet Spark Configuration de la vue Run afin de définir la connexion à un cluster Spark donné pour le Job complet. De plus, puisque le Job attend ses fichiers .jar dépendants pour l'exécution, un (et un seul) composant relatif à un système de fichiers de la famille Storage est requis au sein du même Job, afin que Spark puisse utiliser ce composant pour se connecter au système de fichiers auquel les fichiers .jar dépendants du Job sont transférés :

Cette connexion fonctionne uniquement pour le Job dans lequel vous l'avez définie.

Scénario associé

Pour un scénario utilisant le même type de composant dans un Job Spark Batch, consultez Écrire/lire des données de/dans MongoDB à l'aide d'un Job Spark Batch.