Ces propriétés sont utilisées pour configurer le tTeradataOutput s'exécutant dans le framework de Jobs Spark Streaming.
Le composant tTeradataOutput Spark Streaming appartient à la famille Databases.
Le composant de ce framework est disponible dans Talend Real Time Big Data Platform et dans Talend Data Fabric.
Basic settings
Property type |
Peut être Built-In ou Repository. |
|
Built-In : aucune propriété n'est stockée de manière centrale. |
|
Repository : Sélectionnez le fichier dans lequel sont stockées les propriétés du composant. |
Use an existing configuration |
Cochez cette case et sélectionnez le composant de connexion adéquat dans la liste Component list pour réutiliser les paramètres d'une connexion que vous avez déjà définie. |
|
Cliquez sur cette icône pour ouvrir l'assistant de connexion à la base de données et stocker les paramètres de connexion configurés dans la vue Basic settings du composant. Pour plus d'informations concernant la configuration et le stockage des paramètres de connexion à la base de données, consultez le Guide utilisateur du Studio Talend. |
Host |
Adresse IP du serveur de base de données. |
Database |
Nom de la base de données. |
Username et Password |
Informations d'authentification de l'utilisateur de base de données. Pour saisir le mot de passe, cliquez sur le bouton [...] à côté du champ Password, puis, dans la boîte de dialogue qui s'ouvre, saisissez le mot de passe entre guillemets doubles et cliquez sur OK afin de sauvegarder les paramètres. |
Table |
Nom de la table à créer. Vous ne pouvez créer qu'une seule table à la fois. |
Action on table |
Vous pouvez effectuer l'une des opérations suivantes sur les données de la table sélectionnée : None : n'effectuer aucune opération de table. Drop and create the table : supprimer la table puis en créer une nouvelle. Create a table : créer une table qui n'existe pas encore. Create table if doesn't exist : créer la table si nécessaire. Clear a table : supprimer le contenu de la table. Truncate table : supprimer rapidement le contenu de la table, mais sans possibilité de Rollback. |
Action on data |
Vous pouvez effectuer les opérations suivantes sur les données de la table sélectionnée : Insert : ajoute de nouvelles entrées à la table. Le Job s'arrête lorsqu'il détecte des doublons. Update : met à jour les entrées existantes. Insert or update : insère un nouvel enregistrement. Si l'enregistrement avec la référence donnée existe déjà, une mise à jour est effectuée. Update or insert : met à jour l'enregistrement avec la référence donnée. Si l'enregistrement n'existe pas, un nouvel enregistrement est inséré. Delete : supprime les entrées correspondantes au flux d'entrée. |
Schema et Edit schema |
Un schéma est une description de lignes. Il définit le nombre de champs (colonnes) dans le Repository. Lorsque vous créez un Job Spark, évitez le mot réservé line lors du nommage des champs. |
|
Built-in : le schéma est créé et conservé localement pour ce composant seulement. |
|
Repository : le schéma existe déjà et est stocké dans le Repository. Ainsi, il peut être réutilisé dans des Jobs et projets. Lorsque le schéma à réutiliser contient des valeurs par défaut de type Integer ou Function, assurez-vous que ces valeurs par défaut ne sont pas entourées de guillemets. Si elles le sont, supprimez manuellement les guillemets. Pour plus d'informations, consultez Vérification des valeurs par défaut dans un schéma récupéré. |
Modifiez le schéma en cliquant sur Edit Schema. Si le schéma est en mode Repository, trois options sont disponibles :
|
|
Die on error |
Cette case est cochée par défaut et stoppe le Job en cas d'erreur. Décochez cette case pour terminer le traitement avec les lignes sans erreur, et ignorer les lignes en erreur. Vous pouvez récupérer les lignes en erreur, si vous le souhaitez. Pour cela, utilisez un lien Row > Rejects. |
Advanced settings
Additional JDBC parameters |
Ajoutez des informations de connexion supplémentaires nécessaires à la connexion à la base de données, afin de supporter des caractères spécifiques. Exemple : CHARSET=KANJISIS_OS pour supporter les caractères japonais. Cette option est disponible lorsque la case Use an existing connection est décochée dans les Basic settings. Remarque :
Vous pouvez appuyer sur Ctrl+Espace afin d'accéder à une liste de variables globales prédéfinies. |
Use Batch per partition |
Cochez cette case pour activer le mode de traitement par lots pour le traitement des données. |
Batch size |
Spécifiez le nombre d'enregistrements à traiter dans chaque lot. Ce champ est disponible uniquement lorsque la case Use batch mode est cochée. |
Connection pool |
Dans cette zone, configurez, pour chaque exécuteur Spark, le pool de connexions utilisé pour contrôler le nombre de connexions qui restent ouvertes simultanément. Généralement, les valeurs par défaut données aux paramètres suivants du pool de connexion conviennent à la plupart des cas d'utilisation.
|
Evict connections |
Cochez cette case pour définir les critères de destruction de connexions dans le pool de connexions. Les champs suivants sont affichés une fois la case cochée.
|
Utilisation
Règle d'utilisation |
Ce composant est utilisé en tant que composant de fin et requiert un lien d'entrée. Ce composant doit utiliser un tTeradataConfiguration présent dans le même Job pour se connecter à Oracle. Cochez la case Use an existing configuration et sélectionnez le composant tTeradataConfiguration à utiliser. Ce composant, ainsi que les composants Spark Streaming de la Palette à laquelle il appartient, s'affichent uniquement lorsque vous créez un Job Spark Streaming. Notez que, dans cette documentation, sauf mention contraire, un scénario présente uniquement des Jobs Standard, c'est-à-dire des Jobs Talend traditionnels d'intégration de données. |
Spark Connection |
Vous devez utiliser l'onglet Spark Configuration dans la vue Run afin de définir la connexion à un cluster Spark donné pour le Job entier. De plus, puisque le Job attend ses fichiers .jar dépendants pour l'exécution, vous devez spécifier le répertoire du système de fichiers dans lequel ces fichiers .jar sont transférés afin que Spark puisse accéder à ces fichiers :
Cette connexion fonctionne uniquement pour le Job dans lequel vous l'avez définie. |