Propriétés du tCassandraOutput Standard - 7.3

Cassandra

EnrichVersion
Cloud
7.3
EnrichProdName
Talend Big Data
Talend Big Data Platform
Talend Data Fabric
Talend Open Studio for Big Data
Talend Real-Time Big Data Platform
EnrichPlatform
Studio Talend
task
Création et développement > Systèmes tiers > Composants NoSQL > Composants Cassandra
Gouvernance de données > Systèmes tiers > Composants NoSQL > Composants Cassandra
Qualité et préparation de données > Systèmes tiers > Composants NoSQL > Composants Cassandra

Ces propriétés sont utilisées pour configurer le tCassandraOutput s'exécutant dans le framework de Jobs Standard.

Le composant tCassandraOutput Standard appartient aux familles Big Data et Bases de données NoSQL.

Le composant de ce framework est disponible dans tous les produits Talend avec Big Data et dans Talend Data Fabric.

Basic settings

Property type

Peut être Built-In ou Repository.

Built-In : aucune propriété n'est stockée de manière centrale.

Repository : Sélectionnez le fichier dans lequel sont stockées les propriétés du composant.

Use existing connection

Cochez cette case et sélectionnez le composant de connexion adéquat dans la liste Component list pour réutiliser les paramètres d'une connexion que vous avez déjà définie.

DB Version

Sélectionnez la version de Cassandra que vous utilisez.

API type

Cette liste déroulante s'affiche uniquement lorsque vous avez sélectionné la version 2.0 de Cassandra dans la liste DB version. Dans cette liste API type, vous pouvez sélectionner Datastax pour utiliser CQL 3 (Cassandra Query Language) avec Cassandra ou sélectionnez Hector pour utiliser CQL 2.

Notez que l'API Hector est dépréciée, ainsi que le support de Cassandra V2.0.

Avec l'évolution des commandes CQL, les paramètres à configurer dans la vue Basic settings varient.

Host

Saisissez le nom de l'hôte ou l'adresse IP du serveur Cassandra.

Port

Saisissez le numéro du port d'écoute du serveur Cassandra.

Required authentication

Cochez cette case afin de fournir les informations d'authentification pour Cassandra.

Cette case apparaît uniquement si vous ne cochez pas la case Use existing connection.

Username

Saisissez dans ce champ le nom d'utilisateur ou d'utilisatrice pour l'authentification à Cassandra.

Password

Saisissez dans ce champ le mot de passe d'authentification à Cassandra.

Pour saisir le mot de passe, cliquez sur le bouton [...] à côté du champ Password, puis, dans la boîte de dialogue qui s'ouvre, saisissez le mot de passe entre guillemets doubles et cliquez sur OK afin de sauvegarder les paramètres.

Use SSL

Cochez cette case pour activer la connexion chiffrée SSL ou TLS.

Utilisez le composant tSetKeystore dans le même Job afin de spécifier les informations de chiffrement.

Keyspace

Saisissez le nom du Keyspace dans lequel écrire les données.

Action on keyspace

Sélectionnez l'opération que vous souhaitez effectuer sur le Keyspace à utiliser :

  • None : aucune opération n'est effectuée.

  • Drop and create keyspace : le keyspace est supprimé, puis créé à nouveau.

  • Create keyspace : le keyspace n'existe pas et est créé.

  • Create keyspace if not exists : un keyspace est créé s'il n'existe pas encore.

  • Drop keyspace if exists and create : le keyspace est supprimé s'il existe déjà, puis créé à nouveau.

Column family

Saisissez le nom du Keyspace dans lequel écrire les données.

Action on column family

Sélectionnez l'opération à effectuer sur la famille de colonnes à utiliser :

  • None : aucune opération n'est effectuée.

  • Drop and create column family : la famille de colonnes est supprimée et recréée.

  • Create column family : la famille de colonnes n'existe pas et est créée.

  • Create column family if not exists : la famille de colonnes est créée si elle n'existe pas.

  • Drop column family if exists and create : la famille de colonnes est supprimée si elle existe déjà et recréée.

Action on data

Sélectionnez l'opération que vous voulez effectuer :

  • Upsert : insérer les colonnes si elles n'existent pas ou mettre à jour les colonnes existantes.

  • Insert: insérer les colonnes si elles n'existent pas. Cette action met également à jour les colonnes existantes.

  • Update : mettre à jour les colonnes existantes ou ajoute les colonnes qui n'existent pas. Cette action ne supporte pas le type de données Cassandra Counter.

  • Delete : supprimer les colonnes correspondantes du flux d'entrée.

Notez que la liste des actions varient selon l'API, Hector (dépréciée) ou Datastax, que vous utilisez. Si l'API est Datastax, plus d'options sont disponibles.

Pour plus d'options avancées, utilisez la vue Advanced settings.

Schema et Edit schema

Un schéma est une description de lignes. Il définit le nombre de champs (colonnes) à traiter et à passer au composant suivant. Lorsque vous créez un Job Spark, évitez le mot réservé line lors du nommage des champs.

Modifiez le schéma en cliquant sur Edit Schema. Si le schéma est en mode Repository, trois options sont disponibles :

  • View schema : sélectionnez cette option afin de voir uniquement le schéma.

  • Change to built-in property : sélectionnez cette option pour passer le schéma en mode Built-In et effectuer des modifications locales.

  • Update repository connection : sélectionnez cette option afin de modifier le schéma stocké dans le référentiel et décider de propager ou non les modifications à tous les Jobs. Si vous souhaitez propager les modifications uniquement au Job courant, cliquez sur No et sélectionnez à nouveau la métadonnée du schéma dans la fenêtre Repository Content.

 

Built-in : le schéma est créé et conservé localement pour ce composant seulement.

 

Repository : le schéma existe déjà et est stocké dans le Repository. Ainsi, il peut être réutilisé dans des Jobs et projets.

Lorsque le schéma à réutiliser contient des valeurs par défaut de type Integer ou Function, assurez-vous que ces valeurs par défaut ne sont pas entourées de guillemets. Si elles le sont, supprimez manuellement les guillemets.

Pour plus d'informations, consultez la section relative à la récupération des schémas de table, dans le Guide d'utilisation du Studio Talend.

Sync columns

Cliquez sur le bouton afin de récupérer le schéma du composant précédent dans le Job.

Die on error

Décochez la case pour ignorer les lignes en erreur et terminer le traitement des lignes sans erreur. Lorsque les erreurs sont ignorées, vous pouvez récupérer les lignes en erreur en utilisant la connexion Row > Reject.

Ces fonctionnalités sont disponibles uniquement avec l'API Hector (dépréciée).

Row key column

Sélectionnez la colonne de clé de ligne dans la liste.

Include row key in columns

Cochez cette case pour inclure la clé de ligne dans les colonnes.

Super columns

Sélectionnez la super colonne, dans la liste.

Cette liste déroulante apparaît uniquement si vous sélectionnez Super dans la liste Column family type.

Include super columns in standard columns

Cochez cette case pour inclure les supers colonnes dans les colonnes standards.

Delete row

Cochez cette case pour supprimer la ligne.

Cette case apparaît uniquement lorsque vous sélectionnez Delete dans la liste déroulante Action on data.

Delete columns

Personnalisez les colonnes à supprimer.

Delete super columns

Cochez cette case pour supprimer des supers colonnes.

Cette case apparaît uniquement si vous cochez la case Delete Row.

Advanced settings

Batch Size

Nombre de lignes à traiter dans chaque lot.

Lorsque vous utilisez l'API Datastax, cette fonctionnalité s'affiche uniquement lorsque vous avez coché la case Use unlogged batch.

Use unlogged batch

Cochez cette case pour gérer les données par lot avec l'approche UNLOGGED de Cassandra. Cette fonctionnalité est disponible pour les trois actions suivantes : Insert, Update et Delete.

Vous devez configurer la manière dont fonctionne le mode batch mode :
  • Batch size : saisissez le nombre de lignes dans chaque batch à traiter.

  • Group batch method : sélectionnez la manière dont grouper les lignes en batchs :
    1. Partition : les lignes partageant les mêmes clés de partition sont groupées.

    2. Replica : les lignes à écrire dans une même réplique sont groupées.

    3. None : les lignes sont groupées au hasard. Cette option convient à un seul nœud Cassandra.

  • Cache batch group : cochez cette case pour charger des lignes en mémoire avant de les grouper. Ainsi, l'ordre des lignes n'a pas d'impact sur le regroupement.

    Si vous laissez cette case décochée, seules les lignes successives répondant aux mêmes critères sont groupées.

  • Async execute : cochez cette case si vous souhaitez que le tCassandraOutput envoie des batchs en parallèle. Si vous la laissez décochée, le tCassandraOutput attend le résultat d'un batch avant d'en envoyer à un autre à Cassandra.

  • Maximum number of batches executed in parallel : une fois que vous avez coché Async execute, saisissez le nombre de batchs à envoyer en parallèle à Cassandra.

    Ce nombre ne doit être ni 0, ni un nombre négatif. Il est également recommandé de ne pas utiliser une valeur trop grande.

La situation idéale pour utiliser les batchs avec Cassandra est lorsqu'un petit nombre de tables doit synchroniser les données à insérer ou mettre à jour.

Avec l'approche UNLOGGED, le Job n'écrit pas des lots dans le système batchlog de Cassandra et éviter les problèmes de performance liés à cette écriture. Pour plus d'informations concernant les instructions BATCH de Cassandra et l'approche UNLOGGED, consultez Batches (en anglais).

Insert if not exists

Cochez cette case pour insérer des lignes. Cette insertion de lignes s'effectue uniquement si elles n'existent pas dans la table cible.

Cette fonctionnalité est disponible uniquement lorsque l'action Insert est sélectionnée.

Delete if exists

Cochez cette case pour supprimer de la table cible les lignes ayant le même enregistrement dans le flux entrant.

Cette fonctionnalité est disponible uniquement lorsque l'action Delete est sélectionnée.

Use TTL

Cochez cette case pour écrire les données du TTL dans la table cible. Dans la liste de colonnes affichée, sélectionnez la colonne à utiliser comme colonne du TTL. Le type de cette colonne doit être Int.

Cette fonctionnalité est disponible uniquement lorsque l'action Insert ou Update est sélectionnée.

Use Timestamp

Cochez cette case pour écrire les données de date et heure dans la table cible. Dans la liste de colonnes affichée, sélectionnez la colonne à utiliser pour stocker les données de date et heure. Le type de cette colonne doit être BigInt.

Cette fonctionnalité est disponible pour les actions suivantes : Insert, Update et Delete.

IF condition

Ajoutez la condition à rencontrer pour que l'action Update ou Delete s'exécute. Cette condition vous permet d'être plus précis quant à la colonne à mettre à jour ou à supprimer.

Special assignment operation

Renseignez cette table afin de construire les commandes avancées SET de Cassandra, pour rendre l'action Update plus spécifique. Par exemple, ajouter un enregistrement au début ou à une position particulière d'une colonne donnée.

Dans la colonne Update column de la table, vous devez sélectionnez la colonne à mettre à jour puis sélectionner les opérations à utiliser, depuis la colonne Operation. Les opérations suivantes sont disponibles :
  • Append : ajoute les enregistrements entrants à la fin de la colonne à mettre à jour. Les types de données gérés par Cassandra sont Counter, List, Set et Map.

  • Prepend : ajoute les enregistrements entrants au début de la colonne à mettre à jour. Le seul type de données géré par Cassandra est List.

  • Remove : supprime les enregistrements de la table cible lorsque les mêmes enregistrements existent dans le flux entrant. Les types de données gérés par Cassandra sont Counter, List, Set et Map.

  • Assign based on position/key : ajoute des enregistrements à une position précise de la colonne à mettre à jour. Les types de données gérés par Cassandra sont List et Map.

    Une fois cette opération sélectionnée, la colonne Map key/list position devient modifiable. Dans cette colonne, vous devez sélectionner la colonne à utiliser en tant que référence afin de localiser la position à mettre à jour.

Pour plus d'informations concernant ces opérations, consultez la documentation relative à Datastax à l'adresse suivante : http://docs.datastax.com/en/cql/3.1/cql/cql_reference/update_r.html?scroll=reference_ds_g4h_qzq_xj__description_unique_34 (en anglais).

Row key in the List type

Sélectionnez la colonne à utiliser pour construire la clause WHERE de Cassandra pour effectuer l'action Update ou Delete sur les lignes sélectionnées. Les colonnes à utiliser dans cette table doivent provenir de l'ensemble des colonnes de clé primaire de la table Cassandra.

Delete collection column based on postion/key

Sélectionnez la colonne à utiliser comme référence afin de localiser la ou les ligne(s) à supprimer.

Cette fonctionnalité est disponible uniquement lorsque l'action Delete est sélectionnée.

tStatCatcher Statistics

Cochez cette case pour collecter les métadonnées de traitement du Job au niveau du Job ainsi qu'au niveau de chaque composant.

Variables globales

Global Variables

NB_LINE : nombre de lignes lues par un composant d'entrée ou passées à un composant de sortie. Cette variable est une variable After et retourne un entier.

ERROR_MESSAGE : message d'erreur généré par le composant lorsqu'une erreur survient. Cette variable est une variable After et retourne une chaîne de caractères. Cette variable fonctionne uniquement si la case Die on error est décochée, lorsque le composant contient cette case.

Une variable Flow fonctionne durant l'exécution d'un composant. Une variable After fonctionne après l'exécution d'un composant.

Pour renseigner un champ ou une expression à l'aide d'une variable, appuyez sur les touches Ctrl+Espace pour accéder à la liste des variables. À partir de cette liste, vous pouvez choisir la variable que vous souhaitez utiliser.

Pour plus d'informations concernant les variables, consultez le Guide d'utilisation du Studio Talend .

Utilisation

Règle d'utilisation

Ce composant et utilisé en tant que composant de sortie et nécessite un lien de sortie.