Propriétés du tSynonymSearch dans des Jobs Spark Streaming - 6.3

Composants Talend Guide de référence

EnrichVersion
6.3
EnrichProdName
Talend Big Data
Talend Big Data Platform
Talend Data Fabric
Talend Data Integration
Talend Data Management Platform
Talend Data Services Platform
Talend ESB
Talend MDM Platform
Talend Open Studio for Big Data
Talend Open Studio for Data Integration
Talend Open Studio for Data Quality
Talend Open Studio for ESB
Talend Open Studio for MDM
Talend Real-Time Big Data Platform
task
Création et développement
Gouvernance de données
Qualité et préparation de données
EnrichPlatform
Studio Talend

Famille du composant

Data Quality

 

Basic settings

Schema et Edit schema

Un schéma est une description de lignes, il définit le nombre de champs (colonnes) qui sont traités et passés au composant suivant. Le schéma est soit local (Built-In), soit distant dans le Repository.

Depuis la version 5.6, les modes Built-In et Repository sont disponibles dans toutes les solutions de Talend.

Les colonnes sont fournies par défaut dans le schéma de ce composant afin de présenter les détails de mise en correspondance entre les données d'entrée et les données de référence.

Pour plus d'informations concernant les colonnes par défaut du schéma, consultez Colonnes par défaut du schéma.

Cliquez sur le bouton Sync columns pour récupérer le schéma du composant précédent.

Cliquez sur Edit schema pour modifier le schéma. Si le schéma est en mode Repository, trois options sont disponibles :

  • View schema : sélectionnez cette option afin de voir le schéma.

  • Change to Built-In property : sélectionnez cette option pour passer le schéma en mode Built-In et effectuer des modifications locales.

  • Update repository connection : sélectionnez cette option afin de modifier le schéma stocké dans le référentiel et décider de propager ou non les modifications à tous les Jobs. Si vous souhaitez propager les modifications uniquement au Job courant, cliquez sur No et sélectionnez à nouveau la métadonnée du schéma dans la fenêtre [Repository Content].

 

 

Built-In : Le schéma est créé et conservé ponctuellement pour ce composant seulement. Voir également le Guide utilisateur du Studio Talend.

 

 

Repository : Le schéma existe déjà et il est stocké dans le Repository. Ainsi, il peut être réutilisé. Voir également le Guide utilisateur du Studio Talend.

 

Limit of each group

Saisissez le nombre maximum d'entrées de référence correspondant à chaque groupe de données d'entrée à afficher. Chaque ligne des données d'entrée est reconnue par ce composant comme étant un groupe.

Si le nombre d'entrées dépasse la limite indiquée, ce composant affiche celles qui ont le score le plus élevé. Pour plus d'informations concernant les scores utilisés sur les entrées mises en correspondance, consultez Colonnes par défaut du schéma.

 

Columns to search

Complétez ce tableau pour renseigner les paramètres utilisés pour mettre en correspondance les données d'entrée et les entrées de référence dans un index donné.

Les colonnes à renseigner sont :

- Input column : sélectionnez la(es) colonne(s) souhaitées dans le schéma des données d'entrée.

- Reference output column : sélectionnez la(es) colonne(s) dans le schéma des données de sortie pour présenter les entrées de référence correspondantes trouvées dans l'index des synonymes.

- Index path : saisissez entre guillemets le chemin d'accès de l'index que vous souhaitez récupérer.

- Search mode : sélectionnez le mode de recherche à utiliser pour mettre en correspondance les chaînes de caractères d'entrée par rapport aux chaînes de caractères de l'index. Pour plus d'informations concernant les modes de recherche disponibles, consultez Modes de recherche pour les règles d'Index.

- Score threshold (disponible pour tous les modes) : configurez une valeur numérique, supérieure à 0.0, avec laquelle vous souhaitez filtrer les résultats. Configurez le seuil à 0.0 pour désactiver le filtre.

La valeur du score est retournée par le moteur Lucene et est supérieure à 0. Plus le score est élevé, plus la similarité de la correspondance est élevée. Utilisez le seuil afin de supprimer des résultats en sortie les correspondances dont le score est faible. Il n'y a pas de méthode simple pour déterminer la bonne valeur du seuil. Cela dépend des données d'entrée et des données indexées.

- Max edits (basé sur l'algorithme de Levenshtein et disponible pour les modes Match all fuzzy et Match any fuzzy) : sélectionnez une distance de modification, 1 ou 2, dans la liste. Tout terme au sein de la distance de modification depuis les données d'entrée est mis en correspondance. Avec une distance maximale de modification de 2, par exemple, vous pouvez effectuer 2 insertions, suppressions ou substitutions.

Les performances de la mise en correspondance floue sont nettement améliorées avec l'option Max edits for fuzzy match.

Note

Les Jobs migrés dans le Studio depuis d'anciennes versions s'exécutent correctement, mais les résultats peuvent être légèrement différents, car l'option Max edits for fuzzy match est utilisée à la place de l'option Minimum similarity for fuzzy match.

- Word distance (disponible pour le Match partial) : définissez le nombre maximal de mots autorisés dans une séquence de mots pouvant être trouvée dans l'index. La valeur par défaut est 1.

- Limit : saisissez le nombre maximum d'entrées de référence à mettre en correspondance avec chaque enregistrement de la colonne d'entrée correspondante que vous avez sélectionnée.

Connections

Liens de sortie (de ce composant à un autre) :

Row : Main; Reject

Trigger : Run if; On Component Ok; On Component Error.

Liens d'entrée (d'un autre composant à celui-ci) :

Row : Main; Reject

Pour plus d'informations concernant les connexions, consultez le Guide utilisateur du Studio Talend.

Global Variables

ERROR_MESSAGE : message d'erreur généré par le composant lorsqu'une erreur survient. Cette variable est une variable After et retourne une chaîne de caractères. Cette variable fonctionne uniquement si la case Die on error est décochée, si le composant a cette option.

Une variable Flow fonctionne durant l'exécution d'un composant. Une variable After fonctionne après l'exécution d'un composant.

Pour renseigner un champ ou une expression à l'aide d'une variable, appuyez sur les touches Ctrl+Espace pour accéder à la liste des variables. A partir de cette liste, vous pouvez choisir la variable que vous souhaitez utiliser.

Pour plus d'informations concernant les variables, consultez le Guide utilisateur du Studio Talend.

Utilisation dans des Jobs Spark Streaming

Vous devez utiliser l'onglet Spark Configuration de la vue Run afin de définir la connexion à un cluster Spark donné pour le Job complet. De plus, puisque le Job attend ses fichiers .jar dépendants pour l'exécution, un (et un seul) composant relatif à un système de fichiers de la famille Storage est requis au sein du même Job, afin que Spark puisse utiliser ce composant pour se connecter au système de fichiers auquel les fichiers .jar dépendants du Job sont transférés :

Cette connexion fonctionne uniquement pour le Job dans lequel vous l'avez définie.

Log4j

Si vous utilisez une solution Talend soumise à souscription, l'activité de ce composant peut être journalisée avec la fonctionnalité log4j. Pour plus d'informations sur cette fonctionnalité, consultez le Guide utilisateur du Studio Talend.

Pour plus d'informations sur les niveaux de logs du log4j, consultez la documentation d'Apache : http://logging.apache.org/log4j/1.2/apidocs/org/apache/log4j/Level.html (en anglais).

Spark Connection

Vous devez utiliser l'onglet Spark Configuration de la vue Run afin de définir la connexion à un cluster Spark donné pour le Job complet. De plus, puisque le Job attend ses fichiers .jar dépendants pour l'exécution, un (et un seul) composant relatif à un système de fichiers de la famille Storage est requis au sein du même Job, afin que Spark puisse utiliser ce composant pour se connecter au système de fichiers auquel les fichiers .jar dépendants du Job sont transférés :

Cette connexion fonctionne uniquement pour le Job dans lequel vous l'avez définie.