Propriétés du tSynonymSearch pour Apache Spark Batch - Cloud

Ces propriétés sont utilisées pour configurer le tSynonymSearch s'exécutant dans le framework de Jobs Spark Batch.

Le composant tSynonymSearch Spark Batch appartient à la famille Qualité de données.

Le composant de ce framework est disponible dans tous les produits Talend Platform avec Big Data et dans Talend Data Fabric.

Basic settings

Schema et Edit schema	Un schéma est une description de lignes. Il définit le nombre de champs (colonnes) à traiter et à passer au composant suivant. Lorsque vous créez un Job Spark, évitez le mot réservé `line` lors du nommage des champs. Les colonnes sont fournies par défaut dans le schéma de ce composant afin de présenter les détails de mise en correspondance entre les données d'entrée et les données de référence. Pour plus d'informations concernant les colonnes par défaut du schéma, consultez Colonnes par défaut du schéma. Cliquez sur Sync columns pour récupérer le schéma du composant précédent dans le Job. Créez le schéma en cliquant sur le bouton Edit Schema. Si le schéma est en mode Repository, trois options sont disponibles : View schema : sélectionnez cette option afin de voir uniquement le schéma. Change to built-in property : sélectionnez cette option pour passer le schéma en mode Built-In et effectuer des modifications locales. Update repository connection : sélectionnez cette option afin de modifier le schéma stocké dans le référentiel et décider de propager ou non les modifications à tous les Jobs. Si vous souhaitez propager les modifications uniquement au Job courant, cliquez sur No et sélectionnez à nouveau la métadonnée du schéma dans la fenêtre Repository Content.
	Built-in : le schéma est créé et conservé localement pour ce composant seulement.
	Repository : le schéma existe déjà et est stocké dans le Repository. Ainsi, il peut être réutilisé dans des Jobs et projets.
Limit of each group	Saisissez le nombre maximum d'entrées de référence correspondant à chaque groupe de données d'entrée à afficher. Chaque ligne des données d'entrée est reconnue par ce composant comme étant un groupe. Si le nombre d'entrées dépasse la limite indiquée, ce composant affiche celles qui ont le score le plus élevé. Pour plus d'informations concernant les scores utilisés sur les entrées mises en correspondance, consultez Colonnes par défaut du schéma.
Columns to search	Complétez ce tableau pour renseigner les paramètres utilisés pour mettre en correspondance les données d'entrée et les entrées de référence dans un index donné. Les colonnes à renseigner sont : - Input column : sélectionnez la(es) colonne(s) souhaitées dans le schéma des données d'entrée. - Reference output column : sélectionnez la(es) colonne(s) dans le schéma des données de sortie pour présenter les entrées de référence correspondantes trouvées dans l'index des synonymes. Index path : saisissez le chemin d'accès de l'index que vous souhaitez récupérer sur le cluster. Cette valeur doit se trouver entre guillemets. Lorsque vous utilisez le mode Spark Local, utilisez un chemin vers un dossier local : Apache Spark 3.1 et versions précédentes : prefix://file path ou file:///file path. Apache Spark 3.2 et supérieures : file:///file path. Sinon, utilisez un chemin vers le dossier où est stocké l'index dans HDFS. Le chemin doit commencer par `hdfs://`. Vous ne pouvez pas utiliser de chemin vers un dossier local. - Search mode : sélectionnez le mode de recherche à utiliser pour mettre en correspondance les chaînes de caractères d'entrée par rapport aux chaînes de caractères de l'index. Pour plus d'informations concernant les modes de recherche disponibles, consultez Modes de recherche pour les règles d'Index. - Score threshold (disponible pour tous les modes) : configurez une valeur numérique, supérieure à `0.0`, avec laquelle vous souhaitez filtrer les résultats. Configurez le seuil à `0.0` pour désactiver le filtre. La valeur du score est retournée par le moteur Lucene et est supérieure à `0`. Plus le score est élevé, plus la similarité de la correspondance est élevée. Utilisez le seuil afin de supprimer des résultats en sortie les correspondances dont le score est faible. Il n'y a pas de méthode simple pour déterminer la bonne valeur du seuil. Cela dépend des données d'entrée et des données indexées. - Max edits (basé sur l'algorithme de Levenshtein et disponible pour les modes Match all fuzzy et Match any fuzzy) : sélectionnez une distance de modification, `1` ou `2`, dans la liste. Tout terme au sein de la distance de modification depuis les données d'entrée est mis en correspondance. Avec une distance maximale de modification de `2`, par exemple, vous pouvez effectuer deux insertions, suppressions ou substitutions. Les performances du rapprochement flou sont nettement améliorées avec l’option Max edits for fuzzy match. Remarque : Les Jobs migrés dans le Studio Talend depuis d'anciennes versions s'exécutent correctement, mais les résultats peuvent être légèrement différents, car l'option Max edits for fuzzy match est utilisée à la place de l'option Minimum similarity for fuzzy match. Word distance (disponible pour le Match partial) : définissez le nombre maximal de mots autorisés dans une séquence de mots pouvant être trouvée dans l'index. La valeur par défaut est `1`. - Limit : saisissez le nombre maximum d'entrées de référence à mettre en correspondance avec chaque enregistrement de la colonne d'entrée correspondante que vous avez sélectionnée.

Global Variables

Variables globales	ERROR_MESSAGE : message d'erreur généré par le composant lorsqu'une erreur survient. Cette variable est une variable After et retourne une chaîne de caractères. Cette variable fonctionne uniquement si la case Die on error est décochée, lorsque le composant contient cette case. Une variable Flow fonctionne durant l'exécution d'un composant. Une variable After fonctionne après l'exécution d'un composant. Pour renseigner un champ ou une expression à l'aide d'une variable, appuyez sur les touches Ctrl+Espace pour accéder à la liste des variables. À partir de cette liste, vous pouvez choisir la variable que vous souhaitez utiliser. Pour plus d'informations concernant les variables, consultez Utiliser les contextes et les variables.

Variables globales

ERROR_MESSAGE : message d'erreur généré par le composant lorsqu'une erreur survient. Cette variable est une variable After et retourne une chaîne de caractères. Cette variable fonctionne uniquement si la case Die on error est décochée, lorsque le composant contient cette case.

Une variable Flow fonctionne durant l'exécution d'un composant. Une variable After fonctionne après l'exécution d'un composant.

Pour renseigner un champ ou une expression à l'aide d'une variable, appuyez sur les touches Ctrl+Espace pour accéder à la liste des variables. À partir de cette liste, vous pouvez choisir la variable que vous souhaitez utiliser.

Pour plus d'informations concernant les variables, consultez Utiliser les contextes et les variables.

Utilisation

Règle d'utilisation	Ce composant est utilisé comme étape intermédiaire. Ce composant, ainsi que la Palette Spark Batch à laquelle il appartient, ne s'affiche que lorsque vous créez un Job Spark Batch. Notez que, dans cette documentation, sauf mention contraire, un scénario présente uniquement des Jobs Standard, c'est-à-dire des Jobs Talend traditionnels d'intégration de données.
Connections	Liens de sortie (de ce composant à un autre) : Row : Main, Reject. Trigger : Run if, OnComponentOk, OnComponentError. Liens d'entrée (d'un autre composant à celui-ci) : Row : Main, Reject. Pour plus d'informations concernant les connexions, consultez Utilisation des connexions dans un Job.
Spark Connection	Dans l'onglet Spark Configuration de la vue Run, définissez la connexion à un cluster Spark donné pour le Job complet. De plus, puisque le Job attend ses fichiers .jar dépendants pour l'exécution, vous devez spécifier le répertoire du système de fichiers dans lequel ces fichiers .jar sont transférés afin que Spark puisse accéder à ces fichiers : Yarn mode (Yarn Client ou Yarn Cluster) : Lorsque vous utilisez Google Dataproc, spécifiez un bucket dans le champ Google Storage staging bucket de l'onglet Spark configuration. Lorsque vous utilisez HDInsight, spécifiez le blob à utiliser pour le déploiement du Job, dans la zone Windows Azure Storage configuration de l'onglet Spark configuration. Lorsque vous utilisez Altus, spécifiez le bucket S3 ou le stockage Azure Data Lake Storage (aperçu technique) pour le déploiement du Job, dans l'onglet Spark configuration. Lorsque vous utilisez des distributions sur site (on-premises), utilisez le composant de configuration correspondant au système de fichiers utilisé par votre cluster. Généralement, ce système est HDFS et vous devez utiliser le tHDFSConfiguration. Standalone mode : utilisez le composant de configuration correspondant au système de fichiers que votre cluster utilise, comme le tHDFSConfiguration Apache Spark Batch ou le tS3Configuration Apache Spark Batch. Si vous utilisez Databricks sans composant de configuration dans votre Job, vos données métier sont écrites directement dans DBFS (Databricks Filesystem). Cette connexion fonctionne uniquement pour le Job dans lequel vous l'avez définie.

Règle d'utilisation

Ce composant est utilisé comme étape intermédiaire.

Ce composant, ainsi que la Palette Spark Batch à laquelle il appartient, ne s'affiche que lorsque vous créez un Job Spark Batch.

Notez que, dans cette documentation, sauf mention contraire, un scénario présente uniquement des Jobs Standard, c'est-à-dire des Jobs Talend traditionnels d'intégration de données.

Connections

Liens de sortie (de ce composant à un autre) :

Row : Main, Reject.

Trigger : Run if, OnComponentOk, OnComponentError.

Liens d'entrée (d'un autre composant à celui-ci) :

Row : Main, Reject.

Pour plus d'informations concernant les connexions, consultez Utilisation des connexions dans un Job.

Spark Connection

Dans l'onglet Spark Configuration de la vue Run, définissez la connexion à un cluster Spark donné pour le Job complet. De plus, puisque le Job attend ses fichiers .jar dépendants pour l'exécution, vous devez spécifier le répertoire du système de fichiers dans lequel ces fichiers .jar sont transférés afin que Spark puisse accéder à ces fichiers :

Yarn mode (Yarn Client ou Yarn Cluster) :
- Lorsque vous utilisez Google Dataproc, spécifiez un bucket dans le champ Google Storage staging bucket de l'onglet Spark configuration.
- Lorsque vous utilisez HDInsight, spécifiez le blob à utiliser pour le déploiement du Job, dans la zone Windows Azure Storage configuration de l'onglet Spark configuration.
- Lorsque vous utilisez Altus, spécifiez le bucket S3 ou le stockage Azure Data Lake Storage (aperçu technique) pour le déploiement du Job, dans l'onglet Spark configuration.
- Lorsque vous utilisez des distributions sur site (on-premises), utilisez le composant de configuration correspondant au système de fichiers utilisé par votre cluster. Généralement, ce système est HDFS et vous devez utiliser le tHDFSConfiguration.
Standalone mode : utilisez le composant de configuration correspondant au système de fichiers que votre cluster utilise, comme le tHDFSConfiguration Apache Spark Batch ou le tS3Configuration Apache Spark Batch.

Si vous utilisez Databricks sans composant de configuration dans votre Job, vos données métier sont écrites directement dans DBFS (Databricks Filesystem).

Cette connexion fonctionne uniquement pour le Job dans lequel vous l'avez définie.

Propriétés du tSynonymSearch pour Apache Spark Batch - Cloud - 8.0

Index des synonymes

Basic settings

Global Variables

Utilisation