Propriétés du tElasticSearchOutput pour Apache Spark Batch - 6.4

ElasticSearch

author
Talend Documentation Team
EnrichVersion
6.4
EnrichProdName
Talend Big Data
Talend Big Data Platform
Talend Data Fabric
Talend Real-Time Big Data Platform
task
Création et développement > Systèmes tiers > Composants ElasticSearch
Gouvernance de données > Systèmes tiers > Composants ElasticSearch
Qualité et préparation de données > Systèmes tiers > Composants ElasticSearch
EnrichPlatform
Studio Talend

Ces propriétés sont utilisées pour configurer le tElasticSearchOutput s'exécutant dans le framework de Jobs Spark Batch.

Le composant tElasticSearchOutput Spark Batch appartient à la famille ElasticSearch.

Le composant dans ce framework est disponible dans tous les produits Talend avec Big Data nécessitant souscription et dans Talend Data Fabric.

Advanced settings

Document metadata

Renseignez cette table afin de sélectionner les colonnes d'entrée à utiliser pour fournir les métadonnées pour chaque document. Cette table est généralement utilisée avec l'option json_document de la liste Output document dans la vue Basic settings.

La colonne Column est automatiquement alimentée avec les colonnes du schéma d'entrée. Dans la colonne As metadata, vous devez cocher la case correspondant aux colonnes à utiliser.

Dans la colonne Metadata type, sélectionnez le type de métadonnées de document que chaque colonne fournit.

Pour plus d'informations concernant les types de métadonnées d'un document Elasticsearch, consultez https://www.elastic.co/guide/en/elasticsearch/guide/current/_document_metadata.html.

Use SSL/TLS

Cochez cette case pour activer la connexion cryptée SSL ou TLS.

Utilisez le composant tSetKeystore dans le même Job afin de spécifier les informations de chiffrement.

Pour plus d'informations concernant le tSetKeystore, consultez tSetKeystore.

Configuration

Ajoutez les paramètres acceptés par ElasticSearch pour effectuer plus d'actions personnalisées.

Par exemple, saisissez es.mapping.id dans la colonne Key et true dans la colonne Value pour que l'ID du document soit contenu dans le nom de la propriété ou du champ. Notez que vous devez saisir des guillemets doubles autour des informations saisies.

Pour la liste des paramètres que vous pouvez utiliser, consultez https://www.elastic.co/guide/en/elasticsearch/hadoop/master/configuration.html (en anglais).

Utilisation

Règle d'utilisation

Ce composant est utilisé en tant que composant de fin et requiert un lien d'entrée.

Ce composant doit utiliser un tElasticSearchConfiguration au sein du même Job pour se connecter à ElasticSearch. Vous devez cocher la case Use an existing configuration et sélectionner le composant tElasticSearchConfiguration à utiliser.

Ce composant, ainsi que la Palette Spark Batch à laquelle il appartient, ne s'affiche que lorsque vous créez un Job Spark Batch.

Notez que, dans cette documentation, sauf mention contraire, un scénario présente uniquement des Jobs Standard, c'est-à-dire des Jobs Talend traditionnels d'intégration de données.

Basice settings

Schema et Edit Schema

 

 

 

 

   
 

Use an existing configuration

 

Nodes

 

Index

 

Type

 

Output document

Spark Connection

Vous devez utiliser l'onglet Spark Configuration de la vue Run afin de définir la connexion à un cluster Spark donné pour le Job complet. De plus, puisque le Job attend ses fichiers .jar dépendants pour l'exécution, vous devez spécifier le répertoire du système de fichiers dans lequel ces fichiers .jar sont transférés afin que Spark puisse accéder à ces fichiers :
  • Yarn mode : lorsque vous utilisez Google Dataproc, spécifiez un bucket dans le champ Google Storage staging bucket de l'onglet Spark configuration. Lorsque vous utilisez d'autres distributions, utilisez un composant tHDFSConfiguration afin de spécifier le répertoire.

  • Standalone mode : vous devez choisir le composant de configuration selon le système de fichiers que vous utilisez, comme tHDFSConfiguration ou tS3Configuration.

Cette connexion fonctionne uniquement pour le Job dans lequel vous l'avez définie.