Propriétés du tAzureFSConfiguration pour Apache Spark Batch - 6.5

Azure Data Lake Store

author
Talend Documentation Team
EnrichVersion
6.5
EnrichProdName
Talend Big Data
Talend Big Data Platform
Talend Data Fabric
Talend Real-Time Big Data Platform
task
Création et développement > Systèmes tiers > Stockages Cloud > Composants Azure > Composants Azure Data Lake Store
Gouvernance de données > Systèmes tiers > Stockages Cloud > Composants Azure > Composants Azure Data Lake Store
Qualité et préparation de données > Systèmes tiers > Stockages Cloud > Composants Azure > Composants Azure Data Lake Store
EnrichPlatform
Studio Talend

Ces propriétés sont utilisées pour configurer le tAzureFSConfiguration s'exécutant dans le framework de Jobs Spark Batch.

Le composant tAzureFSConfiguration Spark Batch appartient à la famille Storage.

Le composant de ce framework est disponible dans tous les produits Talend avec Big Data nécessitant souscription et dans Talend Data Fabric.

Basic settings

Azure FileSystem

Sélectionnez le système de fichiers à utiliser. Les paramètres à définir sont affichés en fonction.

L'option Azure Data Lake Store est disponible uniquement lorsque vous utilisez Hortonworks Data Platform V2.6.0 ou Cloudera CDH 5.12.

Lorsque vous utilisez ce composant avec Azure Blob Storage :

Blob storage account

Saisissez le nom du compte de stockage auquel vous devez accéder. Vous pouvez trouver un nom de compte de stockage dans le dashboard Storage accounts du système Microsoft Azure Storage à utiliser. Assurez-vous que l'administrateur du système a donné les droits d'accès appropriés à ce compte de stockage.

Account key

Saisissez la clé associée au compte de stockage auquel vous devez accéder. Deux clés sont disponibles pour chaque compte. Par défaut, n'importe laquelle peut être utilisée pour accéder au compte.

Container

Saisissez le nom du conteneur de blob à utiliser.

Lorsque vous utilisez ce composant avec Azure Data Lake Storage :

Data Lake Store account

Saisissez le nom du compte Data Lake Store auquel accéder. Assurez-vous que l'administrateur du système vous a donné les droits d'accès appropriés pour ce compte.

Client ID et Client key

Saisissez l'ID d'authentification et la clé d'authentification générés après enregistrement de l'application que le Job actif que vous développez utilise pour accéder à Azure Data Lake Store.

Assurez-vous que l'application à utiliser a les droits appropriés pour accéder à Azure Data Lake. Vous pouvez vérifier ceci dans la vue Required permissions de cette application dans Azure. Pour plus d'informations, consultez la documentation Azure Authentification à l'application.

Token endpoint

Copiez-collez l'endpoint du jeton OAuth 2.0 que vous pouvez obtenir de la liste Endpoints accessible dans la page App registrations.

Variables globales

Variables globales

ERROR_MESSAGE : message d'erreur généré par le composant lorsqu'une erreur survient. Cette variable est une variable After et retourne une chaîne de caractères. Cette variable fonctionne uniquement si la case Die on error est décochée, lorsque le composant contient cette case.

Une variable Flow fonctionne durant l'exécution d'un composant. Une variable After fonctionne après l'exécution d'un composant.

Pour renseigner un champ ou une expression à l'aide d'une variable, appuyez sur les touches Ctrl+Espace pour accéder à la liste des variables. À partir de cette liste, vous pouvez choisir la variable que vous souhaitez utiliser.

Pour plus d'informations concernant les variables, consultez le Guide utilisateur du Studio Talend .

Règle d'utilisation

Règle d'utilisation

Ce composant est utilisé en standalone dans un sous-job afin de fournir la configuration de connexion à votre système de fichiers Azure pour le Job complet.

Connexion à Spark

Vous devez utiliser l'onglet Spark Configuration dans la vue Run afin de définir la connexion à un cluster Spark donné pour le Job entier. De plus, puisque le Job attend ses fichiers .jar dépendants pour l'exécution, vous devez spécifier le répertoire du système de fichiers dans lequel ces fichiers .jar sont transférés afin que Spark puisse accéder à ces fichiers :
  • Yarn mode : lorsque vous utilisez Google Dataproc, spécifiez un bucket dans le champ Google Storage staging bucket de l'onglet Spark configuration. Lorsque vous utilisez d'autres distributions, utilisez un composant tHDFSConfiguration afin de spécifier le répertoire.

  • Standalone mode : vous devez choisir le composant de configuration selon le système de fichiers que vous utilisez, comme tHDFSConfiguration ou tS3Configuration.

Cette connexion fonctionne uniquement pour le Job dans lequel vous l'avez définie.