tBigQueryBulkExec - 6.1

Composants Talend Guide de référence

EnrichVersion
6.1
EnrichProdName
Talend Big Data
Talend Big Data Platform
Talend Data Fabric
Talend Data Integration
Talend Data Management Platform
Talend Data Services Platform
Talend ESB
Talend MDM Platform
Talend Open Studio for Big Data
Talend Open Studio for Data Integration
Talend Open Studio for Data Quality
Talend Open Studio for ESB
Talend Open Studio for MDM
Talend Real-Time Big Data Platform
task
Création et développement
Gouvernance de données
Qualité et préparation de données
EnrichPlatform
Studio Talend

Avertissement

Ce composant est disponible dans la Palette du Studio Talend si vous avez souscrit à l'une des solutions Big Data de Talend.

Les composants tBigQueryOutputBulk et tBigQueryBulkExec sont généralement utilisés ensemble comme les deux étapes d'un processus. Dans la première étape, un fichier de sortie est généré. Dans la seconde étape, ce fichier est utilisé pour alimenter un ensemble de données. Ces deux étapes sont fusionnées dans le composant tBigQueryOutput, détaillé dans une section séparée. L'utilisation de deux composants séparés permet de transformer les données avant de les charger.

Propriétés du tBigQueryBulkExec

Famille du composant

Big Data / Google BigQuery

 

Fonction

Ce composant transfère un fichier donné de Google Cloud Storage à Google BigQuery, ou charge un fichier donné dans Google Cloud Storage et le transfère dans Google BigQuery.

Objectif

Le tBigQueryBulkExec transfère des données dans Google BigQuery.

Basic settings

Schema et Edit Schema

Un schéma est une description de lignes, il définit le nombre de champs (colonnes) qui sont traités et passés au composant suivant. Le schéma est soit local (Built-In), soit distant dans le Repository.

Depuis la version 5.6, les modes Built-In et Repository sont disponibles dans toutes les solutions de Talend.

Cliquez sur Edit schema pour modifier le schéma. Si le schéma est en mode Repository, trois options sont disponibles :

  • View schema : sélectionnez cette option afin de voir le schéma.

  • Change to Built-In property : sélectionnez cette option pour passer le schéma en mode Built-In et effectuer des modifications locales.

  • Update repository connection : sélectionnez cette option afin de modifier le schéma stocké dans le référentiel et décider de propager ou non les modifications à tous les Jobs. Si vous souhaitez propager les modifications uniquement au Job courant, sélectionnez No et sélectionnez à nouveau la métadonnée du schéma dans la fenêtre [Repository Content].

 

 

Built-In : Le schéma est créé et conservé ponctuellement pour ce composant seulement. Voir également le Guide utilisateur du Studio Talend.

 

 

Repository : Le schéma existe déjà et il est stocké dans le Repository. Ainsi, il peut être réutilisé. Voir également le Guide utilisateur du Studio Talend.

Connection

Client ID et Client secret

Collez l'ID du client et son mot de passe ("secret") créés et visibles dans l'onglet API Access du projet hébergeant les services BigQuery et Cloud Storage à utiliser.

Pour saisir le Secret du client, cliquez sur le bouton [...] à côté du champ Client Secret, puis, dans la boîte de dialogue qui s'ouvre, saisissez le Secret du client entre guillemets doubles puis cliquez sur OK afin de sauvegarder les paramètres.

 

Project ID

Collez l'ID du projet hébergeant le service BigQuery à utiliser.

L'ID par défaut de ce projet se trouve dans l'URL de la console d'API Google. Vous pouvez également l'obtenir en passant votre curseur sur le nom du projet dans l'outil BigQuery Browser.

 

Authorization code

Collez le code d'autorisation fourni par Google pour l'accès en cours de construction.

Pour obtenir le code d'autorisation, vous devez exécuter le Job utilisant ce composant. Lorsque l'exécution du Job est en pause pour afficher une URL, vous devez vous rendre à l'URL donnée afin de copier le code d'autorisation.

 

Dataset

Saisissez le nom de l'ensemble de données dans lequel vous devez transférer des données.

 

Table

Saisissez le nom de la table dans laquelle vous devez transférer les données.

Si la table n'existe pas, cochez la case Create the table if it doesn't exist.

 

Action on data

Sélectionnez l'action à effectuer dans la liste déroulante lors du transfert des données dans la table cible. Les actions disponibles sont :

  • Truncate : vide le contenu de la table et la repeuple avec les données transférées.

  • Append : ajoute des lignes aux données existant dans la table.

  • Empty : peuple une table vide.

Google storage configuration

Bulk file already exists in Google storage

Cochez cette case pour réutiliser les informations d'authentification pour vous connecter à Google Cloud Storage, puis renseignez les champs File (fichier) et Header (en-tête).

Access key et Secret key

Collez les informations d'authentification obtenues de Google pour envoyer des requêtes à Google Cloud Storage.

Pour saisir la clé secrète, cliquez sur le bouton [...] à côté du champ Secret key, puis, dans la boîte de dialogue qui s'ouvre, saisissez le mot de passe entre guillemets doubles puis cliquez sur OK afin de sauvegarder les paramètres.

Ces clés peuvent être consultées dans la vue Interoperable Access, sous l'onglet Google Cloud Storage du projet.

 

File to upload

Lorsque les données à transférer à BigQuery ne sont pas stockées dans Google Cloud Storage, parcourez votre système ou saisissez le chemin d'accès à ces données.

 

Bucket

Saisissez le nom du bucket, le conteneur Google Cloud Storage contenant les données à transférer à Google BigQuery.

 

File

Saisissez le chemin d'accès au répertoire des données stockées dans Google Cloud Storage devant être transférées à BigQuery.

Si les données ne sont pas dans Google Cloud Storage, ce répertoire est utilisé comme destination intermédiaire avant le transfert des données à BigQuery.

  Header

Configurez la valeur pour ignorer l'en-tête des données transférées. Par exemple, saisissez 0 afin de n'ignorer aucune ligne, si vos données ne contiennent pas d'en-tête.

 

Die on error

Cette case est décochée par défaut, afin d'ignorer les lignes en erreur et de terminer le traitement avec les lignes sans erreur.

Advanced settings

token properties File Name

Saisissez le chemin d'accès ou parcourez votre système jusqu'au fichier de jeton à utiliser.

Lors de la première exécution du Job avec le code Authorization code de Google BigQuery, vous devez saisir dans ce champ le répertoire et le nom du fichier contenant le nouveau jeton (refresh token) à créer et à utiliser. Si ce fichier de jeton a été créé et que vous devez le réutiliser, vous devez spécifier son répertoire ainsi que le nom du fichier dans ce champ.

Si vous saisissez uniquement le nom du fichier de jeton, le Studio Talend considère que le répertoire de ce fichier est la racine du dossier du Studio Talend.

Pour plus d'informations concernant le refresh token, consultez le manuel de Google BigQuery.

 

Set the field delimiter

Saisissez un caractère, une chaîne de caractères ou une expression régulière pour séparer les champs des données transférées.

 

Encoding

Sélectionnez l'encodage à partir de la liste ou sélectionnez Custom et définissez-le manuellement. Ce champ est obligatoire pour la gestion de données de bases de données.

 

tStatCatcher Statistics

Cochez cette case pour collecter les données de log, aussi bien au niveau du Job qu'au niveau de chaque composant.

Global Variables

ERROR_MESSAGE : message d'erreur généré par le composant lorsqu'une erreur survient. Cette variable est une variable After et retourne une chaîne de caractères. Cette variable fonctionne uniquement si la case Die on error est décochée, si le composant a cette option.

Une variable Flow fonctionne durant l'exécution d'un composant. Une variable After fonctionne après l'exécution d'un composant.

Pour renseigner un champ ou une expression à l'aide d'une variable, appuyez sur les touches Ctrl+Espace pour accéder à la liste des variables. A partir de cette liste, vous pouvez choisir la variable que vous souhaitez utiliser.

Pour plus d'informations concernant les variables, consultez le Guide utilisateur du Studio Talend.

Utilisation

Ce composant est utilisable en tant que composant standalone.

Log4j

Si vous utilisez une solution Talend soumise à souscription, l'activité de ce composant peut être journalisée avec la fonctionnalité log4j. Pour plus d'informations sur cette fonctionnalité, consultez le Guide utilisateur du Studio Talend.

Pour plus d'informations sur les niveaux de logs du log4j, consultez la documentation d'Apache : http://logging.apache.org/log4j/1.2/apidocs/org/apache/log4j/Level.html (en anglais).

Scénario associé

Pour un scénario associé, consultez Scénario : Ecrire des données dans BigQuery.