Propriétés du tBigQueryInput Standard

Schema et Edit schema

Un schéma est une description de lignes. Il définit le nombre de champs (colonnes) à traiter et à passer au composant suivant. Lorsque vous créez un Job Spark, évitez le mot réservé line lors du nommage des champs.

• Built-in : le schéma est créé et conservé localement pour ce composant seulement.

• Repository : le schéma existe déjà et est stocké dans le Repository. Ainsi, il peut être réutilisé dans des Jobs et projets.

• View schema : sélectionnez cette option afin de voir uniquement le schéma.

• Change to built-in property : sélectionnez cette option pour passer le schéma en mode Built-In et effectuer des modifications locales.

• Update repository connection : sélectionnez cette option afin de modifier le schéma stocké dans le référentiel et décider de propager ou non les modifications à tous les Jobs. Si vous souhaitez propager les modifications uniquement au Job courant, cliquez sur No et sélectionnez à nouveau la métadonnée du schéma dans la fenêtre Repository Content.

Ce composant offre la fonction de schéma dynamique. Cela vous permet de récupérer des colonnes inconnues de fichiers sources ou de copier des lots de colonnes d'une source sans avoir à mapper chaque colonne individuellement. Pour plus d'informations concernant la définition des schémas dynamiques, consultez le Guide d'utilisation du Studio Talend.

Cette fonctionnalité de schéma dynamique est conçue pour permettre de récupérer des colonnes inconnues d'une table. Il est recommandé de l'utiliser uniquement à cet effet et non pour créer des tables.

• Le type Record de BigQuery n'est pas supporté.
• Les colonnes pour les métadonnées de tables, comme la colonne Description ou Mode ne peuvent être récupérées.
• Les données d'horodatage Timestamp de votre système BigQuery sont formatées en type String.
• Les données numériques de BigQuery sont converties en BigDecimal.

• Service account : authentification à l'aide d'un compte Google associé à votre projet Google Cloud Platform. Lorsque vous sélectionnez ce mode, le paramètre à définir dans la vue Basic settings est Service account credentials file.
• OAuth 2.0 : authentification de l'accès à l'aide des identifiants OAuth. Lorsque vous sélectionnez ce mode, les paramètres à définir dans la vue Basic settings sont Client ID, Client secret et Authorization code.
• OAuth Access Token : authentifiez-vous à l'aide d'un jeton d'accès OAuth. Lorsque vous sélectionnez ce mode, le paramètre à définir dans la vue Basic settings est OAuth Access Token.

Pour plus d'informations concernant la création d'un compte de service Google et comment obtenir le fichier Credentials, consultez Premiers pas avec l'authentification dans la documentation Google.

Client ID et Client Secret

Collez l'ID du client et son mot de passe ("secret") créés et visibles dans l'onglet API Access du projet hébergeant les services Google BigQuery et Cloud Storage à utiliser.

Pour saisir le Secret du client, cliquez sur le bouton [...] à côté du champ Client Secret, puis, dans la boîte de dialogue qui s'ouvre, saisissez le Secret du client entre guillemets doubles puis cliquez sur OK afin de sauvegarder les paramètres.

La durée de vie d'un jeton est d'une heure. Le composant n'effectue pas d'opération d'actualisation du jeton mais récupère le nouveau jeton pour une opération après la limite d'une heure .

Project ID

Collez l'ID du projet hébergeant le service Google BigQuery à utiliser.

L'ID de votre projet se trouve dans l'URL de la console de l'API Google ou en passant votre curseur sur le nom du projet dans BigQuery Browser Tool.

Authorization code

Collez le code d'autorisation fourni par Google pour l'accès en cours de construction.

Pour obtenir le code d'autorisation, vous devez exécuter le Job utilisant ce composant. Lorsque l'exécution du Job est en pause pour afficher une URL, vous devez vous rendre à l'URL donnée afin de copier le code d'autorisation.

Use legacy SQL et Query

Si la requête à utiliser est l'héritage SQL de BigQuery, cochez cette case Use legacy SQL. Pour plus d'informations concernant cet héritage SQL, consultez Legacy SQL query reference dans la documentation Google BigQuery (en anglais).

Result size

Sélectionnez l'option en fonction du volume du résultat de la requête.

Par défaut, l'option Small est utilisée, mais, lorsque le résultat de requête est plus grand que la taille de réponse maximale (maximum response size, en anglais), vous devez sélectionner l'option Large.

Si le volume du résultat n'est pas certain, sélectionnez Auto.

token properties File Name

Saisissez le chemin d'accès ou parcourez votre système jusqu'au fichier de jeton à utiliser.

Lors de la première exécution du Job avec le code Authorization code de Google BigQuery, vous devez saisir dans ce champ le répertoire et le nom du fichier contenant le nouveau jeton (refresh token) à créer et à utiliser. Si ce fichier de jeton a été créé et que vous devez le réutiliser, vous devez spécifier son répertoire ainsi que le nom du fichier dans ce champ.

Lorsque seul le nom du fichier de jeton est saisi, le Studio Talend considère le répertoire de ce fichier de jeton comme la racine du dossier du Studio.

Pour plus d'informations concernant le refresh token, consultez le manuel de Google BigQuery.

Advanced Separator (for number)

Cochez cette case pour modifier le séparateur utilisé pour les nombres.

Encodage

Sélectionnez l'encodage à partir de la liste ou sélectionnez Custom et définissez-le manuellement. Ce champ est obligatoire pour la manipulation des données de base de données. Les encodages supportés dépendent de la JVM que vous utilisez. Pour plus d'informations, consultez https://docs.oracle.com.

Force single query execution

Cochez cette case pour laisser le composant retourner le résultat de la requête complète. Si vous décochez cette case, le composant exécute chaque sous-requête séparément et retourne le résultat de chaque requête de manière séquentielle.

Cochez cette case pour utiliser un jeu de données existant auquel vous avez accès, au lieu d'en créer un. Dans le champ qui s'affiche, saisissez le nom de ce jeu de données. Ainsi, vous évitez les problèmes de droits relatifs à la création de jeux de données.

Cette case est disponible uniquement lorsque Large est sélectionné dans la liste déroulante Result size de la vue Basic Settings.

tStatCatcher Statistics

Cochez cette case afin de collecter les données de log au niveau des composants.

ERROR_MESSAGE

Message d'erreur généré par le composant lorsqu'une erreur survient. Cette variable est une variable After et retourne une chaîne de caractères. Cette variable fonctionne uniquement lorsque la case Die on error est cochée.

JOBID

STATISTICS

STATISTICS_CHILD

Règle d'utilisation

Ce composant est un composant d'entrée. Il envoie les données extraites au composant suivant.

Ce composant supporte et détecte automatiquement les localités régionales et multi-régionales. Lorsque les localités régionales sont utilisées, les buckets et jeux de données à utiliser doivent se trouver au même emplacement.