Propriétés du tBigQuerySQLRow Standard - Cloud - 8.0

Google BigQuery

Version
Cloud
8.0
Language
Français
Product
Talend Big Data
Talend Big Data Platform
Talend Data Fabric
Talend Data Integration
Talend Data Management Platform
Talend Data Services Platform
Talend ESB
Talend MDM Platform
Talend Real-Time Big Data Platform
Module
Studio Talend
Content
Création et développement > Systèmes tiers > Stockages Cloud > Composants Google > Composants Google BigQuery
Gouvernance de données > Systèmes tiers > Stockages Cloud > Composants Google > Composants Google BigQuery
Qualité et préparation de données > Systèmes tiers > Stockages Cloud > Composants Google > Composants Google BigQuery
Last publication date
2024-02-21

Ces propriétés sont utilisés pour configurer le tBigQuerySQLRow s'exécutant dans le framework de Jobs Standard.

Le composant tBigQueryInput Standard appartient à la famille Big Data.

Le composant de ce framework est disponible dans tous les produits Talend.

Basic settings

Schema et Edit Schema

Un schéma est une description de lignes. Il définit le nombre de champs (colonnes) à traiter et à passer au composant suivant. Lorsque vous créez un Job Spark, évitez le mot réservé line lors du nommage des champs.

Créez le schéma en cliquant sur le bouton Edit Schema. Si le schéma est en mode Repository, trois options sont disponibles :

  • View schema : sélectionnez cette option afin de voir uniquement le schéma.

  • Change to built-in property : sélectionnez cette option pour passer le schéma en mode Built-In et effectuer des modifications locales.

  • Update repository connection : sélectionnez cette option afin de modifier le schéma stocké dans le référentiel et décider de propager ou non les modifications à tous les Jobs.

    Si vous souhaitez propager les modifications uniquement au Job courant, cliquez sur No et sélectionnez à nouveau la métadonnée du schéma dans la fenêtre Repository Content.

 

Built-in : le schéma est créé et conservé localement pour ce composant seulement.

 

Repository : le schéma existe déjà et est stocké dans le Repository. Ainsi, il peut être réutilisé dans des Jobs et projets.

Mode d'authentification Sélectionnez le mode à utiliser pour vous authentifier à votre projet.
  • Service account : authentification à l'aide d'un compte Google associé à votre projet Google Cloud Platform. Lorsque vous sélectionnez ce mode, le paramètre à définir est Service account credentials file (Fichier d'identifiants du compte de service).
  • Application Default Credentials (Identifiants par défaut pour l'application) : vous pouvez vous authentifier à l'aide de la méthode Application Default Credentials (Identifiants par défaut pour l'application). Lorsque vous sélectionnez ce mode, aucun paramètre supplémentaire ne doit être défini, car les identifiants sont automatiquement trouvés en se basant sur l'environnement de l'application.
  • OAuth 2.0 : authentification à l'aide des identifiants OAuth. Lorsque vous sélectionnez ce mode, les paramètres à définir sont Client ID (ID client), Client secret (Secret du client) et Authorization code (Code d'autorisation).
  • OAuth Access Token : authentifiez-vous à l'aide d'un jeton d'accès OAuth. Lorsque vous sélectionnez ce mode, le paramètre à définir est OAuth Access Token (Jeton d'accès OAuth).

Pour en savoir plus au sujet des processus d'authentification Google Cloud, consultez la documentation Google Cloud.

Service account credentials file Saisissez le chemin d'accès au fichier contenant les identifiants créé pour le compte de service à utiliser. Ce fichier doit être stocké sur la machine sur laquelle le Job Talend est actuellement lancé et exécuté.

Cette propriété est disponible uniquement lorsque vous vous authentifiez à l'aide d'un Service account (Compte de service).

Client ID et Client Secret

Collez l'ID du client et son mot de passe ("secret") créés et visibles dans l'onglet API Access du projet hébergeant les services Google BigQuery et Cloud Storage à utiliser.

Pour saisir le Secret du client, cliquez sur le bouton [...] à côté du champ Client Secret, puis, dans la boîte de dialogue qui s'ouvre, saisissez le Secret du client entre guillemets doubles puis cliquez sur OK afin de sauvegarder les paramètres.

Cette propriété est disponible uniquement lorsque vous vous authentifiez à l'aide d'OAuth 2.0.

OAuth Access Token Saisissez un jeton d'accès.

La durée de vie d'un jeton est d'une heure. Le composant n'effectue pas d'opération d'actualisation du jeton mais récupère le nouveau jeton pour une opération après la limite d'une heure.

Cette propriété est disponible uniquement lorsque vous vous authentifiez à l'aide d'un Jeton d'accès OAuth.

Project ID

Collez l'ID du projet hébergeant le service Google BigQuery à utiliser.

L'ID de votre projet se trouve dans l'URL de la console de l'API Google ou en passant votre curseur sur le nom du projet dans BigQuery Browser Tool.

Authorization code

Collez le code d'autorisation fourni par Google pour l'accès en cours de construction.

Pour obtenir le code d'autorisation, vous devez exécuter le Job utilisant ce composant. Lorsque l'exécution du Job est en pause pour afficher une URL, vous devez vous rendre à l'URL donnée afin de copier le code d'autorisation.

Use legacy SQL et Query

Saisissez la requête à utiliser.

Si la requête à utiliser est l'héritage SQL de BigQuery, cochez cette case Use legacy SQL. Pour plus d'informations concernant cet héritage SQL, consultez Fonctions et opérateurs de l'ancien SQL dans la documentation Google Cloud.

Paramètres avancés

Use a custom region endpoint (Utiliser un endpoint de région personnalisé) Cochez cette case pour utiliser un endpoint (point de terminaison) privé plutôt que l'endpoint par défaut.

Lorsque la case est cochée, saisissez l'URL dans le champ Google BigQuery Private API URL, en respectant le format suivant : "https://bigquery.goggleapis.com".

Pour plus d'informations, consultez Accéder aux API Google via des points de terminaison dans la documentation Google.

Cette propriété est disponible uniquement lorsque vous vous authentifiez à l'aide d'un Service account (Compte de service).

token properties File Name

Saisissez le chemin d'accès ou parcourez votre système jusqu'au fichier de jeton à utiliser.

Lors de la première exécution du Job avec le code Authorization code de Google BigQuery, vous devez saisir dans ce champ le répertoire et le nom du fichier contenant le nouveau jeton (refresh token) à créer et à utiliser. Si ce fichier de jeton a été créé et que vous devez le réutiliser, vous devez spécifier son répertoire ainsi que le nom du fichier dans ce champ.

Lorsque seul le nom du fichier de jeton est saisi, le Studio Talend considère le répertoire de ce fichier de jeton comme la racine du dossier du Studio Talend.

Pour plus d'informations concernant le refresh token, consultez le manuel de Google BigQuery.

Advanced Separator for numbers

Cochez cette option pour modifier les séparateurs utilisés pour les nombres.

Encodage

Sélectionnez l'encodage à partir de la liste ou sélectionnez Custom et définissez-le manuellement. Ce champ est obligatoire pour la manipulation des données de base de données. Les encodages supportés dépendent de la JVM que vous utilisez. Pour plus d'informations, consultez https://docs.oracle.com.

Force single query execution

Cochez cette case pour laisser le composant retourner le résultat de la requête complète. Si vous décochez cette case, le composant exécute chaque sous-requête séparément et retourne le résultat de chaque requête de manière séquentielle.

Result size

Sélectionnez l'option en fonction du volume du résultat de la requête.

Par défaut, l'option Small est utilisée, mais, lorsque le résultat de requête est plus grand que la taille de réponse maximale (maximum response size, en anglais), vous devez sélectionner l'option Large.

Si le volume du résultat n'est pas certain, sélectionnez Auto.

Statistiques du tStatCatcher

Cochez cette case afin de collecter les données de log au niveau des composants.

Variables globales

ERROR_MESSAGE

Message d'erreur généré par le composant lorsqu'une erreur survient. Cette variable est une variable After et retourne une chaîne de caractères. Cette variable fonctionne uniquement lorsque la case Die on error est cochée.

JOBID

L'ID du Job. Cette variable est une variable After et retourne une chaîne de caractères.

STATISTICS

Les statistiques du Job. Cette variable est une variable After et retourne une chaîne de caractères.

STATISTICS_CHILD

Les statistiques du Job enfant. Cette variable est une variable After et retourne une chaîne de caractères.

Utilisation

Règle d'utilisation

Il peut être un composant de début ou de fin. Lorsque ce composant démarre un Job, il envoie les données extraites au composant suivant. Lorsqu'il termine un Job, il supprime une table donnée.

Ce composant supporte et détecte automatiquement les localités régionales et multi-régionales. Lorsque les localités régionales sont utilisées, les buckets et jeux de données à utiliser doivent se trouver au même emplacement.