Stats et Logs - 8.0

Guide d'utilisation de Talend Big Data Platform Studio

Version
8.0
Language
Français (France)
EnrichDitaval
Big Data Platform
Product
Talend Big Data Platform
Module
Studio Talend
Content
Création et développement

Lorsque vous exécutez un Job, le Studio Talend vous permet de collecter des informations, statistiques, logs et volumétries clés relatives aux exécutions, à des fins de suivi et d'analyse, via l'option tStatCatcher Statistics ou à l'aide d'un composant de log.

Les exemples suivants comprennent le monitoring des données suivantes : fréquence d'exécution d'un Job, durée d'exécution, nombre d'enregistrements traités, s'il se termine correctement, s'il échoue, pourquoi, etc.

Les données statistiques, de logs et de volumétrie peuvent être écrites en sortie dans la console Java, dans des fichiers délimités ou des tables de bases de données, ou bien une combinaison des trois. Si les données sont stockées dans des fichiers délimités ou dans des tables de bases de données, elles sont écrites dans trois fichiers ou tables séparés, selon la configuration décrite dans la procédure suivante.

Procédure

  1. Cliquez sur dans la barre d'outils de la fenêtre du Studio ou cliquez sur File > Edit Project Properties dans la barre du menu pour ouvrir la boîte de dialogue Project Settings.
  2. Dans l'arborescence de la boîte de dialogue, développez le nœud Job Settings et cliquez sur Stats & Logs pour afficher la vue correspondante.
    Les préférences Stats & Logs peuvent être configurées pour tous les Jobs dans un projet via Project Settings, si les préférences de Stats & Logs ne sont pas modifiées par le contexte d'exécution. Elles peuvent également être configurées séparément pour des Jobs individuels dans la vue Stats & Logs de l'onglet Job. Pour plus d'informations, consultez Automatiser l'utilisation des statistiques & logs.
  3. Spécifiez le type d'informations à capturer en cochant la case Use statistics (tStatCatcher), Use logs (tLogCatcher) et/ou Use volumetrics (tFlowMeterCatcher) lorsque cela est approprié.
    • Lorsque la case Use statistics (tStatCatcher) est cochée, les informations clés, comme l'heure de début du Job, l'heure de fin du Job, sa durée et sa réussite ou son échec sont capturées. Si la case Catch components statistics (tStatCatcher Statistics) est cochée, ou si la case tStatCatcher Statistics dans la vue Advanced settings d'un composant spécifique est cochée, les informations clés du composant sont également capturées.
    • Lorsque la case Use logs (tLogCatcher) est cochée, les messages sont collectés depuis les exceptions Java, le composant tDie et/ou le composant tWarn, selon l'état des cases Catch runtime errors, Catch user errors et Catch user warnings.
    • Lorsque la case Use volumetrics (tFlowMeterCatcher) est cochée, le nombre de lignes de tous les composants tFlowMeter d'un Job est capturé.
  4. Cochez la case On Console pour afficher les données dans la console.
  5. Cochez la case On Files si vous souhaitez stocker les données dans des fichiers délimités.
    Les champs pertinents sont disponibles ou indisponibles en fonction des paramètres sélectionnés. Spécifiez le nom des fichiers délimités dans les champs Stats File Name, Log File Name, et/ou Meter file name, selon le type d'information que vous sélectionnez.
  6. Cochez la case On Database si vous souhaitez stocker les données dans des tables de base de données.
    Les champs pertinents sont disponibles ou indisponibles en fonction des paramètres sélectionnés. Spécifiez la valeur des paramètres de connexion à la base de données dans les champs correspondants et le nom des tables de base de données dans les champs Stats Table, Logs Table et/ou Meter Table, selon le type d'information que vous sélectionnez.
    Conseil : Les tables des statistiques, logs et/ou métriques sont créées automatiquement par Talend si elles n'existent pas. Vous pouvez également créer ces tables à l'aide du tCreateTable en vous basant sur le schéma du tStatCatcher, du tLogCatcher et du tFlowMeterCatcher, avec une longueur de colonnes personnalisée, pour éviter les problèmes de données tronquées.
    Avertissement : Les statistiques et les logs ne sont pas supportés avec les composants JDBC génériques pour Teradata. Pour stocker les données des statistiques et logs dans une base de données Teradata, sélectionnez Teradata dans la liste déroulante Db Type et fournissez les paramètres associés pour vous connecter à la base de données Teradata, lorsque cela vous est demandé.