Propriétés du tSchemaComplianceCheck Apache Spark Streaming - Cloud

Ces propriétés sont utilisées pour configurer le tSchemaComplianceCheck s'exécutant dans le framework de Jobs Spark Streaming.

Le composant tSchemaComplianceCheck Spark Streaming appartient à la famille Qualité de données.

Le composant de ce framework est disponible dans tous les produits Talend avec Big Data et dans Talend Data Fabric.

Basic settings

Base Schema et Edit Schema	Un schéma est une description de lignes. Il définit le nombre de champs (colonnes) à traiter et à passer au composant suivant. Lorsque vous créez un Job Spark, évitez le mot réservé `line` lors du nommage des champs. Il définit la structure et la nature des données à traiter.
	Built-in : le schéma est créé et conservé localement pour ce composant seulement.
	Repository : le schéma existe déjà et est stocké dans le Repository. Ainsi, il peut être réutilisé dans des Jobs et projets.
Base on default schema	Cochez cette option si vous souhaitez effectuer la vérification sur toutes les colonnes du schéma de base.
Custom defined	Cochez cette option si vous souhaitez effectuer la vérification sur des colonnes en particulier. Lorsque cette option est sélectionnée, la table Columns s'affiche.
Checked Columns	Définissez dans ce tableau quelles sont les vérifications à effectuer, et sur quelles colonnes.
	Column : affiche les noms des colonnes.
	Type : sélectionnez le type de données que chaque colonne doit contenir. Cette validation est obligatoire pour toutes les colonnes.
	Date pattern : définissez le format de date attendu pour chaque colonne de type Date.
	Nullable : cochez cette case d'une colonne individuelle afin de définir la colonne nullable, qui autorise les lignes vides à aller dans le flux de sortie, quelle que soit la définition du schéma de base. Pour définir toutes les colonnes comme nullables, cochez la case d'en-tête du tableau.
	Max length : cochez la case de la colonne dont vous souhaitez vérifier la longueur des données en fonction de la longueur définie dans le schéma de base. Pour effectuer cette vérification sur toutes les colonnes, cochez la case au niveau de l'en-tête de la table.
Use another schema for compliance check	Définissez un schéma de référence en donnant aux données les propriétés qu'elles sont censées avoir. Ces propriétés peuvent correspondre au type de données, aux valeurs nulles, et/ou à la longueur des données.
Discard the excess content of column when the actual length is greater than the declared length	Cochez cette case afin de tronquer les données dépassant la longueur spécifiée plutôt que de les rejeter. L'option fonctionne avec les trois modes du tSchemaComplianceCheck. Remarque : Cette option s'applique uniquement aux données de type String.

Advanced settings

Ignore TimeZone when Check Date	Cochez cette case pour ignorer le fuseau horaire lors de la vérification de la date. Cette case n'est pas disponible lorsque le mode Check all columns from schema est sélectionné.
Treat all empty string as NULL	Cochez cette case afin de traiter tous les champs vides de chaque colonne comme des valeurs nulles, plutôt que comme des chaînes de caractères vides. Par défaut, cette case est cochée. Lorsqu'elle est décochée, le tableau Choose Column(s) s'affiche pour vous permettre de sélectionner les colonnes que vous souhaitez.

Ignore TimeZone when Check Date

Cochez cette case pour ignorer le fuseau horaire lors de la vérification de la date.

Cette case n'est pas disponible lorsque le mode Check all columns from schema est sélectionné.

Treat all empty string as NULL

Cochez cette case afin de traiter tous les champs vides de chaque colonne comme des valeurs nulles, plutôt que comme des chaînes de caractères vides.

Par défaut, cette case est cochée. Lorsqu'elle est décochée, le tableau Choose Column(s) s'affiche pour vous permettre de sélectionner les colonnes que vous souhaitez.

Global Variables

Variables globales	ERROR_MESSAGE : message d'erreur généré par le composant lorsqu'une erreur survient. Cette variable est une variable After et retourne une chaîne de caractères. Cette variable fonctionne uniquement si la case Die on error est décochée, lorsque le composant contient cette case. Une variable Flow fonctionne durant l'exécution d'un composant. Une variable After fonctionne après l'exécution d'un composant. Pour renseigner un champ ou une expression à l'aide d'une variable, appuyez sur les touches Ctrl+Espace pour accéder à la liste des variables. À partir de cette liste, vous pouvez choisir la variable que vous souhaitez utiliser. Pour plus d'informations concernant les variables, consultez Utiliser les contextes et les variables.

Variables globales

ERROR_MESSAGE : message d'erreur généré par le composant lorsqu'une erreur survient. Cette variable est une variable After et retourne une chaîne de caractères. Cette variable fonctionne uniquement si la case Die on error est décochée, lorsque le composant contient cette case.

Une variable Flow fonctionne durant l'exécution d'un composant. Une variable After fonctionne après l'exécution d'un composant.

Pour renseigner un champ ou une expression à l'aide d'une variable, appuyez sur les touches Ctrl+Espace pour accéder à la liste des variables. À partir de cette liste, vous pouvez choisir la variable que vous souhaitez utiliser.

Pour plus d'informations concernant les variables, consultez Utiliser les contextes et les variables.

Utilisation

Règle d'utilisation	Ce composant est utilisé comme étape intermédiaire.
Connexion à Spark	Dans l'onglet Spark Configuration de la vue Run, définissez la connexion à un cluster Spark donné pour le Job complet. De plus, puisque le Job attend ses fichiers .jar dépendants pour l'exécution, vous devez spécifier le répertoire du système de fichiers dans lequel ces fichiers .jar sont transférés afin que Spark puisse accéder à ces fichiers : Yarn mode (Yarn Client ou Yarn Cluster) : Lorsque vous utilisez Google Dataproc, spécifiez un bucket dans le champ Google Storage staging bucket de l'onglet Spark configuration. Lorsque vous utilisez HDInsight, spécifiez le blob à utiliser pour le déploiement du Job, dans la zone Windows Azure Storage configuration de l'onglet Spark configuration. Lorsque vous utilisez Altus, spécifiez le bucket S3 ou le stockage Azure Data Lake Storage (aperçu technique) pour le déploiement du Job, dans l'onglet Spark configuration. Lorsque vous utilisez des distributions sur site (on-premises), utilisez le composant de configuration correspondant au système de fichiers utilisé par votre cluster. Généralement, ce système est HDFS et vous devez utiliser le tHDFSConfiguration. Standalone mode : utilisez le composant de configuration correspondant au système de fichiers que votre cluster utilise, comme le tHDFSConfiguration Apache Spark Batch ou le tS3Configuration Apache Spark Batch. Si vous utilisez Databricks sans composant de configuration dans votre Job, vos données métier sont écrites directement dans DBFS (Databricks Filesystem). Cette connexion fonctionne uniquement pour le Job dans lequel vous l'avez définie.

Règle d'utilisation

Ce composant est utilisé comme étape intermédiaire.

Connexion à Spark

Dans l'onglet Spark Configuration de la vue Run, définissez la connexion à un cluster Spark donné pour le Job complet. De plus, puisque le Job attend ses fichiers .jar dépendants pour l'exécution, vous devez spécifier le répertoire du système de fichiers dans lequel ces fichiers .jar sont transférés afin que Spark puisse accéder à ces fichiers :

Yarn mode (Yarn Client ou Yarn Cluster) :
- Lorsque vous utilisez Google Dataproc, spécifiez un bucket dans le champ Google Storage staging bucket de l'onglet Spark configuration.
- Lorsque vous utilisez HDInsight, spécifiez le blob à utiliser pour le déploiement du Job, dans la zone Windows Azure Storage configuration de l'onglet Spark configuration.
- Lorsque vous utilisez Altus, spécifiez le bucket S3 ou le stockage Azure Data Lake Storage (aperçu technique) pour le déploiement du Job, dans l'onglet Spark configuration.
- Lorsque vous utilisez des distributions sur site (on-premises), utilisez le composant de configuration correspondant au système de fichiers utilisé par votre cluster. Généralement, ce système est HDFS et vous devez utiliser le tHDFSConfiguration.
Standalone mode : utilisez le composant de configuration correspondant au système de fichiers que votre cluster utilise, comme le tHDFSConfiguration Apache Spark Batch ou le tS3Configuration Apache Spark Batch.

Si vous utilisez Databricks sans composant de configuration dans votre Job, vos données métier sont écrites directement dans DBFS (Databricks Filesystem).

Cette connexion fonctionne uniquement pour le Job dans lequel vous l'avez définie.

Propriétés du tSchemaComplianceCheck Apache Spark Streaming - Cloud - 8.0

Validation (Intégration)

Basic settings

Advanced settings

Global Variables

Utilisation