セマンティックタイプの発見 - Cloud

Talend Cloud Data Inventoryユーザーガイド

Version
Cloud
Language
日本語 (日本)
Product
Talend Cloud
Module
Talend Data Inventory
Content
データガバナンス
データクオリティとプレパレーション > データの充実化
データクオリティとプレパレーション > データの識別
データクオリティとプレパレーション > データセットの管理
管理と監視 > 接続の管理

データを検出すると各セマンティックタイプに一致する値の数が計算されます。結果が40%を超える場合は、カラムにセマンティックタイプを割り当てます。

40%を超える結果を取得するセマンティックタイプがない場合は、データの検出によってデータタイプが割り当てられます。

アイコンをクリックすると、データセットのサンプルビューに各セマンティックタイプのパーセンテージが表示されます。

この機能は[Hierarchy] (階層)ビューでも利用できます。

割合の計算方法

この割合は2つの割合の合計です。
  • 一方はセマンティックタイプに一致する値の数を表すもので、100%まで割り当てられます。

    値が意味型に一致するかどうかを判断するため、データの検出は次のセマンティックタイプに依存します。

    • [Dictionary] (辞書): 値が辞書の値と一致するかどうかを判断します。句読点、大文字と小文字、スペース、アクセントは無視されます。
    • [Regular expression] (正規表現): 値が正規表現と一致するかどうかを判断します。
    • [Compound] (複合): 値が少なくとも1つの子で検出されているかどうかを判断します。
      複合タイプは子と呼ばれる既存のセマンティックタイプのグループのことです。

    答えが正であれば値は有効と見なされます。

  • もう一方の割合はカラム名とセマンティックタイプ名との類似性を表すもので、10%まで割り当てられます。
    名前を比較する場合:
    • レーベンアルゴリズムが使用されます。文字列を別の文字列に変換するために必要な編集(挿入、削除、置換のいずれか)の最小回数を計算します。
    • 大文字と小文字の区別とアクセントは無視されます。
    • 文字列にスペースが含まれている場合は語順が無視されます。たとえばUS PhonePhone USは同じものと見なされます。
    最大の割合は100%です。値がすべてセマンティックタイプと一致し、カラム名がセマンティックタイプ名と同一であれば、結果は100%のままとなります。

クオリティバーの表示

クオリティバーは、割り当てられたセマンティックタイプに応じて無効値、空白値、有効値の数を示します。表示する場合は、セマンティックタイプの設定で[Use for validation] (検証で使用)を有効にします。

  • [Grid] (グリッド)ビューの場合:
  • [Hierarchy] (階層)ビューの場合:

有効値の割合がデータ検出値よりも少ない場合がありますが、これは次のような場合に発生します。

  • 検証ルールがセマンティックタイプよりも厳しい。この場合、値はセマンティックタイプの値と一致しますが、検証ルールでは大文字と小文字や句読点などの値が一致しません。
  • カラム名とセマンティックタイプ名が類似していれば、セマンティックタイプの結果が100%に引き上げられます。この場合、クオリティバーは有効値の90%~100%を示します。

データタイプの検出

セマンティックタイプの代わりにデータタイプを割り当てることができます。40%を超える結果を取得するセマンティックタイプがない場合は、データの検出によってデータタイプが自動的に割り当てられます。

どのタイプが値であるかを判断できるよう、データの検出は次の順序に従います。
  1. その値は空白か?
  2. その値はブール型の値か? truefalseブール型の値と見なされる唯一の値です。
  3. その値は整数型か?
  4. その値は10進数型か?
  5. その値は日付型か?
  6. 上記のいずれかの型でもない値はテキスト値と見なされます。

検証は増分的に行われるため、値のタイプは1つのみです。たとえば、5という値は整数型です。テキスト型の値とは見なされません。