フィールドをハッシュしてデータを安全に比較 - Cloud

Talend Cloud Pipeline Designerプロセッサーガイド

Version
Cloud
Language
日本語
Product
Talend Cloud
Module
Talend Pipeline Designer
Content
ジョブデザインと開発 > パイプラインのデザイン
Last publication date
2024-02-26

S3ソース、Data maskingプロセッサー、Field selectorプロセッサー、S3デスティネーションを伴うパイプライン。

始める前に

  • ソースデータを保管するシステムへの接続が作成済みであること。

    ここでは、Amazon S3接続を使用します。

  • ソースデータを保管するデータセットが追加済みであること。

    string-crops.csvファイルをダウンロードします。マリで収穫された作物に関するデータ(作物の種類、生産額、収穫面積など)を持つセットが含まれています。

  • 接続および処理済みデータを保管する関連データセットも作成済みであること。

    ここでは、同じS3バケットに保存されているデータセットを使用します。

手順

  1. [Pipelines] (パイプライン)ページで[Add pipeline] (パイプラインを追加)をクリックします。新しいパイプラインが開きます。
  2. パイプラインに意味のある名前を付けます。

    Hash fields to compare data safely
  3. [ADD SOURCE] (ソースを追加)をクリックしてパネルを開きます。このパネルで、ソースデータ(この場合は2005年のマリにおける収穫作物に関するデータ)を選択できます。

  4. データセットを選択し、[Select] (選択)をクリックしてパイプラインに追加できるようにします。
    必要であれば名前を変更します。
  5. +をクリックし、パイプラインにData hashingプロセッサーを追加します。設定パネルが開きます。
  6. プロセッサーに意味のある名前を付けます。

    hash fields
  7. [Configuration] (設定)エリアで以下の操作を行います。
    1. [Function name] (機能名)リストで、[Hash data] (データをハッシュ)を選択します。
    2. すべての値を一度にハッシュする場合は、[Fields to process] (処理するフィールド)リストの横にある[Open dialog] (ダイアログを開く)アイコンをクリックします。
      処理するフィールドを表示するデータハッシングのダイアログ。
  8. [Save] (保存)をクリックして設定を保存します。

    プロセッサーのプレビューに注目し、操作前のデータと結合後のデータを比較します。

    これですべてのフィールドがハッシュおよびセキュア化されます。cropフィールドとidフィールドの出力値が同じになっていますが、これは元の値が両方のフィールドで同じであることを表します。

    作物レコードとIDレコードをハッシュした後のData hashingプロセッサーのプレビュー。
  9. +をクリックし、パイプラインにField selectorプロセッサーを追加します。設定パネルが開きます。
  10. プロセッサーに意味のある名前を付けます。

    merge identical hashed values
  11. [Selectors] (セレクター)エリアで次の操作を行います。
    1. .cropフィールドと.idフィールドが同一で、この両フィールドをマージする場合は、[Input] (入力)リストで.cropを選択し、[Output] (出力)リストにcrop_idと入力します。
    2. このフィールドを維持して名前を変更する場合は、+記号をクリックして新しいエレメントを追加し、[Input] (入力)リストで.crop_parentを選択して、[Output] (出力)リストにcrop_typeと入力します。
    3. 出力でこのフィールドを維持する場合は、+記号をクリックして新しいエレメントを追加し、[Input] (入力)リストで.harvested_areaを選択して、[Output] (出力)リストにharvested_areaと入力します。
    4. このフィールドを維持して名前を変更する場合は、+記号をクリックして新しいエレメントを追加し、[Input] (入力)リストで.value_of_productionを選択して、[Output] (出力)リストにproduction_valueと入力します。
  12. [Save] (保存)をクリックして設定を保存します。

    プロセッサーのプレビューに注目し、操作前のデータと結合後のデータを比較します。

    作物レコードの名前変更と再編成後のField selectorプロセッサーのプレビュー。
  13. [ADD DESTINATION] (デスティネーションを追加)をクリックし、処理済みデータを保持するデータセットを選択します。
    必要であれば名前を変更します。
  14. Talend Cloud Pipeline Designerの上部ツールバーで[Run] (実行)ボタンをクリックするとパネルが開き、実行プロファイルを選択できるようになります。
  15. リストで実行プロファイルを選択し(詳細は実行プロファイルをご覧ください)、[Run] (実行)をクリックしてパイプラインを実行します。

タスクの結果

パイプラインは実行中となり、データはハッシュされ、同一のフィールドは記述した条件に基づいてマージおよび再編成され、出力は指定したターゲットシステムに送信されます。