複雑なレコードの正規化 - Cloud

Talend Cloud Pipeline Designerプロセッサーガイド

Version
Cloud
Language
日本語
Product
Talend Cloud
Module
Talend Pipeline Designer
Content
ジョブデザインと開発 > パイプラインのデザイン
Last publication date
2024-02-26

S3データセット、Normalizeプロセッサー、S3デスティネーションを伴うパイプライン。

始める前に

  • ソースデータを保管するシステムへの接続が作成済みであること。

    ここでは、Amazon S3接続を使用します。

  • ソースデータを保管するデータセットが追加済みであること。

    ここでは、 ID、名前、国、その他を含む俳優に関する階層データを使用します。

  • 接続および処理済みデータを保管する関連データセットも作成済みであること。

    ここでは、Amazon S3に保存されているファイルを使用します。

手順

  1. [Pipelines] (パイプライン)ページで[Add pipeline] (パイプラインを追加)をクリックします。新しいパイプラインが開きます。
  2. パイプラインに意味のある名前を付けます。

    Normalize Actor Records
  3. [ADD SOURCE] (ソースを追加)をクリックしてパネルを開きます。このパネルで、ソースデータ(この場合はHDFSに保存されている俳優のリスト)を選択できます。
  4. データセットを選択し、[Select] (選択)をクリックしてパイプラインに追加できるようにします。
    必要であれば名前を変更します。
  5. +をクリックし、パイプラインにNormalizeプロセッサーを追加します。[Configuration] (設定)パネルが開きます。
  6. プロセッサーに意味のある名前を付けます。

    俳優構造の正規化
  7. [Column to normalize] (正規化するカラム)フィールドにActorsと入力します。このカラムには正規化する階層レコードが含まれているからです。
  8. [Is list] (リスト)オプションと[Discard the trailing empty strings] (後続の空の文字列を破棄)オプションを有効にし、リスト内のデータを([array] (配列)構造から[record] (レコード)構造へ)フラット化して、空のデータを破棄します。
  9. [Save] (保存)をクリックして設定を保存します。
  10. パイプラインで[ADD DESTINATION] (デスティネーションを追加)をクリックしてパネルを開くと、正規化されたデータを保持するデータセットを選択できます。
    必要であれば名前を変更します。
  11. (オプション) Normalizeプロセッサーのプレビューを確認し、正規化操作の前後のデータを比較します。
    俳優レコードをフラット化した後のNormalize selectorプロセッサーのプレビュー。
  12. Talend Cloud Pipeline Designerの上部ツールバーで[Run] (実行)ボタンをクリックするとパネルが開き、実行プロファイルを選択できるようになります。
  13. リストで実行プロファイルを選択し(詳細は実行プロファイルをご覧ください)、[Run] (実行)をクリックしてパイプラインを実行します。

タスクの結果

パイプラインは実行中となり、レコードは正規化され、出力は指定のターゲットシステムに送信されます。