tImpalaCreateTableの標準プロパティ - Cloud - 8.0

[Property type] (プロパティタイプ)

[Use an existing connection] (既存の接続を使用)

定義済みの接続の詳細を再利用する場合は、このチェックボックスをオンにして、[Component List] (コンポーネントリスト)ドロップダウンリストで目的の接続コンポーネントを選択します。

[Distribution] (ディストリビューション)

1. [Import from existing version] (既存のバージョンからインポート)を選択すると、正式にサポートされているディストリビューションをベースとしてインポートしてから、ベースディストリビューションで提供されていない他の必要なjarファイルを追加できます。

2. [Import from zip] (zipからインポート)を選択すると、使用するカスタムディストリビューションの設定zipファイルをインポートできます。zipファイルには、Hadoopの各種エレメントのライブラリーおよびこれらのライブラリーのインデックスファイルが含まれている必要があります。

   Talend Exchangeでは、 Talend コミュニティのメンバーがすぐに使える設定用zipファイルが共有されており、[Hadoop configuration] (Hadoop設定)リストからダウンロードして接続に直接利用できます。ただし、さまざまなHadoop関連のプロジェクトが継続的に進展しているため、このリストから対応するディストリビューションの設定Zipが見つからないことがあります。その場合は、[Import from existing version] (既存のバージョンからインポート)オプションを使って、既存のディストリビューションをベースとして取得し、ディストリビューションに必要なjarを追加することをお勧めします。

   Talend はカスタムバージョンを公式にサポートしていません。 Talend とそのコミュニティでは、Studioからカスタムバージョンに接続するための方法を紹介していますが、Hadoopのディストリビューションとバージョンの種類は幅広いため、選択したバージョンの設定がスムーズに機能するかどうかは保証できません。そのような接続のセットアップは、Hadoopについてどんな問題でもご自身で対処できる十分な経験をお持ちの場合のみ行ってください。

   注:

   カスタムディストリビューションとこのコンポーネント間で作成する接続に関わるjarファイルがインポートされるように、このダイアログボックスのアクティブなチェックボックスをオフにしないでください。

   カスタムディストリビューションに接続して、その接続を共有する方法を段階的に説明するサンプルについては、Hortonworksをご覧ください。

[Version] (バージョン)

使用しているHadoopのディストリビューションのバージョンを選択します。使用可能なオプションは、使用しているコンポーネントによって異なります。

[Impala Driver] (Impalaドライバー)

ドロップダウンリストから使用しているドライバーを選択します。

[Host] (ホスト)

データベースサーバーのIPアドレスを入力します。

[Port] (ポート)

データベースサーバーのリスニングポート番号を入力します。

[Database] (データベース)

データベースの名前を入力します。

[Username] (ユーザー名)

データベースユーザー認証データを入力します。

[Password] (パスワード)

データベースパスワードを入力します。

[Additional JDBC Settings] (追加のJDBC設定)

作成するデータベース接続に接続の追加プロパティを指定します。

このオプションは、[Basic settings] (基本設定)ビューの[Use an existing connection] (既存の接続を使用)チェックボックスがオンになっている場合は利用できません。

[Use Kerberos authentication] (Kerberos認証を使用)

Kerberosセキュリティを実行しているImpalaシステムにアクセスする場合は、このチェックボックスをオンにし、このImpalaシステムのKerberosプリンシパルを入力します。

接続しているHadoopのディストリビューションによってはこのチェックボックスが表示されないこともあります。

[Schema] (スキーマ)と[Edit schema] (スキーマを編集)

スキーマとは行の説明のことです。処理して次のコンポーネントに渡すフィールド(カラム)数を定義します。Sparkジョブを作成する場合、フィールドの命名時は予約語のlineを避けます。

[Built-in] (組み込み): そのコンポーネントに対してのみスキーマを作成し、ローカルに保管します。

[Repository] (リポジトリー): スキーマは作成済みで、リポジトリーに保管されています。さまざまなプロジェクトやジョブデザインで再利用できます。

再使用するスキーマに整数またはファンクションのデフォルト値が指定されている場合は、これらのデフォルト値を引用符で囲まないようにご注意ください。引用符で囲まれている場合は手動で削除します。

スキーマを変更するには[Edit schema] (スキーマを編集)をクリックします。現在のスキーマがリポジトリータイプの場合は、3つのオプションを利用できます。

• [View schema] (スキーマを表示): スキーマのみを表示する場合は、このオプションを選択します。

• [Change to built-in property] (組み込みのプロパティに変更): ローカルで変更を行うためにスキーマを組み込みに変更する場合は、このオプションを選択します。

• [Update repository connection] (リポジトリー接続をアップデート): リポジトリーに保存されているスキーマに変更を加え、変更後にそのコンテンツをすべてのジョブにプロパゲートするかどうかを決める場合は、このオプションを選択します。

  変更を現在のジョブにのみ反映する場合は、変更後、[No] (いいえ)を選択し、[Repository Content] (リポジトリーのコンテンツ)ウィンドウで再びこのスキーマのメタデータを選択します。

[Table Name] (テーブル名)

作成するテーブルの名前を入力します。

[Action on table] (テーブルでのアクション)

[Format] (形式)

使用可能なデータ形式は、使用しているHadoopディストリビューションのバージョンによって異なります。

作成するテーブルにパーティションカラムを追加するには、このチェックボックスをオンにします。選択したら、追加する必要のあるパーティションカラムのスキーマを定義する必要があります。

[Format] (形式)ドロップダウンリストでKUDUを選択すれば、[Kudu partition] (Kuduパーティション)というパラメーターで作成sされるパーティションの数を設定できます。デフォルト値はHASH PARTITIONS 3です。詳細は、KuduのドキュメンテーションでPartitioning tablesをご覧ください。

[Set file location] (ファイルのロケーションの設定)

デフォルト以外のディレクトリーにImpalaテーブルを作成する場合は、このチェックボックスをオンにして、テーブルのコンテンツを保持するために使用するディレクトリーをHDFSに入力します。

これは通常、[Advanced settings] (詳細設定)タブの[Create an external table] (外部テーブルを作成する)チェックボックスをオンにして外部Impalaテーブルを作成する必要がある場合に役立ちます。

[Use S3 endpoint] (S3エンドポイントを使用)

[Set file location] (ファイルのロケーションを設定する)チェックボックスをオンにして、外部Impalaテーブルを作成すると、[Use S3 endpoint] (S3エンドポイントを使用)チェックボックスが表示されます。

S3で作成されたImpalaテーブルは実際には外部テーブルであるため、この[Use S3 endpoint] (S3エンドポイントを使用)チェックボックスは、[Create an external table] (外部テーブルの作成)が選択された状態で使用する必要があります。

[Like table] (テーブルのように)

このチェックボックスをオンにし、コピーするImpalaテーブルの名前を入力します。これにより、データをコピーせずに既存のテーブルの定義をコピーできます。

外部テーブルの作成

このチェックボックスをオンにすると、作成するテーブルが外部Impalaテーブルになります。この種のImpalaテーブルは、データがHDFSにある場合、生データをそのまま残します。

通常、ファイルシステムに存在する共有データにアクセスするには、外部テーブルの方が適しています。

[Table comment] (テーブルコメント)

作成するテーブルに使用する説明を入力します。

[As select] (選択として)

このチェックボックスをオンにして、Selectステートメントに基づくImpalaテーブルを作成するためのAs selectステートメントを入力します 。

[Table properties] (テーブルのプロパティ)

StudioのHadoopエンジンで使用されるデフォルトのプロパティをオーバーライドするカスタムImpalaテーブルプロパティを追加します。

[tStatCatcher Statistics] (tStatCatcher統計情報)

このチェックボックスをオンにすると、コンポーネントレベルでログデータを収集できます。

グローバル変数

ERROR_MESSAGE: エラーが発生した時にコンポーネントによって生成されるエラーメッセージ。これはAfter変数で、文字列を返します。この変数はコンポーネントにこのチェックボックスが存在し、[Die on error] (エラー発生時に強制終了)がオフになっている場合のみ機能します。

Flow変数はのコンポーネントの実行中に機能し、After変数はコンポーネントの実行後に機能します。

フィールドまたは式に変数を入力する場合は、Ctrl + スペースを押して変数リストにアクセスし、使用する変数を選択します。

変数の詳細は、Talend Studioユーザーガイドをご覧ください。

使用ルール

このコンポーネントはスタンドアロンとして機能します。

前提条件

Talend Studio との操作を確実に行うには、Hadoopディストリビューションを適切にインストールする必要があります。以下のリストに、MapR関連の情報などを示します。

• MapRクライアントは必ずStudioのあるマシンにインストールして、そのマシンのPATH変数にMapRクライアントライブラリーを追加します。MapRのドキュメンテーションによると、各OSバージョンに対応するMapRクライアントのライブラリーは、MAPR_INSTALL\ hadoop\hadoop-VERSION\lib\nativeにあります。たとえば、Windows版のライブラリーは、\lib\native\MapRClient.dllにあるMapRクライアントのjarファイルにあります。詳細は、MapRからhttp://www.mapr.com/blog/basic-notes-on-configuring-eclipse-as-a-hadoop-development-environment-for-maprをご覧ください。

  指定のライブラリーを追加しないと、no MapRClient in java.library.pathというエラーが発生する可能性があります。

• たとえば、[Window] (ウィンドウ)メニューの[Preferences] (環境設定)ダイアログボックスにある[Run/Debug] (実行/デバッグ)ビューの[Job Run VM arguments] (ジョブ実行VMの引数)エリアで、-Djava.library.path引数を設定するために使われます。この引数により、そのMapRクライアントのネイティブライブラリーへのパスがStudioに渡されるので、サブスクリプションベースのユーザーはデータビューアーをフルに活用して、MapRに保存されたデータをStudioでローカルに表示できます。

Hadoopディストリビューションのインストール方法の詳細は、使用しているHadoopディストリビューションに対応するマニュアルをご覧ください。