tMahoutClustering MapReduceプロパティ - 7.2

Machine Learning

Version
7.2
Language
日本語 (日本)
Product
Talend Big Data
Talend Big Data Platform
Talend Data Fabric
Talend Real-Time Big Data Platform
Module
Talend Studio
Content
ジョブデザインと開発 > サードパーティーシステム > 機械学習コンポーネント
データガバナンス > サードパーティーシステム > 機械学習コンポーネント
データクオリティとプレパレーション > サードパーティーシステム > 機械学習コンポーネント

このプロパティはMapReduceジョブフレームワークで実行されているtMahoutClusteringを設定するために使います。

MapReduce tMahoutClusteringコンポーネントはMapReduceファミリーに属しています。

このコンポーネントは、ビッグデータ対応のTalend Platform製品およびTalend Data Fabricで利用できます。

基本設定

[Schema] (スキーマ)[Edit schema] (スキーマを編集)

スキーマとは行の説明のことです。処理して次のコンポーネントに渡すフィールド(カラム)数を定義します。Sparkジョブを作成する場合、フィールドの命名時は予約語のlineを避けます。

スキーマを変更するには[Edit schema] (スキーマを編集)をクリックします。現在のスキーマがリポジトリータイプの場合は、3つのオプションを利用できます。

  • [View schema] (スキーマの表示): スキーマのみを表示する場合は、このオプションを選択します。

  • [Change to built-in property] (組み込みのプロパティに変更): ローカルで変更を行うためにスキーマを組み込みに変更する場合は、このオプションを選択します。

  • [Update repository connection] (リポジトリー接続を更新): リポジトリーに保存されているスキーマに変更を加え、変更後にそのコンテンツをすべてのジョブにプロパゲートするかどうかを決める場合は、このオプションを選択します。変更を現在のジョブにのみ反映する場合は、変更後、[No] (いいえ)を選択し、[Repository Content] (リポジトリーのコンテンツ)ウィンドウで再びこのスキーマのメタデータを選択します。

tMahoutClusteringの出力スキーマは、1つの読み取り専用カラム ClusterIDを提供します。

 

[Built-in] (組み込み): そのコンポーネントのみのスキーマを作成して、ローカルに保存します。

 

[Repository] (リポジトリー): スキーマは作成済みで、リポジトリーに保管されています。さまざまなプロジェクトやジョブデザインで再利用できます。

[Input HDFS file] (入力HDFSファイル)

処理する数値データを保持するHDFSファイルを参照します。

[Field separator] (フィールド区切り)

入力データと出力データのフィールドを区切るために、文字、文字列、または正規表現を入力します。

[Cluster columns] (クラスターカラム)

[Input Column]で、クラスタリングアルゴリズムを定義するメインフローから、カラムを選択します。これらのカラムは、クラスターの計算に使われます。

このテーブルに追加できるのは数値カラムのみです。

[Clustering type] (クラスタリングタイプ)

該当するクラスタリングアルゴリズムをリストから選択します。

Canopy: このアルゴリズムは、近似距離メトリックと2つの距離スレッショルドT 1とT 2を使います。T 1 >T 2です。一連のデータポイントを任意の順序で開始し、クラスターの重心と呼ばれるポイントを選び、他のすべてのポイントまでの近似距離を測定します。距離スレッショルドT 1内にあるすべてのポイントがCanopyに配置されます。距離スレッショルドT 2内にあるすべてのポイントがメインセットから削除されます。このようにして、重心に非常に近いポイントは、それ以降の処理がすべて回避されます。次に、アルゴリズムは、プリンシパルセットのデータポイントから2番目の重心を選択します。最初のセットが空になるまで続き、それぞれに1つ以上のポイントを含むCanopyのセットが蓄積されます。特定のポイントが複数のCanopyで発生する場合があります。

Canopyクラスタリングは、K-Meansクラスタリングなどのより厳密なクラスタリング手法の最初のステップとしてよく使われます。Canopyクラスタリングから始めることで、初期のCanopyの外側のポイントを無視することで、より高価な距離測定の数を大幅に減らすことができます。

[K-Means] (K平均): 特定のデータセットをいくつかのクラスターに分類します。クラスターの数は定義する必要があります。アルゴリズムは、k個のクラスターの重心として使われるk個のランダム点を選択します。

次に、アルゴリズムは、特定のデータセットに属する各データポイントを最も近いクラスターセンターに関連付けます。

[Fuzzy K-Means] (ファジーK-Means): [Fuzzy C-Means] (ファジーC-Means)とも呼ばれます。これは、ファジー論理クラスタリングアルゴリズムのファミリーに属しています。K-Meansと同様に機能しますが、2つ以上のクラスターに属する点の確率を使ってクラスターの中心を再計算します。

[Distance measure] (距離測定)

リストから、クラスタリングに使うする距離測定を選択します。

[Euclidean] (ユークリッド): 定規で測定した場合と同様に、2点間の「通常の」距離を定義します。

[Manhattan] (マンハッタン): グリッドのようなパスをたどる場合の2点間の距離を定義します。

Chebyshev: 任意の座標次元で取られた2つのベクトル間の最大距離を定義します。

[Cosine] (コサイン): 比較する点を表す2つのベクトル間の角度のコサインを使います。

[Canopy threshold1] (Canopyスレッショルド1)

Canopyアルゴリズムに使われる距離T1のスレッショルド。

[Canopy threshold2] (Canopyスレッショルド2)

Canopyアルゴリズムに使われる距離T2のスレッショルド。

[Number of clusters] (クラスター数)

クラスタリングアルゴリズムによって生成できるクラスターの最大数を入力します。一部のクラスターにはデータがない場合があります。

[Max iterations] (最大反復)

クラスタリングアルゴリズムに対して実行される反復の最大数を入力します。

[Convergence delta] (収束デルタ)

アルゴリズムの収束率を入力します。0.0から1.0の間の数値を入力してください。レートが高いほどアルゴリズムは高速になりますが、結果の精度は低くなります。

ファジー度

[Fuzzy K-Means] (ファジーK-Means)アルゴリズムのファジーパラメーターを入力します。1.0以上の数値を入力してください。

あいまいさが1に近い場合、ポイントに最も近いクラスターの中心には他のクラスターよりもはるかに大きな重みが与えられ、アルゴリズムはK-Meansに似たものとなります。

[Global Variables] (グローバル変数)

[Global Variables] (グローバル変数)

ERROR_MESSAGE: エラーが発生した時にコンポーネントによって生成されるエラーメッセージ。これはAfter変数で、文字列を返します。この変数はコンポーネントにこのチェックボックスが存在し、Die on error (エラー時強制終了)がオフになっている場合のみ機能します。

Flow変数はコンポーネントの実行中に機能し、After変数はコンポーネントの実行後に機能します。

フィールドまたは式に変数を入れるには、Ctrl + Spaceを押して変数リストにアクセスし、リストから使用する変数を選択します。

変数の詳細は、 Talend Studio ユーザーガイドをご覧ください。

使用方法

使用ルール

tMahoutClusteringは非推奨です。移行したジョブをtMahoutClusteringで正しく実行できるようにするには、JDK 7を使う必要があります。クラスタリングアルゴリズムを実行する必要がある場合は、Spark Batchジョブを作成し、代わりにそのジョブでtKMeansModelを使うことをお勧めします。