Best of Breed MapReduce ジョブの使用
-
AdvanceMatchFactory
のインスタンスを、その静的メソッドgetInstance()
を使用して作成します。 -
Best of Breed ジョブの入力と出力の詳細を指定します。以下の手順に従って、
BestofBreedDetail
を指定するProcessType
のインスタンスを作成することによって、これを行います。このインスタンスは、MRProcessTypeタイプを使用する必要があります。-
GroupbyOption
のインスタンスを作成することによって、レコードのグループ化に使用する列を指定します。GroupbyMROptionのインスタンスを使用して、必要な Group-By 列とリデューサー数を指定します。 -
BestOfBreedConfiguration
のインスタンスを作成することによって、ジョブの統合ルールとテンプレート ルールを生成します。このインスタンスの中で、次の操作を行います。ConsolidationCondition
のインスタンスを使用して、テンプレート レコードを定義します。このインスタンスは、ConsolidationRule
インスタンスで構成されます。ConsolidationCondition
のインスタンスを使用して統合条件を定義し、論理演算子を使用して条件を組み合わせます。ConsolidationCondition
の各インスタンスは、ConsolidationRule
インスタンスとそれに対応するConsolidationAction
インスタンスを使用して定義されます。
注:ConsolidationRule
の各インスタンスは、SimpleRule
の 1 つのインスタンスによって定義するか、または、子のSimpleRule
インスタンスとネストされたConjoinedRule
インスタンスが、論理演算子で結合された階層を使用して定義できます。列挙 JoinType、および列挙 Operationを参照してください。 -
BestofBreedDetail
のインスタンスを作成します。JobConfig
タイプのインスタンスと、上で作成したGroupbyOption
インスタンスおよびBestOfBreedConfiguration
インスタンスを、コンストラクタの引数として渡します。JobConfig
パラメータは、MRJobConfig タイプのインスタンスである必要があります。 -
inputPath
インスタンスのBestofBreedDetail
フィールドを使用して、入力ファイルの詳細を設定します。テキスト入力ファイルの場合は、適切なコンストラクタを呼び出して、関連する詳細な入力ファイル情報を指定してFilePath
のインスタンスを作成します。ORC 入力ファイルの場合、ORC 入力ファイルのパスを引数に指定してOrcFilePath
のインスタンスを作成します。 -
outputPath
インスタンスのBestofBreedDetail
フィールドを使用して、出力ファイルの詳細を設定します。テキスト出力ファイルの場合は、適切なコンストラクタを呼び出して、関連する詳細な出力ファイル情報を指定してFilePath
のインスタンスを作成します。ORC 出力ファイルの場合、ORC 出力ファイルのパスを引数に指定してOrcFilePath
のインスタンスを作成します。 -
jobName
インスタンスのBestofBreedDetail
フィールドを使用して、ジョブの名前を設定します。 -
compressOutput
インスタンスのBestofBreedDetail
フラグに true を設定して、ジョブの出力を圧縮します。
-
-
先ほど作成した
AdvanceMatchFactory
のインスタンスを使用してそのメソッドcreateJob()
を呼び出し、MapReduce ジョブを作成します。ここで、上のBestofBreedDetail
のインスタンスを引数として渡します。createJob()
メソッドはジョブを作成し、List
インスタンスのControlledJob
を返します。 -
JobControl
のインスタンスを使用して、作成したジョブを実行します。 -
MapReduce ジョブの正常実行後にレポート カウンタを表示するには、先ほど作成した
AdvanceMatchFactory
のインスタンスを使用して、そのメソッドgetCounters()
を呼び出します。作成したジョブを引数として渡します。