2017-05-26 4 views
0

私は8ノードクラスタでazure hdinsightを作成しました。私はすべてのワーカーノードを占めるハイブクエリを実行しています。 私は糸ノード-listをチェックするとき、次が表示されている:いくつかの時間後私は紺碧のhdinsightクラスターを縮小できますか?

Node-Id    Node-State Node-Http-Address  No-of-Running-Containers 
X.X.X.X:00050  RUNNING X.X.X.X:00060     8 
X.X.X.X:00050  RUNNING X.X.X.X:00060     8 
X.X.X.X:00050  RUNNING X.X.X.X:00060     8 
X.X.X.X:00050  RUNNING X.X.X.X:00060     8 
X.X.X.X:00050  RUNNING X.X.X.X:00060     8 
X.X.X.X:00050  RUNNING X.X.X.X:00060     8 
X.X.X.X:00050  RUNNING X.X.X.X:00060     8 
X.X.X.X:00050  RUNNING X.X.X.X:00060     8 

、マッパーが完了し、2つのレデューサーは以下のように、実行されている:

Node-Id    Node-State Node-Http-Address  No-of-Running-Containers 
X.X.X.X:00050  RUNNING X.X.X.X:00060     0 
X.X.X.X:00050  RUNNING X.X.X.X:00060     1 
X.X.X.X:00050  RUNNING X.X.X.X:00060     0 
X.X.X.X:00050  RUNNING X.X.X.X:00060     0 
X.X.X.X:00050  RUNNING X.X.X.X:00060     1 
X.X.X.X:00050  RUNNING X.X.X.X:00060     0 
X.X.X.X:00050  RUNNING X.X.X.X:00060     0 
X.X.X.X:00050  RUNNING X.X.X.X:00060     0 

この段階に到達したときに実行中の2つのワーカー・ノードに影響を与えないクラスタをスケール・ダウンできますか?

+0

レデューサーが読み書きしていたHDFSデータノードを確認しましたか? DataNodeが意味する「廃止」について、ファイルブロックのバランスをとって、各ブロックが3回も複製されるように見直しましたか? –

+0

つまり、Hadoopは分散コンピューティングフレームワークであるだけでなく、分散**ファイルシステム**です。データを移動します。あなたはラップトップからハードディスクを取り出して、それが走っている間...? –

答えて

0

個人的に実行中のHDInsightクラスタの規模を増やそうとはしていませんが、サポートされているクラスタスケーリング操作(ジョブの実行中)に公式documentationを読んでいます。サポートされているアプリケーションは以下のとおりです。

  • Hadoopの
  • HBaseの
  • スパーク
おそらくハイブは、(1)ハイブがリストにないため、実行中のクエリで拡大縮小、そしてべきではありません

(2)ドキュメントは、以下のように実行されているジョブで縮小すると、Hadoopジョブに何が起こるかを説明しています。 IMHOこれはHiveの仕事にも起こるかもしれません。

データ数を減らしてHadoopクラスタを縮小すると、クラスタ内の一部のサービスが再起動されます。これにより、 の実行中および保留中のジョブは、スケーリングの完了時に失敗します 操作。ただし、操作が完了したら、ジョブを再送信することはできます 。

関連する問題