私は8ノードクラスタでazure hdinsightを作成しました。私はすべてのワーカーノードを占めるハイブクエリを実行しています。 私は糸ノード-listをチェックするとき、次が表示されている:いくつかの時間後私は紺碧のhdinsightクラスターを縮小できますか?
Node-Id Node-State Node-Http-Address No-of-Running-Containers
X.X.X.X:00050 RUNNING X.X.X.X:00060 8
X.X.X.X:00050 RUNNING X.X.X.X:00060 8
X.X.X.X:00050 RUNNING X.X.X.X:00060 8
X.X.X.X:00050 RUNNING X.X.X.X:00060 8
X.X.X.X:00050 RUNNING X.X.X.X:00060 8
X.X.X.X:00050 RUNNING X.X.X.X:00060 8
X.X.X.X:00050 RUNNING X.X.X.X:00060 8
X.X.X.X:00050 RUNNING X.X.X.X:00060 8
、マッパーが完了し、2つのレデューサーは以下のように、実行されている:
Node-Id Node-State Node-Http-Address No-of-Running-Containers
X.X.X.X:00050 RUNNING X.X.X.X:00060 0
X.X.X.X:00050 RUNNING X.X.X.X:00060 1
X.X.X.X:00050 RUNNING X.X.X.X:00060 0
X.X.X.X:00050 RUNNING X.X.X.X:00060 0
X.X.X.X:00050 RUNNING X.X.X.X:00060 1
X.X.X.X:00050 RUNNING X.X.X.X:00060 0
X.X.X.X:00050 RUNNING X.X.X.X:00060 0
X.X.X.X:00050 RUNNING X.X.X.X:00060 0
この段階に到達したときに実行中の2つのワーカー・ノードに影響を与えないクラスタをスケール・ダウンできますか?
レデューサーが読み書きしていたHDFSデータノードを確認しましたか? DataNodeが意味する「廃止」について、ファイルブロックのバランスをとって、各ブロックが3回も複製されるように見直しましたか? –
つまり、Hadoopは分散コンピューティングフレームワークであるだけでなく、分散**ファイルシステム**です。データを移動します。あなたはラップトップからハードディスクを取り出して、それが走っている間...? –