クラスタ内の特定のスパークノードをドライバとして設定する際に問題が発生しています。私はスタンダードモードのクラスタを持っています。マスターが再起動するたびに、クラスター内のノードの1つがドライバープログラムを実行するためにランダムに選択されていることがわかります。そのため、クラスタ内のすべてのノードにJARをデプロイするように強制されています。Spark:ドライバプログラムを実行するIPを指定する方法
ドライバプログラムを実行するIPを指定できるのであれば、JARを1つのノードにのみ展開する必要があります。
ありがとうございました。
あなただけなし、マスターに提出する必要がありますか?フォールトトレランスのポイントではありませんか?どのノードがドライバになるのかを知るべきではありません。フレームワークはそれを把握する責任があります –
私はすべてのノードにjarファイルを展開する必要があるのですか? – Suraj
あなたはnoにする必要はありません。マスターノードだけです(少なくともsparkでの私の経験は限られています) –