0
私はSpark Job Serverからかなり大きな期待をしていましたが、それは非常にドキュメントの不足を発見しました。あなたは次の質問の1 /すべてをお答えくださいでしスパークジョブサーバのマルチスレッド化とダイナミックアロケーション
:
- は仕事Serverがスパークセッションを介してジョブを送信スパークしていますか?
- Spark Job Serverと並行していくつかのジョブを実行することは可能ですか?I saw people faced some troubles、私はまだ解決策を見ていません。
- 異なるCPU、コア、エグゼキュータのconfigsと並列に実行するジョブはほとんどありませんか?まだSparkSessionをサポートしていないジョブサーバ
「隔離のためのSparkContextごとのJVMを分離する」(https://github.com/spark-jobserver/spark-jobserver#features)の意味は何ですか? –
最初は、SJSは単一のコンテキストのみをサポートしていました。スパーク側に制限があったため、1つのドライバJVMは1つのコンテキストしか持てません。この問題を解決するために、新しいフラグを導入しました。コンテキストごとに新しいJVMが生成されます。 – noorul