2017-11-28 10 views
2

EMarker(Spark、Zeppelin)を使用する場合、Zeppelin Sparkインタプリタの設定でspark.driver.memoryを変更すると機能しません。EMRでSpark/Zeppelinのspark.driver.memoryを設定する方法

EMR Webインターフェイス(aws CLIではなく)を使用してクラスタを作成するときに、Sparkドライバメモリを設定する最も簡単な方法は何ですか?

ブートストラップアクションは解決策ですか? 「はい」の場合は、ブートストラップアクションファイルの例を教えてください。

答えて

3

あなたは常にジョブフロー/クラスタの作成時に、次の設定を追加しようとすることができます:

[ 
    { 
     "Classification": "spark-defaults", 
     "Properties": { 
      "spark.driver.memory": "12G" 
     } 
    } 
] 

あなたはspark-defaultのためかどうかの設定のこのほとんどを行うことができますが、Hadoopのcore-siteなど

私は願っていますこれは役に立ちます!

+0

残念ながら、それは動作しませんでした。私はそれがツェッペリンではなくスパークの構成でなければならないと思いますか? – Rami

+0

私の答えを更新して火花のconfに設定できるようにしましょう – eliasah

+1

クール、今すぐあなたの編集後に動作します!ありがとう@リリア! – Rami

関連する問題