0
3つのノードがあり、1つはマスターとワーカーで、もう1つは純粋なワーカーです。スパーク:ワーカーノードでのみ新しいネイティブスレッドを作成することはできません
スタンドアロンクラスタ。ハードウェアは3つのボックスで同じです。
提案がありますか?
ありがとうございます!
3つのノードがあり、1つはマスターとワーカーで、もう1つは純粋なワーカーです。スパーク:ワーカーノードでのみ新しいネイティブスレッドを作成することはできません
スタンドアロンクラスタ。ハードウェアは3つのボックスで同じです。
提案がありますか?
ありがとうございます!
これは、spark workerをserviceコマンド(service spark-worker start)で実行すると発生します。
spark worker/sbin/start-slave.sh spark:// masterip:7077を直接開始すると、問題は発生しません。
提案がありますか?ここで
は、サービスファイルです:
[Unit]
Description=Spark Worker
After=network.target
[email protected]
[Service]
Type=forking
ExecStart=/opt/sparkassandra/spark/sbin/start-slave.sh spark://the_master_IP:7077
ExecStop=/opt/sparkassandra/spark/sbin/stop-slave.sh
StandardOutput=journal
StandardError=journal
LimitNOFILE=infinity
LimitMEMLOCK=infinity
LimitNPROC=infinity
LimitAS=infinity
CPUAccounting=true
CPUShares=100
Restart=always
[Install]
WantedBy=multi-user.target