boto3を使用して新しいクラスタを作成するとき、既存のクラスタの構成を使用して終了します。 私が知る限り、emr_client.run_job_flow
はすべての設定(Instances, InstanceFleets etc
)をパラメータとして提供する必要があります。 EMRのためにaws consoleから行うことができるように、既存のクラスタからクローンを作成する方法はありますか?私はあなたのクラスタを発射するAWS CLIを使用している、あなたをお勧めすることができますどのようなboto3を使用して既存のEMRクラスタを新しいものにクローズ
1
A
答えて
0
。
クラスタ構成をバージョン管理することができます。jsonファイルを使用して簡単にステップ構成をロードできます。
aws create-cluster --name "Cluster's name" --ec2-attributes KeyName=SSH_KEY --instance-type m3.xlarge --release-label emr-5.2.1 --log-uri s3://mybucket/logs/ --enable-debugging --instance-count 1 --use-default-roles --applications Name=Spark --steps file://step.json
:あなたは、常に同じ設定されたクラスタをスタートアップすることができた後
[
{
"Name": "Step #1",
"Type":"SPARK",
"Jar":"command-runner.jar",
"Args":
[
"--deploy-mode", "cluster",
"--class", "com.your.data.set.class",
"s3://path/to/your/spark-job.jar",
"-c", "s3://path/to/your/config/or/not",
"--aws-access-key", "ACCESS_KEY",
"--aws-secret-key", "SECRET_KEY"
],
"ActionOnFailure": "CANCEL_AND_WAIT"
}
]
(複数のステップがあまりにもオーケーです)
を。
たとえば、クラスタ全体をスケジュールし、1つのAirFlowジョブからステップを実行します。
しかし、あなたが本当にBoto3を使用したい場合は、私はdescribe_cluster()方法は、全体の情報を得るために、あなたを支援し、新しいものを起動するために返されたオブジェクトを使用できることとします。
関連する問題
- 1. (workergroupを使用して)既存のEMRクラスタにHiveActivityを実行するエラー
- 2. boto3のEMRクライアントrun_job_flowはInstanceProfileは、私はこのようなEMRクラスタを起動するためにboto3使用しようとしています
- 3. 既存のEMRクラスタでEmrActivityをどのように実行しますか?
- 4. スパーク `LiveListenerBus`例外は、私がAWS EMRクラスタを使用してい
- 5. MRJobを使用してEMRクラスタにジョブを送信
- 6. 既存のリストを使用して新しいマップを作成
- 7. 既存のHadoopクラスタにSparkをインストールしてください
- 8. AWS EMR EMRを使用してjupyterパスワード
- 9. クエリを使用して既存のレコードを更新します。
- 10. 新しいパラメータの代わりに既存のメソッドを使用
- 11. Boto3を使用してAWS EMRクラスターでステップ補完を待つ方法
- 12. 新しいWebアプリケーションを既存のものに展開する
- 13. Boto3 S3既存のオブジェクトのメタデータを更新する
- 14. 既存のPDFをフローラブルを使用して新しいReportLab PDFに結合
- 15. Ajaxを使用して既存のデータグリッドに新しいレコードを追加する
- 16. jxl apiを使用して既存のExcelファイルに新しい列を挿入
- 17. HyperLinkを使用して既存のクエリー・ストリングを持つ新しいページにリダイレクト
- 18. 新しいホスティングプランに既存のサブドメインを使用する
- 19. 既存のHbaseデータを新しいクラスタに移行する方法
- 20. 既存の表を、既存のデータを削除せずにマテリアライズド・ビューを使用して更新します。
- 21. Automapperを使用して既存のEntity POCOを更新する
- 22. APIを使用して既存のファイアウォールルールを更新する
- 23. 熱を使用して既存のセキュリティグループを更新する
- 24. プラシーボの既定のセッションを使用してテストBoto3コードを単位にする
- 25. Smartgitを使用して既存の名前で新しい機能を開始
- 26. Seleniumを使用して既存のブラウザセッションで新しいタブを開く
- 27. Word Interop C#:既存のページを使用して新しいページを挿入
- 28. 既存のショートコードを新しいものでラップする
- 29. Mercurialを使って既存のプロジェクト用に新しいリモートリポジトリを作成する
- 30. EMRクラスタをアップグレードしますか?
可能重複:https://stackoverflow.com/questions/43579746/how-do-i-apply-security-configuration-on-existing-emr-cluster-using-boto3 –
両方の質問をお読みください。異なる。 –