複数のWindows EC2インスタンス上の単一のディレクトリにS3バケットを同期したいと思います。ファイルがバケットからアップロードまたは削除されると、すぐにすべてのインスタンスからプッシュまたは削除されます。新しいインスタンスが頻繁に追加/削除されます(週に複数回)。ファイルは頻繁にアップロード/削除されます。ファイルサイズは最大2GBです。これを解決するAWSのサービスや機能は何ですか?AWS S3バケットをEC2インスタンスと同期
答えて
あなたが説明したことに基づいて、私はこの問題に対する以下の解決策を提案します。
S3
変更通知については、SNS
のトピックを作成する必要があります。次に、あなたのマシンからこのトピックを購読するスクリプトが必要です。このスクリプトは、S3
からの変更に基づいてマシン上のファイルを更新します。基本的なCRUD操作をサポートする必要があります。
S3
の内容を上記のaws-cli
を使用して起動するときに、このスクリプトを実行してからS3
の内容をマシンに同期させます。
はい、私はaws cli s3 "sync"コマンドを使用して、ローカルサーバーのコンテンツをS3の変更で更新した状態に保ちました。ローカルターゲットディレクトリのファイルをバケットまたはプレフィックスと同期させることができます。 http://docs.aws.amazon.com/cli/latest/reference/s3/sync.html
編集:EC2 &先:バケツこれ以下の答えがS3バケット、ソースとEC2を同期することです。それが唯一の1つのインスタンスのだったら
は、その後のみaws cli sync
(--deleteオプション付き)は、両方のために働いされていたであろう:S3バケットにファイルを入れて削除します。
ただし、ここでは複数のインスタンスの場合、aws s3 sync
と--delete
オプションを使用すると問題が発生します。単にそれを説明するために
は、ファイルa.jpg & バケツに同期するb.jpgでインスタンスI1を検討してください。 今度はCRON
ジョブがファイルをS3バケットと同期しました。
は、今、私たちは、ファイルc.jpg & D.JPGを持っているインスタンスI2を持っています。 だから、このインスタンスのCRON
ジョブが実行されるとき、それはD.JPG & ファイルにc.jpgを置き、また、それらのファイルが存在しないため、ファイルにa.jpg & b.jpgを削除しますインスタンス内I2。
- 同期のすべてのインスタンス間のすべてのファイル(コストがかかり、完全にS3の目的を削除):だから私たちは二つのアプローチを持っている問題を修正するために
。
- --deleteオプションのないファイルを同期し、別途削除を実装します(
aws s3 rm
を使用)。
私はあなたの質問を逆に解釈したと思います。ファイルはバケット**から** ec2インスタンスに同期されます。 – PrestonM
ああ、申し訳ありませんが、私の悪い。一般的に人々は別の方法が必要です。 –
- 1. S3バケットからAWS ec2(インスタンス)にSQLをインポートできますか?
- 2. S3バケットへのEC2インスタンスのアクセスを許可する
- 3. 使用AWS :: EC2 :: AWSでインスタンス:: CloudFormation ::初期
- 4. AWS S3バケットのエンドポイント
- 5. AWS S3バケットのboto
- 6. ec2からs3への同期フォルダ
- 7. S3フォルダ/バケットを同期させる
- 8. EC2でs3バケットと同じ領域が必要です
- 9. AWS WAF + EC2インスタンス
- 10. AWS ECSのマウントS3バケット
- 11. aws s3バケット暗号化
- 12. Unit8Arrayは、AWS S3バケット応答
- 13. multifileからaws s3バケット
- 14. アップロードイメージAWS S3バケット(即時)
- 15. AWSクラウドフロントS3バケットにリダイレクト
- 16. 2つのAmazon S3バケットを同期する最速の方法
- 17. Amazon S3バケットのduコマンドと同等
- 18. Node.jsを使用してEC2インスタンスからAWS S3ファイルをダウンロード
- 19. EC2インスタンスのAWS S3のデータを処理する
- 20. S3バケットへのEC2スナップショットの移動
- 21. Aws ec2インスタンスのスプリングブート
- 22. AWSコマンドラインのEC2インスタンス
- 23. AWS EC2インスタンスのオープンポート
- 24. Amazon s3とバケット
- 25. S3の別のバケットと重複しているAWSバケット
- 26. S3バケットからローカルディレクトリへの同期に失敗しました。
- 27. クロスドメインの問題:: aws ec2、s3とクラウドフロント
- 28. AWS Cliと非DNS互換バケットとの同期
- 29. aws-sdkでs3バケットをクリアする
- 30. s3バケットを他のawsサーバーに移動
S3を変更してイベントを発生させるためにSNSを使用して、インスタンスがオブジェクトをs3 - http://docs.aws.amazon.com/AmazonS3/latest/dev/NotificationHowTo.htmlから同期させるようにすることができます。 SNSイベント/通知は変更については知っていますが、インスタンス上でファイルをプッシュ/伝播できませんが、それらのインスタンスに対して通知を送信して新しいオブジェクトをs3から取得することができます –
ありがとうフレデリックSNS通知は、通知を送信するインスタンスのリストを維持する必要がありますか? – PrestonM
アカウントから実行中のすべてのインスタンスにファイルを「送信」したい場合は、aws APIを使用してリストを取得できるので、リストを維持する必要はありません –