レート制限付きAPIを緩和するにはどうすればよいですか？

Question

私たちは、Amazon Product Advertising API（APAA）に大きく依存するウェブサイトを運営しています。何が起こるかは、ユーザーが急激に急増した場合、APAAに依存するすべての機能がレートリミットに達したということです。私たちは何ができるのでしょうか？

明らかに私たちはいくつかの基本的なキャッシングを行っていますが、APAAでは非常に長い時間データをキャッシュすることができません。また、APAAのクエリは大きく異なる可能性があります。クエリ。

Answer 1

私はあなたの唯一の選択肢は、機能するまでAPIコールを再試行することですが、スマートな方法で行うことをお勧めします。残念ながら、それが抑制されるのは誰もが行い、AWSは人々がそれを処理することを期待しています。

クラスタ呼び出しを防ぐために指数バックオフを実装し、ジッタを追加することができます。 AWSには、この種の問題の解決策に関する素晴らしいブログ記事があります。https://www.awsarchitectureblog.com/2015/03/backoff.html