リクエスト時間を短縮するために同時に複数のHTTPリクエストをプリフォームすることは可能ですか?そうするためにスレッドを使用できると思っていました。もしそうなら、それは私の問題を解決する最も効率的な方法でしょう、そしてそれがそうならば、あなたはそのような解決策をどのようにPythonで行いますか?ありがとう複数のHTTPリクエストを同時にスレッドで使用する
答えて
これは、マルチスレッドの使用法の最も象徴的な例です。
import threading
import urllib2
import time
start = time.time()
urls = ["http://www.google.com", "http://www.apple.com", "http://www.microsoft.com", "http://www.amazon.com", "http://www.facebook.com"]
def fetch_url(url):
urlHandler = urllib2.urlopen(url)
html = urlHandler.read()
print "'%s\' fetched in %ss" % (url, (time.time() - start))
threads = [threading.Thread(target=fetch_url, args=(url,)) for url in urls]
for thread in threads:
thread.start()
for thread in threads:
thread.join()
しかし、あなたは簡単に同時要求スタックオーバーフローに
私は、私が要求したい500のURLのリストを持っていたと言うことができますが、私はどうしたらいい? –
問題が発生しないドメインが異なる場合でも、異なるURLを1つのサイトからクロールしようとすると、それが禁止される大きな可能性があります。 – vZ10
私は500リクエスト(私は禁止しないと仮定して)と思っていたが、それを試してみると、上記のコードで500個の異なる私は何をしますか?このような状況では、 –
- 1. 複数の同時HTTPリクエスト
- 2. .NETネットワーキングライブラリを使用した複数の同時HTTPリクエスト
- 3. 複数のAJAXリクエストを同時に使用できますか?
- 4. 同じ接続を使用した複数スレッドのWebリクエスト
- 5. 同時HTTPリクエスト
- 6. 複数のスレッドが同時に同じ関数にアクセスする
- 7. GWTを使用した複数の同時リクエストaddSubmitCompleteHandler
- 8. F#複数のスレッドで同時にリストを更新する
- 9. iOS - 複数の非同期リクエストを同時に実行する
- 10. POSTMANを使用して同時に複数のリクエストを作成する方法
- 11. okhttp3で複数の非同期HTTP 2.0リクエストを作成する
- 12. iis7ワーキングプロセスあたりのスレッド数/同時リクエスト数を増やす
- 13. java mysqlで同時に複数のリクエストを処理する
- 14. 同時に100kのHTTPリクエストを受信
- 15. Matplotlib:複数のスレッドで同時にプロットする
- 16. RX.JS Redux Observable複数の同時取得リクエスト同時に
- 17. 複数のリクエストで使用できるPython HTTPサーバー
- 18. 複数のHTTPリクエスト
- 19. Lucene.NetでIndexSearcherの同じインスタンスを複数のスレッドで同時に使用できますか?
- 20. Winform:複数のスレッド同時にUIを更新する
- 21. 複数のスレッドを同時に実行する
- 22. 取得複数のスレッド同期ロックを同時に
- 23. 静的クラスと複数の同時リクエスト
- 24. 複数の同時Ajaxリクエストが遅い
- 25. 複数のスレッドから同時にMySQLにアクセスする方法
- 26. 複数のリクエストで使用するキーの非同期クエリデータベース
- 27. 同時に複数のNICを同時に使用できますか?
- 28. Spring-Boot:複数のリクエストを同時に処理する
- 29. codeigniter同時に複数のリクエストを交換する
- 30. Node.jsが同時に複数のリクエストを処理する方法
ようこその大きな量のためにサービスによって禁止できることを認識すべきです。 [良い質問をするにはどうすればいいですか?](https://stackoverflow.com/help/how-to-ask)と[ここではどのような話題がありますか?](https://stackoverflow.com/help)をお読みください。/on-topic)。 **研究、何かを試して、あなたのコードを追加し、あなたの問題を指摘する** ** – pirho