0
私はローカルコンピュータ上で完璧に動作するウェブサイトをスクラップするためのスクリプトを持っています。同じスクリプトをサーバーにデプロイすると、ターゲットサーバーからデータを取得できません。Python - リクエストでWebスクレイピングのクッキーを有効にするにはどうすればいいですか?
デバッグが有効になっていて、ターゲットサーバーが「Cookieを有効にする必要があります」というエラーメッセージが表示されます。
以下はコードスニペットです。 Pythonバージョン2.7.3は、ローカルコンピュータとサーバーの両方で実行されています。
解決策をご理解いただきありがとうございます。
import requests
BASE_URL = 'https://targetsite.com'
CLIENT = requests.session()
detail_page = CLIENT.get(BASE_URL, headers=HEADERS, verify=False, allow_redirects=True)
ちなみに質問はbs4とは関係ありません。 –
最初のリクエストで失敗しますか?通常、後のリクエストで使用できるクッキーが返されます。 –
事は、この*すべきなのです*働かなければなりません - しかし、私はいくつかのJSのことが起こっていると思っています...私たちは実際の住所を知らされていないので知ることができません。 –