2017-09-16 5 views
0

私はローカルコンピュータ上で完璧に動作するウェブサイトをスクラップするためのスクリプトを持っています。同じスクリプトをサーバーにデプロイすると、ターゲットサーバーからデータを取得できません。Python - リクエストでWebスクレイピングのクッキーを有効にするにはどうすればいいですか?

デバッグが有効になっていて、ターゲットサーバーが「Cookieを有効にする必要があります」というエラーメッセージが表示されます。

以下はコードスニペットです。 Pythonバージョン2.7.3は、ローカルコンピュータとサーバーの両方で実行されています。

解決策をご理解いただきありがとうございます。

import requests 

BASE_URL = 'https://targetsite.com' 

CLIENT = requests.session() 

detail_page = CLIENT.get(BASE_URL, headers=HEADERS, verify=False, allow_redirects=True) 
+0

ちなみに質問はbs4とは関係ありません。 –

+2

最初のリクエストで失敗しますか?通常、後のリクエストで使用できるクッキーが返されます。 –

+0

事は、この*すべきなのです*働かなければなりません - しかし、私はいくつかのJSのことが起こっていると思っています...私たちは実際の住所を知らされていないので知ることができません。 –

答えて

0

ターゲットサーバーに問題があるようです。私は問題が解決されるよりも、ユーザーエージェントを検索エンジンに変更しました。私はそれがクッキーとは関係ないが、ターゲットサーバは間違ったエラーコードを与えていることも理解しています。

関連する問題