2016-05-13 6 views
0

scrapyを使用してプロキシ(2レイヤー)をプロキシーする方法は?ここではhttp/httpsプロキシを想定しています。scrapyを使用してプロキシ(2レイヤー)のプロキシを行う方法は?

たとえば、ローカルマシン - > proxy1 - > proxy2 - >クロールするサイト。 これをスクレイピーで行う方法は?

なぜ私はこれをしたいですか?

目的は私のIPアドレスを隠すことです。 proxy1は非常に信頼性が高いと思うが、クロールしたいサイトでブロックされている。 proxy2は信頼できませんが、クロールしたいサイトにアクセスできます。

私は自分のローカルマシン - > proxy2 - >私がクロールしたいサイトを行うことができます。しかし、proxy2は信頼できないので、私はクロールしたいサイトに私のIPアドレスを公開することができます。だから私はそれを保護するproxy2の前に別のレイヤーを追加したい。

+0

これは 'proxy1'の設定とよく似ていると思います。 – eLRuLL

答えて

1

あなたのIPアドレスを隠すために、高匿名プロキシを使用することができます。 高匿名プロキシはあなたのIPをマスクし、それ自身のIPで置き換えます。しかし、あなたが行くサーバはあなたの本当のIPをまだ検出できるかもしれません。これはありそうもありませんが、基礎となるIPアドレスを検出するコードを追加したサーバーがIPを検出する可能性があります。

+0

はい、目標は私のIPアドレスを隠すことです。 proxy1は非常に信頼性が高いと思うかもしれませんが、クロールしたいサイトによってブロックされていて、proxy2は信頼できず、クロールしたいサイトにアクセスできます。私は自分のローカルマシン - > proxy2 - >私がクロールしたいサイトを行うことができました。しかし、proxy2は信頼できないので、私はクロールしたいサイトに私のIPアドレスを公開することができます。だから私はそれを保護するproxy2の前に別のレイヤーを追加したい。 – nkhuyu

関連する問題