2011-06-03 5 views
1

Djangoにウェブサイトを構築しました。 Webクロール機能を使用する必要があります。だから私はScrapyをインストールしました。Djangoクラス内でScrapy関数を使用できますか

scrapy startproject dmoz 

しかし、それは自分のファイルを持つdiffフォルダで動作します。

DjangoクラスでScrapy関数を使用し、データをDjango変数に入れることはできますか?

答えて

1

クロールは時間がかかります。短いHTTP要求とうまく組み合わせることはできません。したがって、Scrapyクロールを有効にするユーザーインターフェイス(おそらくDjangoで書かれた)と、クロールの状態を監視するための共有ストレージを使用する必要があります。

しかし、HTTPリクエストの存続期間中はクロールしたくないでしょう。それは、Scrapyが使われる方法ではありません。

+1

しかし、私はちょうど1ページまたは2ページをクロールしたいだけで、それも実行時にはどうしたらいいですか? – user782234

関連する問題