これまでは、ライブストリーミングTwitterやFacebook APIとは別のソースからデータをクロールして別のDBに格納しています。その後、ユーザーの行動や他の種類の分析を理解するために、この大きなデータを使用しています。ダークWebページをクロールすることは可能ですか?
私がやっていることは同じですが、ダークウェブページでは、TORエクスプローラでアクセスできるすべてのWebページをクロールしたいと考えています。私はそのようなことについていくつかのブログで検索しましたが、私が見つけたのはそれらのすべてがログファイルだけをクロールしていることです。
ソーシャルメディアプラットフォームのAPIと同じように、暗いWebページをクロールすることはできますか?