2016-07-17 6 views
5

BigQueryを使用してアプリケーションのログファイルを分析するメリットについて検討しています。ログはJavaおよびC#アプリケーションによって生成され、そのほとんどはクラウドベースのVM上に生成されます。 BigQueryとElasticSearch/Logstash/Kibanaのメリットについて、他の人がこれをやっているかどうか聞いてみたいと思います。BigQueryとアプリケーションログの分析と保存のためのElasticsearch

BigQueryの利点は、膨大な量のデータを扱うことができるように見えるのに対し、ELKソリューションは、特に異なるシステムからのログファイルの構造化されていない性質に適しているようです。

また、ダッシュボードに情報を表示したいと思います。木場はそれにはとても良いようです。 Googleソリューション(Googleシートなどを使用)を使用してダッシュボードを作成するのは簡単ですか?

考え、ユースケース?

答えて

5

ElasticsearchとBigQueryがうまく機能します。 BigQueryは、必要なだけのデータを取得し、必要なときに数秒でクエリを実行します。一方、適切に調整されたElasticsearchインストールでは、1秒未満で回答が得られますが、限られた量のデータに対する特定のクエリに対してのみ回答が得られます。

彼らは両方を使用してそれらがどのように詳細ラウンドでオリー、ことで、この記事を参照してください:

https://www.rounds.com/blog/collecting-user-data-and-usage/

の両方を行うために自分の理由を要約2曲のトップタイトル:

  • でライブデータElasticsearch
  • Google BigQueryを使用したビッグデータ
+0

http://www.rounds.com/blog/collecting-user-data-and-usage/ httpsが公開されていないので –

+0

しかし、どのようにログを弾力的な検索に保存するのですか?あなたはlogstashを使用しますか? –

+2

@ KassemShehady私はファイルビートを使用してクライアントからログを配信し、サーバ上でlogstash処理してelasticsearchに送信します – user3628387

関連する問題