HIVEを使用してデータセットに「使用」がいくつあるかをカウントしようとしています。イベントの集計イベントの時間間隔が小さい場合にイベントが集まる
私は個々のユーザーID、Unixエポック時間のタイムスタンプ、イベント名、およびデータ内のイベントの長さ(秒)の列を持っています。
「使用」は、ユーザーがイベントをトリガーするといつでも考慮されます。問題は、ユーザーがイベントをトリガーして5分以内に別のイベントをトリガーした場合、私は同じ「使用」としてカウントすることです。
5分のウィンドウをどのように説明するのが苦労していますか?カウント。あまりにも多くのサブクエリを避けるためにSQLで厄介なことをやっているように、HIVEでたくさんの 'create tables'を作ることはできないようです。
これは標準的な問題のようですが、このようなアイテムを扱うにはスマートで明白なソリューションがありますか?
はハイブであなたに
サンプルデータと希望の結果を提供すると、この問題が理解できるようになります。 –
データを時間順に並べ、ユーザーが分割すると、タスクが簡単になります。ユーザーごとに、時間順に並べ替えられたイベントをスキャンし、最新のイベントの時刻を覚えておいてください。このイベントの時間が5分のウィンドウ内にある場合は、「最新のイベント」タイムスタンプを更新するだけです。ウィンドウの外にある場合は、イベントとしてカウントします。ユーザー別にストリームを分割することで、異なるユーザーを並行してカウントすることができます。 – 9000