2016-09-09 5 views
1

何かの理由で何らかの理由でbigqueryテーブルにデータをストリーミングしていますが、データがすぐに利用できないことを確認しました。ストリーミングされたデータは最終的にはクエリに使用できます。時には1時間以上同期していないように見えることもあります。しかし、データは最終的には遅れて現れます。Bigqueryストリーミングデータ遅延

これは予想されますか?そうであれば、その周りの道は何ですか?テーブルは日付でパーティション化されており、特定のパーティションにデータをロードしていないため、現在の日付のデータのみをストリーミングしています。

アップデート:私はデータが利用できないと言うとき

、私は次のクエリを実行している意味は、データがBigQueryのにプッシュされた日付/時刻と一致していないようです。

select max(dateTime) from [nproj.reporting] ; 
+0

エンジニアがチェックする可能性があるプロジェクト名を投稿してください。 – Pentium10

+0

"データが利用できません"と言われたら - それはどういう意味ですか?テーブルがパーティション化されている場合、データがストリーミングシステム内にある間に_PARTITIONTIMEはNULLになるため、フィルタリングする場合はWHERE句に_PARTITIONTIME IS NULLを含めるようにしてください。 –

+0

@MoshaPasumanskyは上記のように更新されていますが、クエリは最新のdateTimeを表示していないようです。これは数週間前に働いていました。私は間違いなくUIでキャッシングを無効にしました。 – opensourcegeek

答えて