私の前に述べたようにpost私はCloud FunctionからDataflowに単一のファイル名を渡そうとしていました。一度に複数のファイルをGCSバケットにアップロードした場合はどうなりますか?単一のクラウドファンクションをキャプチャし、すべてのファイル名をevent.dataを使用して送信することは可能ですか?それ以外の方法でなければ、データフロープログラムでこれらのファイル名を取得できますか? Cloud関数からDataflowに複数のファイル名を渡す
は、ファイル名のリストを取ったカスタムソース(またはconcatenedファイル名などした単一の文字列)、その後、使用を作成する必要がありますあなたは
0
A
答えて
0
単一のパイプラインでこれを実行するには感謝します適切な実行時PipelineOptionをソースとして使用します。
0
このアプローチの課題は、クライアント(おそらく)がそこにいくつのファイルがあるのか、そしてそれらがすべてアップロードを完了したかを知っていることだけです。クラウド機能に送信されるイベントは、少なくとも1回(複数のイベントを取得する場合があります)となる可能性があります。クラウドファンクションが予期していたファイルの数を何とか知っていたとしても、クラウドストレージをチェックする競合状態のために、1つのクラウドファンクションでデータフローがトリガされることを保証することは難しいかもしれません(例えば、 )。クラウドストレージ(AFAIK)には、単一の関数呼び出し(バッチAPIがありますが、イベントは単一の "オブジェクト"変更から放出される)になる「バッチ」セマンティックはありません。 -least-Nイベント)。
すべてのファイルがアップロードされると、クラウド機能またはデータフローを手動で手動でトリガーする方がよい場合があります。クラウド機能をHTTP経由で直接起動することもできますし、Cloud Storageにセンチネル値を書き込んで機能をトリガーすることもできます。
代わりに、ファイルをクライアントからの1回のアップロード(例:tar)にパッケージ化することもできますが、これがあなたのユースケースにとって意味をなさない理由があるかもしれません。
関連する問題
- 1. Google Cloud Dataflowアクセスクラウドストレージの.txtファイル
- 2. CoffeeScript、匿名関数を含む複数のパラメータを渡す
- 3. 関数から別の関数に変数を渡すには?
- 4. 関数の引数としてファイル名を渡すスクリプト
- 5. Google Cloud Storage(node.jsを使用)から複数のファイルをダウンロード
- 6. Haskell - 関数に複数の関数を渡す
- 7. C#:テキストボックスから関数に数学関数を渡す方法
- 8. Google Cloud Dataflowワーカースレッキング
- 9. PHP Cloud Datastore and Cloud Dataflow
- 10. 関数の変数を関数から関数に渡す方法
- 11. Spring Cloud DataFlow httpポーリングと重複排除
- 12. 関数内の引数としてサブ関数名を渡す
- 13. 複数のパラメータをJavaから.vbsファイルに渡す方法
- 14. Spring Cloud Dataflow - Stream AppsのEnv変数を設定する
- 15. オブジェクトをSQLクエリ関数から別の関数に渡す
- 16. Pythonの関数内から関数に値を渡す
- 17. Powershell関数から別のPowershell関数にパラメータを渡す
- 18. C++関数に配列を渡してから別の関数に渡す
- 19. Apache Beam/Dataflowの複数のファイルにまたがるパイプラインコード
- 20. 複数のPHP変数をajax関数onclickに渡すには
- 21. プロット関数名に変数名を渡すタイトル
- 22. PHPからextenal jsファイルに複数の変数を渡すには?
- 23. Node Horsemanから関数を `evaluate`関数に渡すには?
- 24. フィールド名を関数テンプレートに渡す
- 25. 関数にテーブル名を渡す
- 26. ブーストプログラムオプション - 関数の結果からarg名を渡す
- 27. 関数出力で複数の関数ハンドルを渡す
- 28. これをonclickイベントから複数の関数に渡す方法は?
- 29. c - 複数の引数をGTKのコールバック関数に渡す
- 30. Powershellで関数の変数に複数のパラメータを渡す