Flink参照データの格納先/アクセス先のアドバイスを探しています。ここのユースケースは本当にシンプルです - 私は国のリストを持つ単一の列のテキストファイルを持っています。私はツイッターデータをストリーミングしていて、ツイートの(解析済み)ロケーションフィールドに基づいてテキストファイルから国を照合しています。私のFlink Mapper(つまりFlinks MapFunctionを実装しています)の静的なBuildメソッドを使ってルーチンが起動すると、静的なArrayListが設定されているため、IDE(Eclipse)ではすべて役に立ちます。そうでなければシリアライゼーションでシャツを取得するので、このクラスは内部的に静的です。 Pointは、オーバーライドされたマップ関数がストリーム内から実行時に呼び出されると、国データの静的配列は待機中であり、完全に移入され、照合の準備ができています。魅力を発揮します。しかし、Flinkクラスターにデプロイされたとき(実際にテキストファイルを見つけるために実際にコードを取得するには、先週、地獄に戻りました)、配列はで、はBuildメソッドの一部として取り込まれています。データが使用されると、不思議なことにデータが消えてしまい、配列サイズが0になってしまいました。(エゴ、多くの一致が見つかりません.2つの質問があります。 Eclipseの単体テストの多くは無意味ですが)もっと一般的には、Flink内のこのような静的で固定された参照データを参照する正しい方法は何でしょうか?(またEclipseとクラスタは、...)Flink参照データのアドバイス/ベストプラクティス
1
A
答えて
0
静的参照データを処理するための標準的な方法はRichMapFunction
or RichFlatMapFunction
のopen
方法でデータをロードすることである。豊富な機能を作成し、ローカルの状態を確定するために有用であるopen
とclose
方法を有しており、アクセスすることができますランタイムコンテキスト。
関連する問題
- 1. Apache Flinkからのデータの照会
- 2. SoR参照データ
- 3. データ参照とupdation
- 4. Androidのデータは、クラス参照
- 5. 参照データ/ NOSQLデータベースのマスタデータ
- 6. EF6での参照データ
- 7. fk参照のUnkownデータ型
- 8. 命令参照とデータ参照の相違
- 9. NoSqlを参照データに照会する
- 10. Oracle - Flyway DB参照データ
- 11. 大規模な参照データ
- 12. Linqが参照する外部キー参照データ
- 13. Excel - 参照内の参照
- 14. ファイル内のデータ参照/ポインタの処理?
- 15. 参照方法はApache Flink 1.0.0でサポートされていますか?
- 16. Entity Frameworkのデータ参照をアンロード
- 17. C++のガベージコレクションと循環参照データ
- 18. オリオン・コンテキスト・ブローカー - データ・モデルへの参照
- 19. RPGLEデータStrucutre配列の参照
- 20. データ型のテンプレート参照変数(Angular2)
- 21. 参照先オブジェクトのデータを取得
- 22. ドメインデータ/参照データの実装ですか?
- 23. 先頭行のデータを参照する
- 24. アナリティクスのAdMob収益データを参照
- 25. C++の参照への参照を間接参照
- 26. 参照テーブルのデータ照合と挿入のためのストアドプロシージャ
- 27. 間接参照参照
- 28. shared_pointerへの参照の参照カウント
- 29. HQLのnull参照オブジェクトの参照プロパティ
- 30. Firebase Firestoreの参照データ型を照会する方法は?
パーフェクト。参照データをRichMapFunctionの 'Open'メソッドに移入していた 'Build'メソッドを移動し、すべて機能しました。 (リフレクション・マインドでは、これをプリ・フリンク処理のいくつかの処理に移す方が良いでしょう。つまり、参照データは既にフリフが最初にカフカから消費しているデータの一部です。 –