Apache Flink + RabbitMQスタックを使用しています。手動でセーブポイントをトリガーしてジョブをリストアする機会については知っていますが、問題は、チェックポイントが成功した後にFlinkがメッセージを認識し、セーブポイントとリストア状態を作成したい場合、最後に成功したセーブポイントと最後に成功したチェックポイント。チェックポイントからジョブを復元する方法はありますか?これは、再生不能なデータソース(rabbitmqなど)の場合にデータを失うという問題を解決します。 Btw、すべてのオーバーヘッドを持つチェックポイントがあれば、なぜユーザーにそれらを使用させないのですか?チェックポイントからApache Flinkジョブを復元する
3
A
答えて
4
概念的には、セーブポイントは、チェックポイントとメタデータのビットよりも他には何もありません。どちらの場合も(SavepointとCheckpoint)、Flinkはすべての演算子、ソース、およびシンクの状態の一貫したチェックポイントを作成します。
チェックポイントは、障害回復のための内部機構であると考えられています。ただし、チェックポイントはconfigured to be externalized checkpointsです。外部化されたチェックポイントは、ジョブが終了したときに自動的にクリーンアップされず、プログラムを手動で再起動するために使用できます。
RabbitMQソースの問題点は、Flinkのチェックポイントセマンティクスに違反するということです。これは、リセットできないチェックポイントを使って外部システムに何らかの状態をプッシュするためです。
セーブポイントをトリガーし、その後すぐにジョブをシャットダウンするメカニズムを使用すると、問題を解決できますか?これは、セーブポイントが取られた後にチェックポイントがトリガーされるのを防ぎます。
関連する問題
- 1. Apache Spark:チェックポイントから復旧中のNPE
- 2. Apache Flinkは障害後にトリガータイマーを復元しますか?
- 3. Apache Flink: "チェックポイントバリアを受信した結果、チェックポイントをトリガーするエラー"
- 4. テンソルフローのチェックポイントからの復元中にエラーが発生する
- 5. Flinkストリームからの手動チェックポイント
- 6. コードからApache Flinkジョブを取り消す
- 7. Tensorflowはチェックポイントからglobal_stepを復元できません
- 8. Apache Flink - チェックポイントと保存ポイントの違いは?
- 9. Tensorflowチェックポイントを使用してC++でモデルを復元する
- 10. Rubyでヒープをチェックポイントして復元する
- 11. Tensorflow:チェックポイント変数を分散した設定に復元する
- 12. Flinkジョブを提出するときNoSuchMethodError
- 13. Apache Flink(ジョブに一意のタグを付ける方法)
- 14. DataprocのチェックポイントからSpark Streamingジョブを再起動するには?
- 15. Flink dataset api配送保証とチェックポイント
- 16. Apache ApexとApache Flink
- 17. Apache Flinkからのデータの照会
- 18. Flink REST APIを使用してAWS EMR上でFlinkジョブを実行する
- 19. flink環境でflinkジョブのスプリングリソースを初期化する方法
- 20. Apache Flinkのチェックポイント機能はステートフルな関数で使用する必要がありますか?
- 21. Apache Flink Kafka Itegration
- 22. Apache Flink RollingFileAppender
- 23. カフカコンシューマ対Apache Flink
- 24. apache flink DataSetウィンドウアグリゲーション
- 25. Apache Flinkストリームスケーリング
- 26. Apache Flink - org.apache.flink.client.program.ProgramInvocationException
- 27. Apache Beam/Flink ExceptionInChainedStubException
- 28. Apache flinkデータセット
- 29. Apache Flink - groupBy
- 30. Apache Flinkとイベントシーケンス
はい、それは私の問題を解決するだろう。セーブポイント後にシャットダウンジョブを実行する方法はありますか? – user3237732
いいえ、これは現時点では不可能ですが、現時点で進行中の取り組みであるジョブの再スケーリングを可能にするために追加されます。 –