カフカトピックから対応するアンパールテーブルにデータを取り込むAmpool ADSという製品用のカフカシンクコネクタを実装しました。トピックとテーブルは、名前でマップされます。カフカシンク接続 - トピックごとに1つのタスクを作成する方法
私は個々のトピック(トピックからの摂取--->テーブル)を専用のシンクタスクに処理する必要があります。
たとえば、my configに3つのトピック(topic1、topic2、topic3)が含まれている場合、Sinkコネクタは3つの異なるシンクタスクを作成する必要があります。
注:個々のトピックを専用のシンクタスクに処理する理由は、特定のテーブルがオフライン/作成されていない場合、RetriableExceptionメカニズムを使用することです。設定された時間間隔後に、個々のトピック/テーブルレコードのみが再生されます。
これはカフカ接続フレームワークで可能ですか?
どのタスクがどのトピックを選ぶかを知るためにこれを達成することはできないと思います。唯一の方法は3つのコネクタを作成することです.1つのタスクでそれぞれに1つのトピックを割り当てます。しかし、話題が増えるとコネクタも増えなければならないが、これは良い設計ではない。 – Renukaradhya