2017-04-24 5 views
0

カフカトピックから対応するアンパールテーブルにデータを取り込むAmpool AD​​Sという製品用のカフカシンクコネクタを実装しました。トピックとテーブルは、名前でマップされます。カフカシンク接続 - トピックごとに1つのタスクを作成する方法

私は個々のトピック(トピックからの摂取--->テーブル)を専用のシンクタスクに処理する必要があります。

たとえば、my configに3つのトピック(topic1、topic2、topic3)が含まれている場合、Sinkコネクタは3つの異なるシンクタスクを作成する必要があります。

注:個々のトピックを専用のシンクタスクに処理する理由は、特定のテーブルがオフライン/作成されていない場合、RetriableExceptionメカニズムを使用することです。設定された時間間隔後に、個々のトピック/テーブルレコードのみが再生されます。

これはカフカ接続フレームワークで可能ですか?

+0

どのタスクがどのトピックを選ぶかを知るためにこれを達成することはできないと思います。唯一の方法は3つのコネクタを作成することです.1つのタスクでそれぞれに1つのトピックを割り当てます。しかし、話題が増えるとコネクタも増えなければならないが、これは良い設計ではない。 – Renukaradhya

答えて

0

タスクの数をパーティションの数と同じに設定した場合(構成を作成するときにコネクタコードから行うことができます)、各タスクは正確に1つのパーティションを取得します。

+0

分散モードでは、1人の作業者で多くの作業を行う方がよいか、少ない作業で多くの作業者を保有する方が良いでしょうか?そこに親指のルールがありますか? –

関連する問題