2017-06-23 38 views
1

私はPathos ProcessPoolを使用して、多くのデータポイントで並列に機能data()を実行するスクリプトを使用しています。完了時にPython ThreadPoolを使用してリソースをシャットダウンする

機能がdata()計算と呼ばれ、Databaseと呼ばれる単一のオブジェクトに結果を送信すると、プッシュの多くは、DBに送信されているので、私はシンプルなキューを追加したキューサイズが500より大きい場合、それはにプッシュされますデータベース。

問題は、すべてのデータポイントがマップされていても、クラスDatabaseのキューにデータ量がまだ残っている場合に発生します(各プロセスでは、プロセス1では100プロセス2に200がある可能性があります)。

私は終了時にフラッシュする関数を書きましたが、どのようにすべてのプロセスでその関数を呼び出しますか?

答えて

1

Managerマルチプロセスでは、キューを使用する代わりに、プロセスによって保存されたデータに一度にアクセスできます。

あなたはそれについて読むことができますhere

関連する問題