1
私はPathos ProcessPoolを使用して、多くのデータポイントで並列に機能data()
を実行するスクリプトを使用しています。完了時にPython ThreadPoolを使用してリソースをシャットダウンする
機能がdata()
計算と呼ばれ、Database
と呼ばれる単一のオブジェクトに結果を送信すると、プッシュの多くは、DBに送信されているので、私はシンプルなキューを追加したキューサイズが500より大きい場合、それはにプッシュされますデータベース。
問題は、すべてのデータポイントがマップされていても、クラスDatabase
のキューにデータ量がまだ残っている場合に発生します(各プロセスでは、プロセス1では100プロセス2に200がある可能性があります)。
私は終了時にフラッシュする関数を書きましたが、どのようにすべてのプロセスでその関数を呼び出しますか?