CNTK並列要求処理のためのC＃サンプルとclone（）メソッドのパフォーマンス

Question

C＃サンプルで並列要求処理のための https://github.com/Microsoft/CNTK/blob/zhouwang/cseval-example-clone/Examples/Evaluation/CNTKLibraryCSEvalCPUOnlyExamples/CNTKLibraryCSEvalExamples.cs

は、rootFunc.Clone（ParameterCloningMethod.Share）を呼び出す方法高価ですか？ 私たちは現在、私たちのサービスで受け取ったリクエストごとにそれを呼び出していますが、それが推奨されないことがあるかどうかを知る価値があります。

すべてのクローン化されたインスタンスは、例えば、モデルのパラメータを共有しているため、事前におかげでパラメータ共有と

Answer 1

クローン（）は、高価なregardignメモリオーバーヘッドはありません重量。レイテンシに関しては、メモリ内のネットワーク記述データ構造を作成するだけなので、かなり低くすべきである。もちろん、プールを使用してすべてのクローンインスタンスを管理すると、パフォーマンスが向上します。