TensorFlow Numpyを搭載した並列CPU

Question

私はコードを高速化する方法を見つけようとしています。要するに、私は予測を取得し、並べ替えてランクを出力するようなものを使用する訓練されたモデルを持っています。

def predict(feed_dict, truth): 
    # Feed dict contains about 10K candidates to obtain scores 
    pred = self.sess.run([self.mdl.predict_op], feed_dict) 
    pred = np.array(pred) 
    # With the scores, I sort them by likelihood 
    sort = np.argsort(pred)[::-1] 
    # I find the rank of the ground truth 
    rank = np.where(sort==truth)[0][0] + 1 
    return rank 

しかし、このプロセスは非常に遅いです。私は約10Kのテストサンプルを持っています。私は、マルチCPU/GPUのサポートはテンソルフローオペレーションでのみ利用可能ですが、セッションはPythonの標準マルチプロセッシングライブラリではうまく動作しないと考えています。

マルチプロセッシングでこれをスピードアップする方法はありますか？あるいは、それをTFの計算グラフの一部として実装する必要がありますか？

ありがとうございます！

Answer 1

あなたはTensorFlowグラフに全部を翻訳することができます

pred_op = tf.constant([1,2,0]) 
truth = [0, 1, 2] 
sess = tf.Session() 
sort = tf.nn.top_k(pred_op)[1] # same as np.argsort(x)[::-1] 
rank = tf.where(tf.equal(sort,truth))[0][0] + 1 
print(sess.run(rank)) # => 2