sess.runを実行するときのテンソルフローはどのように計算グラフを処理しますか？

Question

我々は怒鳴るのコードを使用して：

output = NeuralNetwork(x,W) 
loss = Loss(output, true_label) 
train_op = Optimizer.minimize(loss) 
sess.run([loss, train_op], feed_dict=feed) 

は、二度の損失を計算するための1、勾配を計算するための1つをtensorflowコンピュートoutputを行い、または一度だけouputを計算し、lossとgradientを計算するために計算されたoutputを使用していますか？ ありがとう！

編集。 tensorflow次のコード実行時 ：この場合

output = NeuralNetwork(x,W) 
ouput_plus_one = output+1 
loss = Loss(output, true_label) 
train_op = Optimizer.minimize(loss) 
sess.run([output_plus_one, train_op], feed_dict=feed) 

を、output_plus_oneとtrain_opのサブグラフとの重なり部分グラフを検出し、第outputを計算tensorflowですか？

Answer 1

outputは、1回計算された後、逆方向パスがそれを消費するまでメモリに保持されます。

TensorFlowでは、テンソルが高速で計算時間が長くて長時間メモリに座ってしまうと、出力を破棄して次回に必要なときに再計算できる可能性があります。