不要になったときにテンソルをメモリから解放するには？

Question

私は次のように計算の一連を有する仮説グラフ有する：

a_0 = tf.placeholder() 
a_1 = some_op_1(a_0) 
a_2 = some_op_2(a_1) 
a_3 = some_op_3(a_2) 

a_3を計算するときことを確認します。 a_0およびa_1は不要であるため、a_3のメモリを割り当てる前に破棄することができます。 TensorFlowにこのメモリ最適化を実行するよう依頼する方法はありますか（ある程度時間がかかることに同意します）。

これは、必要な場合にのみメモリを割り当てることに関するthisの質問と同じではありません。

編集：このネットワークは訓練されませんので、背景を心配しないでください。

Answer 1

TensorFlowは、テンソルが使用しなくなった時点でテンソルが使用するメモリを解放するために参照カウントを使用します。 a_0とa_1の値は、参照がなくなるとすぐに削除されます。また、TensorFlowの最新のビルド（1.0以降の夜間ビルド）では、いくつかの操作では、入力バッファが同じ場合は入力バッファも再利用されます形状と要素の種類。