Tensorflow最適化乗算した後に加算

Question

一般的な線形代数では、乗算の一般的な演算を最適化し、入力にダミーの定数ディメンションを追加し、全体を単一の乗算（Wx + b => W'x'）にします。

はTensorflowでこれを行うにどんな利点があるのか​​、それは、スピードを向上させるメモリを減らす最適化ではありません何について、あなたは話しているとにかく（例えばtf.matmul(...) + b対tf.matmul(...)）

Answer 1

ことを最適化します。これは、数学的表現を短縮する単なる方法です。

• ので、代わりにあなただけの先頭に追加/ bの同じサイズの列を使用して行列を追加bベクトルを持つのメモリが低下することがありません。
• 行列Wに列を追加/追加するのに必要な操作の数を数えなくても、行列の乗算はより多くの操作を実行します。 n要素を追加する場合は、として計算されるn要素を追加するだけでベクトルを追加すると、n要素はb_iとなります。

TFでこれを行う利点（速度/メモリの面で）はありません。また、TFはそれを単独で最適化しません。

ここで何が起こっているのかを読んで理解することが容易であれば、そのように自由に書き込むことができます。