2
私は、カーネルの重みの一部を理解できないようにする畳み込みニューラルネットに取り組んでいます。 tf.nn.conv2d(x、W)は、訓練可能な変数Wを重みとして取り入れます。どのように私はWの要素のいくつかを無差別にすることができますか?Tensorflow:学習可能な変数マスキング
私は、カーネルの重みの一部を理解できないようにする畳み込みニューラルネットに取り組んでいます。 tf.nn.conv2d(x、W)は、訓練可能な変数Wを重みとして取り入れます。どのように私はWの要素のいくつかを無差別にすることができますか?Tensorflow:学習可能な変数マスキング
たぶん、あなたはあなたのトレーニング可能な重みW1
を持つことができ、トレーニング可能な変数であるかを示すマスクM
、および定数/ untrainable重み行列W2
、とは
W = tf.multiply(W1, tf.cast(M, dtype=W1.dtype)) + tf.multiply(W2, tf.cast(tf.logical_not(M), dtype=W2.dtype))
はあなたが重量の個々の要素をしたいわけでください使用します行列は訓練不能であるべきですか?あるいは、あなたのノードのいくつかを訓練不能にしたいですか?私はこれがドロップアウトが解決する問題ではないと推測していますか? – JCooke
私は、体重マトリックスの個々の要素を訓練不能にしたいと思っています。 –