tf.layers.denseカーネル初期化子と正則

Question

は以下のように定義tf.layers.dense機能：

tf.layers.dense(
    inputs, 
    units, 
    activation=None, 
    use_bias=True, 
    kernel_initializer=None, 
    bias_initializer=tf.zeros_initializer(), 
    kernel_regularizer=None, 
    bias_regularizer=None, 
    activity_regularizer=None, 
    trainable=True, 
    name=None, 
    reuse=None 
) 

は、2つのオプションの引数kernel_initializerとkernel_regularizerを持っています。私は実験したい私の2つの異なる正則化と初期化のテクニックを持っています。私はニューラルネットワーク全体を最初から実装することに熱心ではありません。誰かがこの2つの引数にカスタム関数を提供する例を提供できますか？

Answer 1

テンソルフローのinitializerとregularizerの実装を確認するのが最善の方法です。例えば、variance_scaling_initializerイニシャライザは、このコードで定義されている：テンソルを返す

initializer(shape, dtype=dtype, partition_info=None) 

：https://github.com/tensorflow/tensorflow/blob/r1.3/tensorflow/contrib/layers/python/layers/initializers.py#L62-L152

は、それは、次のシグネチャを持つinitializer関数のconsitutedれます。

正則子はここに定義されています：https://github.com/tensorflow/tensorflow/blob/r1.3/tensorflow/contrib/layers/python/layers/regularizers.py