tf.signはバックプロパゲーションでどのように動作しますか？

Question

私はTensorFlowから始まり、バイナリネットワークを作成しようとしています。具体的には、サイズnのバイナリベクトルでイメージをエンコードするハッシングネットワークを探しています。だから私は古典的なネットワークを持っており、softmaxの前に最後のレイヤーを二進化しています。

TensorFlowはこれを行うことができる機能を提供していますが、実際にはバックプロパゲーションがどのように機能するかはわかりません。

どのような考えですか？

Answer 1

（それを定義するための良い方法がないからだろう。）残念ながらtf.sign()の勾配は常に0のように定義されて

https://github.com/tensorflow/tensorflow/blob/master/tensorflow/python/ops/math_grad.py#L542

@ops.RegisterGradient("Sign") 
def _SignGrad(op, _): 
    """Returns 0.""" 
    x = op.inputs[0] 
    return array_ops.zeros(array_ops.shape(x), dtype=x.dtype)