Tensorflowの微分ラウンド関数？

Question

私のネットワークの出力はpropabilityのリストです.tf.round（）を使って丸めて0または1にすると、これはこのプロジェクトにとって重要です。 私は、tf.roundが微分可能でないことを知りましたので、私はそこで少し失われてしまいます。：/

Answer 1

丸みは基本的に区別不能な関数なので、そこから運が悪いです。このような状況の通常の手順は、期待値を計算するためにそれらを使用するか、または出力される最大確率を取り、その予測をネットワークの予測として選択するなど、確率を使用する方法を見つけることです。あなたの損失関数を計算するためにアウトプットを使用していない場合は、先に進んで結果に適用するだけで差異があるかどうかは問題になりません。ネットワークをトレーニングする目的で有益な損失関数が必要な場合は、確率の形式で出力を維持することが実際にあなたの利益になるかどうかを検討する必要があります（トレーニングプロセスをスムーズにする可能性があります）トレーニング後に、ネットワークの外で実際の見積もりに変換することができます。

Answer 2

あなたは事実を使用できるtf.maximum（）とtf.minimum（）微分可能であり、入力が0から1

# round numbers less than 0.5 to zero; 
# by making them negative and taking the maximum with 0 
differentiable_round = tf.maximum(x-0.499,0) 
# scale the remaining numbers (0 to 0.5) to greater than 1 
# the other half (zeros) is not affected by multiplication 
differentiable_round = differentiable_round * 10000 
# take the minimum with 1 
differentiable_round = tf.minimum(differentiable_round, 1) 

例に確率である：

[0.1,  0.5,  0.7] 
[-0.0989, 0.001, 0.20099] # x - 0.499 
[0,  0.001, 0.20099] # max(x-0.499, 0) 
[0,   10, 2009.9] # max(x-0.499, 0) * 10000 
[0,   1.0,  1.0] # min(max(x-0.499, 0) * 10000, 1)