TensorFlowでPythonを使用して区分的起動関数を作成するにはどうすればよいですか？私のCNNで

Question

アクティブな関数の形式は次のとおりです。

abs(X)< tou f = 1.716tanh(0.667x) 
x >= tou  f = 1.716[tanh(2tou/3)+tanh'(2tou/3)(x-tou)] 
x <= -tou f = 1.716[tanh(-2tou/3)+tanh'(-2tou/3)(x+tou)] 

touは一定です。

したがって、TensorFlowでは、独自のアクティベーション機能を作成することができます。私はC++で記述し、TensorFlow全体を再コンパイルしたくありません。

TensorFlowで使用できる機能をどのように使用して達成できますか？それが既に含まれますならば、あなた自身の活性化関数を書くのは簡単ですtensorflowで

Answer 1

は、次の3つの条件が矛盾しているようだtf.case

f = tf.case({tf.less(tf.abs(x), tou): lambda: 7.716 * tf.tanh(0.667 * x), 
     tf.greater_equal(x, tou): lambda: 1.716 * tf.tanh(2 * tou/3) + 1.716 * tf.tanh(2 * tou/3) * (x - tou)}, 
     default=lambda: 1.716 * tf.tanh(-2 * tou/3) + 1.716 * tf.tanh(-2 * tou/3) * (x + tou), exclusive=True)