0
人々は通常、変数とパラメータの初期値をどのように選択しますか？それがうまくいくまでちょっと試してみましょうか？テンソルフローのオプティマイザの変数とパラメータの初期値の選択
テンソルフローの入門チュートリアルに従っていて、線形モデルを訓練することができました。しかし、私は、変数W、bの開始値は地面の真理にかなり近いことに気付きました。
データを変更してグラウンドトゥルース値をもっと遠くにすると、グラジエントデリートオプティマイザはW、bのNaN値を返します。
しかし、一般的に、私はモデル内の変数の初期値を推測することは妥当ではないと思います。私は任意の出発点を選択して、私が欲しいところに行くことができるように思えます。
私のパラメータでの私の選択が悪いと思っていました。しかし、私はこれをどのように調整するかはわかりません。デフォルトは0.01で、私は0.001から100までの値を試しました。
一般的な機械学習ブックで、モデル変数の最適化パラメータの選択と初期値について議論しますか？本当に私はただの資源を探しています。
ありがとうございます！