線形回帰を使用してモデルを構築すると、Gradient Descentのパラメータはどのように初期化されますか？

Question

私はPythonやRで線形回帰モデルを構築するときには、ちょうどフィットメソッドを使用します。この方法では、学習率や開始点を初期化する必要はありませんが、これは勾配降下で必要です（私が知る限り）。ですから、モデルが勾配降下を使って最適化すると仮定すると、のメソッドを使用すると、これらのパラメータは線形モデルによってどのように選択されますか？

または、モデルで勾配降下（またはその任意の型）を使用しない場合は、どのアルゴリズムを使用して（どのように）最適化しますか？

Answer 1

私はあなたがlm.fit()メソッドを使用していると仮定します。この方法ではregressionにQR Decompositionの手法が使用されます。この手法では、学習率と開始点のパラメータを設定する必要はありません。