線形回帰で最適なシータ値を見つけるためにNormal Equationを使用するのと同じように、ロジスティック回帰にも同様の公式を使用できませんか?そうでない場合、なぜですか?誰かがそれの背後にある推論を説明できるかどうか感謝します。ありがとうございました。ロジスティック回帰に正規方程式を使用できますか?
4
A
答えて
9
残念なことに、分類理論の1つの弁別法だけが形式解 - 線形回帰...(線形判別分析/フィッシャー判別式は生成的であり、フィットされた分布の極端な単純さのために閉形式解を有する)。
一般に、線形回帰であっても「働く」という奇跡と考えられます。私が知る限り、「閉じた形でロジスティック回帰を解決することはできません」ということを証明することはほぼ不可能ですが、一般的な理解ではそれは当てはまりません。機能がバイナリのみで、数年前に表示されていたソリューションの数が指数関数的である場合はほとんどありませんが、一般的には不可能であると考えられています。
なぜそれが線形回帰のためにうまくいったのですか?なぜなら、一旦あなたの派生物を計算すると、その結果生じる問題はの線形の方程式に設定されます。私たちが知っているm個の方程式は、行列反転(および他の技法)によって直接解くことができます。ロジスティック回帰コストを微分すると、結果として得られる問題はもはや線形ではなくなります。これは凸(グローバル最適)ですが、線形ではないため、現行の数学では閉じた形式の解。
+1
ありがとうございます。あなたは私がそれについてもっと読むことができる資料を提案することができますか? – user2125722
関連する問題
- 1. Matlab正規化されたロジスティック回帰 - グラジエントの計算方法
- 2. MatlabのL2正規化によるロジスティック回帰の実装
- 3. ロジスティック回帰を適用する際に正規化する変数の選択
- 4. 複数の回帰方程式
- 5. Tensorflowロジスティック回帰
- 6. Rロジスティック回帰
- 7. Pythonロジスティック回帰
- 8. ロジスティック回帰は
- 9. SPSSロジスティック回帰
- 10. ロジスティック回帰Python
- 11. scikit-learnのロジスティック回帰フィーチャ値の正規化
- 12. タイタニックデータセットでロジスティック回帰を適用する
- 13. R gbmロジスティック回帰
- 14. Pythonのロジスティック回帰
- 15. ロジスティック回帰ダブルループR
- 16. 分割グラフに重回帰方程式を追加する
- 17. Sklearnを使用したロジスティック回帰のウェイトベクトルの取得方法
- 18. 大規模なデータにグラジエント降下を伴うロジスティック回帰
- 19. アルゴリズムの再帰方程式
- 20. seaborn regplotの回帰方程式を表示する
- 21. Tensorflow、python:CSVデータをロジスティック回帰に使用する
- 22. シキットが分類または回帰のロジスティック回帰を理解する方法
- 23. Scikit-learnのロジスティック回帰のエンコーディング方法
- 24. ロジスティック回帰sklearn - 列車と適用モデル
- 25. は、CSVは、ロジスティック回帰
- 26. Rキャレットパッケージのロジスティック回帰チューニングパラメータグリッド?
- 27. ロジスティック回帰勾配降下
- 28. Pythonのロジスティック回帰計算
- 29. ロジスティック/序数回帰のAIC
- 30. Apache Sparkのロジスティック回帰アルゴリズム
[stats.stackexchange.com]に関する関連記事(http://stats.stackexchange.com/questions/949)。 – user1205197