Re: [問題] Logistic regression more robust to o …
※ 引述《tren (窗外有藍天)》之銘言：
: 在 The Elements of Statistical Learning一書裡,
: 作者於p105比較logistic regression(LR)與linear discriminant analysis(LDA)提到:
: "...observations far from the decision boundary are down-weighted by
: logistic regression..."
: 但小弟對於這裡的down-weighting一直百思不解.由於LR和LDA有相同
: 的regression form,所以down-weighting應該不是因為log函數對
: 大數的compression而來.那麼,到底直觀上或數學上,LR為何會對outliers
: 比較robust了?
: 謝謝!
我的想法是logistic regression並沒有用到X的分配的資訊
而linear discriminant analysis有，它假設不同組的X是多維常態
因此若有outliers，對多維常態的均值向量與變異矩陣影響較大
因為它的decision boundary幾乎完全由這兩項決定。
這是簡單的想法，參考參考。
--
．﹒‧∴＊˙﹒
★ 甜。心。小。北。鼻
＊ ◢◣◢◣ http://www.wretch.cc/album/u504053 ．﹒‧
◥██◤
◥◤ 統。計。生。活。館
＊ http://home.educities.edu.tw/rebecca0924/
--
※ 發信站: 批踢踢實業坊(ptt.cc)
◆ From: 219.71.45.73