[問題] 殘差標準差的自由度:n-2 ?

看板Statistics作者 (阿駿)時間9年前 (2014/10/24 20:18), 9年前編輯推噓3(3推 0噓 15→)
留言18則, 4人參與, 最新討論串1/1
第一次po傷眼莫怪+請求協助 感激不盡 先假裝€是summation 哈哈不會打 請問 殘差標準差=√€(Yi-Yhat)平方/n-2 為何分母是n-2呢? 我知道在SSE,SSR,SST那個F表裡面 簡單回歸k=2所以n-k就是n-2 但這讓人感覺是從殘差標準差=√MSE=√SSE/n-2來的 但如果只從 √€(Yi-Yhat)平方/n-2看 真的不懂為何是n-2 2是哪來的呢? -- Sent from my Android -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 27.241.9.252 ※ 文章網址: http://www.ptt.cc/bbs/Statistics/M.1414153112.A.B83.html ※ 編輯: yayayoyi (27.241.9.252), 10/24/2014 20:20:36
推
10/24 20:53, , 1F
話若欲講透基，目屎道掰未離...
10/24 20:53, 1F
→
10/24 20:55, , 2F
商科說法：因為有簡單迴歸有兩個母數要估計，所以-2...
10/24 20:55, 2F
我知道簡單回歸有兩個母數也就是“SSR”和“SSE”，但直接從殘差看就看不出母數是哪 兩個，讓我一直很茫然～
推
10/25 00:45, , 3F
r_i=y_i-yhat_i, Cov(r)=Cov(y-Py)=(I-P)cov(y)(I-P)
10/25 00:45, 3F
→
10/25 00:48, , 4F
P=X(X^TX)^{-1}X^T, X=(1 x_i) (nx2矩陣)
10/25 00:48, 4F
→
10/25 00:49, , 5F
Cov(y)=sigma^2 I，所以 var(r_i)=sigma^2 (1-P_ii)
10/25 00:49, 5F
推
10/25 00:58, , 6F
回歸分析的書有吧~
10/25 00:58, 6F
我會再去查查看，謝啦<3
→
10/25 00:59, , 7F
sum P_ii=tr P=tr X^TX(X^TX)^{-1}=tr I_2=2，所以得証
10/25 00:59, 7F
kerwinhui大，感謝您精闢的證明但，小的看不是很懂耶，您的 _、r、ii、P、tr. 代表 的是什麼呢？ 抱歉小的只修過3學分生物統計，基礎尚淺，謝謝大家教導如果真是我太爛了我會去翻翻 書的><
→
10/25 01:00, , 8F
Syy = b1^2*Sxx + Σei^2
10/25 01:00, 8F
請問Syy. Sxx. 各代表什麼呢？所以 Syy. Sxx.就是ei的兩個母數嗎？ 感覺我好愚昧…請教教我plz ※ 編輯: yayayoyi (110.27.12.197), 10/25/2014 11:38:53
→
10/25 18:20, , 9F
簡單直線迴歸的殘差 e(i), i=1,...,n, 滿足兩個條件:
10/25 18:20, 9F
→
10/25 18:21, , 10F
(1) Σe(i) = 0, (2) Σe(i)x(i) = 0. 事實上這兩個條件也
10/25 18:21, 10F
→
10/25 18:22, , 11F
就是最小平方法的兩個 "標準方程式" (或譯 "法線方程式").
10/25 18:22, 11F
→
10/25 18:23, , 12F
因此, n 個殘差自由度只有 n-2.
10/25 18:23, 12F
→
10/25 18:23, , 13F
如果是複迴歸, 殘差自由度更少.
10/25 18:23, 13F
嗯嗯知道最小平方法的兩個標準方程式，那所以對ei來說，他所估計(或說滿足?)的兩個 母數，就是兩個標準方程式，是這樣解釋的嗎? 感覺一知半解呀! ※ 編輯: yayayoyi (111.251.116.170), 10/25/2014 20:20:13
→
10/27 12:46, , 14F
估計的參數是常數項及迴歸係數.
10/27 12:46, 14F
→
10/27 12:46, , 15F
事實上 "自由度" 的減項是緣於有幾個限制式而非參數個數;
10/27 12:46, 15F
→
10/27 12:47, , 16F
只是剛好是要估計幾個參數就需要幾個方程式, 從而引發幾個
10/27 12:47, 16F
→
10/27 12:49, , 17F
限制式, 所以在例如卡方配適度檢定時以需要估計幾個參數決
10/27 12:49, 17F
→
10/27 12:49, , 18F
定自由度的減項.
10/27 12:49, 18F
原來是這樣啊！ 感激不盡 <3 ※ 編輯: yayayoyi (110.27.139.244), 10/28/2014 18:22:43
‣ 更多 yayayoyi 的文章
文章代碼(AID): #1KIaEOk3 (Statistics)