Re: [問題]關於簡回歸的檢定
※ 引述《nonetheless.bbs@ptt.cc (nonetheless)》之銘言：
> 最近念原文書 遇到一個問題
> 在簡單線性回歸中
> HO: b1=0 v.s H1: b1不等於零
> T1= b1/s.e.(b1)
> H0: r=0 v.s.H1: r不等於零
> T2=R乘以根號(N-2)除以根號(1-R平方)
> 還有F檢定 F=MSR/MSE
> (抱歉不太會表示符號 所以看起來有點吃力)
> 若以公式來看 經過推導可得在簡單線性回歸中
> T1=T2=根號F
> 若以此來看似乎這三者是等價的
對!
> 但原文書中的一段文字 讓我有點困惑
> In the regression model,we take the value of the explanatory variable X
> as given. The values of the response Y are Normal random variables,with means
> that are a straight-line function of X.In the model for testing correlation,
在迴歸模型,解釋變數 X 的值,不管其實是否隨機產生的,
分析時都假設它們是給定的; 而反應 Y 的值,則服從常態
分布,其平均數與 X 的值成直線關係.
> both X and Y are considered values of Normal random variables.In fact,
> they are taken to ne JOINTLY NORMAL. This implies that the conditional
> distribution of Y when X is fixed is normal,just as in the regression model
在相關分析,曷假設 X 與 Y 都是常態隨機變數;更正碓的
說法是:它們聯合服從雙變量常態. 假設 (X,Y) 聯合服從
雙變量常態的結果, 當 X 固定(給定 X=x)時, Y 是常態,
且其平均數與 x 成直線關係, 標準差固定, 如迴歸模型.
> 我對這段話的理解是降
> 在簡單回歸模型中 Y=B0+B1X
> 假定 X是以給定的常數 Y|X是服從常態分配的隨機變數
> 但是在檢定相關係數是否為零的檢定中
> 假定 X和Y皆是服從常態分配的隨機變數
> 事實上XY亦服從常態分配 此隱含簡單回規模型中的 Y|X服從常態分配
^^^(X,Y) 聯合服從雙變量常態, XY 不會是常態.
符號使用要小心, 避免誤解!
> 我的問題是
> 1.上面的倒數三行是怎麼來的 想不通其中的原由?
不只後三行, 整段都是假設(assumption), 是對使用該方
法時的要求. 換言之, 不符合對應假設的資料, 就不宜或
不保證可用該方法分析. 因此, 如設定 x 值的實驗資料,
不適宜用相關分析.
> 2.文章一開始提得那三個檢定真的等價嗎？
在適當條件及規範所謂 "等價" 的意義下, 答案是肯定的.
> 先說說我的個人看法 希望各位高手能多多指教
> 1. 因為拿y對x作回歸 和拿x對y作回歸（y on x and x on y) 所得的兩條簡單回歸線
> 會有相同的R SQUARE 所以當檢定r是否為零時 我們相當於同時在檢定兩條回歸線
> 的r是否為零 而我們分別在兩條回歸線中假定了X AND Y服從常態分配
> 故X和Y皆是服從常態分配的隨機變數
> （個人覺得這個說法很爛 別打我=.=）
"X 與 Y 都服從常態分布" 和 "(X,Y) 聯合服從(雙變量)
常態分布" 是不同的. 後者蘊涵前者, 前者不能推出後者.
> 2. 應該說這三個檢定會有相同的結果（同樣拒絕或不拒絕H0)
> 而b1=0 跟r=o 的檢定因為是在不同的假設下所進行的 所以不能說是完全相同的
> 只能說兩者會產生相同的結果
這麼說也沒錯...
若 (X1,Y1),....,(Xn,Yn) 是從一個雙變量常態群體抽出,
則符合相關分析的假設, 也可做 Y 對 X 或 X 對 Y 的迴
歸(數學上; 統計上則不必然!)
在此情形下, H0: ρ=0 與 H0: β1=0 不論就假說、檢定
程序及結果而言, 都是等價的.
> 文章很長 感謝能看完的人
> 以上是個人淺見 希望大家多多指教
再進一步地說:
(1) 若 (X1,Y1),....,(Xn,Yn) 是從某一個雙變量群體抽
出, 該群體以 (X,Y) 的聯合分布描述, 滯足
Y| ～ N(β0+β1(x), σ^2)
|X=x
則不論 X 是何種分布(因此 (X,Y) 不必是聯合常態),
H0: ρ=0 與 H0: β1=0 的檢定仍是等價的.
(2) 若 x_1,...,x_n 是給定的. 在每個 x_i,對應的 Y_i
滿足 Y_i～N(β0+β1(x_i), σ^2). 則並無所謂 ρ,
或說並無自然的 "群體相關係數", 因此 "相關分析"
是無意義的. 但此時 "H0:ρ=0" 的 "檢定", 形式上
仍與 H0:β1=0 的檢定一致: 其檢定結果及結論之含
義均相同.
但雖然 H0:ρ=0 與 H0:β1=0 在較寬廣條件下一致, "相
關分析" 則只有在雙變量常態群體的假設下(因此(X,Y)是
成對被觀測的) 才有意義並且正確.
"有意義" 是指此時 ρ 有其自然定義; "正確" 是指統計
推論程序的正確性 (檢定時型Ｉ錯誤機率的控制, 區間估
計中 coverage probability 的控制, 點估計中標準誤或
大樣本標準誤的計算). 而這裡所謂 "相關分析" 不只是
H0:ρ=0 的檢定, 還包括ρ的區間估計,ρ>ρ0 類的檢定.
--
H E L P !!! 統 計 專 業 版 需 要 你 !!! 來 貼 文 吧 !!!
無名小站 telnet://wretch.twbbs.org Statistics (統計方法討論區)
成大計中站 telnet://bbs.ncku.edu.tw Statistics (統計方法及學理討論區)
盈月與繁星 telnet://ms.twbbs.org Statistics (統計：讓數字說話)
交大資訊次世代 telnet://bs2.twbbs.org Statistics (統計與機率)
★本文未經本人同意請勿轉載; 回覆請勿全文引用, 請僅留下直接涉及部分。
--
夫兵者不祥之器物或惡之故有道者不處君子居則貴左用兵則貴右兵者不祥之器非君子
之器不得已而用之恬淡為上勝而不美而美之者是樂殺人夫樂殺人者則不可得志於天下
矣吉事尚左凶事尚右偏將軍居左上將軍居右言以喪禮處之殺人之眾以哀悲泣之戰勝以
喪禮處之道常無名樸雖小天下莫能臣侯王若能守之萬物將自賓天地相合以降甘露民莫
之令而自均始制有名名亦既有夫亦將知止知止可以不殆譬道之在天 163.15.188.87海
推
06/02 01:33, , 1F
06/02 01:33, 1F
推
06/02 02:54, , 2F
06/02 02:54, 2F
討論串 (同標題文章)
完整討論串 (本文為第 2 之 2 篇)：