Re: [請益] GLS Efficiency
Let Omega^{-1} = P'P, in which P is invertible.
Let Z = P'^{-1} X.
var(beta_GLS)^{-1} - var(beta_OLS)^{-1}
= X' Omega^{-1} X - X'X (X' Omega X)^{-1} X'X
= X' P' [I - P'^{-1} X (X' P^{-1} P'^{-1} X)^{-1} X' P^{-1}] P X
= X' P' [I - Z (Z'Z)^{-1} Z'] P X, which is positive semidefinite.
Q.E.D.
※ 引述《navarra (Maestoso)》之銘言：
: 在線性迴歸模型 y=Xβ+u 中，若 E(u|X)=0，X 也 full rank，
: 且 Var(u|X)=Ω (heteroskedasticity)，
: 則此時 Var(β_hat_OLS)=inv(X'X)*(X'ΩX)*inv(X'X)，
: 而 Var(β_hat_GLS)=inv(X'inv(Ω)X)
: （此處的 ' 表示矩陣轉置，inv 表示反矩陣）
: 為證明此種情況下，GLS 估計式比 OLS 估計式更具效率，
: 我必須證明 Var(β_hat_OLS)>=Var(β_hat_GLS)，
: 也就是上述兩個矩陣相減至少是一個 positive semidefinite matrix
: 現在的問題是：OLS 的部分有一個 (X'ΩX)，GLS 的部分則是 inv(X'inv(Ω)X)
: 我似乎無法找到兩者結構的共通處以進一步化簡，因為 X 不是 square matrix
: 試了很久也無法將兩者相減的矩陣寫出一個類似 a'Ma>=0 的型式
: 不知道是否有高手可以提示一下其中的 trick？謝謝
--
無異曲線在無異個什麼鬼
--
※ 發信站: 批踢踢實業坊(ptt.cc)
◆ From: 165.91.15.55
※ 編輯: washburn 來自: 165.91.15.55 (10/26 10:50)
推
10/26 17:05, , 1F
10/26 17:05, 1F
推
10/26 19:49, , 2F
10/26 19:49, 2F
→
10/26 23:49, , 3F
10/26 23:49, 3F
討論串 (同標題文章)