[線代] 僞逆矩陣 兩個問題(首完整解惑1000p/題)
想請教下面兩個問題, 我先用文字敘述, 之後再寫出詳細定義以及要證的東西
---------------------------------------------------------------------
Notation: (1) 如果x是向量, 那|x|表示2-norm
(2) 如果X是矩陣, 那|X|表示Frobenius norm,
即sqrt of sum of square of all entries of X
(3) A^t = transpose of A
(4) A^* = conjugate transpose of A
(5) A^+ = psuedo inverse of A
(6) R(A) = range of A
(7) A^bar = conjugate of A
(8) F = the set of real numbers or the set of complex numbers
(9) M_mxn(F) = the set of m by n matrices with all entries in F
(10) F^n = {(x_1,...x_n):x_i€F}
(11) 如果a是元素, A是集合, 那a€A表示a屬於A
(12) 如果A,B都是集合, 那A≦B表示A包含於B
(13) I_n = n by n identity matrix
(14) #A = the number of elements in A
(15) 若T:F^n→F^m是一個線性變換
E_n = {e_1,...,e_n} 是F^n的標準正交基底
則 ([T]_(E_n))^E_m 是 T的標準矩陣表達式, 簡寫成[T]_repr
---------------------------------------------------------------------
【問題一】
在某個referece中提到, 給定mxn矩陣A跟單位矩陣I_m時,
當限制了|X|要最小時, 就會存在唯一的一個X使|AX-I|最小, 這矩陣就是偽逆矩陣A^+
而這份reference也提到說把|AX-I|拆成數個線性方程就可以看出這件事情
但是我自己在證的時候發現, 限制條件要更嚴格, 是X的每個column vector都要最小
當作限制條件才會有存在唯一解
不過我再經過矩陣改寫時, 意外的證出在原本的限制條件也會有存在唯一解
並且證出兩個解是一樣的
因此我想問的是:
(a) 明明前者的範圍較大, 後者較小, 理應前者限制條件要有多組解, 有什麼解釋嗎
(b) 前者的限制條件有其他證明方法可以直接證存在唯一解嗎
因為我是用下面這方式改寫成矩陣與向量的形式:
|AX-I|
[A O O ... O O] [ x_1 ] [ e_1 ]
[O A O ... O O] [ x_2 ] [ e_2 ]
= | [. . . ... O O] [ . ] - [ . ] |
[. . . ... . .] [ . ] [ . ]
[O O O ... A O] [ x_(m-1)] [ e_(m-1)]
[O O O ... O A] [ x_m ] [ e_m ]
但是這方式對我來說好湊的感覺, 所以才想說有沒有幾何觀念或是其他方法
直接證明Frobenius的限制條件也是存在唯一解
【問題二】
看了幾個偽逆矩陣的定義: (1) by SVD
(2) by 【問題一】
(3) by Penrose condition (四個矩陣方程式有唯一解)
我想要一個最有幾何意義的定義, 於是回顧結合最佳近似解跟最小平方解的觀念:
給定mxn矩陣A, m維向量b, 我們知道存在唯一的最小範數最佳近似解x去最小化|Ax-b|
而這個x也是在所有最佳近似解中唯一落在R(A^*)的向量, 而如果已經有定義A^+
的話, 其實x就是A^+b
因此, 我們有兩個新方式去定義A^+
《Def1》給定矩陣A, 因為任給向量b, 存在唯一最小範數最佳近似解去最小化|Ax-b|
我們就可以定義一個函數T使得T(b)就是這個唯一解
《Def2》給定矩陣A, 因為任給向量b, 存在唯一在R(A^*)的最佳近似解去最小化|Ax-b|
我們就可以定義一個函數T使得T(b)就是這個唯一解
我的問題在, 不管我用哪個定義, 我都只證出了:
(1) T是線性的, 因此可以用標準基底表達成矩陣, 記做A^+
(2) ((A^bar)^+) = (A^+)^bar
而我想要證明:
(a) (A^*)^+ = (A^+)^*
其實在我有(2)的情況下, 等價於證出 (A^t)^+ = (A^+)^t
(b) (A^+)^+ = A
長遠來看我是要證這幾個定義等價以及不管哪個定義下手, 偽逆矩陣的性質都成立
只是光進行到(1)跟(2)後就卡關了...
=====================以下是嚴格數學敘述======================
【Math 問題一】
Let A€M_mxn(F)
Define S := {X€M_nxm(F)│|AX-I_m| <= |AY-I_m| for all Y€M_nxm(F)}
(即S是|AX-I_m|的所有最佳近似矩陣X所形成的集合)
and S_1 := {X€S│|x_i| <= |y_i| for all Y€M_nxm(F), for all i}
where, x_i is the i-th column vector of X
y_i is the i-th column vector of Y
(即S_1是S中滿足column vector限制條件的矩陣)
and S_2 := {X€S│|X|<=|Y| for Y€S}
(即S_2是S中滿足Frobenius限制條件的矩陣)
Prove #S_2 = 1
《對照先前文字說明》
很容易證明: (1) S非空集合
(2) S_1≦S_2
(3) #S_1 = 1
但是這些結果都不足以說明#S_2 = 1
直到我用矩陣拆解改寫的方式才獨立證明出#S_2=1
因此想問有沒有其他直觀的證法
【Math 問題二】(採用《Def1》)
Let A€M_mxn(F)
Then for any b€F^m,
define S_b := {w€F^n│|Aw-b| = min_{x€F^n} |Ax-b|}
(即S_b是|Ax-b|的所有最佳近似向量x所形成的集合)
we already know that there exists uniquely v€F^n
such that (1) v€S_b
(2) |v|<=|w| for any w€S_b
now we define a function T:F^m → F^n with T(b) = v
and T is linear by trivial check
finally, we denote A^+ := [T]_repr
Prove that (0) (A^bar)^+ = (A^+)^bar (已證)
(1) (A^*)^+ = (A^+)^*
(2) (A^t)^+ = (A^+)^t
(3) (A^+)^+ = A
Let A€M_mxn(F)
Then for any b€F^m,
define S_b := {w€F^n│|Aw-b| = min_{x€F^n} |Ax-b|}
(即S_b是|Ax-b|的所有最佳近似向量x所形成的集合)
we already know that there exists uniquely v€F^n
such that (1) v€S_b
(2) |v|<=|w| for any w€S_b
now we define a function T:F^m → F^n with T(b) = v
and T is linear by trivial check
finally, we denote A^+ := [T]_repr
Prove that (0) (A^bar)^+ = (A^+)^bar (已證)
(1) (A^*)^+ = (A^+)^*
(2) (A^t)^+ = (A^+)^t
(3) (A^+)^+ = A
《對照先前文字說明》
即用存在唯一的最小範數最佳近似解T(b)來定義偽逆矩陣A^+後,
想要證明他當然要有的那些偽逆矩陣該要有的性質
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 123.110.132.77 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Math/M.1622713756.A.033.html
推
06/03 23:43,
2年前
, 1F
06/03 23:43, 1F
推
06/04 11:00,
2年前
, 2F
06/04 11:00, 2F
→
06/04 11:00,
2年前
, 3F
06/04 11:00, 3F
→
06/04 11:02,
2年前
, 4F
06/04 11:02, 4F
→
06/04 11:04,
2年前
, 5F
06/04 11:04, 5F
這個approach也蠻合理的 因為從penrose condition去推(2)(3)確實好推, 只是我既然從
最小平方解這個定義出發, 直接證回penrose condition的話有違我想要幾何結構的初衷X
D, 所以才想直接從定義推
有書名可以提供嗎 謝謝!
※ 編輯: znmkhxrw (114.137.233.220 臺灣), 06/04/2021 15:42:38
→
06/04 19:40,
2年前
, 6F
06/04 19:40, 6F
→
06/05 00:30,
2年前
, 7F
06/05 00:30, 7F