Re: [線代] Sparse近似最佳化問題

看板Math作者 (casperxdd)時間7年前 (2016/06/17 10:54), 7年前編輯推噓4(4推 0噓 10→)
留言14則, 3人參與, 最新討論串2/2 (看更多)
※ 引述《znmkhxrw (QQ)》之銘言： 這兩個問題不是等價 是 0-norm optimization 的解 在一些情況可以用 1-norm optimization 去作 得出的結果會一樣 你可以去找compressed sensing的書或paper 像是 Foucart 的書裡應該有完整證明 或是basis pursuit搜一搜應該也有 另外推文裡說的是對的 第一條式子是 Tikhonov regularization (或叫ridge regression) lambda 在沒有noise的情況可以解析解出來, 但實際應用上一般都是去猜noise的大小後 用 (Morozov) discrepency principle 去估計 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 108.190.60.137 ※ 文章網址: https://www.ptt.cc/bbs/Math/M.1466132058.A.EF3.html ※ 編輯: abc2090614 (108.190.60.137), 06/17/2016 10:57:35
推
06/17 17:33, , 1F
謝謝喔!
06/17 17:33, 1F
推
06/17 17:37, , 2F
另外請問一下 這個正規化的目的是本身每個lamda所
06/17 17:37, 2F
→
06/17 17:37, , 3F
對應出來的x是有用的,然後剛好當lamda趨近0時會等
06/17 17:37, 3F
→
06/17 17:37, , 4F
於A^+(偽逆矩陣),還是單純發明正規化就是要近似解(
06/17 17:37, 4F
→
06/17 17:37, , 5F
電腦比較好算)??
06/17 17:37, 5F
推
06/17 18:20, , 6F
06/17 18:20, 6F
→
06/17 18:20, , 7F
Complete manual (pdf file) 的5-6頁
06/17 18:20, 7F
→
06/17 18:21, , 8F
就是當A的condition number大的時候, 解Ax=b是很
06/17 18:21, 8F
→
06/17 18:22, , 9F
unstable的, 通常是A會把高頻的input消去
06/17 18:22, 9F
→
06/17 18:23, , 10F
而作LSQ解的時候就會相反, 把高頻的noise放大
06/17 18:23, 10F
→
06/17 18:24, , 11F
所以b有誤差的時候 直接的LSQ解也沒用
06/17 18:24, 11F
→
06/17 19:31, , 12F
正規化就是要找近似解 因為有noise時直接解
06/17 19:31, 12F
→
06/17 19:31, , 13F
Ax=b 跟樓上說的一樣很不穩定
06/17 19:31, 13F
推
06/19 17:47, , 14F
大約知道了 謝謝!
06/19 17:47, 14F
‣ 更多 abc2090614 的文章
文章代碼(AID): #1NOsPQxp (Math)
‣ 更多 abc2090614 的文章
文章代碼(AID): #1NOsPQxp (Math)