作者查詢 / kevin1ptt

總覽項目：發文 | 留言 | 暱稱

作者 kevin1ptt 在 PTT 全部看板的留言(推文), 共855則

限定看板：全部

首頁

尾頁

[耍冷] 找一張只有正面沒反面的紙

[ joke ]124 留言, 推噓總分: +85

作者: Anddyliu - 發表於 2018/09/08 22:59(5年前)

13^F推kevin1ptt: 有點像飲料店只有大杯跟特大杯09/09 00:20

[心情] 雙主修被教授雷掉

[ NTU ]195 留言, 推噓總分: +157

作者: dingyiyi - 發表於 2018/08/10 13:19(5年前)

126^F推kevin1ptt: 幫QQ08/10 23:02

[耍冷] 一些古老垃圾-3

[ joke ]257 留言, 推噓總分: +227

作者: XXXXHAY - 發表於 2018/07/20 15:22(5年前)

183^F推kevin1ptt: 很開心XDD07/21 09:13

[情報] 表弟去勇士 1yr 5.3M

[ NBA ]1486 留言, 推噓總分: +681

作者: Wojnarowski - 發表於 2018/07/03 08:33(5年前)

849^F推kevin1ptt: 國家隊XDDD07/03 08:49

[失物] 在凝態中心附近撿到竹筍

[ NTU ]47 留言, 推噓總分: +36

作者: pigbillyoyo - 發表於 2018/06/29 14:15(5年前)

32^F推kevin1ptt: 1906/30 00:37

Re: [心得] 908 （雷）

[ ONE_PIECE ]178 留言, 推噓總分: +149

作者: tomer - 發表於 2018/06/16 16:36(5年前)

19^F推kevin1ptt: 推06/16 19:19

Re: [問題] 請教關於Stochastic gradient descent

[ DataScience ]14 留言, 推噓總分: +8

作者: championship - 發表於 2018/04/04 06:30(6年前)

12^F→kevin1ptt: 推！04/06 16:47

13^F→kevin1ptt: 第二篇論文的實驗做得很有趣04/06 16:48

Re: [問題] Validation set 到底在做什麼?

[ DataScience ]6 留言, 推噓總分: +6

作者: CharlieL - 發表於 2018/04/01 06:29(6年前)

6^F推kevin1ptt: 推田神！04/06 16:46

Re: [問題] L1與L2正規化的差別

[ DataScience ]7 留言, 推噓總分: +4

作者: abc2090614 - 發表於 2018/04/06 09:13(6年前)

7^F推kevin1ptt: 推數學史！04/06 16:37

[問題] L1與L2正規化的差別

[ DataScience ]29 留言, 推噓總分: +8

作者: bokxko1023 - 發表於 2018/04/05 15:44(6年前)

6^F推kevin1ptt: https://i.imgur.com/B5W1aK6.jpg04/06 15:57

7^F→kevin1ptt: https://i.imgur.com/PSWgTj4.jpg04/06 15:59

9^F→kevin1ptt: 圖畫得有點醜哈哈，不過 norm regularization term04/06 16:00

10^F→kevin1ptt: 可以對應到一個等價的 norm-constrained problem04/06 16:01

11^F→kevin1ptt: 大概是 min_x f(x) + ||x||_p^p, p = 1 or 2 可以轉成04/06 16:03

12^F→kevin1ptt: min_x f(x), subject to ||x||_p <= C04/06 16:04

13^F→kevin1ptt: 樓上上的忘了加權重了QQ，不過樓上的C會根據權重決定04/06 16:04

14^F→kevin1ptt: 然後回到那兩張圖XD 灰色是f的等高線，x = [x1, x2]^T04/06 16:05

15^F→kevin1ptt: 然後灰色中間是minimum（這樣畫是假設f是棒棒convex）04/06 16:06

16^F→kevin1ptt: 可以看出/想像在多數convex f的情況下，當我們從最小點04/06 16:09

17^F→kevin1ptt: 一圈圈往外面走、直到和norm ball相切，就是找到答案了04/06 16:10

18^F→kevin1ptt: 然後L2 ball因為是圓圓胖胖的，所以在任何點都一樣容易04/06 16:11

19^F→kevin1ptt: 被圈圈碰到；但L1 ball是方方尖尖的，所以圈圈很容易04/06 16:12

20^F→kevin1ptt: 是切在頂點，就會造成稀疏的x啦～04/06 16:13

21^F→kevin1ptt: 不過這個太直觀了，而且實際上也不一定會真的轉換問題04/06 16:14

22^F→kevin1ptt: 實際上有些L1-reg.問題的解法是「刻意」弄出0的04/06 16:15

23^F→kevin1ptt: 比如說OWLQN會在一個維度想要變號的時候不讓他變號，04/06 16:17

24^F→kevin1ptt: 就讓他撞到0的牆，如果下一步gradient夠大才讓他變過去04/06 16:18

25^F推kevin1ptt: https://i.imgur.com/uqPv5lw.jpg04/06 16:22

26^F→kevin1ptt: 這樣可以讓很多gradient很小的維度都被「困在」0，04/06 16:23

27^F→kevin1ptt: 最後的x就會一堆0 耶～（又亂畫圖XD）04/06 16:24

首頁

尾頁