Re: [閒聊] 現實世界有哪些原理不明的科技

看板C_Chat作者 (北歐組一生推)時間3年前 (2020/12/10 18:45), 3年前編輯推噓9(908)
留言17則, 10人參與, 3年前最新討論串12/19 (看更多)
※ 引述《praiseZun (praiseZun)》之銘言: : 現在的AI就是啊 : 深度學習爆紅是十年前就開始了 : 但大家根本不知道為什麼neural堆深一點就可以學習 : CNN出來時屌炸天,好像什麼pattern都學的起來一樣 : 然後你問研究者為什麼圖片和文字的data structure兩者可以取得有類比性的成功 : 他會和你說我也不知道,甚至直接寫在論文裡那種 : 然後花了好幾年時間trial and error,用結果反推為什麼 : 這個研究方法不叫懂基本原理,的確比較像動漫那種黑科技知道能用就將就著應用而已 : 基礎原理的理解完全跟不上 : 當然啦,我們知道nerual net可以趨近任意函數 : 我們也知道這個世界和高斯分布關係很深 : (高斯分布encode了最多的不確定性,同樣大小的空間下高斯能紀錄最多資訊) : 但一樣啊,這只是稍微justify我們用神經網路,還有每個未知的分布都先用高斯套或 高斯p : rior套而已 : 然後他就work了 : 明明說因為天下沒有白吃的午餐理論,任何一個演算法都會被某一些分布的資料搞爆 : 但他就work了啊 : 著名學者像Andrew Ng在課堂上也就聳肩說看起來這世界對我們敵意沒那麼深 : . : . : 但是最近好像終於開始有些進展了,NTK之類的 : 滿多是19年和今年的論文的,我還沒跟上,懂得大大請體諒我的認知 : 我自己一路學來是覺得 : 這個領域就是霧裡看花,但你學越多霧就越散 : 現有理論的不完整,我是覺得一部分是真的不完整 : 但其他一部分是大部分人,甚至可以講非AI領域,貝氏統計領域,量子領域以外的對un cert : ainty(不確定性)都沒什麼認知 : 絕大多數人覺得世界就是0和1,不會去問threshold是什麼背後的分布長啥 : 一旦接受了這世界就是建立在不確定性的基礎上這設定後 : 很多事情就不會腦袋轉不過來這樣 : 要知道不一定要知道某一現象才叫懂 : 你知道你不懂什麼不知道什麼再能夠去推論你懂什麼 : 能做到這樣就很近似你懂了,這樣 : -- : ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 101.12.84.61 (臺灣) : ※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1607585061.A.50F.html 從回答的多樣可以看出來這個問題可能沒有問的很好 分成兩段來說 第一段講自己比較熟的AI 第二段說為什麼覺得問題可能有瑕疵 Part 1: 先從AI的角度切入 IMHO這應該算是一個不錯的答案 不過套句全世界最大AI conference NeurIPS昨天keynote Chris Bishop說的 AI is what you want it to be (https://neurips.cc/virtual/2020/public/invited_16165.html 不過如果從最基本的深度學習是黑盒子這點來講 其實可以分三個面向來說 資料 模型 和演算法 資料的部份沒有人知道怎麼模擬 就算你再強把代數拓普幾何隨機矩陣隨機過程全部考慮進來 大概還是很難完美理解現實生活資料擁有那些重要的特性 再來是模型 上面提到的NTK就是試著處理這方面的問題 因為你不知道實際上設計出來的這些神經網絡到底為什麼學習的特別好 所以要試著理解這些函數到底長怎樣 為什麼有限的數據集可以學出好的結果? 是不是全部的解都一樣好? 還是有些解比其他的好我們會學到的剛好是好的解 這裡又連結到第三點 演算法 我們不知道用這些訓練演算法跑下去神經網絡到底學到什麼東西 他的dynamics又是如何 是不是有不同階段? 是先學哪些方向是重要的之後再學不同方向的權重嗎? 而且真正難的是 要理解為什麼神經網絡這麼有用要考慮全部三點 就是因為在現實的資料有某種良好特性 再用這些特殊的模型用某一些演算法去訓練後 才會剛好找到一個在現實生活中給出不錯表現的解 而其中很多部份你可能根本給不出一個好的數學模型來解釋 這也是他跟可以看作已經被完美解決的經典物理不同的地方 不過說這麼長這些東西可能跟平常現實生活中看到的AI不太一樣? 對因為AI is what you want it to be 上面只是其中最基本的構成元素 加上其他一堆雜七雜八的東西我覺得哪天AGI(強人工智能) 做出來了絕對不會有人理解他是怎麼運作的 Part 2: 另外也有人給出像是一些更基本的東西如腳踏車飛機 或是自然界如生物量子力學等等的答案 個人覺得這裡關鍵的區分是什麼叫做完全理解 因為世界上沒有東西是可能被完全理解的 像是光時間到底是什麼東西就沒有共識了 愛因斯坦說時空構成一個高維流型跟重力場互相作用所以這樣就結束了嗎? 抱歉這樣可沒有考慮進來量子 實際上不才覺得當代理論物理根本就是玄學 從弦論到迴圈量子重力 像是當代兩個超頂尖的物理學家Carlo Rovelli跟Smolin Lee 就給出對時間完全不同的解釋 Carlo Rovelli寫了一本書叫做The order of time 裡面從愛因斯坦的角度出發加上量子離散化不確定性(波函數)等等的概念 對人類來說的時間只是因為有回憶等等元素所以才產生的錯覺 因為能力不足怕曲解他的意思 直接引用原文 At the fundamental level, the world is a collection of events not ordered in time. These events manifest relations between physical variables that are, a priori, on the same level. Each part of the world interacts with a small part of all the variables, the value of which determines “the state of the world with regard to that particular subsystem. A small system S does not distinguish the details of the rest of the universe because it interacts only with a few among the variables of the rest of the universe. Spacetime is a physical object like an electron. It, too, fluctuates. It, too, can be in a “superposition” of different configurations. Just as a particle may be diffused in space, so, too, the differences between past and future may fluctuate: an event may be both before and after another one. 至於Smolin Lee則寫了一本書叫做Time reborn 告訴你時間跟我們感覺的一樣直線前進 可是為了符合所有物理觀測到的東西 所以抱歉剩下的東西可能沒有這麼單純 直接引用書評 Smolin’s groundbreaking theory postulates that physical laws can evolve over time and the future is not yet determined. Newton’s fundamental laws may not remain so fundamental. He challenges not only Einstein’s relativity, but also the very notion of natural laws as immutable truths. 對所以如果連時間是什麼都沒人知道了 我真的不知道有什麼東西是可以完美解釋的 https://i.imgur.com/ihOt6ZP.png
-- 北歐組一生推 https://i.imgur.com/ydMoryp.jpg
https://i.imgur.com/njHa0OA.jpg
https://i.imgur.com/KVrWmNb.jpg
https://i.imgur.com/leUc4jP.jpg
https://i.imgur.com/aWFuDE4.jpg
-- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 91.168.14.242 (法國) ※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1607597158.A.06D.html

12/10 18:48, 3年前 , 1F
桑妮雅內行喲 重要嗎 能開固有時制御
12/10 18:48, 1F

12/10 18:48, 3年前 , 2F
就好
12/10 18:48, 2F

12/10 18:50, 3年前 , 3F
不講一下蒙地卡羅嗎?
12/10 18:50, 3F
不重要 反正再過二十年文明就會毀滅了 Collapsology了解一下 然後monte-carolo就是取樣的一個方法有什麼好講的? 反正我們有concentration inequality www ※ 編輯: cybermeow (91.168.14.242 法國), 12/10/2020 18:55:46

12/10 18:53, 3年前 , 4F
要peko選絕對是免疫學 講師聲音太刺耳就再也沒上課了
12/10 18:53, 4F

12/10 18:59, 3年前 , 5F
ip正確
12/10 18:59, 5F
※ 編輯: cybermeow (91.168.14.242 法國), 12/10/2020 19:01:44

12/10 19:01, 3年前 , 6F
嗯對跟我想的一樣
12/10 19:01, 6F

12/10 19:06, 3年前 , 7F
幹殺小 我一個字都看不懂
12/10 19:06, 7F

12/10 19:08, 3年前 , 8F
虧我努力幾乎全部寫成中文了www
12/10 19:08, 8F

12/10 19:13, 3年前 , 9F
先推文不然以為別人覺得我看不懂==
12/10 19:13, 9F

12/10 19:27, 3年前 , 10F
腳踏車或飛機的例子還沒有到時間是什麼這問題的程度
12/10 19:27, 10F

12/10 19:31, 3年前 , 11F
畢竟也不是再問為什麼旋轉的東西轉軸有固定的傾向 只是
12/10 19:31, 11F

12/10 19:31, 3年前 , 12F
有些細節沒辦法只用這原理說明
12/10 19:31, 12F

12/10 19:31, 3年前 , 13F
直接拿極端的例子討論為什麼問題不明確而已
12/10 19:31, 13F

12/10 19:32, 3年前 , 14F
你最重要的地方沒有用中文我不知道他們對時間的理解是什
12/10 19:32, 14F

12/10 19:33, 3年前 , 15F
三個的確是不同層級的東西 所以才分行
12/10 19:33, 15F

12/10 20:41, 3年前 , 16F
快推以免被發現我看不懂
12/10 20:41, 16F

12/10 20:52, 3年前 , 17F
看不懂推,不過整個串滿有趣的
12/10 20:52, 17F
文章代碼(AID): #1VqVnc1j (C_Chat)
討論串 (同標題文章)
本文引述了以下文章的的內容:
完整討論串 (本文為第 12 之 19 篇):
文章代碼(AID): #1VqVnc1j (C_Chat)