Re: [閒聊] 現實世界有哪些原理不明的科技
※ 引述《praiseZun (praiseZun)》之銘言:
: 現在的AI就是啊
: 深度學習爆紅是十年前就開始了
: 但大家根本不知道為什麼neural堆深一點就可以學習
: CNN出來時屌炸天,好像什麼pattern都學的起來一樣
: 然後你問研究者為什麼圖片和文字的data structure兩者可以取得有類比性的成功
: 他會和你說我也不知道,甚至直接寫在論文裡那種
: 然後花了好幾年時間trial and error,用結果反推為什麼
: 這個研究方法不叫懂基本原理,的確比較像動漫那種黑科技知道能用就將就著應用而已
: 基礎原理的理解完全跟不上
: 當然啦,我們知道nerual net可以趨近任意函數
: 我們也知道這個世界和高斯分布關係很深
: (高斯分布encode了最多的不確定性,同樣大小的空間下高斯能紀錄最多資訊)
: 但一樣啊,這只是稍微justify我們用神經網路,還有每個未知的分布都先用高斯套或
高斯p
: rior套而已
: 然後他就work了
: 明明說因為天下沒有白吃的午餐理論,任何一個演算法都會被某一些分布的資料搞爆
: 但他就work了啊
: 著名學者像Andrew Ng在課堂上也就聳肩說看起來這世界對我們敵意沒那麼深
: .
: .
: 但是最近好像終於開始有些進展了,NTK之類的
: 滿多是19年和今年的論文的,我還沒跟上,懂得大大請體諒我的認知
: 我自己一路學來是覺得
: 這個領域就是霧裡看花,但你學越多霧就越散
: 現有理論的不完整,我是覺得一部分是真的不完整
: 但其他一部分是大部分人,甚至可以講非AI領域,貝氏統計領域,量子領域以外的對un
cert
: ainty(不確定性)都沒什麼認知
: 絕大多數人覺得世界就是0和1,不會去問threshold是什麼背後的分布長啥
: 一旦接受了這世界就是建立在不確定性的基礎上這設定後
: 很多事情就不會腦袋轉不過來這樣
: 要知道不一定要知道某一現象才叫懂
: 你知道你不懂什麼不知道什麼再能夠去推論你懂什麼
: 能做到這樣就很近似你懂了,這樣
: --
: ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 101.12.84.61 (臺灣)
: ※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1607585061.A.50F.html
從回答的多樣可以看出來這個問題可能沒有問的很好
分成兩段來說 第一段講自己比較熟的AI 第二段說為什麼覺得問題可能有瑕疵
Part 1:
先從AI的角度切入 IMHO這應該算是一個不錯的答案
不過套句全世界最大AI conference NeurIPS昨天keynote Chris Bishop說的
AI is what you want it to be
(https://neurips.cc/virtual/2020/public/invited_16165.html
不過如果從最基本的深度學習是黑盒子這點來講
其實可以分三個面向來說 資料 模型 和演算法
資料的部份沒有人知道怎麼模擬
就算你再強把代數拓普幾何隨機矩陣隨機過程全部考慮進來
大概還是很難完美理解現實生活資料擁有那些重要的特性
再來是模型 上面提到的NTK就是試著處理這方面的問題
因為你不知道實際上設計出來的這些神經網絡到底為什麼學習的特別好
所以要試著理解這些函數到底長怎樣
為什麼有限的數據集可以學出好的結果?
是不是全部的解都一樣好?
還是有些解比其他的好我們會學到的剛好是好的解
這裡又連結到第三點 演算法
我們不知道用這些訓練演算法跑下去神經網絡到底學到什麼東西
他的dynamics又是如何 是不是有不同階段?
是先學哪些方向是重要的之後再學不同方向的權重嗎?
而且真正難的是 要理解為什麼神經網絡這麼有用要考慮全部三點
就是因為在現實的資料有某種良好特性
再用這些特殊的模型用某一些演算法去訓練後
才會剛好找到一個在現實生活中給出不錯表現的解
而其中很多部份你可能根本給不出一個好的數學模型來解釋
這也是他跟可以看作已經被完美解決的經典物理不同的地方
不過說這麼長這些東西可能跟平常現實生活中看到的AI不太一樣?
對因為AI is what you want it to be
上面只是其中最基本的構成元素
加上其他一堆雜七雜八的東西我覺得哪天AGI(強人工智能)
做出來了絕對不會有人理解他是怎麼運作的
Part 2:
另外也有人給出像是一些更基本的東西如腳踏車飛機
或是自然界如生物量子力學等等的答案
個人覺得這裡關鍵的區分是什麼叫做完全理解
因為世界上沒有東西是可能被完全理解的
像是光時間到底是什麼東西就沒有共識了
愛因斯坦說時空構成一個高維流型跟重力場互相作用所以這樣就結束了嗎?
抱歉這樣可沒有考慮進來量子
實際上不才覺得當代理論物理根本就是玄學
從弦論到迴圈量子重力
像是當代兩個超頂尖的物理學家Carlo Rovelli跟Smolin Lee
就給出對時間完全不同的解釋
Carlo Rovelli寫了一本書叫做The order of time
裡面從愛因斯坦的角度出發加上量子離散化不確定性(波函數)等等的概念
對人類來說的時間只是因為有回憶等等元素所以才產生的錯覺
因為能力不足怕曲解他的意思 直接引用原文
At the fundamental level, the world is a collection of events not ordered in
time. These events manifest relations between physical variables that are, a
priori, on the same level. Each part of the world interacts with a small part
of all the variables, the value of which determines “the state of the world
with regard to that particular subsystem.
A small system S does not distinguish the details of the rest of the universe
because it interacts only with a few among the variables of the rest of the
universe.
Spacetime is a physical object like an electron. It, too, fluctuates.
It, too, can be in a “superposition” of different configurations.
Just as a particle may be
diffused in space, so, too, the differences between past and future
may fluctuate: an event may be both before and after another one.
至於Smolin Lee則寫了一本書叫做Time reborn
告訴你時間跟我們感覺的一樣直線前進
可是為了符合所有物理觀測到的東西 所以抱歉剩下的東西可能沒有這麼單純
直接引用書評
Smolin’s groundbreaking theory postulates that physical laws can evolve over
time and the future is not yet determined. Newton’s fundamental laws may not
remain so fundamental.
He challenges not only Einstein’s relativity, but also the very notion of
natural laws as immutable truths.
對所以如果連時間是什麼都沒人知道了
我真的不知道有什麼東西是可以完美解釋的
https://i.imgur.com/ihOt6ZP.png
--
北歐組一生推
https://i.imgur.com/ydMoryp.jpg
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 91.168.14.242 (法國)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1607597158.A.06D.html
推
12/10 18:48,
3年前
, 1F
12/10 18:48, 1F
→
12/10 18:48,
3年前
, 2F
12/10 18:48, 2F
推
12/10 18:50,
3年前
, 3F
12/10 18:50, 3F
不重要 反正再過二十年文明就會毀滅了 Collapsology了解一下
然後monte-carolo就是取樣的一個方法有什麼好講的?
反正我們有concentration inequality www
※ 編輯: cybermeow (91.168.14.242 法國), 12/10/2020 18:55:46
推
12/10 18:53,
3年前
, 4F
12/10 18:53, 4F
推
12/10 18:59,
3年前
, 5F
12/10 18:59, 5F
※ 編輯: cybermeow (91.168.14.242 法國), 12/10/2020 19:01:44
推
12/10 19:01,
3年前
, 6F
12/10 19:01, 6F
→
12/10 19:06,
3年前
, 7F
12/10 19:06, 7F
→
12/10 19:08,
3年前
, 8F
12/10 19:08, 8F
推
12/10 19:13,
3年前
, 9F
12/10 19:13, 9F
推
12/10 19:27,
3年前
, 10F
12/10 19:27, 10F
→
12/10 19:31,
3年前
, 11F
12/10 19:31, 11F
→
12/10 19:31,
3年前
, 12F
12/10 19:31, 12F
→
12/10 19:31,
3年前
, 13F
12/10 19:31, 13F
推
12/10 19:32,
3年前
, 14F
12/10 19:32, 14F
→
12/10 19:33,
3年前
, 15F
12/10 19:33, 15F
推
12/10 20:41,
3年前
, 16F
12/10 20:41, 16F
→
12/10 20:52,
3年前
, 17F
12/10 20:52, 17F
討論串 (同標題文章)