Re: [閒聊] AI科技發展到極致，真的會毀滅人類？

看板C_Chat作者 (我湖萬歲)時間3年前 (2021/05/08 02:58), 3年前編輯推噓16(16推 0噓 33→)
留言49則, 19人參與, 3年前最新討論串3/9 (看更多)
先上個影片： https://vimeo.com/389553895 這是Artificial Intelligence這本書的作者的演講 裡面講到了許多有關於舊方法與新方法的差異 其中也有段提到過： “目前最新的觀念認為我們以前學的AI都是錯的。 不幸的是，我們目前並沒有新的東西可以教， 所以我們會教你所有舊的觀念，但你要知道這些都是錯的。” 然後簡單來說，以前的AI是目的導向，也就是說AI本身只在乎目的，不在乎過程 因此就會產生“如果要減少污染，最好的方法就是把人類毀滅”這種解決方案 而現在的AI則更傾向於人類導向，他學習的時候會透過從人類得來的資料再學習 另外很多人對AI有個誤解是AI可以取代人類，但實際上AI是很受限制的 現行的AI都更像是在某個領域可以做到很強的程度，然而他們的學習都無法轉到其他領域 比如說，AlphaGo可以打敗世界頂級圍棋選手，然而你讓他去打黑白棋或五子棋都沒用 也就是說人類最基本的“將相關經驗套用到新的領域”這個能力目前沒有AI學的會 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 98.168.42.144 (美國) ※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1620413932.A.118.html
推
05/08 03:02, 3年前 , 1F
全訊息類遊戲已經全部制霸了
05/08 03:02, 1F
推
05/08 03:05, 3年前 , 2F
印象中Alpha zero就把棋類遊戲橫掃了
05/08 03:05, 2F
→
05/08 03:07, 3年前 , 3F
但AlphaStar仍然無法戰勝人類啊
05/08 03:07, 3F
→
05/08 03:09, 3年前 , 4F
因為棋類的規則還太簡單
05/08 03:09, 4F
→
05/08 03:16, 3年前 , 5F
高級AI有沒有試過打麻將
05/08 03:16, 5F
推
05/08 03:17, 3年前 , 6F
你要圍棋名人去打將棋龍王也贏不了啊
05/08 03:17, 6F
推
05/08 03:18, 3年前 , 7F
麻將和德州撲克好像都贏了，但星海就跨不過去
05/08 03:18, 7F
推
05/08 03:22, 3年前 , 8F
ai有打過日麻，還蠻強的
05/08 03:22, 8F
推
05/08 03:24, 3年前 , 9F
等到ai能進行戀愛頭腦戰對決再叫我參戰，謝謝
05/08 03:24, 9F
推
05/08 03:30, 3年前 , 10F
會翻譯漫畫
05/08 03:30, 10F
推
05/08 03:50, 3年前 , 11F
你要一個專練19路圍棋的AlphaGO沒tarin過馬上去下9路或13
05/08 03:50, 11F
→
05/08 03:50, 3年前 , 12F
路圍棋，馬上烙賽給你看
05/08 03:50, 12F
→
05/08 03:51, 3年前 , 13F
死人棋也是?
05/08 03:51, 13F
推
05/08 03:57, 3年前 , 14F
還有問題是任何遊戲都有一套明確規則
05/08 03:57, 14F
→
05/08 03:58, 3年前 , 15F
現實的很多難題是根本沒有規則
05/08 03:58, 15F
推
05/08 05:15, 3年前 , 16F
事實上不會是AI毀滅人類，比較有可能的是金字塔頂端
05/08 05:15, 16F
→
05/08 05:15, 3年前 , 17F
的人類用AI瘋狂牟利，用不了AI的人類只能保持最低
05/08 05:15, 17F
→
05/08 05:15, 3年前 , 18F
水平的生活
05/08 05:15, 18F
→
05/08 05:22, 3年前 , 19F
如果是最開始目的導向的AI的話是有可能毀滅人類的──
05/08 05:22, 19F
→
05/08 05:23, 3年前 , 20F
問題是頂層的人不會讓這件事發生，底層的人毋需多慮
05/08 05:23, 20F
推
05/08 05:28, 3年前 , 21F
AI無法跨領域主要是因為它算法只能分析不受外力因
05/08 05:28, 21F
→
05/08 05:28, 3年前 , 22F
素影響的互相獨立i.i.d.數據，因此碰到不同領域數
05/08 05:28, 22F
→
05/08 05:28, 3年前 , 23F
據就掛了
05/08 05:28, 23F
→
05/08 05:34, 3年前 , 24F
人類遇到未知領域問題時是透過過去經驗得到的因果
05/08 05:34, 24F
→
05/08 05:34, 3年前 , 25F
關係解決問題，但目前CS界還不清楚如何訓練AI得出
05/08 05:34, 25F
→
05/08 05:34, 3年前 , 26F
未知的因果關係
05/08 05:34, 26F
→
05/08 05:40, 3年前 , 27F
所以我才說AI事實上還離很多人想像的AI很遠
05/08 05:40, 27F
推
05/08 06:22, 3年前 , 28F
深度學習的技術也是模仿人類的神經迴路，再神也只是
05/08 06:22, 28F
→
05/08 06:22, 3年前 , 29F
在很單一的領域用類似人類大腦，而且練老半天搞出來
05/08 06:22, 29F
→
05/08 06:22, 3年前 , 30F
的參數也永遠存在誤差。更不用說還要先弄出海量數據
05/08 06:22, 30F
→
05/08 06:22, 3年前 , 31F
來餵資料。目前的AI用來做資料科學
05/08 06:22, 31F
→
05/08 06:22, 3年前 , 32F
還不錯，但真要搞出媒體幻想的AI還不如聘用真人
05/08 06:22, 32F
→
05/08 06:25, 3年前 , 33F
所以能毀滅人類的不會是AI，而是使用AI的頂端人士
05/08 06:25, 33F
→
05/08 08:24, 3年前 , 34F
Ai真的要出現 現行的硬體架構都要汰換
05/08 08:24, 34F
→
05/08 08:24, 3年前 , 35F
所以在劃時代的硬體出現前 所謂ai都是統計學
05/08 08:24, 35F
推
05/08 08:47, 3年前 , 36F
如果真的有那種自發性毀滅人類AI出現，那已經稱的上是另
05/08 08:47, 36F
→
05/08 08:47, 3年前 , 37F
一種物種了，取人類而代之也不是什麼大事，或許更好也不
05/08 08:47, 37F
→
05/08 08:47, 3年前 , 38F
一定
05/08 08:47, 38F
推
05/08 10:16, 3年前 , 39F
印象中 這部還是其他演講 這位教授有提到 五十年內不會
05/08 10:16, 39F
→
05/08 10:16, 3年前 , 40F
有 實質意義上的強AI 即電影動畫小說裡 我們期待的那種
05/08 10:16, 40F
→
05/08 10:16, 3年前 , 41F
而超過五十年的預測 根據另一位學者的說法 沒有意義
05/08 10:16, 41F
→
05/08 10:30, 3年前 , 42F
最後那個有點問題 MuZero AlphaZero 都可以在複數領域
05/08 10:30, 42F
→
05/08 10:30, 3年前 , 43F
發揮 但不如人類萬能
05/08 10:30, 43F
→
05/08 10:32, 3年前 , 44F
而且不需要太多新資料 就能把既有的ai拿去用在新問題
05/08 10:32, 44F
→
05/08 10:32, 3年前 , 45F
甚至gpt3 只要是語言類的問題就可以生出回答
05/08 10:32, 45F
重點就在不如人類萬能這一點，現行的AI在複合領域的表現還遠遠沒達到人類的想像
推
05/08 12:42, 3年前 , 46F
為了解決汙染所以要解決人類？可是為什麼AI要解決汙染？
05/08 12:42, 46F
→
05/08 12:45, 3年前 , 47F
他們搞不好巴不得把樹砍光．
05/08 12:45, 47F
這只是一種舉例，就是告訴你如果單純是“目的”導向的話可能會得出你不想要的結果
推
05/08 12:47, 3年前 , 48F
AI沒慾望，打敗人類之後要幹嘛？駭客任務那些AI除了
05/08 12:47, 48F
→
05/08 12:47, 3年前 , 49F
主線研究人類外，其他部分在幹嘛
05/08 12:47, 49F
※ 編輯: LakersDlo (98.168.42.144 美國), 05/08/2021 15:52:36
‣ 更多 LakersDlo 的文章
文章代碼(AID): #1WbOti4O (C_Chat)
討論串 (同標題文章)
完整討論串 (本文為第 3 之 9 篇)：
排序： 最舊先 | 最新先 | 留言數
在新視窗開啟完整討論串 (共9篇)
‣ 更多 LakersDlo 的文章
文章代碼(AID): #1WbOti4O (C_Chat)