Re: [閒聊] 為啥AI總是會叛亂？

看板C_Chat作者 (假動作高手)時間2年前 (2021/10/04 13:58), 編輯推噓6(6推 0噓 28→)
留言34則, 10人參與, 2年前最新討論串8/10 (看更多)
如果電腦的程式只是單純人類一行一行寫出來的，電腦的一切都是可以預測的。 在這種方式下，有人真的認為它是人工智慧嗎？ 電腦會不會叛變，會不會試著統治人類，恐怕跟它怎麼想沒有關係， 它依然只是照著指令行事，我不認為它具有思考能力，或至少沒有深度思考的能力。 （思考的定義為何？在此暫不討論。） 人類想要寫出能夠深度思考的或是能像人一樣思考的電腦，其來已久， 在眾多嚐試下，類神經演算法曾經脫穎而出，因為它的方式是模仿生物大腦的形式， （當時認為大腦的神經元連結方式是一層又一層的。） 然而受限於硬體，其成效並不佳，中間還有許多人貢獻心力改良這個演算法， 暫且略過不談。較關鍵的 GPU 的出現，類神經演算法才真正展現了它的威力。 2006 年 HINTON 成功訓練多層神經網路，為了順利登上期刊，論文上用了一個新名字 【深度學習】！ 2016 年 AlphaGo 打敗了李世石， 之後 GPU 大廠 Nvidia 的股價從當時的不到 9 元漲到現在的 207 元。 （理由可能不單單只是因為深度學習，挖礦需求也可能是主因之一。） 回到類神經演算法的討論，不同於傳統電腦只是依指令行事， 深度神經演算法的是依權重來下判斷，而這些權重又是由訓練而來。 到此人類已經無法懂電腦的處理邏輯了。 就如同，假設我們已經完全知道人腦的神經元連結， 我們也無法理解為什麼我們的大腦把 620 ~ 750 nm 的電磁波解釋為紅色。 ———————————— 抱歉，壞習慣，上面說太多了，下面精節一點。 ———————————— 電腦能不能像人類一樣思考？ 如果用深度學習的方式，加上訓練，電腦是有可能【表現】出像人一樣的思考能力， 連帶的，你會覺得電腦有喜、怒、哀、樂，有人類的七大罪， 這一切取決於你是如何訓練它，當它表現的越像人類，就得到更多的分數， 它就會調整權重，讓自己的表現更像是人類， 然而究境這樣子的電腦是不是具有思考能力，或只是【表現】的像有思考能力， 我們可能不得而知。（但這個問題用在人身上，也很難回答。） 如果我們訓練電腦像人類，它的確可能會【想／表現的想】統治人類。 ———————————— 其實所有生物的大腦都是大自然訓練而來， 只是大自然是以繁殖的成效來調整大腦神經元的權重， 這個過程我們稱為演化。 -- 喜歡是一種執念， 會一直盤踞在心裡， 怎麼都無法擺脫。 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 112.78.76.209 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1633327136.A.789.html
推
10/04 14:03, 2年前 , 1F
不一定吧 也有很多狀況被惡人駭入
10/04 14:03, 1F
→
10/04 14:04, 2年前 , 2F
只想說 N股價99%應該都是礦需撐起來
10/04 14:04, 2F
→
10/04 14:08, 2年前 , 3F
嗯，剛好股價開始明顯上漲和阿法狗打敗李世石是同一年。
10/04 14:08, 3F
→
10/04 14:16, 2年前 , 4F
期望有比深度學習更好的演算法出現，做出更像人類思考的
10/04 14:16, 4F
→
10/04 14:16, 2年前 , 5F
電腦。
10/04 14:16, 5F
→
10/04 14:35, 2年前 , 6F
如果所有生物的大腦都是大自然訓練~那要教育要幹嘛?
10/04 14:35, 6F
→
10/04 14:36, 2年前 , 7F
畢竟你最後還是能從大自然訓練~就不用教育了~
10/04 14:36, 7F
推
10/04 14:54, 2年前 , 8F
樓上。所以只談演化這部分啊...
10/04 14:54, 8F
→
10/04 14:54, 2年前 , 9F
樓上，大自然的訓練是一代一代的挑選適合的權重，不是直
10/04 14:54, 9F
→
10/04 14:54, 2年前 , 10F
接在個體上調整。
10/04 14:54, 10F
→
10/04 14:55, 2年前 , 11F
我是說 tim012345
10/04 14:55, 11F
推
10/04 14:57, 2年前 , 12F
一代一代一代一代
10/04 14:57, 12F
推
10/04 14:58, 2年前 , 13F
對比大自然的訓練權重，你所謂的教育也是在這個權重
10/04 14:58, 13F
→
10/04 14:58, 2年前 , 14F
下誕生的產物
10/04 14:58, 14F
→
10/04 15:07, 2年前 , 15F
我也搞不清楚我一行一行寫的project到底在幹嘛
10/04 15:07, 15F
推
10/04 17:26, 2年前 , 16F
ai是程式碼寫的，人是DNA寫的，還是你可以用中文房間
10/04 17:26, 16F
→
10/04 17:26, 2年前 , 17F
來考慮？
10/04 17:26, 17F
→
10/04 22:20, 2年前 , 18F
剛看了中文房間的意思，老實說我並不同意。人腦的每一個
10/04 22:20, 18F
→
10/04 22:20, 2年前 , 19F
細胞功能都很簡單，其運作的機制仍是物理或化學，但整體
10/04 22:20, 19F
→
10/04 22:20, 2年前 , 20F
運作其來卻能夠思考。我不認為這種事只能發生在生物上，
10/04 22:20, 20F
→
10/04 22:20, 2年前 , 21F
如果用擁有神經元功能的電子元件組成了一個人腦的網絡，
10/04 22:20, 21F
→
10/04 22:20, 2年前 , 22F
該系統理論上應該要能夠思考。如果它真的能處理一些問題
10/04 22:20, 22F
→
10/04 22:20, 2年前 , 23F
，公平的說，它是會思考的。如果要說它只是電子元件運行
10/04 22:20, 23F
→
10/04 22:20, 2年前 , 24F
的結果，不能算是思考，那人腦也只是腦細胞運行的結果。
10/04 22:20, 24F
→
10/04 22:20, 2年前 , 25F
是運作的單元重要，還是形式重要？我認為是形式。
10/04 22:20, 25F
推
10/05 13:28, 2年前 , 26F
演化跟學習我覺得還是不同的。生物的大腦構造是演化而
10/05 13:28, 26F
→
10/05 13:28, 2年前 , 27F
來。在這演化出的大腦上，生物可以透過學習和訓練來進
10/05 13:28, 27F
→
10/05 13:28, 2年前 , 28F
一步適應環境。
10/05 13:28, 28F
→
10/05 13:28, 2年前 , 29F
同理，類神經網絡的架構是人類設計而來，在某架構之下
10/05 13:28, 29F
→
10/05 13:28, 2年前 , 30F
，其可以透過訓練而更加適應其所需面對的問題。
10/05 13:28, 30F
→
10/05 13:28, 2年前 , 31F
生物大腦構造是基於繁殖這個原則演化而出，而類神經網
10/05 13:28, 31F
→
10/05 13:28, 2年前 , 32F
絡則是人類依特定目的而設計
10/05 13:28, 32F
→
10/05 13:31, 2年前 , 33F
就是說如果設計得當，也許還是有可能設計出能像人一樣
10/05 13:31, 33F
→
10/05 13:31, 2年前 , 34F
思考，但對人忠心耿耿的AI
10/05 13:31, 34F
‣ 更多 yin0416 的文章
文章代碼(AID): #1XMfWWU9 (C_Chat)
討論串 (同標題文章)
完整討論串 (本文為第 8 之 10 篇)：
排序： 最舊先 | 最新先 | 留言數
在新視窗開啟完整討論串 (共10篇)
‣ 更多 yin0416 的文章
文章代碼(AID): #1XMfWWU9 (C_Chat)