Re: [新聞] 機器人毀滅人類？霍金多次警告消失

看板Gossiping作者peter308時間9年前 (2016/11/20 11:13)推噓3(5推 2噓 17→)

留言24則, 7人參與討論串2/4 (看更多)

※ 引述《teddy98 (小迪)》之銘言： : 英國知名物理學家與宇宙學家史蒂芬．霍金(Stephen Hawking)曾多次警告說，人工智慧 : 可能會發展自己的意志，但這與人類的意願相衝突。 : 據英國「每日郵報」報導，霍金10月19日在英國劍橋大學探討人工智慧(AI)快速發展影響 : 的「利弗休姆未來智慧中心」(Leverhulme Centre for the Future of Intelligence)會 : 議上重申：「人工智慧的成功可能是歷史上最大的事件。但它也可能是最後的一個，除非 : 我們學會如何避免風險。除了好處之外，人工智慧也會帶來危險，如強大的自主武器，或 : 少數人壓迫多數人的新方法。這將給我們的經濟帶來巨大破壞。在未來，人工智慧可以發 : 展自己的意志，一種與我們意願相衝突的東西。簡而言之，強大人工智慧的興起，將是人 : 類最好或最糟糕的事情，我們還不知道。」霍金此前也表示，人工智慧快速發展與全球暖 : 化都會產生致命性的危險。 : 為了引發對人工智慧失控的討論，柏克萊加州大學研究員里本(Alexander Reben)曾製造 : 能自行決定是否「刺破人類手指」的機器人。他表示，儘管許多機器人公司強調有辦法避 : 免失控，但在倫理層面上，機器人其實靠不住。 : 里本將此機器人命名為「第一法則」，源自阿西莫夫的科幻小說裡，人類給機器人專門制 : 定了法則，其中第一條就是「機器人不能傷害人類，或者在人類遭遇傷害時不作為」。 : 里本說，這是第一個能自主並有意識地決定是否要違背阿西莫夫法則的機器人，旨在告訴 : 世人，能決定傷害人類的機器人已經存在了，我們必須正視問題、未雨綢繆，否則就太晚 : 了。 : 聯合新聞 : http://udn.com/news/story/6809/2116682 混沌效應講的是輸入初始直的微小差異會造成後端結果的毀滅性改變一般來講機器人要和人類互動一定要透過一個所謂的人機介面而這個人機介面可能是收音器螢幕或是熱感應器之類就算機器人被程式設計師coding而且debug過好幾次但是你怎麼知道爾後越來越複雜可以模擬人類心智的複雜機器人會不會因此出現混沌效應? 而人類又能去預防呢? 一點點誤差 ex:初始輸入訊號小數點後面6位數的誤差都可能會造成混沌效應(蝴蝶效應) 這個混沌效應在高等機器人身上去體現出來會變成什麼樣子? 沒有人知道這可能是霍金背後在擔心的 coding 就很像物理學的governing equation, 但能完美描述系統交互作用力的系統還是會有混沌效應的產生這在本質上是避免不了也消除不掉的 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 1.162.138.202 ※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1479611587.A.277.html ※ 編輯: peter308 (1.162.138.202), 11/20/2016 11:17:17

噓

Goldpaper

11/20 11:14, , 1^F

11/20 11:14, 1^F

→

HELLDIVER

11/20 11:15, , 2^F

11/20 11:15, 2^F

→

HELLDIVER

11/20 11:15, , 3^F

11/20 11:15, 3^F