Re: [新聞] 霍金博士：AI智慧全面發展後將毀滅人消失
※ 引述《jfsu (水精靈)》之銘言：
: 原文恕刪。
:
: 霍金的原文提出了幾個問題：
: 1.未來的世界會不會被機器控制？
: 2.機器人會不會成為人類最大的威脅？
: 現今，已有科學家寫出程式來模仿人類的對話，看能不能成功騙到不知情的人，
號稱最接近的聊天軟體，模擬一個來自烏克蘭、英語非母語的13歲小孩，在5分鐘的
鍵盤聊天中，讓33%裁判認為是真人。
這種條件要說通過圖靈測試?
這就和 DeepDrumpf 一樣程度罷了，DeepDrumpf 發文沒什麼邏輯，但因為川普本人講話
也就那樣，分不出來也是很正常的事。
DeepDrumpf:
Right now, think of this: We owe China $1.3 trillion. We owe Japan more than
that. We have gun laws. I'll bring back our money.
: 1.所謂的形態辨識，舉例來說，當你扮成搶匪走進銀行內，就可以馬上辨識出櫃檯、
: 匯率板、攝影機等擺設，甚至是正妹行員這種可愛又迷人的角色。但機器人就不同囉。
: 它必須先掃瞄整個教室後，看到的不是具體的物體而是一大堆的直線與曲線，然後
: 將這些該死的線條轉換成像素(pixel)，再進行運算…。簡單來說，我們光靠本能
: 就可以將這些物體的長、寬、高描繪出來。
: 其實人類也有在進行這類的計算，只是在潛意識內進行，我們當然不會意識到
: 運算過程，這是長久以來為了求生存而演化的結果。想像Fate/stay night裡的士郎
: 每次進行強化(X)補魔(O)都會高喊：杜蕾斯 On！(Trace On)投影、開始—
: 基本結構、解明；構成材質、解明；再現歷史、完成——如果，我說如果，要是
: 你能意識到大腦正在進行種種運算，身體早就癱瘓得無法行動。
你說的是以前的計算機視覺。
我們會知道櫃台、匯率板、攝影機這些是基於過去的經驗。
人工智慧要怎建立"經驗"? 微軟和Google現在都用一大堆圖片去訓練他的類神經網路
類似這種測試，人類的準確度、速度都不如他們的分類器了
http://imgur.com/Dg0TBht.jpg
不過跟人類一樣，我們不知道自己是如何理解到看到的是匯率版，非監督式學習的神經網
路trainning的過程發生了甚麼科學家也是一頭霧水。
: 2.所謂的常識，例如，火是熱的、MyAngel喜歡吃紅豆餅、人死不能復生、保齡球瓶
: 只能用來推倒，不能拿來捅屁眼...。以上這些你是不會在任何方程式上看到，因為
: 這是人類透過和真實世界的互動而學會，機器人沒有經驗過這些，它們只懂那些已經
: 是寫好在程式裡的東西。
AI或許不會明白"火是熱的" ，但它能建立"火"和"熱"的關係。
AI或許不會明白5樓梗，但給他讀ptt個幾周它也會搶5F自錶。
: 可能還需要好幾十年，在這段期間，科學家應該有充分的時間來觀察並提出預防措施，
: 像可以放一個控制晶片或是設定某個自我燬滅的機制這類在電影中、老掉牙的劇情設定。
: 換個角度想，科技一旦發展到如此階段，大家的生活想必已經跟電腦與網路緊密地連接
: 在一起，藉由人工智慧的輔助，才能調節與控制一座城市的基礎機能。相反的，只要
: 電腦當機或崩潰，別說是城市，搞不好連國家都有可能GG。
就算AI沒有要毀滅人類的主觀犯意，但如果把一些決策交給AI可能會有同樣後果。
比如說"AI為了阻止瘟疫擴散，選擇直接用燒夷彈把村子炸了"這種電影劇情可能會變現實
: 有些學者認為我們應該發展碳與矽結合的技術，好比將瀨尿蝦與牛肉摻在一起作成新奇
: 好吃又好玩的撒尿牛丸，因為人體最主要的元素是碳，機器人則是矽，要是可以結合
: 的話，這比海明威還威。想像在某個遙遠的未來，太陽快要掛了，地球上的人類為了
: 能在惡劣的環境下生存，我們可能得透過ＤＮＡ改造成以矽為主的身體來活下去。
: 這樣說可能很聳動，某天你躺在一張手術檯上，隔壁的手術檯是一部「無」的機器人。
: 醫生先取出你的腦神經元，一一複製成矽神經元後植入機器人體內。等之後你掛了，
: 隔天醒來，卻發現自己成了不老不死的无，錯了，是不朽的半機器人(Cyborg)。
: 不僅意識沒有喪失，連回憶與性格都沒有變。
類同忒修斯之船問題，如果將我的大腦神經細胞逐個改以矽晶取代，那我還是我嗎?
如果把汰換下來的神經細胞再組回去，那個大腦裡的人又是誰?
: 最後，要是能在這個世紀末誕生有思考能力的機器、比人類或動物還要聰明，底下
: 開放鄉民與初音玩VR neko%%。
等到那天，初音早變沒人要的過氣阿嬤，看看曾經的汞燈，現在水銀黨根本都沒人了。
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 220.135.14.139
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1477081727.A.408.html
噓
10/22 04:31, , 1F
10/22 04:31, 1F
推
10/22 04:32, , 2F
10/22 04:32, 2F
→
10/22 04:33, , 3F
10/22 04:33, 3F
→
10/22 04:33, , 4F
10/22 04:33, 4F
→
10/22 04:33, , 5F
10/22 04:33, 5F
→
10/22 04:33, , 6F
10/22 04:33, 6F
噓
10/22 04:37, , 7F
10/22 04:37, 7F
噓
10/22 04:38, , 8F
10/22 04:38, 8F
→
10/22 04:39, , 9F
10/22 04:39, 9F
推
10/22 04:41, , 10F
10/22 04:41, 10F
噓
10/22 05:20, , 11F
10/22 05:20, 11F
推
10/22 06:23, , 12F
10/22 06:23, 12F
→
10/22 06:23, , 13F
10/22 06:23, 13F
→
10/22 06:23, , 14F
10/22 06:23, 14F
推
10/22 07:11, , 15F
10/22 07:11, 15F
討論串 (同標題文章)
完整討論串 (本文為第 8 之 8 篇)：
