Re: [閒聊] 人機大戰觀後雜感

看板GO作者Maybetrue (電子黑手)時間7年前 (2017/05/28 14:40)推噓4(10推 6噓 31→)

留言47則, 17人參與討論串4/8 (看更多)

※ 引述《hdjj (hdjj)》之銘言： : : → devidevi: AI選擇投子之後，已經認為沒有贏的希望.... 05/27 23:18 : : 推 HeterCompute: 說句實話，AlphaGo想要投子的時候古力是真的完全沒 05/27 23:19 : : → devidevi: 對AI而言怎麼下都是輸，這樣不算是BUG吧 05/27 23:19 : : → HeterCompute: 機會了，古力只是想要整理一下心情，畢竟從大優變成 05/27 23:19 : : → HeterCompute: 輸棋，那時差距已經二十目了，不可能逆轉的 05/27 23:20 : 不是有意抬摃，但這裏是有盲點的。 : 這局棋就是個很明顯的例子。在人機配對賽裏，人就是最大的變數。暫且不論時力 : 故意自緊一氣自填一眼的極端例子，以人加機器這樣的組合，只要是人，就有可能 : 出錯，或是下出緩著。 : 今天配對的是兩位高手，所以這樣的情況並不明顯，換成兩位業餘棋手上去，可以 : 預期出現意外翻轉的可能性更高。 : 這在現實應用上的意義更深遠。以自動駕駛為例，ＡＩ在判定時也許總是可以做出 : 最佳決策，但總是有突然衝出的老人，油門當煞車踩的新手，硬闖紅燈的死小孩。 : 在類似這種情況下，防禦性的應對，柔軟性的妥協忍耐，都是極為重要的。 : ＡＩ在逆境劣勢裏的反應，是一個很重要的課題。應該沒有人願意看到，輸給李世 : 石的ＡＩ發神經的樣子。因為這和ＡＩ「求勝」的原始指令是有所衝突的。 : 只是這討論下去沒完沒了。這種事，還是留給黃博士這種專業人士傷腦筋吧。XD 雖然AG五局全勝，但是就內容來說，大家不得不覺得AG確實存在著弱點。這些弱點究竟該怎麼說呢？我想就是一個：「沒盡全力。」如果以後AG是要用來服務人類，增進人類福祉的話，AG這一個弱點會讓人覺得信用不夠。而且這個弱點若是沒有被解決的話，很可能不能被用來作自動化服務的人工智慧。一個超強的AG可以當工程師，但是卻絕對不能當管家。今天我們要人工智慧絕對不是解決單一問題，而是可以綜觀全局的管家。如果AG搞不定百萬分之一出現的意外，那絕對是一個災難。比如說我們拿AG管理雙北市的紅綠燈，我們希望AG管理的紅綠燈讓交通更順利，結果一個突如其來的災難，讓AG耍憨了起來，搞得全雙北市的紅綠燈通通在亂閃。這是絕對不可以的。以上週團體賽的結果來說，古力那一邊的Alphago 就是在耍憨，而且Alphago 不是軟體工程師key 出來的函數庫，它是自我學習的整體。我猜目前 deepmind並沒有能力修改AG讓他能在逆境採取積極對策。因為如果去年AG被李世石挖到發瘋，今年重新再次自我學習應該也要把這一點改掉，但是結果並沒有，只是用強大的能力掩蓋這個弱點而已。只要有個人類 (豬隊友?)在旁邊作亂，AG個體能力再強也要發瘋。但是，AG發瘋是不被允許的。事實證明，AG如果傻掉，能力比常人還差。套用到更大的系統面上去的話將會造成毀滅性災難。 -- -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.227.76.22 ※ 文章網址: https://www.ptt.cc/bbs/GO/M.1495953610.A.624.html

→

ilw4e

05/28 14:44, , 1^F

05/28 14:44, 1^F

→

KAOKAOKAO

05/28 14:45, , 2^F

05/28 14:45, 2^F

→

KAOKAOKAO

05/28 14:46, , 3^F

05/28 14:46, 3^F