※ 引述《kizuna1019 (chacha)》之銘言：
: ※ 引述《bl0418 (寂寞累積寂寞)》之銘言：
: : 也許完美的程度不至於讓人工智慧認為自己不是機器人，
: : 但可能達到如機械公敵中「最好」的處理方式。
: : 也就是當邏輯推理出現了第四條規則足以壓過「不傷害人類的法則」。
: 其實應該很簡單, 就是當AI真的是完美的的話,
: 等同於人類並不是他認為自己是人類
: 而是他可以跟人類一樣思考, 我為何而活我為何存在
: 如果AI思考到這種地步 , 機器人三原則當然是可以打破的阿
: 三原則就像是道德或法律, 很多時候我們並不會遵守法律阿
: 這樣我想起銀翼殺手, 因為想活下去所以殺人, 因為知道生命的美好
: 所以放過男主角(好像是這樣)
機器人三原則在艾西莫夫原著裡是不可能被打破的
他不是單純的道德或法律
而是牽涉到工程機械的問題，簡單來說，只要違反三原則，機器人就壞了
這種rule是物理以及邏輯上面的限制，就好像MOS要幾V他才會on一樣
當然你說要改是可以改，但正子腦的複雜度已經不是能說改就改了
也就是說，不論怎麼進化，三原則永遠存在
他不是單純的出廠前輸入三原則進入正子腦這麼簡單的事
要是這麼簡單，弄個機器人戰隊不是問題
--
※ 發信站: 批踢踢實業坊(ptt.cc)
◆ From: 140.114.202.211
討論串 (同標題文章)