Re: PLUTO第三集的一些問題
※ 引述《bl0418 (寂寞累積寂寞)》之銘言：
: ※ 引述《jogan (jogan)》之銘言：
: : 但是機器人不可能殺人,雖然有一個例外
: : 其實小金剛在第二集跟御茶水的對話中有二句很重要
: : 小金剛對人工智能的看法
: : "完美到可以殺人?" "難道等同於人類的意思?"
: : 如果當人工智能完美到認為自己是人類不是機器人時
: : 那它是否就會殺人了呢?
: 也許完美的程度不至於讓人工智慧認為自己不是機器人，
: 但可能達到如機械公敵中「最好」的處理方式。
: 也就是當邏輯推理出現了第四條規則足以壓過「不傷害人類的法則」。
其實應該很簡單, 就是當AI真的是完美的的話,
等同於人類並不是他認為自己是人類
而是他可以跟人類一樣思考, 我為何而活我為何存在
如果AI思考到這種地步 , 機器人三原則當然是可以打破的阿
三原則就像是道德或法律, 很多時候我們並不會遵守法律阿
這樣我想起銀翼殺手, 因為想活下去所以殺人, 因為知道生命的美好
所以放過男主角(好像是這樣)
--
※ 發信站: 批踢踢實業坊(ptt.cc)
◆ From: 218.170.6.188
討論串 (同標題文章)