Re: [心得] 三體 有雷
寫一寫發現有很多雷...
往下看的請自重。
※ 引述《raincole (冷雨)》之銘言：
: : 推 fw190a:好奇，可以請樓上說明一下感到不合理的原因嗎?
: 講幾個例子...
感謝回應。
我和你的感到疑義的部份看法大致相同，
不過，以書中的脈絡來看，我認為這些問題大致都能被解決，
而不會引發致命或可笑的矛盾。
真的要批的話，我認為"正子腦"與其奇異的相關設定才是根源所在，
三大法邏輯上合理，實務上合用，應該算表現不錯。
: 1.這些名詞（人類、傷害）的定義是人訂的，還是機器人推算出來的？
: 在基地某篇裡面，有人把機器人的「人類」定義成只限自己星球上的人，所以這些定義應
: 該是人為的。
定義問題的確有可能打破三大法則，如果這些都能隨意更改/詮釋，則機器人
馬上就會具有太多裁量權。
不過我這邊是偏向，這些基本定義是被多重邏輯嚴密寫好並定義的，
也就是幾乎是寫死的。
具有反省思考能力的機器人，或許能慢慢改變這規則的意思，但是首先他必須
要有這種動機。
至少在書中見到的，只被要求服侍生活起居的機器人，從來沒有產生相關動機。
而關鍵的吉斯卡與丹尼爾，則是因為他們身處權力核心，而他們照顧的這個人，
很在意"全人類"的興亡，因此才引導了他們做這一思考。
另外，在鋼穴中提及，重寫一顆正子腦，技術上可行，但是須要花幾十年工夫，
而且沒有經濟效益所以應該沒人會做。 但是事實上這說明了它完全可行。
所以我們在索拉利星上看到了一批機器人對於"人類"有不同定義時，
使得回到故鄉的艾帝嘉大驚失色(因為違反常識)，但以索拉利的機器人專業，
與長時間孤立，反倒說明他們完全有能力與理由去設計出這樣的機器人。
因此在這邊失敗的也不是三原則，而是人類自己去更改的。
: 但是這又不符合可避免的衝突、騙子裡面機器人能自行推算出超出設計者想像的想法。
: 而且機器人把心理上的傷害也當作傷害，但連人類自己都沒辦法確切瞭解自己心理上有沒
: 有被傷害，又如何能對機器人作定義？
應該說，能"感知"人類心理情緒的機器人，本來就是規格外的產物，設計者從來不知道
有這種技術，自然不可能對之加以防範。
只能假設說，產生這種能力的機器人，由於沒有其它事先設定，
對於人類的情緒有很大的解釋空間，是靠其它生活中經驗推理出意義。
: 2.機器人的運算能力是否有硬體上的極限？
: 如果沒有，那所有機器人的第一法則，應該都會變成第零法則，因為他們每作一個動作，
: 都可以預期（無限遠的）的蝴蝶效應對人類的傷害。
運算能力是有上限的。
: 如果有，那曙光中的吉斯卡為甚麼可以只靠調整程式，就得到遠遠超過丹尼爾的能力？
因為強化的不是運算能力，而是產生某種心電感應。
: 3.三原則安全嗎？
: 從消失無蹤裡面看來，機器人的第一法則也是可以被人為修改的。
: 而從基地看來，機器人對人類的定義也是可修改的。
: 那這些機器人學家以及機器人製造公司，應該比世界上任何一間軍火商或恐怖份子更危險
: ，因為這些機器人隨時可以變成強大的武力（只要改動前述兩項之一）。
: 但是裡面的政府卻無所管制，只把機器人學當成普通的學術活動看待，這也太不符合我們
: 對政府（美國？）的印象了。
定義與法則可以被人為修改，但只能透過生產新機的方式。(詳見正子腦設定)
因此市面上現有機器人都很安全，不會被按個按鈕就變私人軍隊。
: 我知道這是因為艾氏的作品很多，如果只看三原則本身，也許不能說「不合理」。
: 但是這三原則其實並沒有解決任何事情，因為實作上有很多必然的矛盾，事實上艾氏
: 的機器人系列就是在描寫這些矛盾。
艾氏的三原則並不是在說:有了這個三原則，機器人再也不可能會對人類產生威脅了
而是在說，透過這三原則簡潔/穩定的運作，人類成功的將機器人融入社會中加以
運用。
: 簡單來講，機器人三原則和以下的三原則其實差異不大：
: 1.要做人們心目中的好機器人。
: 2.要做人們心目中的好機器人。
: 3.無論如何，都要做人們心目中的好機器人。
這樣關鍵就只剩"好"，定義更模糊，而且一個錯就全錯了。
回顧一下三原則(簡短版):
1.不得傷害人類
2.得聽命於人類
3.得保護自己
這三原則不只是保險絲，也涵蓋了基本用途
機器人得聽命於人類，但無論如何不得傷害人類 (來防止人類利用機器人對付它人)
在不用聽命人類也不會傷害到人類時，則會盡力保全自己(才不會一點意外就壞)
你可以說"好"這字就包涵了如同三原則那樣的定義，但是這樣的差別比較像，
把重要事項寫在憲法或法律中。 (憲法比較優先，更難改)
因此一般人也不會想要國家憲法是一句，我國要當個好國家。
: 只要交給機器人超強的推理和判斷能力，判斷出什麼是好機器人就行了。
: 但是就科幻小說來看，我並不覺得這些算是什麼問題。
: 正如某個版本的導讀所講，科幻小說本來就是幻想重於科學，否則就不是小說了。
: ※ 編輯: raincole 來自: 113.61.193.250 (02/12 12:20)
--
※ 發信站: 批踢踢實業坊(ptt.cc)
◆ From: 118.168.243.114
推
02/12 13:44, , 1F
02/12 13:44, 1F
→
02/12 13:53, , 2F
02/12 13:53, 2F
→
02/12 13:53, , 3F
02/12 13:53, 3F
→
02/12 13:54, , 4F
02/12 13:54, 4F
→
02/12 13:57, , 5F
02/12 13:57, 5F
→
02/14 10:54, , 6F
02/14 10:54, 6F
→
02/14 10:55, , 7F
02/14 10:55, 7F
討論串 (同標題文章)