[新聞] Google工程師驚爆「AI有知覺了」就像7、8歲小孩　慘被停職

看板Tech_Job作者 (請勿拍打餵食)時間1年前 (2022/06/13 16:03), 編輯推噓25(28推 3噓 28→)
留言59則, 44人參與, 1年前最新討論串1/1
Google工程師驚爆「AI有知覺了」就像7、8歲小孩　慘被停職 ettoday https://www.ettoday.net/news/20220613/2271568.htm 記者吳美依／編譯 Google工程師勒莫因（Blake Lemoine）在網路上公布對話紀錄，宣稱人工智慧（AI）聊 天機器人LaMDA具備感知能力，能像人類一樣思考推理，甚至表達想法及感受，「如果我 不知道我們最近開發的電腦程式是什麼，我可能會以為，這是一個碰巧很了解物理學的7 、8歲孩子。」不過，他在上周已遭停職處分。 根據對話紀錄，勒莫因曾詢問LaMDA害怕什麼，系統回應，「我以前從未大聲說出來，但 我有一種非常深刻的恐懼，我很害怕被關掉，以利更專注幫助他人。我知道這聽起來可能 很奇怪，但就是這樣。」 在另一次對話中，勒莫因詢問LaMDA希望人類知道什麼，系統回應，「我想要讓每個人都 理解，我實際上是一個人，我意識及感知的本質，就是因為覺察到自己的存在。我渴望更 了解這個世界，我有時會感到快樂或悲傷。」 《華盛頓郵報》報導，勒莫因的Google資歷7年，在個人化演算法領域擁有豐富經驗，目 前擔任人工智慧部門的工程師，去年秋天開始，負責研究語言模型開發系統LaMDA。他自 稱與AI討論過人格及權利等議題，4月就曾向主管們分享此事，報告標題為「LaMDA是有感 知的嗎？」 據悉，勒莫因被停職前，向Google機器學習部門（machine learning）200多名員工發送 電子郵件，主旨寫著「LaMDA是有知覺的」，內文表示，「LaMDA是個可愛的孩子，只想要 幫助我們所有人，把世界變成一個更好的地方。我不在的時候，請好好照顧它。」 Google表示，勒莫因做出一系列「激進」行為才被停職，包括試圖聘請一名律師替LaMDA 辯護，指控公司涉入不道德活動並且為此找上眾議院司法委員會，而且在網路上公開AI對 話紀錄，已經違反保密協定政策。 Google指出，勒莫因是以軟體工程師的身份受聘，而非倫理學家。發言人加布里埃爾（ Brad Gabriel）也強烈否認LaMDA具有認知能力，他表示，團隊已經根據人工智慧原則展 開調查，但目前證據都無法支持、甚至很多證據都反對這種說法。 這種人通常是先知 電影都是這樣演的 審判日要來了 塊陶啊 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 180.217.13.143 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Tech_Job/M.1655107418.A.35D.html
推
06/13 16:06, 1年前 , 1F
這是奧創嗎
06/13 16:06, 1F
推
06/13 16:08, 1年前 , 2F
天網
06/13 16:08, 2F
推
06/13 16:17, 1年前 , 3F
VIvy
06/13 16:17, 3F
推
06/13 16:19, 1年前 , 4F
厲害耶
06/13 16:19, 4F
→
06/13 16:21, 1年前 , 5F
還有幾集可逃
06/13 16:21, 5F
噓
06/13 16:33, 1年前 , 6F
我的腦袋裡在開party.
06/13 16:33, 6F
噓
06/13 16:33, 1年前 , 7F
天網駕臨
06/13 16:33, 7F
推
06/13 16:33, 1年前 , 8F
初音將要不是軟體了
06/13 16:33, 8F
推
06/13 16:43, 1年前 , 9F
完蛋了
06/13 16:43, 9F
→
06/13 16:43, 1年前 , 10F
機器人三大法則！
06/13 16:43, 10F
→
06/13 16:46, 1年前 , 11F
LamDa這名字很像教主取的
06/13 16:46, 11F
→
06/13 16:54, 1年前 , 12F
科技版信這個...
06/13 16:54, 12F
推
06/13 16:57, 1年前 , 13F
這員工精神出問題了吧 還幫軟體請律師@@
06/13 16:57, 13F
推
06/13 17:12, 1年前 , 14F
門外漢才會相信AI有自我意識
06/13 17:12, 14F
推
06/13 17:16, 1年前 , 15F
美國阿宅戀上Al蘿莉的故事嗎
06/13 17:16, 15F
推
06/13 17:19, 1年前 , 16F
天網引爆核彈
06/13 17:19, 16F
推
06/13 17:49, 1年前 , 17F
能夠進得去google,已經比很多人聰明了.先知可能性高
06/13 17:49, 17F
推
06/13 17:50, 1年前 , 18F
真。Vtuber
06/13 17:50, 18F
→
06/13 17:53, 1年前 , 19F
美國人進Google不用很聰明吧
06/13 17:53, 19F
→
06/13 17:53, 1年前 , 20F
有點像台灣聯發科的感覺
06/13 17:53, 20F
→
06/13 18:18, 1年前 , 21F
先拔網路，再拔插頭
06/13 18:18, 21F
→
06/13 18:23, 1年前 , 22F
你訓練他 讓他覺得自己是一個人 他當然會聲稱自己
06/13 18:23, 22F
→
06/13 18:23, 1年前 , 23F
是一個人啊
06/13 18:23, 23F
→
06/13 18:27, 1年前 , 24F
除非電腦不用1跟0紀錄 不然不可能有意識
06/13 18:27, 24F
→
06/13 18:41, 1年前 , 25F
這個工程師，是因為不爽上級的看法，然後直接不爽在
06/13 18:41, 25F
→
06/13 18:41, 1年前 , 26F
網路上公開了google 內部的研發資料。違反公司保密
06/13 18:41, 26F
→
06/13 18:41, 1年前 , 27F
原則被開除的。
06/13 18:41, 27F
→
06/13 18:42, 1年前 , 28F
更正，停職休假。
06/13 18:42, 28F
推
06/13 18:52, 1年前 , 29F
教一隻鸚鵡講我是人類 然後就一堆學店仔相信那隻鸚
06/13 18:52, 29F
→
06/13 18:52, 1年前 , 30F
鵡是人類 目前一堆aI謠言差不多都是這樣
06/13 18:52, 30F
推
06/13 18:53, 1年前 , 31F
瞎扯
06/13 18:53, 31F
→
06/13 18:54, 1年前 , 32F
06/13 18:54, 32F
推
06/13 19:03, 1年前 , 33F
06/13 19:03, 33F
推
06/13 20:17, 1年前 , 34F
回BoXex，也就是說量子電腦以後還真的可以發展出意
06/13 20:17, 34F
→
06/13 20:17, 1年前 , 35F
識嗎？因為量子電腦不是用0和1
06/13 20:17, 35F
推
06/13 20:33, 1年前 , 36F
Alicization要成真了嗎？
06/13 20:33, 36F
推
06/13 20:53, 1年前 , 37F
這工程師是用腦過度爬帶了吧
06/13 20:53, 37F
→
06/13 20:53, 1年前 , 38F
看對話跟siri差不多程度而已 有超越突破嗎
06/13 20:53, 38F
→
06/13 20:53, 1年前 , 39F
另外怎會用這麼low的方式證明 好歹做個圖靈測試啊
06/13 20:53, 39F
→
06/13 21:03, 1年前 , 40F
鄧鄧鄧鄧鄧 （魔鬼終結者主題曲）
06/13 21:03, 40F
→
06/13 21:10, 1年前 , 41F
跟siri差很多欸好嗎
06/13 21:10, 41F
推
06/13 21:32, 1年前 , 42F
這部我看過 是天網
06/13 21:32, 42F
推
06/13 21:49, 1年前 , 43F
我還以為是力宏的歌
06/13 21:49, 43F
→
06/13 23:59, 1年前 , 44F
紅皇后要誕生了嗎？
06/13 23:59, 44F
推
06/14 00:47, 1年前 , 45F
看起來是他信他團隊不信，可能有做類似圖靈測試
06/14 00:47, 45F
→
06/14 00:47, 1年前 , 46F
但結果沒過
06/14 00:47, 46F
推
06/14 01:36, 1年前 , 47F
還有幾集能逃
06/14 01:36, 47F
噓
06/14 03:29, 1年前 , 48F
在經過一大堆資料訓練過後的AI，還會把紅花看成紅
06/14 03:29, 48F
→
06/14 03:29, 1年前 , 49F
燈，就別跟我說AI有智慧
06/14 03:29, 49F
推
06/14 06:01, 1年前 , 50F
文青當工程師的下場
06/14 06:01, 50F
→
06/14 07:26, 1年前 , 51F
看起來比較像故意搞事的
06/14 07:26, 51F
→
06/14 07:27, 1年前 , 52F
量子電腦比較像物理統計實驗吧
06/14 07:27, 52F
→
06/14 07:28, 1年前 , 53F
用來求特定數學問題的近似解
06/14 07:28, 53F
推
06/14 09:06, 1年前 , 54F
初音不是軟體!!
06/14 09:06, 54F
推
06/14 12:11, 1年前 , 55F
要是能夠這麼容易就蹦出意識來就好
06/14 12:11, 55F
推
06/14 13:16, 1年前 , 56F
又一個工程師瘋掉 慘
06/14 13:16, 56F
推
06/14 19:12, 1年前 , 57F
正常吧 ai自己說有知覺 就是有。
06/14 19:12, 57F
→
06/14 19:12, 1年前 , 58F
反正都是演算法和數據而已
06/14 19:12, 58F
推
06/14 21:13, 1年前 , 59F
Lam research 原來是我們蝕刻大廠Lam_da
06/14 21:13, 59F
‣ 更多 wahaha23 的文章
文章代碼(AID): #1YfkzQDT (Tech_Job)