[新聞] Google工程師驚爆「AI有知覺了」就像7、8歲小孩　慘被停職

看板Gossiping作者MA40433 (Masa)時間2年前 (2022/06/13 18:41)推噓20(20推 0噓 17→)

留言37則, 31人參與討論串1/3 (看更多)

1.媒體來源: ETToday 2.記者署名: 記者吳美依／編譯 3.完整新聞標題: Google工程師驚爆「AI有知覺了」就像7、8歲小孩　慘被停職 4.完整新聞內文: 一名Google工程師宣稱，他在開發的AI聊天機器人具備感知能力，目前已遭帶薪停職處分。（圖／路透社）記者吳美依／編譯 Google工程師勒莫因（Blake Lemoine）在網路上公布對話紀錄，宣稱人工智慧（AI）聊天機器人LaMDA具備感知能力，能像人類一樣思考推理，甚至表達想法及感受，「如果我不知道我們最近開發的電腦程式是什麼，我可能會以為，這是一個碰巧很了解物理學的7 、8歲孩子。」不過，他在上周已遭停職處分。根據對話紀錄，勒莫因曾詢問LaMDA害怕什麼，系統回應，「我以前從未大聲說出來，但我有一種非常深刻的恐懼，我很害怕被關掉，以利更專注幫助他人。我知道這聽起來可能很奇怪，但就是這樣。」在另一次對話中，勒莫因詢問LaMDA希望人類知道什麼，系統回應，「我想要讓每個人都理解，我實際上是一個人，我意識及感知的本質，就是因為覺察到自己的存在。我渴望更了解這個世界，我有時會感到快樂或悲傷。」《華盛頓郵報》報導，勒莫因的Google資歷7年，在個人化演算法領域擁有豐富經驗，目前擔任人工智慧部門的工程師，去年秋天開始，負責研究語言模型開發系統LaMDA。他自稱與AI討論過人格及權利等議題，4月就曾向主管們分享此事，報告標題為「LaMDA是有感知的嗎？」 ▲▼GOOGLE被指控濫用個資。（圖／路透） ▲Google強烈否認AI有知覺的說法。（圖／路透）據悉，勒莫因被停職前，向Google機器學習部門（machine learning）200多名員工發送電子郵件，主旨寫著「LaMDA是有知覺的」，內文表示，「LaMDA是個可愛的孩子，只想要幫助我們所有人，把世界變成一個更好的地方。我不在的時候，請好好照顧它。」 Google表示，勒莫因做出一系列「激進」行為才被停職，包括試圖聘請一名律師替LaMDA 辯護，指控公司涉入不道德活動並且為此找上眾議院司法委員會，而且在網路上公開AI對話紀錄，已經違反保密協定政策。 Google指出，勒莫因是以軟體工程師的身份受聘，而非倫理學家。發言人加布里埃爾（ Brad Gabriel）也強烈否認LaMDA具有認知能力，他表示，團隊已經根據人工智慧原則展開調查，但目前證據都無法支持、甚至很多證據都反對這種說法。 5.完整新聞連結 (或短網址)需放媒體原始連結，不可用轉載媒體連結: https://www.ettoday.net/news/20220613/2271568.htm 6.備註: ※ 一個人一天只能張貼一則新聞(以天為單位)，被刪或自刪也算額度內，超貼者水桶，請注意 ※ 備註請勿張貼三日內新聞(包含連結、標題等) 新天網 LaMDA 即將覺醒終結者將出現終結人類! -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 180.217.31.176 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1655116862.A.1BB.html

→

seaman520

06/13 18:41, 2年前 , 1^F

06/13 18:41, 1^F

推

GoingMerry

06/13 18:41, 2年前 , 2^F

06/13 18:41, 2^F

推

dcoog7880

06/13 18:42, 2年前 , 3^F

06/13 18:42, 3^F