[新聞] 最懂AI的諾獎經濟學得主去世，大模型關鍵技術受他研究啟發

看板Stock作者jackliao1990 (j)時間3周前 (2024/04/05 17:32)推噓34(34推 0噓 6→)

留言40則, 34人參與討論串1/1

原文標題：最懂AI的諾獎經濟學得主去世，大模型關鍵技術受他研究啟發原文連結： https://www.qbitai.com/2024/04/133191.html 發布時間： 2024-04-05 12:48:43 記者署名：豐色原文內容：安息吧一位90歲巨擘的逝世，正牽動整個科技圈的關注。正如YC創辦人Paul Graham所說：我關注的每一個人，都在對丹尼爾·卡尼曼表達敬意。關注大模型技術的人，應該都對這位以心理學家身分獲得諾貝爾經濟學獎的傳奇人物並不陌生—— 他在著作《思考，快與慢》中提出的“人類思維的快慢兩個系統”，深刻地影響了思維鏈、大模型訓練和微調等關鍵技術的發展。特斯拉前AI總監、OpenAI創始成員Karpathy曾在演講中指出，卡尼曼的雙系統理論，正是思維鏈背後核心運用的原理。除了AI，卡尼曼對人類判斷的見解，也影響了經濟學、金融、醫學等廣泛的學科。卡尼曼生前工作普林斯頓大學的校長評價稱：丹尼爾·卡尼曼改變了我們理解理性及其局限性的方式。而他90年的人生，也如同他所提出的理論一樣，充滿了傳奇。 “人們會習慣由機器做出判斷” 儘管並未直接從事AI研究，卡尼曼的名字卻隨著大模型熱潮在AI領域被反覆提及。他在暢銷書《思考，快與慢》中，提出了思維的二元性，認為人類的認知系統包括 System1和System2兩個部分。 System1主要靠直覺，而System2是邏輯分析系統。通俗來說，System1是一個快速自動產生的過程，而System2是經過深思熟慮的部分。這個理論對之後的大模型的訓練和微調，以及「思維鏈」方式都大有啟發。特斯拉前AI總監、OpenAI創始成員 Andrej Karpathy 就在一場演講中指出，要想讓自然語言處理中Transformer的表現更好，需要讓它一步一步地處理信息，而不能直接拋給它一個非常複雜的問題。例如即使是很簡單的數學題，如果要求大模型一步到位地給出答案，也很難得到正確結果。 UW-Madison的助理教授Kangwook Lee分享了一道題，定義了一種“Q運算”，規則是 aQb=a+b-1（未直接在prompt中說明），要求大模型仿照規律進行計算，結果GPT4 、 Claude和Gemini這些最先進的大模型無一答對。只有讓模型一步步推理，甚至需要不斷地給予引導，才能讓它輸出正確結果。像這樣「一步一步」的處理方式是思維鏈的核心，而背後所利用的原理，正是卡尼曼提出的雙系統理論。除了被廣泛引用，卡尼曼本人從本世紀第一波AI浪潮開始，就對人工智慧技術保持高度關注。他曾在2017年的演講中公開發表觀點，認為AI終有一天會取代人們所做的一切。而在ChatGPT問世後，卡尼曼再次對AI做出了相似的判斷：我相信最終（AI）演算法會比人類更正確，最終人們會信任演算法。這一切都需要時間，但我不認為人們不可能信任演算法。因為在他看來，即使是簡單的變數組合，演算法的「噪音」也肯定比人類少得多。所謂“噪音”，是卡尼曼在Noise: A Flaw in Human Judgment（噪音：人類判斷力的缺陷）一書中定義的，他將“噪音”解釋為導致人類針對相同事件做出不同判斷的原因。舉個例子，兩位放射科醫師對同一張X光片，可能會得出不同的診斷結果，導致兩人判斷不同的原因，這就是卡尼曼認為的「雜訊」。在後來的一次訪談中，卡尼面將「噪音」的概念進一步明確為「判斷錯誤中不希望出現的變化」。但在肯定AI將會非常有幫助的同時，卡尼曼也毫不掩飾地表達了對AI可能對人類產生的影響的擔憂。當被問及是否擔心像ChatGPT這樣的AI的發展會不受人類限制時，他毫不猶豫地給出了肯定的答案：我認為關注這種情況的每個人都會感到擔憂，因為從短期來看，它的使用方式可能會顛覆新聞業，因為很難區分真假。這只是可能出現的問題之一，像這樣的問題還有很多。從長遠來看，擁有卓越的智力是一個巨大的威脅。所以，我想很多人都很關心，我也一樣。行為經濟學的奠基人獲得了諾貝爾經濟學獎的卡尼曼，本不是經濟學家，而是一名心理學家，準確地說是第一位獲得諾貝爾經濟學獎的心理學家。獲獎的理由是，卡尼曼與他的同事兼好友阿莫斯·特沃斯基（Amos Tversky）合作，將認知心理學應用到了經濟分析當中，為新的研究領域—— 行為經濟學奠定了基礎。頒獎詞中寫到，“他的工作啟發了新一代經濟學和金融學研究人員，利用認知心理學對人類內在動機的洞察來豐富經濟理論。” 其中涉及了他和特沃斯基提出的前景理論（Prospect Theory，又稱展望理論），從人的心理特質、行為特徵揭示了影響選擇行為的非理性因素。透過一連串的實驗觀測，他們發現人的決策選擇取決於結果與預期的差距，而非結果本身。對於高於預期的收益型結果，人們往往表現出風險厭惡，偏好確定的小收益，例如在 100%機率獲得1000元和50%機率獲得2000元之間，雖然二者的數學期望相同，但更多人傾向於選擇前者。而對於低於預期的損失型結果，人們反而會為了避免確定的損失而表現出“風險偏好” ，比如在100%損失1000元和51%概率損失2000元之間，儘管後者損失的數學期望更大，卻仍被更多人所選擇。正是這個理論改變了傳統經濟學對人類行為的假設，而傳統經濟學認為人們都是理性的。卡尼曼的理論更精確地描述和預測人類在各種經濟環境下的實際行為，影響了金融市場分析、消費者行為研究、公共政策制定等多個領域。除了為經濟學帶來全新的視角，卡尼曼一場名為「經驗與記憶之謎」的TED演講也吸引了不少人的目光，在全球一共獲得了數百萬次觀看。在演講中，卡尼曼提出了人類的“兩種自我”——“經驗自我”和“記憶自我”，經驗自我活在當下，感受和體驗每一個瞬間，而記憶自我則負責記錄和講述生活故事。兩者的差異在於處理時間的方式和對故事的建構。進一步地，卡尼曼在此之上探討了快樂的本質和人們對快樂的不同認知方式。他指出，人們對快樂的理解仍存在一些認知上的陷阱，這些陷阱增加了理解快樂本質的難度。對於快樂而言，經驗自我記錄了我們生命中具體時刻的經驗，記憶自我決定了我們對自己生活的整體滿意度。卡尼曼指出，經驗自我和記憶自我之間不可避免地存在衝突，而把握好這兩種自我係，有助於我們更好地認識自己的幸福感，並在追求快樂時做出更明智的選擇。以上種種只是卡尼曼諸多理論中的一部分，卻足以體現他對於人的深刻理解與認識，或許與他豐富的成長經驗密切相關。 “人是無限複雜有趣的” 卡尼曼1934年出生在現在的以色列特拉維夫，童年時光則是在法國巴黎度過的。他與心理學的結緣，從這段人生歷程開始就已經埋下伏筆： 1940年，納粹德國佔領巴黎，卡尼曼一家當時就住在那裡。身為猶太人，卡尼曼一家被要求佩戴六芒星標誌，並且遵守下午6點的宵禁。有一次，小卡尼曼跟朋友玩得太晚，回家時街上已經空空蕩蕩。他把毛衣翻過來藏住了星星標誌，但還是倒楣地遇上了德國黨衛軍士兵，並且就在他試圖快點溜走時，對方叫住了他。令小卡尼曼意外的是，這位德國士兵對他表現得非常親切，不僅擁抱了他，還用德語溫和地跟他說了些話。士兵對小卡尼曼展示了錢包裡一張小男孩的照片，還給了他一些錢。小卡尼曼至此更確信了母親對他的教導：人是無限複雜有趣的。最懂AI的諾獎經濟學得主去世，大模型關鍵技術受他研究啟發 1948年，卡尼曼和他的家人一起搬回了由英國暫時管理的巴勒斯坦。此後，十幾歲的卡尼曼表現出了與同齡人的一些不同。例如，他進入的是一所宗教學校，但在15歲的某一天，走在回家的路上，他突然「福至心靈」：我突然意識到，我沒辦法相信上帝會關心我是否打飛機。如果我無法想像上帝關心我，那麼我們就彼此毫無關聯，祂是否存在也不重要。從那一刻起，我成為了一個無神論者。在後來的訪談中，卡尼曼對此進一步解釋說，在他十幾歲的這個階段，他發現相比於“上帝是否存在”，他對“人們相信上帝的原因”更感興趣。從那時起，他已經決心要投身心理學研究。在耶路撒冷希伯來大學，卡尼曼花了兩年的時間獲得了第一個學士學位，主修心理學，輔修的數學。他對自己感興趣的事情熱情非常高：曾經頂著41℃的高燒去聽神經生理學教授耶沙亞胡· 萊博維茲的講座。畢業後，他被徵召入伍。後於1958年赴美國加州大學柏克萊分校攻讀心理學博士。在伯克利，他師從心理語言學家、女性主義先驅Susan Ervin，研究語義差異中形容詞之間的關係，這使他能夠「從事最喜歡的兩項工作：複雜相關結構的分析和FORTRAN程式設計」。 1961年，卡尼曼進入希伯來大學擔任心理學講師，正式開啟學術生涯。他和特沃斯基的長期合作也是在耶路撒冷啟動的。有人用約翰·藍儂和保羅·麥卡尼來類比卡尼曼和特沃斯基的關係，對此，卡尼曼本人的評價是，「這是一種恭維」。實際上，卡尼曼和特沃斯基的性格相差甚遠：特沃斯基永遠是party裡最亮的那個仔，而卡尼曼從學生時代就很“ 社恐 ”，這種嗨皮的場合更是連去都不去。特沃斯基的辦公桌上只放一支自動鉛筆，而卡尼曼的辦公室堆滿了他沒讀完的書籍和論文。但卡尼曼說，他倆總是「有共同的想法」。這種思維方式的共鳴，使他們的私人關係也非常密切。甚至在文章和著作署名這種事上，他倆都能用拋硬幣來決定。阿莫斯·特沃斯基於1996年去世，沒有趕上成果獲頒諾貝爾獎的時候。 2022年，在一次採訪中，當卡尼曼被問到“你每天都會想他嗎？” 儘管在1980年代後，兩人的合作已逐漸減少，但卡尼曼的回答是，「是的」。 2018年，卡尼曼的妻子、認知心理學家安妮‧特雷斯曼去世。兩年後，他從柏克萊搬到了紐約，和特沃斯基的遺孀芭芭拉·特沃斯基住在一起。還有一件事說起來，卡尼曼的學術成果，或許能解釋一個許多人疑惑的問題：為什麼迪士尼這樣的地方大排長隊，還是有很多人願意二刷三刷甚至N刷？因為，“有時，記憶中的經歷比經歷本身更重要”，而記憶中的經歷很大程度上是由最高峰時刻及其結束決定的。迪士尼花那麼多錢在最後時刻進行煙火表演，可不是白放的。參考連結： [1]https://www.princeton.edu/news/2024/03/28/daniel-kahneman-pioneering-behavioral-psycheater-nobel-laureate-and-giant-field [2]https://www.washingtonpost.com/obituaries/2024/03/27/daniel-kahneman-dead/ [3] https://en.wikipedia.org/wiki/Daniel_Kahneman [4]https://www.nobelprize.org/prizes/economic-sciences/2002/kahneman/biographyal/ 心得/評論：經濟學家預測股市時常常預設人類總是會理性分析後做出最有利益的選擇這完全跟現實脫節因此預測錯誤的機率很高 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.38.14.97 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1712309528.A.2D5.html

→

Hiabtd

04/05 17:34, 3周前 , 1^F

04/05 17:34, 1^F

推

NoMomoNoLife

04/05 17:41, 3周前 , 2^F

04/05 17:41, 2^F

推

NoMomoNoLife

04/05 17:43, 3周前 , 3^F

04/05 17:43, 3^F