[新聞] Sam Altman被解雇之謎，可能與OpenAI的Q-

看板Tech_Job作者stpiknow (H)時間5月前 (2023/11/28 15:38)推噓-3(1推 4噓 2→)

留言7則, 7人參與討論串1/1

Sam Altman被解雇之謎，可能與OpenAI的Q-Star模型有關，通用人工智慧的突破帶來未來不可預測性 https://bit.ly/3SWTb4x 隨著OpenAI的混亂塵埃落定，人們很想知道Sam Altman為何被解僱。如今有消息指出，這可能與一個神秘的AI模式有關。由OpenAI首席科學家Ilya Sutskever領導的團隊似乎在2023年某個時間點取得了突破，讓其建構一個名為Q*（發音為「Q-star」）的新模型。這一模型可以解決基本的數學問題。也就是Q-star模型引發了內部風暴，人們擔憂這項新突破可能威脅人類未來。解決基本數學問題的能力聽起來可能不那麼令人印象深刻，但AI專家表示這是一個非常巨大飛躍。如果AI能夠對抽象概念進行邏輯推理，那麼其就可想人類一樣具有解決目前難題的能力，這與現在的生成式AI是完全不同的概念。簡單來說，人們學習數學就是訓練邏輯推理能力。傳統上，AI語言模型在這方面很難達到邏輯推理的境界，只能擁有有效的直覺。有專家表示，Q*的名字暗示它是兩種著名的AI技術的組合，即是Q-learning和A*搜尋。這表明新模型可以將支援ChatGPT的深度學習技術與人類程式設計的規則。這種方法可以幫助解決聊天機器人的幻覺問題。這具有非常重要的象徵意義。 Q*將導致通用人工智慧（AGI）的進步，且絕對離我們所認為的智慧更近了一步，並且有可能導致模型能夠產生新的想法，這是ChatGPT做不到的。現今的AI模型存在巨大限制，其不僅僅無法從訓練數據中反省訊息，也無法推理和開發新想法。以人為本的AI研究所所長Andrew Rogoyski表示，解決看不見的問題是創建AGI的關鍵一步。就數學而言，我們知道現有的AI已被證明能夠進行大學水準的數學運算，但無法處理更高階的數學問題。然而，如果AI不僅僅會反省或重塑現有知識，而能夠進步到解決新的、看不見的問題，那麼這將是一件大事。可是並非所有人都對Q-Star的突破如此興奮。有些AI專家表示，如果Q-Star今天只是一位小學生，可是其擁有的能力可以讓其未來接管全世界。總之，不管如何，隨著Sam Altman回歸OpenAI的執行長，人類已經打開了潘朵拉盒子。在利益的驅使下，其發展的速度不單單依賴OpenAI的研發能量，還有其背後投資者的野心，就像人類當年在研發原子彈軍備競賽一樣，追求更棒的AGI能力。我們現在只能祈求OpenAI及其投資人能夠在底層邏輯上控制好Q-Star的AGI，以及未來政府可能的干涉了。 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 203.145.192.245 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Tech_Job/M.1701157108.A.1D6.html

推

lusifa2007

11/28 15:58, 5月前 , 1^F

11/28 15:58, 1^F

→

rammstein

11/28 16:03, 5月前 , 2^F

11/28 16:03, 2^F

噓

teddyisgood

11/28 16:04, 5月前 , 3^F

11/28 16:04, 3^F