[新聞] 阿里發布新開源模型 家用顯卡就能跑

看板Stock作者 (深知身在情常在)時間11月前 (2025/03/06 21:01), 編輯推噓27(27推 0噓 22→)
留言49則, 42人參與, 11月前最新討論串1/1
原文標題：DeepSeek有勁敵！阿里發布新開源模型 家用顯卡就能跑 原文連結：https://udn.com/news/story/7333/8590256?from=udn-catebreaknews_ch2 發布時間：2025-03-06 14:25 記者署名：聯合報／ 記者陳湘瑾 原文內容： 阿里巴巴AI To C業務旗下AI應用「阿里通義」在6日正式發布最新的開源推理模型通義千 問QwQ-32B，其官方介紹稱，透過大規模強化學習，千問QwQ-32B在數學、代碼及通用能力 上進步飛躍，整體性能比肩DeepSeek-R1，同時大幅降低部署使用成本，在消費級顯卡上 能實現本地部署。 使用者已可免費下載及商用QwQ-32B模型，或透過網頁版Qwen Chat體驗，該模型也將免費 上架通義App。 阿里通義團隊表示，QwQ-32B模型針對數學和編程任務、通用能力分別進行2輪大規模強化 學習，在32B的模型尺寸上獲得推理能力提升，印證了大規模強化學習（Reinforcement Learning，一種機器學習技術）可顯著提高模型性能。 該團隊指，千問QwQ-32B能提供極強的推理能力，以及滿足更低的資源消耗需求，背後關 鍵在於強化學習。該團隊表示，希望能夠證明強大的基礎模型疊加大規模強化學習，也許 是一條通往通用人工智能（AGI）的可行之路。 此外，QwQ-32B模型中還集成了與智能體（AI Agent，指的是能夠自主做出決策、完成行 動，且毋需人類介入的人工智慧）相關的能力，能在使用工具的同時進行批判性思考，以 及根據環境回饋調整推理過程。 受此消息影響，6日阿里巴巴集團港股早盤大幅高開漲逾6%，截至午盤漲逾7%。 心得/評論： 原來今天阿里巴巴是在漲這個 看來DS確實帶動了AI走出了不同的局面與蓬勃發展 同時也帶動了港股與其他科技類股不小的漲幅 00753跟00752今天也幾乎要收復去年十月開始的跌幅了 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 118.167.19.153 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1741266117.A.AD8.html
推
03/06 21:02, 11月前 , 1F
40大盜
03/06 21:02, 1F
→
03/06 21:03, 11月前 , 2F
我蒸餾別人蒸餾你的蒸餾
03/06 21:03, 2F
推
03/06 21:03, 11月前 , 3F
蛤今天在漲這個？
03/06 21:03, 3F
推
03/06 21:03, 11月前 , 4F
賣杈，我的模型用內顯就可以跑啦
03/06 21:03, 4F
推
03/06 21:06, 11月前 , 5F
接下來還要觀察manus ai agent正式推出的時候到底付
03/06 21:06, 5F
→
03/06 21:06, 11月前 , 6F
費方案跟效用有沒有像它展示的那麼炫炮了
03/06 21:06, 6F
推
03/06 21:09, 11月前 , 7F
也太卷了吧 太扯！
03/06 21:09, 7F
推
03/06 21:13, 11月前 , 8F
過幾天就會研發出用3.5磁片運作的ai，不要不信
03/06 21:13, 8F
→
03/06 21:14, 11月前 , 9F
QwQ 這表情是邊哭邊發抖嗎？
03/06 21:14, 9F
推
03/06 21:17, 11月前 , 10F
內卷AI, 馬上改玩邊緣
03/06 21:17, 10F
→
03/06 21:18, 11月前 , 11F
老黃gg
03/06 21:18, 11F
→
03/06 21:18, 11月前 , 12F
以後會不會內顯就跑的動
03/06 21:18, 12F
→
03/06 21:19, 11月前 , 13F
QwQ
03/06 21:19, 13F
推
03/06 21:24, 11月前 , 14F
雖然慢 但台幣8000就能跑
03/06 21:24, 14F
推
03/06 21:28, 11月前 , 15F
阿里都不知道漲多少
03/06 21:28, 15F
→
03/06 21:29, 11月前 , 16F
CUDA被攻破遲早的事情
03/06 21:29, 16F
推
03/06 21:29, 11月前 , 17F
川普:請皮衣刀客再把5090D切一下賣中國
03/06 21:29, 17F
推
03/06 21:30, 11月前 , 18F
qwen有些模型真的不錯
03/06 21:30, 18F
→
03/06 21:30, 11月前 , 19F
中文側的使用者用起來比LLama好用多了
03/06 21:30, 19F
→
03/06 21:38, 11月前 , 20F
Nvidia BBQ了
03/06 21:38, 20F
推
03/06 21:40, 11月前 , 21F
CUDA一座城池 攻破難, 繞過去就好
03/06 21:40, 21F
→
03/06 21:40, 11月前 , 22F
能跑是能跑但是多久才跑完
03/06 21:40, 22F
→
03/06 21:41, 11月前 , 23F
被逼上絕路才會激發潛力
03/06 21:41, 23F
推
03/06 21:41, 11月前 , 24F
阿里阿多
03/06 21:41, 24F
推
03/06 21:49, 11月前 , 25F
跑本來就什麼都能跑 效率問題而已 當初挖BTC不用gp
03/06 21:49, 25F
→
03/06 21:49, 11月前 , 26F
u用cpu也行 只是別人一天相當你跑一個月
03/06 21:49, 26F
→
03/06 21:50, 11月前 , 27F
馬其頓防線直接被繞阿登森林？
03/06 21:50, 27F
推
03/06 21:55, 11月前 , 28F
好強
03/06 21:55, 28F
推
03/06 21:56, 11月前 , 29F
顯卡娘！
03/06 21:56, 29F
→
03/06 22:02, 11月前 , 30F
PC DIY仔丸子
03/06 22:02, 30F
→
03/06 22:05, 11月前 , 31F
No on car ，DS是欽定的
03/06 22:05, 31F
推
03/06 22:08, 11月前 , 32F
還不是要買nv
03/06 22:08, 32F
→
03/06 22:18, 11月前 , 33F
你好，我是阿里的爸爸，阿里巴巴
03/06 22:18, 33F
推
03/06 22:22, 11月前 , 34F
我的模型用電子鍋就可以運行了
03/06 22:22, 34F
推
03/06 22:34, 11月前 , 35F
5070也要買不到了嗎
03/06 22:34, 35F
→
03/06 22:37, 11月前 , 36F
矩陣運算就是這麼多資料要過，家用顯卡記憶體夠？4k
03/06 22:37, 36F
→
03/06 22:37, 11月前 , 37F
影片用480就能放？這什麼壓縮技術？
03/06 22:37, 37F
推
03/06 22:53, 11月前 , 38F
馬董真會通用化
03/06 22:53, 38F
推
03/06 23:31, 11月前 , 39F
用了，不錯
03/06 23:31, 39F
推
03/06 23:37, 11月前 , 40F
看reddit討論，3090就能跑了
03/06 23:37, 40F
→
03/06 23:37, 11月前 , 41F
fp4應該對於減少記憶體需求有幫助（？）
03/06 23:37, 41F
推
03/07 00:16, 11月前 , 42F
蒸餾水
03/07 00:16, 42F
→
03/07 03:58, 11月前 , 43F
原本手機就可以用ai
03/07 03:58, 43F
→
03/07 03:59, 11月前 , 44F
看要跑什麼而已
03/07 03:59, 44F
推
03/07 05:15, 11月前 , 45F
下一個：我用650w電供就能跑
03/07 05:15, 45F
推
03/07 06:09, 11月前 , 46F
開始卷了 DS只是開第一槍
03/07 06:09, 46F
推
03/07 06:42, 11月前 , 47F
32B要怎麼塞到顯卡？量化就垃圾了啊
03/07 06:42, 47F
推
03/07 07:03, 11月前 , 48F
再來就游戲機也可以跑了
03/07 07:03, 48F
→
03/07 08:42, 11月前 , 49F
大家都在笑中國的時候 噴啦
03/07 08:42, 49F
‣ 更多 nisi0773 的文章
文章代碼(AID): #1doPp5hO (Stock)