[討論] AI模型討論

看板TY_Research作者 (3d)時間1年前 (2024/07/21 21:46), 1年前編輯推噓37(38推 1噓 63→)
留言102則, 37人參與, 1年前最新討論串1/1
FourCastNet 程式跟Model Weight https://github.com/NVlabs/FourCastNet 論文 https://arxiv.org/abs/2202.11214 Fourier + vision transformer。最早成功運用vision transformer? Pangu Weather 程式跟Model Weight https://github.com/198808xc/Pangu-Weather 論文 https://www.nature.com/articles/s41586-023-06185-3 3D mesh + vision transformer。暴力解法，model weight最龐大，1.1G GraphCast 程式跟Model Weight https://github.com/google-deepmind/graphcast 不想login拿weight 可到下面link https://huggingface.co/shermansiu/dm_graphcast 論文 https://arxiv.org/abs/2212.12794 graph + vision transformer。model weight不到200MB 這3個模型，家用電腦就可以輕鬆運算。 GraphCast跟PanguWeather都強調，颱風/颶風/氣旋的路徑預測，AI比傳統運算準確。但沒講的就.... 然後最重要的事，AI以後會不會大幅進步？答案是，不會，除非有新的AI演算法，或者找到新的資料來源。 AI(deep learning)要進步，就是要更多的資料，但氣象的資料就這麼多了，每年的新增資料也有限，所以AI天氣的準確度，大概就停滯在這裡吧。 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 58.114.66.74 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/TY_Research/M.1721569600.A.932.html
推
07/21 21:52, 1年前 , 1F
GraphCast真的不錯，只是Deepmind又把重心放到其他
07/21 21:52, 1F
→
07/21 21:53, 1年前 , 2F
領域了
07/21 21:53, 2F
推
07/21 21:54, 1年前 , 3F
感謝分享
07/21 21:54, 3F
推
07/21 22:07, 1年前 , 4F
出道即巔峰的概念嗎
07/21 22:07, 4F
→
07/21 22:08, 1年前 , 5F
可以了啦，已經不給傳統模式活路
07/21 22:08, 5F
推
07/21 22:26, 1年前 , 6F
資料來源就那幾個reanalysis,training結果差很大嘛!
07/21 22:26, 6F
推
07/21 22:39, 1年前 , 7F
插更多測站放更多氣球取得更細緻資料能再改善嗎
07/21 22:39, 7F
推
07/21 22:40, 1年前 , 8F
這些AI模型都離不開 NVDA H100 還有模組Earth -2
07/21 22:40, 8F
推
07/21 23:04, 1年前 , 9F
AI會進步的....即使演算法不變
07/21 23:04, 9F
→
07/21 23:04, 1年前 , 10F
但演算法是會持續進化的
07/21 23:04, 10F
→
07/21 23:04, 1年前 , 11F
單純算力的增加都會提高準確率
07/21 23:04, 11F
→
07/21 23:04, 1年前 , 12F
然後隨時都會有新資料進入
07/21 23:04, 12F
→
07/21 23:04, 1年前 , 13F
會release的只是basic model
07/21 23:04, 13F
→
07/21 23:04, 1年前 , 14F
真正在評估的都是實時在更新資料的
07/21 23:04, 14F
→
07/21 23:04, 1年前 , 15F
資料，算力，演算法，都在讓AI更準確
07/21 23:04, 15F
推
07/21 23:04, 1年前 , 16F
怎麼可能不會....光AI會自我學習 未來就有無限可能
07/21 23:04, 16F
AI自我學習？股版看太多了
→
07/21 23:06, 1年前 , 17F
所以資料要錢 演算法要錢 算力要錢
07/21 23:06, 17F
推
07/21 23:09, 1年前 , 18F
data augmentation跟GAN: am i a joke to you?
07/21 23:09, 18F
什麼樣的discriminator才能GAN？如果有這樣的discriminator，傳統預測早就飛天了。 data augmentation也行不通，LLM已經玩過了。好的curated dataset才有好的AI
→
07/21 23:10, 1年前 , 19F
砸錢買最強的老黃顯卡RTX4090就有可能吧?
07/21 23:10, 19F
→
07/21 23:11, 1年前 , 20F
我有個同事，他的公司電腦就插了4090來算AI的說
07/21 23:11, 20F
推
07/21 23:14, 1年前 , 21F
Deep learning把網絡層數加深，相同的資料可以榨出
07/21 23:14, 21F
→
07/21 23:15, 1年前 , 22F
更多細節特徵，其實對於準確性都大有幫助
07/21 23:15, 22F
推
07/21 23:20, 1年前 , 23F
演算法繼續訓練會進化Chatgpt 4o相比前幾代就聰明
07/21 23:20, 23F
→
07/21 23:21, 1年前 , 24F
很多。
07/21 23:21, 24F
推
07/21 23:30, 1年前 , 25F
嗯，好像真的在培養一個小孩的說
07/21 23:30, 25F
→
07/21 23:37, 1年前 , 26F
除非AI能自創出新的模型，不然用現有的模型去餵能算
07/21 23:37, 26F
→
07/21 23:37, 1年前 , 27F
出來的東西還不是一樣
07/21 23:37, 27F
→
07/21 23:50, 1年前 , 28F
問題是你每年只有幾個颱風颶風的資料可以訓練
07/21 23:50, 28F
這就是最大的侷限。DL需要大量正確的data來進步
推
07/21 23:52, 1年前 , 29F
AI只會持續進化，而且速度加快，毋庸置疑
07/21 23:52, 29F
→
07/21 23:55, 1年前 , 30F
你如果有能力預測AI的極限，應該忙到沒時間在ptt發
07/21 23:55, 30F
→
07/21 23:56, 1年前 , 31F
文
07/21 23:56, 31F
→
07/22 00:08, 1年前 , 32F
AI會進化 而且不會累 真的是未來趨勢
07/22 00:08, 32F
推
07/22 00:14, 1年前 , 33F
AI以後如果是像黃爸說的 連地面建築物對風的影響都
07/22 00:14, 33F
→
07/22 00:14, 1年前 , 34F
能算進去 那精準度一定是很高的
07/22 00:14, 34F
推
07/22 00:20, 1年前 , 35F
如果這次路徑真能提早這麼多天精準預測 其實以時間
07/22 00:20, 35F
→
07/22 00:20, 1年前 , 36F
序列模型來說已經非常厲害了 同時也達到可提早防颱
07/22 00:20, 36F
還有 26 則推文
還有 1 段內文
→
07/22 09:54, 1年前 , 63F
，除了已發生的真實案例，可以明確的讓算法設計者知
07/22 09:54, 63F
→
07/22 09:54, 1年前 , 64F
道如何給予目標獎勵外，要他憑空捏造一個人類都不知
07/22 09:54, 64F
→
07/22 09:54, 1年前 , 65F
道正確解答的問題，只會越來越歪像樓上講的一樣算出
07/22 09:54, 65F
→
07/22 09:54, 1年前 , 66F
個三頭六臂，按照樓上什麼架構優化 運算算法什麼算
07/22 09:54, 66F
→
07/22 09:54, 1年前 , 67F
力進步都根本不是重點
07/22 09:54, 67F
推
07/22 09:57, 1年前 , 68F
不過AI應該很早就出現了吧?只是因為去年開始嶄露頭
07/22 09:57, 68F
→
07/22 09:57, 1年前 , 69F
角，會有人不懂好像也很正常?
07/22 09:57, 69F
推
07/22 09:59, 1年前 , 70F
就跟智慧型手機跟平板剛出的時候一堆人吹取代電腦，
07/22 09:59, 70F
→
07/22 09:59, 1年前 , 71F
最後兩者根本是不同類型的工具
07/22 09:59, 71F
推
07/22 10:24, 1年前 , 72F
AI這幾年被廠商濫用的結果 就是讓一堆人似懂非懂
07/22 10:24, 72F
→
07/22 10:24, 1年前 , 73F
好像只要加上AI就是一個很厲害的東西？@@
07/22 10:24, 73F
→
07/22 11:34, 1年前 , 74F
這樓怎麼一大堆普信仔半瓶水響叮噹== 無知還那麼大
07/22 11:34, 74F
→
07/22 11:34, 1年前 , 75F
聲還以為來到股民討論區
07/22 11:34, 75F
推
07/22 12:21, 1年前 , 76F
Ai平台和模型的重大突破也只是去年的事，怎麼老有人
07/22 12:21, 76F
→
07/22 12:21, 1年前 , 77F
愛扯到祖宗十八代
07/22 12:21, 77F
推
07/22 12:26, 1年前 , 78F
如同工業革命前早有蒸汽機，只是瓦特做了突破性的
07/22 12:26, 78F
→
07/22 12:26, 1年前 , 79F
改良，日後世界就產生重大變革
07/22 12:26, 79F
推
07/22 12:56, 1年前 , 80F
地球平均一年80個熱帶氣旋，每年能餵的資料也不少
07/22 12:56, 80F
→
07/22 12:57, 1年前 , 81F
吧
07/22 12:57, 81F
→
07/22 13:30, 1年前 , 82F
問題是，要減少誤差，你需要多多少資料？減半是需要
07/22 13:30, 82F
推
07/22 13:32, 1年前 , 83F
一年80個，觀測的數據抓個50年也才4000筆算少的
07/22 13:32, 83F
→
07/22 13:32, 1年前 , 84F
多50%?多2x?3x?4x?。這幾個model都是用約40年的資料
07/22 13:32, 84F
→
07/22 13:34, 1年前 , 85F
來訓練。你要減半誤差，要多少個40年的資料？
07/22 13:34, 85F
推
07/22 13:52, 1年前 , 86F
一般模型訓練資料大小至少要是feature10倍以上
07/22 13:52, 86F
→
07/22 13:54, 1年前 , 87F
上面最小的graphcast每個網格點都要474個input fea
07/22 13:54, 87F
→
07/22 13:54, 1年前 , 88F
tures了
07/22 13:54, 88F
→
07/22 14:27, 1年前 , 89F
自駕車真的被吹得很厲害 感覺現在還是會有判斷錯誤
07/22 14:27, 89F
推
07/22 14:50, 1年前 , 90F
自駕車最大的問題不是因為人嗎
07/22 14:50, 90F
推
07/22 15:05, 1年前 , 91F
自駕車的問題是車禍責任歸屬，就像有人吹AI看病一樣
07/22 15:05, 91F
→
07/22 15:05, 1年前 , 92F
醫療糾紛算誰的?
07/22 15:05, 92F
推
07/22 15:20, 1年前 , 93F
你可以信與不信 科學的盡頭是玄學
07/22 15:20, 93F
→
07/22 15:20, 1年前 , 94F
自駕你隨便google waymo就知道了 =.=
07/22 15:20, 94F
→
07/22 15:20, 1年前 , 95F
人家都在盈利了
07/22 15:20, 95F
推
07/22 16:09, 1年前 , 96F
然而隨便Google也能看到在加州發生重大車禍
07/22 16:09, 96F
推
07/22 16:51, 1年前 , 97F
台灣也天天在車禍 XD
07/22 16:51, 97F
推
07/22 17:00, 1年前 , 98F
AI準，下周股票大漲， 反之。。。
07/22 17:00, 98F
推
07/23 00:08, 1年前 , 99F
ChatGPT 去年才出來，今年開始熱絡。 可以期待十年
07/23 00:08, 99F
→
07/23 00:08, 1年前 , 100F
後吧
07/23 00:08, 100F
推
07/23 00:53, 1年前 , 101F
然後到時就可以唱「十年之前 我不認識你...(下略)」
07/23 00:53, 101F
噓
08/10 17:09, 1年前 , 102F
可以用13/14代算嗎
08/10 17:09, 102F
‣ 更多 oopFoo 的文章
文章代碼(AID): #1cdH50ao (TY_Research)